近年來,人工智能保持快速發展勢頭,但人工智能所帶來的安全風險 也不容忽視。
(一)用戶數據用於訓練,放大隱私信息泄露風險
當前,人工智能利用服務過程中的用戶數據進行優化訓練的情況較為 普遍,但可能涉及在用戶不知情情況下收集個人信息、個人隱私、商業秘 密等,安全風險較為突出。
(二)算法模型日趨複雜,可解釋性目標難實現
長期以來可解釋性都是製約人工智能用在司法判決、金融信貸等關鍵 領域的主要因素,時至今日問題尚未解決、且變得更為棘手。由於深度模 型算法的複雜結構是黑盒,人工智能模型天然缺乏呈現決策邏輯進而使人 相信決策準確性的能力。
(三)可靠性問題仍然製約人工智能關鍵領域應用
由於現實場景中環境因素複雜多變,人工智能難以通過有限的訓練數 據覆蓋現實場景中的全部情況,因此模型在受到幹擾或攻擊等情況下會發 生性能水平波動,嚴重時甚至可引發安全事故。
(四)濫用誤用人工智能,擾亂生產生活安全秩序
人工智能在對加速社會發展、提升生產效率等方麵產生極大促進作用 的同時,也出現了被濫用誤用、惡意使用的現象,引起威脅社會安全、人 身安全等負麵事件。
(五)模型和數據成為核心資產,安全保護難度提升
人工智能訓練數據的獲取以及模型開發已經逐漸變成重資產投入、重 人力投入的工作,算法模型、參數、加工後的訓練數據已成為核心資產, 不免遭到覬覦。
(六)網絡意識形態安全麵臨新風險
人工智能的目標是模擬、擴展和延伸人類智能,如果人工智能隻是單 純追求統計最優解,可能表現得不那麼有“人性”;相反,包含一些人類 政治、倫理、道德等方麵觀念的人工智能會表現得更像人、更容易被人所 接受。
![]() |
機器人底盤Disinfection Robot消毒機器人講解機器人迎賓機器人移動機器人底盤商用機器人智能垃圾站智能服務機器人大屏機器人霧化消毒機器人紫外線消毒機器人消毒機器人價格展廳機器人服務機器人底盤核酸采樣機器人機器人代工廠智能配送機器人噴霧消毒機器人圖書館機器人導引機器人移動消毒機器人導診機器人迎賓接待機器人 |