人工智能安全風險分析

近年來，人工智能保持快速發展勢頭，但人工智能所帶來的安全風險 也不容忽視。

(一)用戶數據用於訓練，放大隱私信息泄露風險

當前，人工智能利用服務過程中的用戶數據進行優化訓練的情況較為 普遍，但可能涉及在用戶不知情情況下收集個人信息、個人隱私、商業秘 密等，安全風險較為突出。

(二)算法模型日趨複雜，可解釋性目標難實現

長期以來可解釋性都是製約人工智能用在司法判決、金融信貸等關鍵 領域的主要因素，時至今日問題尚未解決、且變得更為棘手。由於深度模 型算法的複雜結構是黑盒，人工智能模型天然缺乏呈現決策邏輯進而使人 相信決策準確性的能力。

(三)可靠性問題仍然製約人工智能關鍵領域應用

由於現實場景中環境因素複雜多變，人工智能難以通過有限的訓練數 據覆蓋現實場景中的全部情況，因此模型在受到幹擾或攻擊等情況下會發 生性能水平波動，嚴重時甚至可引發安全事故。

(四)濫用誤用人工智能，擾亂生產生活安全秩序

人工智能在對加速社會發展、提升生產效率等方麵產生極大促進作用 的同時，也出現了被濫用誤用、惡意使用的現象，引起威脅社會安全、人 身安全等負麵事件。

(五)模型和數據成為核心資產，安全保護難度提升

人工智能訓練數據的獲取以及模型開發已經逐漸變成重資產投入、重 人力投入的工作，算法模型、參數、加工後的訓練數據已成為核心資產， 不免遭到覬覦。

(六)網絡意識形態安全麵臨新風險

人工智能的目標是模擬、擴展和延伸人類智能，如果人工智能隻是單 純追求統計最優解，可能表現得不那麼有“人性”；相反，包含一些人類 政治、倫理、道德等方麵觀念的人工智能會表現得更像人、更容易被人所 接受。