人工智能安全屬性

伴隨著人工智能應用的常態化，人工智能安全問題的研討也持續開展。

1、網絡安全基本屬性，即人工智能係統及其相關數據的機密性、完 整性、可用性以及係統對惡意攻擊的抵禦能力之外，討論人工智能安全一 般還需要考慮以下屬性。

2、透明性： 指人工智能在設計、訓練、測試、部署過程中保持可 見、可控的特性，隻有具備了透明性，用戶才能夠在必要時獲取模型有關 信息，包括模型結構、參數、輸入輸出等，方可進一步實現人工智能開發過程的可審計以及可追溯。

3、可解釋性： 描述了人工智能算法模型可被人理解其運行邏輯的特性。具備可解釋性的人工智能，其計算過程中使用的數據、算法、參數和 邏輯等對輸出結果的影響能夠被人類理解，使人工智能更易於被人類管 控、更容易被社會接受。

4、公平性： 指人工智能模型在進行決策時， 不偏向某個特定的個體 或群體，也不歧視某個特定的個體或群體，平等對待不同性別、不同種 族、不同文化背景的人群，保證處理結果的公正、中立，不引入偏見和歧 視因素。

5、隱私性： 指人工智能在開發與運行的過程中實現了保護隱私的特 性，包括對個人信息和個人隱私的保護、對商業秘密的保護等。隱私性旨 在保障個人和組織的合法隱私權益，常見的隱私增強方案包括最小化數據 處理範圍、個人信息匿名化處理、數據加密和訪問控製等。

6、可靠性： 指人工智能及其所在係統在承受不利環境或意外變化 時，例如數據變化、噪聲、幹擾等因素，仍能按照既定的目標運行、保持 結果有效的特性。可靠性通常需要綜合考慮係統的容錯性、恢複性、健壯 性等多個方麵。