人工智能安全標準白皮書(2023年版)

《人工智能安全標準化白皮書（2023版）》由中國電子技術標準化研究院等20家單位共同編寫，梳理了人工智能技術與應用發展現狀，分析了人工智能麵臨的新的安全風險，結合國內外人工智能安全政策與標準現狀，指出了人工智能安全標準需求，提出了下一步開展人工智能安全標準化工作的建議，為規範引導人工智能安全標準化工作提供參考。

（一）人工智能安全屬性定義和度量指標

隨著人工智能安全工作開展，安全屬性定義逐步形成一些共識，國 際標準以及相關技術文件也給出了部分安全屬性的定義描述，但不同文件 之間仍有差異。可靠性、可解釋性、公平性等重要安全屬性定義的標準統 一，以及其度量指標的規範化，將對人工智能的發展有著重要促進意義。

（二）用戶輸入數據安全保護相關規範

在人工智能通常收集用戶輸入數據用於訓練的背景下，如何保障用戶 輸入數據的安全亟需技術標準。根據操作場景的不同，用戶輸入的數據可 能包含人臉、身份證號、家庭住址等個人信息，可能包括個人健康情況、 情感狀況等個人隱私，可能包括企業技術和經營活動有關的商業秘密，甚 至可能包括國家秘密等。

（三）人工智能服務網絡安全防護相關指南

圍繞人工智能服務過程中，可能會麵臨的對抗樣本攻擊、爬山攻擊、 模型竊取、供應鏈攻擊等新型攻擊威脅，需要研究在數據集防護、算法模 型保護、抗逆向攻擊等方麵的安全技術措施指南，幫助人工智能服務提供 者保護業務數據以及人工智能模型參數等的機密性和完整性。

附件：人工智能安全標準白皮書(2023年版)