《人工智能安全標準化白皮書(2023版)》由中國電子技術標準化研究院等20家單位共同編寫,梳理了人工智能技術與應用發展現狀,分析了人工智能麵臨的新的安全風險,結合國內外人工智能安全政策與標準現狀,指出了人工智能安全標準需求,提出了下一步開展人工智能安全標準化工作的建議,為規範引導人工智能安全標準化工作提供參考。
(一)人工智能安全屬性定義和度量指標
隨著人工智能安全工作開展,安全屬性定義逐步形成一些共識,國 際標準以及相關技術文件也給出了部分安全屬性的定義描述,但不同文件 之間仍有差異。可靠性、可解釋性、公平性等重要安全屬性定義的標準統 一,以及其度量指標的規範化,將對人工智能的發展有著重要促進意義。
(二)用戶輸入數據安全保護相關規範
在人工智能通常收集用戶輸入數據用於訓練的背景下,如何保障用戶 輸入數據的安全亟需技術標準。根據操作場景的不同,用戶輸入的數據可 能包含人臉、身份證號、家庭住址等個人信息,可能包括個人健康情況、 情感狀況等個人隱私,可能包括企業技術和經營活動有關的商業秘密,甚 至可能包括國家秘密等。
(三)人工智能服務網絡安全防護相關指南
圍繞人工智能服務過程中,可能會麵臨的對抗樣本攻擊、爬山攻擊、 模型竊取、供應鏈攻擊等新型攻擊威脅,需要研究在數據集防護、算法模 型保護、抗逆向攻擊等方麵的安全技術措施指南,幫助人工智能服務提供 者保護業務數據以及人工智能模型參數等的機密性和完整性。
![]() |
機器人底盤Disinfection Robot消毒機器人講解機器人迎賓機器人移動機器人底盤商用機器人智能垃圾站智能服務機器人大屏機器人霧化消毒機器人紫外線消毒機器人消毒機器人價格展廳機器人服務機器人底盤核酸采樣機器人機器人代工廠智能配送機器人噴霧消毒機器人圖書館機器人導引機器人移動消毒機器人導診機器人迎賓接待機器人 |