為貫徹落實國家發展新一代人工智能的決策部署,全麵貫徹總體國家安全觀,公安部第三研究所充分發揮在網絡等級保護領域國家隊的優勢,並依托國家級創新平台——網絡安全等級保護與安全保衛技術國家工程研究中心,成立通用人工智能安全工作組,並發布了《通用人工智能AGI等級保護白皮書(2023 版)》。
白皮書首先介紹了通用人工智能的基本情況,並從技術角度出發分析了通用人工智能在網絡安全領域的應用趨勢及通用人工智能麵臨的多種安全威脅,主要包括傳統安全風險,以及數據泄露和濫用風險、模型可靠風險、大模型濫用誤用風險等由於大模型自身的數據規模性、算法複雜性等原因導致的安全風險。為了應對這些風險,白皮書對通用人工智能的等級保護合規落地需求進行了闡述和分析。
此外,白皮書列舉了通用人工智能大模型賦能的典型場景,包括網絡安全等級保護知識賦能、等級測評賦能和等級保護培訓賦能等。
本白皮書旨在幫助讀者更好地應對通用人工智能大模型帶來的安全風險和挑戰,同時也為網絡安全等級保護在通用人工智能領域的合規落地提供了指導和建議。
附件:通用人工智能AGI等級保護白皮書-網絡安全等級保護與安全保衛技術國家工程研究中心
信安秘字〔2023〕124號;圍繞文本、圖片、音頻、視頻四類生成內容給出了內容標識方法,可用於指導生成式人工智能服務提供者提高安全管理水平
數據安全產品廣泛應用於在數據資產識別,數據安全檢查,數據安全 防護,數據風險監測,數據共享流通安全;數據安全防護類產品涵蓋了數據保護類,訪問控製類,追蹤溯源類的諸多產品
報告對工控係統漏洞,聯網工控設備,工控蜜罐與威脅情報數據等情況進行了闡釋及分析,有助於全麵了解工控係統安全現狀,多方位感知工控係統安全態勢
企業內部基礎設施建設不完善,擁抱數字化轉型後缺少有效的安全防護措施;高額贖金已經成為網絡攻擊者極高的犯罪動力;遠程辦公增加安全風險
分析了量子安全通信發展機遇,研究了量子安全通信關鍵技術和產業標準規範,給出了基於端到端量子加密網絡內生安全的解決方案,打造重點行業量子安全通信應用標杆
網絡預約汽車服務數據包括用戶數據如手機號碼,位置信息,支付信息,行蹤軌跡和行程錄音錄像等;業務數據如駕駛員數量,乘客數量,行程訂單量和裏程總數等
網絡音視頻服務提供者傳輸,存儲數據,應采用安全口令,數字簽名證書等 兩種及以上方式進行接收方身份鑒別與認證,個人身份信息與其他個人信息分開存儲
網絡支付服務提供者如提供跨境支付服務,出境數據應僅限為處理跨境支付業務所需的必要信息,每年應自行或委托第二方機構對數據出境至少進行一次數據出境 風險評估
網上購物服務的相關方包括買家,賣家,網上購物服務提供者及第三方服務提供者;用戶數據如買家消費記錄,收貨人信息(姓名,地址,電話號碼),賣家賬號信息等
快遞物流服務數據處理活動主要圍繞著快遞物流服務的業務功能開展;用戶數據如收寄件人姓名,地址,聯係電話,企業賬號信息,企業通信信息等
應按照有關要求和標準進行數據分類分級保護,識別即時通信服務涉及的核心數據,重要數 據 ,一般數據,對不同級別的數據采取不同的保護措施
車外數據未完成匿名化處理前不應向車外提供;匿名化處理過程中.除分析確定包含人臉以及車牌等個人信息的區域不應進行人臉比對步態分析以及語音識別等其他處理
收集人臉識別數據時應向數據主體告知人臉識別數據的相關事項;在識別過程中持續告知數據主體驗證目的,並通過語言,文字等向數據主體進行提示