AI隱私泄露危機四伏！如何確保數據安全？《人工智能隱私保護白皮書》

最近幾年，有關隱私受到侵犯的案件一再發生。例如，Facebook 未經用戶允許將用戶個人信息泄露給劍橋分析公司用於非正當目的， 同時其利用網民的瀏覽行為來精準的投放廣告，劍橋大學心理測量學 中心從用戶對哪些帖子和新聞進行閱讀和點讚，來分析出每個人的性 別、性取向、個性外向還是內向等，美食外賣企業“餓了麼”、“大 眾點評”、“美團”會利用算法推送一些推薦食物和餐館幫用戶做出 飲食決定，自動駕駛技術讓人們可以輕鬆的出行，高德地圖、百度地 圖等智能導航係統減少了人們尋找路線的時間和精力，ChatGPT 和其 他生成式人工智能工具可以提高用戶交互體驗、提高員工的創作和辦 公效率，但這些信息都以數據的形式存儲了下來，並被企業或其他主 體收集和利用，一些智能手機應用甚至過度的收集並違規使用個人信 息，使得個人隱私信息麵臨被泄露或被竊取的風險。

可以看到人工智能的普及與濫用使其麵臨越來越多的隱私與安全威脅，社會各界也逐漸加大了對隱私風險的分析和隱私保護的關注 度。從隱私保護角度，數據隱私性、模型保密性、模型完整可用性是 用戶和服務提供商最為關心的問題。因此，本章將先從數據、模型這 兩個不同的方麵來揭示人工智能麵臨的通用隱私威脅。同時，由於生 成式人工智能（Generative Artificial Intelligence，簡稱生成式 AI）技術的快速發展和應用給人們帶來了巨大的想象空間，但也增加 了新的 AI 隱私風險，本章還將對生成式人工智能隱私風險進行揭示。

為了更好的推動新一代人工智能安全發展，讓人工智能用的放心， 各國政府和企業越來越重視人工智能隱私保護。人工智能隱私保護指 的是在數據采集存儲和數據使用共享，模型訓練以及模型推理應用的 全生命周期過程中有效的保護用戶數據隱私不泄漏，不被未授權第三 方獲取或推理。因此，在人工智能處理大量個人數據和敏感信息的過 程中，如何加強數據隱私管控；在人工智能訓練過程中，如何保證數 據質量，避免原始數據隱私泄露；在人工智能推理應用過程中，如何 防禦攻擊引起的數據隱私推理，如何保護模型保密性與完整性日漸成 為國際人工智能的重要議題。

本白皮書從人工智能隱私保護的內涵出發，從人工智能全生命周期係統梳理人工智能通用隱私風險和生成式人工智能隱私風險。在此 基礎上，總結了國內外人工智能隱私保護法規政策標準化現狀。然後 分析了人工智能隱私保護技術和平台，包括管控技術、數據加密技術、 攻擊防禦技術、隱私保護機器學習平台和人工智能安全檢測平台等。 最後以技術發展和隱私保護並重為原則，研究提出了多維度、負責任 的人工智能隱私保護實施建議，讓下一代人工智能用的放心。

本白皮書由中國聯通研究院主筆，中國聯通集團網絡與信息安全 部、中國軟件評測中心（工業和信息化部軟件與集成電路促進中心）、 數據安全關鍵技術與產業應用評價工業和信息化部重點實驗室、中國 計算機行業協會數據安全專業委員會、三六零數字安全科技集團有限 公司、中興通訊股份有限公司聯合編寫

附件：AI隱私泄露危機四伏！如何確保數據安全？《人工智能隱私保護白皮書》