人工智能產品不同階段(規劃設計,研發部署,運營使用)的風險挑戰

應對人工智能技術在實際應用中引發的風險，除了積極推動人工智能技術可信能力 的提升，不斷減少技術本身的脆弱性，還應該構建更為積極的技術應用規範/規避 現階段人工智能技術"缺陷”帶來的問題。

人工智能產品研發中規劃設計、研發部署、運營使用環節的風險挑戰識別十分重要, 對於構建可信研發的實踐範式具有重要意義。

在規劃設計階段，難以在初始階段形成完備的風險分析，與此同時，確保相關理念貫徹執行存在挑戰，在設計理念、規範傳達給個層級實施人員過程中，存在非正確 傳達、誤解等風險，尤其機器學習場景中固有的不可預測性，傳達實施偏差會進一 步加劇。

在研發部署階段，一方麵，數據層麵可能會遇到數據缺失、重複、不一致、來源不 明等問題；另一方麵，模型技術層麵存在著技術選型不恰當，模型尚未完備訓練即 開始上線服務，以及模型運行之後的動態更新缺乏足夠驗證等挑戰。

在運營使用階段，一方麵，在人類和人工智能交互時可能出現誤用、過度依賴等問 題；另一方麵，人工智能相關技術存在著被惡意使用的風險。