應對人工智能技術在實際應用中引發的風險,除了積極推動人工智能技術可信能力 的提升,不斷減少技術本身的脆弱性,還應該構建更為積極的技術應用規範/規避 現階段人工智能技術"缺陷”帶來的問題。
人工智能產品研發中規劃設計、研發部署、運營使用環節的風險挑戰識別十分重要, 對於構建可信研發的實踐範式具有重要意義。
在規劃設計階段,難以在初始階段形成完備的風險分析,與此同時,確保相關理念貫徹執行存在挑戰,在設計理念、規範傳達給個層級實施人員過程中,存在非正確 傳達、誤解等風險,尤其機器學習場景中固有的不可預測性,傳達實施偏差會進一 步加劇。
在研發部署階段,一方麵,數據層麵可能會遇到數據缺失、重複、不一致、來源不 明等問題;另一方麵,模型技術層麵存在著技術選型不恰當,模型尚未完備訓練即 開始上線服務,以及模型運行之後的動態更新缺乏足夠驗證等挑戰。
在運營使用階段,一方麵,在人類和人工智能交互時可能出現誤用、過度依賴等問 題;另一方麵,人工智能相關技術存在著被惡意使用的風險。
構建麵向可持續發展的人工智能技術體係,推動人工智能技術可用、可靠、可信,其內涵包括提升技術安全和構建技術管理機製兩個層麵工作
企業作為落實人工智能治理原則的重要主體,形成覆蓋人工智能產品全生命周期的風險管理機製,提出了麵向可持續發展的人工智能治理基本框架
數據不完備和濫用風險突出而損害用戶的權益;人工智能算法存在固有缺陷在可解釋性魯棒性偏見歧視等方麵尚存在局限;企業人工智能管理體係不完善
調度決策外賣調度係統困住騎手;個性化推薦電商場景下的信息繭房和馬太效應;內容治理如何守護清朗健康的網絡環境;人工智能可以放心使用嗎
全球人工智能市場收支規模達850廳美元,預測,2022年該市場規模將同比增長約20%至 1017廳美元,並將於2025年突破2000廳美元大關, CAGR 達24.5%
頭部科技企業先後發布了AI治理戰略和治理體係,成立了相關委員會和工作組,聚焦企業層麵的AI治理和風險管理體係,可信AI技術和保障工具也在蓬勃發展
智能文檔處理、智能會議、知識管理、智能客服等各類企業智能應用不斷發展,全麵賦能企業辦公、管理、決策、風控、營銷、服務等各個環節
AI軟件設施在近兩年成為產業焦點,AI開源框架生態,預訓練大模型體係,AI軟件平台生態等內容都得到了長足的發展,像水電一樣成為觸手可得的普惠資源
到端的MLOps一體化工具和細分場景的專項工具都非常火熱,端到端工具追求大而全的功能集,專項工具在局部或某些場景下功能和性能較好
規模化是指整合了豐富的人工智能開發,部署,測試,運維等能力,標準化是指將異構的軟硬件環境封裝為標準化的界麵,可擴展是指可以不斷適配新的技術和工具
器人流程自動化,智能流程管理,低代碼應用平台,流程挖掘等工具和平台,銜接起了企業級各類複雜業務場景,其綜合應用,互使能是超級自動化發揮效能的重要手段
知識和數據雙輪驅動的人工智能技術路線展現了強勁的發展潛力,知識的融合應用有效地提升了智能問答,智能推薦,大規模預訓練模型等人工智能技術中的效果