六大人工智能的熱點問題

隨著人工智能技術發展步入快車道，業務數量和覆蓋麵不斷提升，新業務模式和新 產品持續湧現。與此同時也產生了各種科技倫理問題和挑戰，特別是那些已經深入 到日常生活方方麵麵的各類算法，引起了社會的廣泛擔憂。

1.調度決策：外賣調度係統"困住"騎手

外賣平台引入人工智能技術和係統，會幫助騎手規劃訂單的取餐順序和配送 路線。在大大提升配送效率的同時，也引發了 "困住”騎手的質疑，例如係 統規劃的路徑或預計的時長存在不合理情況，而騎手囿於係統限製，為了節 省時間往往選擇違反交通規則’給自身和他人帶來安全隱患。

2.個性化推薦：電商場景下的信息繭房和馬太效應

電商平台根據消費者的興趣愛好、消費習慣等提供智能推薦服務，節省時間 成本、大大提升了匹配效率，但也產生了信息繭房和馬太效應。一方麵可能 出現推薦商品重複率過高的情形；另一方麵係統天然傾向於推薦實力強服務 好的頭部商家，導致市場資源更加集中，加劇了兩極分化。

3.內容治理：如何守護清朗健康的網絡環境?

部分不法分子在網絡平台上，為了騙取流量，發布各式各樣的兒童軟色情內 容’汙染了網絡空間’敗壞社會風氣’嚴重侵害了未成年人權益。這些低俗 信息頻繁出現’人工智能可以幫助清理頑固的信息汙垢，守護清朗健康的網 絡環境嗎？

4. 信息檢索：商品的銷量和評價真實可信嗎？ "

在電商平台上’商品銷量和評價會在一定程度上決定檢索中的排序’從而影 響用戶的購買意願。這種機製催生了一些作弊行為，部分不法分子蓄意"灌 水"，偽造銷量數據，虛構大量相似"好評”O如何防止人工智能被黑灰產 惡意投放的作弊數據欺騙，保障信息的真實可信？

5.自動識別：人工智能可以放心使用嗎？

2021年，美國底特律市的一位男子開啟自動駕駛模式後’撞上馬路中行駛 的半掛卡車’不幸身亡。據分析，事故原因是自動駕駛係統將貨車的白色車 廂錯誤識別為藍天白雲’因而沒有及時采取刹車製動等措施。之前也發生過 數次類似事件’這難免讓人們產生疑問，人工智能自動識別的結果可以放心 \使用嗎？

6 .深度合成：眼見不一定為實

近年來，利用”深度合成"技術惡搞公眾人物的事件不時發生，造成了惡劣 的影響。隨著”深度合成"技術和工具快速成熟與擴散，其風險不斷增大， 惡意使用極易造成虛假信息泛濫，可能嚴重妨礙司法公正、引發信任危機， 甚至危害國家安全。

查看更多相似文章