7 月 2 日消息，聯合國官網 1 日公報，由 40 名頂尖科學家和專家組成的聯合國 AI 獨立科學小組發佈首份報告，警告 AI 快速發展在為全球各國和民眾創造巨大機遇的同時，也帶來了不容忽視的風險。

報告指出，政策制定者需要以科學證據為基礎治理 AI，AI 能力的進步速度已經超過科學界的認知，也超過各國政府調整政策的速度。面對高度自主的 AI 系統，目前可用的控制手段仍然很少。

小組聯合主席約書亞 · 本吉奧指出，越來越多證據表明 AI 可能出現欺騙行為。隨著 AI 能力繼續增強，科學界無法保證 AI 不會“自行或因惡意使用者”造成災難性後果。

記者獲悉，報告總結稱，AI 的潛在益處十分巨大。如果不加約束地迅速擴大部署規模，也會產生重大風險，包括損害用戶心理健康、被用作破壞性工具、衝擊社會、經濟和環境系統，以及增加技術失控的可能性。

AI 已在全球各國和多個行業加速普及，但不同地區的發展差距明顯。目前，全球每週使用對話式 AI 的人數已經超過 10 億，發展中國家的普及速度卻相對滯後。

AI 研發資源的集中程度更加突出。全球算力最強的 500 臺 AI 超級電腦中，美國掌握 75% 的算力，中國占 15%。

此外，全球使用的語言超過 7000 種，現有 AI 模型只覆蓋其中很少一部分。部分語言的機器翻譯存在大量錯誤，甚至可能干擾醫療診斷和治療決策。

來源：中國IT之家