9月17日，據英國《金融時報》報導，穀歌DeepMind聯合創始人、首席AGI科學家謝恩·萊格近日警告，人工智慧能力正在快速提升，但AI能力的發展絕不能超過安全保障水準。他同時反駁了OpenAI總裁格雷格·布羅克曼和英偉達CEO黃仁勳有關“AGI已經到來”的判斷。

萊格表示，目前AI能力的發展速度“非常、非常快”，行業不能允許能力進步領先於安全措施。對於Anthropic CEO達裏奧·阿莫代伊近期提出的建議，即出於安全考慮放緩前沿模型發佈，但不完全暫停研發，萊格認為這一方向“值得考慮”，但各方仍需認真討論具體執行方式。

萊格作出上述表態之際，DeepMind正式推出DeepMind Institute，研究通用人工智慧的部署及其對科學、教育、社會、政策、哲學和人類福祉等領域的影響。按照DeepMind的定義，AGI是具備人類大腦全部認知能力的人工智慧系統。

儘管近期AI模型能力明顯提升，萊格認為，目前宣佈AGI已經實現仍為時過早。他表示，自己仍堅持此前的預測，即到2028年實現“最低限度AGI”的概率為50%。萊格也是“AGI”這一術語的早期提出者之一。

OpenAI發佈GPT-6 Astra後，布羅克曼宣稱“我們現在已經進入AGI時代”。黃仁勳也表示“AGI已經到來”，並以Astra的能力作為依據。

萊格對此表示，即便不同機構對AGI的定義存在差異，目前也不清楚Astra是否達到了OpenAI自己的標準。OpenAI此前將AGI定義為能夠完成大多數具有經濟價值的認知勞動。萊格稱，這些模型確實能夠完成一些令人印象深刻的任務，但在他看來，其能力尚未達到OpenAI對AGI的定義。

DeepMind Institute由萊格、DeepMind董事長德米斯·哈薩比斯和穀歌高級副總裁詹姆斯·馬尼卡共同擔任負責人。萊格表示，隨著公眾開始認真對待強大通用智能出現的可能性，現在需要展開更廣泛的社會討論。研究所將把DeepMind的技術研究轉化為更多公眾可以理解的內容，同時邀請外部專家參與討論。

研究所首批發佈三篇文章，主題涉及AI安全、經濟政策及“新烏托邦主義”原則。其中一篇由DeepMind研究人員羅欣·沙阿和安卡·德拉甘撰寫的文章，將矛頭指向GPT-6 Astra的發佈速度。

兩名研究人員認為，Astra在推理過程透明度方面呈現出“令人擔憂的下降趨勢”。AI公司的競爭壓力可能削弱其提高透明度的動力，監管可以在這一問題上發揮作用。

不過，文章認為，只要在模型設計階段加入保障透明度的機制，行業仍然可以繼續開發能力更強的模型。研究人員指出，目前最先進的推理模型能夠以人類可以理解的方式展示部分推理過程，這為外界觀察和研究AI行為提供了難得的窗口。

馬尼卡表示，穀歌希望參與的AI競賽只有一個，即把這項技術做對的競賽。

來源：中國鳳凰網科技