特斯拉創始人埃隆·馬斯克再次將矛頭指向AI行業的安全風險。

9月15日，馬斯克在洛杉磯舉行的All-In峰會上表示，既然OpenAI、Anthropic等AI公司警告先進模型可能帶來嚴重甚至生存層面的風險，就應該讓競爭對手相互測試模型，而不是“自己給自己的作業打分”。

馬斯克表示，xAI、OpenAI、Anthropic、穀歌、Meta以及中國領先AI公司，都可以在模型發佈前讓競爭對手進行安全測試。“與其自己給自己的作業打分，不如讓競爭對手來評判，一旦發現問題，他們也會發出警報。”他說。

馬斯克認為，這種同行評審機制可以迅速實施。他說，各家公司可以提前讓競爭對手接觸模型和測試工具，在正式發佈前尋找潛在安全問題，而不必等待新的監管機構建立。

這番表態發生在AI行業近期集中討論安全風險之際。

Anthropic首席執行官達裏奧·阿莫迪（Dario Amodei）近日呼籲放慢前沿AI能力發展的速度，並提出引入第三方評估機制。馬斯克隨後在社交平臺轉發達裏奧·阿莫迪的文章並表示：“達裏奧說得對。”後續馬斯克專門澄清，他認同的是達裏奧關於AI存在重大安全風險這一判斷，並非全盤接納達裏奧提出的整套減速與監管方案。

OpenAI首席執行官山姆·奧特曼（Sam Altman）也表達了對加強安全措施的支持。

不過，馬斯克在All-In峰會上進一步質疑了AI公司在安全警告與商業擴張之間的矛盾。

他表示，“當OpenAI和Anthropic的人告訴我們，他們的模型極度危險，我們應當相信他們說的是真話。但這裏存在一個十分荒謬的矛盾：他們一邊說著有10%概率會毀滅人類，一邊又去問投資者，在IPO裏想要認購多少份額。這簡直就像在玩某種瘋狂的四維象棋。”

馬斯克所指的背景之一，是Anthropic正在推進的IPO計畫。據路透社此前報導，Anthropic尋求通過上市最高融資1000億美元，公司估值可能達到約2萬億美元。英偉達也在考慮參與投資。不過相關計畫仍可能發生變化。與此同時，OpenAI選擇了不同路徑。奧特曼近期表示，OpenAI不會在2026年上市，並將安全問題作為當前不適合IPO的因素之一。

這場爭論的導火索來自Anthropic內部。曾任OpenAI和Anthropic研究員的雅各布·考克森（Jacob Coxon）近日辭職，並批評AI實驗室以過快的速度推進超級智能研發。Anthropic對齊科學負責人埃文·胡賓格（Evan Hubinger）隨後表示，他個人認為未來十年AI導致人類滅絕的概率超過10%，同時表示目前尚未解決超級智能的對齊問題。

對於AI潛在風險，行業內部仍存在分歧。例如英偉達CEO黃仁勳就更為樂觀，他在All-In峰會上表示，AI安全首先是一個工程問題，重點應是把技術“安全地構建出來”，而不是簡單放慢整個行業的發展速度。此前，黃仁勳曾多次駁斥“AI末日論”。

來源：中國澎湃新聞