紮克伯格認為，比起宣導AI（人工智慧）減速，引入第三方評估機構才是行業最佳實踐。

當地時間9月15日，科技巨頭Meta的CEO馬克·紮克伯格（Mark Zuckerberg）在X平臺上發文表態，加入近期圍繞AI安全的熱烈討論。他表示，每一家AI實驗室都有責任和動力，來確保模型安全訓練以所需要的速度推進，同時也有能力採取行動。

紮克伯格解釋道，用戶不會願意使用與自身意願不一致、無法按照要求完成任務的AI Agent（智能體），這也給予AI實驗室進行調整的內在動力：“我的看法是，信任和對齊（指讓模型去符合用戶的意圖）正迅速成為區分不同Agent和模型的最重要能力。任何不重視對齊的實驗室最終都會落後。”

同時，如果AI模型造成傷害，實驗室將面臨重大的法律責任。因此，紮克伯格指出，Meta曾推遲數月發佈Muse模型，將重點放在安全和安保工作上。他強調：“我們並沒有要求其他公司先這麼做，然後自己再行動；我們只是把這作為日常工作的一部分。”

紮克伯格的上述言論似乎是在暗諷Anthropic的CEO達裏奧·阿莫迪（Dario Amodei）。此前，阿莫迪發表一篇千字長文，呼籲行業放緩提升前沿模型能力的速度、為安全研究和風險治理爭取更多時間，得到了OpenAI CEO山姆·奧特曼（Sam Altman）和SpaceX的CEO馬斯克的附和。

不過，紮克伯格還是贊同了阿莫迪關於“引入第三方評估”的觀點。他寫道：“引入獨立評估機構和顧問是行業最佳實踐。Meta超級智能實驗室（MSL）已經在多個領域做到這點，幫助產出更好的成果。其他實驗室也完全可以這麼做。總體而言，如果能夠形成一個規模更大、更加多元化的評估機構生態，將會有所幫助。”

最後，紮克伯格總結道：“將絕大多數算力用於服務用戶，而不是競相推進遞歸自我改進（RSI），是確保我們安全發展這項技術的最佳方式之一……我認為，為所有人構建一個積極未來的關鍵，是維持正確的權力平衡。”

有趣的是，和紮克伯格一度“水火不容”的馬斯克回復了這條帖文，簡單地寫道：“酷。”

可以看出，和阿莫迪的觀點相比，紮克伯格的論述更偏向於英偉達CEO黃仁勳。近日，黃仁勳態度堅定地否認“AI末日論”。在他看來，AI行業“不需要任何新的法律，也不需要新的監管”，AI安全本質上是一個工程問題，而不是法律問題。

而在15日當天的活動上，阿莫迪和奧特曼也分別闡述了自己的立場。阿莫迪重申了“放緩前沿AI模型開發”的核心理念：“我認為這是引領行業前進的方式，樹立榜樣，表明每個人都可以做得更好。”

奧特曼則強調，在AI前沿開發中，安全性和監控應該優先於功能性。不過，他也承認，人們的擔心不無道理：由於競爭壓力，AI公司可能無法做到這一點。

此外，據OpenAI方面透露，OpenAI正在與Anthropic和穀歌DeepMind實驗室合作，共同採取措施以解決AI安全問題，三家公司的合作已持續數周。

來源：中國澎湃新聞