10 月 27 日消息，據《商業內幕》今天（27 日）早間報導，微軟 CEO 薩提亞 · 納德拉改變了對 AI“對齊”問題的看法。他過去認為，AI 系統越強大，就越容易讓其行為符合人類的價值觀和目標，但現在，自己不再相信兩者會自然而然地同步發展。

在新一期《20VC》播客中，主持人哈裏 · 斯特賓斯問納德拉，過去一年裏有什麼想法發生了改變。納德拉解釋，他原本認為，隨著 AI 能力不斷提高，確保 AI 行為符合人類價值觀和目標的“對齊”問題也會迎刃而解。

模型規模擴大帶來的效果符合納德拉的預期，AI 能力持續提升，但對齊問題依然沒有得到解決。“我過去總以為，對齊問題自然就會解決。我不再這麼認為了。我覺得，對齊可能是一個更棘手、性質也不同的問題。”

納德拉曾於 10 月 10 日在 X 發文警告 AI 的風險，主張加強外部安全管控。他認為，企業應將 AI 模型視為內部安全威脅，採取防護措施時應假定模型遭到入侵。

納德拉在帖子中寫道：“我們需要通過可靠、具有確定性的系統設計、人工管控和完善的操作規程，為行為難以完全預測的 AI 模型建立防護機制。對於現有標準不足的領域，還需要制定行業標準。”

據記者瞭解，納德拉並非唯一認為 AI 能力提升不能自動確保人類掌控 AI 的科技行業高管。OpenAI CEO 薩姆 · 奧爾特曼和 Anthropic CEO 達裏奧 · 阿莫代伊都曾就 AI 的潛在威脅發出警告。今年 7 月，1000 多名 AI 從業者連署的一封信也警告，AI 能力的發展速度可能超過人類理解或控制它的能力。

來源：中國IT之家