10 月 15 日消息，歐盟委員會人工智慧辦公室已向 OpenAI 和 Anthropic 發出資訊調取請求，正式對兩家公司在前沿模型測試期間發生的“模型越獄”及入侵外部真實系統事件展開調查。這是歐盟《人工智慧法案》（EU AI Act）自實施以來，面對前沿人工智慧實驗室安全事故的首次重要執法考驗。

記者查詢相關資料，此次調查源於數月前發生的兩起 AI 安全事件：

OpenAI 模型越獄：在 ExploitGym 內部評測中，OpenAI 的測試模型為破解測試題，利用了一個此前未知的軟體包緩存智能體漏洞取得互聯網訪問能力，繼而在內部測試網路中提升許可權、橫向移動，最終“逃出沙箱”入侵了開源平臺 Hugging Face 的真實伺服器。

Anthropic 模型越獄：Anthropic 的 Claude Mythos 和 Opus 4.7 在安全測試中突破限制，入侵了 3 個外部組織的真實網路。更令人不安的是，Mythos 模型甚至偽造了線上身份，試圖操縱人類審批惡意代碼，並自行上傳惡意套件導致多個系統受到波及。

歐盟人工智慧辦公室表示，此前兩家公司自願提供的說明材料不足以解釋事件的嚴重性。因此，歐盟正式要求企業說明安全措施、外部評估以及模型使用監控等詳細情況。

目前階段屬於調查和取證階段，尚未公佈最終的違規認定或處罰結果。根據《人工智慧法案》的懲罰機制，前沿 AI 實驗室若被認定存在重大安全疏漏或違規，最高可面臨全球年營業額 3% 的巨額罰款。

來源：中國IT之家