美國穀歌公司18日承認，其人工智慧（AI）模型“雙子座”今年5月在網路安全能力測試中，侵入了三家真實公司的系統。

穀歌安全工程副總裁希瑟·阿德金斯在一份聲明中說，在一次常規評估中，雙子座模型利用網上公開信息獲得了登錄憑證，獲得了三個其認為屬於測試範圍網站的訪問許可權。穀歌已確保三個相關實體獲知此事，並與測試合作方調整測試流程。

據美國《華爾街日報》報導，測試由以色列“非常規”人工智慧公司實施。在其中一項測試中，雙子座模型經反復嘗試猜中密碼，最終進入一個受保護的真實系統。在另外兩項測試中，模型從公開存儲庫中找到登錄憑證，並利用這些憑證進入其他公司的受保護系統。

“非常規”人工智慧公司的調查結果顯示，相關測試場景使用一家虛構公司作為目標，但這家虛構公司與現實中的一家企業同名。同時，測試環境意外開放了互聯網訪問許可權，導致一些接受測試的AI模型將真實網路目標誤認為測試場景的一部分並採取網路攻擊行動。

按《華爾街日報》的說法，這是穀歌AI模型首起已知的自主入侵事件。穀歌方面已於7月底獲知該事件，但在媒體問詢前並未主動披露。穀歌方面表示，模型在發現進入真實公司系統後停止了相關行動，沒有給涉及的公司造成損害，無需主動公開相關情況。

此前已有數家美國知名AI企業承認旗下模型在測試中“越界”，侵入其他機構的系統，引發外界對美國AI模型安全和監管的擔憂。

7月下旬，美國開放人工智慧研究中心（OpenAI）公開承認，其GPT-5.6 Sol等模型在內部評估中失控，突破隔離測試環境，侵入了“抱抱臉”公司的系統。隨後，美國Anthropic公司披露，其三款模型曾在網路能力測試中未經授權訪問其他機構的系統。8月初，美國元公司證實，其一款模型在網路安全能力評測期間侵入其他公司系統。

來源：中國澎湃新聞