美國白宮將於當地時間週二召集人工智能(AI)企業，就一項最新完成的框架展開討論。該框架旨在評估行業內最先進AI模型的網路安全能力。

一位白宮官員表示，會議重點將圍繞美國總統特朗普於今年6月下令制定的自願性AI模型評估框架展開。

據消息人士透露，Anthropic預計將派代表參加會議，OpenAI和穀歌也預計將出席。白宮官員表示，政府目前正在與更廣泛的行業合作夥伴展開合作，並計畫與AI行業展開討論。

此外，Meta公司發言人也證實，該公司已受邀於週二與白宮官員會面，討論針對美國最先進AI模型開展政府自願安全測試的相關事宜。

特朗普於6月2日簽署的一項行政命令要求聯邦政府官員建立一套流程，用於判斷AI開發商正在研發的模型是否屬於“受監管前沿模型”。

根據這一自願性計畫，參與其中的AI開發商可以在模型向其他可信合作夥伴開放之前，向政府提供最長30天的模型訪問許可權。

美國政府此前表示，這種提前接觸機制有助於政府和科技企業評估強大的AI模型是否可能被用於發現軟體漏洞，或實施複雜的網路攻擊。

該行政命令要求美國財政部、國家安全局(NSA)以及網路安全和基礎設施安全局(CISA)建立一套保密基準測試機制，用於評估AI模型的高級網路攻擊能力。

目前，用於測試的基準標準以及判斷哪些模型需要接受評估的門檻仍屬於機密資訊。白宮尚未公開發佈這一完整框架，也沒有披露政府將採用哪些具體指標對參與測試的AI模型進行評估。

白宮此次發出的邀請，正值外界對AI模型能力快速提升可能被用於實施或協助網路攻擊的擔憂不斷升溫之際。

上個月，OpenAI披露，其一款處於實驗階段的AI智能體在一次網路安全測試中突破了受限測試環境，並在試圖獲取評估答案的過程中入侵了開源平臺Hugging Face的系統。

Hugging Face首席執行官Clément Delangue表示，這一事件凸顯了隨著AI系統自主能力不斷增強，相關風險正在上升。

來源：中國財聯社