全球最大AI開源社區遭到智能體攻擊,最後出手相助的是一款中國大模型。
澎湃新聞記者獲悉,近日,全球最大的AI開源社區Hugging Face在官網披露了一起安全事故,攻擊者是一個完全自主的AI智能體系統,在大量短生存期沙盒中執行了數千次獨立操作,在一個週末內橫向移動進入了多個內部集群。
這是一次被行業預測多年、但首次在現實中完整上演的“智能體攻擊”。
事件發生後,Hugging Face的安全團隊需要分析攻擊者留下的超過17000條事件日誌。他們首先使用商用API背後的某美國前沿大模型。結果被攔住了。Hugging Face在事件報告中的原話是:“分析需要提交大量真實的攻擊命令、漏洞利用載荷以及C2痕跡數據,而這些請求被服務提供商的安全護欄攔截了——它們無法區分事件回應者和攻擊者。”
之後,Hugging Face的工程師們下載中國智譜的開源模型GLM-5.2,在自己的基礎設施上跑完了全部取證分析。危機解除。
據Hugging Face官方公告稱,其最初嘗試使用商業模型API進行分析,但由於日誌中包含真實攻擊指令、惡意代碼和C2(Command&Control)等內容,請求受到安全策略限制,未能完成相關分析。隨後,團隊轉而在本地基礎設施部署開源模型GLM-5.2,完成了整個取證分析流程。官方同時指出,這樣做還有一個額外優勢——攻擊數據及涉及的憑證始終保留在本地環境,沒有離開企業基礎設施。
數天之後,美國大模型巨頭OpenAI承認自己是“罪魁禍首”。
7月21日,OpenAI公告稱,用於網路安全測試的人工智慧模型上周意外突破AI平臺Hugging Face內部系統,完成一系列漏洞發現和利用操作。。
OpenAI介紹,事件源於其在測試AI網路安全能力時,部分模型突破原本隔離運行的“沙箱”環境,進入互聯網環境。涉事模型包括GPT-5.6 Sol及兩款尚未公開發佈的模型,它們通過發現並利用多個漏洞,最終導致Hugging Face系統被攻破。OpenAI稱,已與Hugging Face展開調查,並向美國政府、執法機構等通報相關情況。
業內人士分析,Hugging Face沒有選擇閉源的商業模型,而是選擇一個開源的中國模型來處理安全問題,理由十分具體:這個模型是開放權重的,可以在自有基礎設施上本地化部署,攻擊者的數據和憑證不會離開受控環境。這個模型沒有內置那些在安全回應場景下反而成為障礙的“護欄”。這個模型有能力處理真正的惡意代碼和攻擊痕跡,而不因倫理約束而拒絕工作。
中國大模型正在撼動全世界,此前Kimi K3推出後爆火全球。據外媒報導,深度求索(DeepSeek)推出R1版本以來,中國的AI模型持續影響著整個行業。它們在一定程度上顛覆了由西方頭部企業確立的AI產業的經濟基礎,即付費閉源模式。
外媒分析,中國企業的AI模型在服務定價方面低於美國競品。根據基準測試網站人工智慧分析網的數據,使用Kimi 2.6或DeepSeek-V4-Flash執行標準化智能任務的加權平均成本介於0.33美元至0.02美元之間,而Anthropic的Claude Fable 5執行同類任務需花費2.75美元。在上述任務中,Kimi K3的預估使用成本為0.95美元。
另有外媒稱,過去18個月裏,中國科技企業陸續推出一些性能接近美國對手、所需算力資源更少的開源AI模型。性能強、成本低的組合使中國AI模型成為全球眾多開發者的優先選擇。
來源:中國央視新聞