隨著中國“人工智慧+”行動的深入推進，各類智能體及AI應用廣泛滲入生產生活場景。而近期頻發的AI安全事件，不僅引發公眾關注，也成為產業界與學界協同攻堅的重要方向。近日，全國網路安全標準化技術委員會（以下簡稱“網安標委”）正式組建“人工智慧安全標準工作組”（WG9），標誌著中國人工智能安全標準體系建設進入系統性推進階段。

AI安全事件頻發 攻防之戰升級
  
近期，全球人工智慧行業安全事件頻發。3月底，人工智慧公司Anthropic旗下AI編程工具Claude Code源代碼洩露，這一事件被視為AI行業首次核心代碼洩露事件。
  
奇安信安全專家章磊認為，綜合各類公開信息以及Anthropic的官方回應分析，此次源代碼洩露是典型的發佈流程中的人為失誤，屬於供應鏈安全事故。“好比原本只該給顧客成品，結果把全套製作圖紙一起送出去了。”
  
“產品的核心邏輯和防護底線一旦公開，整個產品的運作方式就變得透明。競爭對手可以直接研究它的架構、功能設計、智能體邏輯，能快速模仿、追趕甚至優化。同時，安全規則暴露後，也更容易被人找到漏洞、繞過約束、破解使用限制。”章磊表示。
  
今年以來爆火的智能體工具OpenClaw（俗稱“龍蝦”）也接連被曝出存在多重安全隱患。4月3日，國家資訊安全漏洞庫（CNNVD）發佈通報稱，自3月10日至4月2日，共採集OpenClaw漏洞155個，其中超危漏洞11個、高危漏洞53個，OpenClaw多個版本受到漏洞影響。
  
“我們只花了一個下午，就攻破了OpenClaw。”國內知名白帽安全團隊DARKNAVY安全創新總監陸晨表示，目前，國內主流的“龍蝦”方案分為兩類：一類是在OpenClaw基礎上套殼提供對話框，另一類是提供伺服器供用戶自行配置。相比較而言，前者風險更高，一旦被攻破，駭客就能直接獲取伺服器許可權，甚至訪問內網大模型。
  
上海交通大學安泰經濟與管理學院副院長劉少軒透露，近期一家製造業企業因為倉促上馬OpenClaw，導致產線停產72小時，直接損失可能超過2000萬元。還有一家法律服務企業，因為沒有做好風險防範和數據安全，導致大量客戶隱私數據洩露。
  
亞信安全相關負責人也指出，當前網路攻擊正在向智能化、自動化演進，駭客利用AI實現勒索軟體載荷的動態生成、高仿真釣魚內容製作，使得攻擊效率與隱蔽性大幅提升。AI自主攻擊智能體、基於深度偽造的商務詐騙，將成為2026年最緊迫的安全挑戰。
  
AI安全供給發力 需求創造機遇
  
國資委1月底發佈的數據顯示，中央企業已在工業製造、能源電力、智能網聯汽車等重點領域，打造了超過1000個AI應用場景，AI賦能產業轉型的態勢日益明顯。與此同時，AI安全問題引發的行業擔憂，也催生了全新的安全需求，推動AI安全供給側持續發力。
  
對此，東莞證券認為，近期OpenClaw等智能體技術快速落地，催生全新安全需求場景，疊加網路安全領域政策利好持續釋放，行業有望迎來新的增長機遇。
  
長江證券則預測，2026年國內網路安全市場規模有望突破1500億元，2030年可達3000億元，年複合增長率達18%至20%，行業正處於發展黃金期。
  
同時，AI安全新品與服務也在持續發佈。近日，上海人工智慧實驗室推出高安全產業級智能體平臺SafeClaw，聚焦高安全需求的產業智能化轉型，以推動行業從“事後安全”邁向“內生安全”的路徑。同時，上海人工智慧實驗室還開源了能快速診斷風險的智能體守衛模型，並探索將安全準則內嵌至智能體決策層的“內生進化”治理框架。
  
“最危險的並非已知風險，而是‘沒有想到的危險’，因此，當前的核心任務是，在AI能力飆升的同時，前瞻性地構建內生安全體系。”上海人工智慧實驗室領軍科學家胡俠表示，“這些工作旨在將安全能力深度融入AI發展全鏈條，為智能體時代的‘內生安全’提供系統性解決方案。”
  
AI治理持續完善 安全標準加速制定
  
隨著人工智慧被廣泛應用，人工智慧治理也越發受到重視。今年政府工作報告明確提出“完善人工智慧治理”，全國人大常委會工作報告提出“加強人工智慧領域立法研究”。
  
在此背景下，人工智慧安全標準正在加快制定。3月25日，工信部公開徵求《人工智慧安全治理模型上下文協議應用安全要求》等行業標準計畫專案意見。
  
4月初，人工智慧安全標準工作組（WG9）表示，將重點推動《網路安全技術 人工智慧安全能力成熟度評估方法》《網路安全技術 人工智慧應用安全分類分級方法》及《網路安全技術 人工智慧技術涉及未成年人應用安全指南》等核心標準的落地實施。同時，在全國網安標委統一部署下，集中力量攻堅內生安全與數據基座、新形態與服務安全、系統與應用安全及科學評測等領域的國家標準。
  
“針對AI帶來的新型風險，需從政策法規、技術標準、實施機制三個層面協同推進。”奇安信副總裁張勇認為，展望未來，第一，安全將從“可選配”升級為“必標配”，安全合規將從推薦性轉向強制性，可以設定“AI安全投入不低於AI應用總投入15%”這樣的行業基準；第二，網路安全從“單點防護”走向“全鏈條協同”，實現“一處發現攻擊，全網自動免疫”；第三，從“人防”走向“技防+智防”，AI對抗AI成為攻防常態；第四，從“被動應急”走向“主動免疫”，構建韌性防禦體系，實現“即使遭受攻擊也能快速恢復、核心數據不丟失”。

來源：經濟參考報