3月12日,中國信通院正式啟動智能助理智能體(Claw)系列標準編制工作,系統推進智能助力智能體相關標準體系建設。《智能助理智能體(Claw)產品可信能力要求》作為該系列標準的重要組成部分,現面向產業界公開徵集該標準的參編單位與專家。該標準將圍繞Claw產品的品質可控和行為可信梳理相關要求,包括用戶許可權可管、執行過程透明、行為風險可控、平臺和工具能力可信等。

昨日,“中國信通院CAICT”發佈博文,指出開源AI智能體工具OpenClaw近期在網路上異常火爆,但也引發了嚴峻的安全挑戰。
中國資訊通信研究院副院長魏亮分析指出,“龍蝦”智能體目前更新迭代極快,官方最新版本確實修復了已知漏洞,但這並不意味著安全風險被徹底消除。
該工具具有自主決策和調用系統資源等高許可權特點,加之系統信任邊界模糊,且技能包市場目前缺乏嚴格的安全審核,內部潛藏著諸多隱患。
魏亮表示該智能體在調用大語言模型時,極易誤解用戶指令內容,從而執行刪除檔等不可逆的有害操作。
用戶一旦使用被植入惡意代碼的第三方技能包,便會面臨核心數據洩露甚至整個系統被駭客控制的危機。因此,即便用戶將其升級到最新版本,若不採取針對性的防範措施,依然難以抵禦外部網路攻擊。
魏亮推薦用戶在日常使用中,除了必須及時升級更新軟體外,還應嚴格遵循“最小許可權、主動防禦、持續審計”的安全防護原則。
此外,用戶一旦發現該類智能體的安全漏洞或遭遇攻擊事件,可第一時間向工信部網路安全威脅和漏洞資訊共用平臺報送,平臺將依法規及時組織研判與安全處置。
來源:中國鳳凰網科技