近期，一場由人工智慧應用引發的跨國監管風波驟然升級。美國企業家埃隆·馬斯克旗下社交媒體平臺X內置的人工智慧聊天機器人“格羅克”(Grok)，因被濫用於生成色情內容、偽造真實人物的性暴露內容，引發多國政府採取法律行動。

馬來西亞通信和多媒體委員會1月13日表示，“格羅克”所生成的內容違反馬來西亞網路安全相關法律規定，將對X平臺採取法律行動。

英國通信管理局此前一天也發表聲明說，已根據英國《線上安全法》對社交媒體平臺X展開正式調查。英國科學、創新和技術大臣莉茲·肯德爾日前宣佈，英國《數據法案》相關條款將於本周生效，未經同意製作或尋求製作私密圖像，並在X等社交媒體平臺上發佈此類內容均構成刑事犯罪。

而在更早以前，歐盟委員會已表示將嚴肅調查針對“格羅克”的相關投訴，並責令X平臺保留所有“格羅克”相關內部數據直至2026年底，為潛在法律行動留存證據。印尼已宣佈暫時封禁“格羅克”，法國也對“格羅克”涉嫌生成非法色情內容啟動調查。

“格羅克”由馬斯克旗下人工智能企業xAI公司開發，並內置於社交媒體平臺X。2025年8月，xAI公司為“格羅克”推出圖像生成功能Grok Imagine，允許用戶通過文本提示創建圖片和視頻，這一功能的開放也為生成式人工智慧技術濫用埋下隱患。與此同時，馬斯克團隊將“格羅克”標榜為“更前衛”的產品，相應弱化其安全防護機制，進一步加劇了風險敞口。

2025年底，X平臺擴展了“格羅克”的圖像編輯能力，用戶可以上傳照片或在帖子中引用已有圖片，並利用“格羅克”對其修改。隨後，大量用戶未經當事人同意，利用該功能生成涉及女性和未成年人的偽造性暴露內容，並通過X平臺傳播。這一趨勢的迅速蔓延，讓生成式人工智慧技術造假問題全面發酵。據統計，僅2026年1月第一周，“格羅克”便在未經授權的情況下生成了約16萬張性暴露圖片，受害者涵蓋數百名成年女性和未成年人。

“格羅克”的大規模應用失控，迅速引發公眾輿論和多國政府強烈譴責。馬來西亞通信和多媒體委員會兩次向X平臺及xAI公司發出整改通知，要求建立有效技術防護和內容審核機制。印尼方面亦要求X平臺就“格羅克”所引發的負面影響作出說明。然而馬斯克及其團隊僅表示將刪除非法內容，永久封禁相關帳戶，並在必要時與地方政府和執法部門合作，而未對如何化解“格羅克”設計和運行層面的固有風險作出充分回應。

截至上週末，“格羅克”在X平臺上的圖像生成和編輯功能已被更改為僅向平臺付費用戶開放。英國政府對此批評稱，此舉無異於將創建非法圖像的功能轉變為一項高級服務，對受害者造成二次傷害。

在這一事件中，人工智慧技術被用於生成深度偽造內容，並帶來了巨大的社會撕裂與法律挑戰。有分析人士認為，該事件再次表明，全球範圍內對人工智慧技術實施有效監管已十分緊迫。

中國現代國際關係研究院科技與網路安全研究所所長李豔在接受記者採訪時表示，“格羅克”風波正促使各國更清晰地意識到生成式人工智慧的風險，及其可能帶來的危害性後果。她認為，隨著人工智慧技術進步，加速形成人工智慧監管共識、不斷調整和完善法律體系與監管機制，將成為國際社會的共同趨勢。

世界經濟論壇日前發佈的《2026年全球網路安全展望》報告顯示，生成式人工智慧技術導致的數據洩露與不斷演化的網路攻擊能力，已成為業界在2026年最關切的兩大威脅。報告警示，這一巨大風險正將人工智慧技術提供方的責任推向焦點。

“當前生成式人工智慧模型本身的幻覺問題還難以徹底解決，外加一些惡意使用，此類問題無法絕對避免。”李豔強調，人工智慧模型和應用提供方有責任和義務設置“安全圍欄”，比如在內容生成環節部署提示詞過濾與攔截等技術手段，將侵害風險控制到最低，並繃緊合規之弦，確保服務適配當地法律法規、政策要求與文化習俗；而產品應用方在向公眾提供服務時，也要做好即時安全監測，建立有效的事後應急機制，合力將技術應用中的不可控因素降至最低限度。

來源：中國工人日報