本網綜合 Sam Tabahriti, Paul Sandle, Andrew MacAskill and Muvija M  報導  英國媒體監管機構週一對埃隆·馬斯克的X平臺展開調查，原因是其Grok人工智慧聊天機器人涉嫌生成具有性暗示的深度偽造圖像，此舉違反了該平臺保護英國用戶免受非法內容侵害的法律義務。

英國政府表示，一項將製作性深度偽造內容定為犯罪的新法律將於本周生效，以打擊這類被其稱為“虐待武器”的圖像。

英國科技大臣利茲·肯德爾週一向議員表示，政府還計畫立法從源頭解決問題，將公司供應用於製作深度偽造內容的工具定為違法行為。

英國通信管理局(Ofcom)的調查給這位全球首富旗下的社交媒體平臺帶來了更大壓力。該平臺目前正面臨全球範圍內日益高漲的公眾譴責，以及從法國到印度等各國展開的刑事和監管調查。

該公司在一份聲明中表示：“有報導稱，Grok被用於在X平臺上製作和傳播非法的非自願親密圖像及兒童性虐待材料，這些消息令人深感憂慮。”

監管機構表示，各平臺必須保護英國人民免受非法內容的侵害，並補充稱，若懷疑企業未能履行其職責，尤其是存在危害兒童風險的情況，該機構將’毫不猶豫地展開調查’。

週一被問及調查事宜時，X公司援引此前聲明稱，平臺會採取行動打擊非法內容（包括兒童性虐待材料），具體措施包括刪除相關內容、永久封禁帳戶，並在必要時與當地政府和執法部門合作。

“任何使用或誘導Grok生成非法內容的人，都將面臨與上傳非法內容相同的後果。”該公司表示。

斯塔默：格羅克圖像‘令人作嘔’、‘違法’

在週四英國首相基爾·斯塔默稱這些圖片’令人作嘔’且’違法’後，監管機構面臨採取行動的壓力。他表示，馬斯克的X平臺必須對Grok’加以管控’。

在針對未設置有效年齡驗證的色情網站採取初步行動後，格羅克案很可能成為英國《線上安全法》的首次重大考驗。該法案於2023年頒佈，但正由英國通信管理局（Ofcom）分階段實施。

週一被問及X是否可能被封禁時，英國商業大臣彼得·凱爾表示：“當然可以”，但他指出實施這一禁令的權力屬於英國通信管理局（Ofcom）。

馬斯克週六在X上發文稱，英國政府專注於打壓Grok和X平臺，’不過是想壓制言論自由’。

肯德爾週一表示，這並非言論自由問題。

“這是為了應對針對婦女和女童的暴力問題，”她向議員們表示。

“這關乎捍衛英國基本的體面與尊重價值觀，確保我們在現實生活中期待的標準在網路空間同樣得到維護，同時也關乎行使我們的主權權力。”

她表示，受害者和公眾都期望英國通信管理局（Ofcom）採取迅速而果斷的行動，並補充稱X平臺現在就可以採取行動，確保其平臺上無法分享非法材料。

根據《線上安全法案》，科技公司必須防止英國用戶接觸到非法內容，並在發現後予以刪除。

國際譴責聲浪不斷高漲

X 因該功能在其他國家受到譴責，該功能可能生成穿著暴露的女性及未成年人圖像。

法國官員已向檢方和監管機構舉報了X平臺，稱其內容“明顯違法”，與此同時印度當局也要求相關方作出解釋。印尼和馬來西亞上週末暫時封禁了Grok平臺。

X 表示，已將圖像中要求人物脫衣的請求限制為付費用戶。

英國通信管理局（Ofcom）將調查X公司是否未評估英國用戶可能看到非法內容的風險，以及是否考慮了兒童面臨的風險。

在最嚴重的違規情況下，它（相關機構）可要求法院責令”支付服務提供商或廣告商停止向某平臺提供服務”，或要求互聯網服務提供商在英國境內遮罩該網站。