本網綜合 Raphael Satter  報導   埃隆·馬斯克的人工智慧公司 xAI 週三晚間表示，已對旗下 Grok AI 聊天機器人的所有用戶實施限制，禁止其編輯圖像。此前，該服務生成的色情圖片引發了全球監管機構的擔憂。

該公司在 X 平臺發佈的一篇帖子中稱：“我們已採取技術措施，禁止 Grok 帳戶上傳穿著比基尼等暴露服裝的真實人物照片。這一限制適用於所有用戶，包括付費訂閱用戶。”

本月，一些經過處理的女性超寫實圖片開始在社交媒體平臺 X 上氾濫，這些圖片中女性被處理得像是穿著極小的比基尼，擺出低俗的姿勢，或者渾身是傷。在某些情況下，未成年人的圖片被數字處理成只穿著泳裝的樣子，引發了廣泛批評。

上周，Grok 開始僅允許付費訂閱用戶使用其圖像生成和編輯功能。上周，X 限制了 Grok 為許多用戶公開生成或編輯圖像的能力，但路透社發現，在 xAI 發佈聲明前的週三，該聊天機器人仍可應要求私下生成帶有性暗示的圖像。

億萬富翁馬斯克擁有 xAI，而 xAI 又擁有 X，X 前身是推特。

xAI 在週三補充稱，它會根據用戶所在位置，阻止他們在“相關行為屬非法的司法管轄區”生成穿著暴露的人像圖片。但該公司並未透露這些司法管轄區的具體名稱。

加州官員要求給出答案

週三早些時候，加州州長和司法部長表示，在馬斯克稱自己不知曉 Grok 生成了任何“裸露的未成年圖像”之後，他們要求 xAI 給出解釋。

加州檢察長羅布·邦塔在 X 平臺上發文稱：“我們要求 xAI 立即就其阻止此類內容創作和傳播的計畫給出答復。”州長加文·紐瑟姆呼籲邦塔“立即對該公司展開調查，並追究 xAI 的責任。”

紐瑟姆和邦塔的評論是迄今為止美國官員就 X 平臺上爆炸式增長的未經同意的 AI 生成色情圖像所發表的最嚴厲的言論。

加州的這一舉措給馬斯克在美國乃至全球面臨的壓力又添了一把火。立法者和維權團體呼籲蘋果和穀歌將 Grok 從應用商店中下架。

政府官員在歐洲和英國威脅要採取行動。印尼暫時封鎖了 Grok 的訪問。

起初，馬斯克公開對這場爭議一笑置之，對其他用戶有關大量色情照片湧入的評論回復了搞笑的表情符號。最近，X 表示，它對有關兒童性虐待材料的舉報非常重視，並會嚴格監管。

馬斯克週三早些時候表示：“我完全不知道 Grok 生成了任何裸體未成年人的圖像。真的一個都沒有。”

對於有關加州的聲明以及馬斯克的言論，X 暫未立即作出回應。

對於加州官員的聲明以及馬斯克稱自己不知曉存在未成年人色情圖像的帖子，xAI 未直接回復路透社的置評請求。路透社收到的是其針對問詢的通用自動回復資訊：“傳統媒體在撒謊。”