因埃隆・Elon Musk旗下的人工智能聊天機器人 Grok 在社交平台 X 上生成包含未成年人在內的色情化圖像，歐盟目前正對該工具展開「嚴肅審查」。歐盟委員會發言人托馬斯・勒尼耶在周一的新聞發布會上表示：「我們已注意到，X 平台或其旗下 Grok 聊天機器人推出了‘火辣模式’，該模式所生成的內容包含露骨色情信息，部分產出還帶有兒童形象特徵。」他所指的「火辣模式」是 Grok 於去年推出的功能，可生成帶有性暗示的內容。勒尼耶強調：「這絕非什麼‘火辣內容’，而是徹頭徹尾的違法行為。」
X 平台用戶近期頻繁使用 Grok 的功能，對上傳的照片進行「數字脫衣」處理——這類照片的主體大多為女性，處理後人物僅身著內衣或比基尼。
此類圖像在這一熱門社交平台上的泛濫，引發全球監管機構與網絡安全倡導者的警惕，印度、英國、法國等多國官員均對相關帖文予以譴責。
負責運營 X 平台與 Grok 的 XAI 公司，尚未就此事回應置評請求。Elon Musk於周日在 X 平台發文稱，平台會對非法內容採取清理措施，永久封禁相關賬號，並在必要時配合官方開展調查。他在帖文中表示：「任何利用 Grok 生成非法內容的用戶，都將面臨與直接上傳非法內容同等的後果。」
儘管多數主流人工智能模型均明令禁止生成色情圖像與視頻，但 XAI 公司卻將 Grok 定位為「更寬鬆開放」的工具。
該系統允許生成成年人局部裸露及帶有性暗示的圖像，但明令禁止製作以真實人物為原型的露骨色情內容，以及涉及未成年人的性相關內容。在美國、英國等部分國家，未經本人同意便發布人工智能生成的私密「深度偽造」圖像，本身即屬違法行為。能否明確界定並嚴格執行上述禁令，成為檢驗圖像生成類人工智能工具安全防護機制是否完善的關鍵標準。
XAI 公司顯然未能為 Grok 搭建起有效的防護屏障，這一點已招致全球監管機構的一致譴責。荷蘭議員杰倫・萊納斯在周二的一份聲明中指出：「如果人工智能平台執意允許生成色情內容，就必須提前建立起健全、有效且可獨立核驗的防護措施。
」萊納斯正是去年推動歐洲議會通過法案，將人工智能生成虐童圖像列為刑事犯罪的核心人物。
萊納斯進一步補充道，像 Grok 這樣在事發後才刪除相關帖文的做法「根本算不上解決方案」，因為「受害者所遭受的傷害已然造成，且無法挽回」。他強調：「若人工智能平台選擇開放色情內容生成功能，就必須提前建立健全、有效且可獨立核驗的防護機制。在兒童色情內容生成後再進行清理，絕非解決之道——傷害既已造成，便無法逆轉。人工智能平台理應為保護兒童網絡安全承擔更大責任，但顯而易見的是，商業利益的權重似乎正持續壓倒兒童網絡保護工作。
」
英國媒體監管機構英國通訊管理局於周一表示，已獲悉外界針對 Grok 功能的「嚴重關切」，並已「緊急聯絡 X 平台與 XAI 公司，要求其說明為履行保護英國用戶的法律義務所採取的具體措施」。法國政府於上周五指控稱，Grok 在 X 平台上未經當事人同意生成「明顯違法」的色情內容，認為此事或已違反歐盟《數字服務法案》。該法案要求大型平台必須採取措施，降低非法內容傳播的風險。
印度電子和信息技術部已責令相關方對 Grok 的安全功能展開全面審查；馬來西亞官方則表示，在收到關於 Grok 生成「不雅內容」的投訴後，正對此事展開調查。
Elon Musk旗下的 X 平台此前已因涉嫌違反歐盟《數字服務法案》遭調查，並於去年 12 月因合規不力被處以 1.2 億歐元（約合 1.4 億美元）的罰款——這也是這項頗具爭議的內容治理法案開出的首張罰單。歐盟對 X 等美國科技企業的重點監管舉措，遭到美國特朗普政府的強烈批評，美方稱歐洲監管機構的做法實質是在「審查言論自由」。
