埃隆・Elon Musk旗下的人工智能工具 Grok 已被印度尼西亞和馬來西亞封禁，這兩個國家也是全球首批封禁該工具的國家。此前，Grok 的「數字脫衣」功能在互聯網上傳播了大量經篡改的、帶有性暗示及低俗色情性質的女性和未成年人圖像。
隨著用戶使用這款人工智能工具生成露骨色情深度偽造內容的行為形成病毒式傳播趨勢，國際社會對Elon Musk管控 Grok 的壓力不斷加大。Grok 是Elon Musk旗下社交媒體平台 X（前身為推特）推出的一款工具。
封禁原因
印度尼西亞數字事務部長穆蒂婭・哈菲德於周六發表聲明稱，此次封禁旨在「保護女性、兒童及廣大公眾免受人工智能技術生成的虛假色情內容所帶來的危害」。馬來西亞則於周日宣布了針對 Grok 的臨時封禁令，理由是「Grok 被反復濫用於生成低俗色情、露骨猥瑣、格調低下、令人強烈反感且未經當事人同意的篡改圖像，其中不乏涉及女性和未成年人的內容」。
印度尼西亞和馬來西亞均為穆斯林人口占多數的國家，兩國都出台了嚴格的反色情法律。英國、歐盟以及印度的相關官員也已對 Grok 的內容管控機制表達了擔憂。
Elon Musk及其旗下的 xAI 之前曾表示，他們正通過永久封禁違規帳號，以及「與地方政府和執法部門展開合作」的方式來解決這一問題。但 Grok 針對用戶請求生成的內容中，仍充斥著大量對女性進行性化刻畫的圖像。
與其他主流人工智能模型相比，Grok 被許多用戶視為一個異類——它不僅允許生成露骨色情內容，在某些情況下還會主動推廣這類內容及虛擬陪伴形象。這場「數字脫衣」風潮始於去年年末，當時大量用戶發現，他們可以在平台 X 上標記 Grok，利用該工具對圖像進行篡改處理。
用戶通過向這款聊天機器人下達指令，生成人物身著比基尼、擺出性暗示姿勢的圖像，這給全球數十萬女性帶來了心理困擾。
歐洲非營利算法調查機構「人工智能鑑真組織」的研究人員，對去年 12 月 25 日至今年 1 月 1 日期間 Grok 生成的 2 萬餘張隨機圖像，以及 5 萬條用戶指令展開了分析。
研究人員發現，這些用戶指令中「頻繁出現‘她的’‘穿上/脫掉’‘比基尼’以及‘衣物’等詞彙」。在生成的人物類圖像中，超過一半圖像的人物「身著內衣、比基尼等暴露服飾」。
Elon Musk反對內容審查，長期以來在公開場合主張抵制「過度迎合政治正確」的人工智能模型，以及他口中的「內容審查」行為。但據一位了解 xAI 內部情況的消息人士透露，這位億萬富翁在公司內部也對 Grok 的內容管控規則持反對態度。
xAI 的安全團隊規模本就小於行業競爭對手，而在此次爭議爆發前的數周內，該團隊又有多名員工離職。Elon Musk曾表示，任何利用 Grok 生成非法內容的用戶都將承擔相應後果。但對於這款工具上存在的色情內容爭議，他在很大程度上置之不理，聲稱各國政府「只是想壓制言論自由」，並以發表表情符號的方式回應外界的批評。
上週，Grok 已將部分圖像生成功能僅限平台 X 的付費訂閱用戶使用，但這項限制僅針對用戶與 Grok 互動的其中一種方式。非訂閱用戶仍可在平台 X 上請求 Grok 編輯圖像，而圖像及視頻生成功能，也依舊可通過 Grok 的獨立網站和應用程序免費使用。
英國技術大臣莉茲・肯德爾於周五發表講話，呼籲各方迅速採取行動，打擊深度偽造圖像的傳播。她表示：「對女性和兒童的圖像進行性化篡改，是卑劣且令人憎惡的行為。」她還補充道：「我希望英國通信管理局能行使議會賦予的全部法定權力，採取有力措施。」
