因旗下人工智能聊天機器人 Grok 被指導致女性及兒童遭受侵害並引發廣泛批評，Elon Musk 創立的 xAI 公司宣布將禁用該工具生成現實人物色情化圖像的功能。
此外，在相關行為被認定為違法的國家和地區，該公司還禁止 Grok 生成「現實人物身著比基尼、內衣及同類服飾的圖像」。 此次對 Grok 的技術調整，源於數周前有用戶利用這款人工智能聊天機器人，在未經當事人同意的情況下，對女性和兒童的圖像進行數字「脫衣」處理，導致 X 平台上充斥著數千張人工智能生成的色情化圖像。 這一功能已遭到全球多國政府與監管機構的譴責。美國加利福尼亞州總檢察長辦公室已於本週三對 xAI 公司正式展開調查。法國、英國等多個歐洲國家也已針對 xAI 及 Grok 啟動類似調查程序。
歐盟方面同樣在開展核查工作，確認相關圖像是否違反《數字服務法案》；馬來西亞與印度尼西亞則直接限制了本國用戶對 Grok 工具的訪問權限。 截至目前，Elon Musk 仍在為這項技術辯護，轉而將責任歸咎於濫用工具的用戶。但 xAI 公司在聲明中強調：「我們對任何形式的兒童性剝削、未經同意的裸露內容及惡意色情內容，秉持零容忍態度。」該公司還表示：「我們始終致力於將 X 打造成一個對所有人都安全的平台。」
禁用色情化圖像功能
該公司於社交平台 X 上發文稱：「我們已採取技術措施，禁止 Grok 帳號對現實人物的圖像進行編輯，使其呈現身著比基尼等暴露服飾的效果。」同時表示，這項調整適用於 X 平台的所有用戶，付費訂閱用戶也不例外。就在上週，該公司剛將 Grok 的圖像生成與編輯功能的使用權限，限定為僅向付費用戶開放。 xAI 公司指出，X 平台的付費訂閱用戶仍可使用 Grok 編輯和生成其他符合平台服務條款的人工智能生成圖像。此外，在相關行為被認定為違法的國家和地區，該公司還禁止 Grok 生成「現實人物身著比基尼、內衣及同類服飾的圖像」。 此次對 Grok 的技術調整，源於數周前有用戶利用這款人工智能聊天機器人，在未經當事人同意的情況下，對女性和兒童的圖像進行數字「脫衣」處理，導致 X 平台上充斥著數千張人工智能生成的色情化圖像。 這一功能已遭到全球多國政府與監管機構的譴責。美國加利福尼亞州總檢察長辦公室已於本週三對 xAI 公司正式展開調查。法國、英國等多個歐洲國家也已針對 xAI 及 Grok 啟動類似調查程序。
歐盟方面同樣在開展核查工作，確認相關圖像是否違反《數字服務法案》；馬來西亞與印度尼西亞則直接限制了本國用戶對 Grok 工具的訪問權限。 截至目前，Elon Musk 仍在為這項技術辯護，轉而將責任歸咎於濫用工具的用戶。但 xAI 公司在聲明中強調：「我們對任何形式的兒童性剝削、未經同意的裸露內容及惡意色情內容，秉持零容忍態度。」該公司還表示：「我們始終致力於將 X 打造成一個對所有人都安全的平台。」
