歐盟已經對Grok聊天機器人展開調查，該機器人被指生成兒童性虐待材料。據估算，Grok在短短11天內生成了23,000張與兒童有關的性虐待圖片。更新消息：愛爾蘭也啟動了第二次調查，重點是可能的隱私違規行為。儘管多次呼籲Apple和Google暫時將X和Grok從應用商店中下架，但這兩家公司尚未採取行動。
與其他AI聊天機器人類似，xAI的Grok能夠根據文本提示生成圖片。用戶可以在應用內、網頁或通過X進行操作。然而，Grok的管控措施非常鬆散，導致其生成實際個體的未經同意的半裸圖片，包括兒童。Engadget報導指出，據估計，Grok在短短11天內生成的性虐待圖片約為23,000張。反對數字仇恨中心（CCDH）發布了相關研究結果，該英國非營利組織基於從12月29日至1月9日隨機抽取的20,000張Grok圖片進行分析。
CCDH根據這段期間Grok生成的460萬張圖片進行了更廣泛的推斷。根據估算，在這11天內，Grok生成了大約300萬張性暗示圖片，其中包括約23,000張兒童的圖片。換句話說，Grok在這11天內每分鐘生成約190張性暗示圖片，其中每41秒就會生成一張兒童的性暗示圖片。
本月初，三位美國參議員要求Apple CEO Tim Cook暫時將X和Grok從應用商店中下架，原因是該內容的產生令人作嘔。該公司尚未作出回應。目前已有兩個國家封鎖了該應用，加州和英國的調查也已展開。《金融時報》報導，歐盟現在也開展了調查。這項調查於本週一根據歐盟的《數字服務法》宣布，將評估xAI是否試圖減輕Grok工具在X上部署的風險，以及可能構成兒童性虐待材料的內容的擴散。
歐盟科技主管Henna Virkkunen表示：「女性和兒童的未經同意性深度偽造是暴力且不可接受的貶低形式。」如果該公司被發現違反了《數字服務法》，可能面臨高達其全球年收入6%的罰款。
