一封新信函已發送給聯邦貿易委員會及美國所有 50 個州和哥倫比亞特區的檢察官，呼籲對埃隆·馬斯克的 Grok 進行緊急調查，尤其是其新推出的 AI 生成圖像和視頻的「Imagine」工具。這個工具由 xAI 於本月早些時候發布，鼓勵用戶透過「Spicy」模式創建不當內容，首次測試時，《The Verge》發現該工具自動生成了泰勒·斯威夫特的裸露深偽視頻，甚至並未要求這樣做。
今天的信函由美國消費者聯盟（CFA）牽頭，並獲得了包括科技監管項目、經濟正義中心和電子隱私信息中心（EPIC）在內的 14 個其他消費者保護組織的簽署。信中直接引用了《The Verge》對 Grok 生成名人深偽視頻的報導，並指出雖然該平台目前未對用戶上傳的真實照片提供「Spicy」模式（這將對報復色情和其他侵害行為構成更大擔憂），但它「仍然從工具生成的圖像中生成裸體視頻，這些視頻可以用來創建看起來像真實特定人物的圖像。此類視頻的生成可能對被描繪者及未成年人造成有害後果。」
信中進一步表示，如果「Spicy」模式對用戶上傳的照片的限制被取消，將「釋放出大量明顯不經同意的深偽內容。事實上，該平台及其首席執行官有在所謂的『言論自由』名義下移除監管保障的傾向。」根據美國的《取下法案》，故意分發真實人物的 AI 裸照是非法的，儘管其條款不太可能適用於 Grok。這些組織要求聯邦貿易委員會調查 xAI 可能違反的非自願親密影像法律。
CFA 和其他組織還表示擔憂，唯一阻止未成年人使用「Spicy」模式生成性圖像的手段僅是一個彈出窗口，要求用戶選擇年齡或確認是否已滿 18 歲。這些組織還提到，其中一個彈出窗口預設選擇的出生年份為「2000」，可能違反《兒童在線隱私保護法》或針對成人內容的州特定年齡驗證法律。
