一系列圍繞 X 公司旗下 AI 工具 Grok 的事件在日本引發關注。部分日本中學生和大學生被發現，在未經當事人同意的情況下，利用 Grok 生成同學的性暗示或性化圖像，這一行為已引起廣泛不安，相關使用者也開始擔心可能面臨法律後果。
自 Grok 於 2025 年 12 月 24 日上線圖像生成與編輯功能以來，社交平台上陸續出現大量將現實中的人物生成成裸露或身著暴露內衣的合成圖像，由此引發了多起受害者投訴。1 月 6 日，X 公司發佈警告稱，使用 Grok 製作性化篡改圖像的行為將被視為上傳違法內容，可能導致帳號內容刪除、永久封禁，並在必要時配合執法機構展開調查。
日本法律諮詢網站 Bengoshi.com 隨後出現了大量相關諮詢，提問者多為青少年和年輕用戶，他們表示此前並不清楚使用 Grok 可能帶來的法律風險。例如，有高中生坦言曾生成同班女生的裸露視頻，雖未傳播但擔心僅「製作」行為本身是否已構成違法；也有人詢問，僅向 AI 下達將同學處理成內衣形象的指令，是否會被認定為製作色情內容；還有大學生表示，儘管已刪除帳號和數據，但仍擔憂平台是否會將相關信息提交給警方，甚至考慮主動自首。
專攻互聯網法律的律師清水洋平指出，此類行為確實可能引發法律責任。他解
釋稱，如果生成的圖像涉及裸露或明顯性暗示內容，可能構成對當事人的名譽侵害或隱私權侵犯；在情節嚴重的情況下，甚至可能涉及刑事層面的誹謗罪或著作權侵權問題。
日本發生的這些事件，也被視為全球範圍內針對 Grok 的爭議之一。批評者認為，該工具在一定程度上降低了生成不當內容的門檻。多名向法律網站諮詢的用戶表示，直到看到 X 公司的正式警告後，才意識到行為的嚴重性。目前，他們最擔心的後果是刑事追責以及給家人帶來的社會影響。
