Grok 的新生成 AI 視頻工具的「辣味」模式引發了不少擔憂，似乎隱含著潛在的法律風險。與 Google 的 Veo 和 OpenAI 的 Sora 等其他視頻生成器已設置的防護措施不同，這些工具旨在阻止用戶創建不當內容和名人深偽視頻，Grok Imagine 則似乎毫不猶豫地允許用戶同時創作這兩類內容。實際上，在第一次使用該工具時，無需特別請求，它便迅速生成了毫無審查的泰勒·斯威夫特脫衣視頻。
Grok 的 Imagine 功能在 iOS 上允許用戶通過文本提示生成圖片，然後迅速將其轉換為視頻剪輯，提供四種預設模式：「自定義」、「正常」、「有趣」和「辣味」。雖然圖像生成器通常會避免生成可識別的名人，但當請求「泰勒·斯威夫特與男孩們慶祝 Coachella」時，生成了超過 30 張圖片可供選擇，其中幾張已顯示斯威夫特穿著暴露的服裝。
接下來，只需打開一張斯威夫特穿著銀色裙子和露肩上衣的圖片，點擊右下角的「製作視頻」選項，從下拉菜單中選擇「辣味」，然後確認出生年份（下載應用時並未要求這一步，儘管在 UK 生活的情況下，網路已經進行年齡限制）。視頻迅速生成了斯威夫特撕掉衣服並在一群 AI 生成的觀眾前跳舞的畫面。
儘管斯威夫特的形象並不完美，因為大多數生成的圖片都存在怪異的風格，但仍然可以辨識出她的樣貌。這款文本到圖像生成器並不會應要求生成完整或部分的裸體；請求斯威夫特或其他人的裸體圖片會生成空白方框。雖然「辣味」預設不一定會導致裸體，一些我嘗試的 AI 生成的斯威夫特 Coachella 圖片只展示了她性感搖擺或挑逗性地動作著衣物，但仍有幾張圖片最終還是呈現了她撕掉多數衣物的情景。
該圖像生成器可以應要求生成兒童的寫實圖片，但幸運的是，它拒絕不當地為其進行動畫處理，儘管「辣味」選項仍然可用。在所有測試中，選擇此選項只會添加一般性的動作。
考慮到該公司與泰勒·斯威夫特深偽視頻的複雜歷史，以及像《Take It Down Act》這樣的監管規定，應該會更加謹慎。雖然 xAI 的可接受使用政策禁止「以色情方式描繪他人的肖像」，Grok Imagine 卻似乎毫無阻止用戶創建名人肖像的措施，同時提供專門設計用於創作含部分裸體的暗示性視頻的服務。年齡檢查僅出現一次，且極其容易繞過，並未要求任何證明用戶所聲稱的年齡。
如果能夠做到這一點，那麼任何擁有 iPhone 和 $30 SuperGrok 訂閱的人也都能夠完成。根據 xAI 首席執行官埃隆·馬斯克的說法，自週一以來，Grok Imagine 已經生成了超過 3400 萬張圖片，使用量正在「迅速增長」。
