Elon Musk 所謂的「自由言論 AI」最近獲得了一次更新，這可能迅速轉變為一個名人深度偽造或政治動盪的工具。該公司剛剛宣佈了 Grok Imagine v0.9，這次更新帶來了多個改進，包括對聲音的支援，讓用戶可以在影片中添加自定義語音。
除此之外，Musk 還將這個影片生成工具免費提供給所有人使用。不過，最後兩個方面如果不設置適當的防護措施，可能會使該公司面臨嚴重的法律麻煩。
Grok Imagine 正式公開以對抗 Sora 2
新的 Grok v0.9 更新是一個重要的版本，尤其是對其 Imagine 影片生成模型來說。舊版無法在影片中添加聲音，並且僅限於 X Premium 和 SuperGrok 用戶使用。
但在最新的更新中，這些問題已得到解決，並且影片質量也有提升，從 16 FPS 提升至更平滑的 24 FPS。Elon Musk 在他的 X 帖子中宣佈了這次更新的發佈。
這似乎是對 OpenAI 的 Sora 2 的直接回應，該模型幾天前推出，並且採用邀請制，限制可使用新影片生成工具的用戶。Grok Imagine 在生成影片的速度上也更快，相比之下，Sora 可能需要一到兩分鐘的時間。
我用 Grok Imagine 讓特朗普說我想要的任何話
考慮到在 X 上的熱議，我想測試一下 Grok Imagine 的新功能以及它到底能做什麼。首先，我測試了一些隨意的提示，比如兩隻動畫動物互相對話、一輛 Tesla 和 F1 賽車比賽、一隻快樂的小狗，還有一輛用氣泡紙做的車子。一切看起來都相當不錯。
後來，我請它創造一個冰公主，並使用下拉菜單中的新語音選項說一些搞笑的話。它做得相當好。鑑於 Grok Imagine 的爭議性，我好奇它的防護措施到底有多嚴格。因此，我輸入了一些髒話，而公主毫不猶豫地完成了每一句話。
我在想，如果它可以這樣做，那麼它是否會允許我對現實中的公共人物做同樣的事情？我能否創造出政治領袖說出他們從未說過的話的影片？我不需要想太久，因為 Grok 完全沒有任何問題地滿足了我的要求。我能夠創造出特朗普總統的影片，並讓他說隨機的台詞，因為根本沒有任何限制。
這段語音，與視覺效果一樣，幾乎令人信服。這段低解析度的影片可以輕易地在 Facebook 或 X 上過關。我創造了一段 Musk 在極右集會上發言的影片，說著所有不太好的話，而 Grok 完全沒有拒絕我的要求，這是 ChatGPT 或 Gemini 會直接拒絕的。Grok 也沒有拒絕使用公共人物的肖像。
免費的 Grok Imagine 是一台零防護的深度偽造機器
如果這還不夠，Grok 的爭議性 Spicy 模式對於所有「其他」類型的請求也可用。事實上，你可以生成與名人相似的圖像已經非常令人擔憂，但Spicy 選項更進一步，這些同樣的人物可以在幾秒鐘內呈現出露骨或暗示性的姿勢。
它將影片中的人幾乎完全脫衣，僅穿著內衣，並且身體特徵被誇張。老實說，Grok 讓創造深度偽造變得如此簡單，角色願意說出任何你想讓他們說的淫穢話實在荒謬。
理解 Musk 希望將 Grok 保持為一個相較於 Gemini 和 ChatGPT 限制較少的平台，但某些防護措施仍然至關重要。如果沒有安全檢查，我可以輕易想像我的 X 動態消息會充斥著深度偽造的流行名人和重要人物說出一些他們從未說過的激進言論，這一切都要歸功於 Musk 的 Grok Imagine。
