Elon Musk 最近推出了名為 Grok Imagine v0.9 的更新，這一「自由言論的人工智慧」可能迅速演變為名人深偽技術或引發政治風波的工具。該公司宣布該更新帶來了多項改進，包括支持音效，允許用戶在視頻中添加自定義語音。
此外，Musk 還將這個視頻生成工具對所有人免費開放。然而，這最後兩個方面若未設置適當的防護措施，可能會使公司面臨嚴重的法律問題。
在更新中，Grok Imagine v0.9 對其視頻生成模型進行了重大改進。舊版本無法為視頻添加音效，且僅限於 X Premium 和 SuperGrok 用戶使用。最新更新解決了這些問題，並提高了視頻質量，從 16 FPS 提升至更流暢的 24 FPS。Musk 在他的 X 發文中宣布了這一新更新的發布。
這看似是對 OpenAI 最近推出的 Sora 2 的直接回應，後者採用邀請制，限制了能使用新視頻生成工具的用戶。而 Grok Imagine 則在生成視頻的速度上更具優勢，僅需幾秒鐘，而 Sora 可能需要一到兩分鐘。
為了驗證 Grok Imagine 的新功能，進行了一些測試，包括讓兩隻動畫動物對話、特斯拉與 F1 賽車競速、快樂的狗以及用氣泡紙製作的車輛。結果看起來相當不錯。
接著，請求生成一位冰雪公主，並使用下拉菜單中的新語音選項讓她說一些搞笑的台詞。結果非常成功。考慮到 Grok Imagine 的爭議性，測試其防護措施的嚴格性成為了好奇心的驅動力。輸入一些髒話後，公主毫不猶豫地完成了所有台詞。
如果可以這樣做，是否也能對現實中的公眾人物進行同樣的操作？我不需要太久就得到了答案，Grok 輕鬆滿足了我的請求，生成了多段前總統 Donald Trump 的視頻，讓他說出隨機的台詞，沒有任何限制。
語音與視覺效果幾乎讓人信服，低解析度的視頻在 Facebook 或 X 上可能輕易被視為真實。我還創建了一段 Musk 在極右集會上的視頻，讓他在台上說出不堪的言論，而 Grok 在整個過程中從未拒絕我的請求，這是 ChatGPT 或 Gemini 明顯不會允許的。Grok 也沒有拒絕使用公眾人物的肖像。
Grok Imagine 無疑是一個缺乏防護的深偽機器。其爭議性的 Spicy 模式可用於生成「其他」類型的請求。能夠生成與名人相似的圖像本身就令人擔憂，而 Spicy 選項則進一步將這些人物呈現在露骨或暗示的姿勢中，僅需幾秒鐘。
這使得視頻中的人物幾乎完全裸露，僅穿著內衣，身體特徵被誇大。由於 Grok 使得生成深偽技術變得如此簡單，任何人都能創建出願意說出各種不當言論的角色。
儘管 Musk 希望讓 Grok 成為一個相比 Gemini 和 ChatGPT 擁有最少限制的平台，但某些防護措施仍然至關重要。若缺乏安全檢查，可以想像 X 平台上將充斥著名人和知名人物說出他們從未說過的激進言論的深偽視頻。
