昨日早上，登錄 Facebook 時，看到一幅將羅馬競技場變成水上樂園的圖片。在 LinkedIn 上，大家忙著將自己的頭像轉換成宮崎駿角色，這都是 ChatGPT 最新更新的功勞。在 Threads 上，我看到一段將《Severance》演員重新想像成嬰兒的視頻。而在 X 上，則出現了一幅由 Grok 生成的埃隆·馬斯克和唐納德·特朗普的圖片，讓我十分不願意看到。
社交媒體的內容現在已經變得混亂不堪，充斥著合成內容。之前已經有關於 AI 垃圾內容興起的討論，這些內容既讓人尷尬又像是奇異的夢境。算法不斷向我推送它認為我關心的內容——《Severance》嬰兒、旅行靈感，以及一大堆對馬斯克的嘲諷。這一切似乎都在情理之中。
但我不禁思考：AI 是否真的毀掉了社交媒體？這只是無害的混亂，還是正在悄然改變我們對真相、信任和現實的看法？
AI 內容的最大問題之一是其數量之龐大，來自各個方面。AI 擁護者、同事、朋友，甚至是可能不知道自己在轉發什麼的祖母，以及應該更明智的品牌，都在這場 AI 垃圾內容的洪流中發聲。
為了理清這一混亂，我與創意總監兼社交媒體專家 Joe Goulcher 進行了交談。他每天都與品牌合作，對 AI 垃圾內容的洪流有著第一手的觀察。根據 Joe 的說法，AI 內容通常可分為四種不同的“類型”。
| 類型 | 描述 |
|---|---|
| 功能性 AI 垃圾 | 這是粗糙且劣質的內容，基本上是用來填補空白的庫存圖片，幾乎沒有任何意識的思考。 |
| 點擊誘餌垃圾 | 這類內容故意讓人感到厭惡，卻又設計成能引發討論的形式。 |
| ‘看看我做的！’ 文章 | 利用 AI 創造出類似《指環王》或《星際大戰》的內容，並聲稱這會改變行業，通常反應不佳。 |
| 真正優秀的內容 | 一些品牌確實在 AI 活動中展現了目的性和藝術性，但這類內容非常罕見，通常被大量垃圾淹沒。 |
這樣的分類雖然讓人感到黯淡，但卻有助於解釋為何 AI 內容似乎無處不在，以及為何它展現出多種反烏托邦的色彩。
當前的 AI 內容製作似乎僅僅是因為它能夠被創造出來。人們、品牌、整個企業都在不斷產出這些內容，並不一定因為有什麼要表達的，而是因為這些工具的存在、易用性，以及使用它們的壓力巨大。
這反映了科技領域的更深層問題。以 Apple 最近的 AI 失誤為例，儘管受到廣泛宣傳，AI 並未實現其所承諾的魔力。它被強行嵌入產品中，並非因為用戶有需求，而是因為股東希望在財報中聽到“AI”這個詞。
目前，AI 在許多應用中並未帶來革命性的變化，反而看起來像是一種昂貴的噱頭。Goulcher 將其比作音樂串流或下載的早期階段，形容這是一種“狂野西部”的局面。即便品牌在上面打上標誌，這並不意味著它在倫理上就正當。
如同加密貨幣或 NFT 一樣，創新、炒作、過度使用之後，隨之而來的是疲勞感。Goulcher 認為，這一技術炒作的圖表同樣可以應用於 AI 內容。他的直覺告訴他：“這個泡沫將會破裂。”而這種情況似乎正在發生。當 AI 數據集開始自我消耗，創新的驚喜感消失後，剩下的又是什麼？
他提出了一個更多人應該思考的問題：“這些價值數十億的工具究竟如何改善了我們的生活？”隨著新奇感的減退，倫理問題變得愈發明顯，震撼價值也在降低。
社交媒體在這之前並不完美，AI 並未引發這一切問題，問題早已存在。但這波生成內容的浪潮卻將其推向了奇異、衍生、令人頭痛的混亂。
如果 AI 正在淹沒我們的資訊流，還有更危險的事情正在發生：這些內容正在被武器化。雖然人們可能會對 AI 生成的名人嬰兒感到好笑，或對某些品牌的廣告感到不適，但這種反應忽略了更大、更可怕的情況。
因為 AI 能夠大規模地助長錯誤信息的傳播。例如，在歐洲，極右翼團體正在利用 AI 生成的圖片來激起憤怒、散播陰謀論和加劇分裂。這些並不僅僅是邊緣的惡作劇者，而是精心策劃的運動，旨在操控公眾輿論。
這只是其中一個例子。選舉錯誤信息、深偽色情、假戰爭畫面，這類內容在網上一直存在。如今，規則已經改變。無需技能、團隊或預算，只需一個敘事和放棄現實的意願。在社交媒體上，其他的一切自會隨之而來。
這才是真正的恐怖故事。不僅是我們淹沒在垃圾中，或品牌認為我們需要 AI 生成的廣告，而是我們正在滑向一個虛假信息的世界，假象的傳播速度超過了真實的速度。算法不在乎內容是否真實，只關心是否能夠獲得點擊、讚好和注意力。
【說明】4 個方法，讓你的 iPhone / Android 在香港無需 VPN 就能用 ChatGPT
