根據近期報導，Meta 這家全球最大的社交媒體公司，明知其廣告中存在詐騙，卻仍然從中獲利數十億美元。根據路透社曝光的內部文件，Facebook、Instagram 和 WhatsApp 的用戶每天會看到高達 150 億條廣告，內容涉及各種詐騙，包括假冒特朗普的刺激金支票和利用 Elon Musk 的深度偽造影像推銷加密貨幣。報導指出，Meta 明白這些廣告的存在，並且其信任與安全團隊估計，美國約有三分之一的詐騙事件涉及 Meta 的平台。
詐騙問題並不小。在去年，美國人向聯邦調查局報告的損失達到 160 億美元，而這個數字可能低於實際金額，因為詐騙案件通常報告不足。據全球反詐騙聯盟的估計，2024 年全球詐騙者從公眾手中盜取的金額超過 1 兆美元。受害者往往是固定收入的老年人、尋找工作的年輕人、移民以及經歷過渡或困難時期的人。這些人對於政府福利或穩定工作的承諾非常渴望，即使是數百美元的損失也可能對他們造成毀滅性影響。
然而，對於 Meta 來說，這些問題似乎並不重要。路透社報導指出，Meta 每年從詐騙廣告及違禁商品廣告中賺取 160 億美元，佔其總年收入的 10%。其中有 70 億美元來自那些明顯具備詐騙特徵的廣告，例如假冒公眾人物或品牌的廣告。即使是重罰，對這樣的高額利潤來說也顯得微不足道。
作為研究 AI 和詐騙的專家，常常會被問到該如何解決這個問題。與其推行金融素養和反詐騙活動，對個體施加壓力，反而可能讓受害者感到羞愧，應該追究 Meta 在此惡性循環中的責任。Meta 顯然能夠輕鬆識別許多詐騙廣告，但路透社指出，其內部系統要求廣告必須有 95% 的確定性才會被移除。此外，《華爾街日報》報導稱，即使廣告被識別為詐騙，Meta 仍會給予該帳戶 8 到 32 次的「警告」，才會禁止其帳戶。因此，即使是已經被標記和移除廣告的詐騙廣告主，仍然可以在數月內繼續投放其他廣告，從無辜的受害者身上榨取數千美元。
不幸的是，線上廣告生態系統使問題變得更加複雜。點擊詐騙廣告的用戶，會因為算法推薦系統而看到更多詐騙廣告。這意味著，對於那些對詐騙廣告感興趣而點擊的脆弱用戶來說，他們將接收到的詐騙廣告會更多。Meta 的發言人 Andy Stone 對路透社的報導表示異議，稱這些洩露的文件呈現了選擇性觀點，扭曲了 Meta 對於詐騙的應對措施。他強調，這一數字只是粗略且過於包含的估計，而非確定或最終數字。
詐騙是一個全球性行業，主要是由跨國犯罪組織運營的東南亞詐騙基地所驅動，這些組織與線上賭博有著密切的聯繫。這些詐騙基地的工作人員往往是被販賣的人口，因為承諾能獲得白領工作而被誘騙進入近乎奴役的境地。年輕人被威脅著長時間從事戀愛和投資詐騙。這些犯罪組織正在快速採用自動化和人工智能，以提升詐騙的效率，持續擴大其範圍和規模，並不斷多樣化其手法。Meta 平台上運行的廣告往往是經過 AI 增強的，利用知名企業家的深度偽造影像推廣虛假投資機會，甚至用美國政治人物的合成視頻宣傳不存在的刺激金支票。隨著技術進步和犯罪集團持續繁榮，這一問題可能會變得更加嚴重。
Meta 需要承擔相應的責任。首先，應降低移除詐騙廣告的門檻。一旦某個廣告被移除，該廣告主的所有其他廣告應該一併移除。其次，Meta 應擴大識別詐騙廣告的技術手段。調查監察組織 Tech Transparency Project 能夠輕鬆找到詐騙廣告，僅需利用一組簡單的標準：廣告宣傳假冒政府福利，使用聯邦貿易委員會認定的詐騙手法，受害者已向商業改善局投訴，或是 Meta 之前已移除該廣告主的詐騙廣告。如果一家小型非營利組織能在識別詐騙廣告上做得比一家市值數十億的公司更好，那麼該公司顯然存在問題。
最後，Meta 應該制定驗證廣告主的要求，只有使用「真實姓名」的廣告主才能購買廣告。這樣也能減少深度偽造廣告的使用，並為監管機構和執法機構提供可追溯的資料。顯然，對線上廣告的監管也需要加強。各國政府應該將像 Meta 這樣的主要科技平台視為負有責任的實體。
