根據《WIRED》的報導，Meta 曾經在推廣一款現已下架的應用程式，該應用程式允許用户創建基於真實人物的 AI 生成色情深偽影像，其中一則廣告展示了一名與美國知名女政治人物相似的女性。以下是詳情。
Meta 和蘋果針對色情深偽影像的應用程式採取行動
蘋果表示該應用在審查後添加了禁止的功能。根據《WIRED》的報導，Meta 為一款自稱為「男性實際使用的 AI」的應用程式展開了一項宣傳活動，其中一則廣告展示了一名與美國知名女政治人物極為相似的女性的 AI 生成色情深偽影像。報導指出，這款名為 Kromix 的工具自稱是「AI 影像風格化器」。在《WIRED》觀看的其中一則視頻廣告中，旁白宣傳該工具「沒有任何限制」，並表示「所有角色均為真實人物」，形容其為「男性實際使用的 AI」。
在一則廣告中，一名與知名女政治人物相似的女性出現在美國國旗及總統旗幟前，廣告標題為「如果她移動呢？」隨後她眨眼，廣告切換至一位擁有相似面孔的女性在色情影片中表演的場景。
報導指出，兩家公司在《WIRED》聯繫後隨即採取行動：蘋果從應用商店中移除了該應用，而 Meta 則撤下了針對男性用户的 32 則廣告。蘋果在回覆《WIRED》時強調，Kromix 似乎在通過應用商店的初步審查後添加了禁止的內容和功能。該公司還表示：「我們一直嚴格禁止設計用於生成、分發或消費色情內容的應用程式。[…]『去衣化』應用違反了我們的應用審查指導方針，我們積極工作以識別和移除試圖逃避我們流程和政策的應用程式及其開發者帳户。」
蘋果的觀點與上個月舊金山城市檢察官 David Chiu 要求該公司從應用商店中移除八款「去衣化」應用時所作的評論相似。回到《WIRED》的報導中，指出 Kromix 並非蘋果最近在被該出版物聯繫後移除的唯一此類應用。在另一項調查中，《WIRED》發現 Meta 上有幾則問題廣告與 MaskAI 有關，這是一款類似的應用程式，允許用户上傳照片並將人物置入性情境中。蘋果在《WIRED》聯繫後也移除了該應用。
