數百款具隱藏性別和暴力深度偽造功能的人工智能應用程式已成功進入 Apple 的應用程式商店，並通過了應用程式審查。這些應用程式同樣在 Google Play 商店中可供下載。一項調查發現，超過 400 款應用程式顯然由一個中國組織所創建。這些應用程式允許用戶上傳照片，然後生成性別和暴力的深度偽造圖像，可能用於羞辱或威脅受害者。
A Wired 的調查揭示了一個連接超過 400 個相關域名和應用程式的網絡，這些應用程式具備隱藏的虐待功能。像 Viefur 這樣的應用聲稱可用於為寵物照片添加衣物，實際上卻常常聲稱提供日常服務，例如語言教學或人工智能健身教練。然而，在特定條件下，這些應用程式偷偷加載一個網頁介面，允許生成用戶上傳照片的露骨人工智能性別圖像和影片。這些應用程式包含如“卧室強姦”和“威脅持刀”的 AI 場景，其中一名男子將刀子對著一名女子的脖子。
Wired 表示，這個網絡之所以能隱藏於眾人眼前，得益於在 Facebook 和 Instagram 上發布的數千則影片廣告。
人工智能應用程式的隱藏功能對社會造成威脅
這些應用程式有些已存在一年，並且在 Apple、Google 和 Meta 的審查中通過，儘管每個平台都有明確的政策禁止有害的深度偽造內容。這些應用程式使用了誘導策略來通過應用程式審查。它們通常顯示無害的內容，但伺服器檢查可以激活隱藏功能。在 Meta 平台上點擊廣告後下載應用程式似乎是觸發之一。然後，可以下載數十款色情照片和影片模板，用戶需購買積分以生成基於其上傳照片的深度偽造內容。
在 Wired 分享相關細節後，Apple 移除了 19 款應用程式。Apple 表示：「我們在發布前會審查每款應用程式，這些應用程式在我們審查時是符合我們的規則的。獲批後，其開發者更改了應用程式所提取內容的網站，將我們批准的內容替換為色情內容，並通過第三方平台上發佈的色情廣告進行推廣。」該公司最近加強了對這種做法的保護措施。Meta 表示，已對與這些應用程式相關的域名的超過 10,000 個廣告帳戶採取行動。
