《衞報》報導,三位美國參議員已向蘋果、 Google 及 Meta 的首席執行官發送信函,要求就未能阻止使用人工智能技術的「裸體化」應用程式的問題作出解釋。以下是詳情。
背景來看,上個月蘋果更新了其應用商店規則,旨在打擊那些使用戶能夠生成未經同意的裸體圖像的應用程式。根據更新的規則,允許用戶創建人工智能生成內容的應用程式必須包含防止濫用的保障措施,包括過濾不當材料的工具、舉報冒犯內容的功能,以及封鎖濫用用戶的選項。蘋果還警告,主要用於色情內容或物化真實人物的應用程式可能會在未通知的情況下被移除。
儘管蘋果的這些變更意圖良好,但在有關人工智能驅動的裸體化應用程式報導日益增多的背景下出台。兩個月前,蘋果因應《WIRED》的查詢,移除了允許用戶創建色情深偽影片的應用程式,而這一行動是發生在舊金山市檢察官大衞·邱要求蘋果和 Google 移除幾個裸體化應用程式的一個月後。蘋果也移除了多個相關應用程式。
根據《衞報》的獨家報導,三位參議院民主黨成員向科技公司首席執行官發送信函,表示這些平台對裸體化應用程式的保障措施不足。報導指出,三位美國參議員聲稱蘋果和 Google 未能有效檢測和移除可能生成未經同意的裸體或色情圖像的應用程式。他們還表示,Meta 持續從這些所謂的裸體化應用程式的廣告中獲利,這些應用程式「使全球女性和女孩受到侵害」。參議員包括來自俄勒岡州的朗·威登、馬薩諸塞州的艾德·馬基及新墨西哥州的本·盧詹。
美國參議員對科技公司提出的警告
他們聲稱,除了未能移除這些應用程式外,這些公司可能實際上也從其分發和推廣中獲利。對於信件的評論, Google 和 Meta 均表示禁止此類應用程式及其推廣,並致力於檢測和移除平台上的違規行為,這與蘋果過去在面對相同問題時所作的回應大致相同。然而,威登的辦公室認為,僅僅重申或更新政策,如果公司在執行上持續掙扎,那些行動幾乎毫無意義。
根據《衞報》的報導,威登的首席傳訊顧問兼副政策主任基思·朱表示,澄清政策與執行政策並非同一回事。他補充道,儘管這些公司重申禁止這些應用程式,但它們仍在蘋果和 Google 的應用商店中大量存在,或在 Meta 平台的廣告中被推廣。在最近的一項調查中,TTP 發現應用商店和 Play 商店中有 135 個應用程式能夠生成裸體或色情圖像,且使用的帳戶是註冊於 13 歲男孩的。此外,研究人員發現,即使設置了家長控制的帳戶也能在不需要家長批准的情況下下載這些應用程式。
雖然蘋果和 Google 移除了調查中識別的應用程式,但《衞報》指出,這些應用程式在已經安裝的設備上仍然可以運行。現在,參議員威登警告,如果這些公司未能更好地打擊這些應用程式,國會可能需要介入。

