Apple 更新了其應用商店的內容管理政策,以確保用戶不會利用應用程式,包括使用人工智能工具的應用,將正常的圖片轉變為色情內容。該公司一直以來都禁止在應用商店內上架色情材料,而專門用於生成色情圖片的應用也早已不被允許。現在,Apple 亦希望開發者能主動監控其應用的使用情況。擁有用戶生成內容的應用開發者,現在被要求過濾非自願的親密影像,包括那些利用人工智能工具生成的圖片。
他們必須提供用戶舉報冒犯內容的方式,並封鎖濫用帳戶。此外,開發者還必須防止用戶上傳此類圖片,並移除任何未能通過過濾系統的圖片。如果開發者未能實施足夠的安全措施或在收到通知後未能及時糾正任何違規行為,則將面臨被移除出應用商店的風險。
此外,Apple 亦明確了對於使用誘導性手法的應用的規則。如果 Apple 發現某應用在審查期間對其目的進行了錯誤陳述,且實際上具備「色情化」的功能,則該應用將被移除,並且其創建者將被逐出 Apple 開發者計劃。

