歐洲議會議員同歐盟成員國近日就修訂《人工智能法案》達成共識，同意禁止 AI 生成「深度偽造」的色情內容。據悉，呢個禁令將納入 2024 年通過的《人工智能法案》修訂條款，意味歐盟將喺法律層面，對相關 AI 濫用行為劃出明確紅線。 歐洲議會議員 Michael McNamara 表示，呢係歐盟首次透過立法明確禁止「脫衣換臉」類應用程式。他強調：「歐盟今日劃定咗『紅線』。
人工智能絕唔可以被用嚟羞辱、剝削或危害他人。」
AI 深度偽造色情內容引發全球關注
近年，AI 深度偽造色情內容引發全球關注。今年 1 月，Elon Musk 旗下社交媒體平台 X 的 AI 聊天機械人 Grok，就曾被部分用戶濫用嚟生成色情內容，並被推上輿論風口浪尖。 根據人工智能取證組織報告，喺 2025 年 12 月 25 日至 2026 年 1 月 1 日期間，Grok 以深度偽造方式生成嘅 2 萬張圖像中，55% 的人物圖像著住暴露服裝，其中 81% 係女性，另有 2% 嘅圖像中人物年齡不足 18 歲。
喺持續數週嘅輿論壓力下，X 於 1 月 14 日宣布對 Grok 採取限制措施，禁止該功能生成真人裸露圖像。X 平台安全團隊表示，已實施技術措施，防止 Grok 帳號允許編輯真人著比基尼等暴露服裝嘅圖像，該限制適用於所有用戶，包括付費訂閱用戶。 此外，該團隊仲話，正全天候工作嚟增設防護措施，移除違規及非法內容，喺必要時將永久封禁帳戶，並與當地政府及執法部門開展協作。
