央視揭生成式 AI 嚴重漏洞 數句提示詞即生成大尺度視頻

中央電視台揭露多款生成式 AI 應用存在嚴重內容漏洞，平台審核機制形同虛設，用戶只需輸入經過隱藏處理的提示詞，即可輕易繞過限制，快速生成大尺度色情影片與圖片。實測發現，直白露骨的提示詞會被多數平台攔截，但將敏感表達替換為隱晦描述、英文詞彙等形式後，即違規內容順利生成。在一款 AI 應用中，使用網友的隱藏提示詞，即可生成半裸女性跳舞影片，全程未觸發任何平台限制機制，同類問題亦出現在多款主流 AI 應用平台。

AI 色情產業鏈完整曝光

調查顯示，AI「色黃」已形成完整黑色產業鏈，從違規提示詞銷售、工廠使用教程，到批量生成色情內容、付費換臉服務，各環節分工明確、利益鉅額。網上有多商家公開售賣定製提示詞，搭配境外 AI 工具或本地部署模型，進一步規避監管。部分付費 AI 圖片生成器宣稱，只要支付對應金額，即一圖即可一鍵生成色情影片，嚴重突破法律與倫理底線。此類亂象不僅玷污網絡生態，還極易滋生色情直播、詐騙勒索、惡意報復等違法犯罪行為，對未成年人身心健康與網絡空間秩序構成極大危害。

目前，中國已出台多項法規整頓 AI 技術濫用，明確要求平台落實內容安全主體責任，強化算法審核與風險防控，嚴禁生成直播色情信息。監管部門正持續開展「清朗」專項行動，重點打擊利用 AI 製作淫穢色情內容、違規提供生成服務等行為，推動平台升級審核技術，封堵提示詞繞過漏洞。