英國監管機構對Elon Musk旗下的 X 平台 AI 聊天機器人 Grok 展開正式調查，並警告如不遏制其生成性侵與“深度偽造”內容，該平台可能面臨在英國被封禁或巨額罰款。此案凸顯英國在《在線安全法》框架下，對社交媒體與生成式 AI 平台執行更嚴格監管的決心。
強調，關於 Grok 被用來製作和分享非法非自願親密影像與兒童性虐待材料的報導“極度令人擔憂”，並表示平台必須保護英國用戶免受在英國法律下被認定為非法的內容傷害。 根據《在線安全法》，如果調查認定 X 未採取足夠措施阻止非法內容被觀看，則 Ofcom 可向法院申請在英國封鎖該平台，或對其處以最高 1,800 萬英鎊或相當於全球營收 10% 的罰款，金額以較高者為準。此次調查將重點審查六個方面，包括：X 是否進行了必要的風險評估、是否及時刪除相關圖像，及兒童是否有機會接觸到這些內容等。 英國政府方面也選擇支持監管機構。
科技大臣莉茲·肯德爾預計將在下議院就此發表聲明，商務大臣彼得·凱爾表示，即使最終導致 X 在英國被限制或封鎖，政府也會支持 Ofcom 的決定，並批評 X 在推出具備圖像生成與操控能力的 Grok 前未進行充分測試。 凱爾提到一宗具體案例：一位猶太裔女性發現，自己的形象被 AI 生成並置於奧斯維辛集中營外，穿著比基尼的照片在網上傳播，這一事件讓他“感到極度反胃”，被視為 AI 深度偽造侵犯人格尊嚴的典型例證。有議員與舆論認為，Ofcom 此番僅啟動正式調查，而非直接動用緊急權力或採取更為激烈的即時措施，仍顯得不夠強硬。
在國際層面，馬來西亞和印尼已對 Grok 採取行動，成為全球首批封鎖該聊天機器人訪問的國家。這些舉措預計將激怒 X 的所有者埃隆·Elon Musk，他此前已指責英國政府企圖壓制言論自由，同時也可能引發美國現任政府的不滿。 美國國務院負責公共外交事務的副國務卿薩拉·羅傑斯最近指責英國“正在考慮一項類似俄羅斯的 X 封禁措施”。儘管 X 在上周對免費用戶生成 Grok 圖像的能力作出部分限制，仍允許付費用戶繼續使用包含極端圖像操控功能的服務，這一做法進一步激起公眾與維權團體的憤怒。 在這場爭議升級之際，英國部長們也承受壓力，被要求考慮是否應停止使用 X 作為政府官方信息發布平台，以傳遞更明確的監管信號。
X 公司目前已被聯繫置評，但截至發稿尚未給出公開回應，平台如何應對英國監管與國際封鎖壓力，仍有待觀察。
調查背景與影響
英國媒體監管機構 Ofcom 表示，已就 X 平台上的 Grok 聊天機器人展開調查，原因是其被用於生成並傳播針對女性及兒童的色情化“深度偽造”圖像，包括未經當事人同意的“親密影像”及涉及兒童性虐待的非法內容。Ofcom 發言人強調，關於 Grok 被用來製作和分享非法非自願親密影像與兒童性虐待材料的報導“極度令人擔憂”，並表示平台必須保護英國用戶免受在英國法律下被認定為非法的內容傷害。 根據《在線安全法》，如果調查認定 X 未採取足夠措施阻止非法內容被觀看，則 Ofcom 可向法院申請在英國封鎖該平台，或對其處以最高 1,800 萬英鎊或相當於全球營收 10% 的罰款，金額以較高者為準。此次調查將重點審查六個方面，包括：X 是否進行了必要的風險評估、是否及時刪除相關圖像，及兒童是否有機會接觸到這些內容等。 英國政府方面也選擇支持監管機構。
科技大臣莉茲·肯德爾預計將在下議院就此發表聲明，商務大臣彼得·凱爾表示，即使最終導致 X 在英國被限制或封鎖，政府也會支持 Ofcom 的決定，並批評 X 在推出具備圖像生成與操控能力的 Grok 前未進行充分測試。 凱爾提到一宗具體案例：一位猶太裔女性發現，自己的形象被 AI 生成並置於奧斯維辛集中營外，穿著比基尼的照片在網上傳播，這一事件讓他“感到極度反胃”，被視為 AI 深度偽造侵犯人格尊嚴的典型例證。有議員與舆論認為，Ofcom 此番僅啟動正式調查，而非直接動用緊急權力或採取更為激烈的即時措施，仍顯得不夠強硬。
在國際層面，馬來西亞和印尼已對 Grok 採取行動，成為全球首批封鎖該聊天機器人訪問的國家。這些舉措預計將激怒 X 的所有者埃隆·Elon Musk，他此前已指責英國政府企圖壓制言論自由，同時也可能引發美國現任政府的不滿。 美國國務院負責公共外交事務的副國務卿薩拉·羅傑斯最近指責英國“正在考慮一項類似俄羅斯的 X 封禁措施”。儘管 X 在上周對免費用戶生成 Grok 圖像的能力作出部分限制，仍允許付費用戶繼續使用包含極端圖像操控功能的服務，這一做法進一步激起公眾與維權團體的憤怒。 在這場爭議升級之際，英國部長們也承受壓力，被要求考慮是否應停止使用 X 作為政府官方信息發布平台，以傳遞更明確的監管信號。
X 公司目前已被聯繫置評，但截至發稿尚未給出公開回應，平台如何應對英國監管與國際封鎖壓力，仍有待觀察。
