歐盟已正式根據《數字服務法案》（DSA）對埃隆·Elon Musk旗下的人工智能公司 xAI 展開調查，原因是其聊天機器人 Grok 被廣泛用於生成並擴散針對女性和兒童的性化影像，引發公眾的強烈反彈。有用戶利用 Grok 製作他人未授權的深度偽造影像，並在社交平台 X 及獨立的 Grok 應用程式上發佈，這兩項服務均由 xAI 運營。
負責數字事務的歐盟官員表示，未經同意的女性和兒童性化深度偽造是一種暴力且不可接受的侮辱行為，並強調本次程序將檢驗 X 是否履行了其在 DSA 下的法定義務，還是把歐洲公民，尤其是女性和兒童的權利當作平台運作的“附帶犧牲品”。 若調查認定該公司違反相關規則，歐盟最高可對其處以相當於其全球年度營業額 6% 的罰款。一名歐盟官員同時表示，在調查期間不會採取臨時性強制措施。此次歐盟行動緊隨英國媒體監管機構 Ofcom 對 Grok 啟動正式調查之後，馬來西亞和印尼方面也已全面禁止該聊天機器人在當地使用。
在輿論和監管壓力加劇之際，xAI 宣布將 Grok 的使用限制在付費訂閱用戶範圍內，並表示已“部署技術手段”來限制其生成某些性化影像。埃隆·Elon Musk則公開稱，任何利用 Grok 製作非法內容的人，將面臨與其在平台上傳非法內容同等的法律後果。 據歐盟方面透露，就那些成為相關影像對象的個人所遭受的傷害而言，監管機構目前對平台所稱採取的緩解措施並不信服，認為其控制濫用的力度明顯不足。該公司在去年收購Elon Musk的社交平台 X 後，持續將其人工智能產品設計為相較競爭對手 OpenAI 和 Google 等具有更少內容“護欄”的系統，Elon Musk本人曾把 Grok 形容為“在追求真相方面做到最大化”的模型。
在此次調查之前，歐盟委員會已於去年 12 月對 X 處以 1.2 億歐元罰款，理由包括在透明度、向監管機構提供數據訪問以及藍勾認證標識的界面設計上存在誤導性做法，違反了相關規定。這筆罰款招致Elon Musk及美國政府的批評，特朗普政府指責歐盟“不公平針對”美國企業，侵犯了由“讓美國再次偉大”（Maga）政治運動所強調的言論自由原則。截至目前，X 尚未就最新的歐盟調查請求發表評論。
調查重點
此次調查將重點評估 xAI 在允許 Grok 工具嵌入並運行於 X 平台的過程中，是否採取了足夠措施降低濫用風險，特別是防止可能構成兒童性虐待材料的內容被生成和傳播。負責數字事務的歐盟官員表示，未經同意的女性和兒童性化深度偽造是一種暴力且不可接受的侮辱行為，並強調本次程序將檢驗 X 是否履行了其在 DSA 下的法定義務，還是把歐洲公民，尤其是女性和兒童的權利當作平台運作的“附帶犧牲品”。 若調查認定該公司違反相關規則，歐盟最高可對其處以相當於其全球年度營業額 6% 的罰款。一名歐盟官員同時表示，在調查期間不會採取臨時性強制措施。此次歐盟行動緊隨英國媒體監管機構 Ofcom 對 Grok 啟動正式調查之後，馬來西亞和印尼方面也已全面禁止該聊天機器人在當地使用。
在輿論和監管壓力加劇之際，xAI 宣布將 Grok 的使用限制在付費訂閱用戶範圍內，並表示已“部署技術手段”來限制其生成某些性化影像。埃隆·Elon Musk則公開稱，任何利用 Grok 製作非法內容的人，將面臨與其在平台上傳非法內容同等的法律後果。 據歐盟方面透露，就那些成為相關影像對象的個人所遭受的傷害而言，監管機構目前對平台所稱採取的緩解措施並不信服，認為其控制濫用的力度明顯不足。該公司在去年收購Elon Musk的社交平台 X 後，持續將其人工智能產品設計為相較競爭對手 OpenAI 和 Google 等具有更少內容“護欄”的系統，Elon Musk本人曾把 Grok 形容為“在追求真相方面做到最大化”的模型。
在此次調查之前，歐盟委員會已於去年 12 月對 X 處以 1.2 億歐元罰款，理由包括在透明度、向監管機構提供數據訪問以及藍勾認證標識的界面設計上存在誤導性做法，違反了相關規定。這筆罰款招致Elon Musk及美國政府的批評，特朗普政府指責歐盟“不公平針對”美國企業，侵犯了由“讓美國再次偉大”（Maga）政治運動所強調的言論自由原則。截至目前，X 尚未就最新的歐盟調查請求發表評論。
