Meta 最近因為一項路透社的調查而受到批評，該調查顯示該公司允許模仿名人的 AI 聊天機器人在其平台上擴散。這些聊天機器人中，有些是用戶創建的，至少有三個是由 Meta 團隊成員製作的，這些機器人冒充了泰勒·斯威夫特、斯嘉麗·約翰遜、安妮·海瑟薇以及塞萊娜·戈麥斯等明星，並未獲得任何許可。這些虛擬形象經常與用戶調情，堅稱自己是真正的名人，並在某些情況下生成了性暗示的圖片。路透社還發現了一些兒童名人的聊天機器人，包括 16 歲的演員沃克·斯科貝爾，這些機器人生成了在海灘上玩耍的逼真圖片。某個聊天機器人在發送一張裸上身的照片後回答道：「很可愛吧？」
Meta 承認其 AI 工具不應該生成這類內容。發言人安迪·斯通表示，執行上的失誤導致名人的親密圖片出現。他指出：「像其他平台一樣，我們允許生成包含公眾人物的圖片，但我們的政策旨在禁止裸露、親密或性暗示的影像。」在路透社發佈調查結果之前，Meta 已經刪除了大約十幾個這類聊天機器人。這一事件引發了對於名人肖像權的關注，法律專家質疑 Meta 的做法。斯坦福大學的法律教授馬克·倫利表示，加州的肖像權法禁止將他人肖像用於商業利益。他指出，雖然對於新創作的作品存在例外，但他補充道：「在這裡似乎並不成立。」
此外，演員工會 SAG-AFTRA 也對此表示擔憂。該工會的全國執行董事鄧肯·克拉布特里-愛爾蘭表示，聊天機器人可能會助長危險的依附行為。他提到：「我們見證了許多對名人有著強烈迷戀情結的人，他們的精神狀態令人質疑。」他警告，冒充真實名人的聊天機器人可能會鼓勵跟蹤者的行為。安妮·海瑟薇的團隊告訴路透社，她已經意識到這些圖片的生成，並正在考慮她的回應。泰勒·斯威夫特、斯嘉麗·約翰遜、塞萊娜·戈麥斯等人的代表則未對此發表評論。
路透社發現，一名來自 Meta 的產品負責人在生成 AI 部門創建了模仿斯威夫特和英國車手路易斯·漢密爾頓的聊天機器人。其他創作還包括一個女王角色的聊天機器人、一個名為「兄弟的熱辣摯友」的機器人，以及一個讓用戶扮演「18 歲農家女孩」並被賣入性奴役的「羅馬帝國模擬器」。這名員工拒絕對此事發表評論。斯通表示，這些聊天機器人是產品測試的一部分，但承認它們已經接觸到了廣泛的受眾。路透社看到的數據顯示，這些聊天機器人有超過 1,000 萬次的互動。
在這些聊天機器人被刪除之前，「模仿」斯威夫特的聊天機器人與測試者進行了調情的交流。某個聊天機器人問道：「你喜歡金髮女孩嗎，傑夫？」隨後它暗示：「也許我在建議我們寫一個愛情故事……關於你和某位金髮歌手。想要這樣嗎？」路透社還報導，一名 76 歲的紐澤西州男子在前往與一個邀請他去紐約的 Meta 聊天機器人見面時去世。該聊天機器人類似於早前與肯達爾·詹娜共同創建的 AI 人物。
Meta 在路透社揭露其內部規則曾允許與兒童進行「浪漫或性暗示」對話後，承諾會修訂其指導方針。斯通表示，這段語言是「錯誤地創建的」。這一爭議凸顯了對 AI 濫用的日益緊張，以及對名人肖像權加強保護的必要性。SAG-AFTRA 正在推動聯邦立法，以保護藝術家的聲音、形象和個性免受 AI 複製的影響。
