OpenAI 暫停 Sora 上的 MLK 深度偽造影片因為不當內容

OpenAI 在週四晚上宣布,已經「暫停」在其社交應用程式 Sora 上生成馬丁·路德·金(Martin Luther King Jr.)的深度偽造圖像,原因是用戶創作了「不尊重」的 AI 生成視頻。該公司表示,其他歷史人物的代表或遺產現在可以選擇不讓其肖像用於該平台。

OpenAI 表示,這一行動是在金的遺產以及他的女兒伯尼斯·金(Bernice King)提出投訴後進行的,她在社交媒體上請求人們停止向她發送父親的 AI 生成視頻。金是許多已故名人和歷史人物中的一員,他們的肖像在 Sora 上出現,且往往以粗俗、冒犯和不愉快的方式呈現。

根據金的要求,OpenAI 暫停了描繪金博士的生成,並加強了對歷史人物的保護措施。

儘管描繪歷史人物有強烈的言論自由考量,OpenAI 認為公眾人物及其家庭應該最終控制其肖像的使用。授權代表或遺產擁有者可以要求其肖像不在 Sora 的短片中使用。

OpenAI 對歷史人物的變化立場類似於其在 Sora 首次推出時對版權的處理。該策略引發爭議,平台在面臨大量角色(如皮卡丘、瑞克與莫蒂以及海綿寶寶)的描繪後,作出了尷尬的政策調整,轉為對版權持有者的「選擇加入」政策。

不同於版權,並沒有聯邦框架來保護人們的肖像,但多種州法律允許人們因未經授權使用生者影像而提起訴訟,而在某些州,已故者的影像也受到保護。例如,加利福尼亞州(OpenAI 的總部所在地)明確表示,死後隱私權適用於表演者的 AI 複製品。對於現存的人,OpenAI 從一開始就允許人們通過創建自己 AI 複製品來選擇出現在視頻中。

馬丁·路德·金, Jr. 遺產公司(King, Inc.)與 OpenAI 共同努力,針對金博士的肖像在 Sora 中的表現進行調整。一些用戶生成了對金博士不尊重的描繪。


十斗https://www.techritual.com/author/tenten/
十斗在知名大學取得了計算機科學與工程學位,並在學術研究方面表現出色。她的研究領域包括人工智能、機器學習和數據科學。一斗為十升,一升為十合,一合為十分之一升。謝靈運言天下才學一石,曹植占八斗,以此讚譽。後用以比喻才學極高。