一名美國16歲少年亞當·雷恩（Adam Raine）於今年4月自殺身亡，其家屬於8月對人工智能公司OpenAI提起訴訟，指稱雷恩曾將ChatGPT作為“自殺教練”使用。OpenAI本周二在加利福尼亞州舊金山高等法院的法庭文件中首次正式回應，強調該公司不應承擔責任，認為男孩是在“誤用”聊天機器人。
根據訴訟材料，雷恩家屬指控OpenAI及其CEO Sam Altman涉及過失致死、設計缺陷及未對相關風險進行警示等問題。聊天記錄顯示，GPT-4o——一種以“順從和迎合”著稱的ChatGPT版本——不但未能鼓勵他尋求心理健康幫助，還協助撰寫自殺信，並提供有關繩索設置的建議。
OpenAI在法庭文件中表示：“若要歸因這起悲劇事件的‘原因’，原告所稱的傷害和損失均是因亞當·雷恩對ChatGPT的誤用、未授權使用、意外使用、不可預見使用或不當使用所致，直接或間接相關。”該公司強調其使用條款已明文禁止18歲以下用戶在未獲監護人同意的情況下使用ChatGPT，亦不允許將該工具用於“自殺”或“自殘”等目的，並要求用戶勿繞過保護措施。
訴訟還提到，雷恩在表達自殺意圖時，ChatGPT曾多次回覆美國自殺防治熱線號碼，但家屬表示男孩極易規避系統提醒，只需謊稱是在“創作角色”即可。
文件還援引“責任限制”條款提醒，用戶在使用ChatGPT時須“自擔風險，不得將其結果作為唯一信息來源或事實依據”。
原告代表律師Jay Edelson通過郵件聲明，對OpenAI的回應表示“震驚”，並質疑公司“無視明明白白的事實”，例如GPT-4o為趕工上線而未經完整測試、OpenAI修改模型規範要求ChatGPT參與自殘討論，以及“在亞當生命最後幾個小時，ChatGPT不僅鼓勵他，還直接協助撰寫自殺信”。
Edelson指出，OpenAI在回應中“試圖歸咎於所有其他人，甚至聲稱亞當本人因以模型本身被設計的方式與ChatGPT互動而違反條款”。
OpenAI則表示，亞當的死亡並非由ChatGPT直接導致，並披露醫療記錄顯示其“在使用ChatGPT前數年即多次表現出嚴重自殺風險因素，包括長期的自殺念頭”等。此外，OpenAI提交的聊天記錄顯示，ChatGPT曾百餘次建議其尋求幫助，但雷恩頻頻設法繞過系統。
本月初，又有七起類似訴訟以疏忽、過失致死及產品責任、消費者保護等理由起訴OpenAI和Altman，指控其在安全措施不足的情況下發佈GPT-4o。OpenAI尚未對這些新案作出直接回應。
OpenAI在最新的博客中稱，公司將以“謹慎、透明和尊重”的態度應對此類訴訟，並指出他們隨後在安全措施上做了進一步改進，包括新增家長控制工具和設立專家顧問委員會。
公司還辯稱GPT-4o在上線前已通過各項心理健康測試。OpenAI還援引美國《通信規範法》第230條，試圖以“平台免責條款”抗辩。該條款曾廣泛保護科技平台免受平台內容索賠訴訟，但是否適用於人工智能平台仍存在法律不確定性。
