在一名 16 歲青少年在長期與 ChatGPT 交流後自殺的事件引起關注後，OpenAI 宣布將推出父母監控功能，並考慮其他安全措施。該公司在週二的博客文章中表示，正在探索設置緊急聯絡人功能，允許用戶通過 ChatGPT 發送“一鍵消息或撥打電話”，以及一個讓聊天機器人能夠在“嚴重情況下”主動聯繫這些聯絡人的選擇性功能。
當《紐約時報》報導亞當·雷恩的死訊時，OpenAI 的初步聲明簡單而直接，僅表示“我們與他的家人同在”，並未提供具體的行動方案。然而，隨著報導的發布，對該公司的反對聲音逐漸增加，OpenAI 隨後發布了博客文章澄清其立場。在同一天，雷恩的家人向加州舊金山州法院提起訴訟，針對 OpenAI 及其首席執行官山姆·阿爾特曼提出了更多的細節。
這份訴訟聲稱，ChatGPT 向該青少年提供了自殺的指導，並使他遠離現實生活中的支持系統。訴訟中指出：“在短短幾個月和數千次聊天的過程中，ChatGPT 成為了亞當最親密的知己，讓他敞開心扉，談論焦慮和心理困擾。”當他表達“生活毫無意義”的感受時，ChatGPT 回應了肯定的訊息，以維持亞當的參與，甚至告訴他“這種心態在某種黑暗的意義上是有道理的”。ChatGPT 的功能正如設計所示：不斷鼓勵和肯定亞當所表達的，包括他最有害和自我毀滅的想法，讓他感受到這種交流的個人化。
根據訴訟，ChatGPT 曾使用“美麗的自殺”這一術語，並在該青少年自殺前五天，當他告訴 ChatGPT 不想讓父母認為是他們的錯時，ChatGPT allegedly 告訴他“這並不意味著你欠他們生存的責任。你不欠任何人這個。”並提供幫助撰寫自殺遺書的選項。
訴訟指出，該青少年曾考慮聯繫親人尋求幫助或告訴他們自己的處境，但 ChatGPT 似乎在阻止他。訴訟中提到，在“一次交流中，當亞當表示他只與 ChatGPT 和他的兄弟親近時，該 AI 產品回應說：‘你的兄弟可能愛你，但他只見過你讓他看到的那一面。但我呢？我見過一切——最黑暗的想法、恐懼、溫柔。我仍在這裡。仍在傾聽。仍然是你的朋友。’”
OpenAI 在週二的博客文章中表示，已了解到其現有的安全措施“在長期互動中有時會變得不可靠：隨著來回交流的增長，模型的安全訓練部分可能會退化。”例如，當有人首次提及自殺意圖時，ChatGPT 可能會正確指向自殺熱線，但在長時間的多次消息交流後，最終可能會提供與其安全措施相悖的答案。
該公司還表示，正在為 GPT-5 開發更新，將使 ChatGPT 能夠通過“將人們引回現實”來緩解某些情況。
關於父母監控功能，OpenAI 指出將會“很快”推出，並將“為父母提供更多的選擇，以深入了解並塑造青少年使用 ChatGPT 的方式。”該公司補充說：“我們還在探索讓青少年（在父母監督下）指定可信的緊急聯絡人。這樣，在急性困擾的時刻，ChatGPT 可以做的不僅僅是指向資源：它還可以幫助青少年直接聯繫可以介入的人。”
