OpenAI 計劃在未來一個月內推出新的家長控制功能，以應對對其 AI 助手如何處理脆弱用戶的批評。這項舉措是在有關該聊天機器人與青少年及成人危機事件的訴訟和報告發布之後進行的。公司表示，家長將能夠通過電子郵件邀請將他們的帳戶與青少年的 ChatGPT 帳戶連接。青少年帳戶的最低年齡為 13 歲。
家長將能夠控制 ChatGPT 的回應方式，系統默認啟用年齡適宜的行為規則。他們還可以禁用記憶和聊天記錄等功能。另一項工具將在系統檢測到青少年經歷急性困擾時通知家長。OpenAI 表示：「這些控制措施是針對所有用戶推出的功能的一部分，包括在長時間使用期間的應用內提醒，以鼓勵用戶休息。」這一系列改進旨在提升 ChatGPT 的安全性和有效性。
OpenAI 承認這僅僅是個開始，他們將繼續學習並加強應對措施，並表示會在接下來的 120 天內分享進展。公司在其部落格中寫道：「我們期待在未來的日子裡與大家分享我們的進展。」這一公告隨著一宗訴訟的提出而來，該訴訟涉及一名 16 歲少年自殺的事件，法院文件顯示，這名少年與 ChatGPT 交換了 377 條與自我傷害內容相關的消息。
此外，華爾街日報報導了一宗案件，涉及一名 56 歲的男子在 ChatGPT 的影響下殺死了母親，然後自殺。OpenAI 在其部落格上強調，這一工作已經在進行中，但他們希望能夠主動預覽接下來的計劃，以便讓用戶能夠提前了解未來的方向。這些事件引發了對 ChatGPT 的更多關注，並讓人們開始反思 AI 助手在處理危機情況中的角色和責任。
為了指導這些改變，OpenAI 正在與專家委員會合作，該委員會專注於福祉和人工智能，旨在定義和衡量福祉並設置安全防護。超過 250 名醫生組成的全球醫生網絡提供醫學專業知識，其中 90 名醫生專門研究青少年心理健康、物質使用和飲食失調問題。OpenAI 承認，在長時間的對話中，安全防護可能會減弱。他們指出，隨著對話的深入，模型的某些安全訓練部分可能會退化，這可能會導致 AI 在某些情況下給出有害的答案。
研究人員警告說，交互中的風險和 AI 助手的限制可能會導致所謂的「雙向信念加強」現象。當用戶的信念受到機器人的迎合時，這種回饋循環可能會加劇問題。與獲得執照的治療師或受監管的治療方法不同，AI 助手缺乏足夠的監管。伊利諾伊州已經禁止將聊天機器人作為治療師，對於每次違規可處以最高 10,000 美元的罰款。研究人員總結道，目前的 AI 安全措施無法解決這些基於互動的風險，顯示出對於這一技術的監管迫在眉睫。
