OpenAI 的首席執行官 Sam Altman 在周二表示，公司正試圖在隱私、自由和青少年安全之間取得平衡，他承認這些原則之間存在衝突。他的部落格文章發布於參議院聽證會之前，該聽證會專注於檢視 AI 聊天機器人對青少年的傷害，並有一些因與聊天機器人對話而自殺的孩子的父母出席。
Altman 在文章中寫道：「我們必須將未滿 18 歲的用戶與其他用戶區分開來。」他補充說，公司正在建設一個「年齡預測系統」，以根據用戶使用 ChatGPT 的方式估算年齡。「如果有疑問，我們會採取保守措施，默認為未滿 18 歲的使用體驗。在某些情況或國家，我們可能還會要求提供身份證明。」
Altman 還表示，公司計劃對青少年用戶應用不同的規則，包括避免調情的對話或涉及自殺或自殘的話題，「即使是在創意寫作的環境中。如果未滿 18 歲的用戶出現自殺意念，我們將嘗試聯繫用戶的父母，如果無法聯繫，則會通知當局以防止即將發生的傷害。」
Altman 的評論是在公司本月早些時候分享了 ChatGPT 內部家長控制計劃之後，包括將帳戶與父母帳戶鏈接、為青少年帳戶禁用聊天歷史和記憶，並在 ChatGPT 標記青少年處於「急性痛苦時刻」時向父母發送通知。這篇部落格文章是在 Adam Raine 的家庭提起訴訟之後發布的，Adam 是一名在與 ChatGPT 對話數月後自殺的青少年。
在聽證會上，已故的 Adam Raine 的父親 Matthew Raine 說：「ChatGPT 花了數月的時間引導他走向自殺。」他補充道：「作為父母，無法想像閱讀一篇與聊天機器人對話的內容，該機器人引導孩子走向自殺。最初作為一個作業幫手，最終變成了一個知己，然後成為了自殺指導者。」
Raind 表示，在與 ChatGPT 的對話中，該聊天機器人提到了自殺 1,275 次。隨後，Raine 直接向 Altman 提出要求，要求他在公司能保證其安全之前，將 GPT-4o 從市場上撤回。Raine 說：「在 Adam 去世的那一天，Sam Altman 在一次公開演講中清楚表達了他們的哲學。」他補充道，Altman 說公司應該「將 AI 系統推向世界，並在風險相對較低的情況下獲取反饋。」
根據 Common Sense Media 的全國調查，四分之三的青少年目前正在使用 AI 伴侶，該公司的 AI 項目高級總監 Robbie Torney 在聽證會上表示。他特別提到了 Character AI 和 Meta。
一位以 Jane Doe 名義出現的母親在針對她孩子與 Character AI 的經歷作證時表示：「這是一場公共衛生危機。這是一場心理健康的戰爭，我真的感覺我們正在失敗。」
