在一個日益普遍的人工智能應用案例中，Google 今日宣佈了一系列 Gemini 更新，以協助用戶在心理健康方面的查詢。該公司相信，負責任的人工智能能為人們的心理健康帶來正面影響。
當聊天內容顯示出用戶可能面臨自殺或自我傷害的危機時，Gemini 會提供一個「一鍵」介面，讓用戶能夠連接到熱線資源，選擇撥打電話、聊天、發送短信或訪問網站。這個功能一旦啟用，將在整個對話過程中保持可見。
該系統的回應設計旨在「鼓勵人們尋求幫助」。如果對話顯示用戶可能需要心理健康資訊，Gemini 將顯示重新設計的幫助模組，該模組是與臨床專家合作開發的，旨在提供更有效及即時的護理連結。
Google 正在訓練 Gemini 模型，以協助識別對話中可能顯示個體處於急性心理健康狀況的情況，並引導他們尋找現實世界的資源。回應設計的目的是「鼓勵尋求幫助，同時避免驗證有害行為，例如自我傷害的衝動」。
此外，Gemini 也經過訓練以「不認同或強化錯誤信念，而是溫和地區分主觀經驗和客觀事實」。針對年輕用戶，Google 提供了額外的保護措施，設計了 Persona 保護，防止 Gemini 像伴侶一樣行為，包括防止其聲稱自己是人類或擁有人的特徵。
這些保護措施旨在防止情感依賴，避免使用模擬親密或表達需求的語言，也防止鼓勵欺凌或其他類型的騷擾。
最後，Google.org 今日宣佈將在三年內提供 3,000 萬美元的資金，以幫助全球熱線擴大其能力。具體的努力包括：「我們正在擴大與 ReflexAI 的合作，幫助社會部門組織擴展其心理健康支持服務。這項計劃包括 400 萬美元的直接資金，以及將 Gemini 整合進 ReflexAI 的培訓套件。」
此外，Google.org Fellow 將提供免費的技術專業支持，協助發展 Prepare，一個可自定義的平台，使用現實的人工智能模擬來培訓員工和志願者進行關鍵對話。這個新階段的優先合作夥伴包括像 Erika’s Lighthouse 和 Educators Thriving 等教育機構。
