OpenAI 最近針對社交媒體上有關其 AI 聊天機器人 ChatGPT 的錯誤信息作出澄清，特別是關於其提供法律和醫療建議的能力。該公司指出，ChatGPT 的行為「保持不變」，儘管有聲稱新政策更新將禁止此類建議的說法。OpenAI 健康 AI 部門負責人 Karan Singhal 在 X（前身為 Twitter）上駁斥了這些說法，表示這些言論「不正確」。
Singhal 強調，「ChatGPT 從來不是專業建議的替代品，但它將繼續成為幫助人們理解法律和健康信息的優秀資源。」這一聲明是針對賭博平台 Kalshi 一條已刪除的帖子作出的回應，該帖子虛假聲稱「最新消息：ChatGPT 將不再提供健康或法律建議。」這類錯誤信息可能會導致依賴 AI 工具指導複雜問題的用戶產生混淆。
混淆情況源於 10 月 29 日的政策更新，該更新概述了對 ChatGPT 使用的限制。其中一項限制是禁止「在未經持牌專業人員適當參與的情況下，提供需要許可的量身定制建議，例如法律或醫療建議。」這一規定與 OpenAI 之前的政策一致，該政策建議用戶避免參與可能「顯著損害他人安全、健康或權利」的活動，包括在未經專業監督的情況下提供量身定制的法律、醫療或財務建議。
OpenAI 的政策框架隨著時間的推移而演變，從三項獨立政策（包括一項通用政策和兩項針對 ChatGPT 及 API 使用的特定政策）轉變為統一的指導方針。這一變化旨在簡化 OpenAI 產品和服務的規則，正如該公司在更新日誌中所指出的。然而，值得注意的是，這些規則的核心並未改變；它們仍然強調在涉及敏感領域如健康和法律建議時需要專業參與。
此外，這次更新反映了 OpenAI 對確保用戶理解 AI 助手限制的承諾。該公司一貫鼓勵用戶在使用 AI 工具時披露情況，並意識到 AI 生成內容固有的潛在限制。這種做法有助於減少依賴 AI 在健康和法律問題上做出關鍵決策的風險。
除了澄清其在法律和醫療建議上的立場外，OpenAI 還主動解決用戶對 AI 生成信息可靠性的擔憂。該公司承認，雖然 ChatGPT 可以提供有價值的見解，但最終並不能替代專家建議。用戶被敦促以批判的心態看待 ChatGPT 提供的信息，並在必要時尋求專業諮詢。
隨著 AI 技術不斷進步，OpenAI 將持續更新其政策，以反映最佳實踐並保護用戶免受錯誤信息的影響。該公司在維護透明度和清晰度方面的努力，對於增進用戶的信任至關重要。
展望未來，AI 及其在醫療和法律等敏感領域的應用將可能繼續演變。OpenAI 持續致力於完善其政策，確保用戶安全，將在塑造如何負責任地使用 AI 工具方面發揮關鍵作用。因此，用戶必須保持對使用 AI 技術的指導方針的了解，並對從這些系統獲取的信息保持謹慎態度。
