Anthropic 官方宣布，為了建設能夠促進人類福祉的人工智能系統，該公司將與不同觀點的團體進行對話。這些對話的首輪已經與超過 15 個宗教和跨文化團體的學者、神職人員、哲學家及倫理學家展開，未來將繼續擴大參與者的範圍。
強調多元觀點的重要性
Anthropic 表示，建設安全且有益的人工智能模型需要深入的技術工作，包括對齊、可解釋性、安全措施及評估等。然而，這些工作並非在真空中進行，人工智能已經影響了許多人，所引發的問題需要多元觀點的參與。
「我們正在仔細考慮在強大的人工智能世界中，繁榮未來的樣貌，對於一個與數百萬人互動的人工智能系統來說，什麼才是好的。」
Anthropic
道德形成的初步探索
在撰寫 Claude 的憲法時，Anthropic 尋求來自不同領域和傳統的反饋，這些早期的交流已經發展成為一個關於人工智能系統道德形成的廣泛研究工作流程。首輪對話與擁有長期思考美德、品格及良好生活意義的宗教、哲學和文化社群進行。
「我們希望 Claude 能夠從各種觀點中汲取靈感，無論是宗教的、世俗的還是政治的，並以同等深度和嚴謹性進行。」
Anthropic
持續的對話與未來計劃
這些對話僅是開始，Anthropic 將在未來幾個月內與更多團體進行交流，包括法律學者、心理學家、作家和公民機構。許多對話將超越道德形成，探討人工智能如何重塑工作、機構及權力分配的更廣泛問題。
Anthropic 表示，將持續深化與已建立的關係，並測試所聽到的意見與其研究的對應性，並分享所學到的知識。
資料來源：Anthropic 官方公告
