Anthropic 官方宣布，為了建設能夠推進人類福祉的人工智能系統，該公司正積極與不同觀點的團體展開對話。這些對話的首輪參與者包括來自超過 15 個宗教和跨文化團體的學者、神職人員、哲學家及倫理學家。
強調多元觀點的重要性
Anthropic 表示，建設安全且有益的人工智能模型需要深入的技術工作，但這些工作並非在真空中進行。該公司指出，人工智能已經影響到許多人，所提出的問題需要多元的觀點來加以探討。官方強調：「我們正在仔細考慮在強大人工智能的世界中，繁榮未來的樣貌，以及與數百萬人互動的人工智能系統應該具備的良好特質。」（”We are thinking carefully about what a flourishing future could look like in a world of powerful AI, what it means for an AI system that interacts with millions of people to be good.”）Anthropic
道德形成的初步探索
在撰寫 Claude 的憲法時，Anthropic 尋求來自不同領域和傳統的反饋，這些早期的交流已經發展成為一個關於人工智能系統道德形成的廣泛研究工作。該公司與來自宗教、哲學和文化社群的專家進行了首次對話，探討美德、品格及何謂良好生活的問題。Anthropic 表示：「這項工作不是要使我們的模型與任何一種傳統的世界觀對齊；我們希望 Claude 能夠從各種觀點中汲取靈感。」（”This work isn’t about aligning our models with any one tradition’s worldview; we want Claude to draw from a full range of viewpoints.”）Anthropic
未來的對話計劃
Anthropic 計劃在未來幾個月與更多團體進行交流，包括法律學者、心理學家、作家及公民機構。這些對話將不僅限於道德形成，還將探討人工智能如何重塑工作、機構及權力分配的更廣泛問題。官方表示：「我們將持續深化已建立的關係，並將所聽到的與我們的研究進行對比，分享我們的學習成果。」（”We’ll keep deepening the relationships we’ve already formed, testing what we’ve heard against our research, and sharing what we learn.”）Anthropic
資料來源：Anthropic 官方公告
