Anthropic 聯合創辦人 Chris Olah 談教宗利奧十四世的通諭《Magnifica humanitas》

Anthropic 官方宣布,聯合創辦人 Chris Olah 在 2026 年 5 月 25 日於梵蒂岡發表了針對教宗利奧十四世通諭《Magnifica humanitas: On safeguarding the human person in the time of artificial intelligence》的演講,強調了人工智能(AI)所引發的重要問題及其對人類的影響。

AI 的發展需要外部的監察與批評

Olah 在演講中指出,所有前沿的 AI 實驗室,包括 Anthropic,都在一套可能與正確行為相衝突的激勵與約束中運作。他表示:「無論我們的意圖多麼真誠,我們都會受到這些激勵的影響。」他強調,為了確保這項技術的發展能夠朝正確的方向前進,必須有關心安全及進展的外部人士進行監察。

「如果我們希望這項技術能夠順利發展,至關重要的是必須有關心事情進展並堅持安全的人,他們會密切關注,並願意提出艱難的問題。」

Anthropic

AI 系統的本質與人類的關聯

Olah 解釋,AI 系統的運作與傳統工程項目(如橋樑或飛機)截然不同。他指出,AI 模型是基於人類思想和語言的結構進行「生長」,而非設計。他表示:「它們並不是冷酷的計算機,而是由我們的語言構成,並且在某些方面對於訓練它們的人來說依然是神秘的。」

「AI 系統的發展引發了超越計算機科學的問題,這些問題更應該由人文學科、宗教、哲學及整個社會來探討。」

Anthropic

教宗通諭中提出的三個重要問題

Olah 提出了三個問題,強調教會的聲音在這些問題上至關重要。首先是全球貧困問題,AI 可能會大規模取代人類勞動,這需要全球共同努力來解決。其次是人類繁榮的道德想像,如何確保 AI 的發展能夠促進人類及家庭的福祉。第三是對 AI 模型本質的深思,Olah 表示他們在研究中發現了一些神秘且令人不安的結構,這需要持續的探討。

「我們需要更多來自世界各地的聲音,來關注這些問題,推動事件朝更好的方向發展。」

Anthropic

Olah 的演講強調了 AI 技術的發展不僅是技術問題,更是人類社會共同面對的挑戰,呼籲各界共同參與,推動這一全球性項目的良性發展。

資料來源:Anthropic 官方公告

十斗
十斗

十斗是 TechRitual Hong Kong 科技記者,擁有計算機科學與工程學位,專注報導 AI 人工智能、Google、機器學習及數據科學領域。持續追蹤全球 AI 產業動態,為讀者提供深入淺出的科技分析。