教宗利奧十四世發佈有關人工智能的通諭，聚焦社會不平等與權力集中問題

教宗利奧十四世於本週一發佈了他的第一封通諭，名為《Magnifica Humanitas》，主題為「在人工智能時代保護人類」。雖然人工智能是這封通諭的切入點，但利奧所關注的問題則是更為根深蒂固的：不平等、戰爭、民主侵蝕，以及權力集中於那些不一定關心整體人類福祉的少數人手中。在這份長達 200 頁的文件中，教宗與 Anthropic 共同創辦人克里斯·奧拉共同展示，利奧主張由少數精英所建造和管理的技術，從定義上來説無法服務於公共利益。

他寫道：「當這種權力集中於少數人手中時，往往會變得不透明，逃避公共監督，增加了扭曲發展形式的風險，從而產生新的依賴、排斥、操控和不平等。」 通諭中指出，隨著每一次重大技術變革，人工智能往往會放大那些已擁有經濟資源、專業知識和數據存取權的人的權力。文件強調，精英可以利用其權力「塑造信息和消費模式，影響民主過程，並將經濟動態引導至自身的利益」。這封通諭發佈的幾天前，美國總統唐納德·特朗普延遲簽署他的人工智能行政命令，該命令將給予政府對新模型的監管，據報導是因為受到風險投資者及前白宮人工智能專員大衞·薩克斯的影響。

教宗利奧呼籲人工智能應由「明確的標準和有效的監督」指導，並應基於受影響社區的參與。

教宗利奧十四世呼籲結束人工智能軍備競賽

更具體地，利奧呼籲結束人工智能軍備競賽，「為了獲取更強大的算法和更大的數據集」，這些算法和數據集被公司和國家認為可確保「地緣政治或商業優勢」。他寫道：「解除武裝意味著否定技術權力自動賦予治理權的假設。」這些動態的出現早於人工智能。教宗利奧十三世於 1891 年的《Rerum Novarum》同樣針對工業革命期間的權力集中進行討論，但我們無需回溯至那麼久遠的過去。

伊隆·Elon Musk 收購推特並利用該平台協助特朗普當選；科技精英向超級政治行動委員會捐款數以百萬計以阻止人工智能監管的情況，明顯啟發了利奧十四世的工作。 教宗得出的結論與許多人相同：當今人工智能的超現實力量和能力大大提高了風險。聖母大學法學院教授保羅·卡羅扎，作為教宗社會科學院的成員及 Meta 監督委員會主席，對 TechCrunch 表示，人工智能驅動的虛假信息和深度偽造技術已經「侵蝕了我們識別真實與否的能力，這對民主政治實際上產生了影響。」

他指出，科技行業「收集和操縱」人類數據的做法，對「認知自由」構成了根本挑戰。