近日，Anthropic 首席執行官達裏奧·阿莫迪透過影片在聯合國安理會人工智能與國際安全會議上發言，就人工智能的潛在風險發出嚴厲警告。他明確表示，如果管理不善，人工智能可能對全人類構成生存風險。他同時承諾，出於安全考量，Anthropic 將放慢人工智能的研發進度。
Anthropic 將放慢人工智能研發進度以確保安全
阿莫迪在發言中系統闡述了人工智能面臨的兩類核心風險。第一是人工智能模型被濫用，他特別指出「生物恐怖分子利用人工智能製造生物武器」的風險——不法分子可能借助人工智能技術降低製造生物武器的門檻，對全球安全構成直接威脅。第二是模型能力加速超越開發者的控制能力，即人工智能系統可能在人類尚未建立起有效管控機制之前，就已發展到難以駕馭的程度。
阿莫迪對安理會表示：「如果管理不善，我甚至認為人工智能可能成為全人類的風險。」他將此定義為「當今世界面臨的最重要的全球安全問題」。面對上述風險，阿莫迪給出了 Anthropic 的具體承諾。他表示，公司將「需要多慢就多慢」地放慢步伐，以確保每一個新發布的人工智能系統都是安全的。
但他同時強調，管理人工智能風險「比任何一家公司都更大」，具有「全行業和全球的規模」。Anthropic 阿莫迪呼籲建立全球統一的人工智能模型測試標準，覆蓋「失控風險與濫用風險」兩個維度，並建議設立人工智能安全事件通報系統，使各國能夠相互核實承諾的履行情況。他提出的三項國際合作建議包括：禁止將人工智能用於製造生物武器的狹範圍全球協議、評估與驗證體系，以及全球人工智能測試標準與安全事件通報機制。
