據外媒報導，今年菲爾茲獎得主、數學家 Jacob Zimmerman 最近宣佈成立數學 AI 安全研究所 MAISI，Zimmerman 擔任該研究所的科學總監，Andrew Critch 則擔任秘書長。菲爾茲獎每四年頒發一次，專門授予 40 歲以下的數學家，被認為是數學領域內最具權威性的獎項。
MAISI 將於 2027 年啟動第一學期的 AI 安全研究
MAISI 參考普林斯頓高等研究院的結構，以學期為單位邀請數學家進行 AI 安全研究。研究所計劃於 2027 年 1 月啟動第一學期，邀請 10 至 30 名數學家前往灣區；而在 2027 年 9 月的特別學年中，規模將擴大至 30 至 100 人。該研究所的目標是開發定義、測量方法及解決方案的概念，旨在確定能夠確信特定 AI 系統不會引發災難的條件。
顧問團成員包括蒂莫西·高爾斯（Timothy Gowers）、拉維·瓦基爾（Ravi Vakil）、傑弗裏·歐文（Jeffrey Irving）和保羅·克里斯蒂亞諾（Paul Christiano）。其中，高爾斯與瓦基爾為數學家，歐文與克里斯蒂亞諾則長期從事 AI 安全研究。MAISI 將與 Alignment.org 及 Resolution.org 展開合作。
Zimmerman 本月將加入 OpenAI 安全部門，但 MAISI 表示其運作獨立於 OpenAI。Critch 曾於 2025 年與 Zimmerman 共同撰寫論文，探討 AI 風險中威脅全人類的情況。AI 安全討論的重點此前主要集中在政策、評估和實驗上，而大規模集合數學家致力於理論基礎的組織成立案例並不常見。Anthropic 對齊科學負責人埃文·胡賓格（Evan Hubinger）同日表示，目前尚未獲得解決超級智能對齊問題的方法。
