OpenAI 相信超人工智能即將到來,希望建立工具來控制它

在 OpenAI 的創始人之一以及首席科學家 Ilya Sutskever 的帶領下,Superalignment 團隊正努力開發方法來引導、監管和管理「超智能」人工智能系統,也就是智能遠遠超過人類的理論系統。

Superalignment 團隊目前正試圖建立適用於未來強大人工智能系統的管理和控制框架。考慮到「超智能」的定義以及特定人工智能系統是否已達到此水平,這並不是一個簡單的任務。但目前團隊所採用的方法是使用一個較弱、不太複雜的人工智能模型(例如 GPT-2)來引導一個更先進、複雜的模型(GPT-4)朝著期望的方向發展,並遠離不期望的方向。然而,OpenAI 希望以群眾智慧的方式來獲得更多想法。

為此,OpenAI 將推出一項價值 1000 萬美元的研究補助計劃,以支持有關超智能對齊的技術研究,其中一部分將保留給學術實驗室、非營利組織、獨立研究人員和研究生。OpenAI 還計劃在 2025 年初舉辦一次關於超智能對齊的學術會議,屆時將分享和推廣超智能對齊獎的入圍作品。

有趣的是,補助計劃的部分資金將來自前 Google 首席執行官兼主席 Eric Schmidt。作為 Altman 的熱情支持者,Schmidt 迅速成為 AI 悲觀論的代表人物,他聲稱危險的 AI 系統即將到來,而監管機構在準備方面做得不夠。這並不完全出於利他主義的心態,Protocol 和 Wired 的報導指出,作為一位積極的 AI 投資者,Schmidt 如果美國政府實施他提出的增強 AI 研究的藍圖,他將從商業上獲得巨大利益。

從這個角度來看,這種捐贈可能被視為一種虛偽的示好。Schmidt 的個人財富估計約 240 億美元,他還向其他與倫理關聯較少的 AI 項目和基金注入了數億美元,包括他自己的項目。當然,Schmidt 否認這是真實情況。

他在一封電子郵件聲明中表示:“人工智能和其他新興技術正在重塑我們的經濟和社會。確保它們與人類價值觀一致至關重要,我很自豪支持 OpenAI 的新補助計劃,為公眾利益負責地發展和控制人工智能。”

實際上,一個具有如此明顯商業動機的人的參與引發了一個問題:OpenAI 的超智能對齊研究,以及它鼓勵社區提交到未來會議的研究,是否將向任何人公開使用?

Superalignment 團隊向我保證,是的,OpenAI 的研究(包括代碼)以及其他獲得 OpenAI 超智能對齊相關研究補助和獎項的人的工作將公開分享。我們將要求該公司履行承諾。

Aschenbrenner 表示:“我們的使命不僅是確保我們模型的安全性,還包括其他實驗室的模型和先進人工智能的安全性。這對於我們建立(人工智能)以造福全人類並確保其安全性的使命非常核心。我們認為進行這項研究絕對是至關重要的。”


此文章發佈於 TechRitual 香港