德米斯·哈薩比斯呼籲建立 AI 評估機構 以應對通用人工智能風險

Google DeepMind 掌門人德米斯·哈薩比斯近日公開撰文，呼籲儘快建立一套針對前沿 AI 模型的審查機制，為即將到來的通用人工智能時代做好準備。他在文章中表示，通用人工智能「可能只需幾年就會到來」，而人類必須在此之前拿出應對方案。儘管哈薩比斯對時間表的預測並非首次引發爭議——他曾在 2025 年初預測 AI 設計藥物將進入人體試驗階段，但這一目標至今未能實現——但他此番的核心論點仍然值得關注。

哈薩比斯在文章中寫道：「我堅信，與 AI 技術風險相關的挑戰是可以被共同攻克的，但前提是我們必須給自己留出足夠的時間和空間，把這關鍵的下一步走對。目前，無論是在行業內還是整個社會層面，我們都還沒有做到這一點。」哈薩比斯提議美國參照金融業監管局 FINRA 的模式，創建一個專門評估前沿 AI 模型的標準化機構。該機構將由技術專家和開源社區代表組成董事會，資金來源為 AI 行業自身。

哈薩比斯呼籲建立前沿 AI 模型審查機制

哈薩比斯認為，這一機制既能吸引全球頂尖技術人才，又能確保機構擁有足夠的算力來執行各類前沿模型測試任務。該機構的核心職能將包括：制定前沿 AI 模型評估協議、建立評判基準，以及明確「前沿模型」的定義標準。被認定為「前沿模型」的開發機構將被歸類為「前沿實驗室」，並被鼓勵遵循一系列最佳實踐，包括發布模型技術説明卡、維護強有力的內部網絡安全、對關鍵人員進行背景審查，以及為安全研究提供充足資源等。

哈薩比斯提議，初期階段前沿實驗室可自願選擇是否提交模型供審查，提交時間窗口為正式發布前 30 天。待評估協議成熟後，該機構應逐步建立獨立於前沿實驗室的基準測試能力，避免出現「過度擬合」問題。