我們何時才會認真對待 AI 末日論者？這是 Elon Musk 試圖關閉 OpenAI 盈利 AI 業務的關鍵潛台詞。他的律師辯稱，該組織最初設立為專注 AI 安全的慈善機構，後來卻迷失於追逐金錢的道路。為證明這一點，他們引用了組織創辦人過去的電郵和聲明，強調需要一個公眾利益導向的對重，以抗衡 Google DeepMind。今天，他們傳召唯一的專家證人：Stuart Russell，加州大學柏克萊分校計算機科學教授，他數十年來研究 AI。
他的任務是提供 AI 背景知識，並證明這項技術危險到值得擔憂的地步。Russell 在 2023 年 3 月聯署一封公開信，呼籲暫停 AI 研究六個月。這裡存在矛盾的是，Musk 也簽署了同一封信，儘管他同時推出自己的盈利 AI 實驗室 xAI。
AI 風險與安全張力
Russell 向陪審團和 Yvonne Gonzalez Rodgers 法官表示，AI 發展伴隨著多種風險，從網絡安全威脅，到對齊問題，以及開發人工通用智能（AGI）的贏家通吃性質。最終，他指出追求 AGI 與安全之間存在張力。由於 OpenAI 律師反對，法官限制了 Russell 的證詞，因此他對無約束 AI 存在威脅的更大擔憂未能在公開法庭上陳述。
但 Russell 長期批評全球前沿實驗室競相率先達到 AGI 所製造的軍備競賽動態，並呼籲政府更嚴格監管該領域。OpenAI 律師在交叉詰問中確立，Russell 並未直接評估該組織的公司結構或具體安全政策。但本記者（以及法官和陪審團）將衡量企業貪婪與 AI 安全擔憂之間的關係價值。幾乎每位 OpenAI 創辦人都強烈警告 AI 風險，同時強調其益處，試圖盡快構建 AI——並策劃由他們控制的 AI 盈利企業。
從外部看，一個明顯問題是 OpenAI 創立後內部逐漸意識到，若要成功，組織需要更多計算支出，而這些資金只能來自盈利投資者。創辦團隊對單一組織掌控 AGI 的恐懼，推動他們尋求資本，最終撕裂團隊，製造出今日的軍備競賽——並引發這場訴訟。同樣動態已在國家層面展開：Bernie Sanders 參議員推動立法，對數據中心建設實施禁令，引用 Musk、Sam Altman、Geoffrey Hinton 等人的 AI 恐懼。
數據創新中心（Center for Data Innovation）的 Hoden Omar 反對 Sanders 只引用他們的恐懼而忽略希望，她告訴 TechCrunch：「不清楚公眾為何應當忽略科技億萬富翁的一切言論，唯獨當其話語可用來填補脆弱論證空白時例外。」現在，訴訟雙方均要求法庭這麼做：認真對待 Altman 和 Musk 論點的部分，但忽略不利於其法律論證的部分。
更正：本文已更新，修正加州大學柏克萊分校計算機科學教授 Stuart Russell 的姓名。
📬 免費訂閱 TechRitual 科技精選
每 3 日由 AI 精選 5 篇最重要香港科技新聞，直送你信箱
或者