Apple 聯合創辦人 Steve Wozniak 支持對 AI 超智能的臨時禁令

Apple 的聯合創辦人 Steve Wozniak 是超過一千位公共人物中的一員,他們呼籲暫時禁止開發 AI 超智能系統。其他簽名者包括諾貝爾獎得主、AI 先驅和其他科技精英。該聲明簡潔明瞭,內容如下:

創新的 AI 工具可能帶來前所未有的健康和繁榮。然而,隨著這些工具的出現,許多領先的 AI 公司明言其目標是在未來十年內建造超智能,該系統能在幾乎所有認知任務上顯著超越人類。這引發了擔憂,範圍涵蓋人類經濟失業和無能為力、自由、民事自由、尊嚴和控制權的喪失,以至於國家安全風險,甚至潛在的人類滅絕。以下簡潔的聲明旨在創造一個對於日益增長的反對超智能發展的專家和公共人物的共同認知。我們呼籲禁止開發超智能,並在廣泛的科學共識認為它能安全可控地實現之前,不應解除這一禁令,同時需要廣泛的公眾支持。

其他一些著名簽名者包括:
– AI 先驅 Geoffrey Hinton,常被稱為「深度學習之父」
– 基礎 AI 研究者 Yoshua Bengio
– 加州大學伯克利分校計算機科學教授及 AI 安全專家 Stuart Russell
– 諾貝爾獎物理學家 Frank Wilczek 和 John C. Mather
– 諾貝爾獎得主 Beatrice Fihn 和 Daron Acemoğlu
– 前美國國家安全顧問 Susan Rice

許多簽名者早前曾表示,人工通用智能(AGI)對人類滅絕的威脅與疫情和核戰爭一樣重大。


Henderson
Henderson 主要擔任「炒稿記者」的職責,以翻譯最新科技,手機 電動車等消息為每天的工作。