炒魷前一日,Sam Altman於 APEC 發表的講話

以下是 Sam Altman 在 APEC CEO 峰會上的講話內容,他表示生成式人工智能「將是人類迄今為止最具轉型和益處的技術」,AI 技術在未來幾代可能不需要嚴格的監管,「社會抗體」已足夠應對假信息,特別是在全球 2024 年選舉前。

以下是稍作編輯的講話內容,由 ChatGPT 3.5 翻譯而成

Jobs:[Meta 首席產品官] Chris [Cox],[Google 高級副總裁] James [Manyika] 和 Sam,你為什麼將生命奉獻給這項工作?

奧爾特曼:這絕對是我一生的工作,也是我從小就想從事的工作;我在學校學習過這個領域。我曾經被分散注意力,但一旦我們發現了一個攻擊向量,很明顯我想從事這項工作。我認為這將是人類迄今為止最具轉型和益處的技術。

我更一般地說,2020 年代將是整個人類從匱乏走向豐富的十年。我們將擁有遠超預期的豐富智能。能源也是如此,健康也是如此,還有其他幾個領域。但現在正在發生的技術變革將改變我們生活的限制,改變經濟和社會結構以及可能性。

我認為這將是我們迄今為止最大的一步,也是我們迄今為止最大的一次技術革命。所以我非常興奮。我無法想像有什麼比這更令人興奮的工作了。就個人而言,在過去幾個星期,我有機會親眼見證我們推開無知的面紗,推進探索的前沿,能夠做到這一點是我職業生涯的榮譽。所以,能夠從事這項工作真是太有趣了。

Jobs:我想讓你們每個人談一談你們如何考慮已經提出的一些存在威脅,以及法規的狀態,什麼是合適的,什麼是過多的。我們現在如何做到正確,並且在技術發展時保持開放?

今年 6 月初,我在特拉維夫與以色列作家和公共知識分子尤瓦爾(Yuval Harari)共進晚餐。他非常擔心。

我理解。我真的理解,如果你沒有密切關注這個領域,你會覺得事情突然就變得垂直了。當然,你知道,人們可能之前也在做一些事情,但人們有這些論文在這裡,這個模型在這裡,這個神經網絡在這裡,但使用機器翻譯的人並不真正覺得他們在使用人工智能。

突然之間,人們對某種事物的感知發生了質的變化。你知道,現在我可以和這個東西交談。這就像是我一直期待的《星際迷航》電腦,我沒有預料到這會發生。為什麼今年?為什麼不是一年前?為什麼不是在 10 年後?發生了什麼?是的,所以我認為今年全世界已經共同經歷了一次飛躍。現在,人們對許多其他事情都可以做到,他們說:“是啊,伙計,GPT-5 在哪裡?你對我有什麼幫助?”我們已經前進了,這太好了。我認為這是一種偉大的人類精神,我希望我們永遠不會失去。但當你第一次聽到這個或使用它時,它感覺更像是一個生物而不是一個工具,然後你使用它更多,你看到它如何幫助你,你看到它的局限性。

這就像是在技術樹上解鎖的另一個東西。現在。我確實認為這一次有一些重要的不同之處。這可能是我們理解的第一個可以自我改進的工具。但我們需要新的想法,我認為我們作為一個物種正在走向自我毀滅的道路。如果我們想要再繁榮數萬年、數十萬年甚至數百萬年,我們需要新的想法,我們需要新的技術,我認為很多人在 AI 中看到了這種潛力。但這不是一個完美的勝利故事。我們必須減輕這些副作用。從短期來看,它確實有很多奇妙的幫助我們的事情,在中期內,它如何幫助我們治愈疾病,找到解決我們最迫切問題的新方法。但另一方面,我們如何確保它是一個具有適當保障措施的工具,當它變得非常強大時?

現在,它並不強大,也不是多大的問題。但人們很聰明,他們看到它的發展方向。即使作為一個物種,我們無法很好地理解指數,但我們可以感覺到某些事情將繼續下去;這將繼續下去。所以你面臨的問題是:「我們如何獲得盡可能多的好處,不要過多地減緩它的發展?」地球上每個人都有一個 AI 導師?是的,請。聽起來太棒了。AI 醫學顧問。是的,治愈每一種疾病,太好了。

Jobs:但在壞人手中,也可能帶來非常非常負面的後果。

我們將設置什麼樣的限制?誰將決定這些限制?我們將如何執行這些限制?在國家層面上,道路上的規則將是什麼,我們必須達成一些協議,人們意識到這個挑戰。也就是說,這已經是我過去一年中重要的一部分。我真的認為世界將迎接這個挑戰,每個人都想做正確的事情。

Jobs:嗯。那執行令呢?那是否足夠正確?

其中有很多值得爭論的事情,也有很多需要改進的地方,但作為一個開始,它說:「我們要在這裡做些事情。」我認為這是一個很好的開始。目前,行業真正關注的是如何確保我們在真正前沿的模型上有周到的防護措施,而不會讓我們所有人都變成規範捕獲,停止開放源模型和小公司。我認為開放源碼很棒。我很高興你們都在做這個。我希望我們能看到更多這樣的事情。

Jobs:我認為我們應該就此進行討論。但繼續,因為你有一些開放源碼的元素。

向人們解釋當前的模型是好的,這是一個難題。我們在這裡不需要嚴格的監管。可能未來幾代也不需要,但當模型能夠做到 – 相當於一個完整的公司,然後是一個完整的國家,然後是整個世界 – 也許我們確實希望在這方面進行一些全球集體監督和集體決策。

我們並不是告訴你們要完全忽視個人的損害。我們也不是說你應該去打擊小公司和開放源模型。我們是在說:「相信我們,這將變得非常強大和可怕,你必須在以後對它進行監管」 – 這是非常困難的平衡。

Jobs:Sam,讓我們談談明年的選舉和你的預期。

我真的認為我們低估了已經建立的社會抗體的程度。但它還不完美。此外,危險之處不在於我們已經理解的那些,也就是現有的圖像和視頻,而是所有新的東西 – 已知的未知,未知的未知 – 將從中產生。我們最近談到了個性化的一對一說服的想法,我們還不知道它將如何發展。但我們知道它即將到來。還有很多其他的事情,因為我們還沒有看到,你知道,生成視頻或其他東西能夠做什麼。這將在選舉年迅速而猛烈地出現,我們唯一能夠應對的方式是建立一個非常緊密的反饋循環。我們,作為一個行業,作為社會,一切都是如此。

Jobs:嗯。我想問題在於通常情況下,損害已經發生,然後我們才會注意到,然後我也了解到在社會層面上有廣泛的抗體,因為我們現在已經深陷於宣傳和假信息的海洋中。然而,我們仍然有很多人在這個國家和其他地方相信容易被證明為錯誤的陰謀論,但他們仍然相信它們。這與人類的本性以及大腦對信息的把握方式有關,這是我們無法迅速進步的事情。

在人類歷史上,我們一直在努力解決這個問題。陰謀論總是其他人相信的東西。但我不想完全忽視這個問題。這涉及到人類心理的一些深層次問題,但這並不是這項技術的新問題。它可能比以前更加突出。

相對於我們在互聯網上經歷過的一切,AI 生成的圖像是否會使它變得更加突出,還不清楚。

Jobs:在你的領域或你的公司中,你認為 2024 年最令人驚訝的事情是什麼?

模型的能力將取得如此大的飛躍,超出了所有人的預期。

Jobs:等等,再說一遍?

模型的能力,就是這些系統能做到的事情,將取得如此大的飛躍,超出了所有人的預期。

此文章發佈於 TechRitual 香港 - 日本電話卡
十斗
十斗https://www.techritual.com/author/tenten/
十斗在知名大學取得了計算機科學與工程學位,並在學術研究方面表現出色。她的研究領域包括人工智能、機器學習和數據科學。一斗為十升,一升為十合,一合為十分之一升。謝靈運言天下才學一石,曹植占八斗,以此讚譽。後用以比喻才學極高。