Richard Socher 在人工智能領域已經活躍了一段時間，最為人知的是創立了早期的聊天機器人初創公司 You.com，以及在此之前對 Imagenet 的貢獻。現在，他加入了一個專注於研究的人工智能初創公司 Recursive Superintelligence，這是一家總部位於舊金山的初創公司，於星期三以 6.5 億美元的資金正式公開。Socher 與一些傑出的人工智能研究者合作創立了這個新公司，包括 Peter Norvig 和 Cresta 的共同創始人 Tim Shi。
他們的目標是創建一個能夠自我改進的人工智能模型，這種模型可以自主識別自身的弱點，並重新設計自己以修正這些弱點，而無需人類幹預——這是當代人工智能研究中長期以來的聖杯。我在發佈會後通過 Zoom 與他交談，深入探討 Recursive 的獨特技術方法，以及為什麼他不將這個新項目視為 neolab，這個非正式術語用來描述一代以研究為優先的人工智能初創公司。以下是經過編輯的訪談內容。
我們聽到很多關於遞歸的討論！
這似乎是不同實驗室之間非常普遍的目標。您認為自己的獨特方法是什麼？我們的獨特方法是利用開放性來達到遞歸自我改進，而這是目前無人實現的。這對很多人來説是一個難以捉摸的目標。許多人已經假定只要進行自動研究就能實現。你知道的，你可以讓人工智能幫你改進其他東西，可能是一個機器學習系統，或者你寫的一封信，或者其他任何東西。但這不是遞歸自我改進，那只是改進。我們的主要焦點是建立真正的遞歸、自我改進的超級智能，這意味著整個創意構思、實施和驗證研究想法的過程將是自動化的。
首先，它將自動化人工智能研究的想法，最終任何類型的研究想法，甚至最終在物理領域。但當它是人工智能在自我工作，並發展出一種新的自我認知來認識自己的短處時，這是特別強大的。 您使用了「開放性」這個術語——這是否具有特定的技術意義？確實如此。事實上，我們的共同創始人 Tim Rocktäschel 曾在 Google DeepMind 領導開放性和自我改進團隊，特別是參與了世界模型 Genie 3 的開發，這是一個很好的開放性範例。
你可以告訴它任何概念、任何世界、任何代理，然後它就會創建出來，並且是互動的。在生物進化中，動物適應環境，然後其他生物對這些適應進行反向適應。這是一個可以進化數十億年的過程，隨之而來的是有趣的事件，這就是我們如何在頭部發展出眼睛的另一個例子。 您聽過紅隊嗎？在網絡安全中，這意味著——所以，紅隊也必須在 LLM 的背景下進行。基本上，你試著讓 LLM 告訴你如何製造炸彈，而你希望它不這樣做。
現在，人類可以坐在那裡很長時間，想出 AI 不應該説什麼的有趣例子。但如果你先用第二個 AI 測試第一個 AI，那麼第二個 AI 的任務就是讓第一個 AI 嘗試説出所有可能的壞話。然後它們可以進行數百萬次迭代的相互作用。你實際上可以讓兩個 AI 共同進化。一個不斷攻擊另一個，然後不僅提出一個角度，而是多個不同的角度，因此可以稱之為彩虹比喻。然後你可以給第一個 AI 接種疫苗，這樣你就會變得越來越安全。
這是 Tim Rocktaeschel 的一個想法，現在已經在所有主要實驗室中使用。 您如何知道這一切何時完成？我想這永遠不會完成。其中一些事情永遠不會完成。你總是可以變得更加聰明。你總是可以在編程和數學等方面變得更好。智力是有一定界限的；我實際上正在試圖將這些界限形式化，但這些界限是天文數字。我們距離那些極限還很遠。 作為一個 neolab，感覺上你應該在做一些主要實驗室沒有做的事情。
因此，這裡的部分含義是，你不認為主要實驗室會通過他們現在的做法達到 RSI（遞歸自我改進），這樣説是否公平？我實際上無法評論他們的工作，但我確實認為我們的接近方式不同。我們真正擁抱開放性的概念，我們的團隊完全專注於這個願景。這支團隊在過去十年中一直在這個領域進行研究和發表論文，並且在推進該領域方面有著顯著的成就。你知道的，Tim Shi 將 Cresta 建設成為了一家獨角獸。
Josh Tobin 是 OpenAI 的首批成員之一，最終負責他們的 Codex 團隊和深度研究團隊。我有時對這個 neolab 類別感到有些困惑。我感覺我們不僅僅是一個實驗室。我希望我們能成為一個真正可行的公司，擁有真正出色的產品，讓人們愛不釋手，對人類產生積極影響。 那麼您計劃什麼時候推出您的第一個產品？我想了很多。團隊已經取得了如此大的進展，我們實際上可能會提前我們最初的時間表。
但確實會有產品，您需要等幾個季度，而不是幾年。在遞歸自我改進的概念中，一旦我們擁有這種系統，計算能力就成為唯一重要的資源。運行系統的速度越快，它的改進就越快，並且沒有外部人類活動會真正產生影響。因此，競賽變成了，我們能投入多少計算能力？您認為我們正朝著那個方向前進嗎？計算能力不容小覷。我認為未來一個非常重要的問題將是：人類希望花多少計算能力來解決哪些問題？這裡有這種癌症，還有那種病毒——你想先解決哪一個？
你想給它多少計算能力？最終這將成為資源分配的問題。這將是世界上最大的問題之一。
