ChatGPT 太受歡迎也不好?OpenAI CEO 擔心炒作過度會有反效果

2月3日,紐約時報科技專欄作家凱文·羅斯(Kevin Roose)根據多位知情人的訊息,披露了ChatGPT推出前後發生在OpenAI的故事。 他寫道,ChatGPT 的受歡迎程度,即使在公司內部也是如此。 Altman 擔心對 ChatGPT 的過度炒作可能會引發監管反彈,或者對未來的產品產生過高的期望,甚至要求一位高管刪除一條顯示用戶數量快速增長的推文。

本文寫道,2022 年 11 月中旬的一天,OpenAI 工作人員接到了一項意外任務,即將發佈一款聊天機械人。 一位高管宣佈,該聊天機械人將被稱為“Chat with GPT-3.5”,並將在兩週內免費向公眾開放。

該公告讓一些 OpenAI 員工感到困惑。 整整一年,這家總部位於三藩市的人工智能公司一直致力於發佈 GPT-4,這是一種新的 AI 模型,在撰寫文章、解決複雜的編碼問題等方面出奇的好。 經過幾個月的測試和微調,GPT-4 幾乎準備就緒。 據三位了解 OpenAI 內部運作的人士透露,該計劃是在 2023 年初發佈該模型,以及一些供用戶自行試用的聊天機械人。

但 OpenAI 的高管改變了主意。 據了解 OpenAI 的人士稱,一些人擔心競爭對手公司可能會在 GPT-4 之前發佈他們自己的 AI 聊天機械人,從而超越他們。 他們認為使用舊模型快速發佈一些東西將有助於他們收集反饋以改進新模型。因此,他們決定使用 2020 年推出的增強版語言模型 GPT-3 更新未發佈的聊天機械人。

自首次亮相以來的幾個月裏,ChatGPT 已成為一種全球現象。 然而,關於它的起源或背後的策略卻鮮為人知。 在內部,根據幾位現任和前任 OpenAI 員工的說法,ChatGPT 是一個令人瞠目結舌的驚喜,一夜之間轟動一時,其成功既帶來了機遇,也帶來了麻煩。

在 ChatGPT 推出之前,一些 OpenAI 員工對該項目的成功持懷疑態度。 Meta 幾個月前發佈的人工智能聊天機械人 BlenderBot 以失敗告終,而 Meta 的另一個人工智能項目 Galactica 發佈僅 3 天就被下架。 一些員工因每天接觸最先進的人工智能系統而變得麻木不仁,他們認為建立在已有兩年歷史的人工智能模型上的聊天機械人可能看起來很無聊。

但兩位知情人士表示,ChatGPT 首次亮相兩個月後,用戶已超過 3000 萬,每天的訪問量約為 500 萬。 這使它成為人們記憶中增長最快的軟件產品之一。 相比之下,Instagram 花了將近一年的時間才獲得了第一個 1000 萬用戶。

增長也帶來挑戰。 ChatGPT 經常因處理能力不足而出現故障,用戶已經找到了繞過機械人某些安全功能的方法。 圍繞 ChatGPT 的炒作也激怒了它的一些更大的技術競爭對手,他們指出其基礎技術嚴格來說並不是那麼新。

目前,ChatGPT 也是一個資金陷阱。 根據 Altman 在 Twitter 上的一篇帖子,如果沒有廣告,數據處理平均每次對話花費“幾分錢”,每週可能花費數百萬美元。 為了抵消這些成本,該公司本週宣佈將對稱為 ChatGPT Plus 的高級版本收取每月 20 美元的訂閱費。

儘管存在局限性,但 ChatGPT 的成功讓 OpenAI 躋身矽谷強者行列。 該公司最近與 Microsoft 達成了 100 億美元的交易。 Microsoft 計劃將 OpenAI 的技術整合到其 Bing 搜尋引擎和其他產品中。 Google 發佈“Code Red”作為對ChatGPT的回應,快速追趕自家的很多AI產品,試圖迎頭趕上。

Altman 說他在 OpenAI 的目標是創造所謂的“通用人工智能”或 AGI,一種與人類智能相匹配的人工智能。 他一直是人工智能的直言不諱的支持者。 在最近的一次採訪中,他說人工智能對人類的好處可能“好得難以置信,我什至無法想像”。 他還表示,在最壞的情況下,人工智能會殺死所有人。

隨着 ChatGPT 吸引了全世界的目光,Altman 被推到了一個罕見的位置,試圖淡化今次成功。 兩位與他關係密切的人士表示,他擔心對 ChatGPT 的過度炒作可能會引發監管部門的強烈反對或對未來產品產生過高的期望。 在 Twitter 上,他試圖抑制興奮情緒,稱 ChatGPT“非常有限”,並警告用戶“現在任何重要的事情都依賴它是錯誤的”。

他還勸阻員工不要吹噓 ChatGPT 的成功。 去年 12 月,就在公司宣佈超過 100 萬人註冊了該服務幾天後,OpenAI 總裁 Greg Brockman 在 Twitter 上表示,該服務已達到 200 萬用戶。 兩位看到該交易所的人士表示,奧特曼要求布羅克曼刪除這條 Tweet ,並告訴他宣傳如此快速的增長是不明智的。

按照矽谷的標準,OpenAI 是一家不同尋常的公司。 該公司於 2015 年由一群技術領袖創立,包括 Altman、Peter Thiel、Reid Hoffman 和 Elon Musk。 一家非營利性研究實驗室,於 2019 年創建了一家營利性子公司,並與 Microsoft 達成了 10 億美元的交易。 根據 Altman 的說法,其員工人數已增至約 375 人,這還不包括在東歐和拉丁美洲等地區負責培訓和測試人工智能模型的外包工人。

從一開始,OpenAI 就把自己描繪成一個使命驅動的組織,希望確保先進的人工智能是安全的,並與人類價值觀保持一致。 但近年來,該公司已經接受了一種更具競爭力的精神,一些批評人士說,這是以犧牲其最初的目標為代價的。

去年夏天,當 OpenAI 發佈其 DALL-E 2 圖像生成軟件時,這些擔憂加劇了,該軟件將文本提示轉化為數字藝術作品。 該應用程式一直受到消費者的歡迎,但它引發了一個棘手的問題,即如此強大的工具如何被用來造成傷害。 評論家問,如果創造超現實主義的圖像就像打幾個字那麼容易,色情行業和公關人員難道不能利用這項技術嗎?

為了消除這些擔憂,OpenAI 為 DALL-E 2 配備了一些保護措施,並屏蔽了某些詞和短語,例如與暴力或裸體有關的詞和短語。 它還教會機械人“消除”其訓練數據中的某些偏見——例如確保當用戶要求提供 CEO 的照片時,結果也包括女性圖像。

據三位知情人士透露,這些干預措施避免了麻煩,但讓一些 OpenAI 高管感到強硬和家長式作風。 其中一位 Altman 曾表示,他認為 AI 聊天機械人應該根據用戶的喜好進行個性化設置,一個用戶可以選擇更嚴格、更適合家庭的模式,而另一個用戶則可以選擇更寬鬆、更前衛的版本。

OpenAI 對 ChatGPT 採取了不那麼嚴格的方法,讓機械人有更多權限就政治、性和宗教等敏感話題發表評論。 即使如此,一些右翼保守派仍指責該公司過度擴張。 《國家評論》上個月的頭條新聞稱,ChatGPT 對變裝皇后和 2020 年大選等話題給出了左翼回答。 民主黨人也抱怨 ChatGPT,主要是因為他們認為人工智能應該受到更多監管。

隨着監管機構的不斷湧入,奧特曼正試圖讓 ChatGPT 變得不可動搖。 他上週飛往華盛頓與立法者會面,解釋該工具的優點和缺點,並澄清對其工作原理的誤解。

回到矽谷,他正在掀起新一輪的關注浪潮。 兩位知情人士稱,除了 100 億美元的 Microsoft 交易外,奧特曼最近幾週還與 Apple 和 Google 的高管進行了會談。 OpenAI 還與新媒體 BuzzFeed 達成協議,使用其技術創建 AI 生成的列表和測驗。

比賽正在升溫。 據 Reuters 報導,中國科技巨頭百度正準備在 3 月份推出類似於 ChatGPT 的聊天機械人。 Anthropic 是一家由前 OpenAI 員工創立的人工智能公司,據說正在洽談籌集 3 億美元的新資金。 Google 正在推進十幾種人工智能工具。

然後是 GPT-4,它仍計劃於今年到達。 “當它出現時,它的功能可能會讓 ChatGPT 看起來很古板。或者,現在我們正在適應一種強大的新人工智能工具,下一個似乎不會那麼令人震驚,”露絲的文章中寫道。