Amazon AWS 雲端服務部門宣佈推出新的晶片，供客戶建立和運行 A.I. 應用程式，同時計劃提供對 Nvidia 最新晶片的存取權限。
Amazon 網絡服務希望以多種具有成本效益的選項脫穎而出，但並不僅僅銷售便宜的 Amazon 品牌產品。就像在其線上零售市場一樣， Amazon 的雲端服務將提供其他供應商的頂尖產品，包括頂級 A.I. 晶片製造商 Nvidia 的廣受追捧的 GPU。

自從初創公司 OpenAI 去年推出其 ChatGPT ChatBot 以來，對 Nvidia GPU 的需求飆升，該 ChatBot 以其摘要資訊和撰寫類似人類的文字的能力令人驚嘆。這導致 Nvidia 晶片供應短缺，因為各公司紛紛競相將類似生成式 A.I. 技術融入其產品中。

Amazon 既自行研發晶片，又讓客戶存取 Nvidia 最新晶片的雙管齊下策略可能有助於對抗其頂尖雲端計算競爭對手 Microsoft 。本月早些時候， Microsoft 採取了類似的方式，揭示了其首款 A.I. 處理器Maia 100，並表示 Azure 雲端將配備 Nvidia H200 GPU。

這些公告是在拉斯維加斯的 Reinvent 大會上宣佈的。具體而言，AWS 表示將提供對 Nvidia 最新的 H200 A.I. 圖形處理單元的存取權限。它還宣佈了其新的 Trainium2 A.I. 晶片和通用的 Graviton4 處理器。

新的 Nvidia GPU 是 H100 的升級版，而 H100 是 OpenAI 用於訓練其最先進的大型語言模型 GPT-4 的晶片。大公司、初創企業和政府機構都在爭奪有限的晶片供應，這意味着對象 Amazon 這樣的雲端服務提供商租借這些晶片的需求很高。Nvidia 表示，H200 的輸出速度將比 H100 快近兩倍。

Amazon 自家的 Trainium2 晶片專為訓練 A.I. 模型而設計，包括像 OpenAI 的 ChatGPT 和其競爭對手運行的 AI ChatBot 所使用的模型。初創公司 Databricks 和 Amazon 支持的 OpenAI 競爭對手 Anthropic 計劃使用新的 Trainium2 晶片來建立模型，據 Amazon 表示，這些晶片的性能將比原始模型提高四倍。

Graviton4 處理器基於 Arm 架構，能耗比 Intel 或 AMD 的晶片更低。Graviton4 承諾比現有的 Graviton3 晶片性能提高 30% ，實現 AWS 所說的更好的價格輸出比。通脹率高於平常，激發了央行加息的動力。希望繼續使用 AWS 但降低雲端費用以應對經濟形勢的組織可能希望考慮轉向 Graviton。

Amazon 表示，已有超過 50000 個 AWS 客戶正在使用 Graviton 晶片。

最後，作為與 Nvidia 關係的深化部分，AWS 表示將運營超過 16000 個 Nvidia GH200 Grace Hopper Superchips，其中包含 Nvidia GPU 和 Nvidia 的基於 Arm 的通用處理器。Nvidia 自己的研發團隊和 AWS 的客戶都將能夠利用這一基礎設施。

自 2006 年推出 EC2 和 S3 服務以來，AWS 已經推出了 200 多個雲端產品。其中並非所有產品都取得了成功。一些產品長時間不更新，極少數產品被停用，使 Amazon 能夠重新分配資源。然而，該公司繼續投資於 Graviton 和 Trainium 計劃，這表明 Amazon 感覺到了需求。

AWS 並未公佈搭載 Nvidia H200 晶片的虛擬機實例的發佈日期，也沒有依賴其 Trainium2 矽的實例。在這些虛擬機實例在未來幾個月商業化之前，客戶可以立即開始測試 Graviton4 虛擬機實例。

在 AWS re:Invent 大會上宣布，亞馬遜將推出名為 Titan 的文本轉圖像人工智能模型，以加入人工智能圖像生成的競爭。Titan 圖像生成器可以創建「逼真的、工作室品質的圖像」，並據稱具有內建的防毒性和偏見的保護措施。Titan 不僅是一個獨立的應用程式或網站，而是開發人員可以構建自己的圖像生成器的工具，並由該模型提供支持；要使用它，開發人員需要訪問 Amazon Bedrock。

AWS 資料庫、分析和機器學習副總裁 Swami Sivasubramanian 在他的主題演講中預覽了 Titan 圖像生成器，指出該模型不僅可以根據自然語言提示創建圖像，還可以更換背景。它的目標是企業用戶，而不是像 OpenAI 的 DALL-E 等眾所周知的現有圖像生成器那樣面向消費者。

所有從 Titan 圖像生成器生成的圖像都會自動包含亞馬遜稱之為「隱形水印」的標記。AWS 生成 AI 副總裁 Vasi Philomin 告訴 The Verge，這是亞馬遜在七月份與白宮簽署的自願承諾的一部分。

Philomin 在接受訪問時表示：「我們希望找到一種方式，可以將圖像標記為使用人工智能創建，特別是使用 Titan 圖像生成器創建的圖像，而且這種標記不會干擾視覺效果，不會產生延遲，也無法被裁剪或壓縮去除。」

他補充說，這種水印不僅僅限於文件的元數據。

然而，隱形水印的檢測方式存在一個問題。亞馬遜創建了一個 API 供人們連接，然後將圖像傳入以檢查圖像的來源。Philomin 表示，這是有意而為之的；畢竟，Titan 不是一個終端產品，而是一個模型，因此使用 Titan 圖像生成器的開發人員將選擇如何向用戶提供這些信息。

水印或將內容標記為人工智能生成是拜登政府關於人工智能的行政命令的重要部分。為了應對這一問題，微軟和 Adobe 等公司採用了由內容溯源和真實性聯盟 (C2PA) 開發的內容憑證系統。Adobe 更進一步，在圖像和視頻內容中添加了標記內容憑證的圖標。

Sivasubramanian 還宣布了其他 Titan 模型的正式提供：Titan Text Lite 是一個較小的模型，用於較輕的文本生成任務，如文案寫作；而 Text Express 則用於更大型的應用，如對話式聊天應用程序。

亞馬遜還將向使用其 Titan 基礎模型（包括文本轉圖像）的客戶提供版權保護。即使應用程序使用了其 Bedrock AI 模型庫中的不同基礎模型，如 Meta 的 Llama 2 或 Anthropic 的 Claude 2，亞馬遜也將為使用任何由其創建的人工智能應用程序的用戶提供法律保護。這些應用程序包括 AWS HealthScribe、CodeWhisperer、Amazon Personalize、Amazon Lex 和 Amazon Connect Contact Lens。

Amazon 表示，將推出一款名為 Q 的企業 ChatBot ，其動力來自生成式 A.I. （AI）技術。這一宣佈是在拉斯維加斯舉行的 Amazon AWS 雲計算服務的年度會議上進行的，這也是 Amazon 對競爭對手推出的引起公眾關注的 ChatBot 的回應。

一年前，三藩市初創公司 OpenAI 推出了 ChatGPT，引發了公眾和企業對生成式 AI 工具的熱切關注，這些工具可以撰寫電子郵件、營銷提案、文章和其他類似人類工作的文本。這一關注起初給了 OpenAI 的首席合作夥伴和財務支持者 Microsoft 一個優勢， Microsoft 擁有 ChatGPT 背後的基礎技術的權利，並利用它建立了自己的生成式 AI 工具，即 Copilot。但這也激發了諸如 Google 等競爭對手推出自己的版本。

這些 ChatBot 是一代新的 AI，它們可以進行對話，根據從大量數字書籍、在線文章和其他媒體中學到的知識，按需生成文本，甚至生成新的圖像和影片。 Amazon 表示，Q 可以合成內容，簡化日常溝通，幫助員工完成任務。公司還表示，企業可以將 Q 連接到自己的數據和系統，以獲得更個性化和相關性更強的體驗。該技術目前正在進行預覽。

儘管 Amazon 在主導雲計算提供商方面領先於競爭對手 Microsoft 和 Google ，但在 AI 研究方面並不被認為是領導者。斯坦福大學最近的一項指標評估了包括 Amazon 的 Titan 在內的前 10 個基礎 AI 模型的透明度，結果將 Amazon 排在最後。

研究人員表示，透明度較低可能會使希望使用該技術的客戶難以確定是否可以安全依賴它，還會帶來其他問題。與此同時， Amazon 一直在不斷涉足 AI 領域。

去年 9 月， Amazon 表示將在總額高達 40 億美元（約 31 億英鎊）的投資中，投資於 Anthropic 這家總部位於三藩市的 AI 初創公司，該公司由 OpenAI 的前員工創立。這家科技巨頭還推出了新的服務，包括對其熱門助手 Alexa 的更新，使用戶可以進行更加類似人類對話的交流，以及為消費者提供由 AI 生成的商品評論摘要。

Hugging Face 表示，在競爭對手 OpenAI 的混亂事件之後，該人工智能初創公司正看到更多潛在客戶的興趣增加。

Hugging Face CEO Clément Delangue 在與記者進行的一次電話會議上表示：「我認為現在很多公司和組織都在思考將他們的人工智能外包給單一供應商的風險。這對他們來說創造了單一故障點，對整個領域也是如此，所以他們正在尋找不同的解決方案。」

Hugging Face 是一個供開發人員共享人工智能模型代碼的平台，該公司並不是這個領域中第一個分享這一觀察的高價值初創公司。自從 Sam Altman 被撤職後，OpenAI CEO 迅速重返職位，引起員工和投資者的騷動以來，多倫多的大型語言模型初創公司 Cohere 也收到了更多潛在客戶的咨詢，發言人 Josh Gartner 表示。

Gartner 在周二對 CNBC 表示：「公司希望出色可靠的商業解決方案，而不是肥皂劇。」

CNBC 採訪的多家公司表示，在 OpenAI 內部的混亂加劇時，他們曾考慮從 OpenAI 轉向競爭對手的服務。

Cohere 的首席執行官 Aidan Gomez 和首席運營官 Martin Kon 上週在 Altman 返回之前給投資者發了一封信，告知他們公司的使命和策略得到了領導團隊、公司、企業客戶和投資者的「充分支持」。該信沒有點名 OpenAI，但提到了「上週末我們某個競爭對手的事件」。OpenAI 的結構是獨特的，母公司是一家非營利組織，下屬有一家所謂的有上限利潤的公司。董事會代表非營利組織，監督 Altman 和公司團隊的活動。

Cohere 的高管們清楚地對比了他們公司的經營方式。他們寫道：「Cohere 幸運地擁有一個由非常有經驗的外部董事組成的董事會，他們是具有重要股權的專業投資者，此外，創始人也對董事會擁有控制權。」他們還補充說，面對 OpenAI 的挑戰，「我們相信企業比以往任何時候都更需要穩定可靠的大型語言模型供應商。」

Hugging Face 的總部位於紐約，今年 8 月，該公司以 45 億美元的估值成功籌集了 2.35 億美元的資金，投資者包括 Google、亞馬遜、Nvidia、Salesforce、AMD、Intel、IBM 和 Qualcomm。

Anthropic 是由前 OpenAI 員工創辦的公司，對於過去幾週是否看到了增加的興趣，該公司拒絕置評。該公司的估值為 41 億美元。Google 的 Bard 團隊是 OpenAI ChatGPT 的競爭對手，該團隊的代表也拒絕置評。

Intel 推出 Gaudi3 處理器，具備內建記憶體的 AI 加速器，挑戰 H100 這款最佳顯示卡。Gaudi3 是一款 5nm 製程的處理器，為 7nm 深度學習訓練處理器 Gaudi2 的後繼產品。據 Serve the Home 報導，Gaudi3 的腦部浮點運算能力是 BF16 的四倍，網絡能力是兩倍，頻寬則是高頻寬記憶體的 1.5 倍。

預計 Gaudi3 將於 2024 年推出，據該報導估計，該處理器將搭載高達 128GB 的 HBM3e RAM，相較於前代的 96GB HBM2e 內建記憶體，這將帶來顯著的 AI 學習和訓練性能提升。

這實際上是 Intel 對 GH200 超級芯片的回應，後者搭載了 141GB 的 HBM3e 記憶體，是 Nvidia 最新顯示卡的陪伴者。由於 Gaudi2 的性能與 H100 相近，Gaudi3 很可能在性能水平上與 H200 相當。Intel 在展示其 Gaudi3 晶片的能力時，同時展示了搭載在全新 Aurora 超級計算機中的 Intel Max 系列 1550 顯示卡。這是第二台 exascale 超級計算機，一旦完全調校，很可能成為有史以來最強大的計算機。

預計它在性能上將超越 Frontier 超級計算機，達到高達 2 exaFLOPs 的水平，即每秒約兩千億億次計算。根據該公司的說法，相較於搭載 AMD 和 Nvidia 顯示卡的可比系統，它在處理 AI 訓練工作負載方面具有更強大的能力。

在 CosmicTagger 單 GPU 訓練吞吐量基準測試中，Intel Max 1550 GPU 的得分為 48.4 samples per second，而 AMD 的 MI250 和 Nvidia 的 A100 則分別為 31.2 和 14.7。在 CosmicTagger 單節點訓練基準測試中，Intel 的 GPU 的得分為 280 samples per second，而 AMD 和 Nvidia 的 GPU 則分別為 120 和 54.9。

雖然目前沒有 Nvidia 的 H100 或 H200 顯示卡的可比基準測試數據，但這些結果使得 Intel Max 1550 成為運行 AI 訓練和推理工作負載的非常出色的選擇。

Bard 持續利用 Google 的一系列服務和平台，以越來越實用的方式提供服務。根據 Android Authority 的報導，Google 的 AI 聊天機器人 Bard 的 YouTube 整合功能正在獲得一個方便的升級，使其能夠分析個別影片，為您提供特定的資訊，例如關鍵要點或食譜成分，而無需播放影片。這可能是一個非常有用的工具，但對於創作者來說，這也可能引發更多對生成 AI 的擔憂。

為了試用這個功能，我讓 Bard 觀看了一個我經常參考的 YouTube 影片，內容是《美國測試廚房》關於 Espresso Martini 的食譜。真的，這個食譜非常好。我常常在廚房裡，將調酒壺中的一半材料試圖記住我應該添加多少 Benedictine，然後重新觀看影片找答案。但是有了 Bard，我只需要輸入幾個提示，就能獲得完整的成分清單和逐步指示。

Bard 在總結影片時把所有關鍵的部分都說得很對：成分和份量都是準確的，指示也是正確的。它甚至包括第一步，即用冰和水填滿馬提尼酒杯使其冷卻。唯一不太準確的地方是它說您應該搖 30 秒，但影片明確沒有展示或建議您搖那麼久。但總的來說，Bard 做得很好。

然而，這裡出現了一個問題。《美國測試廚房》已經在其網站上發布了完整的食譜，只是被設置了付費門檻，就像他們的很多內容一樣。YouTube 影片的描述中並未包含食譜。每次我製作 Espresso Martini 時觀看 YouTube 影片，理論上對 ATK 的內容有一定價值。但是，通過 Bard 為我提供食譜，我跳過了按播放鍵、觀看預告片廣告和在結尾看到頻道的其他推薦影片的步驟。這對我來說很好，但對於影片的發布者來說可能不太好。

目前，這個功能只作為一個可選的實驗體驗存在，需要一些努力才能獲得想要的答案。當我要求從影片中獲得「完整的食譜」時，Bard 無法生成任何內容。但是，當我在後續提示中要求「逐步指示」時，我得到了整個食譜。

當 OpenAI 的 CEO Sam Altman 被解職後，軟體初創公司 Log10 的 CEO Arjun Bansal 開始接到越來越多的客戶來電，詢問如何減少對 OpenAI 的 GPT 大型語言模型的使用。Bansal 告訴 CNBC，自從 OpenAI 的事件發生以來，客戶提到了這家初創公司的不穩定性。

「人們一直在詢問他們應該如何在最小程度干擾其程式碼設置的情況下，通過調整不同模型或嘗試不同供應商的過程。這是一個非常前所未有的情況，一家這麼大規模且具有非常不尋常的治理結構的公司在短短一個週末內經歷了如此多的變化。」Bansal 告訴 CNBC。

OpenAI 的發言人拒絕置評，但表示該初創公司的服務在經歷了三個小時的問題後已恢復正常運作。

根據一份聲明，OpenAI 的董事會在周五解聘了 Altman，理由是他在與他們的溝通中「不一致地坦率」。

在經過一個漫長的周末談判後，看似重新任命 Altman 回到公司，前 Twitch CEO Emmett Shear 宣布自己被任命為臨時負責人，並表示微軟 CEO Satya Nadella 將與 OpenAI 的聯合創始人 Greg Brockman 以及他們的同事一起入職。然而，超過 90% 的 OpenAI 員工簽署了一封給公司董事會的信，要求他們辭職，否則員工可能會選擇離開。現在，據報導，如果董事會無法提供解雇 Altman 的原因，Shear 也正在考慮離開。

Bansal 是數家初創企業家之一，他告訴 CNBC，自董事會推出 Altman 以來，他或他的客戶正在考慮減少對 OpenAI 的 GPT 系列語言模型的依賴。

「肯定有人非常認真地對待這個問題，」Bansal 說。

一位不願透露姓名的 AI 初創公司創始人表示，他使用 OpenAI 的多個應用程式介面，並考慮轉向由前 OpenAI 高管創立並獲得亞馬遜和谷歌支持的 AI 初創公司 Anthropic 的產品。這位初創公司創始人表示，Altman 被解職後，他在周末考慮了其他選擇，當 OpenAI 宣布選擇 Shear 作為 Altman 的繼任者時，他們的擔憂變得更加強烈。

Shear 是一位硅谷老將，他在 2007 年創立了直播平台 Justin.tv，最終演變成了 Twitch，一個受歡迎的遊戲直播網站。亞馬遜在 2014 年以近 10 億美元收購了 Twitch。這位曾與 Shear 共事的消息人士表示，Shear「非常聰明」，並欣賞他的正直。但他不確定 Shear 是否適合領導 OpenAI 這樣一家處於全球人工智能潮流前沿的公司。

Cohere 的總裁兼首席運營官 Martin Kon 在一份周二的聲明中表示，自從 OpenAI 的事件發生以來，他收到了越來越多的詢問。

「企業重視確定性，正如我們本週收到的大量詢問所證明的那樣。我們仍處於企業人工智能採用的早期階段，公司正在仔細考慮他們對於雲彈性和獨立於大型科技公司的價值有多少。」Kon 表示。

但是，一些初創公司在將多個語言模型整合到其應用程式中方面遇到了困難。一位 CNBC 訪問的初創公司創始人表示，Anthropic 有一個等待名單，因此即使人們渴望使用其服務，他們可能無法立即這樣做。

儘管科技行業將 OpenAI 歸功於推廣使用分析文本並生成類人文本的 AI 軟體，但該公司現在處於一個防守的位置。OpenAI 的員工正試圖向客戶保證他們對他們的承諾。

「我們仍然全力支持我們驚人的開發者和用戶社區，」OpenAI 副總裁 Srinivas Narayanan 在 X 上寫道。

OpenAI 技術人員 Steven Heidel 在周二的一篇文章中寫道：「API 團隊在這裡，ChatGPT 團隊在這裡。我們仍然全力支持我們的開發者和用戶。」

Nadella 在周一晚間接受 CNBC 的 Jon Fortt 訪問時試圖平息擔憂。

「坦率地說，微軟完全有能力自己做到這一點，但我們選擇明確地與 OpenAI 合作，我們希望繼續這樣做，」該公司 CEO 表示。

然而，一些 OpenAI 的客戶認為堅持與 OpenAI 合作更有利。

Be My Eyes 公司的 CEO Michael Buckley 告訴 CNBC，該公司開發了一款使用圖像識別來幫助視覺障礙者描述物體的移動應用程式，他表示，該公司的一款產品自 2 月以來一直使用 GPT-4V 模型來支持圖像分析。儘管收到了許多要求他轉向其他公司的電話，他決定繼續與 OpenAI 合作。

「我被其他競爭對手的語言模型公司轟炸著，他們希望贏得一些機會性的業務。這是公平競爭，商業就是一場接觸運動，所以我理解。在這場風波之前，我們已經在評估備份供應商作為風險對沖。」Buckley 表示。他還表示，他相信 OpenAI 的模型「非常優秀」，並且他從早期就感激該公司對他的忠誠。

初創公司 Pathlight 的聯合創始人兼 CEO Alexander Kvamme 表示，雖然他的公司在客戶支援和銷售軟體產品中使用了多個語言模型，但 OpenAI 的 GPT 模型在處理更複雜的任務時表現出色，例如分析數千通銷售電話，以便公司可以提出關於客戶流失和相關趨勢的問題，AI 軟體可以回答這些問題。Kvamme 表示，他的團隊尚未遇到任何與 GPT 相關的重大問題，並且 OpenAI 的客戶支援團隊一直在回答技術問題，儘管公司內部存在風波。

「對於 Sam 和 Satya 來說，他們正在尋找方法在這一切動盪中保持運作，考慮到 OpenAI 和微軟的關係，」Kvamme 提到了 OpenAI 使用微軟 Azure 基礎設施的事情。「到目前為止，我們的客戶和開發者並未受到影響。」

其他技術人員告訴 CNBC，雖然他們在過去幾天沒有遇到 GPT 相關的重大問題，但他們擔心這只是時間問題。「我確實知道一些公司基本上正在放棄他們目前的產品路線圖，並表示，你知道，我們需要新的基礎設施，」Kvamme 說。

Sam Altman 將回歸 OpenAI 擔任 CEO，克服了近日來使公司陷入混亂的董事會政變。辭職抗議 Altman 被解雇的前總裁 Greg Brockman 也將回歸。

該公司在週二晚間發表聲明表示，已就 Altman 的回歸達成「原則性協議」，新董事會成員包括 Bret Taylor、Larry Summers 和 Adam D’Angelo。D’Angelo 是上一屆董事會的成員，最初於上週五解雇了 Altman；他留在這個最初的小型董事會上，以便為上一屆董事會提供一定程度的代表性。

一位直接了解談判的消息人士表示，這個最初的董事會的唯一工作是審查並指派一個由最多 9 人組成的新正式董事會，以重置 OpenAI 的治理。微軟很可能會在擴大的董事會中佔一席之地，Altman 本人也會有席位。

Altman 和微軟 CEO Satya Nadella 現在都在推特上發表了有關回歸協議的推文，這似乎是一項成交，只差一些最後的文件工作。當被問及「原則性協議」的含義時，OpenAI 的一位發言人表示公司在此時「暫無其他評論」。

Altman 的回歸比上週五的突然離職更令人震驚。OpenAI 的非盈利董事會似乎堅決支持最初的解雇決定，連續三天更換了兩位 CEO，以避免重新任命 Altman。

與此同時，OpenAI 的員工起來反對，威脅要與 Altman 和共同創辦人 Greg Brockman 離開並加入微軟，除非董事會辭職。

在整個事件中，反對 Altman 的董事會成員甚至在投資者提起訴訟的威脅下，也沒有提供解雇他的實際解釋。

星期日，董事會的一位關鍵成員 Ilya Sutskever 轉向 Altman 的陣營，使剩下的三位董事會成員更加脆弱。據我們所知，由董事會任命來代替前任臨時 CEO Mira Murati 的現任 CEO Emmett Shear 威脅辭職，除非董事會能夠提供文件或證據來支持 Altman 被解雇的不當行為，這似乎是最終促使董事會真誠重新開始談判的原因。