根據兩位直接知情人士透露，Google 正與美滿電子科技（Marvell）洽談合作，研發兩款全新晶片，目標在於更高效運作人工智慧模型。其中一款為高速存儲處理單元，設計用於搭配 Google 張量處理單元（TPU）同步工作；另一款則是專為運作 AI 模型打造的全新 TPU 晶片。這些舉措凸顯，用於支援智慧體等商用產品的 AI 推論晶片需求正急劇上升。 英偉達（NVIDIA）在 3 月的 GTC 大會上發佈了一款針對提升推論任務效率的晶片，名為語言處理單元（LPU），該晶片基於英偉達以 200 億美
元從初創公司 Groq 獲得授權的技術打造。Google 此前也曾向美滿電子採購過數據中心晶片，但均為現成標準產品；今次洽談則聚焦開發專為 Google 半導體晶片設計。
合作背景與歷史淵源
據《The Information》2023 年報導，Google 曾考慮將美滿電子取代為多樣化供應商，用作其數據中心機櫃連接伺服器與乙太網路交換機的網路介面晶片供應商。一位 Google 員工透露，Google 原計劃研發新型推論晶片，而在英偉達推出 LPU 後，相關工作進一步加速。美滿電子正是 Groq 第一代 LPU 的晶片設計合作夥伴，這使其具備設計推論晶片的成熟經驗。
Funda AI 此前亦報導過 Google 與美滿電子就全新 TPU 展開洽談的消息。 雙方過去合作包括 Google 向美滿電子採購 CXL 控制器晶片，用於管理伺服器在數據中心間的存儲共享。這類過往合作經驗，也讓 Google 對美滿電子與其聯手設計更多晶片的能力充滿信心。 兩位知情人士表示，Google 全新高速存儲處理單元將與 TPU 同步工作，根據運算力與存儲需求，與 TPU 分攤 AI 運算任務。
雙方計劃最快於明年完成該高速存儲處理單元的設計，隨後交付試產。兩人補充，Google 計劃生產近 200 萬顆高速存儲處理單元，但由於洽談仍處初期階段，這數字可能生變。作比較，摩根士丹利預測 Google 2027 年將生產約 600 萬顆 TPU。目前尚未明朗全新 TPU 的設計工作何時完成，以及 Google 計劃的生產規模。該高速存儲處理單元可與現有 TPU 兼容使用。
Google 目前晶片均由台積電生產，新款晶片將由台積電還是其他代工商生產仍未明。多年來，Google 在自家數據中心部門使用 TPU，支援搜尋、YouTube 與 Gemini 模型等業務，並向 Google Cloud 客戶開放使用。這一局面去年開始被打破，Google 開始向客戶出租 TPU 用於非 Google 數據中心，直接挑戰英偉達在 AI 晶片領域的主導地位。
Google TPU 已贏得 Anthropic、元平台（Meta）與蘋果等客戶青睞。 專用推論晶片興起，源於 AI 企業持續推出智慧體等更複雜產品，此類產品所需運算力遠超聊天機器人等傳統 AI 應用。不過，並非所有推論任務具相同特性。生成回覆的部分環節需要大量運算力，而其他環節則受限於晶片在存儲中讀寫數據的速度。針對不同任務使用不同類型推論晶片，而非依賴單一處理器完成所有運算，已成為 AI 企業提升效率、降低成本的關鍵方式。
例如，OpenAI 近期達成協議，將向英偉達與 Groq 的競爭對手 Cerebras 採購超過 200 億美元（約 HK$1,560 億）的推論晶片，同時也在使用其他企業的推論晶片。OpenAI 還與博通聯手研發自研推論晶片。 美滿電子主營數據中心所用標準網路、存儲與光互聯晶片設計，目前為客戶定制晶片的業務規模持續擴大，已成為其增長最快的業務塊。自 2023 年起，Google 便試圖擺脫對博通的依賴，主因博通收費高昂。
博通會對每顆量產的 TPU 收取費用，隨著 TPU 需求激增，Google 向博通支付的費用亦水漲船高。去年，Google 引入台灣企業聯發科參與 TPU 晶片的設計與生產，但博通仍是 Google 晶片設計核心合作夥伴。本月稍早，博通與 Google 簽署新協議，將在 2031 年前提為 Google 下代 AI 數據中心機櫃開發並供應定制 TPU 與網路組件，這顯示博通在 Google 晶片業務中仍佔核心地位。
