英偉達 Vera 團隊探討 CPU 設計轉變以適應 AI 智能體需求

英偉達 Vera CPU 團隊近日在接受「Wccftech」訪問時，談及數據中心 CPU 設計思路的變化。該團隊指出，過去十多年來，雲計算基礎設施日益強調單位伺服器能夠容納的核心數量，導致 Chiplet（芯粒）設計獲得廣泛應用。然而，這一方向也使得單線程性能和 IPC（每時鐘週期指令數）受到一定影響。隨著智能體 AI 的興起，CPU 設計正在重新強調單線程性能。

英偉達給出的原因與智能體 AI 的工作方式有關。AI 智能體並非持續在 GPU 上運行，而是在模型推理、代碼執行、工具調用和數據處理等環節之間頻繁切換，其中不少 CPU 相關任務具有明顯的順序執行特徵。如果這些步驟耗時過長，GPU 就需要等待 CPU 完成工作，因此 CPU 單線程速度、內存帶寬和訪問延遲都會影響整套 AI 系統的利用率。

Vera 處理器設計強調單線程性能

Vera 處理器擁有 88 個 Olympus 核心，採用 10 寬解碼架構，並支持 176 個硬件線程。與目前不少伺服器 CPU 採用多芯粒組合不同，Vera 使用單片計算裸片，並通過第二代 Scalable Coherency Fabric 連接核心、緩存和內存控制器。英偉達官方數據顯示，其片上互連雙向帶寬最高達到 3.4 TB/s，並配備 164 MB 統一三級緩存，核心間數據傳輸無需跨越不同計算裸片。

在內存部分，Vera 搭配 SOCAMM2 LPDDR5X，整體內存帶寬最高達到 1.2 TB/s，平均每個核心最高約 14 GB/s。英偉達認為，這種設計可以讓大量智能體任務同時運行時，依然維持較高的單線程性能和相對穩定的延遲。官方此前也明確將 Vera 定位為面向智能體 AI、強化學習和數據處理設計的 CPU。

在 Wccftech 的訪問中，Vera 團隊表示該處理器整體性能約為 Grace 的 1.5 倍，在 Python 腳本、代碼編譯等部分智能體工作負載中，相比領先的 x86 處理器最高可以達到約 2 倍的性能。團隊同時表示，英偉達最初在 Grace 時代主要將 CPU 視作 GPU 的主機處理器，但智能體工具調用和強化學習對 CPU 資源的需求不斷擴大，因此 Vera 還會以獨立 CPU 伺服器和純 CPU 機架的形式進行部署。