微軟已經揭示了一款定制設計的 AMD CPU,僅在 Azure 上可用,它使用超快的 HBM 記憶體,並且也使用了 Nvidia 的 InfiniBand 技術。今天早些時候,在 Ignite 大會上,微軟首席執行官 Satya Nadella 揭開了一款新的 AMD 處理器的面紗,這款處理器注定成為其 Azure 雲計算基礎設施上運行的最強大 CPU,並帶來了一些驚喜。可通過填寫此表格請求預覽訪問 Azure HBv5 虛擬機。
9V64H 是一款定制的第四代 EPYC 伺服器 CPU,並非基於最新的第五代處理器,代號為 Turin。它擁有 88 個核心,時鐘頻率高達 4GHz;最接近的現有型號是 9634,這是一款擁有 84 個核心、最高速度為 3.7GHz 的 CPU。根據微軟 HPC + AI 產品市場經理 Fernando Aznar 的說法,它將專注於“最需要記憶體帶寬的 HPC 應用程序,如計算流體動力學、汽車和航空模擬、天氣建模、能源研究、分子動力學、計算機輔助工程”。但對於 AI,尚無消息。
使這款 CPU 特別的原因在於,四個這樣的 CPU 集群作為 Azure HBv5 虛擬機的一部分(計劃於 2025 年推出),可訪問多達 450GB 的 RAM,在這種情況下為 HBM3,並擁有接近 7.0TBps 的總記憶體帶寬。這超過了 AMD Instinct MI300A 加速器(不包括 GPU 部分,24 核心,3.7GHz 峰值,128GB HBM 記憶體,5.3TBps 峰值性能)並且幾乎比其他競爭對手高出一個數量級(包括 AMD 自己的產品)。
這是一款非常獨特的 CPU,但還不止於此:這是 AMD 首個四插槽項目,這是 AMD 今年早些時候在我訪問公司企業副總裁 Robert Hormuth 時告訴我的一個有趣觀點。顯然,單插槽是市場的趨勢,除非有明確的案例——以及一個資金幾乎無限的超大規模客戶——才會選擇四插槽。
微軟還確認該芯片是禁用 SMT(就像 Zen 4c 和 Zen 5c 部件一樣),虛擬機將能夠訪問驚人的 3.17TB 記憶體(每個核心最多 9GB)。儘管這是一款共同工程的芯片,但微軟牢牢掌控著主導權,因為它邀請了 AMD 的死敵 Nvidia 提供行業領先的 Quantum-2 Infiniband 網絡技術,以保持 CPU 獲得數據(800 Gb/s,平均分配到四個 CPU 之間)。微軟表示,這將使客戶“能夠有效擴展其工作負載到數十萬個核心”。
我還對提到的 14TB 本地 NVMe SSD 感到好奇,該 SSD 提供高達 50GB/s 的讀取和 30GB/s 的寫入性能,這遠遠超過了任何使用 PCIe Gen5 技術的產品,並且只能通過像 Highpoint 的 Rocket 1608A 擴展存儲卡這樣的專業硬件實現。