Amazon推出新一代 AI 芯片 Trainium3 顯著提升計算性能與能效

Amazon AWS 宣布其新一代自研 AI 芯片 Trainium3 正式上市。作為Amazon首款采用 3nm 製程的芯片,Trainium3 在計算性能、能效與內存帶寬上均實現顯著提升。

相比上一代,Trainium3 計算性能最高提升 4.4 倍,能效提升 4 倍,內存帶寬也接近翻兩番。基於 Trainium3 構建的 UltraServer 系統支持互聯擴展,單系統可容納 144 枚芯片,並為單個應用提供多達 100 萬枚 Trainium3 芯片的算力支持,規模達到上一代的 10 倍。

Amazon表示,與采用圖形處理單元(GPU)的系統相比,使用 Trainium3 訓練和運行 AI 模型的成本可降低最多 50%。

此外,Amazon已著手開發下一代產品 Trainium4。據披露,Trainium4 預計將帶來 6 倍的 FP4 計算性能、3 倍的 FP8 性能,內存帶寬和容量分別提升至 4 倍與 2 倍,並支持通過 NVLink Fusion 和 UALink 實現縱向擴展。

對於與行業龍頭英偉達的關係,負責 Trainium 項目的 AWS 副總裁兼首席架構師 Ron Diamant 明確表示:「我不認為我們會試圖取代英偉達。」


Henderson
Henderson 主要擔任「炒稿記者」的職責,以翻譯最新科技,手機 電動車等消息為每天的工作。