人工智能硬件並不使用常規的 DDR 記憶體，因為其速度過慢。相反，優選的格式是高帶寬記憶體（High Bandwidth Memory，簡稱 HBM）。SK hynix 剛剛宣佈已開始向客户交付最新的 HBM4E 樣品。HBM4E 每個引腳提供 16Gbps 的帶寬。作為比較，之前的 HBM4 標準每個引腳為 10Gbps。Samsung 在一個月前開始提供自家 HBM4E 設計的樣品，並聲稱其帶寬為 14Gbps。
目前運送給 SK hynix 合作夥伴的設計擁有 12 層晶片堆疊。這種 12 層設計的容量為 48GB，當然是每堆疊的容量，大多數人工智能加速器設計將使用多個堆疊。SK hynix 聲稱其 HBM4E 記憶體的能效比之前的 HBM4 提高了 20%。此外，該公司使用 MR-MUF（Mass Reflow Molded Underfill）來構建堆疊，這種技術在硅晶片之間使用保護液體，以保護其電路。
最終結果是其熱阻比舊設計降低了 17%，有助於散熱。
SK hynix HBM4E 記憶體在能效和帶寬方面顯著提升
SK hynix 的 HBM4E 記憶體每個引腳提供 16Gbps 帶寬，並且在能效方面提高了 20%。該公司在新聞稿中寫道：「由於在 HBM 的先進開發及生產專業知識，我們能夠按時交付 12 層堆疊的 HBM4E 樣品。我們將與合作夥伴緊密合作，及時進行大規模生產。」
