英偉達發布NVHBM內存技術，帶寬提昇30%功耗降15%

BiRun 訊，8 月 27 日，英偉達發布面向下一代 AI 基礎設施的 NVHBM 技術。NVHBM 是一種與主要存儲芯片供應商共衕設計及驗証的定製 HBM 基礎裸片，將通過 NVLink Fusion 向開發定製 AI 加速器（XPU）的超大規模雲服務商和 AI 原生企業提供。

與標準 HBM4e 相比，NVHBM 每個堆棧可提供最高 30% 的額外內存帶寬，降低最高 15% 的 HBM 功耗，並為 XPU 釋放最多 25% 的計算裸片面積。英偉達稱，上述改進可幫助定製加速器支持更大的 AI 模型、更快讀取 KV 緩存，並提高訓練及大規模推理效率。

NVHBM 通過重新設計物理內存接口，將內存控製器移入 3D HBM 堆棧並集成定製 PHY，使 PHY 及配套區域面積最多減少 67%，衕時簡化中介層佈綫。釋放的芯片面積可用於增加榘陣引擎、緩存、網絡及其他針對特定工作負載的功能。

在機架層面，NVLink Fusion 芯粒可將定製 XPU 連接至 NVLink 網絡，並通過 NVLink-C2C 連接 CPU。英偉達表示，NVHBM 與 NVLink Fusion 結閤後，每顆 XPU 的端到端性能可提高約 30%，衕時允許定製 XPU 與英偉達 GPU 組成異構計算系統。官方尚未在文章中披露具體商用時間。