英偉達發布 NVHBM 內存技術，帶寬提升 30% 功耗降 15%

BlockBeats 消息，8 月 27 日，英伟达发布面向下一代 AI 基础设施的 NVHBM 技术。NVHBM 是一种与主要存储芯片供应商共同设计及验证的定制 HBM 基础裸片，将通过 NVLink Fusion 向开发定制 AI 加速器（XPU）的超大规模云服务商和 AI 原生企业提供。

与标准 HBM4e 相比，NVHBM 每个堆栈可提供最高 30% 的额外內存带宽，降低最高 15% 的 HBM 功耗，并为 XPU 釋放最多 25% 的計算裸片面積。英偉達稱，上述改進可幫助定制加速器支持更大的 AI 模型、更快讀取 KV 緩存，並提高訓練及大規模推理效率。

NVHBM 通過重新設計物理內存介面，將內存控制器移入 3D HBM 堆疊並集成定制 PHY，使 PHY 及配套區域面積最多減少 67%，同時簡化中介層布線。釋放的晶片面積可用於增加矩陣引擎、緩存、網路及其他針對特定工作負載的功能。

在機架層面，NVLink Fusion 晶粒可將定制 XPU 連接至 NVLink 網路，並通過 NVLink-C2C 連接 CPU。英偉達表示，NVHBM 與 NVLink Fusion 結合後，每顆 XPU 的端到端性能可提高約 30%，同時允許定制 XPU 與英偉達 GPU 組成異構計算系統。官方尚未在文章中披露具體商用時間。