英伟达推出自研高带宽内存架构NVHBM，赋能AI加速器

英伟达正在再次为AI领域打造自研硬件，而非依赖行业现有方案。此次，该公司发布了一种定制化高带宽内存架构——NVHBM，并表示与传统HBM4E相比，NVHBM能够提供显著更高的带宽、更低的功耗，以及更多可用硅片面积。

值得注意的是，英伟达本身并不生产内存芯片，也没有自己的晶圆厂。实际制造工作将由美光、SK海力士或三星这三大内存厂商之一承担，英伟达仅负责设计。

此次新内存的发布信息公布于英伟达季度财报电话会议的同一天，以博客文章的形式对外宣布。NVHBM被定位为英伟达NVLink Fusion平台的延伸扩展，直接面向正在开发定制AI加速器（即XPU）的超大规模云厂商和AI公司。亚马逊旗下的Annapurna Labs成为首个公开宣布与英伟达在该技术上展开合作的合作伙伴。

高带宽内存（HBM）已成为AI硬件领域的重要技术。与传统方案将内存以DRAM内存条形式安装在主板上不同，HBM芯片直接紧贴加速器芯片放置，从而大幅降低内存与加速器之间的数据传输延迟。

NVHBM与常规HBM内存的核心区别在于：英伟达将内存控制器从XPU主芯片迁移到了HBM堆栈的基础芯片（Base Die）中。在传统HBM架构下，内存控制器位于加速器的主计算芯片上，这需要占用大量硅片面积，以及处理器与HBM之间的大量I/O连接资源。

英伟达的方案将定制内存控制器和物理接口（PHY）集成至HBM基础芯片中，从而减少XPU上所需的接口电路，为计算资源腾出更多空间。

英伟达向来不吝自夸，此次也不例外。该公司宣称NVHBM能够实现：

与标准HBM4E（当前标准）相比，内存带宽提升最高达30%；

HBM功耗最高降低15%；

XPU计算芯片可用面积增加最高达25%；

PHY及相关接口电路面积缩减最高达67%；

整体布局中可用硅片面积增加最高达80%。

这些提升的价值或许远不止于单纯提高内存带宽。释放出的硅片面积意味着加速器设计者可以在不增加封装尺寸的前提下，集成更多计算引擎、缓存、专用AI功能或其他面向特定工作负载的电路。

NVHBM并非作为独立内存产品推出。英伟达将其定位为NVLink Fusion平台的又一组成部分——该平台旨在帮助超大规模云厂商和AI公司构建定制芯片，同时将这些处理器接入英伟达更广泛的机架级基础设施生态。

英伟达在博客文章中写道：”英伟达正在建立统一的NVHBM标准实现方案，可由多家内存供应商提供。这将降低跨多家供应商进行内存集成和验证的工程投入，为NVLink Fusion客户提供更快捷的定制AI芯片量产路径。”

英伟达表示，综合考量30%的内存带宽提升、额外的计算芯片面积以及15%的HBM功耗降低，上述架构层面的综合改进预计可带来约30%的端到端XPU性能提升。

Q&A

Q1：英伟达NVHBM和普通HBM内存有什么区别？

A：NVHBM最核心的区别在于，英伟达将内存控制器从XPU主计算芯片迁移到了HBM堆栈的基础芯片中。传统HBM方案中，内存控制器占据加速器芯片大量硅片面积和I/O资源，而NVHBM通过将控制器内置于HBM基础芯片，释放出XPU上更多计算空间，同时实现更高带宽和更低功耗。

Q2：NVHBM的性能提升具体有多大？

A：根据英伟达官方数据，NVHBM与标准HBM4E相比，内存带宽最高提升30%，HBM功耗最高降低15%，XPU计算芯片可用面积增加最高25%，PHY及接口电路面积缩减最高67%，整体可用硅片面积增加最高80%。综合来看，端到端XPU整体性能预计提升约30%。

Q3：NVHBM是英伟达自己生产的吗？谁是第一个合作伙伴？

A：英伟达不自行生产NVHBM，实际制造将由美光、SK海力士或三星等主要内存厂商负责，英伟达只负责设计。目前，亚马逊旗下的芯片设计团队Annapurna Labs是首个公开宣布与英伟达合作开发该技术的合作伙伴。