英伟达发布NVHBM定制内存：控制器移入HBM堆栈，释放25%算力空间

要理解NVHBM的价值，先要看清当前AI加速器的瓶颈所在。现代AI加速器最关键的制约因素之一就是内存带宽——这也是每一代AI芯片都要升级内存的原因：从H100的80GB HBM3、H200的141GB HBM3e，到B200的192GB HBM3e和B300（Blackwell Ultra）的288GB HBM3e，容量与带宽一路攀升，但内存控制器的位置却始终没有变化。在标准的HBM配置（例如当前JEDEC的HBM4e规格）中，负责管理处理器与内存堆栈之间通信的逻辑——也就是内存控制器——位于处理器die（XPU）上。这个控制器要占用宝贵的硅片面积，而这片面积本可以用来放置更多计算单元、更大的缓存或者更高的能效设计。换句话说，在计算密度已经逼近物理极限的当下，每一平方毫米的XPU面积都弥足珍贵，把内存控制器'赶出'计算die，等于把稀缺的算力面积还给计算本身。

NVHBM的具体方案是什么？根据TechPowerUp与TweakTown的报道，NVHBM把内存控制器直接集成进3D HBM堆栈的底层die（base die）中，让控制器与DRAM单元在物理上更接近。这样做的直接效果有三个方面：第一，释放空间——由于控制器不再占据XPU面积，最多可释放25%的空间用于额外的计算单元，这意味着同样的制程与封装下，芯片能塞进更多矩阵乘法引擎或矢量处理器；第二，缩小接口——物理内存接口随之缩小，PHY和支持区域的面积最多可减少67%，这有助于降低信号传输距离、减少功耗并改善散热；第三，提升带宽——相比当前标准的HBM4E，NVHBM可提供高出约30%的带宽。对大规模训练与推理集群来说，带宽就是吞吐量，30%的带宽提升对万亿参数模型的训练效率有直接影响。

NVHBM的意义并不局限于英伟达自己的GPU。据多家媒体报道，英伟达正通过NVLink Fusion生态把这一内存架构开放给第三方XPU客户。所谓NVLink Fusion，是英伟达此前公布的开放互连计划，允许第三方芯片厂商围绕英伟达的NVLink互联技术设计定制XPU，并接入英伟达的数据中心生态。值得注意的是，英伟达在8月底宣布向联发科投资35亿美元，联发科将采用英伟达技术设计可接入英伟达数据中心的定制芯片并获得NVLink Fusion生态访问权——NVHBM正是这个生态中极具吸引力的技术资产之一。当然，英伟达仍牢牢掌控NVLink Switch芯片、PHY层以及通信控制器等互连层面的核心组件；第三方XPU可以围绕NVLink Fusion小芯片构建，但无法脱离包含英伟达交换机的网络架构独立运行。这种'开放计算、锁定互连'的策略，与英伟达过去几年在CUDA生态上的打法一脉相承。

对AI基础设施行业来说，NVHBM的出现有几个值得关注的深层信号。第一，内存架构正在成为AI芯片竞争的新前线：当制程微缩放缓、算力密度逼近极限，通过架构创新从内存侧'挤'出性能成为头部厂商的共识路径，HBM本身的定义权之争也随之升温——英伟达、SK海力士、三星、美光等产业链上下游都在争夺内存规格的话语权。第二，'算力+内存+互联'三位一体的生态竞争全面展开：英伟达的NVLink Fusion计划把第三方XPU纳入自己的生态版图，既扩大了客户选择，也进一步巩固了互联标准的主导地位。第三，对云厂商与AI公司来说，更宽的带宽和更高的算力密度意味着单位算力成本有望进一步下降，这对训练与推理成本敏感的大模型创业公司是长期利好。接下来值得关注的是：NVHBM何时量产、会率先搭载在英伟达哪一代GPU上，以及三星、SK海力士与美光将如何回应这种定制化HBM浪潮。

把NVHBM放到更大的图景里看，它其实是英伟达'硬件架构创新+生态开放'组合拳的一部分。过去几年，AI芯片竞赛的重心一直在制程与封装上：更小的制程节点、更大的HBM容量、更高的互联带宽。当这些传统杠杆逐渐逼近物理极限，把内存控制器从计算die挪进HBM堆栈这种'结构性创新'，就成为了新的破局点——不增加制程成本，却能多释放25%的计算面积和30%的带宽。与此同时，通过NVLink Fusion把这项技术开放给联发科等第三方芯片厂商，英伟达在扩大生态影响力的同时，也把'内存架构标准'牢牢握在自己手里。对云厂商而言，这意味着未来数据中心里的AI加速器将出现更多元的选择；对开发者而言，更便宜、更快的推理算力意味着应用创新的空间进一步打开。NVHBM能否真正量产落地，将是接下来半年最值得追踪的硬件变量之一。