自研 AI 芯片的超大规模云厂商越来越多,但芯片做出来之后,如果没有像工厂一样的整套设施,性能同样发挥不出来。英伟达在官方博客中再次说明了 NVLink Fusion 的意图,这项技术把被称为 XPU 的自研加速器接入英伟达的机架级基础设施[1]。思路是让芯片设计之外的繁重部分直接采用成熟方案,把研发力量集中在真正需要差异化的地方。

AI 工厂的成绩单由产出决定

英伟达首先梳理了 AI 工厂的经济性由什么衡量。列出的指标是每秒生成的 token 数、每瓦特产出的 token 数、单 token 成本、利用率以及持续运行时间[1]。决定收益的不是单颗加速器的速度,而是整套设施能够输出多少。

因此,做自研 XPU 的企业不能止步于芯片设计。纵向扩展与横向扩展两套网络、机架级架构、支撑量产的软件,以及能够稳定供货的供应商体系,都需要一并解决[1]。英伟达认为,正是这些负担拖慢了 XPU 走向市场的速度。

把 72 颗 XPU 放进同一个域

NVLink Fusion 的核心,是把 XPU 拉进 NVLink 的纵向扩展域。第六代 NVLink 将 72 颗 XPU 视作一个域,以高带宽、低延迟连接彼此。英伟达表示,与基于通用以太网的替代方案相比,XPU 之间传输的端到端延迟降至三分之一,数据包速率提高到 10 倍[1]。

产品资料给出了具体数字:NVLink 6 以每颗 XPU 3.6TB/s 的速度全互连 72 颗加速器,NVL72 域整体带宽达到 260TB/s,借助 SHARP 的 FP8 支持,带宽效率提升到 4 倍[2]。未来路线图中,域规模将扩展到最多 1,152 颗加速器,并纳入共封装光学方案[1][2]。

另一项要素是 NVLink-C2C。它把 XPU 与英伟达 Vera CPU 或其他生态 CPU 做芯片间直连,能效最高可达 PCIe 接口的 6 倍[1]。智能体系统在控制与计算之间往返频繁,这里一旦成为瓶颈,整体都会被拖慢。

机架、散热、供电都用现成的

采用 NVLink Fusion 的企业可以使用英伟达 MGX 机架级架构,以及 Vera Rubin NVL72 等 MGX 机型所用的同一条供应链。机架、散热、供电和新的 800VDC 设计所需的构件由 MGX 供应商提供,制造伙伴负责设计与集成[1]。

QCT 与广达电脑产品与解决方案负责人 Jack Luoh 表示,在 Vera Rubin NVL72 上,产线的系统组装有望实现接近 100% 的自动化,如果 XPU 采用 NVLink Fusion,这些投入的大部分都可以复用[1]。英特尔数据中心芯片工程副总裁兼总经理 Tim Wilson 也认可可以按照工作负载来选择 CPU 架构、性能等级与软件能力这一点[1]。

机架内部同样面向运维设计。参考计算托盘采用不带风扇、线缆与软管的全液冷方案,可以在机架继续运行的情况下单独抽出托盘。NVLink 交换机托盘同样是液冷,支持维护期间继续运转[1]。

芯片未定,楼可以先盖

数据中心的建设,从电力获取、建筑设计、散热、机架布局到网络架构,都要在最终采用哪种加速器确定之前展开。如果设计被绑死在一种芯片上,那颗芯片一旦延期,整个计划都会停摆[1]。

NVLink Fusion 用统一架构来解决这个问题。基于 XPU 的系统与 Vera Rubin NVL72 这类基于 GPU 的系统可以共享机架空间、网络、散热与供电以及管理系统,因此可以先推进建设,把芯片配比留到后面再定[1][2]。联发科数据中心与计算事业群资深副总裁兼总经理 Vince Hu 说明,客户可以先用英伟达 GPU 部署机架级方案,再按自己的节奏推进 XPU 开发,这正是该计划的价值所在[1]。创意电子董事长兼首席战略官 Lie-Szu Juang 也提到,NVLink Fusion 能把英伟达技术与第三方工艺衔接起来,形成统一的机架级架构[1]。

亚马逊旗下 Annapurna Labs 高级硬件开发经理 CC Lee 表示,使用经过验证的 NVL72 机架设计有助于缩短上市时间,并且可以对接多家供应商[1]。事实上,AWS 已经在 Trainium4 的部署中采用 NVLink Fusion[2]。

开工前先验证,运行中可维护

设施返工的代价很高,因此开工前的验证格外重要。NVLink Fusion 与面向 AI 工厂的英伟达 DSX 参考架构保持一致,把建筑、电力、散热、计算与网络放在一起协同设计。英伟达 Omniverse DSX AI Factory Blueprint 为吉瓦级 AI 工厂提供数字孪生与开放参考设计,让合作伙伴可以把设施与技术一并建模[1]。

软件层面同样齐备。用于分布式负载的 NVIDIA NCCL、负责解耦的 NVIDIA Dynamo 与 NIXL、承担集群管理与遥测的 NVIDIA Mission Control 组合起来,可以把混合了不同加速器的设施当作一个协调运行的系统来管理[1]。

生态还在扩大

参与企业稳步增加。CPU 一侧有 Arm、英特尔、富士通与 SiFive;自研芯片一侧有 Alchip、Astera Labs、创意电子、Marvell、联发科与 SAMSUNG。设计工具厂商 Cadence 与 Synopsys,以及光互连伙伴 Ayar Labs 与 Lightmatter 也在其中[2]。

其中与 Marvell 的关系最为紧密。2026 年 3 月 31 日,英伟达宣布与 Marvell 建立战略合作,并向其投资 20 亿美元(约 3,200 亿日元)。Marvell 提供自研 XPU 与兼容 NVLink Fusion 的纵向扩展网络,英伟达则提供 Vera CPU、ConnectX 网卡、BlueField DPU、NVLink 互连、Spectrum-X 交换机以及机架级计算平台[3]。

※1 美元 = 159 日元

总结

NVLink Fusion 向希望拥有自研芯片的企业提出了一个方案:差异化之外的部分,都可以用现成的。把 72 颗 XPU 纳入同一个域的第六代 NVLink、MGX 的机架与供应链、基于 DSX 的事前验证,以及含 Mission Control 在内的软件,作为一整套交付。不必等芯片完成就能推进数据中心建设这一点,与当前电力和土地先行的 AI 投资节奏相当契合。

来源: https://blogs.nvidia.com/blog/nvlink-fusion-xpu-ai-factory/

来源: https://www.nvidia.com/en-us/data-center/nvlink-fusion/

来源: https://nvidianews.nvidia.com/news/nvidia-ai-ecosystem-expands-as-marvell-joins-forces-through-nvlink-fusion