2026年的AI算力竞赛,正在经历一场悄然的范式转移——单块GPU已经不再是主角。当黄仁勋在CES 2026上宣布Vera Rubin平台进入全量生产时,媒体标题几乎清一色聚焦在"比Blackwell快多少倍"上,但这恰恰抓错了重点。CNBC那句"10 times more efficient"听着唬人,可真正值得你停下来想三秒的,是这个平台里一个反常识的工程判断:与其把一块GPU做到极致,不如把整个机架做成一台计算机。
为什么?因为今天训练一个万亿参数模型,需要把几万块GPU连在一起跑,而其中七成的时间,GPU不是在算,而是在等数据从隔壁GPU搬过来。晶体管越堆越多,单卡算力越飙越高,可瓶颈早就从芯片内部,悄悄挪到了芯片与芯片之间、机架与机架之间那根"数据高速公路"上。Vera Rubin的真正革命,是NVIDIA第一次系统性地承认了这件事,并用六块(严格说是九块)协同工作的芯片、光互联、800V配电和液冷,把一个250千瓦的机架焊成了一个不可分割的整体。这篇拆解,就带你穿过那些炫目的PFLOPS数字,看清AI工厂的物理内核。
| 项目 | 内容 |
|---|---|
| 视频标题 | Deconstructing Nvidia's Vera Rubin — The Successor To Blackwell That's 10x More Efficient |
| 频道 | CNBC(约414万订阅) |
| 时长 | 约13分59秒 |
| 核心主题 | 独家探访NVIDIA总部,拆解Vera Rubin机架级AI系统的架构与供应链 |
| 发布背景 | 2026年2月,CES 2026宣布全量生产后、GTC 2026(3月)前夕 |
| 关键数据 | 1.3百万零件、72块Rubin GPU + 36块Vera CPU、近2吨、约1300颗微芯片、$3.5–4M/机架 |
视频一开始,CNBC就拿到了进入NVIDIA圣克拉拉总部的独家许可,记者站在那台近2吨重的机架前反复强调一句话——这台机器的效率是上一代Grace Blackwell的10倍。但视频里没有点破、我必须替你点破的一层是:当你还在用"一块GPU有多少TFLOPS"来衡量AI算力时,你衡量的是一个已经失真的指标。
Barrack AI的GTC 2026技术拆解给出了关键背景:Rubin单块GPU(代号R200)做到3360亿晶体管、50 PFLOPS的FP4推理算力,相比Blackwell B200的约10 PFLOPS是5倍跃升。可一旦把这些GPU塞进一个跑大模型训练的集群里,单卡峰值算力的利用率往往只有30%–50%——剩下的算力全在空等数据。这就是为什么NVIDIA这代产品的发力重心,从"把GPU造得更大"转向了"把GPU连得更快"。视频反复展示的那台庞然大物,本质上是在回答一个问题:当单卡不再是瓶颈,系统才是。这是我这篇解读最想传递的认知升级。
视频的核心主角,是名为Vera Rubin NVL72的机架级系统。CNBC的描述是"它们巨大,包含了所有的算力、网络、线缆、散热"。这句话看似平淡,实则点睛——NVL72的赌注,是让72块Rubin GPU和36块Vera CPU不再各自为政,而是作为一个逻辑单元共享内存。
具体到数字(综合NVIDIA官方博客与Barrack拆解):整个机架提供3.6 EFLOPS(百亿亿次)的FP4推理算力、20.7 TB的HBM4显存、260 TB/s的NVLink带宽,以及加起来约75 TB的"快速内存池"。这是什么概念?传统架构里,每块GPU只能访问自己的显存,跨GPU取数据要走PCIe这种慢通道;而在NVL72里,72块GPU通过NVLink 6编织成一张全连接网络,任意一块GPU都能以接近本地显存的速度,访问整个机架的内存。这是"机架即计算机"最硬核的实现。视频里那句"这不是传统服务器的历史形态",指的正是这种把分布式集群重新收敛成单体计算机的逆向操作。
视频标题里的"Deconstructing"(解构)很有道理,因为Vera Rubin不是一块芯片,而是一个芯片军团。NVIDIA官方说法是"六块新芯片",而Tom's Hardware更进一步点出"严格说是九个独立处理器"——因为除了三块主计算芯片,还有负责网络、存储、安全的协处理器。
我把这个军团拆给你看:Rubin GPU(算力核心,3360亿晶体管)、Vera CPU(88核全定制ARM,2270亿晶体管,这是NVIDIA第一颗原生支持FP8的CPU)、NVLink 6(机架内scale-up的血管,3.6 TB/s每GPU)、ConnectX-9 SuperNIC(每GPU 1.6 Tb/s的scale-out网卡)、Spectrum-X Photonics(共封装光学以太网交换机)、BlueField-4 DPU(126亿晶体管的数据处理单元,专管KV缓存、存储卸载、加密)。为什么不让一块芯片包揽一切?因为每种瓶颈需要的工艺、带宽、延迟特性完全不同,强行塞进一颗die只会让良率崩盘、功耗失控。视频里NVIDIA AI基础设施负责人Dion Harris说这是"来自全球的复杂部件网络",我延伸一句:这种分工,本质上是把摩尔定律的物理极限,用系统工程的方式摊薄到九块专用硅片上。
这是视频完全没展开、但决定"10倍"到底成不成立的关键一层。Barrack AI给出了最尖锐的批判:CNBC标题里的"10x More Efficient",基准其实是用一个叫Kimi-K2-Thinking的MoE(混合专家)模型、在32K输入/8K输出的长上下文下测出来的。
什么是MoE?今天最强的开源模型——DeepSeek-R1、Kimi K2、Llama 4、Mistral Large 3——全是MoE架构。它的特点是:一个万亿参数的模型,每次推理只激活其中2到8个"专家",其余参数都在睡觉。好处是参数量大却算得快,坏处是每个token都要在不同GPU的专家之间疯狂搬数据(all-to-all通信),还要动态加载专家参数,对内存带宽和GPU间互联是地狱级考验。而Rubin恰好三管齐下治这个病:NVLink 6提供2倍于上一代的all-to-all吞吐、HBM4的22 TB/s带宽消灭了专家参数加载的内存墙、Transformer Engine的自适应压缩处理MoE天然的稀疏数据流。所以这10倍,是MoE+长上下文的专属红利。Barrack明确警告:如果你跑的是稠密模型(dense transformer)或短上下文,真实提升只有2到3倍。这是我这篇解读最重要的一个"去滤镜"判断——营销数字要会读。
视频里那些密密麻麻的光纤,背后藏着Rubin最容易被忽视、却最具长期颠覆性的一项突破。Spectrum-X Photonics是业界第一个共封装光学(CPO,Co-Packaged Optics)以太网交换平台,基于TSMC 3nm的Spectrum-6 ASIC,单交换机做到409.6 Tb/s、512个800G端口。
传统数据中心里,交换芯片和光模块是分开的——电信号从芯片出发,要走一段铜线PCB到光模块,再转成光信号上光纤,这段"电–光转换"是功耗和延迟的大头。CPO的思路是把光引擎直接焊进交换芯片的同一个封装里,让光从硅片边缘直接射出,彻底取消可插拔光模块。效果是什么?NVIDIA的数据是每1.6 Tb/s端口功耗降低5倍,AI集群的"无故障运行时间"也拉长5倍。这对你我意味着什么?AI数据中心正在从"装满服务器的机房"变成"装满光器件的巨型光交换系统"。对通信行业的从业者来说(这也是51学通信的老本行),AI工厂正在成为光通信设备最大的增量战场,CPO、硅光、800G/1.6T光引擎,这些词未来三年会比5G核心网还高频。
视频里反复出现的"液冷"二字,背后是一个被低估的工程拐点。Vera Rubin是NVIDIA第一个100%液冷(无风冷配置)的系统,单GPU功耗飙到1800–2300W(Blackwell才1000W),整个机架超过250 kW。
CNBC的视频强调,液冷让数据中心"比传统蒸发冷却消耗更少的水"。但我延伸一下更底层的原因:当单机架功耗突破250 kW,传统48V直流配电已经撑不住——线路上的输电损耗(I²R)会吃掉巨量能源。Rubin的解法是直接把配电电压拉到800V DC,电压越高、电流越小、线损越低,这和远距离特高压输电是同一个物理道理。再配合45°C进水温度的液冷回路,把热量高密度地带走。这一层和之前那篇《AI饿疯了:科技巨头为何抢建核电站》其实是同一条因果链的下游——当电力的总量问题(建核电站)解决到一定程度,电力的"配送"问题(800V配电+液冷)就登上了舞台中心。算力的下一道物理墙,是热力学和电学,不是晶体管。
这是视频里最直观、却最容易被一笑而过的一个细节。CNBC记者亲手演示:Vera Rubin的superchip(两块Rubin GPU + 一块Vera CPU,单组就含17000个零件)能从一个机架的18个计算托盘里几秒钟滑出来;而上一代Blackwell,这些组件是焊死在电路板上的,更换要2小时。
这个"5分钟 vs 2小时"的对比,看似只是用户体验,实则是数据中心运维的经济学革命。一个机架塞了约1300颗微芯片(Blackwell是864颗)、130万个零件,来自20个国家的80多家供应商。在这么高的器件密度下,任何一颗芯片故障的概率都不容忽视,而焊接式设计意味着坏一颗就要整机停机返厂。模块化托盘让运维变成了"热插拔换托盘",可用性曲线被彻底改写。NVIDIA把这个叫"cable-free modular tray",我把它翻译成一句大白话:当机器复杂到一个机架抵过去一整排机柜,可维护性就成了核心竞争力,而不只是锦上添花。
回到视频标题那个最抓眼球的"10x"。CNBC给出的官方解释是"10 times more performance per watt"(每瓦性能提升10倍)。视频里Mizuho分析师Jordan Klein一句话点破玄机:"真正重要的是——每消耗一瓦电,你能挤出多少token。"
这才是NVIDIA这盘棋的真正落子。Barrack把这条经济学曲线画了出来:从Hopper(H100)每百万token约0.20美元,到Blackwell FP4约0.05美元,再到Rubin NVFP4(针对MoE)预计0.005–0.01美元——每个token的成本,三年里降了将近40倍。注意,Rubin机架本身的价格反而更贵了($3.5–4M,比Blackwell贵25%),每GPU小时的租金也更高。但买算力的正确单位不是"每小时多少美元",而是"每token多少美元"。更高的单价、更低的单位产出成本——这就是NVIDIA每一代产品复制的同一个套路,只是这次因为MoE+机架级协同,幅度被放大了。对你做采购、做架构决策的意义是:永远盯每token成本,别被每GPU小时单价骗了。
flowchart TB
Problem["AI算力瓶颈:已从芯片内部<br/>转移到芯片之间(数据搬运税)<br/>单卡算力利用率仅30–50%"]
Problem --> Thesis["核心赌注:机架即计算机<br/>NVL72 = 72 GPU + 36 CPU 不可分割整体"]
Thesis --> Six{"六块/九块芯片协同分工"}
Six --> GPU["Rubin GPU<br/>3360亿晶体管<br/>50 PFLOPS FP4"]
Six --> CPU["Vera CPU<br/>88核定制ARM<br/>原生FP8"]
Six --> NVLink["NVLink 6<br/>260 TB/s 全连接<br/>scale-up"]
Six --> CPO["Spectrum-X Photonics<br/>共封装光学 409.6 Tb/s<br/>消灭光模块"]
Six --> NIC["ConnectX-9 + BlueField-4<br/>scale-out网卡 + DPU<br/>KV缓存/卸载"]
Six --> HBM["HBM4<br/>288GB/卡 22 TB/s<br/>喂饱MoE专家加载"]
GPU & CPU & NVLink & CPO & NIC & HBM --> Physics["物理支撑层"]
Physics --> P1["800V DC配电(压线损)"]
Physics --> P2["100%液冷 45°C进水"]
Physics --> P3["模块化托盘 5分钟换插"]
Physics --> MoE["最优适配:MoE模型<br/>DeepSeek/Kimi/Llama4<br/>all-to-all通信+稀疏激活"]
MoE --> Outcome["每token成本降~10倍<br/>(仅MoE+长上下文)<br/>稠密模型仅2–3倍"]
style Thesis fill:#1a5276,color:#fff
style Outcome fill:#117a65,color:#fff
style Problem fill:#922b21,color:#fff
如果你做AI基础设施/模型工程:Rubin的红利不是免费午餐,它高度偏向MoE架构。你现在设计服务架构就该朝"disaggregated inference"(推理解耦)走——把prefill(预填充)和decode(解码)分到不同计算池、把KV cache做成分层存储。这样等Rubin容量释放,你的栈能立刻吃到红利。同时,模型层面如果还在堆稠密参数,要清醒认识到边际收益在递减,MoE才是未来三年的性能/成本最优解。
如果你是通信/网络从业者(这是51学通信的主战场):请把目光从纯粹的5G核心网,分一部分到AI数据中心网络。共封装光学(CPO)、Spectrum-X以太网、BlueField DPU、1.6T光引擎——这些正在成为通信设备厂商最大的增量市场。NVIDIA本质上正在用网络公司的逻辑重新定义计算,这对你所在的行业意味着客户结构和产品形态的双重迁移。
如果你做采购或投资判断:永远用"每token成本"而非"每GPU小时"来算账。当前代GPU(H100/H200/B200)已处于历史低位且现货充足,有需求就别干等Rubin(2026 Q4才广泛供货、初期供应给超大规模客户)。但软件栈要按Rubin特性(NVFP4兼容、解耦推理)预留迁移空间。
一个清醒的认知:别被"10倍"带节奏。它在特定MoE长上下文基准下成立,在稠密短上下文下只有2–3倍。读硬件发布会的数字,要先问"这个倍数是在什么workload下、用什么口径测的"。
Vera Rubin的真正革命,是NVIDIA承认了"单块GPU是错觉"——AI算力的下一道墙在互联、在电力、在机架,把一个250千瓦的机架焊成一台不可分割的计算机,才是10倍效率背后的物理内核。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
