**在网计算，说白了就是让网络设备在“搬运数据”的路上顺手把计算也干了——好比快递车不再只送货，而是变成一条边跑边加工的流水线。** 过去几十年，网络设备和计算设备分工明确：交换机、路由器只管把数据包从A点搬到B点，算东西是服务器和CPU的事。但在网计算把这个铁饭碗砸了：交换机、网卡、DPU这些“搬运工”，如今也开始兼职干计算活。这个概念在AI大模型训练集群里已经真金白银地落地，还是运营商“算力网络”战略里的关键词。不管你是想看懂AI基建新闻，还是想抓住下一个技术风口，这个名词都值得花五分钟搞明白。 ## 目录 1. 在网计算是什么？ 2. 为什么最近这么火？ 3. 一张图看懂 4. 和我有什么关系？ 5. 一分钟总结 6. 延伸阅读与参考来源 ## 一、在网计算是什么？ 先从传统网络的工作方式说起。 你寄一个包裹，快递公司只负责运输：分拣、装车、转运、派送，包裹本身不会被拆开加工。传统网络里的交换机、路由器就是这么个角色——数据包进来，看一眼地址，从对应端口发出去，仅此而已。计算（比如把两个数字加起来）必须等数据到达服务器之后，由CPU来完成。 **在网计算（In-Network Computing）反其道而行：让数据在网络的“途中”就被处理掉一部分，网络设备从搬运工升级为“会加工的物流园”。** 举一个最典型的例子，你就明白它有多妙——AI训练里的“对账”问题。 假设一百家连锁门店每天各自收了货款，总部想知道今天的总营业额。传统做法是：每家店把自己的账单全部寄到总部，总部财务加班加点把一百份账单加总，再把结果通知各家店。账单越多，总部越堵，运费也越贵。 在网计算的做法是：账单在物流途中，**每经过一个中转站，就把几份账单顺手加在一起**。第一站把10份合成1份小计，第二站把10份小计再合成1份合计……到了总部，收到的已经不是一百份账单，而是一个总数。运输量断崖式下降，总部的财务也不用加班了。 这个过程在AI训练里有个专业名字，叫**集合通信**（多台机器商量着汇总数据的通信方式），最常用的一种叫**AllReduce**——所有机器把各自算出的“梯度”（可以理解为模型学习后的纠错笔记）汇总求平均。用传统网络做AllReduce，要么所有数据涌向一台汇总机，要么机器之间绕圈传递，几百上千张GPU卡一起跑时，网络直接被挤成早高峰的地铁。而在网计算让**交换机就地完成“加总”**，数据量大幅下降，GPU等待网络的时间也跟着缩短。 支撑这件事的技术底座主要有三块： - **RDMA**（远程直接内存访问）：让数据绕过操作系统和CPU，直接从一台机器的内存搬进另一台机器的内存，快得像公司内部直达电梯，不给前台添麻烦； - **可编程交换机**：以P4语言为代表——这是一种专门给交换机“数据转发面”编程的语言，2014年由斯坦福等机构的研究者在SIGCOMM论文上提出，如今已有商用芯片支持。相当于过去交换机的“工序”是出厂焊死的，P4让你能重新编排流水线； - **DPU与智能网卡**：网卡里装了一颗小电脑，专门替服务器CPU干网络相关的杂活。 顺带一提，在网计算是个大家族，不只有“在网聚合”一个孩子：**在网缓存**（让交换机顺便当热点数据的临时仓库）、**在网安全**（防火墙、加密卸载到网卡）、**在网遥测**（数据包路过时顺便记录路况）都算。核心思想一以贯之：**能路上办的，就别麻烦终点站。** ## 二、为什么最近这么火？ **第一，AI大模型训练把网络逼成了瓶颈，这是最直接的推手。** 训练一个大模型，成千上万张GPU卡要频繁“对答案”（就是前面说的梯度汇总）。业内普遍的痛点是：GPU算力越堆越多，但卡与卡之间的通信跟不上，GPU经常空转等数据——相当于一支万人军团每人都在战斗，却要排队等传令兵。这时候，“路上顺便把数据合并”的在网计算就从学术玩具变成了刚需。 **第二，行业龙头已经把“在网计算”做成正式产品招牌。** NVIDIA在其InfiniBand（一种高性能数据中心互联技术）产品页面上，直接把Quantum平台称为“全球首个完全卸载式的In-Network Computing平台”。它的核心技术叫**SHARP**（可扩展分层聚合与归约协议），官方说明是：把集合通信操作卸载到交换机网络中执行，减少网络上传输的数据量、缩短MPI操作（一种高性能计算常用的并行编程接口）的耗时。换句话说，“在网计算”不是PPT概念，而是卖了多年、跑在各大智算中心里的成熟商用能力。 **第三，以太网阵营正在集体跟进，把在网智能写进新标准。** 过去AI训练网络基本被InfiniBand主导，但开放生态不甘心。超级以太网联盟（UEC，Ultra Ethernet Consortium）就是为AI和高性能计算重造以太网而成立的组织，其1.0版规范已经正式发布。看一眼它的成员名单就知道这件事的分量：AMD、博通、思科、Meta、微软、NVIDIA都在列，中国厂商同样活跃——阿里云、腾讯、字节跳动、华为、中兴均是成员。整个行业的共识很清晰：下一代AI网络不能只做“傻搬运”，网络设备要变得更“聪明”，在网聚合正是重点方向之一。 **第四，在国内，“算力网络”战略给它添了一把火。** 运营商这几年讲“算力网络”（把算力像水电一样调度供应的大网络），从“运力”走向“算网一体”，公开资料里在网计算被列为关键技术方向之一，相关行业标准与试点也在推进。逻辑不难理解：网络是运营商的主场，如果计算能力能长在网络里，网络的附加值就不再是“按带宽卖流量”，而是“按算网一体卖服务”。 **第五，技术底座这几年集体成熟了。** P4可编程交换机从论文走向商用芯片，RDMA在数据中心以太网上（RoCE方案）大规模普及，DPU成了服务器标配，白盒交换机降低了定制门槛。好几块积木同时到位，在网计算才从实验室真正走进机房。国内外云厂商也在自研网络里做各种在网聚合、在网缓存的工程探索，相关论文近年在SIGCOMM、NSDI这些网络顶会上高频出现。 ## 三、一张图看懂 同样是“一百台机器汇总梯度”，两种走法对比： ```mermaid flowchart TD A[一百台GPU服务器
各自算出梯度] --> B{聚合走哪条路?} B -->|传统网络| C[全部寄到一台汇总机] C --> D[汇总机被挤爆
带宽被吃光] D --> E[结果再逐一寄回
两趟奔波] B -->|在网计算| F[沿途交换机
顺手把数字合并] F --> G[每层只剩一份汇总
带宽省下大半] G --> H[一趟送达
GPU少等待多干活] ``` 再看一次“交换机兼职汇总”的实际过程： ```mermaid sequenceDiagram participant A as GPU甲 participant B as GPU乙 participant S as 智能交换机 A->>S: 寄存我的梯度 B->>S: 我的也到了 Note over S: 就地相加 只留一份 S-->>A: 回传合并结果 S-->>B: 回传合并结果 ``` 一句话概括这张图：**传统网络是“全寄到总部再算”，在网计算是“沿途中转站顺手算完”。**参与训练的机器越多，这个“顺手”省下的带宽和时间就越夸张。 ## 四、和我有什么关系？ **如果你是普通人**：你刷到的AI回答快不快、便宜不便宜，背后就是这些网络技术在撑着。在网计算这类优化让大模型训练和推理的成本降下来，最终会体现在你用的AI产品价格和响应速度上。它不直接出现在你手机里，却决定了AI服务的“物价指数”。 **如果你是从业者**：这是一条正在打开的新职业赛道。网络工程师的传统技能（配置路由、划VLAN）正在向“可编程数据平面”进化——懂P4、懂RDMA、懂集合通信优化的“AI网络工程师”是当前智算中心建设中最抢手的组合之一；做DPU软件开发、网络芯片验证、高性能通信库（NCCL、HCCL这类集合通信库）的岗位需求也在涨。通信背景的人转AI基建，这是一个比“转算法”更顺滑的跳板。 **如果你是投资者**：可以关注三个方向——网络芯片（可编程交换芯片、DPU芯片厂商）、AI数据中心网络设备与方案商、以及集合通信软件生态。UEC这类标准组织的进展值得跟踪：一旦以太网阵营凭借开放标准大规模替代专有互联，产业链的利润分配会重新洗牌。当然，技术路线尚未尘埃落定，具体落地节奏要以各公司真实订单和部署为准。 **小白现在就能做的三件事**： 1. **转发收藏这篇**，下次看到“在网计算”“SHARP”“AI Fabric”这类词，你已经是朋友圈里最懂的人； 2. **搜一搜P4语言和NCCL的入门资料**，哪怕只看个开头，也能建立“网络可以编程”的直觉； 3. **关注智算中心招标新闻**，留意里面出现“无损网络”“在网计算”“集合通信”等字眼——这些是判断一个AI基建项目技术含量的快速暗号。 ## 五、一分钟总结 1. 在网计算就是让交换机、网卡这些“搬运工”在数据路过时顺手把计算干掉。 2. 最典型的场景是AI训练的梯度汇总：交换机就地合并数据，大幅减少网络传输量。 3. NVIDIA的InfiniBand+SHARP已商用多年，UEC正在把在网智能写进以太网新标准。 4. 国内“算力网络”战略把它列为关键技术，云厂商也在自研网络里大量落地。 5. 技术底座是RDMA、可编程交换机（P4）和DPU——网络正在从“傻管道”进化成“会算的路”。 ## 延伸阅读 - **RDMA**：在网计算的“高铁轨道”，让数据绕过CPU直接在两台机器内存之间穿梭，下一篇值得单独展开； - **集合通信**：AllReduce、Broadcast这些“多机对话礼仪”，是理解AI训练网络所有优化的钥匙； - **超节点**：把几十上百张GPU卡当成一台机器用的“合体术”，在网计算未来最重要的舞台之一。 ## 参考来源 1. [NVIDIA InfiniBand 官方产品页](https://www.nvidia.com/en-us/networking/products/infiniband/) — NVIDIA将Quantum平台定义为“全卸载式In-Network Computing平台”，SHARP协议把集合通信卸载到交换机网络执行（本文已核验） 2. [Ultra Ethernet Consortium（超级以太网联盟）官网](https://ultraethernet.org/) — 1.0规范已发布，成员含AMD、博通、思科、Meta、微软、NVIDIA及阿里云、腾讯、字节、华为、中兴等（本文已核验） 3. [P4 (programming language) - Wikipedia](https://en.wikipedia.org/wiki/P4_(programming_language)) — 可编程数据平面语言P4的起源与设计目标，2014年SIGCOMM论文提出（本文已核验） 4. [RDMA - Wikipedia](https://en.wikipedia.org/wiki/Remote_direct_memory_access) — 远程直接内存访问、零拷贝原理，在网计算的技术底座（本文已核验） > 注：文中关于国内运营商算力网络白皮书、云厂商工程探索的部分，因搜索条件所限未能逐一核验原文，表述均为据公开资料的概括，细节以官方发布为准。 --- > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 > 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。