首页 › glossary › 什么是在网计算?路上顺手把活干了

在网计算,说白了就是让网络设备在“搬运数据”的路上顺手把计算也干了——好比快递车不再只送货,而是变成一条边跑边加工的流水线。

过去几十年,网络设备和计算设备分工明确:交换机、路由器只管把数据包从A点搬到B点,算东西是服务器和CPU的事。但在网计算把这个铁饭碗砸了:交换机、网卡、DPU这些“搬运工”,如今也开始兼职干计算活。这个概念在AI大模型训练集群里已经真金白银地落地,还是运营商“算力网络”战略里的关键词。不管你是想看懂AI基建新闻,还是想抓住下一个技术风口,这个名词都值得花五分钟搞明白。

目录

  1. 在网计算是什么?
  2. 为什么最近这么火?
  3. 一张图看懂
  4. 和我有什么关系?
  5. 一分钟总结
  6. 延伸阅读与参考来源

一、在网计算是什么?

先从传统网络的工作方式说起。

你寄一个包裹,快递公司只负责运输:分拣、装车、转运、派送,包裹本身不会被拆开加工。传统网络里的交换机、路由器就是这么个角色——数据包进来,看一眼地址,从对应端口发出去,仅此而已。计算(比如把两个数字加起来)必须等数据到达服务器之后,由CPU来完成。

在网计算(In-Network Computing)反其道而行:让数据在网络的“途中”就被处理掉一部分,网络设备从搬运工升级为“会加工的物流园”。

举一个最典型的例子,你就明白它有多妙——AI训练里的“对账”问题。

假设一百家连锁门店每天各自收了货款,总部想知道今天的总营业额。传统做法是:每家店把自己的账单全部寄到总部,总部财务加班加点把一百份账单加总,再把结果通知各家店。账单越多,总部越堵,运费也越贵。

在网计算的做法是:账单在物流途中,每经过一个中转站,就把几份账单顺手加在一起。第一站把10份合成1份小计,第二站把10份小计再合成1份合计……到了总部,收到的已经不是一百份账单,而是一个总数。运输量断崖式下降,总部的财务也不用加班了。

这个过程在AI训练里有个专业名字,叫集合通信(多台机器商量着汇总数据的通信方式),最常用的一种叫AllReduce——所有机器把各自算出的“梯度”(可以理解为模型学习后的纠错笔记)汇总求平均。用传统网络做AllReduce,要么所有数据涌向一台汇总机,要么机器之间绕圈传递,几百上千张GPU卡一起跑时,网络直接被挤成早高峰的地铁。而在网计算让交换机就地完成“加总”,数据量大幅下降,GPU等待网络的时间也跟着缩短。

支撑这件事的技术底座主要有三块:

顺带一提,在网计算是个大家族,不只有“在网聚合”一个孩子:在网缓存(让交换机顺便当热点数据的临时仓库)、在网安全(防火墙、加密卸载到网卡)、在网遥测(数据包路过时顺便记录路况)都算。核心思想一以贯之:能路上办的,就别麻烦终点站。

二、为什么最近这么火?

第一,AI大模型训练把网络逼成了瓶颈,这是最直接的推手。

训练一个大模型,成千上万张GPU卡要频繁“对答案”(就是前面说的梯度汇总)。业内普遍的痛点是:GPU算力越堆越多,但卡与卡之间的通信跟不上,GPU经常空转等数据——相当于一支万人军团每人都在战斗,却要排队等传令兵。这时候,“路上顺便把数据合并”的在网计算就从学术玩具变成了刚需。

第二,行业龙头已经把“在网计算”做成正式产品招牌。

NVIDIA在其InfiniBand(一种高性能数据中心互联技术)产品页面上,直接把Quantum平台称为“全球首个完全卸载式的In-Network Computing平台”。它的核心技术叫SHARP(可扩展分层聚合与归约协议),官方说明是:把集合通信操作卸载到交换机网络中执行,减少网络上传输的数据量、缩短MPI操作(一种高性能计算常用的并行编程接口)的耗时。换句话说,“在网计算”不是PPT概念,而是卖了多年、跑在各大智算中心里的成熟商用能力。

第三,以太网阵营正在集体跟进,把在网智能写进新标准。

过去AI训练网络基本被InfiniBand主导,但开放生态不甘心。超级以太网联盟(UEC,Ultra Ethernet Consortium)就是为AI和高性能计算重造以太网而成立的组织,其1.0版规范已经正式发布。看一眼它的成员名单就知道这件事的分量:AMD、博通、思科、Meta、微软、NVIDIA都在列,中国厂商同样活跃——阿里云、腾讯、字节跳动、华为、中兴均是成员。整个行业的共识很清晰:下一代AI网络不能只做“傻搬运”,网络设备要变得更“聪明”,在网聚合正是重点方向之一。

第四,在国内,“算力网络”战略给它添了一把火。

运营商这几年讲“算力网络”(把算力像水电一样调度供应的大网络),从“运力”走向“算网一体”,公开资料里在网计算被列为关键技术方向之一,相关行业标准与试点也在推进。逻辑不难理解:网络是运营商的主场,如果计算能力能长在网络里,网络的附加值就不再是“按带宽卖流量”,而是“按算网一体卖服务”。

第五,技术底座这几年集体成熟了。

P4可编程交换机从论文走向商用芯片,RDMA在数据中心以太网上(RoCE方案)大规模普及,DPU成了服务器标配,白盒交换机降低了定制门槛。好几块积木同时到位,在网计算才从实验室真正走进机房。国内外云厂商也在自研网络里做各种在网聚合、在网缓存的工程探索,相关论文近年在SIGCOMM、NSDI这些网络顶会上高频出现。

三、一张图看懂

同样是“一百台机器汇总梯度”,两种走法对比:

flowchart TD
    A[一百台GPU服务器<br/>各自算出梯度] --> B{聚合走哪条路?}
    B -->|传统网络| C[全部寄到一台汇总机]
    C --> D[汇总机被挤爆<br/>带宽被吃光]
    D --> E[结果再逐一寄回<br/>两趟奔波]
    B -->|在网计算| F[沿途交换机<br/>顺手把数字合并]
    F --> G[每层只剩一份汇总<br/>带宽省下大半]
    G --> H[一趟送达<br/>GPU少等待多干活]

再看一次“交换机兼职汇总”的实际过程:

sequenceDiagram
    participant A as GPU甲
    participant B as GPU乙
    participant S as 智能交换机
    A->>S: 寄存我的梯度
    B->>S: 我的也到了
    Note over S: 就地相加 只留一份
    S-->>A: 回传合并结果
    S-->>B: 回传合并结果

一句话概括这张图:传统网络是“全寄到总部再算”,在网计算是“沿途中转站顺手算完”。参与训练的机器越多,这个“顺手”省下的带宽和时间就越夸张。

四、和我有什么关系?

如果你是普通人:你刷到的AI回答快不快、便宜不便宜,背后就是这些网络技术在撑着。在网计算这类优化让大模型训练和推理的成本降下来,最终会体现在你用的AI产品价格和响应速度上。它不直接出现在你手机里,却决定了AI服务的“物价指数”。

如果你是从业者:这是一条正在打开的新职业赛道。网络工程师的传统技能(配置路由、划VLAN)正在向“可编程数据平面”进化——懂P4、懂RDMA、懂集合通信优化的“AI网络工程师”是当前智算中心建设中最抢手的组合之一;做DPU软件开发、网络芯片验证、高性能通信库(NCCL、HCCL这类集合通信库)的岗位需求也在涨。通信背景的人转AI基建,这是一个比“转算法”更顺滑的跳板。

如果你是投资者:可以关注三个方向——网络芯片(可编程交换芯片、DPU芯片厂商)、AI数据中心网络设备与方案商、以及集合通信软件生态。UEC这类标准组织的进展值得跟踪:一旦以太网阵营凭借开放标准大规模替代专有互联,产业链的利润分配会重新洗牌。当然,技术路线尚未尘埃落定,具体落地节奏要以各公司真实订单和部署为准。

小白现在就能做的三件事:

  1. 转发收藏这篇,下次看到“在网计算”“SHARP”“AI Fabric”这类词,你已经是朋友圈里最懂的人;
  2. 搜一搜P4语言和NCCL的入门资料,哪怕只看个开头,也能建立“网络可以编程”的直觉;
  3. 关注智算中心招标新闻,留意里面出现“无损网络”“在网计算”“集合通信”等字眼——这些是判断一个AI基建项目技术含量的快速暗号。

五、一分钟总结

  1. 在网计算就是让交换机、网卡这些“搬运工”在数据路过时顺手把计算干掉。
  2. 最典型的场景是AI训练的梯度汇总:交换机就地合并数据,大幅减少网络传输量。
  3. NVIDIA的InfiniBand+SHARP已商用多年,UEC正在把在网智能写进以太网新标准。
  4. 国内“算力网络”战略把它列为关键技术,云厂商也在自研网络里大量落地。
  5. 技术底座是RDMA、可编程交换机(P4)和DPU——网络正在从“傻管道”进化成“会算的路”。

延伸阅读

参考来源

  1. NVIDIA InfiniBand 官方产品页 — NVIDIA将Quantum平台定义为“全卸载式In-Network Computing平台”,SHARP协议把集合通信卸载到交换机网络执行(本文已核验)
  2. Ultra Ethernet Consortium(超级以太网联盟)官网 — 1.0规范已发布,成员含AMD、博通、思科、Meta、微软、NVIDIA及阿里云、腾讯、字节、华为、中兴等(本文已核验)
  3. P4 (programming language) - Wikipedia — 可编程数据平面语言P4的起源与设计目标,2014年SIGCOMM论文提出(本文已核验)
  4. RDMA - Wikipedia — 远程直接内存访问、零拷贝原理,在网计算的技术底座(本文已核验)

注:文中关于国内运营商算力网络白皮书、云厂商工程探索的部分,因搜索条件所限未能逐一核验原文,表述均为据公开资料的概括,细节以官方发布为准。


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入