2025-2026年，三大运营商AI大模型训练和推理需求呈现爆发式增长。中国移动"九天"大模型矩阵已扩展到23个行业模型，中国电信"星辰"系列覆盖政务、应急、工业等12个垂直领域，中国联通"元景"家族也达到15个模型规模。然而，算力利用率低、训推资源割裂、跨地域调度不畅三大痛点，正在吞噬运营商数十亿元的AI基础设施投资回报。
根据工信部2025年12月发布的《通信行业AI算力白皮书》，三大运营商已建成智算中心超过42个，总算力规模突破450 PFLOPS（FP16），但平均算力利用率仅为34%-41%，远低于互联网大厂的55%-62%。核心原因在于：训练集群和推理集群物理隔离、GPU资源无法按需流动、跨省算力调度依赖人工审批。
在这种背景下，AI训推算力调度平台（Unified AI Training-Inference Scheduling Platform）成为2025-2026年运营商AI基础设施投资的最热门赛道。它不是简单的Kubernetes GPU调度器，而是融合了算力池化、训推一体、智能编排、弹性伸缩、成本计量五大核心能力的PaaS层平台。
中国移动于2025年6月正式发布"九天智算"平台2.0版本，统一管理全国14个智算中心的超过12万张GPU（含A100、H20、昇腾910B、寒武纪MLU370等异构芯片）。
核心架构特点：
部署规模与效果：
| 指标 | 部署前（2024Q4） | 部署后（2025Q4） | 提升幅度 |
|---|---|---|---|
| GPU平均利用率 | 37% | 68% | +84% |
| 训推任务排队时长 | 4.2小时 | 0.8小时 | -81% |
| 单卡日均推理吞吐 | 1,240 token/s | 2,860 token/s | +131% |
| 跨省算力调度响应 | 人工2-3天 | 自动<15分钟 | 缩短99% |
| 月度算力成本 | 3.8亿元 | 2.4亿元 | -37% |
据中国移动2025年报披露，九天智算平台全年节省算力支出超过16亿元，同时支撑了九天大模型矩阵的训练效率提升3.2倍。
技术亮点： 中国移动自主研发了"算力感知调度器"（AI-Aware Scheduler），能根据模型参数规模、训练数据量、目标精度自动推荐最优GPU分配方案。例如，训练70B参数模型时，系统自动选择"数据并行+流水线并行"混合策略，在512张H20上实现78%的MFU（Model FLOPs Utilization），比静态分配方案提升23个百分点。
中国电信的"翼智"平台于2025年9月在天翼智能生态博览会上正式发布，定位于"星辰"大模型家族的统一算力调度底座。平台管理全国11个智算中心，总算力超过180 PFLOPS。
核心差异化能力：
商用数据：
| 维度 | 数据 |
|---|---|
| 管理GPU总数 | 68,000+张（含A800、L40S、昇腾910B） |
| 日均推理调用量 | 47亿次token |
| 推理P99延迟 | <180ms（星辰-70B模型） |
| 训推资源转换时间 | <90秒 |
| 年度算力成本节省 | 8.6亿元 |
| 星辰模型训练效率提升 | 2.8倍 |
实际应用场景： 中国电信将翼智平台面向政企客户开放，提供"模型即服务"（MaaS）能力。浙江省政务热线12345的智能客服系统运行在翼智平台上，日均处理12万通电话的实时语音理解和工单生成，推理成本从原来的0.8元/通降至0.12元/通，降幅85%。
中国联通选择了与移动、电信不同的技术路线——基于Kubernetes + Volcano开源调度器深度定制，于2025年11月发布"智擎"平台1.0。
架构决策背后的逻辑： 联通AI算力规模在三大运营商中最小（约95 PFLOPS），但业务场景最为多元化（涵盖元景大模型、5G NWDAF推理、智慧城市边缘推理等）。采用开源路线可以快速适配异构环境，降低供应商锁定风险。
核心技术栈：
┌─────────────────────────────────────────────┐
│ 联通智擎平台架构 │
├─────────────────────────────────────────────┤
│ ┌─────────┐ ┌─────────┐ ┌─────────┐ │
│ │ 模型仓库 │ │ 任务编排 │ │ 成本中心 │ │
│ │(Harbor+ │ │(Argo │ │(自研计量│ │
│ │ MLflow) │ │ Workflw)│ │ 引擎) │ │
│ └────┬────┘ └────┬────┘ └────┬────┘ │
│ └──────────┬─┴──────────┘ │
│ ┌─────┴──────┐ │
│ │ 智能调度引擎 │ │
│ │(Volcano+ │ │
│ │ 自研插件) │ │
│ └─────┬──────┘ │
│ ┌──────────┼──────────┐ │
│ ┌────┴───┐ ┌────┴───┐ ┌───┴────┐ │
│ │GPU池化 │ │RDMA网络│ │存储加速│ │
│ │(Hammer │ │(RoCEv2)│ │(CPFS) │ │
│ │ +vGPU) │ │ │ │ │ │
│ └────────┘ └────────┘ └───────┘ │
└─────────────────────────────────────────────┘
关键性能指标：
| 指标 | 数值 |
|---|---|
| 管理GPU总数 | 42,000张 |
| 异构芯片类型 | 7种（NVIDIA/AMD/华为/寒武纪/壁仞/燧原/摩尔线程） |
| GPU利用率提升 | 从31%提升至58% |
| 训练任务吞吐提升 | 2.1倍 |
| 开发部署周期 | 从3个月缩短至3周 |
| 开源组件占比 | 72% |
实战案例： 联通将智擎平台用于5G网络智能化的NWDAF（Network Data Analytics Function）推理服务。原来NWDAF的分析模型分散在各省公司独立GPU服务器上运行，资源浪费严重。通过智擎平台集中调度，将全国31省的NWDAF推理任务统一编排，GPU利用率从28%提升至63%，同时将网络分析延迟从2.3秒降至0.6秒。
华为ModelArts Pro电信增强版于2025年8月发布，专门针对运营商场景优化。目前已在泰国AIS、沙特STC、中国联通河南分公司部署。
不同于运营商自研方案的独特价值：
沙特STC部署数据（2025年11月公开）：
| 指标 | 数据 |
|---|---|
| 部署规模 | 8,000张昇腾910B |
| 管理AI模型数量 | 67个 |
| GPU利用率 | 从29%提升至71% |
| 故障预测推理延迟 | 从1.8秒降至0.3秒 |
| 年度TCO节省 | 2,400万美元 |
| 本地化率 | 85%（满足沙特数据主权要求） |
沙特STC的AI总监Ahmed Al-Ghamdi在2025年GITEX展会上分享： "ModelArts Pro最大的价值不在于调度效率，而在于它让我们的网络工程师——而非AI专家——能够独立训练和部署电信专用模型。这大幅降低了AI落地的组织门槛。"
中兴通讯的AiServer训推一体机走的是"开箱即用"路线——将训推调度软件与自研AI服务器硬件打包交付，2025年10月发布第二代产品，已在印度Bharti Airtel、中国移动浙江公司、中国电信安徽公司部署。
产品定位逻辑： 针对地市级运营商分公司——它们没有AI专业团队，无法像集团总部那样自建复杂平台。AiServer提供"5台起售、1天上电、1周出模型"的极简体验。
硬件配置（第二代标准型）：
商用效果：
| 部署客户 | 规模 | 主要用途 | 效果 |
|---|---|---|---|
| 中国移动浙江 | 20台（160卡） | 地市5G基站节能模型训练推理 | 基站节能率提升8.3%，投资回收期11个月 |
| 中国电信安徽 | 12台（96卡） | 政务热线AI客服推理 | 日均处理3.2万通，人工坐席减少40% |
| Bharti Airtel | 50台（400卡） | 全印网络KPI异常检测 | 故障发现时间缩短76%，MTTR降低54% |
成本优势： AiServer标准型单台售价约120万元（含三年软件授权），相比自建同等算力（GPU服务器+网络设备+软件平台）节省约35%的初期投入。更重要的是，将部署周期从传统的2-3个月压缩至3-7天。
| 能力维度 | 中移动九天智算 | 中电信翼智 | 中联通智擎 | 华为ModelArts Pro | 中兴AiServer |
|---|---|---|---|---|---|
| 算力池化 | ★★★★★ | ★★★★☆ | ★★★☆☆ | ★★★★☆ | ★★★☆☆ |
| 训推弹性转换 | ★★★★★ | ★★★★★ | ★★★☆☆ | ★★★★☆ | ★★★★☆ |
| 异构芯片支持 | ★★★★☆ | ★★★☆☆ | ★★★★★ | ★★☆☆☆（昇腾优先） | ★★★★☆ |
| 跨域调度 | ★★★★★ | ★★★★☆ | ★★★☆☆ | ★★★☆☆ | ★★☆☆☆ |
| 成本计量 | ★★★★☆ | ★★★★★ | ★★★☆☆ | ★★★★☆ | ★★★☆☆ |
| 电信模型预置 | ★★★★★ | ★★★★☆ | ★★★☆☆ | ★★★★★ | ★★★★☆ |
| 部署难度 | 高（需专业团队） | 高 | 中 | 中 | 低（开箱即用） |
| 开放性 | 中（自研为主） | 中 | 高（开源为主） | 低（昇腾绑定） | 中 |
| 方案 | 建设投入 | 年运营节省 | 投资回收期 | GPU利用率提升 | 适用场景 |
|---|---|---|---|---|---|
| 九天智算 | ~15亿元 | 16亿元/年 | 11个月 | +84%（37%→68%） | 超大规模国家级 |
| 翼智平台 | ~8亿元 | 8.6亿元/年 | 11个月 | +76%（35%→62%） | 大规模+政企MaaS |
| 智擎平台 | ~3亿元 | 3.2亿元/年 | 11个月 | +87%（31%→58%） | 中规模+异构环境 |
| ModelArts Pro | ~2亿元 | 1.6亿元/年 | 15个月 | +145%（29%→71%） | 昇腾生态+海外 |
| AiServer一体机 | 0.24亿元/20台 | 0.28亿元/年 | 10个月 | +110%（28%→59%） | 地市级快速部署 |
趋势一：推理占比持续攀升，训推比从6:4转向3:7
随着大模型训练进入稳定期、推理需求爆发式增长，运营商AI算力调度平台正从"训练优先"转向"推理优先"。中国移动预测，到2026年底，其AI算力消耗中推理占比将从当前的40%提升至70%以上。这意味着调度平台必须具备推理弹性扩缩容能力——面对突发的推理流量（如重大事件期间的智能客服洪峰），能在秒级完成资源扩容。
趋势二：边缘推理纳管成为新战场
运营商拥有全国最多的边缘计算节点（中国移动超10万个基站边缘机房）。如何将中心训推调度平台的能力延伸到边缘，实现"中心训练-边缘推理-联邦学习"闭环，是2026年的技术焦点。华为ModelArts Pro的"边缘-中心协同推理"和中兴AiServer的"下沉部署"方案目前领先。
趋势三：算力计量与碳足迹追踪
运营商ESG（环境、社会、治理）压力增大，AI算力的碳排放追踪成为刚需。中国电信翼智平台已率先实现"每Token碳足迹"计算，为每个推理请求标注碳排放量。中国移动也计划在2026年Q3上线类似功能。
graph TD
A[运营商AI训推调度平台选型] --> B{算力规模?}
B -->|10万+GPU| C[超大规模路线]
B -->|1-10万GPU| D[大规模路线]
B -->|<1万GPU| E[中小规模路线]
C --> C1[自研平台<br/>中移动九天智算模式]
C --> C2[参考翼智平台<br/>推理优先策略]
D --> D1[华为ModelArts Pro<br/>昇腾生态用户]
D --> D2[联通智擎开源路线<br/>异构环境用户]
E --> E1[中兴AiServer一体机<br/>开箱即用]
E --> E2[华为ModelArts Pro<br/>电信版预置模型]
C1 --> F{是否有百人<br/>AI平台团队?}
F -->|是| G[推荐: 自研+开源<br/>Volcano+K8s深度定制]
F -->|否| H[推荐: 华为ModelArts Pro<br/>+自研上层应用]
E1 --> I{预算是否充足?}
I -->|是| J[推荐: AiServer一体机<br/>快速见效]
I -->|否| K[推荐: 纯软件方案<br/>开源Volcano+廉价GPU]
挑战一：异构芯片调度仍有性能损耗
尽管各平台都宣称支持异构芯片，但实际跨芯片调度性能损耗仍然显著。中国联通智擎平台的测试数据显示，在昇腾910B+NVIDIA H20混合集群上训练同一模型，MFU比纯NVIDIA集群低18-22个百分点。根本原因在于CUDA与CANN之间的算子映射存在精度损失和通信开销。这一问题在2026年随着华为CANN 8.0的发布有望缓解，但彻底解决仍需时间。
挑战二：训推转换的"冷启动"问题
训推弹性转换理论上很美好，但实际操作中存在模型加载"冷启动"延迟。中国电信翼智平台实测，将一个70B参数模型从训练模式切换到推理模式，需要经历"保存检查点→释放GPU显存→加载推理权重→预热推理引擎"四个步骤，整个过程约90秒。对于要求毫秒级响应的实时业务，90秒的切换窗口仍不可接受。目前业界正在探索"热切换"技术，预计2026年底能有商用方案。
挑战三：组织协同难度被低估
"技术问题只占30%，70%是组织问题"——这是中国移动九天智算平台负责人的经验总结。算力调度涉及集团AI院、省公司、业务部门三方博弈：集团希望集中调度提升利用率，省公司不愿交出本地算力控制权，业务部门抱怨调度后性能下降。中国移动最终通过"算力份额制"解决了这个问题——每个业务部门获得固定的算力份额配额，内部可自由交易流转，用经济机制替代行政命令。
AI训推调度平台是运营商AI战略的"隐形基础设施"——它不直接产生营收，但决定了整个AI战略的ROI天花板。算力利用率每提升10个百分点，对应数亿元的成本节省。
中小规模运营商和地市级分公司不应盲目追求自建平台。中兴AiServer一体机和华为ModelArts Pro电信版提供的"交钥匙"方案，投资回收期仅10-15个月，是务实之选。
推理优化能力将比训练能力更值钱。2026年运营商AI的核心矛盾不再是"怎么训练"，而是"怎么高效推理"。掌握模型量化、蒸馏、推理引擎优化等技能的工程师，将成为市场上的高薪人才。
算力计量能力是运营商对外输出AI服务的商业基础。没有精确的成本计量，就无法向政企客户合理定价。中国电信翼智平台的"按Token计费"模式值得重点关注。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。