首页 › tech › 运营商自研大模型:TeleChat战A.X

运营商自研大模型:TeleChat战A.X

概述:当所有行业都在调用商用大模型API时,全球运营商却在干一件“反潮流”的事——花巨资从零训练自己的大模型,还把权重开源。中国电信的TeleChat和韩国SK电讯的A.X是其中最具代表性的两支力量:前者把万亿token语料和1TB中文数据集全部开源,后者刚放出了519B参数的MoE巨兽A.X K1。本文基于双方公开的技术报告、模型卡与代码仓库,拆解这两家运营商自研大模型的架构、评测数据与私有化部署实战,回答一个核心问题:运营商为什么非要自己训大模型?这条路到底走得通吗?

目录

一、运营商为什么非要自己训大模型

干了十八年核心网,我见过太多“上丽一流”的技术最终烂在机房里。所以第一次听说运营商要自研大模型时,我的第一反应也是:直接调API不就完了?

但仔细想想,运营商手里攥着的数据,恰恰是全世界最不能出门的数据。通话记录、信令位置、用户套餐、故障工单——这些数据一旦送出域,就是监管红线。中国有数据出境安全评估,韩国有政府云服务的安全审查制度,欧洲有GDPR。想让大模型学会处理“用户投诉漫游扣费异常”这种活儿,就得拿真实工单去微调,而这些工单永远不可能传给外部API厂商。数据不出域,模型就得进门——这是自研的第一性逻辑。

第二层原因是术语壁垒。通用大模型对“掉话率”“PFCP会话”“切换带内重配”这些词的理解,基本靠百科式泛化,一到网优、客服的专业场景就露馅。行业模型必须用行业语料喂,而最有电信语料的,只有运营商自己。

第三层是供应链安全。训练和推理都跑在别人的芯片框架上,等于把命脉交给别人。TeleChat专门做了昇腾NPU的全栈适配,SKT则强调“从零训练、不依赖任何现有预训练模型”——背后的焦虑是相通的。

第四层,就是2024年以来全球升温的“主权AI”浪潮:一个国家的基础语言能力不应该全握在少数几家外国公司手里。运营商作为各国最大的数字化国企,天然被推到这个位置上。这是作者的行业观察,属于观点而非事实,但你看中电信和SKT的动作节奏,很难说不是这么回事。

下面的时间线,把两家的开源节奏放在一起看,颇有种隔空过招的味道:

timeline
    title 两大运营商自研大模型开源时间线
    2024年1月 : 中国电信开源TeleChat-7B
             : 开源TeleChat-PTD约1TB中文语料
    2024年3月 : 开源TeleChat-12B及int8/int4量化版
    2024年5月 : 发布改进版TeleChat-12B-v2
    2024年6月 : 开源轻量版TeleChat-1B
    2024年7月 : TeleChat接入vLLM推理框架
    2025年7月 : SKT在HuggingFace开源A.X 4.0系列
    2025年8月 : SKT开源多模态A.X 4.0-VL-Light
    2025年11月 : SKT开放TelAgentBench评测数据集
    2026年1月 : A.X K1技术报告发布于arXiv
    2026年9月 : A.X K1仍在持续更新迭代

需要说明:上表时间点来自TeleChat官方GitHub仓库的更新日志,以及SKT在HuggingFace(huggingface.co/skt)上的模型更新记录,均为可公开验证的一手信息。

二、TeleChat:万亿token喂出来的“国企模型”

TeleChat由中国电信旗下中电信人工智能科技有限公司研发训练,技术报告《TeleChat Technical Report》于2024年1月发布在arXiv(编号2401.03804,链接:arxiv.org/abs/2401.03804)。对这个模型,我最大的感受是:把它当成“国企的形象工程”来看的人,都被数据打了脸。

先看训练规模。官方仓库写得很清楚:7B基座用1.5万亿token中英文语料训练,12B基座用了3万亿token,连最小的1B模型都用了2万亿token。什么概念?当年Llama 2的训练量是2万亿token量级。一家运营商的AI团队,训练预算和工程能力已经对齐国际一线开源水平。

更难得的是数据全开源。TeleChat-PTD数据集从预训练语料中抽取,约2.7亿条纯中文文本,原始大小约1TB(压缩后480GB,189个jsonl文件),清洗流程是规则筛选、相似度去重、BERT/GPT2打分筛选、安全处理四步。对做中文私有化部署的团队来说,这几乎是目前能拿到的最大规模带清洗说明的中文语料之一,光是这一点就值得单独致敬。

模型结构上,TeleChat采用Decoder-only架构,12B版本做了一个很“老派但有效”的改进:词嵌入层与输出层解耦(tie_word_embeddings=False),参数分开有助于训练稳定性和收敛——这是做过大规模训练的团队才会踩出来的经验。位置编码用RoPE,激活函数SwiGLU,配合Flash-Attention v2训练速度提升约20%。开源的8K训练版本采用NTK-aware外推加attention scaling,可以外推到96K上下文。

评测数据方面,官方报告TeleChat-12B-chat的MMLU 73.3、C-Eval 66.6、CMMLU 74.2、GSM8K 57.2。2024年5月的12B-v2版本通过动态数据配比和课程学习,通用能力提升5.5%,数学提升24.6%,幻觉测试提升10.3%——把“幻觉”单独列成测试项,说明团队很清楚客服场景对“瞎编”零容忍。

开源版本一览:

版本 基座训练规模 层数 开源形态 开源时间
TeleChat-1B 2万亿token 16层 FP16对话模型 2024年6月
TeleChat-7B 1.5万亿token 30层 FP16+int8/int4量化 2024年1月
TeleChat-12B 3万亿token 38层 FP16+int8/int4量化 2024年3月
TeleChat-12B-v2 3万亿token+增强 38层 FP16 2024年5月

(数据来源:TeleChat官方GitHub仓库github.com/Tele-AI/TeleChat)

三、A.X:SKT从35B到519B的跃迁

如果说TeleChat走的是“务实开源”路线,韩国SK电讯(SKT)的A.X系列就是奔着“国家队底座模型”去的。

SKT的HuggingFace组织页(huggingface.co/skt)上挂着11个模型:2025年7月开源的A.X 4.0(72B稠密模型)和A.X 4.0-Light(7B,下载量3.1万+,是这个家族的“普及款”),2025年8月开源的多模态视觉语言模型A.X 4.0-VL-Light(8B),以及一个0.1B的A.X-Encoder-base编码器。据韩联社等韩国媒体此前的报道,A.X 4.0曾成为韩国首个可用于政府云服务而免于单独安全审查的商用大模型——主权AI的意味再明显不过。

真正的重头戏是2026年的A.X K1。它的技术报告《A.X K1 Technical Report》(arXiv编号2601.09200,链接:arxiv.org/abs/2601.09200)+模型卡给出了完整参数,我挑关键的说:

参数项 A.X K1 TeleChat-12B(对照)
架构 稀疏MoE,从零训练 稠密Decoder-only
总参数量 519B(192专家+1共享专家) 12B
激活参数 33B/token(8专家+1共享) 12B全部激活
层数 61层(1稠密+60 MoE) 38层
注意力机制 多头潜在注意力MLA 标准多头注意力
上下文长度 131,072 token 8K训练/96K外推
词表规模 163,840 160,256
思考模式 Think/Non-Think可切换 不支持
训练技巧 MTP多token预测辅助 课程学习+动态配比

(A.X K1数据来自其官方模型卡,TeleChat数据来自官方仓库)

三个工程细节值得展开。第一,MoE设计:每个token只激活192个专家中的8个加1个共享专家,519B的容量、33B的计算成本,这是当前大模型规模化的主流答案。第二,MLA(Multi-Latent Attention)通过潜在空间压缩KV缓存,配合131K上下文,这是DeepSeek带火的架构路线。第三,训练时用MTP(多token预测)做辅助稳定训练,推理时还能配合投机解码提吞吐——一个技巧两头赚。另外它在MLP块前后都放了RMSNorm,官方说明是为了大规模稀疏训练的稳定性,这显然是被loss spike毒打过之后的防御性设计。

评测数据上,A.X K1在思考模式下对标DeepSeek-V3.1(685B-A37B)和GLM-4.6(357B-A32B)毫不露怯:韩语知识基准KMMLU 80.2分高于两家对手(76.5/79.9),AIME25数学竞赛89.8分(88.4/86.0),指令遵循IFBench 64.7分大幅领先(41.5/43.4)。选一个7B的小模型还是519B的大家伙,SKT把从端侧到集群的整条产品线都铺好了。

四、τ² Telecom:电信智能体的“上岗考试”

上面这些通用基准,其实不是我最关心的。真正让我坐直了的是评测表最后一行:τ² Telecom。

τ²-Bench是智能体(Agent)评测基准中的电信域测试:模型扮演运营商坐席,面对一个由模拟器扮演的用户,需要在多轮对话中澄清诉求、查询账户状态、按正确顺序调用系统接口完成变更——本质上是考察“这个模型能不能上岗干客服和运维”。这类基准的难点在于:错一步操作,后面全崩,单轮问答分数完全无法预测这里的表现。

A.X K1模型卡给出的成绩单:A.X K1拿到58.1,DeepSeek-V3.1只有37.4,GLM-4.6则拿到70.5。这张表值得细品两点:

其一,A.X K1把参数量更大的DeepSeek-V3.1甩出20分以上,说明电信场景的agent能力不是堆参数就有的,训练数据和后训练方法里必须真的喂过电信业务流程。这也侧面印证了运营商自研的价值——你让通用模型去理解“保留原号码转套餐再叠加国际漫游包”这种多约束工单,它就是做不利索。

其二,诚实的失败也有价值:A.X K1并没有赢下这一项,GLM-4.6的70.5分明显高于它。SKT没有在自家模型卡里藏起这行数据,这比很多“全面领先”的宣传稿可信得多。

配套动作上,SKT还在HuggingFace开放了TelAgentBench评测数据集(huggingface.co/datasets/skt/TelAgentBench)。开放电信域评测集这件事本身,说明SKT的目标不只是自己用,而是想定义“电信大模型好不好”的标尺——标准制定者比模型使用者值钱,这是通信行业十八年来反复上演的剧本。

五、私有化部署实战:NPU、量化与四节点集群

对一线工程师来说,参数和榜单是别人打架,部署成本才是自己的日子。两边给出的实战数据都很扎实。

先看TeleChat的国产化路线。官方仓库给出的昇腾适配数据:推理侧,Atlas 300I Pro推理卡跑7B模型,25组case平均吞吐13 tokens/s(对照A10约18 tokens/s),int8量化精度对齐A10;训练侧更有意思——基于昇思MindSpore框架在Atlas 800T A2上,12B模型8卡NPU拿到8.22 samples/s,反超8卡A100-40G的6.85 samples/s约20%。一家运营商的模型在国产NPU上训练效率超过A100,这个信号的分量,搞采购的兄弟都懂。微调侧也给了基准参考:7B全参微调,单机8卡A100-40G、2048长度下8.86 samples/s(ZeRO-3+gradient checkpointing+FlashAttention)。

再看A.X K1的规模部署。模型卡给出的验证配置是:SGLang框架、4节点、张量并行tp-size 32、上下文拉满131072、max-running-requests 4——519B的MoE即便只激活33B,权重显存也得三十多张卡起步,这就是巨头模型的入场费。vLLM也有初步适配分支。对想尝鲜的企业,SKT留了个商业口子:轻量化或量化版本需联系官方邮箱获取。

中间档位的选择其实更多:TeleChat的int4量化12B可以在单卡级别跑起来;A.X 4.0-Light(7B)和A.X-3.1-Light这类小杯,才是客服工单摘要、告警归并这类高频低难度的性价比之选。我把典型场景的部署画像整理如下:

场景 建议模型 部署形态 参考依据
高频客服问答/工单摘要 7B级(A.X 4.0-Light/TeleChat-7B) 单卡至单机int4/int8量化 两方开源仓库
复杂坐席Agent/工单编排 72B级或A.X K1 多卡推理集群 A.X模型卡
全网根因分析/多步推理 A.X K1思考模式 4节点tp32集群 SGLang验证配置
信创要求环境 TeleChat+昇腾 Atlas 800T A2训练/300I Pro推理 TeleChat仓库昇腾适配章节

整个私有化部署的数据流,大致长这样:

flowchart LR
    subgraph 数据侧
    A["网管告警流"]
    B["客服工单库"]
    C["内部知识文档"]
    end
    subgraph 模型侧
    D["本地大模型集群"]
    E["行业微调与评测"]
    end
    subgraph 应用侧
    F["智能客服坐席"]
    G["告警摘要与根因建议"]
    H["Agent自动操作网管"]
    end
    A --> D
    B --> D
    C --> D
    D --> E
    E --> D
    E --> F
    E --> G
    E --> H

注意最后一环“Agent自动操作网管”:能不能让模型直接对现网执行变更,各厂家和运营商的安全策略差异很大,标准上也允许多种实现,具体做法应以各自企业的变更管理规范为准。我的建议始终是:先只读、再建议、最后才是受控执行。

六、两条路线对比与选型建议

把两家的开源策略并排放,能看到两条清晰不同的路线:

维度 中国电信 TeleChat SKT A.X
定位 企业级私有化部署+信创生态 国家级主权底座+全家桶产品线
旗舰规模 开源至12B(更大规模未开源) 开源至519B MoE(A.X K1)
数据开放 1TB中文预训练语料全开源 开源TelAgentBench评测集
多模态 未见开源多模态版本 A.X 4.0-VL-Light视觉语言模型
硬件生态 昇腾全栈适配(训练+推理) 英伟达生态(SGLang/vLLM)
电信特化 长文公文写作、政务语料见长 τ² Telecom agent评测+TelAgentBench
语言侧重 中文 韩英为主,兼顾中日西

(依据双方官方仓库与模型卡整理)

给同行的选型建议就三句话:中文私有化部署且信创有硬要求的,TeleChat+昇腾是目前最完整的开源参考实现;要做客服agent且预算充足压得住519B的,A.X K1+τ² Telecom先跑一轮评测再决策;预算有限又想练团队的,两边都有的7B小模型加量化版本,一台工作站就能把整条微调-评测-部署流水线跑通。

七、冷思考:开源不等于白嫖

最后泼三盆冷水。

第一,开源的是权重不是能力。你拿到的是519B的裸模型和12B的通用对话模型,电信场景的微调语料、评测体系、安全护栏,一样都得自己建。TeleChat开源了1TB预训练语料,但电信客服的对话微调集可不在里面——真正值钱的那部分,两家都没开源,这不丢人,但要有预期。

第二,榜单分不等于现场分。KMMLU 80分不代表它能答对你的资费政策;τ² Telecom 58分意味着十次复杂工单有四次要人工兜底。上生产之前,用自己脱敏后的工单回放做一轮评测,比看任何榜单都管用。

第三,维护是长跑。模型卡里SKT还标注了“A.X K1的思考过程不应被解读为其真实决策过程”这类限制说明,开源社区的issue、框架适配(vLLM至今是“初步支持”)、安全补丁,都要求你的团队养得住模型工程师。运营商的AI转型,卡脖子从来不卡在“有没有模型”,卡在“有没有一群懂模型又懂网络的人”。

八、结语

从2024年1月中国电信开源TeleChat-7B,到2026年SKT把519B的A.X K1放上HuggingFace,短短两年多,运营商自研大模型已经从“表态”走完了“交付”。这两家的打法给整个行业打了个样:模型可以开源,数据可以开源,评测标准也可以开源——但自研能力本身没法开源。

对我们这些网络工程师来说,真正的变化不是又多了两个可以下载的模型,而是行业知识第一次在这个时代变得如此值钱:懂PFCP心跳又懂RLHF的复合型人才,才是这套开源体系里最稀缺的权重。


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

参考来源

  1. A.X K1模型卡(HuggingFace官方) — A.X K1架构参数、评测数据、SGLang部署配置的一手来源
  2. A.X K1 Technical Report(arXiv:2601.09200) — SKT自研MoE大模型技术报告
  3. TeleChat官方GitHub仓库 — 中国电信TeleChat模型架构、训练规模、昇腾适配数据、开源时间线
  4. TeleChat Technical Report(arXiv:2401.03804) — 中国电信星辰大模型技术报告
  5. SKT官方HuggingFace组织页 — A.X全系开源模型与TelAgentBench评测数据集
  6. TeleChat-PTD中文语料数据集 — 中国电信开源的约1TB中文预训练数据

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入