## 概述 一家移动运营商，不买别人的大模型，而是从零开始训，两年内把自研模型从 34B 稠密一路做到 688B MoE，还把权重按 Apache 2.0 白送。韩国最大移动运营商 SK Telecom（SKT，2300 万用户）的 A.X 系列大模型，2026 年 8 月底的 A.X K2 在韩语基准 KMMLU-Pro 上拿下 80.5 分，在电信客服代理基准 τ²-Bench Telecom 上拿到 98.0 的全球对比最高分。本文基于 SKT 官方模型卡与 arXiv 技术报告，拆解一家电信公司为什么要训前沿大模型、模型里有什么工程门道、以及它给通信行业留下的作业。 ## 目录 - 一、运营商为什么要自己训大模型 - 二、十三个月，三代模型的三级跳 - 三、拆开K2：688B只跑33B的门道 - 四、电信基因：把客服窗口写进考卷 - 五、两条路线：自己训，还是抱大腿 - 六、工程师的新活：伺候647GiB的权重 - 七、冷思考：强项与短板 - 结语 ## 一、运营商为什么要自己训大模型 先看家底。SKT 是韩国第一大移动运营商，约 2300 万用户（2023 年四季度，几乎覆盖全国一半人口），2024 年合并营收 17.95 万亿韩元（约 121.5 亿美元）。但电信主业的天花板肉眼可见：人口负增长、5G 渗透见顶、ARPU 挤不出增量。SKT 的应对从 2021 年就开始了——当年把投资和半导体业务分拆成 SK Square，后来又把自家 AI 芯片子公司 Sapeon 与韩国 AI 芯片公司 Rebellions 合并（据 Wikipedia 词条），在 AI 版图上连续落子。 2025 年的一场安全事故反而加速了转身。当年 4 月 18 日，SKT 向监管上报 USIM 数据泄露（涉及鉴权密钥 KI、IMSI、IMEI、手机号），随后宣布 2300 万用户全部免费换卡；7 月韩国科技信息通信部的最终调查报告显示，攻击者早在 2021 年就已潜入内网并潜伏至 2025 年才被发现；8 月 28 日，韩国个人信息保护委员会开出 1348 亿韩元（约 9690 万美元）罚单。主业声誉受挫，新故事的分量就更重了。 真正让 A.X 名正言顺的，是“主权 AI”。A.X K2 的模型卡里明确写着：该模型是韩国政府“主权 AI 基础模型”项目的产物——目标是让韩国产业界、政府和学界可以可控地自托管 AI，数据不必出境。而运营商恰好握着这个赛道最稀缺的四样东西：机房的电力和制冷、一张全国光缆网、二十多年积累的韩语客服与业务数据、以及一支现成的基础设施运维队伍。SKT 的答案是把这四样全押上去：自建专有超算基础设施 TITAN，从模型架构、数据管线到训练全程自研。 ## 二、十三个月，三代模型的三级跳 A.X（读作 "A dot X"）家族的演进速度，放在整个开源圈都算激进： ```mermaid timeline title A.X 家族两年演进 2025-07 : A.X 3.1 开源，34B 稠密，TITAN 超算训练 2025-11 : TelAgentBench 发表于 EMNLP 2025 2026-01 : A.X K1 发布，519B MoE，arXiv 报告 2026-08 : A.X K2 开源，688B MoE，原生 FP8 2026-09 : K2 量化版单月下载破二十一万 ``` | 维度 | A.X 3.1（2025-07） | A.X K1（2026-01） | A.X K2（2026-08） | | --- | --- | --- | --- | | 架构 | 34B 稠密 | 519B MoE（192专家+1共享） | 688B MoE（256专家+1共享） | | 激活参数 | 全量 | 33B/token | 33B/token | | 预训练数据 | 2.1T tokens（自20T筛选） | 约10T tokens | 约8.2T tokens（三阶段课程） | | 原生上下文 | 32K（YaRN扩至128K） | 128K | 128K（YaRN扩至256K） | | 注意力机制 | 未披露 | MLA | MLA＋稀疏门控注意力SGA | | 训练精度 | 未披露 | 未披露 | 原生FP8（MXFP8/E4M3） | | 许可证 | Apache 2.0 | 开源权重 | Apache 2.0 | | KMMLU-Pro | 54.89 | 68.1 | 80.5 | 注：三代模型评测配置不完全一致（3.1 为自报 chat CoT，K1/K2 为 thinking 模式），趋势仅供参考。 三步棋各有分工。A.X 3.1 是探路石：34B 稠密模型、48 层，用 2.1 万亿 token 从头训练，主打“韩语效率”——处理同等韩语输入，它消耗的 token 比 GPT-4o 少约 33%，推理成本直接打七折。A.X K1 是规模化验证：519B 总参数的 MoE，每个 token 只激活 33B，首次引入 Think-Fusion 混合推理配方（一个模型同时支持“深度思考”和“直接作答”两种模式），技术报告挂在 arXiv:2601.09200，署名团队约 60 人——这已经是一家运营商攒出来的前沿模型班底。 A.X K2 则是冲榜之作：专家数从 192 个扩到 256 个，激活参数不变仍是 33B，预训练 8.2 万亿 token（从 16.2T 候选池按质量分域筛选），韩语自有爬取语料约 1.37 万亿 token。结果是在韩语知识基准 KMMLU-Pro 上从 68.1 跳到 80.5，数学基准 AIME26 拿到 97.1，2025 年国际数学奥赛题做出 35/42（达到金牌线，前五题全对）。 ## 三、拆开K2：688B只跑33B的门道 K2 模型卡里的几处工程细节，值得工程师细读。 **稀疏 MoE：容量与算力解耦。** 61 层（1 层稠密 + 60 层 MoE），每个 token 由路由器从 256 个专家里挑 8 个，加上 1 个常驻共享专家，实际前向只走 33B 参数。总参数决定“知道多少”，激活参数决定“每个 token 花多少算力”——这就是 688B 的模型能用接近 33B 模型的成本推理的原因。 **原生 FP8 训练。** K2 从第一个 step 起就用 MXFP8（E4M3）做前向和反向，发布的 checkpoint 直接就是块缩放 FP8 格式，权重落盘约 647GiB——不需要用户自己再做一遍训练后量化。配套设计是 Gated Norm：在 RMSNorm 之后插入一个输入相关的门控，压制隐藏层里比常态大几个数量级的“巨大激活值”。这类离群值是低精度量化误差的主要来源，压下去之后 FP8 甚至 FP4 部署的数值稳定性明显变好——官方验证连 NVFP4（专家权重 W4A4）量化版都能在 512K 长度的大海捞针测试里拿满分。 **稀疏门控注意力 SGA。** 256K 上下文的另一半答案。MLA（多头潜在注意力）之上加了两件东西：一个轻量索引器给所有候选 key-value 打分排序，每个 query 只保留 top-k=2048 个位置参与注意力计算；再给每个注意力头配一个输出门，抑制“注意力汇聚”现象。实测长上下文场景下，K2 相比 K1 吞吐更高、首 token 时延（TTFT）更低。上下文长度上，训练原生 128K，推理时用 YaRN 零样本外推到 256K，官方在 512K 长度上验证过检索。 **Think-Fusion：一份权重两种脾气。** 用成对的 SFT 数据（同一个 prompt 配“带思考链”和“不带思考链”两份答案）训练单个模型，再经多阶段强化学习，让用户按请求粒度选模式：要准确率开思考模式，要时延成本就关掉。客服白天的峰值流量走非思考模式，深夜的复杂工单走思考模式——同一套 GPU 池就能两头兼顾。 A.X 家族谱系与衍生版本如下： ```mermaid flowchart TD AX["A.X 模型家族"] --> V31["A.X 3.1
34B 稠密
2025-07"] AX --> K1["A.X K1
519B MoE 192选8
2026-01"] AX --> K2["A.X K2
688B MoE 256选8
2026-08"] K2 --> Q4["NVFP4 量化版
单月下载21万"] K2 --> DS["DSpark 蒸馏版 3B"] K2 --> EG["EAGLE3 草稿模型"] K2 --> GG["GGUF 量化版"] AX --> TAB["TelAgentBench
通信代理评测集"] TAB --> EM["EMNLP 2025 工业追踪"] ``` ## 四、电信基因：把客服窗口写进考卷 运营商训大模型，最容易被人问一句：你们凭什么？SKT 的回答不是一个模型，而是一张考卷。 2025 年 11 月，SKT 在 EMNLP 2025 工业追踪会场（苏州）发表了 TelAgentBench——一个韩语的电信行业 LLM 代理评测基准，考五个维度：推理、规划、行动（工具调用）、检索增强生成、指令跟随。公开的部分里最有含金量的是 Action 子集：757 个测试实例、23 个电信客服 API 函数、10 类子任务，覆盖单函数调用、并行调用、多步调用、多轮对话、缺参数追问等真实客服场景。设计里有个细节非常“运维”：专门设了 118 例 Irrelevance 负测试——用户说的话压根不需要调 API，模型必须忍住不调。客服代理最怕的就是幻觉调用：查错账单、退错套餐，一单事故就是一次舆情。Plan 子集则把 SKT 自家的 baro 漫游套餐放进旅行规划题，让模型按预算、流量需求推荐套餐——考卷直接取材自家业务。 效果也体现在第三方榜单上。τ²-Bench 的 Telecom 域考的是模型在电信客服场景里的多轮对话加工具调用，K2 拿到 98.0，在其模型卡罗列的全部对比模型中排第一；而一年前 K1 在同一基准上只有 58.1。为什么电信公司训的模型在电信代理任务上领先？我的判断是数据闭环：从TelAgentBench 的出题、到客服系统的真实工单分布、再到评测后的迭代，SKT 把这个环完全握在自己手里——这一点，外部模型厂商短期学不来。 | 基准（thinking模式） | A.X K2 | Qwen3.5 (397B) | GLM-5.1 | DeepSeek-V4 Flash | Kimi-K2.6 | | --- | --- | --- | --- | --- | --- | | τ²-Bench Telecom | **98.0** | 95.6 | 97.7 | 95.0 | 95.9 | | KMMLU-Pro（韩语） | **80.5** | 78.4 | 76.5 | 78.8 | 73.4 | | CLIcK（韩语） | **91.6** | 88.4 | 88.8 | 89.6 | 80.9 | | AIME26 | **97.1** | 92.5 | 95.4 | 96.7 | 95.4 | | LiveCodeBench v6 | 84.0 | 82.6 | 86.4 | **89.4** | 86.5 | | BrowseComp | 9.3 | 26.9 | **29.1** | 16.8 | 21.5 | （数据来自 A.X K2 模型卡，带星号基准由第三方 Artificial Analysis 评测，此处从略） ## 五、两条路线：自己训，还是抱大腿 把镜头拉远，韩国三大运营商在 AI 上的押注方式差异很有意思。SKT 选了最重的一条路：自建 TITAN 超算、自研数据管线、从零训练，然后把权重按 Apache 2.0 开源——它要的不只是自家客服降本，而是成为韩国“主权 AI”的底座供应商，吃政府、国企、金融这些对数据出境敏感的订单。 老对手 KT 走了另一条路：与微软深度绑定。据韩联社 2024 年报道，KT 将向微软供应 4.5 亿美元的网络基础设施——KT 出机房、出光缆、出网络工程能力，AI 能力借微软生态补齐。这条路轻资产、见效快，但核心引擎在别人手里。 | 维度 | SK Telecom | KT | | --- | --- | --- | | AI 路线 | 自研自训＋开源（A.X 系列） | 与微软战略合作 | | 算力底座 | 自建 TITAN 超算 | 向微软供应 4.5 亿美元网络基础设施 | | 移动用户 | 约 2300 万（2023Q4） | 约 1350 万（2023Q4） | | 代表成果 | K2：KMMLU-Pro 80.5 / τ²电信代理 98.0 | 依托微软 AI 生态 | | 开放性 | Apache 2.0 开源权重 | 商业合作绑定 | 标准允许多种打法，没有唯一正确答案。但有一个区别值得记住：自研路线的门槛是持续的巨额资本开支和人才密度，护城河是数据和场景；合作路线的风险是议价权，收益是现金流压力小。SKT 敢选前者，靠的是 17.95 万亿韩元年营收的现金牛撑腰。 ## 六、工程师的新活：伺候647GiB的权重 对通信行业的工程师来说，这类模型开源之后，真正的新问题是：怎么把它跑起来？K2 的模型卡几乎是写给运维的一份“装机清单”。 首先是显存账。FP8 权重落盘 647GiB，加载后加上 KV cache 和激活值，官方建议按 800GiB 聚合显存起步——验证环境是 4 张 B300（单卡 275GiB），换算成上一代硬件需要 12 张以上 80GB 卡。如果你的 GPU 不支持 FP8，Transformers 会自动退回 bfloat16 加载，那就需要约 1.4TB 内存——这一步能劝退大多数实验机。 其次是软件栈的坑。HuggingFace Transformers 的 `axk2` 架构在 v5.14.1 之后才合并进主干，当下得装源码版；FP8 推理还要额外装 `kernels` 包提供块缩放矩阵乘法内核。vLLM 这边，官方目前提供的是 SKT 自己维护的 fork（基于上游 v0.23.0），上游化还在准备中。还有个容易被忽略的细节：Transformers 路径不支持 flash_attention_2，稀疏注意力以稠密掩码方式执行，长上下文必须走 vLLM——把索引器选出的 top-k 位置直接喂给 FlashMLA/FlashInfer 的稀疏内核，稀疏化的收益才兑现得了。 最后是首次启动：最耗时的不是读 647GiB 权重，而是 DeepGEMM 内核预热和 FlashInfer 的 JIT 编译——官方专门提醒把 `VLLM_CACHE_ROOT` 放到持久盘上。这套经验和电信人熟悉的“割接前预加载、变更留回退”是一脉相承的：新世界的机房活，方法论还是老世界的。 更大的图景是运维技能的迁移方向。TelAgentBench 的 Action 子集测的是“模型对着 API 列表做函数调用”，而这套范式平移到 OSS 就是告警工单代理：对着告警消除、性能查询、参数下发接口做调用，先在负测试上保证“不该动的时候绝不动”，再谈自动化率。电信 AI 代理的落地，考卷已经有人出好了。 ## 七、冷思考：强项与短板 把官方数据摆完，也得把短板摆出来——模型卡自己就承认了几条。 其一，长程智能体能力偏弱。BrowseComp（需要多轮搜索的浏览任务）K2 只拿到 9.3，对比组里 GLM-5.1 是 29.1。官方归因于训练后阶段在智能体强化学习上投入有限。电信客服这类“封闭工具集”任务它很强，但开放式的“自己上网查资料解决问题”还差得远。 其二，纯文本、多语言不均。K2 不支持图像音频视频输入；训练语料按阶段英语占 73% 到 90%，韩语 6% 到 15%，中日西语各约 1%——所谓“主权模型”，主粮仍是英语语料，真正稀缺的自家语言资产是那 1.37 万亿 token 的韩语自有爬取。 其三，市场检验刚刚开始。K2 主模型单月下载 3.7 万次，而 NVFP4 量化版单月 21 万——用户用脚投票选了显存友好的那个版本；放到全球开源市场，这个量级与头部模型仍有数量级差距。还有一点要说破：τ²-Bench Telecom 考的是客服工具调用，不是无线参数优化、不是根因定位——“电信 AI”的考卷目前只出了第一章，网优侧的智能化仍是另一场硬仗。 ## 结语 两年前，“运营商自研大模型”听起来还像表态性口号；现在 A.X K2 把它变成了一个可以下载、可以复现、可以商用的 688B 开源权重。SKT 走通的这条路说明：电信公司手里最值钱的不是频谱，而是机房、电力、光缆、二十年的业务数据，和一支能把 647GiB 权重伺候好的运维队伍。对同行而言，问题只剩一个——下一张电信 AI 考卷，是自己出，还是等别人出。 ## 参考来源 1. [skt/A.X-K2 模型卡（HuggingFace 官方）](https://huggingface.co/skt/A.X-K2) — K2 架构细节、全部基准数据、部署要求均出自此处 2. [A.X K1 Technical Report（arXiv:2601.09200）](https://arxiv.org/abs/2601.09200) — K1 技术报告，519B MoE 设计与 Think-Fusion 配方 3. [skt/A.X-3.1 模型卡（HuggingFace）](https://huggingface.co/skt/A.X-3.1) — 34B 首代开源模型，TITAN 超算训练细节 4. [TelAgentBench 数据集（HuggingFace）](https://huggingface.co/datasets/skt/TelAgentBench) — 757 例电信客服函数调用评测集 5. [TelAgentBench 论文（EMNLP 2025 Industry Track）](https://aclanthology.org/2025.emnlp-industry.83/) — 电信代理基准的学术出处 6. [A.X K2 Technical Report PDF（GitHub）](https://github.com/SKT-AI/A.X-K2/blob/main/A_X_K2_Tech_Report.pdf) — K2 完整数据管线与训练配方 7. [SK Telecom - Wikipedia](https://en.wikipedia.org/wiki/SK_Telecom) — 用户规模、2025 年 USIM 事件与处罚信息（含韩联社等引用来源） --- > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 > 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。