首页 › tech › SKT把大模型干进开源第一梯队

概述

一家移动运营商,不买别人的大模型,而是从零开始训,两年内把自研模型从 34B 稠密一路做到 688B MoE,还把权重按 Apache 2.0 白送。韩国最大移动运营商 SK Telecom(SKT,2300 万用户)的 A.X 系列大模型,2026 年 8 月底的 A.X K2 在韩语基准 KMMLU-Pro 上拿下 80.5 分,在电信客服代理基准 τ²-Bench Telecom 上拿到 98.0 的全球对比最高分。本文基于 SKT 官方模型卡与 arXiv 技术报告,拆解一家电信公司为什么要训前沿大模型、模型里有什么工程门道、以及它给通信行业留下的作业。

目录

一、运营商为什么要自己训大模型

先看家底。SKT 是韩国第一大移动运营商,约 2300 万用户(2023 年四季度,几乎覆盖全国一半人口),2024 年合并营收 17.95 万亿韩元(约 121.5 亿美元)。但电信主业的天花板肉眼可见:人口负增长、5G 渗透见顶、ARPU 挤不出增量。SKT 的应对从 2021 年就开始了——当年把投资和半导体业务分拆成 SK Square,后来又把自家 AI 芯片子公司 Sapeon 与韩国 AI 芯片公司 Rebellions 合并(据 Wikipedia 词条),在 AI 版图上连续落子。

2025 年的一场安全事故反而加速了转身。当年 4 月 18 日,SKT 向监管上报 USIM 数据泄露(涉及鉴权密钥 KI、IMSI、IMEI、手机号),随后宣布 2300 万用户全部免费换卡;7 月韩国科技信息通信部的最终调查报告显示,攻击者早在 2021 年就已潜入内网并潜伏至 2025 年才被发现;8 月 28 日,韩国个人信息保护委员会开出 1348 亿韩元(约 9690 万美元)罚单。主业声誉受挫,新故事的分量就更重了。

真正让 A.X 名正言顺的,是“主权 AI”。A.X K2 的模型卡里明确写着:该模型是韩国政府“主权 AI 基础模型”项目的产物——目标是让韩国产业界、政府和学界可以可控地自托管 AI,数据不必出境。而运营商恰好握着这个赛道最稀缺的四样东西:机房的电力和制冷、一张全国光缆网、二十多年积累的韩语客服与业务数据、以及一支现成的基础设施运维队伍。SKT 的答案是把这四样全押上去:自建专有超算基础设施 TITAN,从模型架构、数据管线到训练全程自研。

二、十三个月,三代模型的三级跳

A.X(读作 "A dot X")家族的演进速度,放在整个开源圈都算激进:

timeline
    title A.X 家族两年演进
    2025-07 : A.X 3.1 开源,34B 稠密,TITAN 超算训练
    2025-11 : TelAgentBench 发表于 EMNLP 2025
    2026-01 : A.X K1 发布,519B MoE,arXiv 报告
    2026-08 : A.X K2 开源,688B MoE,原生 FP8
    2026-09 : K2 量化版单月下载破二十一万
维度 A.X 3.1(2025-07) A.X K1(2026-01) A.X K2(2026-08)
架构 34B 稠密 519B MoE(192专家+1共享) 688B MoE(256专家+1共享)
激活参数 全量 33B/token 33B/token
预训练数据 2.1T tokens(自20T筛选) 约10T tokens 约8.2T tokens(三阶段课程)
原生上下文 32K(YaRN扩至128K) 128K 128K(YaRN扩至256K)
注意力机制 未披露 MLA MLA+稀疏门控注意力SGA
训练精度 未披露 未披露 原生FP8(MXFP8/E4M3)
许可证 Apache 2.0 开源权重 Apache 2.0
KMMLU-Pro 54.89 68.1 80.5

注:三代模型评测配置不完全一致(3.1 为自报 chat CoT,K1/K2 为 thinking 模式),趋势仅供参考。

三步棋各有分工。A.X 3.1 是探路石:34B 稠密模型、48 层,用 2.1 万亿 token 从头训练,主打“韩语效率”——处理同等韩语输入,它消耗的 token 比 GPT-4o 少约 33%,推理成本直接打七折。A.X K1 是规模化验证:519B 总参数的 MoE,每个 token 只激活 33B,首次引入 Think-Fusion 混合推理配方(一个模型同时支持“深度思考”和“直接作答”两种模式),技术报告挂在 arXiv:2601.09200,署名团队约 60 人——这已经是一家运营商攒出来的前沿模型班底。

A.X K2 则是冲榜之作:专家数从 192 个扩到 256 个,激活参数不变仍是 33B,预训练 8.2 万亿 token(从 16.2T 候选池按质量分域筛选),韩语自有爬取语料约 1.37 万亿 token。结果是在韩语知识基准 KMMLU-Pro 上从 68.1 跳到 80.5,数学基准 AIME26 拿到 97.1,2025 年国际数学奥赛题做出 35/42(达到金牌线,前五题全对)。

三、拆开K2:688B只跑33B的门道

K2 模型卡里的几处工程细节,值得工程师细读。

稀疏 MoE:容量与算力解耦。 61 层(1 层稠密 + 60 层 MoE),每个 token 由路由器从 256 个专家里挑 8 个,加上 1 个常驻共享专家,实际前向只走 33B 参数。总参数决定“知道多少”,激活参数决定“每个 token 花多少算力”——这就是 688B 的模型能用接近 33B 模型的成本推理的原因。

原生 FP8 训练。 K2 从第一个 step 起就用 MXFP8(E4M3)做前向和反向,发布的 checkpoint 直接就是块缩放 FP8 格式,权重落盘约 647GiB——不需要用户自己再做一遍训练后量化。配套设计是 Gated Norm:在 RMSNorm 之后插入一个输入相关的门控,压制隐藏层里比常态大几个数量级的“巨大激活值”。这类离群值是低精度量化误差的主要来源,压下去之后 FP8 甚至 FP4 部署的数值稳定性明显变好——官方验证连 NVFP4(专家权重 W4A4)量化版都能在 512K 长度的大海捞针测试里拿满分。

稀疏门控注意力 SGA。 256K 上下文的另一半答案。MLA(多头潜在注意力)之上加了两件东西:一个轻量索引器给所有候选 key-value 打分排序,每个 query 只保留 top-k=2048 个位置参与注意力计算;再给每个注意力头配一个输出门,抑制“注意力汇聚”现象。实测长上下文场景下,K2 相比 K1 吞吐更高、首 token 时延(TTFT)更低。上下文长度上,训练原生 128K,推理时用 YaRN 零样本外推到 256K,官方在 512K 长度上验证过检索。

Think-Fusion:一份权重两种脾气。 用成对的 SFT 数据(同一个 prompt 配“带思考链”和“不带思考链”两份答案)训练单个模型,再经多阶段强化学习,让用户按请求粒度选模式:要准确率开思考模式,要时延成本就关掉。客服白天的峰值流量走非思考模式,深夜的复杂工单走思考模式——同一套 GPU 池就能两头兼顾。

A.X 家族谱系与衍生版本如下:

flowchart TD
    AX["A.X 模型家族"] --> V31["A.X 3.1<br/>34B 稠密<br/>2025-07"]
    AX --> K1["A.X K1<br/>519B MoE 192选8<br/>2026-01"]
    AX --> K2["A.X K2<br/>688B MoE 256选8<br/>2026-08"]
    K2 --> Q4["NVFP4 量化版<br/>单月下载21万"]
    K2 --> DS["DSpark 蒸馏版 3B"]
    K2 --> EG["EAGLE3 草稿模型"]
    K2 --> GG["GGUF 量化版"]
    AX --> TAB["TelAgentBench<br/>通信代理评测集"]
    TAB --> EM["EMNLP 2025 工业追踪"]

四、电信基因:把客服窗口写进考卷

运营商训大模型,最容易被人问一句:你们凭什么?SKT 的回答不是一个模型,而是一张考卷。

2025 年 11 月,SKT 在 EMNLP 2025 工业追踪会场(苏州)发表了 TelAgentBench——一个韩语的电信行业 LLM 代理评测基准,考五个维度:推理、规划、行动(工具调用)、检索增强生成、指令跟随。公开的部分里最有含金量的是 Action 子集:757 个测试实例、23 个电信客服 API 函数、10 类子任务,覆盖单函数调用、并行调用、多步调用、多轮对话、缺参数追问等真实客服场景。设计里有个细节非常“运维”:专门设了 118 例 Irrelevance 负测试——用户说的话压根不需要调 API,模型必须忍住不调。客服代理最怕的就是幻觉调用:查错账单、退错套餐,一单事故就是一次舆情。Plan 子集则把 SKT 自家的 baro 漫游套餐放进旅行规划题,让模型按预算、流量需求推荐套餐——考卷直接取材自家业务。

效果也体现在第三方榜单上。τ²-Bench 的 Telecom 域考的是模型在电信客服场景里的多轮对话加工具调用,K2 拿到 98.0,在其模型卡罗列的全部对比模型中排第一;而一年前 K1 在同一基准上只有 58.1。为什么电信公司训的模型在电信代理任务上领先?我的判断是数据闭环:从TelAgentBench 的出题、到客服系统的真实工单分布、再到评测后的迭代,SKT 把这个环完全握在自己手里——这一点,外部模型厂商短期学不来。

基准(thinking模式) A.X K2 Qwen3.5 (397B) GLM-5.1 DeepSeek-V4 Flash Kimi-K2.6
τ²-Bench Telecom 98.0 95.6 97.7 95.0 95.9
KMMLU-Pro(韩语) 80.5 78.4 76.5 78.8 73.4
CLIcK(韩语) 91.6 88.4 88.8 89.6 80.9
AIME26 97.1 92.5 95.4 96.7 95.4
LiveCodeBench v6 84.0 82.6 86.4 89.4 86.5
BrowseComp 9.3 26.9 29.1 16.8 21.5

(数据来自 A.X K2 模型卡,带星号基准由第三方 Artificial Analysis 评测,此处从略)

五、两条路线:自己训,还是抱大腿

把镜头拉远,韩国三大运营商在 AI 上的押注方式差异很有意思。SKT 选了最重的一条路:自建 TITAN 超算、自研数据管线、从零训练,然后把权重按 Apache 2.0 开源——它要的不只是自家客服降本,而是成为韩国“主权 AI”的底座供应商,吃政府、国企、金融这些对数据出境敏感的订单。

老对手 KT 走了另一条路:与微软深度绑定。据韩联社 2024 年报道,KT 将向微软供应 4.5 亿美元的网络基础设施——KT 出机房、出光缆、出网络工程能力,AI 能力借微软生态补齐。这条路轻资产、见效快,但核心引擎在别人手里。

维度 SK Telecom KT
AI 路线 自研自训+开源(A.X 系列) 与微软战略合作
算力底座 自建 TITAN 超算 向微软供应 4.5 亿美元网络基础设施
移动用户 约 2300 万(2023Q4) 约 1350 万(2023Q4)
代表成果 K2:KMMLU-Pro 80.5 / τ²电信代理 98.0 依托微软 AI 生态
开放性 Apache 2.0 开源权重 商业合作绑定

标准允许多种打法,没有唯一正确答案。但有一个区别值得记住:自研路线的门槛是持续的巨额资本开支和人才密度,护城河是数据和场景;合作路线的风险是议价权,收益是现金流压力小。SKT 敢选前者,靠的是 17.95 万亿韩元年营收的现金牛撑腰。

六、工程师的新活:伺候647GiB的权重

对通信行业的工程师来说,这类模型开源之后,真正的新问题是:怎么把它跑起来?K2 的模型卡几乎是写给运维的一份“装机清单”。

首先是显存账。FP8 权重落盘 647GiB,加载后加上 KV cache 和激活值,官方建议按 800GiB 聚合显存起步——验证环境是 4 张 B300(单卡 275GiB),换算成上一代硬件需要 12 张以上 80GB 卡。如果你的 GPU 不支持 FP8,Transformers 会自动退回 bfloat16 加载,那就需要约 1.4TB 内存——这一步能劝退大多数实验机。

其次是软件栈的坑。HuggingFace Transformers 的 axk2 架构在 v5.14.1 之后才合并进主干,当下得装源码版;FP8 推理还要额外装 kernels 包提供块缩放矩阵乘法内核。vLLM 这边,官方目前提供的是 SKT 自己维护的 fork(基于上游 v0.23.0),上游化还在准备中。还有个容易被忽略的细节:Transformers 路径不支持 flash_attention_2,稀疏注意力以稠密掩码方式执行,长上下文必须走 vLLM——把索引器选出的 top-k 位置直接喂给 FlashMLA/FlashInfer 的稀疏内核,稀疏化的收益才兑现得了。

最后是首次启动:最耗时的不是读 647GiB 权重,而是 DeepGEMM 内核预热和 FlashInfer 的 JIT 编译——官方专门提醒把 VLLM_CACHE_ROOT 放到持久盘上。这套经验和电信人熟悉的“割接前预加载、变更留回退”是一脉相承的:新世界的机房活,方法论还是老世界的。

更大的图景是运维技能的迁移方向。TelAgentBench 的 Action 子集测的是“模型对着 API 列表做函数调用”,而这套范式平移到 OSS 就是告警工单代理:对着告警消除、性能查询、参数下发接口做调用,先在负测试上保证“不该动的时候绝不动”,再谈自动化率。电信 AI 代理的落地,考卷已经有人出好了。

七、冷思考:强项与短板

把官方数据摆完,也得把短板摆出来——模型卡自己就承认了几条。

其一,长程智能体能力偏弱。BrowseComp(需要多轮搜索的浏览任务)K2 只拿到 9.3,对比组里 GLM-5.1 是 29.1。官方归因于训练后阶段在智能体强化学习上投入有限。电信客服这类“封闭工具集”任务它很强,但开放式的“自己上网查资料解决问题”还差得远。

其二,纯文本、多语言不均。K2 不支持图像音频视频输入;训练语料按阶段英语占 73% 到 90%,韩语 6% 到 15%,中日西语各约 1%——所谓“主权模型”,主粮仍是英语语料,真正稀缺的自家语言资产是那 1.37 万亿 token 的韩语自有爬取。

其三,市场检验刚刚开始。K2 主模型单月下载 3.7 万次,而 NVFP4 量化版单月 21 万——用户用脚投票选了显存友好的那个版本;放到全球开源市场,这个量级与头部模型仍有数量级差距。还有一点要说破:τ²-Bench Telecom 考的是客服工具调用,不是无线参数优化、不是根因定位——“电信 AI”的考卷目前只出了第一章,网优侧的智能化仍是另一场硬仗。

结语

两年前,“运营商自研大模型”听起来还像表态性口号;现在 A.X K2 把它变成了一个可以下载、可以复现、可以商用的 688B 开源权重。SKT 走通的这条路说明:电信公司手里最值钱的不是频谱,而是机房、电力、光缆、二十年的业务数据,和一支能把 647GiB 权重伺候好的运维队伍。对同行而言,问题只剩一个——下一张电信 AI 考卷,是自己出,还是等别人出。

参考来源

  1. skt/A.X-K2 模型卡(HuggingFace 官方) — K2 架构细节、全部基准数据、部署要求均出自此处
  2. A.X K1 Technical Report(arXiv:2601.09200) — K1 技术报告,519B MoE 设计与 Think-Fusion 配方
  3. skt/A.X-3.1 模型卡(HuggingFace) — 34B 首代开源模型,TITAN 超算训练细节
  4. TelAgentBench 数据集(HuggingFace) — 757 例电信客服函数调用评测集
  5. TelAgentBench 论文(EMNLP 2025 Industry Track) — 电信代理基准的学术出处
  6. A.X K2 Technical Report PDF(GitHub) — K2 完整数据管线与训练配方
  7. SK Telecom - Wikipedia — 用户规模、2025 年 USIM 事件与处罚信息(含韩联社等引用来源)

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入