概述:你上一次打运营商客服电话,对面大概率已经不是“人工坐席”,而是一个大模型驱动的声音。本文回答四个问题:大模型客服到底落地到什么程度、技术架构长什么样、省没省到钱、翻过什么车。解读主轴锚定三个可验证来源:中国移动九天团队2025年10月发布的arXiv论文《JT-Safe》(arXiv:2510.17918)、T-Mobile与OpenAI的IntentCX官方新闻稿,以及2024年2月加拿大航空聊天机器人败诉判例(Moffatt v. Air Canada, 2024 BCCRT 149)。文中所引数据均注明出处,无法确证的明确标注。
在运营商的成本表上,客服是一个尴尬的存在:它不直接产生收入,却常年吃掉巨额人力预算。三大运营商的客服团队常年以万人计(据各自公开资料),7×24小时轮班,逢月底出账日、节假日营销活动、重大网络故障三个节点,话务量就会脉冲式暴涨。干过客服支撑的工程师都懂那种感觉:一场故障,故障工单还没闭环,12345和工信部申诉件先到了。
更麻烦的是传统技术栈的局限。第一代客服是IVR按键菜单,“话费查询请按1”——用户在菜单迷宫里绕三分钟,最后怒按0转人工。第二代是小模型智能客服:意图识别加知识库问答,能处理数百个预设意图,但稍微换个说法就答非所问,“我不想办了怎么取消”识别不出来。两代技术的通病是:意图覆盖率永远追不上用户表达的多样性。
大模型改变了这个前提。开放域理解意味着不再需要为每种问法配置意图,多轮对话意味着用户可以说人话。于是2024年起,全球运营商几乎同步把客服列为大模型落地的第一站。三代技术的差异见下表:
| 维度 | IVR按键菜单 | 小模型智能客服 | 大模型客服 |
|---|---|---|---|
| 意图覆盖 | 预设菜单树 | 数百至上千个标注意图 | 开放域自然语言 |
| 开发模式 | 人工配置流程 | 语料标注+分类模型训练 | 预训练基座+RAG+场景微调 |
| 多轮上下文 | 无 | 弱 | 强 |
| 主要故障模式 | 菜单迷宫、转人工难 | 答非所问 | 幻觉、一本正经地报错价 |
| 单通服务成本 | 极低 | 低 | 中(推理算力成本) |
| 出错后果 | 用户烦躁 | 用户烦躁 | 可能构成错误陈述,有法律责任 |
注意最后一行——这是全篇最关键的一行,后面第五节会展开。
很多人以为运营商的大模型是“外购技术贴牌”,中国移动的九天是个反例。根据百度百科“China Mobile Jiutian Team”条目及九天人工智能平台官网(jiutian.10086.cn)的信息:九天团队最初就是从智能客服领域起步的,技术首先应用于10086客服系统;2017年中国移动正式发布九天人工智能平台;2023年3月,中国移动组建大模型研发团队,随后发布了九天系列基座大模型。
这段履历有意思的地方在于:九天不是先有模型再找场景,而是在10086的真实话务里泡了多年之后,才长出自己的基座模型。客服场景积累的海量真人对话——包含方言、口语、投诉情绪、复杂资费咨询——恰恰是大模型对话能力最稀缺的工业级语料。
2025年10月20日,九天团队在arXiv上发布了论文《JT-Safe: Intrinsically Enhancing the Safety and Trustworthiness of LLMs》(arXiv:2510.17918),这篇论文透露了几个硬核信息:
1.79%听起来不性感,但要看懂这个选题方向:九天团队没有拿“跑分第一”当主攻目标,而是把“安全可信”当主攻目标。为什么?因为客服场景里,模型幻觉不是段子,是法律责任。资费报错一个数,就是一次错误陈述;错误陈述被用户截图留存,就是一份呈堂证供。第五节的判例会证明这一点。
同期,中国电信发布星辰大模型、中国联通发布元景大模型(据公开报道),三家不约而同都把智能客服列为首批落地场景。逻辑很简单:客服是运营商体系内数据最完整、闭环最快、单点试错成本最低的场景。
2024年9月18日,T-Mobile在官网新闻稿宣布与OpenAI达成多年协议,共同构建IntentCX——官方称之为“首个意图驱动的AI决策平台(intent-driven AI decisioning platform)”。据新闻稿及BusinessWire通稿,它的几个关键特征:
这个定位值得注意:IntentCX解决的是“用户带着意图来,AI把事办完”——查账单、改套餐、换套餐纠纷,一气呵成。这是与“问答机器人”的代际差异:对话只是界面,背后是agent对业务系统的操作。
2025年3月3日MWC期间,德国电信(DT)与Perplexity联合发布“AI Phone”计划(TechCrunch报道);2025年8月14日,AI Phone正式上市。据telekom.com官方新闻稿及telecoms.com、RCR Wireless报道:
表面看这是终端新闻,实际是客服战略的延伸:把AI助手装进用户口袋,很多问题在拨通10086/客服热线之前就被消化掉了。最好的客服工单,是根本不需要打的那个。
两种打法对比:
| 主体 | 产品 | 关键节点 | 形态 | 可验证的关键信息 |
|---|---|---|---|---|
| 中国移动 | 九天大模型/客服应用 | 2017平台上线;2023.03组建大模型团队;2025.10发布JT-Safe论文 | 云端自研35B基座+客服场景 | 团队起家于10086智能客服;JT-Safe-35B安全基准较同规模Qwen提升1.79% |
| T-Mobile | IntentCX | 2024.09.18官宣,2025年起实施 | 意图驱动AI决策平台 | 与OpenAI多年协议;实时接入客户数据与内部系统;部分场景自动化交互 |
| 德国电信 | AI Phone(T Phone 3) | 2025.03发布;2025.08.14上市 | 端侧AI助手终端 | 149欧元起,10个欧洲市场,Perplexity Assistant系统级内置 |
| 加拿大航空 | 官网客服机器人 | 2024.02被判担责 | 传统聊天机器人 | 虚假陈述成立,航司为机器人言论负责(判例) |
timeline
title 大模型客服商用大事记
2017 : 中国移动发布九天人工智能平台
2023-03 : 中国移动组建大模型研发团队
2024-02 : 加拿大航空聊天机器人被判担责
2024-09 : T-Mobile官宣IntentCX
2025-03 : 德国电信MWC发布AI Phone计划
2025-08 : AI Phone登陆欧洲10国市场
2025-10 : 九天团队发布JT-Safe论文
抛开各家的宣传词,一个生产级的大模型客服系统,工程骨架大同小异。以10086语音场景为例:
flowchart TD
A["用户来电或在线咨询"] --> B["ASR语音识别"]
B --> C["大模型意图理解与情绪识别"]
C --> D["意图分级路由"]
D -->|高频简单咨询| E["RAG检索资费知识库"]
D -->|业务办理类| F["计费与工单系统接口"]
D -->|投诉与高风险| G["直接转人工坐席"]
E --> H["大模型生成答复"]
F --> H
H --> I["合规与幻觉护栏"]
I -->|通过| J["TTS语音合成播报"]
I -->|命中禁答或存疑| G
J --> A
G --> K["人工处置并回写语料"]
几个环节值得展开:
ASR是第一道生死关。 中文客服场景里,方言、背景噪声、“我那个流量它就偷跑”这类口语表达,识别错一个关键词,后面全错。这也是为什么自有话务语料宝贵的缘故——用户允许挂断重拨的耐心只有一次。
意图分级路由是省钱的关键。 不是所有话务都值得动用大模型:余额查询走传统接口可能几毫秒返回,没必要烧token;只有开放域咨询才进大模型;而投诉、涉诉、大额争议类,直接路由给人工——既控制风险,也符合监管对投诉处理的要求。工程上这叫“分级打发”,设计得好,推理成本能降一个量级。
RAG知识库是真正的命门。 资费文档月月更新、营销活动政策碎片化、各省套餐规则不同——大模型客服项目失败的第一原因从来不是模型不够强,而是知识库陈旧。行业里常见的做法是把知识库更新频率与资费发布流程绑定,资费上线当日知识库必须同步生效,并把这一条写进割接清单。
护栏(Guardrails)是对付幻觉的最后防线。 典型策略:所有涉及价格、时限、流量数字的回答,必须来自检索结果或计费接口返回值,模型只做组织语言,不允许“生成式报价”;命中禁答清单(如夸大宣传用语)直接拦截转人工。九天团队发JT-Safe、加拿大航空吃官司,指向的都是这一层。
人工兜底回写语料形成飞轮。 坐席处理的每一通复杂对话,清洗脱敏后就是最好的微调数据。九天团队“从10086起家”的路径,本质就是这个飞轮转了很多年的结果。
标准与实现层面需要说明:语音入口、RAG、护栏等环节业界存在多种技术选型与实现路线,本文不展开具体厂商方案差异,具体行为以各厂家官方文档为准。
2024年2月,加拿大不列颠哥伦比亚省民事仲裁庭(BC Civil Resolution Tribunal)公布了对Moffatt v. Air Canada(案号2024 BCCRT 149)的裁决。据CBC、BBC及McCarthy Tétrault律所案例分析,事件经过大致如下:
这个判例对通信行业的杀伤力在于场景映射几乎是无缝的:运营商客服报出的资费,在用户眼里就是官方承诺。大模型幻觉加客服话术,等于法律风险敞口。一个幻觉把“超出后5元/GB”说成“超出后免费”,截图留存、投诉升级、监管申诉,一整套流程等着。
反过来再看九天团队为什么把“安全可信”写进论文标题、为什么用DWC方法给预训练数据补真实世界上下文——学术论文与司法判例在这里形成了互证:幻觉治理不是技术洁癖,是商用客服大模型的准入门槛。这也是为什么生产系统里,“生成式报价”必须被护栏拦下,价格数字只允许来自检索和接口。
写到这里必须泼一盆冷水:这个领域公开可验证的效果数据,远比宣传稿少。截至目前:
数据不透明本身就是一个行业信号:要么效果还没好到敢公开,要么考核口径还没统一到可公开。从工程视角看,客服大模型的省钱公式其实很朴素:
年化节省 ≈ 话务总量 × AI拦截率 × 单通人工成本 − 推理成本 − 幻觉引发的二次投诉处理成本
前三项各家公司都在算,最后一项经常被漏算。一通AI错误承诺引发的申诉件,处理成本可能是普通工单的数倍,还附带监管考核风险。加拿大航空那650加元赔偿是小事,全球范围的负面传播是大事。所以理性的商用策略是灰度推进:先让AI做坐席的copilot(辅助推荐话术、自动填单),拦截率和准确率稳定后再放开自动应答,最后才谈端到端自动办理(IntentCX路线)。
结合上述案例,给正在或即将参与客服大模型项目的工程师几条实操建议:
复盘2024至2025这一轮商用潮,客服成为AI与通信结合的第一落点并非偶然:数据闭环完整、试错成本可控、ROI直接,而且用户“骂客服”的容忍度天然高于“骂网络”。九天团队从10086话务里长出35B基座并直攻安全可信,T-Mobile用IntentCX把“聊天”推进到“办成事”,德国电信干脆把AI塞进149欧元的手机里让问题消失在电话之前——三条路线,同一个判断:运营商与用户之间每一次交互,都值得重做一遍。
对工程师而言,真正值得盯的不是某次发布会,而是两个尚未兑现的悬念:IntentCX们2026年是否敢公布真实的端到端解决率;JT-Safe这类安全基座,何时从论文基准走进生产网关。这两个数字出现之日,才是大模型客服交出真正成绩单之时。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
