# AI客服上岗记：说错话谁买单 > **概述**：2024年2月14日，加拿大不列颠哥伦比亚民事仲裁庭一纸裁决确认：官网聊天机器人说错的话，就是公司的正式承诺——加拿大航空为此赔了812.02加元，并留下编号2024 BCCRT 149的判例。本文以这个判例为轴，复盘Telstra、德国电信、T-Mobile US、中国移动等运营商大模型客服的实战账本：谁在省钱、省了多少、翻过哪些车、护栏怎么搭，以及2026年“代理式客服”的新一轮下注。 ## 目录 - 一、812加元买来的判例 - 二、客服，大模型的天选车间 - 三、运营商实战账本 - 四、翻车合集：幻觉的代价 - 五、护栏工程：一线怎么防 - 六、2026：从答话到办事 - 七、经验教训清单 - 参考来源 ## 一、812加元买来的判例 先讲一个不是运营商的故事，但全世界的客服AI团队都该把它贴在工位上。 2022年11月，加拿大居民Jake Moffatt要赶去参加葬礼，在加拿大航空官网上订温哥华飞多伦多的机票。葬礼机票（bereavement fare）有优惠价，但官网说明写得含糊，他顺手问了页面上的聊天机器人。机器人明确告诉他：现在按全价买，之后可以走丧葬票价追溯退款，90天内提交材料就行。他照办了，全价一千多加元买了票。 葬礼办完，退款申请被拒。加航的答复是：丧葬票价优惠必须在**出行前**申请，事后不补。Moffatt把官网机器人那段对话截图甩了出来，加航的应对堪称年度迷惑行为大赏——先说网站底部有免责声明（“机器人信息不构成承诺”），被仲裁员追问后，律师又抛出一句后来被全球媒体反复引用的辩词：聊天机器人是公司网页上的一个独立法律实体，它说的话不代表公司。 2024年2月14日，不列颠哥伦比亚民事仲裁庭（BC Civil Resolution Tribunal）裁决成员Christopher Rivers把这句话按在地上摩擦：你放出来的机器人，就是你公司的代言人，它说的话就是你的承诺。裁决加航赔偿Moffatt 812.02加元，外加利息和仲裁费用。这就是判例**Moffatt v. Air Canada, 2024 BCCRT 149**——812加元不多，但它买到的东西很贵：**客服AI的输出，法律上等于公司自己的意思表示**。 ```mermaid timeline title Moffatt诉加拿大航空案时间线 2022年11月 : 官网机器人承诺丧葬票价可追溯退款 : Moffatt按全价购票 2022年12月 : 退款申请被拒 : 官方口径须出行前申请 2023年 : 向BC民事仲裁庭申诉 : 加航辩称机器人是独立法律实体 2024年2月 : 仲裁庭裁决加航败诉 : 赔偿812.02加元并支付费用 ``` 作为在核心网和IT系统之间摸了十八年的人，我对这个案子的理解很朴素：运营商把一个语言模型接到客户面前的那一刻，就等于让一个天才但偶尔说胡话的实习生，代替公司做出口头承诺——而且没有监听。接下来我们看看，电信行业这两三年到底是怎么把这个“实习生”用起来的。 ## 二、客服，大模型的天选车间 运营商为什么把大模型落地的第一站押在客服？不是巧合，是业务结构决定的。我拆成三笔账： **第一笔：话务量账。** 一张覆盖上亿用户的移动网络，10086/10010/1860级别的客服热线，年接听量是数亿次的量级。其中大量问题是高度重复的：话费查询、套餐资费解释、流量提醒、宽带重启、SIM卡激活。这类问题答案唯一、表述标准化，恰好落在RAG（检索增强生成）+大模型的甜区里。 **第二笔：人力账。** 客服中心是运营商体系里人力最密集、流动率最高的单位之一。新人培训要背几万条资费规则和话术，熟练周期以月计。大模型进入后，坐席辅助（坐席边听边出答案）、通话摘要（自动生成工单记录）这类场景不需要“替代人”，只需要“帮人省时间”，风险低、见效快，是天然的试点区。 **第三笔：知识库账。** 这是最容易被外人忽略的一笔。运营商客服的知识库本身就是结构化的——资费系统、计费账单、工单历史、故障通告，全都是现成的语料。换句话说，电信客服天生就有高质量RAG数据源，这在很多行业是不可复制的优势。Gartner在2022年就预测，到2026年对话式AI将为全球呼叫中心削减约800亿美元的人力成本——运营商正是这个数字里占比最大的行业之一。 所以当ChatGPT在2022年底引爆之后，运营商的客服部门不是“要不要用大模型”的问题，而是“用谁的模型、先上哪个场景”的问题。 ## 三、运营商实战账本 过去两年，各家交出的答卷差异很大。我按公开口径整理了一张表——注意，效果数据全部来自各厂商官方发布或媒体报道的口径，内部真实水平以各家自己的审计为准： | 运营商/产品 | 上线时间 | 技术底座 | 公开效果口径 | 一句话点评 | |---|---|---|---|---| | Telstra「Ask Telstra」+智能摘要 | 2024年 | 微软Azure OpenAI，双方联合发布案例 | 据微软官方案例与澳媒报道，员工每月约节省一个工作日工时，客服回访电话量显著下降 | 全司推广的标杆，先做坐席辅助而非直面客户 | | 德国电信「Frag Magenta」 | 2023年5月 | 自研团队+开源大模型路线 | 据官方披露，面向德国固网宽带用户，累计处理数十万级对话 | 欧洲自研路线代表，敢于不绑美国巨头 | | T-Mobile US「IntentCX」 | 2024年9月发布 | 与OpenAI深度合作定制 | 据发布会口径，意图直达后端流程，2025年起分批推广 | 从“答话”走向“办事”的激进派 | | 中国移动「九天」大模型客服 | 2024年 | 自研九天基座大模型 | 官方发布基座并宣布客服场景落地，完整运营数据未公开 | 自研基座+海量客服场景，数据待披露 | | Vodafone「TOBi」（参照系） | 2018年 | 前大模型时代的规则+传统NLU | 据运营商历年披露，长期承担相当比例的首触自助咨询 | 传统机器人的天花板，也是大模型的起点线 | 几个值得展开的细节： **Telstra是“先辅助后替代”的教科书。** 澳洲电信没有一上来就让机器人直面客户，而是先给内部员工配了两个工具：一个叫Ask Telstra的问答助手，一个叫Summarize的通话自动摘要。据微软与Telstra联合发布的官方案例，这套东西铺开之后，员工反馈相当于每月省出一个工作日的工时，而通话摘要让本来要打的回访确认电话大幅减少——回访电话少了，等于变相降低了话务量。这个次序选择很老练：让AI先在内部替人干活，出错了有人兜底，等流程和评测都磨顺了，再谈直面客户。 **德国电信Frag Magenta走的是另一条路：不买美国的账。** 它由DT自己的AI团队开发，底座用开源大模型，2023年5月先向德国宽带用户开放，答账单、路由器设置、故障申报这类问题。据DT官方披露，上线后处理了数十万次对话。对欧洲运营商来说，这不只是技术选型，更是数据主权姿态——客户对话数据不出自己的栈。 **T-Mobile US最激进。** 2024年5月T-Mobile宣布与OpenAI达成合作，9月的资本市场日上拿出IntentCX：不是检索一个答案，而是把客户意图直接翻译成后端流程动作——改套餐、查账单、办业务，模型驱动系统直接执行。据发布会口径，这套体系2025年起分批推开。这是把大模型从“知识层”塞进“交易层”，胆子大，也意味着出错面从“说错话”升级到“办错事”——后面护栏那节我们细说。 **国内三大运营商选择了自研基座。** 中国移动2024年发布“九天”基座大模型，客服是最先宣布落地的场景之一，用在智能问答和坐席辅助；中国电信的星辰大模型、中国联通的元景大模型也是类似打法。自研路线的成本更高，但账算得过来：数亿次的年话务量摊下来，模型私有化的合规成本反而是小头。 ## 四、翻车合集：幻觉的代价 账本好看，翻车也要看。除了开头的加航判例，2024年还有两个样本值得所有客服AI团队抄进风险清单。 **纽约市政府MyCity聊天机器人。** 2024年3月，非营利媒体The Markup调查发现，纽约市为中小企业部署的官方AI助手（微软技术支持）在回答劳动法规时大量胡说：告诉雇主可以从员工小费里抽成、雇主可以书面拒绝员工投诉不安全工作条件、孕妇员工的合理便利要求可以被拒——这些在纽约市法律下全部违法。更讽刺的是，这个机器人官方定位是“帮助企业遵守法规”。市政府的回应是“会继续调优”。这个案例的要害在于：**它挂在官网上，用户天然信任，幻觉直接变成错误行为的授权书。** 和加航案一起看，结论一致——部署主体的权威性越高，幻觉的杀伤力越大。 **韩国SK电讯的个人AI助理「A.」停服。** 据韩媒报道，SKT的A.（A dot）在2024年宣布停止服务。这是头部运营商AI助理产品里最早公开退场的一个，原因据报道与用户活跃不及预期有关。它提醒我们另一件事：AI客服项目的风险不只是说错话，还有**没人用**。大模型把回答质量抬上来了，但如果入口没打进用户高频路径，再聪明的助手也会死在冷启动。 把这几起案例和我在一线看过的AI客服项目汇总一下，翻车模式基本就四类： 1. **幻觉型**：模型自由发挥资费数字、政策条款——加航案、纽约案都属于这类，后果最重； 2. **过期型**：知识库没跟上演进，新资费生效了机器人还在报旧价，答得流利但全错； 3. **越权型**：模型“好心”承诺退款、赔偿、违约金减免，话说出去业务系统根本没法兑现； 4. **冷场型**：不胡说也不出错，就是用户问三句就答非所问，最后无人问津，变成摆设。 前两类是技术问题，第三类是流程问题，第四类是产品问题。护栏工程要同时治这四种病。 ## 五、护栏工程：一线怎么防 讲点实操。一个达到生产可用标准的运营商大模型客服系统，防线应该是分层的。我把典型的架构画出来： ```mermaid flowchart TD A[用户来电或消息] --> B[ASR语音转写] B --> C{意图识别} C -->|资费查询等低风险| D[RAG检索官方知识库] C -->|销户投诉等高风险| E[直转人工坐席] D --> F[受约束生成答案] F --> G{置信度门槛} G -->|达标| H[TTS合成播报] G -->|不达标| E H --> I[全量对话审计] E --> J[人工处理闭环] I --> K[坏例回流评测集] K --> D ``` 对照这张图，逐层说要点： **第一层：意图路由，先分险再放行。** 不是所有问题都值得让大模型开口。查话费这类，直接走结构化接口回填，模型只负责组织语言；销户、投诉、赔偿、携号转网这类高危意图，检测到就直接转人工——这不是AI能力问题，是业务授权问题。行业内成熟的做法是维护一张高危意图清单，由业务部门而不是算法团队定义。 **第二层：RAG只读官方知识库，检索不到就承认查不到。** 大模型客服的第一铁律：**资费数字不允许从模型参数里来，只允许从结构化字段注入**。套餐多少钱、折扣怎么算，一律从计费系统或权威知识库检索出结构化结果，模板回填。模型负责“说人话”，不负责“记数字”。检索不到，就老老实实答“这个问题我需要人工帮您确认”——这比编一个像模像样的答案体面一万倍。 **第三层：置信度门槛+承诺词黑名单。** 生成侧挂两道闸：一，置信度低于阈值的答案自动降级转人工；二，退款、赔偿、全额、保证这类的承诺性表述进黑名单，命中即拦截改写或转人工。这套东西实现不复杂，难在黑名单要随业务演进持续维护。 **第四层：全量审计+坏例回流。** 每一句AI回答都要能溯源到知识库条目和模型版本，出问题能复盘到句级。更进一步，把线上抓到的每个坏例自动进评测集——好的客服AI团队和差的团队，差别往往就在有没有一个持续生长的幻觉评测集，上线前像跑单元测试一样跑话术回归。 **第五层：知识库治理，电信特色的“知识割接”。** 资费变更是有生效时间点的，知识库的版本切换必须和资费生效时间对齐——我在一线多年，深知运营商系统里“割接窗口”的概念刻在骨子里。知识库上线也要按割接管理：预发布、灰度、生效、回滚预案，一个都不能少。过期型翻车，根子都是把知识库当静态文档而不是当生产系统。 一句话总结这套防线的设计哲学：**让大模型只做它可靠的事（理解意图、组织语言），把它不可靠的事（记住数字、做出承诺、执行操作）全部关进结构化的笼子里。** 标准允许多种实现，具体组件选型以各厂家官方文档为准，但这五层防线的职责划分，是行业已经收敛的共识。 ## 六、2026：从答话到办事 站在2026年9月往回看，大模型客服正在过第二道坎：**从“检索式”走向“代理式”（Agentic）**。 第一代大模型客服的本质是“更聪明的FAQ”：检索、生成、播报，闭环在对话里。第二代正在打开交易闭环——T-Mobile US的IntentCX是代表，模型理解意图之后直接驱动后端业务流程执行，改套餐、办业务不需要人工坐席中转。支撑这一代的是实时语音大模型的成熟：端到端语音对话延迟压到对话级自然响应，AI先接、人工兜底成了呼叫中心的新默认架构。话务代表的岗位定义正在改变——从“接电话的人”变成“监工”：听AI的回答、处理AI降级的会话、维护AI的知识库。据多家行业媒体的观察，头部运营商2025到2026年的呼叫中心改造招标里，“AI优先路由”已经从可选项变成了默认项。 这条路线的商业逻辑很硬：客服从成本中心变成经营入口。AI既然能理解每一个来电的意图，就能在服务里嵌挽留、嵌推荐、嵌营销——接一通取消套餐的电话，AI顺手给出基于用户画像的保留方案。这也是为什么运营商愿意在这件事上持续砸钱。 但加航判例在代理式时代会变得更锋利。第一代AI说错话，公司赔的是“说了不该说的”；第二代AI办错事，赔的就是“办了不该办的”——从话术责任升级成交易责任。我判断接下来两年会出现第一批“AI办错业务”的消费者诉讼和监管口径，客服AI的每一次交易动作都要有可回滚的操作日志和人工确认闸门，这会成为监管审查的基本要求。换句话说：**答话要护栏，办事要刹车。** ## 七、经验教训清单 最后，把这篇文章的干货压成七条，给正在或即将做客服AI的同行： 1. **机器人说的话=公司说的话。** 2024 BCCRT 149已经把这条路趟出来了，免责声明救不了你，别指望法务条款对抗判例。 2. **资费数字只进不出。** 数字从结构化字段注入，模型不许自己算钱，这是防幻觉最有效的一招，没有之一。 3. **高危场景必须人工闸门。** 销户、投诉、赔偿、销账类操作，意图识别命中即转人工，由业务部门而不是算法团队定义高危清单。 4. **知识库按生产系统管理。** 版本、灰度、回滚、与资费生效时间对齐——把知识库当割接对象，不当作文档。 5. **评测集是护栏的地基。** 坏例回流、上线前跑话术回归，评测集的生长速度决定系统的可靠度上限。 6. **先辅助后替代。** 从坐席辅助和通话摘要起步，出错了有人兜底，流程磨顺了再直面客户，Telstra的次序值得抄。 7. **没人用比说错话更致命。** SKT「A.」的退场说明AI客服首先是产品，入口不打进用户高频路径，技术再好也是摆设。 812加元买来的道理，说穿了就一句：你在客服口子放出去的每一个字，都是公司的承诺。大模型让承诺更流利了，但承诺的分量，一点没变轻。 ## 参考来源 1. [Moffatt v. Air Canada, 2024 BCCRT 149（不列颠哥伦比亚民事仲裁庭裁决）](https://www.bccrt.ca) — 按"2024 BCCRT 149"可检索裁决原文，确立“聊天机器人陈述即公司承诺”的判例，判赔812.02加元 2. [Microsoft Customer Stories：Telstra with Azure OpenAI](https://customers.microsoft.com) — Telstra大模型坐席辅助与通话摘要的官方案例，含工时节省与回访电话下降的公开口径 3. [The Markup：NYC's AI Chatbot Tells Businesses to Break the Law（2024年3月）](https://www.themarkup.org) — 纽约市官方商用聊天机器人答错劳动法规的调查报道 4. [Deutsche Telekom 官方新闻室：Frag Magenta](https://www.telekom.com) — Frag Magenta自研大模型客服的上线信息与运营口径（2023年5月上线、开源底座路线） 5. [Gartner：Conversational AI to Reduce Contact Center Agent Labor Costs by $80 Billion（2022年预测）](https://www.gartner.com) — 对话式AI到2026年为呼叫中心削减约800亿美元人力成本的行业预测 --- > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 > 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。