AT&T 是全球规模最大的电信运营商之一，其客服体系每年承接 1500 万通客户呼叫，背后是覆盖数千万移动与固网用户的海量咨询、报障、变更、续约诉求。在这套庞大的人力机器背后，三个长期痛点一直无法用传统 IVR（交互式语音应答）和人工坐席流程根治：
AT&T 首席数据官 Andy Markus 团队的解法不是"换一个大模型"，而是构建一套自驱动的数据飞轮（Data Flywheel）：让智能体在真实业务中持续吸收反馈、自我精调、自我评估。这条主线分两条技术轨道并行落地——一条是面向坐席与员工的生成式智能体 Ask AT&T，另一条是面向呼叫中心运营的小语言模型（SLM）预测与归类。下面逐层拆解。
Ask AT&T 于 2023 年 6 月上线，最早基于 OpenAI ChatGPT，并兼容 Meta LLaMA 2、Falcon 等开源模型，定位为面向 10 万员工的内部生成式生产力平台（据 Business Insider 报道，其正在为 10 万员工"提速生产力"）。它后来演进为一套可对外服务客户的智能体，覆盖账户分析、个性化套餐推荐、软件升级建议、反欺诈辅助等场景。
为解决"贵、慢、漂移"三大问题，AT&T 联合实施方 Quantiphi，采用 NVIDIA AI Enterprise + NIM + NeMo 微服务，搭建数据飞轮：
飞轮的关键在于闭环：智能体上线后的每一次回答、每一条用户反馈，都会回流到 Curator，触发下一轮清洗—精调—评测—部署。AT&T 的下一步规划是引入人评 + LLM-as-Judge 的混合评测体系，让质量裁判本身也持续校准。
在运营层，AT&T 与 H2O.ai 合作，用小语言模型集成（SLM Ensemble）重构呼叫中心的归类与洞察。其做法是把任务拆成可被小模型吃掉的颗粒：从 Llama 抽取 10 类语义特征、从分类器抽取 50 类，组合成一个轻量集成模型，用于实时通话意图打标与根因提取。
这套小模型集成最典型的应用是"装机失约"识别——自动从通话中提炼出"客户已预约但技术人员未上门"这类高价值运营信号，驱动后续工单与赔付流程，而非让质检员逐通听录音。
flowchart TD
A[1500万通/年<br/>真实客服对话] --> B[NeMo Curator<br/>数据清洗去重]
B --> C[NeMo Customizer<br/>微调 Mistral/Mixtral/Llama]
C --> D[选定 Mistral 7B<br/>轻量精调模型]
D --> E[NeMo Evaluator<br/>Rouge/BERT F1 闭环评测]
E -->|不达标回炉| B
E -->|达标发布| F[NeMo Retriever<br/>RAG 检索近万份实时文档]
F --> G[NIM 推理部署<br/>Ask AT&T 智能体]
G --> H[坐席辅助/个性化推荐/反欺诈]
G --> I[反馈日志回流]
I --> B
H --> J[H2O.ai SLM集成<br/>意图打标+失约识别]
J --> K[工单/赔付/运营闭环]
两条轨道都给出了可验证的硬指标。
表1：Ask AT&T + NeMo 生成式飞轮效果（NVIDIA 官方案例）
| 指标 | 改善幅度 | 说明 |
|---|---|---|
| 智能体回答准确率 | 提升最高 40% | 精调后在 Rouge、BERT F1 等关键指标显著提升 |
| 推理延迟 | 显著下降 | 轻量精调模型替代重型通用大模型 |
| 单次推理成本 | 大幅下降 | 维持企业级安全合规前提下压缩成本 |
| 知识时效性 | 实时同步 | RAG 检索近万份每周多次更新的文档 |
| 模型漂移治理 | 持续闭环 | 数据飞轮 + 混合评测（人评+LLM裁判） |
表2：H2O.ai 小模型集成呼叫中心效果（H2O 官方案例）
| 指标 | 数值 | 对比基准 |
|---|---|---|
| 年呼叫量 | 1500 万通 | AT&T 呼叫中心总规模 |
| 集成模型准确率 | 91% | 接近此前的昂贵方案 |
| 成本压缩 | 降至原方案 35% | 其中 Danube 小模型仅占 10% |
| 综合成本节省 | 约 90% | 相对原大模型方案 |
| 推理延迟改善 | 75% | 轻量集成模型带来 |
| 特征工程 | Llama 10 类 + 分类器 50 类 | 颗粒化拆解任务 |
把两张表连起来读，AT&T 的策略意图非常清晰：用飞轮把"准"做上去（+40%），用小模型把"省"做到极致（成本压到原方案 1/3、综合节省约九成）。准度与成本这对长期矛盾，被"精调小模型 + RAG + 自动评测闭环"同时化解。
与传统规则 IVR / 人工坐席对比：规则 IVR 只能处理固定话术树，遇到"我上个月办的套餐怎么这个月多了 12 块"这类开放问题就崩溃；人工坐席则受限于知识更新速度与重复劳动。Ask AT&T 的 RAG 让坐席/智能体始终基于最新文档回答，小模型集成则把人工后处理自动化，两者直接吃掉了重复来电与质检人力。
与"直接上闭源巨型大模型"对比：把 GPT-4 级模型全量塞进千万级实时呼叫，成本与延迟都不可承受。AT&T 选择 Mistral 7B + 小模型集成的轻量路线——用 91% 的准确率逼近重型方案，却把成本压到其 35%、延迟改善 75%。这正是 2025—2026 年运营商客服 AI 的主流转向：不是参数越大越好，而是"够用 + 便宜 + 可自我进化"。
与国内运营商路线对比：中国移动"九天"、中国电信"星辰"等大模型更强调自研基座与行业大模型一体化；AT&T 走的是"开源基座 + 工具链（NeMo/H2O）+ 飞轮"的组合拳，工程重心放在数据治理与评测闭环上，而非单纯卷参数。两种路径殊途同归——都在解决"模型漂移"这一客服场景的命门，AT&T 的可复制性对中等规模运营商更友好。
飞轮的真正壁垒：模型可以换（Mistral、Llama、Mixtral 都试过），文档可以接，但"清洗—精调—评测—部署—回流"这条自动闭环才是 AT&T 沉淀的核心资产。NVIDIA 把它抽象为可复用的 NeMo 微服务栈，意味着这套方法可被其他运营商快速复刻。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。