当所有人都在堆参数，NTT偏要"以小博大"：鼓大模型单卡逼平GPT-5的运营商实战

2025年10月20日，当全球大厂还在为"谁先冲上万亿参数"较劲时，日本最大运营商NTT集团丢出一份反常的成绩单：自研大模型tsuzumi 2（鼓），参数量约300亿（30B）级，仅需单张GPU即可推理，却在日语MT-bench等多个评测维度上得分反超GPT-5。这不是实验室论文，而是一套已经跑进客服中心、电力公司、三甲医院和网络安全一线的商用产品。

在三大运营商大模型（九天、星辰、元景）已被反复讨论的当下，NTT"鼓"代表了一条截然不同的运营商AI路线——不卷参数、卷主权；不堆算力、堆部署密度。这条路线对中国运营商有什么启发？本文用真实部署数据说话。

一、案例背景：为什么运营商必须自己造一个"小模型"

日本企业上大模型，面临三道死结：

第一，电费与算力账单扛不住。 通用千亿参数模型一次训练动辄数百万美元，NTT自己的试算显示：训练一个GPT-3规模模型约需4.7亿日元，这对任何一家企业都是难以反复试错的成本。

第二，数据不敢出域。 日本金融、医疗、电力、政务场景涉及大量个人敏感信息和受监管数据，根本不允许走公有云API（ChatGPT这类）。模型必须能本地化部署。

第三，日语的"暧昧表达"通用模型搞不定。 日语复杂的敬语体系、省略主语、上下文依赖，让英文为主的通用模型在真实业务中频繁翻车。

NTT作为拥有40年自然语言处理研究积累的运营商（其研究所是日本NLP重镇），选择了一条"主权轻量模型"（ソブレンAI）的路：用高质量日语语料，造一个小而精、可私有化、懂日语的模型。2023年11月发布初代tsuzumi，2024年3月商用，2025年10月升级到tsuzumi 2。

二、方案详情：tsuzumi 2的"四轻一重"技术哲学

tsuzumi 2的核心打法可以概括为"四轻一重"：

其关键突破在于：在同参数级别（约30B）中实现世界顶级的日语能力。NTT公布的MT-bench日语评测对比图中，红线（tsuzumi 2）在多个评估轴上压过蓝线（GPT-5）。这意味着——模型不是越大越强，数据质量才是分水岭。

flowchart TB
    subgraph 数据层
        A["日语高质量语料<br/>40年NLP积累"]
        B["行业专有数据<br/>电力/医疗/客服"]
        C["公开论文与法规<br/>持续预训练"]
    end
    subgraph 模型层["tsuzumi 2 约300亿参数"]
        D["全自研预训练<br/>不堆参数重质量"]
        E["LoRA轻量微调<br/>行业特化"]
        F["RAG检索增强<br/>结构化JSON输出"]
    end
    subgraph 部署层["单GPU/单CPU"]
        G["本地化部署<br/>数据不出域"]
        H["闭域云<br/>敏感数据可控"]
        I["Azure托管版<br/>NTTData tsuzumi-7B"]
    end
    subgraph 应用层
        J["ForeSight客服<br/>9.7万席"]
        K["中国电力<br/>电力业务LLM"]
        L["近畿大临床<br/>治验患者抽取"]
        M["NTT Com<br/>网络安全响应"]
    end
    A --> D
    B --> E
    C --> D
    D --> E --> F
    F --> G
    F --> H
    F --> I
    G --> J
    H --> K
    H --> L
    I --> M

三、真实部署案例：四大场景已落地

案例1：客服中心——ForeSight Voice Mining接入9.7万席

2023年11月8日，NTT集团旗下的NTT Techno Cross（NTTテクノクロス）宣布，将tsuzumi集成进其呼叫中心AI解决方案ForeSight Voice Mining（FSVM），用于通话挖掘、应答辅助和业务流程高度化。该产品在金融和通信行业累计部署9.7万席（约97,000个坐席），2024年10月进一步云服务化。典型客户カウネット（Core Net）通过FSVM提升应答率、推进全公司CX战略。

案例2：电力行业——中国电力打造"电力业务特化LLM"

2026年1月26日，中国电力公司（Chugoku Electric Power，注：日本中国地区电力公司）联合NTT Docomo Business，基于tsuzumi 2构建电力业务特化型LLM，1月至3月底开展验证。模型学习了中国电力的业务信息、know-how及法规合规要求，专门处理法令和政府监管对应场景——这是典型的"数据出域受限 + 强合规"场景，正是轻量本地模型的拿手好戏。

案例3：医疗临床——近畿大学病院与中外制药抽治验患者

2026年6月30日，近畿大学病院肿瘤内科、中外制药（Chugai Pharmaceutical）、NTT、NTT Data四方启动共同研究：用医疗特化版tsuzumi 2（持续预训练医学公开论文）从真实世界数据（RWD）中抽取临床试验候选患者。设计上，AI只做前段"筛选 narrowing"，最终判断权仍归医生；同时采用数据统制设计，可处理含敏感信息的医疗数据，对比传统规则法提升抽取精度与流程效率。同期，医学书院联合NTT集团（2026年4月）打造纯国产医疗AI信息平台，强调"依据可追溯"。

案例4：网络安全——NTT Com应对11万安全人才缺口

日本面临约11万名网络安全人才缺口。2024年11月NTT Communications（现NTT Docomo Business）推出基于生成AI的安全运营服务，2026年7月7日进一步推出"Frontier AI"网络风险应对服务，将tsuzumi用于安全告警研判、报告生成和响应编排——把稀缺安全专家的精力从重复劳动中解放出来。

四、效果数据：小模型的经济学账本

训练成本对比（NTT试算，初代tsuzumi）：

换算下来，0.6B版本的训练成本仅为GPT-3级的约1/300，且能在普通CPU上跑——这意味着中小企业、甚至边缘节点都能负担得起自有AI能力。

性能对标（tsuzumi 2 vs GPT-5，日语MT-bench）： 在知识问答、内容解析、指令遵循（格式遵守等）、安全性这四个业务关键基础能力上，tsuzumi 2在多个维度得分超越比它大数倍的GPT-5。

五、横向对比：四大运营商大模型路线图

可以看到，NTT走的是"密度优先"路线：宁可模型小，也要让每一张卡、每一个边缘节点都跑起来；而中韩运营商更多走"规模+生态"路线。两条路没有绝对优劣，取决于国家数据主权压力和企业IT成熟度。

六、对中国运营商的三点启示

第一，"主权AI"是运营商的天然护城河。 NTT把"纯国产、数据不出域"作为第一卖点，精准切中金融医疗政务的合规刚需。国内运营商在政务、央企、医疗等敏感场景，"数据安全可控"同样是大模型落地的硬门槛，轻量私有化部署方案价值被严重低估。

第二，别只盯着千亿基座，垂直小模型是蓝海。 tsuzumi 2用30B在日语上逼平GPT-5，证明高质量领域语料 > 简单堆参数。电力、医疗这类强专业场景，"基座+行业LoRA微调+RAG"的轻量组合，部署成本和迭代速度远优于动用千亿大模型。

第三，运营商的优势在"场景密度"而非"模型规模"。 NTT一个模型能同时打进9.7万席客服、电力公司、三甲医院和网络安全一线，靠的是集团旗下丰富的ToB客户和集成渠道。这恰是国内运营商最不缺的资源——把模型做"够用且好部署"，比把模型做"最大"更赚钱。

结语

NTT"鼓"大模型给行业提了个醒：大模型的终局竞赛，未必是参数的军备竞赛，而可能是"谁的模型能在最多的真实业务节点上低成本跑起来"。当一张显卡就能跑起一个懂业务、懂语言、数据不出域的AI大脑时，运营商作为"场景+渠道"双料玩家的价值，才真正被放大。

参考来源

1. 更なる進化を遂げたNTT版LLM tsuzumi 2の提供開始 — NTT集团官方新闻稿，tsuzumi 2发布与战略说明
2. NTT版大規模言語モデル「tsuzumi 2」｜NTT R&D — NTT研究所技术页，含MT-bench与GPT-5对比图
3. NTT・近畿大学病院・中外製薬 共同研究｜治験候補患者抽出 — 2026年6月医疗临床真实世界数据+tsuzumi 2共同研究
4. ForeSight Voice Miningにtsuzumiを活用｜NTTテクノクロス — 客服中心AI方案接入tsuzumi，9.7万席部署实绩
5. NTT、次世代純国産LLM「tsuzumi 2」発表｜Ledge.ai — 全自研设计、GPT-5级日语能力技术解读

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。