# Orange把大模型关进自家机房：29万员工的私有化AI实验 ## 概述 2023年前后，全球电信员工都在偷偷往ChatGPT里粘贴工单、代码和客户资料，运营商CIO们的应对大多是“一禁了之”。法国Orange选择相反的路：2024年3月正式发布集团级生成式AI助手Live Intelligence，基于微软Azure OpenAI构建，但部署在Orange自己掌控的受控环境中，向集团约29万员工开放，之后又接入Mistral等模型走向“模型货架”路线。本文回答三个问题：运营商为什么不能直接用公网大模型？Orange的私有化架构到底“私”在哪里？两年跑下来，哪些场景真有效、哪些坑绕不开？本文主体依据Orange官方新闻稿与公开披露，部分使用数据为媒体报道口径，文中均已注明。 ## 目录 - 一、一份让CIO失眠的统计：禁令挡不住员工 - 二、Live Intelligence是什么：不是套壳，是圈地 - 三、架构拆解：数据到底被关在了哪里 - 四、第一年跑通了什么：四个真场景 - 五、从“一个模型”到“模型货架”：主权打法 - 六、同行对照：欧洲三大运营商的三条路 - 七、给国内同行的四条可抄作业 - 八、结论 ## 一、一份让CIO失眠的统计：禁令挡不住员工 先讲一个业内都知道的案例。2023年3月至4月，据路透社等媒体报道，三星半导体部门连续曝出三起员工把敏感信息粘贴进ChatGPT的事件——包括芯片良率测试记录、设备修复代码和内部会议纪要，因为这些内容随对话进入了外部服务器，三星在2023年5月干脆全面禁用了公司设备上的生成式AI服务。禁令发出之后呢？员工转向个人电脑和私人账号继续用，企业连审计的余地都没有了。 这个故事在电信行业有个更扎心的版本。运营商手里的数据，恰好是公网大模型最不该碰的三类东西的交集： - **用户个人数据**：姓名、地址、通话记录、话费账单，全在客服工单和CRM系统里。在GDPR框架下，一次严重的个人数据外泄，罚款上限是全球营业额的4%——对Orange这种年收入四百多亿欧元的集团，上限是十几亿欧元的量级； - **网络敏感数据**：网元拓扑、IP规划、割接方案、安全策略。这些内容喂给外部模型，等于把家底图纸上交给一个黑盒，2023年以来“盐台风”这类电信网络定向攻击被陆续曝光后（本栏目此前写过），运营商对网络信息外流的警惕已经提到国家安全层面； - **合规新枷锁**：欧盟《人工智能法案》（AI Act）于2024年8月1日生效，对部署在欧盟境内的AI系统提出了透明度、数据治理和风险管理要求，电信运营商作为受监管的“关键基础设施运营者”，没有任何“先用再补”的缓冲期。 一边是员工的生产力刚需——写邮件、总结会议、查规程、写代码，这些活大模型确实快得多；一边是数据一旦出门就再也收不回来。2023年下半年，全球大企业在这个矛盾面前的主流姿势是“封域名+发红线守则”，Orange内部同样经历过大面积管控。但Orange管理层算的是另一笔账：一家29万人的公司，如果每个员工每周靠AI省出半小时，一年就是数百万个工时，这笔账不可能靠“永久禁止”来销账。 解法只有一个：把大模型的能力引进来，把数据的门守住。这就是Live Intelligence的出发点。 ## 二、Live Intelligence是什么：不是套壳，是圈地 2024年3月，Orange官方宣布推出Live Intelligence，定位是面向全体员工的“受控生成式AI助手”。把官方披露和后续媒体报道合起来看，它有三个决定性特征： **第一，模型是别人的，地盘是自己的。**Live Intelligence底层最初采用微软Azure OpenAI服务（GPT-4系列模型），但Orange反复强调的关键词是“受控环境”：推理运行在Orange掌控的专用Azure租户与指定区域（法国境内），Orange与微软之间有合同约定——用户输入与输出不会被用于模型训练，不与公网ChatGPT共享基础设施。用Orange高管的公开说法，这是“既要大模型的能力，又不放弃数据主权”的方案。 **第二，规模是集团级的。**Orange集团雇员约29万人，横跨法国、西班牙（后拆分的MasOrange合资公司）、非洲中东、东欧等多个市场。Live Intelligence的目标用户不是研发部门的一小撮人，而是全体员工——从客服坐席到网络工程师再到财务。这在当时的欧洲电信业是最大手笔的集团级部署之一。 **第三，它长在Orange自己的门户里。**员工通过集团内网入口访问，统一身份认证，后台有使用审计。它不是发给员工一堆API key，也不是让大家在手机上装个App，而是一个完整的“企业AI工作台”：对话之外，还有面向具体业务场景的助手入口。 一句话概括：Live Intelligence不是“又一个套壳ChatGPT”，而是一次圈地——把生成式AI的使用行为，从员工的浏览器里，圈进企业可控、可审计、可追责的边界内。 | 对比维度 | 员工直接用公网ChatGPT | Orange Live Intelligence | |---|---|---| | 数据去向 | 公网平台，训练用途不受企业控制 | 受控租户，合同约定不用于训练 | | 部署区域 | 全球任一数据中心 | 指定区域（法国境内） | | 身份与审计 | 无企业级审计 | 统一SSO+使用留痕 | | 合规责任 | 员工个人行为，风险不可控 | 企业统一合规框架（GDPR/AI Act） | | 模型能力 | 最新模型即时可用 | 模型版本由企业统一管理 | | 成本归属 | 隐性（员工自费/泄漏成本） | 显性（企业订阅，可度量ROI） | ## 三、架构拆解：数据到底被关在了哪里 很多读者会问：用了Azure OpenAI，数据不还是出了Orange的大门吗？这个问题问到点子上了，也正是这套架构最值得拆解的地方。把Orange公开披露的信息和技术逻辑拼起来，Live Intelligence的数据路径大致如下： ```mermaid flowchart TD A["员工终端
内网门户访问"] --> B["统一身份认证
SSO与权限分级"] B --> C["Live Intelligence
对话与助手入口"] C --> D["输入过滤层
敏感信息识别"] D --> E["Orange受控Azure租户
法国区域专用容量"] E --> F["模型层路由"] F --> G["GPT系列
Azure OpenAI"] F --> H["Mistral系列
后续接入"] F --> I["Orange自研模型
基于开源微调"] G --> J["输出审查与留痕
会话审计日志"] H --> J I --> J J --> A E -.合同约束.-> K["不用于模型训练
不与公网共享"] ``` 这张图里有四个关卡，缺一不可： **关卡一：进门查身份。**所有访问必须走集团统一身份认证，不同岗位能看到的功能和数据范围不同。客服员工用对话摘要助手，网络工程师用文档问答助手，各自调用不同的后端能力，权限边界在企业侧定义，而不是靠员工自觉。 **关卡二：出门前过滤。**在输入进入模型推理之前，企业侧可以做敏感信息识别与脱敏——手机号、身份证号、卡号这类高价值个人信息，能在前置层被识别处理。这一层是很多“直接用公网AI”方案完全不具备的。 **关卡三：地盘租下来，规矩写进合同。**这是整个方案里最容易被忽视、也最能体现“主权”二字的环节。Azure OpenAI企业服务的关键承诺是：企业数据静态存储在租户指定区域、不用于训练OpenAI模型、不流向公网ChatGPT。对Orange来说，再叠加法国区域部署和欧盟法律管辖，数据虽然物理上出了Orange机房，但法律和技术上的控制权没有丢。标准允许多种实现，各家在“私有化”程度上选择不同深度——从“专用租户+区域锁定”到完全自建开源模型推理集群，是一个连续光谱，具体取舍以各企业合规评估为准。 **关卡四：全过程留痕。**会话内容、模型调用、异常输入都会形成审计日志。这不仅是事后追责的依据，更是欧盟AI Act合规要求的组成部分——企业必须能证明自己的AI系统“在受控状态下运行”。 需要如实说明边界：Orange并未公开完整的架构蓝图，上述第三、第四关卡的工程细节是根据Orange官方声明和行业通行做法的合理还原，属于作者分析而非官方文档原文。 ## 四、第一年跑通了什么：四个真场景 部署一个全集团AI助手不难，难的是让29万人真的用它。从Orange披露和媒体报道看，第一年真正跑出使用惯性的，是下面四个场景： **场景一：日常写作与翻译。**邮件润色、会议纪要、报告初稿，这是渗透率最高的场景，也是所有企业AI助手共同的基本盘。Orange是多国运营集团（法语、西班牙语、英语、阿拉伯语区并存），跨语言写作需求天然旺盛，翻译和外语邮件代写是员工反馈最直接的功能。 **场景二：客服对话摘要。**客服是电信业人力最密集的环节。通话或在线对话结束后，坐席原本要手工录入工单摘要；Live Intelligence的摘要能力把这一步压缩成秒级自动生成。这类场景的价值不难估算——Orange客服团队规模以万计，每通电话省下一两分钟，全年就是可观的工时回流。值得一提的是，客服侧的生成式AI摘要与本栏目此前写过的“AI接线员”（AI直接应答客户）是两条不同路线：前者是AI给员工打下手，风险低、上线快；后者是AI直面客户，效果好但翻车成本高。Orange第一年明显把重注押在前者。 **场景三：IT与网络代码辅助。**开发团队的代码生成、脚本编写、老代码解读。电信运营商内部维护着海量脚本和工单系统定制代码，代码辅助是研发员工黏性最高的功能。当然，AI生成代码的审查流程同步收紧——生成的代码同样要过代码评审，这一点Orange没有例外。 **场景四：内部知识问答。**企业规程、HR政策、IT自助服务的问答助手。这一场景的难点不在模型而在知识库：文档时效性、权限分级、答案溯源。据行业通行经验，知识问答是企业AI助手里“预期最高、上线最慢”的场景，Orange的推进节奏也体现了这一点——先上通用对话，再逐步挂接结构化知识库。 使用规模的公开数据比较有限。据Orange披露的口径，上线初期活跃用户达到数万量级并在持续爬坡；具体的部门渗透率、人均使用频次、效率提升百分比，Orange至今没有给出系统的量化报告——这一点必须如实告诉读者：**目前没有独立第三方验证的ROI数字，“29万人都能用”是部署事实，“省了多少人天”仍是企业内部账**。 ## 五、从“一个模型”到“模型货架”：主权打法 如果说2024年的第一代Live Intelligence解决的是“能不能用”，那2025年以来的演进解决的是另一个更尖锐的问题：**能不能不把命运绑在一家美国模型厂商身上？** 这里要补一段Orange的底子。很多人不知道，Orange在大模型上并非纯采购方——2023年，Orange与资本方联合训练并开源了电信行业第一批专用LLM之一：基于Llama 2微调、面向客户服务与网络运营场景的模型，权重放在Hugging Face上公开下载。当时业界把这视为“电信运营商第一次正式下场做模型”的标志事件。虽然这个开源模型的能力无法与GPT-4正面竞争，但它给Orange留下了两样东西：一套电信语料的微调流水线，和一支真正调过模型的内部团队。 有了这个底子，Orange的多模型路线走得顺理成章。2024年至2025年，Orange公开释放的信号非常一致： - **欧洲模型进货架**：Orange与法国AI公司Mistral AI的合作被多次公开提及——作为“欧洲主权AI”叙事的旗帜组合，把Mistral系列模型纳入Live Intelligence的可选模型，既呼应法国政府和欧盟的数字主权政策，也是实打实的供应链备胎； - **OpenAI依赖降级为“选项之一”**：GPT系列从“唯一底座”变成“货架上的高端选项”，企业侧按场景路由——通用创作用这一家，涉敏摘要用另一家，内部知识问答用微调过的自家模型； - **自研能力保底**：基于开源模型继续迭代自有微调版本，保证极端情况下（许可变更、地缘政治、价格翻倍）业务不中断。 这个打法值得画一张演进表： | 阶段 | 时间 | 模型策略 | 部署要点 | 战略意图 | |---|---|---|---|---| | 第一代 | 2024年3月起 | Azure OpenAI单底座 | 受控租户，法国区域，禁止训练用途 | 快速合规上线，先圈住使用行为 | | 第二代 | 2025年起 | OpenAI+Mistral多模型路由 | 统一网关按场景调度，审计全覆盖 | 摆脱单供应商锁定，呼应主权AI | | 第三代 | 演进中 | 开源模型+自研微调保底 | 私有推理能力建设，电信语料持续积累 | 极端场景下的供应链安全垫 | 需要说明的是，第三代尚在演进过程中，Orange官方没有给出完全自建推理集群的时间表，上表第三列是根据其开源动作和公开表态的合理外推，属于作者判断。 这套“模型货架”策略的行业含义，比Orange自身更大。它实际上给所有受监管行业打了个样：**大模型时代的供应商管理，应该像运营商管理漫游伙伴和网元供应商一样——多供应商、可切换、有备胎、账本清楚。**电信业花了三十年学会不被单一设备商锁定，这门老手艺如今原样搬进了AI采购。 ## 六、同行对照：欧洲三大运营商的三条路 Orange不是孤例，把欧洲主要运营商放到一起看，三条路线泾渭分明： **德国电信（DT）选择了“前台AI”路线。**其面向客户的AI助手Frag Magenta基于Azure OpenAI构建，直接服务终端客户；在企业内部，DT同样推进生成式AI提效。DT的特点是敢把AI放在客户接触面上，用前台体验换品牌认知，代价是幻觉直接暴露给客户，对审核链路要求极高。 **沃达丰（Vodafone）选择了“网管AI”路线。**其与微软深度合作的TOBI平台把生成式AI放进网络管理与客服运营（本栏目此前专门写过TOBI），AI的价值锚定在“运营效率”上——让网管系统的数据变成能对话的知识。 **Orange选择了“全员Copilot”路线。**先把人圈进来，再把模型货架立起来，最后沉淀自研能力。三家里，Orange是唯一把“员工规模”当作第一卖点、且真正下场开源过电信专用模型的。 三条路没有绝对优劣，取决于各家最痛的点：DT痛在客户体验竞争，沃达丰痛在运营成本，Orange痛在29万人的组织效率加上法式主权执念。但共性同样清晰——**没有一家直接把公网ChatGPT当企业方案**。这个共识本身就是2023-2025年电信业用真实教训换来的。 ## 七、给国内同行的四条可抄作业 以18年核心网运维的视角看Orange这个案例，国内运营商和通信企业在推进自己的“AI进内网”时，有四条经验是可以直接抄的： **第一，先圈地，再谈智能。**Orange最大的成功不是模型多强，而是把29万人的AI使用行为从“地下”搬到了“地上”。国内企业上线内部AI助手时，最先要设计的不是模型选型，而是那个让员工“用官方工具比翻墙用公网工具更顺手”的门户——体验赢不了公网产品，圈地就是一句空话。 **第二，场景分级投放，客服摘要先行。**不要一上来就让AI直面客户或直连生产网。Orange第一年跑通的四个场景里，没有一个需要AI“拍板”，全部是AI给员工打下手。国内同行可以按“员工辅助→内部问答→流程自动化→客户直面”的顺序排兵，每一步都留人工闸门。 **第三，模型货架从第一天就要设计。**单模型绑定是2024年的教训，2025年之后上项目的企业没有任何理由再犯。路由层、审计层、提示词资产要按“可换模型”来设计——今天用这一家，明天换那一家，业务代码不该感知。 **第四，ROI的账要提前埋点。**Orange至今没有公开系统的效率数据，这是它案例价值里最遗憾的一块。国内企业上线时就应该在工单系统、客服系统里埋好对比度量点：摘要采纳率、人均处理时长、一次解决率。没有这些数字，AI项目第二年就要为预算答辩，而Orange的今天就是你的明天。 ## 八、结论 回头看，Orange的Live Intelligence实验给行业留下的核心启示，其实不是某个技术细节，而是一个姿态的转变：面对生成式AI，运营商可以不做模型的发明者，但不能做数据的旁观者。用受控租户把能力引进来，用合同和架构把数据关住，用模型货架把供应链打散，用全员渗透把效率账做实——四步走完，大模型才真正从“员工的私人玩具”变成“企业的受控资产”。 这个实验当然没有终结：自研模型的边界在哪里、29万人的使用数据如何反哺业务、AI Act的合规成本会不会压垮中小运营商，都还是开放问题。但方向已经清楚：未来几年，每一家大型运营商都会有一个自己的“Live Intelligence”，区别只是早两年还是晚两年，主动圈地还是被动救火。 --- **参考来源** 1. [Orange Newsroom: Orange unveils Live Intelligence](https://newsroom.orange.com/orange-launches-live-intelligence-a-generative-ai-powered-solution-for-its-employees/) — Orange官方新闻稿，Live Intelligence发布的原始出处，受控Azure OpenAI部署与集团开放口径的权威来源 2. [Orange官网AI战略专题](https://www.orange.com/en/artificial-intelligence) — Orange官方AI战略与主权AI表态的汇总页，含多模型路线的官方口径 3. [Orange在Hugging Face的开源模型主页](https://huggingface.co/Orange) — Orange开源电信专用LLM（基于Llama 2微调）的模型发布页，自研能力路线的直接证据 4. [EU Artificial Intelligence Act官方追踪站](https://artificialintelligenceact.eu/) — 欧盟AI Act生效时间线与合规要求的独立权威追踪站 5. [Orange官方YouTube频道](https://www.youtube.com/@orange) — Orange MWC展会演讲与AI战略官方视频，含Live Intelligence相关演示 > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 > 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。