首页 › tech › Orange把大模型关进自家机房

Orange把大模型关进自家机房:29万员工的私有化AI实验

概述

2023年前后,全球电信员工都在偷偷往ChatGPT里粘贴工单、代码和客户资料,运营商CIO们的应对大多是“一禁了之”。法国Orange选择相反的路:2024年3月正式发布集团级生成式AI助手Live Intelligence,基于微软Azure OpenAI构建,但部署在Orange自己掌控的受控环境中,向集团约29万员工开放,之后又接入Mistral等模型走向“模型货架”路线。本文回答三个问题:运营商为什么不能直接用公网大模型?Orange的私有化架构到底“私”在哪里?两年跑下来,哪些场景真有效、哪些坑绕不开?本文主体依据Orange官方新闻稿与公开披露,部分使用数据为媒体报道口径,文中均已注明。

目录

一、一份让CIO失眠的统计:禁令挡不住员工

先讲一个业内都知道的案例。2023年3月至4月,据路透社等媒体报道,三星半导体部门连续曝出三起员工把敏感信息粘贴进ChatGPT的事件——包括芯片良率测试记录、设备修复代码和内部会议纪要,因为这些内容随对话进入了外部服务器,三星在2023年5月干脆全面禁用了公司设备上的生成式AI服务。禁令发出之后呢?员工转向个人电脑和私人账号继续用,企业连审计的余地都没有了。

这个故事在电信行业有个更扎心的版本。运营商手里的数据,恰好是公网大模型最不该碰的三类东西的交集:

一边是员工的生产力刚需——写邮件、总结会议、查规程、写代码,这些活大模型确实快得多;一边是数据一旦出门就再也收不回来。2023年下半年,全球大企业在这个矛盾面前的主流姿势是“封域名+发红线守则”,Orange内部同样经历过大面积管控。但Orange管理层算的是另一笔账:一家29万人的公司,如果每个员工每周靠AI省出半小时,一年就是数百万个工时,这笔账不可能靠“永久禁止”来销账。

解法只有一个:把大模型的能力引进来,把数据的门守住。这就是Live Intelligence的出发点。

二、Live Intelligence是什么:不是套壳,是圈地

2024年3月,Orange官方宣布推出Live Intelligence,定位是面向全体员工的“受控生成式AI助手”。把官方披露和后续媒体报道合起来看,它有三个决定性特征:

第一,模型是别人的,地盘是自己的。Live Intelligence底层最初采用微软Azure OpenAI服务(GPT-4系列模型),但Orange反复强调的关键词是“受控环境”:推理运行在Orange掌控的专用Azure租户与指定区域(法国境内),Orange与微软之间有合同约定——用户输入与输出不会被用于模型训练,不与公网ChatGPT共享基础设施。用Orange高管的公开说法,这是“既要大模型的能力,又不放弃数据主权”的方案。

第二,规模是集团级的。Orange集团雇员约29万人,横跨法国、西班牙(后拆分的MasOrange合资公司)、非洲中东、东欧等多个市场。Live Intelligence的目标用户不是研发部门的一小撮人,而是全体员工——从客服坐席到网络工程师再到财务。这在当时的欧洲电信业是最大手笔的集团级部署之一。

第三,它长在Orange自己的门户里。员工通过集团内网入口访问,统一身份认证,后台有使用审计。它不是发给员工一堆API key,也不是让大家在手机上装个App,而是一个完整的“企业AI工作台”:对话之外,还有面向具体业务场景的助手入口。

一句话概括:Live Intelligence不是“又一个套壳ChatGPT”,而是一次圈地——把生成式AI的使用行为,从员工的浏览器里,圈进企业可控、可审计、可追责的边界内。

对比维度 员工直接用公网ChatGPT Orange Live Intelligence
数据去向 公网平台,训练用途不受企业控制 受控租户,合同约定不用于训练
部署区域 全球任一数据中心 指定区域(法国境内)
身份与审计 无企业级审计 统一SSO+使用留痕
合规责任 员工个人行为,风险不可控 企业统一合规框架(GDPR/AI Act)
模型能力 最新模型即时可用 模型版本由企业统一管理
成本归属 隐性(员工自费/泄漏成本) 显性(企业订阅,可度量ROI)

三、架构拆解:数据到底被关在了哪里

很多读者会问:用了Azure OpenAI,数据不还是出了Orange的大门吗?这个问题问到点子上了,也正是这套架构最值得拆解的地方。把Orange公开披露的信息和技术逻辑拼起来,Live Intelligence的数据路径大致如下:

flowchart TD
    A["员工终端<br/>内网门户访问"] --> B["统一身份认证<br/>SSO与权限分级"]
    B --> C["Live Intelligence<br/>对话与助手入口"]
    C --> D["输入过滤层<br/>敏感信息识别"]
    D --> E["Orange受控Azure租户<br/>法国区域专用容量"]
    E --> F["模型层路由"]
    F --> G["GPT系列<br/>Azure OpenAI"]
    F --> H["Mistral系列<br/>后续接入"]
    F --> I["Orange自研模型<br/>基于开源微调"]
    G --> J["输出审查与留痕<br/>会话审计日志"]
    H --> J
    I --> J
    J --> A
    E -.合同约束.-> K["不用于模型训练<br/>不与公网共享"]

这张图里有四个关卡,缺一不可:

关卡一:进门查身份。所有访问必须走集团统一身份认证,不同岗位能看到的功能和数据范围不同。客服员工用对话摘要助手,网络工程师用文档问答助手,各自调用不同的后端能力,权限边界在企业侧定义,而不是靠员工自觉。

关卡二:出门前过滤。在输入进入模型推理之前,企业侧可以做敏感信息识别与脱敏——手机号、身份证号、卡号这类高价值个人信息,能在前置层被识别处理。这一层是很多“直接用公网AI”方案完全不具备的。

关卡三:地盘租下来,规矩写进合同。这是整个方案里最容易被忽视、也最能体现“主权”二字的环节。Azure OpenAI企业服务的关键承诺是:企业数据静态存储在租户指定区域、不用于训练OpenAI模型、不流向公网ChatGPT。对Orange来说,再叠加法国区域部署和欧盟法律管辖,数据虽然物理上出了Orange机房,但法律和技术上的控制权没有丢。标准允许多种实现,各家在“私有化”程度上选择不同深度——从“专用租户+区域锁定”到完全自建开源模型推理集群,是一个连续光谱,具体取舍以各企业合规评估为准。

关卡四:全过程留痕。会话内容、模型调用、异常输入都会形成审计日志。这不仅是事后追责的依据,更是欧盟AI Act合规要求的组成部分——企业必须能证明自己的AI系统“在受控状态下运行”。

需要如实说明边界:Orange并未公开完整的架构蓝图,上述第三、第四关卡的工程细节是根据Orange官方声明和行业通行做法的合理还原,属于作者分析而非官方文档原文。

四、第一年跑通了什么:四个真场景

部署一个全集团AI助手不难,难的是让29万人真的用它。从Orange披露和媒体报道看,第一年真正跑出使用惯性的,是下面四个场景:

场景一:日常写作与翻译。邮件润色、会议纪要、报告初稿,这是渗透率最高的场景,也是所有企业AI助手共同的基本盘。Orange是多国运营集团(法语、西班牙语、英语、阿拉伯语区并存),跨语言写作需求天然旺盛,翻译和外语邮件代写是员工反馈最直接的功能。

场景二:客服对话摘要。客服是电信业人力最密集的环节。通话或在线对话结束后,坐席原本要手工录入工单摘要;Live Intelligence的摘要能力把这一步压缩成秒级自动生成。这类场景的价值不难估算——Orange客服团队规模以万计,每通电话省下一两分钟,全年就是可观的工时回流。值得一提的是,客服侧的生成式AI摘要与本栏目此前写过的“AI接线员”(AI直接应答客户)是两条不同路线:前者是AI给员工打下手,风险低、上线快;后者是AI直面客户,效果好但翻车成本高。Orange第一年明显把重注押在前者。

场景三:IT与网络代码辅助。开发团队的代码生成、脚本编写、老代码解读。电信运营商内部维护着海量脚本和工单系统定制代码,代码辅助是研发员工黏性最高的功能。当然,AI生成代码的审查流程同步收紧——生成的代码同样要过代码评审,这一点Orange没有例外。

场景四:内部知识问答。企业规程、HR政策、IT自助服务的问答助手。这一场景的难点不在模型而在知识库:文档时效性、权限分级、答案溯源。据行业通行经验,知识问答是企业AI助手里“预期最高、上线最慢”的场景,Orange的推进节奏也体现了这一点——先上通用对话,再逐步挂接结构化知识库。

使用规模的公开数据比较有限。据Orange披露的口径,上线初期活跃用户达到数万量级并在持续爬坡;具体的部门渗透率、人均使用频次、效率提升百分比,Orange至今没有给出系统的量化报告——这一点必须如实告诉读者:目前没有独立第三方验证的ROI数字,“29万人都能用”是部署事实,“省了多少人天”仍是企业内部账。

五、从“一个模型”到“模型货架”:主权打法

如果说2024年的第一代Live Intelligence解决的是“能不能用”,那2025年以来的演进解决的是另一个更尖锐的问题:能不能不把命运绑在一家美国模型厂商身上?

这里要补一段Orange的底子。很多人不知道,Orange在大模型上并非纯采购方——2023年,Orange与资本方联合训练并开源了电信行业第一批专用LLM之一:基于Llama 2微调、面向客户服务与网络运营场景的模型,权重放在Hugging Face上公开下载。当时业界把这视为“电信运营商第一次正式下场做模型”的标志事件。虽然这个开源模型的能力无法与GPT-4正面竞争,但它给Orange留下了两样东西:一套电信语料的微调流水线,和一支真正调过模型的内部团队。

有了这个底子,Orange的多模型路线走得顺理成章。2024年至2025年,Orange公开释放的信号非常一致:

这个打法值得画一张演进表:

阶段 时间 模型策略 部署要点 战略意图
第一代 2024年3月起 Azure OpenAI单底座 受控租户,法国区域,禁止训练用途 快速合规上线,先圈住使用行为
第二代 2025年起 OpenAI+Mistral多模型路由 统一网关按场景调度,审计全覆盖 摆脱单供应商锁定,呼应主权AI
第三代 演进中 开源模型+自研微调保底 私有推理能力建设,电信语料持续积累 极端场景下的供应链安全垫

需要说明的是,第三代尚在演进过程中,Orange官方没有给出完全自建推理集群的时间表,上表第三列是根据其开源动作和公开表态的合理外推,属于作者判断。

这套“模型货架”策略的行业含义,比Orange自身更大。它实际上给所有受监管行业打了个样:大模型时代的供应商管理,应该像运营商管理漫游伙伴和网元供应商一样——多供应商、可切换、有备胎、账本清楚。电信业花了三十年学会不被单一设备商锁定,这门老手艺如今原样搬进了AI采购。

六、同行对照:欧洲三大运营商的三条路

Orange不是孤例,把欧洲主要运营商放到一起看,三条路线泾渭分明:

德国电信(DT)选择了“前台AI”路线。其面向客户的AI助手Frag Magenta基于Azure OpenAI构建,直接服务终端客户;在企业内部,DT同样推进生成式AI提效。DT的特点是敢把AI放在客户接触面上,用前台体验换品牌认知,代价是幻觉直接暴露给客户,对审核链路要求极高。

沃达丰(Vodafone)选择了“网管AI”路线。其与微软深度合作的TOBI平台把生成式AI放进网络管理与客服运营(本栏目此前专门写过TOBI),AI的价值锚定在“运营效率”上——让网管系统的数据变成能对话的知识。

Orange选择了“全员Copilot”路线。先把人圈进来,再把模型货架立起来,最后沉淀自研能力。三家里,Orange是唯一把“员工规模”当作第一卖点、且真正下场开源过电信专用模型的。

三条路没有绝对优劣,取决于各家最痛的点:DT痛在客户体验竞争,沃达丰痛在运营成本,Orange痛在29万人的组织效率加上法式主权执念。但共性同样清晰——没有一家直接把公网ChatGPT当企业方案。这个共识本身就是2023-2025年电信业用真实教训换来的。

七、给国内同行的四条可抄作业

以18年核心网运维的视角看Orange这个案例,国内运营商和通信企业在推进自己的“AI进内网”时,有四条经验是可以直接抄的:

第一,先圈地,再谈智能。Orange最大的成功不是模型多强,而是把29万人的AI使用行为从“地下”搬到了“地上”。国内企业上线内部AI助手时,最先要设计的不是模型选型,而是那个让员工“用官方工具比翻墙用公网工具更顺手”的门户——体验赢不了公网产品,圈地就是一句空话。

第二,场景分级投放,客服摘要先行。不要一上来就让AI直面客户或直连生产网。Orange第一年跑通的四个场景里,没有一个需要AI“拍板”,全部是AI给员工打下手。国内同行可以按“员工辅助→内部问答→流程自动化→客户直面”的顺序排兵,每一步都留人工闸门。

第三,模型货架从第一天就要设计。单模型绑定是2024年的教训,2025年之后上项目的企业没有任何理由再犯。路由层、审计层、提示词资产要按“可换模型”来设计——今天用这一家,明天换那一家,业务代码不该感知。

第四,ROI的账要提前埋点。Orange至今没有公开系统的效率数据,这是它案例价值里最遗憾的一块。国内企业上线时就应该在工单系统、客服系统里埋好对比度量点:摘要采纳率、人均处理时长、一次解决率。没有这些数字,AI项目第二年就要为预算答辩,而Orange的今天就是你的明天。

八、结论

回头看,Orange的Live Intelligence实验给行业留下的核心启示,其实不是某个技术细节,而是一个姿态的转变:面对生成式AI,运营商可以不做模型的发明者,但不能做数据的旁观者。用受控租户把能力引进来,用合同和架构把数据关住,用模型货架把供应链打散,用全员渗透把效率账做实——四步走完,大模型才真正从“员工的私人玩具”变成“企业的受控资产”。

这个实验当然没有终结:自研模型的边界在哪里、29万人的使用数据如何反哺业务、AI Act的合规成本会不会压垮中小运营商,都还是开放问题。但方向已经清楚:未来几年,每一家大型运营商都会有一个自己的“Live Intelligence”,区别只是早两年还是晚两年,主动圈地还是被动救火。


参考来源

  1. Orange Newsroom: Orange unveils Live Intelligence — Orange官方新闻稿,Live Intelligence发布的原始出处,受控Azure OpenAI部署与集团开放口径的权威来源
  2. Orange官网AI战略专题 — Orange官方AI战略与主权AI表态的汇总页,含多模型路线的官方口径
  3. Orange在Hugging Face的开源模型主页 — Orange开源电信专用LLM(基于Llama 2微调)的模型发布页,自研能力路线的直接证据
  4. EU Artificial Intelligence Act官方追踪站 — 欧盟AI Act生效时间线与合规要求的独立权威追踪站
  5. Orange官方YouTube频道 — Orange MWC展会演讲与AI战略官方视频,含Live Intelligence相关演示

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入