2024年2月22日凌晨2点45分(美国中部时间),北美最大无线运营商AT&T的核心网里,一组自动保护逻辑悄悄扣动了扳机:把所有语音与5G数据处理单元同无线基站、交换设备整体隔离。三分钟前刚被装载进生产网的一台新网元,带着一处配置错误,把保护机制的开关顶了下去。接下来的十二个小时里,全美50个州的1.25亿台手机变成“无服务”,超过9200万通电话没能接通,超过25000次911急救呼叫彻底失败——你或者你的家人,可能在那一刻正拨着人生中最重要的一通电话。同年7月22日,FCC(美国联邦通信委员会)公共安全与国土安全局发布长达数十页的调查报告《February 22, 2024 AT&T Mobility Network Outage: Report and Findings》,把这次“和平时期最严重的无线网瘫痪”拆解到了流程层面。本文以这份官方报告为主轴,结合Ars Technica、路透社的报道,完整复盘这次事故的时间线、根因、处置与整改——它可能是近十年最适合拿来做割接培训教材的案例。
先看官方口径的损失清单,全部来自FCC报告与新闻稿:
25000次失败的911呼叫里,有一个细节最值得所有通信人警醒:连SOS模式都没能救命。手机在无法注册网络时会进入SOS模式——此时终端虽然不能做普通业务,但在大多数情况下仍可走任何可用网络发起紧急呼叫。可当AT&T网内语音业务整体瘫痪时,挂在AT&T基站上的SOS手机发起的911照样无处可去;只有那些成功挂到了其他运营商网络上的SOS手机,才把电话打了出去。FCC在报告里专门写了这一段,因为它戳破了一层行业默认假设:“紧急呼叫总有兜底”——兜底的前提是,你所在的网络至少还有一条能通的路。
对本栏目读者而言,这个案例和之前写过的罗杰斯断网、Optus断网并列为北美/大洋洲三大教科书级事故,但它独特在:不是因为没有隔离、不是因为保险丝误伤,而是扩容割接这个运维最日常的动作,干掉了整个国家的主用移动网络。
FCC报告给出的事件序列如下(均为美国中部时间CST,2月22日):
| 时间 | 事件 | 备注 |
|---|---|---|
| 02:42 | 工程师在例行夜间割接窗口,将一台新网元装入生产网,配置存在错误 | 目的是网络功能与容量扩容,配置不符合既定网元设计规程 |
| 02:45 | 错误向下游网元传播,触发自动保护模式(Protect Mode),语音与5G数据处理单元同基站、交换设备隔离 | 装载后仅3分钟,全网设备被踢下线,911呼叫无法接续至PSAP |
| 02:45–04:45之间 | 故障定位,回滚错误配置 | FCC称配置在约两小时内回滚 |
| 05:00 | FirstNet公共安全用户恢复 | AT&T主动将公共安全恢复置于商用用户之前 |
| 10:00 | AT&T对外公开通报故障 | 据国会研究处(CRS)报告 |
| 14:45之后 | 商用与住宅用户逐步全量恢复 | 距始发已超过12小时 |
timeline
title AT&T 2月22日断网时间线
2时42分 : 错误配置装载上线
2时45分 : 保护模式触发 全网脱网
4时30分前后 : 错误配置完成回滚
5时 : FirstNet公共安全用户恢复
10时 : AT&T首次对外通报
14时45分之后 : 商用用户全量恢复
注意一个残酷的对比:故障注入只用了3分钟,回滚只用了2小时,但恢复用了12小时。这个时间结构是整篇报告最有教学价值的地方,后文细讲。
先说清这次断网的物理链条。FCC报告还原的路径是:
flowchart TD
A["夜间割接窗口"] --> B["新网元上线<br/>配置存在错误"]
B --> C["错误向下游网元传播"]
C --> D["下游缺少拦截控制"]
D --> E["触发保护模式"]
E --> F["语音与5G数据处理<br/>单元整体隔离"]
F --> G["1.25亿台设备脱网"]
G --> H["911无法接续至PSAP"]
AT&T自己的官方声明与之一致:“故障由网络扩容过程中一个错误流程的应用与执行导致,不是网络攻击(the application and execution of an incorrect process used as we were expanding our network, not a cyber attack)。”
干过核心网割接的读者看到这里应该后背发凉:这套保护机制本身没有错,甚至可以说是教科书级的正确设计——检测到异常配置在网内扩散,宁可整体静默也不能让错误呼叫遍地开花,这与传输网倒换、防火墙隔离是同一个哲学。问题出在这套机制的“不对称性”:工程师为“进入保护”设计了周密的触发条件,却没有为“退出保护”准备任何对等的东西。这个伏笔在第五节引爆。
另一个值得咀嚼的细节是时间差:装载是02:42,全网脱网是02:45。如果你负责的变更装后验证(post-installation check)能在3分钟内跑完第一轮,理论上损失能压到极小——但FCC的调查显示,AT&T压根没有有效的装后验证环节。3分钟的窗口期,就这样白白流走。
FCC公共安全与国土安全局审查了AT&T提交的故障报告与书面回应,并约谈了相关人员,在报告中给出的结论原文相当罕见地不留情面——故障的范围与时长是多个因素共同作用的结果,全部可归因于AT&T Mobility自身。我把它拆成一张对照表:
| FCC认定的问题 | 描述 | 按行业最佳实践应该怎样 |
|---|---|---|
| 同行评审缺失 | 配置不符合既定网元设计与安装规程,规程要求的peer review未执行 | 核心网变更装载前必须通过技术评审,评审是看配置不是看签字 |
| 双人闸门失效 | 配置由一名员工制作,另一名员工直接装载上线,装载本身证明审批管控形同虚设 | “不能装载未经批准的变更”——系统层面卡死,而非依赖人的自觉 |
| 实验室验证不足 | 实验室测试未有效仿真现网环境,或未测试该错误配置对全网的影响 | 扩容类变更先在仿真环境跑通全流程影响面 |
| 装后验证缺失 | 没有有效的装载后测试,导致发现异常的时间被拉长 | 装后验证与装前评审同权重,3分钟内出第一轮结论 |
| 下游无拦截控制 | 下游网元缺少针对此类错误的控制,将错误流量继续放行 | 错误拦截能力要分层部署,不能指望单点 |
| 故障 mitigations 缺位 | 故障发生后缺乏缓解控制 | 有预案、有剧本、有演练 |
| 恢复容量未规划 | 为保护模式的“进入”做了设计,却没有为退出保护后的注册风暴做容量与流程准备 | 进入和退出都要有对称的预案 |
这份清单里,最扎眼的是双人闸门那一行。一个人做配置,另一个人往生产网里装——这不是“双人复核”,这是“双人接力”。评审环节存在的意义,是让第二双眼睛在配置进入生产网之前发现问题;当第二个人的角色从“审查者”退化成“装载工”,双人机制就只剩形式。FCC在报告里写了一句足够进变更管理教材的话:“网络变更被装载上网这一事实本身,就表明AT&T Mobility没有足够的监督与控制来确保装载发生在批准之后。”
还有一个容易被忽略的背景:这起割接发生在例行夜间维护窗口——也就是我们每个通信人最熟悉的凌晨低话务窗口。低话务窗口保护的是忙时用户,但当变更作用于核心网全局性资源时,“凌晨出事影响小”的假设彻底失效:凌晨2:45挂在网上那1.25亿台设备,每一台都是开机在线的。核心网变更的风险评估维度里,从来没有“时间窗口能对冲核心网爆炸半径”这一项。
02:45全网脱网,错误配置约两小时内回滚——按理说故事到这里该结束了,为什么用户直到下午才恢复?
答案是注册风暴。保护模式解除后,1.25亿台处于开机状态的终端同时涌向网络发起重注册——这是一个比任何忙时都恐怖百倍的信令洪峰。AT&T的设备注册系统(device registration systems)被海量重注册请求彻底压垮,FCC报告的原话是:完全恢复花了至少12小时,正是因为注册系统在大量重注册请求面前不堪重负。更糟的是拥塞产生了二次伤害:一部分终端注册失败,被迫退回SOS模式,在“网络明明在恢复”的体感里继续无服务。
AT&T的恢复动作是这样的:FirstNet公共安全用户被置于最高优先级,凌晨5点恢复;之后商用与住宅用户跟随注册系统的消化能力逐步放行,直到下午才全量恢复。
这就是第三节埋下的伏笔:保护机制的进入与退出,必须做对称设计。进入保护是秒级的,退出保护却是小时级的——因为退出的代价不是一条信令,而是一亿多次注册。类似的教训在通信史上反复出现:2G/3G时代大规模停电复电后的位置更新洪水、物联网卡潮涌(本栏目写过一万张卡冲垮核心网)都是同一族问题。AT&T这次的特殊性在于,风暴的触发器是他们自己的保护机制——你按下了灭火的按钮,才知道消防栓的水压只够十分钟。
FCC对这一点的措辞是:AT&T没有为网络从保护模式恢复时伴随的注册拥塞做准备,也没有在事后充分缓解该拥塞;注册系统能力更强,本可以让AT&T更快、更高效地完成恢复。
事故之后的两条线,一条在AT&T内部,一条在监管侧。
AT&T的整改,FCC报告记录了几个硬动作:
监管侧的动作:FCC公共安全与国土安全局发布报告后,将此事移交执法局(Enforcement Bureau)调查是否违反FCC规则,并计划向全行业发布公开通知(Public Notice),基于对AT&T故障及其他近期故障的分析,提醒服务商遵循网络变更最佳实践。
值得注意的是执法节奏:据FCC公开文件,2024年8月26日,FCC执法局就AT&T另一起2023年8月22日发生在伊利诺伊、堪萨斯、得州、威斯康星部分地区的911断网达成95万美元和解,并附三年合规计划——执法局对911可用性的追究态度由此可见。而针对2024年2月22日这起最大规模断网的最终处罚,截至FCC报告发布时的公开记录中未见大额罚单公布。作为参照,Ars Technica在报道中提到:Verizon因2022年12月一起持续1小时44分钟、波及六个州的类似原因(变更失误)断网,于2024年6月同意支付105万美元罚金并实施合规计划——1小时44分钟对应105万美元,AT&T这起12小时、全国级的事故在监管层面的最终落地,至今没有给出对等量级的公开答案,这在美国电信媒体上也引出过“罚款是否与事故量级匹配”的讨论。
用户侧的补偿倒是来得快:事发数日后,AT&T宣布向受影响用户提供5美元的账单抵扣(据当时多家媒体报道)。十二小时的全国断网,人均5美元——这个数字在美国社交媒体上被嘲笑了很久,但换个角度想,这可能是运营商第一次如此直白地给“不可用性”定价。
以18年核心网与运维一线的视角,把这起事故压缩成五条可以直接写进你们单位割接管理办法的条款:
第一,双人复核复核的是技术,不是流程。AT&T不缺双人机制——配置是A做的,装载是B干的,从纸面上看“每一步都有人”。但peer review的本质是第二个人在变更进入生产网之前,逐行读懂配置并与设计基线比对。检查一下你自己的团队:有多少评审是割接开始前一小时在割接单上补的签字?评审与装载之间隔了多久?评审人有没有能力否决这次变更?三个问题答不上来,你们的双人机制就是下一次AT&T。
第二,装后验证要能在3分钟内说话。从装载到全网脱网,AT&T有整整3分钟的窗口。装后验证的第一轮检查(网元状态、邻接关系、关键业务抽测)必须设计成分钟级可执行。如果你们的装后验证是“装完半小时跑一套脚本再看”,先想想这半小时里最坏能发生什么。
第三,保护模式的退出方案与进入方案同等重要。任何会给全网做“减法”的自动机制——保护模式、过载控制、应急隔离——都要回答一个问题:机制动作之后,系统怎么回到满血状态?注册风暴、重连洪峰、事务堆积,这些“恢复期流量”要有容量测算和分批放行方案。只设计“刹车”不设计“松刹车”,是自动化系统的经典翻车结构。
第四,紧急呼叫通路要做最坏情况推演。语音面全断时,SOS模式的911也断了——这个案例证明“紧急呼叫有兜底”在网络级故障面前是伪命题。国内对应的就是110/119/120:IMS紧急呼叫的EATF路由、紧急注册优先级、语音面瘫痪时紧急呼叫经何网走,这些要进预案并演练,而不是停留在设计文档里。FCC事后抓住的最大权重问题,恰恰不是掉了多少电话,而是25000次911。
第五,公共安全恢复要排最前面,并且提前写进剧本。AT&T在这次故障中把FirstNet排在商用用户之前、凌晨5点优先恢复,这一点连FCC都未予苛责——它是故障处置中少数做对的事。国内的重保场景(本栏目写过百万人同场保障)同样适用:故障发生时,谁第一波恢复、谁第二波,不能临场决定,要写进预案。
这五条没有一条涉及具体设备型号或私有参数——这恰恰是FCC报告最令人不安的结论:放倒北美最大移动网的,是一套任何规范书里都写得明明白白、任何一家运营商都说自己有的流程。3GPP与各设备商的最佳实践文档对变更管理的要求高度一致,具体实现以各厂家官方文档为准,但评审、验证、拦截、恢复四道闸门,一家都不能少。
回头再看那个凌晨:一名工程师、一处配置、三分钟、1.25亿台设备、9200万通电话、25000次911。FCC用“全部可归因于AT&T Mobility自身”给这次事故定性——没有黑客,没有硬件故障,没有天灾,甚至没有一个可以甩锅的供应商。所有环节里,每一道本该拦住它的闸门都恰好处于敞开状态。
对通信人来说,这起事故的价值不在于看AT&T的笑话,而在于它用全网级代价验证了一个朴素的判断:大型网络里最危险的流量,是带着变更单的流量;最脆弱的时刻,不是故障发生时,而是你确信一切都在掌控中的那个凌晨割接窗口。下一次在割接单上签字之前,不妨把FCC这份报告翻出来,看看那三分钟。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
