概述:2024年2月22日凌晨,AT&T的一块新网元带着错误配置进入生产网,3分钟后触发全网保护模式,1.25亿台设备同时掉线,语音与5G数据全断,超过2.5万通911求救电话没能接通,完全恢复耗时超过12小时。FCC公共安全与国土安全局2024年7月发布的调查报告,把这场“晴天断网”的根因链、处置时间线和整改清单完整摊开在公众面前。本文带您逐段拆解这份报告,看清一次 routine 夜间割接是如何演变成美国电信史上规模最大无线断网之一的。
北京时间2024年2月22日下午4点42分(美国中部时间凌晨2:42),AT&T无线网的一名工程师在例行的夜间维护窗口里,把一个新网元装进了生产网络。目的很平常:扩容,扩充网络功能与容量。
3分钟后,凌晨2:45,全美断网开始。
按FCC公共安全与国土安全局(PSHSB)2024年7月22日发布的调查报告《February 22, 2024 AT&T Mobility Network Outage — Report and Findings》的还原:配置错误发生后,下游网元把错误进一步向网络深处传播,触发了网络的自动响应——保护模式(Protection Mode),切断所有网络连接,把全部语音和5G数据处理网元与无线基站、交换网元隔离开,所有注册在AT&T网上的设备瞬间脱网。
影响面是教科书级的:全美50个州加上华盛顿特区、波多黎各、美属维尔京群岛全部中招;超过1.25亿台注册设备受影响;超过9200万通语音呼叫被阻断;超过2.5万通打往911接警中心(PSAP)的电话没能接通。别家的用户也没能幸免——MVNO虚拟运营商客户、漫游到AT&T网上的其他运营商用户,语音和5G数据一起没了。FCC主席Jessica Rosenworcel在新闻稿里给这起事故定了性:"sunny day outage"——晴天断网,没有任何灾害天气,纯粹是自己把自己干塌了。
完整时间线如下(均为美国中部时间):
| 时间(2月22日) | 事件 |
|---|---|
| 02:42 | 新网元带着错误配置上线,未过同行会审、未经正式审批 |
| 02:45 | 错误向下游扩散,触发保护模式,全网设备掉线 |
| 02:45–04:45 | 定位问题并回滚配置,耗时接近2小时 |
| 05:00 | FirstNet公共安全专网基础设施恢复 |
| 05:53 | AT&T才向FirstNet用户发出断网通知——迟到3小时以上 |
| 07:05 | 发布首份公开声明,建议用户改用Wi-Fi通话 |
| 12:30 | 设备注册量回归正常区间,距事发近10小时 |
| 下午 | 部分区段911呼叫仍因注册拥塞继续失败 |
| 14:10 | 向媒体确认受影响客户全部恢复 |
| 18:46 | 公布初步根因:网络扩容过程中执行了错误流程,排除网络攻击 |
| 全程 | 完全恢复超过12小时 |
复盘这类事故,最忌讳把结论停在“工程师配错了”。配置错误每天都在发生,绝大多数没有变成全国断网——区别在于错误要连穿好几道闸门才能真正打到用户。FCC报告数得很清楚,这次是闸门集体开门。
第一道闸门:同行会审(peer review),没执行。 AT&T自己的网元设计与安装规程明确要求会审,但这次变更没有走。一个人、一张配置、直接到了上线边缘。
第二道闸门:装载审批,形同虚设。 配置出错是第一名员工的失误,把变更单装载进生产网的是第二名员工。FCC的原话很扎心:变更单能被装进生产网这个事实本身,说明“确保装载前完成审批”的监督与控制是不存在的。审批不是流程图上的一个框,它得是物理上过不去的一道门。
第三道闸门:上线后测试,形同走过场。 变更装载3分钟后错误就发作了——任何一条像样的 post-installation 验证项都来得及拦住它。FCC引用了CSRIC(通信安全、可靠性与互操作委员会)最佳实践13-10-0615:复杂配置变更在提交前必须验证、装载后必须测试。这条白纸黑字的最佳实践,在这里没有落地。
第四道闸门:实验室测试,没测出来。 事后FCC认定,AT&T的实验室测试既没有发现该网元的错误配置,也没有评估这类错配对整网的影响——要么测试环境没有有效复现生产环境,要么压根没测错配场景对网络全局的连锁反应。
四道闸门全空,错误配置长驱直入。根因链如下:
flowchart TD
A[凌晨维护窗口] --> B[新网元上线扩容]
B --> C[工程师配置出错]
C --> D[跳过同行会审]
D --> E[未经审批被装载]
E --> F[错误向下游扩散]
F --> G[下游网元无防护]
G --> H[触发保护模式]
H --> I[切断全部连接]
I --> J[一点二五亿设备掉线]
I --> K[语音与5G全断]
I --> L[911呼不通]
I --> M[FirstNet公共安全网断联]
J --> N[两小时后完成回滚]
N --> O[重注册洪峰]
O --> P[注册系统拥塞]
P --> Q[恢复拖过十二小时]
这次事故里最值得运营商同行琢磨的,是保护模式这个设计本身。
FCC报告写道:保护模式的用途是“防止重大故障向其他系统级联扩散”——当网络检测到错误流量在内部传播时,宁可整体隔离,也不让问题蔓延。这在设计哲学上完全正确:一个局部的配置错误,如果没有熔断机制,可能污染路由、拖垮信令面,造成的损害远大于一次干净利落的整体隔离。
但代价写在这次事故里:保护模式一触发,全网所有设备断开连接——不是降级,不是分区隔离,是全部掉线。语音、5G数据、911、FirstNet公共安全专网、漫游用户,一个不剩。FCC特别指出:如果下游那个网元当初配置了针对这类错误的缓解控制,错误根本传不到触发保护模式的那一步,这场断网整场都不会发生。也就是说,熔断本身没有错,错的是熔断成了唯一防线——上游没有过滤,下游没有隔离,第一道火花直接引燃了全场喷淋。
顺便说一个报告里的细节:网络瘫痪期间,FEMA综合公共警报与预警系统(IPAWS)在这12小时里下发了6条无线紧急警报(WEA),第一条在凌晨2:56——而AT&T的4G/LTE商用网元居然还活着,警报照常按地理区域播发了下去。5G面全断、4G面的小区广播链路独立存活,这个“半残运行”的状态救了警报系统的命,也提醒我们:网络上没有哪两个平面是天然绑死的,绑不绑死,是设计出来的。
如果说前两小时是“事故”,后面十小时就是“第二场事故”。
凌晨4点45分前后,回滚完成,错误网元移出生产网。按一般人的想象,故事到这里该结束了。但保护模式的代价这时候才真正显形:全网1.25亿台设备同时试图重新注册。FCC报告的描述是——重注册请求的洪峰“远超AT&T网络管理系统的处理能力”,大面积拥塞,设备挤不进网,用户看到的就是状态栏上那个SOS。
接下来的操作是所有大网运维人都熟悉的动作:关闭拥塞系统的接入、分批重启、给注册洪峰泄压。一直熬到中午12:30——距离事发近10个小时——注册量才回到正常参数区间。而这还没完:当天整个下午,仍有部分911呼叫因为注册拥塞继续失败。完全恢复,是12小时以后的事。
这里有个特别反直觉的知识点:大规模断网恢复的瓶颈,往往不在故障点本身,而在恢复动作引发的次生洪峰。 保护模式是瞬间发生的,掉线是一秒钟的事;但让一亿台设备重新附着到网上,受限于注册系统的容量、HSS/UDM的处置能力、鉴权信令的吞吐——这是小时级的活。AT&T的注册系统平时容量够用,但从来没有按“全网同时重注册”这个极端场景设计余量。FCC的评语是:AT&T为保护模式准备了触发开关,却没为退出保护模式准备恢复容量——如果注册系统容量更充裕,这次事故的持续时间和影响都会显著缩小。
做过核心网的同行对这个场景不会陌生:全网级闪断、大区重启、灾备切换演练,预案里如果没有“终端并发重附着洪峰”这一项,恢复时间就永远比计划长。信令风暴不是只发生在故障发生时,更多时候发生在故障恢复时。
技术恢复之外,这起事故在“对外沟通”上的失分,同样进了FCC的账本。
最刺眼的是FirstNet。FirstNet是美国为公共安全部门建设的专用通信网,由AT&T承建运营——消防员、警察、急救人员靠它在灾难现场通话。断网期间FirstNet同样掉线(凌晨2:45到5:00之间,全部4G语音和5G语音数据基础设施受影响),AT&T确实优先恢复了FirstNet,基础设施凌晨5:00就恢复了。但给FirstNet用户的事故通知,拖到5:53才发出——比断网开始晚了三个多小时,比恢复还晚了53分钟。用户是先断网、后恢复、然后才收到“曾经断网”的通知。FCC还在报告里补了一刀:FirstNet当天上午通过社交平台发的说明,登录用户才看得见,未登录公众根本看不到。
对公众,AT&T的首份声明7:05才发出,建议用户“改用Wi-Fi通话”——结果大量用户开启Wi-Fi通话时收到502网关错误,这条路也堵着。对911接警中心,AT&T表示已通知全部受影响PSAP;按FCC的Part 4规则,重大断网须在发现后120分钟内向FCC的网络中断报告系统(NORS)报备,72小时内交初始报告,30天内交最终报告。
还有两个影响面的冷知识:一是无线优先服务(WPS,政府要害部门的高优先级呼叫)在断网期间的话务量只有同时段正常量的三分之二不到——说明不少WPS呼叫也没打通;二是SOS模式的细节——手机搜不到自家网络时会进入SOS受限模式,理论上可借任意运营商网络打紧急电话,但前提是能 attach 到别家网上。挂在AT&T塔上的SOS手机,照样打不出911;只有成功蹭到别家网络的手机才打通了。那2.5万多通没接通的911,就是这么来的。
FCC调查报告把事故成因拆成八项认定,全部指向AT&T自身:
| 序号 | FCC认定的问题 | 含义 |
|---|---|---|
| 1 | 配置错误 | 直接原因 |
| 2 | 未遵守内部流程 | 违反自家网元设计安装规程 |
| 3 | 缺少同行会审 | 规程要求的peer review没有执行 |
| 4 | 装载后测试不足 | 3分钟后即发作,测试没拦住 |
| 5 | 实验室测试不充分 | 未发现错配及其对整网的影响 |
| 6 | 核心网变更审批闸门缺失 | 未批准的变更能被直接装载 |
| 7 | 故障缓解控制缺失 | 下游无防护,错误扩散至全网 |
| 8 | 注册系统容量不足 | 重注册洪峰把恢复拖过12小时 |
整改方面,报告披露:事故发生后48小时内,AT&T在全网实施了额外的技术控制——包括全网扫描、找出所有缺乏同类防护控制的网元并补齐;此后强制化了会审步骤,维护作业若未确认会审完成,将无法进行。同时,PSHSB已把此案移交FCC执法局,就其涉嫌违反Part 4(中断报告)和Part 9(911)规则的行为追责。
值得同行记住的背景是:这并非AT&T当年唯一的911相关麻烦。2024年8月26日,FCC宣布与AT&T就另一起911故障达成95万美元和解——那是2023年8月22日发生在伊利诺伊、堪萨斯、得州、威斯康星部分地区的911呼叫中断,起因是对911网络部分组件的测试,且未能及时通报接警中心。对一家承建全国公共安全专网的运营商来说,两年里两度因911链路被监管点名,这不是运气问题,是体系问题。
报告读罢,给同为网络运维人的各位留五条能直接带回工位的经验:
1. 变更要过两道门,缺一道就是裸奔。 会审解决“配得对不对”,装载审批解决“允许不允许上”。这次事故证明,两道门必须都做成硬控制——会审没确认,变更单 physically 发不出去;审批没签字,装载按钮就是灰的。靠自觉的流程等于没有流程。
2. 给保护模式设计“退出方案”。 熔断机制评审时,多数人盯着“什么时候触发”,很少有人问“触发之后全网重注册,注册系统扛得住吗”。保护模式的爆炸半径要在设计期算清楚:分区熔断还是全网熔断、恢复期注册容量按全网终端数的百分之多少预留、退出是分波次还是一刀切。没有退出方案的熔断,等于把一次故障放大成两场。
3. 恢复演练要按洪峰场景设计。 平时的注册容量指标没有意义,有意义的是“全网设备并发重注册”场景下的吞吐。大网运营商应当定期演练全网级重附着,把注册系统、鉴权链路、DN处理能力在洪峰下的真实水位测出来,而不是等真实事故替你测。
4. 通报链和告警链同等重要。 FirstNet迟到3小时的通报,本质上是把公共安全用户当成了普通消费者。重大故障的通报对象(PSAP、专网客户、监管机构)要有预案化的触发条件和时限,通知应当在恢复之前、而不是之后——用户有权在拨不出911的当时就知道该换什么路径求救。
5. 实验室要能“骗过”生产网。 实验室测试没拦住这次事故,根源是环境保真度不足。核心网变更的预测试环境,应当覆盖变更对下游网元、对整网信令路径的影响,至少能复现“这块配置错了会发生什么”。复现不了的实验室,测的是寂寞。
两年过去,AI网络运维铺得到处都是,但这场事故的教训一点没过时:把一亿人同时送回黑暗时代的,不是一个天才黑客,也不是一场天灾,而是一张跳过了会审的变更单,和一套只会触发、不会恢复的保护机制。网络越自动化,变更闸门越要硬——机器执行错误配置的速度,永远比人快。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
