首页 › tech › 一次改动放倒1.25亿部手机

一次改动放倒1.25亿部手机:AT&T全国断网复盘

概述:2024年2月22日凌晨,美国最大电信运营商之一AT&T的全国无线网大面积瘫痪约12小时,1.25亿部在网设备中的绝大多数失去话音服务,超过2.5万通911急救呼叫失败,多家航司一度停飞。FCC后续调查认定:根因是一次网络扩容作业中的配置操作失误,叠加对等互联层面的信令连锁反应;而AT&T迟报故障又被另开95万美元罚单。本文以FCC官方通报为主轴,按时间线、根因、影响面、处置与整改五个维度拆解这起教科书级案例,并给出七条可直接落地的运维教训。

目录


一、凌晨三点,全美最大的无线网哑火了

2024年2月22日(周四)凌晨,美国中部时间约2时45分,AT&T的一组工程师正在按计划执行网络扩容作业。这是最平常不过的动作——大网扩容常年滚动进行,凌晨窗口期、变更单、双人值守,一套流程走了几十年。

几个小时后,事情变得不平常了。美国东部时间清晨起,社交媒体上关于“AT&T没信号”的讨论呈爆炸式增长,DownDetector上AT&T的故障报告一度冲到数十万条量级。用户的感知非常一致:手机显示有信号、甚至显示5G,但打不出电话、收不到来电,短信迟滞,部分数据业务也在挣扎。这种“有信号没业务”的状态,对一线运维的人来说指向很明确——无线侧接入是好的,问题在更上层:核心网话音域或互联互通层。

用我们这行的老话说,这不是基站的问题,是“电话局”的问题。而且不是某一个州的问题,是全美范围的。AT&T官方当天确认,影响波及其网络上约1.25亿部设备。作为对照,2022年加拿大Rogers断网约 impacting千万级用户已算国家级事故(本专栏此前写过它的路由表事故),而AT&T这次的在网设备基数还要再高一个数量级。

当天上午,AT&T发布首份声明,其中关键一句后来被无数报道引用:初步判断是“在网络扩容过程中,一个错误流程的执行与实施”所致(an incorrect process used as we were expanding our network),并明确排除网络攻击。当天,白宫表示已关注此事,FBI与国土安全部均表态无证据显示涉及攻击,FCC主席Jessica Rosenworcel宣布介入调查。

一次凌晨的扩容,怎么就放倒了一张全国网?答案藏在运营商之间那条最不起眼的缝里。

二、12小时时间线:从扩容改动到白宫过问

先把这一天的关键节点摆到一条线上。以下时间点综合FCC后续调查通报、AT&T当日声明及Reuters、NPR等主流媒体报道(个别时间为约数):

timeline
    title 2024年2月22日:AT&T全国断网十二小时
    section 凌晨
        02:45 扩容作业中下发配置改动
        03:00 设备向两家对等网发出退服信令
        03:30 全国范围呼叫建立开始失败
    section 清晨
        06:00 社交平台爆炸式报障
        09:00 航司因通信受影响短暂停飞
        11:00 AT&T首次声明排除网络攻击
    section 白天
        14:30 官方宣布全国业务恢复
        当晚 白宫与FBI DHS介入评估
    section 后续
        02-25 宣布向受影响用户补偿
        02-26 整改作业中发生二次故障
        09-13 FCC通报处罚并公布调查结论

需要说明的是,AT&T对外口径的“恢复”以美东时间15时30分前后为界,而从凌晨改动生效算起,大量用户经历的失联时长在9到12小时之间。对一个承载着美国最大移动用户群体之一的网络来说,这是几十年未见的全国级中断。

事件要素速览表:

维度 数据/事实 出处
断网日期 2024年2月22日(约12小时) FCC通报
受影响设备 约1.25亿部 FCC调查结论
无法主/被叫比例 约92%的AT&T智能手机 FCC调查结论
911呼叫失败 超过2.5万通 FCC调查结论
根因定性 扩容作业配置失误+信令连锁反应,非攻击 FCC与AT&T声明
航司影响 Alaska Airlines、Frontier短暂停飞 据Reuters等报道
用户补偿 每账户5美元话费抵扣 据AT&T公告
监管处罚 95万美元罚款动议(针对迟报) FCC,2024-09-13

三、根因:改错了“通往邻居的门”,引来信令雪崩

讲清楚根因,得先补一段行业背景:任何一家运营商的网,都不是孤岛。你拨给异网用户、异网用户拨给你、911路由到公共安全应答点,话务都要经过运营商之间的互联互通关口。这些关口设备维护着“哪类呼叫从哪个出口送出去”的路由与信令逻辑,并向对端运营商实时宣告自己的可用状态——这在话音网里是个铁律:我若维护或故障,必须用信令明确告诉邻居“此路暂不通”,邻居才能改道,否则就是黑洞呼叫。

FCC后续公布的调查结论还原了当天凌晨发生的事(细节以FCC原文为准,以下为综合通报与行业媒体的转述):工程师在扩容作业中,对一台承担话务出区的核心设备执行了配置操作,但没有遵循既定流程——FCC的原话相当严厉,称AT&T“放弃了既定标准流程”(abandoned its standard practices)。错误配置导致这台设备以信令方式向两家对等运营商网络宣告“退服”。邻居们收到了消息,照章办事:不再向AT&T送来话务。

如果故事到此为止,还只是一次局部互联互通故障。真正致命的是第二步:当AT&T发现问题并纠正配置、设备重新上线时,重新发出的信令信息引发了连锁反应——FCC的调查结论使用了“cascading issue(连锁性故障)”的定性。用工程师的语言描述:全网信令层面的状态刷新像雪崩一样传导,呼叫建立逻辑被大面积卡死,最终演变成全国性的“有信号打不出电话”。

我画一张故障传导图,把这口锅的链条摆出来:

flowchart TD
    A["凌晨扩容作业"] --> B["未走既定流程改配置"]
    B --> C["出区设备信令配置出错"]
    C --> D["向两家对等网宣告退服"]
    D --> E["对等网停送来话务"]
    E --> F["呼叫建立全网失败"]
    F --> G["92%手机无法主被叫"]
    G --> H["超过2.5万通911失败"]
    B --> I["纠正配置后设备重新上线"]
    I --> J["状态刷新引发信令连锁反应"]
    J --> F

这张图里最值得盯住的是最下面那条回头路:恢复动作本身成了放大器。这在大型故障复盘里反复出现——把网“改坏”的是一个操作,把故障“放大到全国”的往往是恢复路径上的第二次冲击。做核心网的人对此应有肌肉记忆:任何批量状态刷新、批量重载、批量重注册,在网已经处于亚健康状态时执行,都可能变成压垮骆驼的最后一根稻草。

还有一点必须替现场工程师说句公道话:让单个配置失误演变成全国断网的,不只是操作者个人。FCC认定的要害是流程失守——这次作业绕开了本该存在的护栏(评审、复核、灰度、对端宣告审批)。护栏为什么没拦住,才是每一家运营商该问自己的问题。

四、影响面:911打不通、航班停飞、验证码失灵

衡量一次断网的重量,不看丢了多少GB流量,看多少人连不上该连的东西。

911:这是本次事件最沉重的部分。 FCC调查确认,超过2.5万通911呼叫失败。对电信行业而言,“911打不通”在监管语境里是最高级别的红lines——美国监管框架对911可用性有专门规则,任何影响应急呼叫的事故都会被单独追问。断网当天,多地消防、警务部门公开提醒居民改用其他方式求助,这个细节本身就说明影响已经外溢到了公共安全层面。

航空: 据Reuters等媒体报道,当天上午Alaska Airlines与Frontier Airlines一度短暂停飞或出现大面积延误——它们的内部运行通信依赖AT&T的网络服务。一家电信公司的故障,传导成了两个航司的地面停飞,这是典型的数字基础设施级联效应:你永远不知道自己的网在别人的关键链路里挂着几层。

普通人的一天: 双因子验证码收不到、刷卡支付终端离线、家门锁与报警系统掉线、企业客服热线成聋子。这些碎片化的失效很难进统计,但它们构成了用户对“运营商可靠性”的真实评分。

把这次事故放进近年全球全国级断网序列里对照着看,会发现一个有意思的规律:

事件 时间 时长 根因类别 核心教训
加拿大Rogers断网 2022-07 约19小时 核心网设备维护操作+路由失控 单点设备操作要有全局隔离
澳洲Optus断网 2023-11 约12小时+ 互联网互联层软件升级错误 升级要有快速独立回退路径
美国AT&T断网 2024-02 约12小时 扩容配置失误+对等信令连锁 对外宣告信令必须独立管控

三起事故,三个国家,三种直接根因,但底层是同一个故事:大网的鲁棒性败给了一次本该被流程拦住的变更。 没有一次是黑客干的,没有一次是设备硬件报废,全是“人+流程+变更”三角里塌掉的那条边。

五、处置与二次翻车:恢复之后的两记耳光

故障当天的处置本身乏善可陈:定位、纠正配置、分区域恢复,美东时间15时30分前后全国业务恢复,AT&T随后在声明中确认恢复并承诺补偿。两天后(2月25日),据AT&T公告,它向受影响客户提供了每账户5美元的话费抵扣——以AT&T的用户基数,这笔补偿据估算达千万美元量级,但对失去911连接的家庭来说,5美元显然买不回安全感。

真正的“第二记耳光”发生在2月26日。据FCC调查文件披露,在实施整改措施期间,AT&T又发生了一次规模小得多的故障——事故复盘里最尴尬的剧本:为了修复上一次故障而做的变更,又制造了一次故障。 这几乎是教科书级的重复打脸,也再次印证了变更管理的脆弱窗口:故障整改期间,运维团队处于高度紧张、流程最容易被“特事特办”稀释的状态,恰恰是二次事故的高发期。

从运维视角复盘AT&T当天的处置,有三个值得记录的点。其一,排除网络攻击的定性来得比较快,FBI与DHS当天即表态,这避免了公众恐慌升级,也说明其与安全部门的协同通道是顺畅的。其二,恢复选择了稳妥的全网性纠正而非局部试探——事后看方向正确,但结合FCC披露的“连锁反应”结论,恢复阶段对信令风暴的预判显然不足。其三,客户沟通使用了社媒+短信+新闻多渠道,但问题是:网都断了,短信怎么送达?大规模断网下的用户触达渠道冗余,本身就是个被低估的课题。

六、FCC罚单:罚的不是断网,是迟报

2024年9月13日,FCC执法局公布调查结论并开出95万美元的罚款动议(Notice of Apparent Liability)。这个金额在美国电信监管史上不算大数字——对AT&T更是九牛一毛——但罚单的事由值得所有同行仔细看:针对的不是断网本身,而是迟报。

按照美国监管规则(47 CFR Part 4,即著名的NORS网络中断上报规则),达到阈值的重大网络故障,运营商必须在获知后的120分钟内向FCC的NORS系统报告。而据FCC通报,AT&T在这次全国性故障中拖了超过8个小时才完成合规上报。断网9小时,迟报8小时——监管机构用这张罚单表明了一个态度:你可以有技术故障,但不能让监管者和公众在黑暗中多等7个小时。

这个逻辑值得展开说一句。应急呼叫规则和上报规则之所以定到“分钟级”,是因为监管视角下,故障信息的延迟不只是官僚问题:应急管理部门需要知道哪些地区911受影响,友商需要评估异网漫游分流的可能性,航司和医院需要判断要不要启用备份链路。上报晚一小时,下游所有应急决策就晚一小时。

罚款动议公布的同时,FCC也披露了整改要求方向:合规计划的强化与流程重建。后续执法程序的最终落地以FCC官方裁定为准,但这张罚单传递的行业信号已经足够清晰——在后疫情时代各国监管普遍加码“网络韧性”(欧盟的数字网络法、澳洲对Optus的连环追责,本专栏均有专文)的背景下,“上报及时性”正在成为与“故障本身”平级的监管考核项。

七、给运维人的七条教训

最后,以一个在核心网和运维一线泡了18年的老兵视角,把这次事故压缩成七条可落地的经验。不求全,但求每条都能直接改你们家的流程。

第一,对外信令宣告必须独立审批。 这是本次事故最独特的技术教训。对等互联出口上的“退服/不可用”宣告,威力等同一把全网的电闸,它不应藏在普通路由配置权限里,而应该有独立的变更类型、独立的审批人、独立的防呆校验——任何会改变“我对邻居的承诺状态”的操作,默认升级审批。

第二,恢复方案要当变更来管理,并且要预演。 FCC认定的连锁反应说明,恢复阶段的批量状态刷新没有被“限流”。对核心信令设备的重载、重启、批量刷新,都该有分批灰度预案:先恢复一个区域的信令处理能力,观察邻居反馈与信令面指标,再滚动放大。恢复脚本要和割接脚本一样上评审会。

第三,以用户视角做全网合成拨测。 这次故障里,最早的“真相”来自社交媒体,而不是网管告警——这在大网里并不罕见:故障是全局性的呼叫建立失败,反而可能被海量局部告警淹没。主叫、被叫、异网互通、911路由的分钟级合成呼叫测试,是把“用户是否真的能打通电话”变成一个可监控指标的最低成本手段。

第四,把上报流程当故障演练。 NORS式的分钟级上报,平时不练,战时必迟。建议每半年做一次“纸面演习”:随机抽取一个假设故障,从告警确认到报告生成的全链路计时。迟报的罚款事小,公众信任的事大。

第五,整改期是事故高发期,请加倍设防。 2月26日的二次故障就是证据。故障整改期间的变更,应当执行比平时更严的评审级别,而不是“特事特办”。一个可操作的建议:整改期所有变更强制叠加一层“此变更为事故整改相关”的标签,自动触发双人复核与更小的爆炸半径。

第六,警惕“有信号没业务”的监控盲区。 无线侧正常、核心侧瘫痪的状态,对用户感知的伤害最大——因为用户会反复重拨,进一步冲击信令面。话音接通率、寻呼响应率这类“端到端指标”必须进入全网最高级告警,而不仅仅是设备级告警的聚合。

第七,为911设计独立生命线。 这次2.5万通失败的911呼叫,会长期留在AT&T的监管档案里。行业通行做法是应急呼叫多路由、异网旁路与优先级保障,具体实现以各运营商与监管要求为准,但原则只有一条:最普通的电话可以断,最紧急的电话不能断。 围绕这条原则做的每一分投入,都不会白费。

八、结语

回头看这次事故,最讽刺的一幕是:AT&T的工程师们在凌晨做着一件让网络“更好”的事——扩容,结果让全网哑火了12个小时。没有攻击者,没有硬件报废,没有天灾,只有一个被绕开的流程、一句未被审批的对外宣告,和一场没人预演过的恢复。

大网的可靠性,从来不是由最先进的设备决定的,而是由最平常的那次变更决定的。Rogers如此,Optus如此,AT&T也如此。这三张罚单和三份复盘报告,值得贴在每一个网管中心的墙上——不是因为它们 rare(罕见),恰恰是因为它们 普通:每一次普通的扩容、普通的升级、普通的维护窗口,都是那根还没断的弦。


参考来源

  1. FCC News & Events(FCC新闻中心) — 2024年9月13日执法局对AT&T的处罚通报与调查结论,可在站内检索"AT&T"获取原始文号与PDF
  2. 2024 AT&T outage — Wikipedia — 事件全程时间线、FCC数据(1.25亿设备、92%、2.5万通911)与各媒体报道引文索引
  3. 47 CFR Part 4 — NORS网络中断上报规则(eCFR) — 120分钟上报义务的法律原文
  4. AT&T Newsroom(about.att.com) — 当日官方声明、恢复确认与用户补偿公告
  5. Light Reading — 对FCC调查文件中信令连锁细节的行业解读(站内检索"AT&T outage")

来源说明:本文事实性数据以FCC官方通报口径为准;个别细节(航司停飞、补偿金额)为当时媒体公开报道内容,已随文标注“据报道”。原始文号与精确到分的时间戳,请以FCC官网原文为最终依据。


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入