概述:2021年10月4日(美东时间周一下午),Facebook、Instagram、WhatsApp三大应用同时从全球互联网上“消失”,持续约6小时,波及Meta旗下约35亿月活用户。官方事后复盘确认:一次例行骨干网维护中的一条错误命令,切断了全球数据中心的连接,引发BGP路由全网撤回,进而让自家权威DNS“隐身”——应用未坏,路先没了。本文以Facebook工程团队官方复盘(engineering.fb.com)和Cloudflare的全球路由观测为主轴,还原时间线、拆解“连环锁死”的根因链、盘点整改措施,并给出电信运维视角的五条对照教训:管理面必须带外、单命令要有爆炸半径护栏、依赖闭包要年年自查。
2021年10月4日,美国东部时间上午11点40分前后,全球用户的Facebook、Instagram、WhatsApp开始批量报错:刷新无响应、App转圈、消息发不出去。第三方监测平台DownDetector上的投诉量在几分钟内飙升,据当时媒体汇总,仅Facebook单平台的投诉峰值就超过7万条。这不是某地基站退服,也不是某个机房掉电——从北美到欧洲、从东南亚到南美,凡是用这三款应用的人,几乎同时“失联”。
对通信工程师来说,这种故障形态有很强的辨识度:不是“网慢”,是“名字没了”。DNS解析直接失败,或者解析出的IP完全ping不通——流量发出去像石沉大海。这意味着问题不在应用层,而在更底下的“路”:要么是域名解析体系出了问题,要么是通往这家公司的所有路由消失了。
事后证明,两个都出了问题,而且前者是后者的结果。
Meta当年财报口径的家族应用月活约35亿,全球网民中每三个人就有约一个受影响。更戏剧性的是,故障期间大量依赖“Facebook登录”的第三方网站、依赖WhatsApp做客服的小商家、甚至一些IoT设备的联动,都被一并拖下水。一家公司的内部运维失误,造成了教科书级的全球性断网。
本文的解读主轴是Facebook工程团队的官方复盘文章《More details about the October 4 outage》(engineering.fb.com),由时任基础设施副总裁Santosh Janardhan署名发布。这篇文章回答了三个关键问题:谁干的(一条维护命令)、怎么断的(骨干网被整体切断、BGP路由随之撤回)、为什么修这么久(内部工具与管理通道同生共死)。
第二个权威信源是Cloudflare的深度分析博文(blog.cloudflare.com)。Cloudflare运营着全球规模的解析观测网络,从第三方视角给出了硬证据:Facebook旗下各前缀的BGP路由宣告在全球路由表中成片消失、随后重新出现的时间曲线。官方RCA讲的是“为什么”,Cloudflare讲的是“全球看到了什么”,两者互相印证。
需要分清的是:骨干网被误断、BGP撤回、DNS失联、内部工具瘫痪、物理进场修复,这些属于官方复盘认定的事实;而收入损失金额、投诉峰值数量等,来自媒体和第三方监测的估算,本文引用时均已标注。文中未涉及两家公司任何未公开的内部实现细节,所有推断均基于上述两份公开材料。
| 时间(UTC) | 事件 |
|---|---|
| 10-04 15:40前后 | 骨干网例行维护中一条命令误执行,骨干网连接被整体切断(据Cloudflare全球路由观测) |
| 15:40后数分钟 | 随断网发生,Facebook全网BGP路由宣告撤回,自家权威DNS从互联网“隐身” |
| 16:00前后 | facebook.com、instagram.com、whatsapp.com全球解析失败,投诉爆发 |
| 16:00起 | 工程师发现内部工具、内网DNS同样失联,远程修复通道基本瘫痪 |
| 16:00–21:00 | 工程师分赴数据中心,通过本地/带外手段接入路由器,逐段恢复(官方未公布逐分钟细节) |
| 约21:20 | BGP路由重新出现在全球路由表(Cloudflare观测) |
| 约21:40 | 主要业务陆续恢复,残留性能劣化随后数小时逐步消化 |
| 10-05 | 官方发布复盘文章,披露根因与整改方向 |
说明:起点与恢复点来自Cloudflare的第三方路由观测和当时多家媒体报道;中间处置过程官方仅给出定性描述,未披露精确到分钟的操作记录,表中以区间概括。
官方复盘认定的故障链条,可以用“三层锁死”来概括。
第一层:一条命令,切断骨干网。 故障的直接起因是例行维护。当时Facebook正在对其全球骨干网做容量评估,一条本意是“检查骨干网承载能力”的命令被误执行,效果却相当于把骨干网上的连接整体关闭——全球数据中心之间、数据中心与边缘节点之间的连接被切断。用官方复盘的话说:数据中心在全球范围内“与互联网断开了”。
第二层:路由撤回,全网隐身。 路由器检测到对端不可达,按协议行为撤回BGP宣告。Facebook自治域(AS32934)在全球互联网上宣告的成片前缀随之消失——不是变慢,不是丢包,是全球路由表里查无此人。任何发往Facebook的流量,在起点就无路可走。
第三层:DNS失联,名字没了。 Facebook的权威DNS由自家网络承载,DNS服务器的可达性完全依赖自己宣告的BGP路由,没有寄存在外部的兜底。路由一撤,权威DNS从互联网上消失,全球递归解析器再怎么勤奋也问不到答案。应用没坏、服务器没坏、数据库没坏——是“门牌号”从路牌上被整体抠掉了。
三层锁死之外,还有两个放大器,把一次断网变成了“修不了”的困境:
放大器一:内部工具同源依赖。 Facebook的内部开发运维工具、内网DNS、安全系统,几乎都长在同一张网上、依赖同一套内部解析。骨干网一断,远程办公的工具、内部通信手段、工单系统集体失灵。官方复盘坦言:工程师当时“连完成修复工作所需的工具都无法使用”。
放大器二:连门都刷不开。 据当时多家媒体报道,总部园区的门禁系统也受影响,员工刷卡进不了办公楼——修复故障的人,差点进不了修复故障的楼。这一细节后来成为圈内流传最广的注脚:物理世界的依赖,往往在数字世界塌方时才被看见。
用一张图概括这条因果链:
flowchart TD
A["例行维护命令"] --> B["误断骨干网连接"]
B --> C["数据中心与边缘脱网"]
C --> D["全网BGP路由撤回"]
D --> E["权威DNS不可达"]
E --> F["全球解析失败"]
F --> G["三大应用集体消失"]
C --> H["内部工具失联"]
H --> I["远程修复无门"]
H --> J["园区门禁失灵"]
I --> K["工程师奔赴机房"]
K --> L["本地接入恢复路由"]
L --> M["BGP重新宣告"]
M --> N["服务逐步恢复"]
从图里能直观看到问题的本质:故障在数据面(骨干网),修复在控制面(工具与流程),而控制面和数据面架在同一张网上。锁死是结构性的,不是某个人的手抖。
约6小时的时长里,真正“修路由”的过程并不长,大头耗在了“够得着路由器”这件事上。
第一步是定位。故障初期,值班团队面对的是“所有应用同时报错”的全网性告警,先要排除DDoS、应用发布、证书过期等常规嫌疑。当第三方观测和内部信息汇聚到“全球路由撤回”这个结论时,才指向骨干网维护操作——这中间花了不短的时间。
第二步是抵达。远程管理通道依赖的正是被切断的这张网。工程师必须物理前往数据中心,用本地控制台接入核心路由器。据当时媒体报道,部分工程师因门禁失灵一度进不了楼;跨区域的抢修人员还需要赶路。这些在和平时期像段子一样的细节,在故障中每一分钟都是真金白银的损失。
第三步是恢复。通过本地接入逐段重建骨干网连接,BGP会话重新建立、路由重新宣告、全球路由表重新收敛,解析逐级恢复。即便主服务恢复后,缓存的过期、连接的洪泛重建、积压消息的消化,也让系统在随后数小时处于“通而不畅”的状态——这类恢复期的次生拥塞,做过大网割接的读者都不陌生。
一句话总结:这6小时里,Facebook不是在修网络,是在先修“修网络的能力”。
用户面:Meta家族应用月活约35亿(当年财报口径),一次约6小时的全球不可用,波及面在现代互联网史上屈指可数。商业面:Meta超过九成收入来自广告,停摆6小时按曝光折算是实打实的损失,据当时CNBC等媒体援引分析师测算,直接广告收入损失在数千万美元量级;当日股价收跌约5%(据报道),创始人身家单日缩水数十亿美元(据彭博口径报道)。生态面:以“Facebook登录”为身份源的第三方站点登录瘫痪,依赖WhatsApp的客服与交易中断,部分IoT联动失效——一家公司的单点,变成了半个互联网的单点。
对电信从业者,这组数字还有一层含义:运营商网络故障影响的是“接入这家网络的人”,而平台级故障影响的是“接入了任何网络的人”。规模叠加上跨境传导,正是监管近年反复强调关键基础设施韧性的原因。
官方复盘列出的整改方向,条条都冲着“结构性锁死”去:
| 整改方向 | 官方表述要点 | 针对的锁死点 |
|---|---|---|
| 带外管理通道 | 加大对独立于生产网的管理通道的投入,确保骨干网失联时仍能触达设备 | 管理面与数据面同生共死 |
| 工具链解耦 | 内部工具须具备不依赖内网DNS与骨干网的应急工作模式 | 修复能力依赖被修对象 |
| 变更护栏 | 强化路由类操作的防护,防止单条命令引发大范围路由撤回 | 单命令爆炸半径无上限 |
| 应急流程 | 完善紧急事件下的快速响应与物理进场路径 | 恢复链条过长 |
值得一提的是,官方在复盘里明确承认:带外管理当时“并非在所有站点都已部署到位”。这说明问题不是没想到,而是没做到位——预案的价值不在PPT里,在每一个站点是否真的长了那根独立的“脐带”。
Facebook不是运营商,但这套死法对电信网有近乎逐条的对位。结合近几年的公开案例,我总结五面镜子。
镜子一:管理面必须带外,且要演练。 Facebook的教训核心是管理通道与被管网同生共死。电信网传统上讲究DCN/网管网与业务承载网分离,但核心网云化之后要重新问一遍:虚机管理平台、k8s控制面、存储管理口、带外卡,是否真的都长在独立通道上?近年加拿大罗杰斯断网、多次运营商全网性故障复盘里,“修复通道也被切断”是高频台词。带外通道要年检、要演练,不能等塌方那天才发现脐带是画在图纸上的。
镜子二:给单条命令设置爆炸半径。 一条命令撤回全球路由,本质是变更工具没有“最大杀伤半径”的概念。电信网的对应物是批量割接脚本、ZTP配置批量下发、全网参数一键刷新。护栏不复杂:单次变更对象数上限、批量路由撤回限速、高危命令二次确认与灰度分区、全局熔断开关。AT&T、KDDI等多起公开复盘都指向同一件事——自动化放大了效率,也放大了手抖的单发伤害。
镜子三:年年自查依赖闭包。 Facebook的权威DNS依赖自家BGP可达,这个依赖平时完全正常,塌方时变成死锁。电信网的依赖闭包更密:NRF上注册依赖DNS,DNS部署依赖虚机,虚机开机依赖认证,认证依赖NRF——环环相扣时,单点故障会沿闭包转一圈回来咬自己。建议把“A坏了B还能不能活”画成图,每年故障演练时专门砍几刀验证。
镜子四:监控不能死在同一张网里。 Facebook故障期间,最讽刺的是自家网管全瞎。电信网要保留独立的拨测点、带外采样和第三方视角,全网性故障时至少还有一只眼睛睁着。近年AI拨测、第三方体验监测的价值正在于此——它们监控的不是网元,是“真相”。
镜子五:最原始的手段是最后保险。 Console线、本地账号、驻场授权、机房钥匙、纸质应急预案——这些听起来上个时代的手段,在Facebook抢修的6小时里就是全部生产力。数字世界的韧性,最后一步永远是物理世界的可触达。
复盘这次事件,最值得咀嚼的不是那条错误命令,而是它的传导路径:数据面被切断,控制面随之失明失聪,修复者本人成了故障的受害者。当一个系统修复自身的能力也架设在它自己身上时,任何单点失误都会被升级为系统性灾难。
电信网正在走向云化、自动化、AI化,控制面越来越“软”,依赖越来越深,这条教训的时效性反而越来越强。下一次全网性故障的复盘里,大概率还会出现同一句话:“工具也在那张瘫痪的网上。”——希望读到这里的你,所在网络的这句话,永远只是复盘PPT里的别人家故事。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
