概述:告警是网管中心的“生命线”,但绝大多数NOC的真实处境是:一条光缆中断能在一分钟内刷出上千条告警,真正的根因被淹没在红色瀑布里。本文回答三个问题:告警洪流是怎么被网络拓扑一步步“放大”出来的?国际标准(3GPP AlarmIRP、IETF RFC 8632、EEMUA 191)给了哪些可落地的框架?一线团队如何用“压缩、关联、分级”三板斧把告警台从红色瀑布救回成可值守的看板?文中以2021年Facebook全球断网6小时为警示案例展开。
2021年10月4日15:39(UTC),Facebook及其旗下Messenger、Instagram、WhatsApp、Oculus全球不可用,持续约6到7小时。事后Facebook工程团队的复盘和Cloudflare的独立分析共同还原了这条时间线:一次评估全球骨干网容量的例行维护命令,意外切断了Facebook全部数据中心之间的互联;自建DNS服务器虽然跑在独立网络上,但其设计逻辑是“连不上数据中心就撤回BGP路由”——于是全球权威DNS集体从互联网上“消失”了。
对普通用户,这是打不开的App;对运维同行,真正的恐怖在后面:内部邮件、员工目录、Zoom认证、甚至刷门禁卡进机房,全部失效。工程师最后是物理赶到加州圣克拉拉数据中心,直接接触服务器复位才把网络救回来的。换句话说,这个拥有全球最顶级SRE团队的公司的监控与告警体系,是和业务网一起死的。
| 时间(UTC) | 事件 |
|---|---|
| 10-04 15:39 | 例行维护命令意外切断全部数据中心互联,DNS集群按设计撤回BGP路由 |
| 10-04 15:50 | 各大公共解析器缓存过期,Facebook系域名全球不可解析 |
| 故障期间 | 内部邮件、员工目录、认证服务、门禁全部失效,远程运维工具链瘫痪 |
| 约21:00 | 团队物理接入圣克拉拉数据中心复位服务器,重新通告BGP |
| 21:05 | facebook.com恢复解析 |
| 21:50 | 受影响IP前缀路由全面恢复 |
| 22:45前后 | 应用层服务基本恢复,全程约6-7小时 |
事故代价:Downdetector录得超过1000万次故障报告(该平台史上最高),广告收入损失至少6000万美元,股价当日下跌近5%。
我在NOC干过十几年,每次讲这个案例,都会问新人同一个问题:如果这件事发生在你的运营商网络,你的告警系统能告诉你“根因在哪”吗? 大多数人答不上来。因为大家心里都清楚:日常的告警台上,90%的滚动内容根本没人看——告警体系平时就是坏的,只是没人发现。
“告警洪流”(alarm flood)不是通信行业的新发明。流程工业早在上世纪90年代就被这个问题反复毒打过:DCS系统让配置告警变得“便宜”,结果操作员“什么都设告警”,事故时成千上万条告警涌入,人反而失去了 situation awareness。 Wikipedia的告警管理词条对此有一句精准的总结:“过多的数据撞上了过少的有用信息,事故开始累积。”
流程工业后来给出了量化基准。英国EEMUA发布的191号出版物《报警系统:设计、管理与采购指南》(联合英国健康与安全执行官HSE编制)给出了行业公认的量级:
电信网的量级只会更糟,因为通信网的告警有天然的拓扑放大结构。一条被施工挖断的光缆,在告警台上是这样滚出来的:
flowchart TD
A["一条光缆被挖断"] --> B["传输段告警 1 条"]
B --> C["接入环上基站传输中断"]
C --> D["基站退服告警数十条"]
C --> F["S1 X2 断链伴生告警"]
D --> E["小区退服告警百余条"]
E --> G["切换失败与拥塞告警"]
F --> G
G --> H["用户投诉工单涌入"]
B --> I["若拓扑关联生效"]
I --> J["只呈现 1 条根因告警,其余降级为衍生事件"]
一张接入环挂50个基站、每站3个扇区,物理层一次中断会在几分钟内制造出几百条症状告警,而根因只是最顶上那一条。值班工程师面对的不是“信息”,而是“噪声”。更糟的是这四类病理告警常年盘踞在告警台上:
洪流的杀伤力是二次方的:它不只淹没根因,还拖垮告警系统本身——网管服务器被写入风暴压垮、短信猫发不过来、值班手机开始静音。到这一步,告警体系实质上已经死了,只等一次真正的故障来验尸。
告警治理没有什么黑科技,就是把三件朴素的事情做扎实。标准允许多种实现,具体功能形态以各厂家网管/OSS官方文档为准,但方法论是通用的。
这是三板斧里最值钱也最难的一斧。3GPP在SA5工作组里有专门的工作项"Alarm Correlation and Root Cause Analysis"(告警关联与根因分析),TS 32.111系列的告警IRP(Integration Reference Point)也原生支持告警之间的关联通知语义——标准早就铺好了路,难的是工程侧的三个前提:
X.733定义的六级严重度(critical/major/minor/warning/indeterminate/cleared)在多数网络里早已失真:真正的核心机房断电和单个室分小区退服,都是红色。要做的是严重性重定义评审:每个告警必须回答三个问题——谁响应?响应动作是什么?不响应会怎样?答不上来的告警,要么降级、要么转事件记录、要么直接下线。这招借鉴自流程工业的"rationalization"(告警合理化)实践,也是ISA-18.2及其国际标准版IEC 62682的核心方法论。
| 手段 | 解决什么问题 | 典型动作 | 见效周期 | 最常见的坑 |
|---|---|---|---|---|
| 压缩 | 同源重复告警刷屏 | 去重归并、限速、颤抖抑制、修态抑制 | 1~3个月 | 限速过猛淹没真告警 |
| 关联 | 症状告警掩盖根因 | 拓扑关联、因果规则、时间窗聚类 | 6~12个月 | 拓扑数据不准导致误杀 |
| 分级 | 严重度失真,满屏红色 | 严重性重定义、按业务影响加权、新告警准入审批 | 持续进行 | 一刀切降级漏掉关键告警 |
三板斧在流水线上的位置是这样的:
flowchart LR
A["网元告警采集"] --> B["压缩层"]
B --> C["关联层"]
C --> D["定级与准入"]
D --> E["派单与响应"]
E --> F["复盘与规则更新"]
F --> C
一线工程师天天用,未必知道名字。给一张速查表:
| 标准/规范 | 定了什么 | 和你的关系 |
|---|---|---|
| ITU-T X.733 | OSI系统管理的告警上报功能,六级严重度、 probableCause 等模型的源头 | 所有电信告警模型的共同祖先 |
| 3GPP TS 32.111系列 | 故障管理需求(-1)、告警IRP信息服务(-2)等,定义告警生命周期通知语义 | 网管北向接口告警协议的依据 |
| IETF RFC 8632 | 告警管理YANG数据模型 | NETCONF/YANG体系下承载网与数通设备的告警建模 |
| EEMUA 191 / ISA-18.2 / IEC 62682 | 流程工业告警管理方法论与量化基准(洪流阈值、合理化流程、KPI) | 告警治理方法论与指标体系的最佳参考 |
特别说一下3GPP TS 32.111:它把告警当作一个有完整生命周期的对象来管理——notifyNewAlarm(新增)、notifyChangedAlarm(变更)、notifyClearedAlarm(清除),配合告警确认、关联通知等语义。这套模型看似平淡,但它回答了治理中最容易被忽视的一环:告警必须有“清除”这个一等公民动作。多少运营商的僵尸告警,就是因为在OSS建设时没把清除与闭环流程当回事。
以下是我经历过的多轮告警治理项目沉淀的节奏,供参考(以一个中等规模省网为例,具体周期按网络规模伸缩):
第1个月:告警体检。 导出近30天全量告警,统计TOP20告警源的条数与占比,标注四类病理告警各占多少。这个动作往往只需要一个人一周,但它产出的报告是你向管理层要资源的唯一武器——用数据说话:“过去30天告警台上68%的滚动来自5类颤抖告警”,比任何PPT都有说服力。
第2~3个月:压缩止血。 先做无风险的:修态抑制规范化、颤抖抑制、去重归并。目标是把稳态告警速率压到每值守席每小时个位数,对齐EEMUA 191的量级。这一阶段不要急着上关联,地基没打好的关联是负资产。
第4~5个月:关联攻坚。 先核对拓扑数据覆盖率(接入手工核对传输环-基站归属),再挑故障最多的TOP3场景(如传输中断、基站退服、批量掉线)写因果规则,一个场景一个场景地验收,每条规则要有历史故障回放验证。
第6个月:分级重定义与准入制度。 开告警评审会,把剩余告警逐条过“三问”;同时立规矩——今后任何新网元入网、新版本升级,告警清单必须随工单过审。告警和代码一样,要有code review,否则治理成果半年内就会被新增网元的默认配置冲垮。
持续指标:稳态告警速率(条/席/小时)、告警压缩率、误报率、平均确认时长(MTTA)、平均修复时长(MTTR)。月度复盘,规则库版本化管理。
告警台是NOC的仪表盘。仪表盘上转得飞起的红色指针不会让车更快,只会让司机闭眼。把噪声压掉,把根因亮出来——这六个小时的FB断网,替全球运维同行交过一次学费了。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。 值班员凌晨两点能否在三分钟内看清一场故障的真相,取决于这套体系做得够不够扎实。110万到8万,6万条到500条,数字背后是把信噪比当第一指标来经营的工程纪律。网络越来越复杂,告警只会更多,治理这场仗没有终点——但只要剪刀差还在,这件事就值得每个运维团队认真做一遍。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
