你每天敲的每一行代码、刷的每一个网页、问的每一次 AI,背后都站着同一群"死人"。他们大多数没拿到过专利分成,甚至没活着看到自己的发明赚到一分钱。Fireship 的这期视频做了一件几乎所有程序员都想过、却没人真去做的事——把过去一百年里真正"改变世界"的计算机科学论文全部读了一遍,最后挑出 10 篇。结论很反常识:你以为科技是被硅谷连续创业造出来的,其实它是被十几页发黄的数学推导写死的。
这期视频之所以值得花时间拆,不是因为它讲了哪一篇论文(网上多的是单篇解读),而是因为它把 1936 年到 2020 年的 84 年压成一条线,让你看清一个被反复验证的规律:从一篇论文到一个万亿产业,平均要滞后 15 到 30 年,而且这个滞后正在急剧缩短。看懂这条延迟曲线,你就看懂了为什么今天的 AI 狂热既不是泡沫的全部,也不是确定性的全部。
| 项目 | 内容 |
|---|---|
| 视频标题 | I read every major CS paper of the last 100 years... |
| 频道 | Fireship(Jeff Delaney,Google Developer Expert) |
| 发布时间 | 2026 年 6 月中旬(约 6 月 19 日) |
| 频道订阅 | 421 万+ |
| 视频时长 | 约 20 分钟 |
| 核心主题 | 10 篇奠基性 CS 论文如何从理论变成现代计算的全部 |
视频开篇放的是 Alan Turing 那篇《On Computable Numbers, with an Application to the Entscheidungsproblem》。这篇论文在 1936 年发表,那时候世界上还没有一台通用电子计算机。Turing 干的事,是发明了一台只存在于纸上的机器——一条无限长的纸带、一个读写头、一张状态表——然后用它回答了一个哲学问题:什么样的数学问题是"机器原则上能算出来的",什么是永远算不出来的。
这篇论文真正的产出不是图灵机本身,而是一个叫 Church–Turing 论题的隐含结论:任何你能精确描述成"步骤"的计算,都可以被一台通用机器完成。这是整个软件产业的底层许可——它意味着我们不需要为每种任务造一种机器,一台通用 CPU 配上不同的指令序列(也就是程序)就够了。Fireship 在视频里点出的关键洞察是:Turing 用一篇论文,把"计算"从硬件问题降维成了软件问题。没有这一步,后面所有论文都无从谈起。
【延伸分析】很多人不知道,Turing 这篇论文其实是为了回应 Hilbert 提出的"判定问题"(Entscheidungsproblem)——数学能否被完全机械化。Turing 用"停机问题"给出了否定回答:存在一些问题,机器永远无法判断自己会不会停下来。这个"不可计算"的边界,比"可计算"的部分更深刻,它至今还在限制着程序验证、编译器优化、AI 的能力上限。
第二篇是 Claude Shannon 的《A Mathematical Theory of Communication》。Fireship 的评价非常准:Shannon 是把"bit"这个词塞进人类词典的人(binary digit 的缩写,由 John Tukey 命名,但 Shannon 把它变成了世界的单位)。在这之前,"信息"是个模糊的人文概念;在这之后,它有了精确的数学定义——信息熵 $H = -\sum p_i \log_2 p_i$,单位是比特。
这篇论文最反直觉的发现有两个。第一,信息量取决于意外程度:一个永远说"是"的人,传递的信息量为零;一个总在给你惊喜的人,信息量最大。第二,信息可以被压缩到熵的极限,也可以被编码到带噪信道里无损传输——只要带宽够,你能在充满干扰的电话线上传一段完美的数字音频。这两个定理直接催生了 ZIP 压缩、JPEG 图像、4G/5G 里的 LDPC/Polar 码,甚至你现在看的这个网页。
【延伸分析】Shannon 的论文里有一个今天所有通信工程师都在用的概念叫"信道容量"。它告诉你一条链路理论上最多能跑多快。51 学通信的读者会立刻意识到,这正是 3GPP 评估 5G/6G 频谱效率、设计编码方案时绕不开的理论天花板。Shannon 在 1948 年一个人,给整个通信行业画了一个 80 年没被突破的框。
视频到这里节奏加快。1958 年,Frank Rosenblatt 发明感知机(Perceptron),《纽约时报》激动地预言:不久后机器将能走、说、看、写、复制自身、甚至拥有意识。然后 1969 年,Marvin Minsky 和 Papert 出了一本书,用数学证明单层感知机连最简单的 XOR(异或)都学不会。资金断崖式撤走,神经网络研究被冷冻了将近 20 年——这就是著名的第一次 AI 寒冬。
Fireship 把这段历史讲成一个经典的"炒作—证伪—寒冬"循环,这恰恰是理解今天 AI 投资节奏的钥匙。真正致命的不是 XOR 本身,而是大众把单层网络的能力错当成了整个方向的天花板。
【延伸分析】XOR 问题的解药其实早就藏在多层网络里——只要加一层隐藏层并引入非线性激活,理论上就能拟合任意函数(这是 Cybenko 1989 年证明的通用近似定理)。但科学共同体的信心一旦崩塌,技术再正确也要再等一代人。这个故事告诉我们:技术是否被采纳,信心周期比正确性更重要。
沉寂近 20 年后,1986 年 Rumelhart、Hinton、Williams 在《Nature》发表反向传播算法的奠基性论文《Learning representations by back-propagating errors》。简单说,它用微积分里的链式法则,把输出层的误差一层一层往回传,从而算出每个权重该怎么调。这一步解决了多层网络"怎么训练"的问题,神经网络从植物人状态被唤醒。
但 Fireship 没回避一个尴尬事实:反向传播红了几年又冷了,因为当时的算力和数据根本撑不起深层网络,梯度消失问题像幽灵一样卡着所有人。从 1986 年这篇论文,到 2012 年深度学习真正爆发,中间又隔了整整 26 年。这是整条时间线上最长的一段沉默。
视频里有两篇常被普通程序员忽略、却撑起整个后端世界的论文。
Edgar F. Codd 的关系模型(A Relational Model of Data for Large Shared Data Banks)把数据组织成"表+行+列",并用关系代数定义了查询。在此之前,数据库是一团需要程序员手写的指针迷宫(层次模型/网状模型);在此之后,一行 SELECT * FROM users WHERE ... 就够了。这篇论文催生了 SQL、Oracle、MySQL、PostgreSQL,撑起了一个上千亿美元的产业。值得玩味的是,Codd 所在的 IBM 当初并不想推它——因为关系模型会动摇 IBM 已经卖得很火的 IMS 数据库。一个发明最大的敌人,往往是发明它自己的公司。
Leslie Lamport 的《Time, Clocks, and the Ordering of Events in a Distributed System》(1978)则定义了分布式系统的时间。它的核心是"happened-before"关系和逻辑时钟:在跨机器的世界里,物理时钟靠不住,真正能定义事件先后的是"消息因果链"。这篇论文是一切分布式共识(Paxos、Raft)、Google Spanner 的 TrueTime、区块链排序的祖师爷。Fireship 把它和图灵、香农并列,这个排位相当公道。
【延伸分析】Lamport 后来拿了 2013 年图灵奖。他有一句名言流传甚广:"一个分布式系统,就是一台你连一台机器都搞不清楚它崩没崩的系统。"这句话在 51 学通信做 5G 核心网 SBI 服务化架构、做 NFV 容灾时,体会最深。
1998 年 Larry Page 和 Sergey Brin 的 PageRank 论文,Fireship 处理得比较快(毕竟它本身就是搜索领域的经典)。一句话概括:一个网页有多重要,取决于有多少重要网页指向它——本质是把整个互联网当成一个巨大的马尔可夫链,求其平稳分布。这篇论文直接长成了市值一度突破 2 万亿美元的 Alphabet。
视频里更值得说的是 2004 年 Jeffrey Dean 和 Sanjay Ghemawat 的 MapReduce 论文。它把"在几千台机器上并行处理海量数据"这件事,简化成了两个函数:map(分发拆分)和 reduce(汇总合并)。程序员再也不用操心机器宕机、数据分片、任务重试——框架全包了。这篇论文直接催生了 Hadoop 生态、Spark,乃至今天所有大数据平台的思想底座。
【延伸分析】MapReduce 的设计哲学是"把计算搬到数据所在的地方,而不是把数据搬到计算所在的地方"。因为移动 PB 级数据的成本远高于移动代码。这个原则在今天的大模型训练数据预处理流水线里依然成立。
2012 年,Alex Krizhevsky、Ilya Sutskever、Geoffrey Hinton 的 AlexNet 在 ImageNet 图像识别竞赛上把错误率从前一年的 26.2% 砸到 15.3%,第二名被甩开 10 个百分点以上。Fireship 把这称为整条时间线上最具戏剧性的转折。AlexNet 的真正贡献不是某个网络结构,而是它同时证明了三件事的组合威力:足够大的标注数据(ImageNet)、足够猛的算力(两块 GTX 580 GPU)、以及 GPU 并行计算天生适配卷积神经网络。
这篇论文之后,深度学习从学术小圈子变成了全行业的默认方案。值得一说的是,AlexNet 论文只有 9 页,却引爆了过去 14 年最重要的技术浪潮。Fireship 在这里埋了一个反讽:改变世界的论文往往不长,但你要等得起它被验证的那 14 年。
视频的高潮落在最后两篇。2017 年 Google 八位作者的《Attention Is All You Need》,提出了 Transformer 架构,彻底抛弃了 RNN/LSTM 的顺序计算,用自注意力机制让模型一次看完整句话、并行训练。这篇论文打开了今天所有大语言模型的大门——GPT、BERT、Claude、Gemini,无一不是 Transformer 的变体。
2020 年 OpenAI 的《Language Models are Few-Shot Learners》(GPT-3)则证明了一件此前没人敢信的事:只要模型够大(1750 亿参数),它就能在不重新训练的情况下,靠"看几个例子"就学会新任务(few-shot / in-context learning)。这篇论文是 ChatGPT 真正的源头——2022 年的 ChatGPT 只是把它做成了产品。
Fireship 在结尾抛出了整期视频最有价值的一个观察:论文从 idea 到产业的滞后时间在急剧缩短。Turing 1936 的理论等了 15 年才变成商业计算机;反向传播等了 26 年才爆发;Transformer 从 2017 论文到 2022 年 ChatGPT 只用了 5 年。这条加速曲线本身,就是当下 AI 创业窗口期极短的物理原因。
下面这张时间线把 10 篇论文按"理论发表 → 产业爆发"的延迟关系画出来:
timeline
title 十篇论文与它们引爆的产业(带延迟标注)
1936 Turing 可计算性 : → 商用计算机(约15年后)
1948 Shannon 信息论 : → 数字通信/5G编码(持续至今)
1958 Perceptron 第一次AI热 : → 1969被判死刑·寒冬20年
1970 Codd 关系模型 : → SQL/Oracle数据库帝国
1978 Lamport 分布式时钟 : → Paxos/Raft/Spanner
1986 反向传播 : → 深度学习爆发(等26年)
1998 PageRank : → Google万亿帝国
2004 MapReduce : → Hadoop/Spark大数据
2012 AlexNet : → 计算机视觉革命
2017 Transformer : → ChatGPT(仅5年)
2020 GPT-3 少样本 : → 生成式AI全面落地
graph TD
A["Turing 1936<br/>计算=可机械化的步骤"] --> B["Shannon 1948<br/>信息=可计量的比特"]
B --> C["一切数字化基础<br/>压缩·编码·通信"]
A --> D["Codd 1970<br/>数据=关系代数"]
A --> E["Lamport 1978<br/>分布式=因果时间"]
D --> F["数据库产业"]
E --> G["分布式共识/云原生"]
H["Perceptron 1958<br/>↓寒冬↓<br/>Backprop 1986"] --> I["AlexNet 2012<br/>深度学习爆发"]
I --> J["Transformer 2017<br/>自注意力"]
J --> K["GPT-3 2020<br/>少样本学习"]
K --> L["生成式AI时代"]
M["PageRank 1998<br/>+MapReduce 2004"] --> N["搜索+大数据帝国"]
style A fill:#e8f5e9
style K fill:#fff3e0
style L fill:#ffebee
1. 别只追框架,去读论文。 视频最想传达的元信息是:框架每两年换一次,论文能活 50 年。一个理解了 Transformer 自注意力机制的工程师,能秒看懂任何新出的 LLM 架构(MoE、线性注意力、状态空间模型)——因为它们全是在原论文上的"加减法"。反之只会调 API 的人,每次架构迭代都要从零学起。
2. 用"延迟曲线"判断技术成熟度。 一项技术如果基础论文刚发表 2-3 年(比如某些最新的世界模型、VLA 具身智能架构),你要预期它还在"Perceptron 1958"的炒作期,随时可能迎来一次 Minsky 式的证伪寒冬。而如果论文已存在 10 年以上、但产业应用刚起步(像 1998 的 PageRank 在 2004 才真正赚钱),那它反而处于最稳的爬坡期。
3. 为你的系统找"底层论文"锚点。 做通信、做核心网的工程师尤其受益:把你每天在调的 SBI 接口、PFCP 会话、注册流程,往回追溯,会发现它们全部锚定在少数几篇标准/论文上(Lamport 的分布式时间、Codd 的关系模型、Shannon 的信道容量)。一旦建立这种"业务↔论文"的映射,排障时的判断力会发生质变——你会从"试错"切换到"从原理推导"。
4. 警惕"单层感知机陷阱"。 很多新技术在第一版Demo里看起来很弱(像 1969 年的感知机学不会 XOR),但这不代表方向错了,可能只是缺了一层隐藏层/缺了算力/缺了数据。在团队技术选型时,区分"原理性天花板"和"工程性短板",能避免你错杀未来的 AlexNet。
整个计算机世界不是被代码写出来的,是被十篇论文写出来的——而读懂这条"论文到产业的延迟曲线",比学会任何一个新框架都值钱。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
business(商业与创业)分类,可考虑近 7 天热门商业拆解类视频。youtube_transcript.py(当前受 IP 限制)。[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
