首页 › tech › 神课深读:神经网络如何认字

神课深读:神经网络如何认字——一条千万级播放的AI第一课

概述

AI新闻天天刷屏,但绝大多数人说不清“神经网络”到底是什么。把这个概念讲得最干净、至今无人超越的,仍是 3Blue1Brown 频道 2017 年的深度学习系列第一集《But what is a neural network?》。这条视频用十几分钟,把“机器认字”拆成 784 个像素、13002 个可调参数和一次下山寻路,全程没有一个比喻是含糊的。本文带你完整重读这条视频:它讲了什么、这些知识从哪来、哪些地方被简化甚至可能误导,以及普通读者能带走的三件工具。看完本文,你再看今天任何一个“千亿参数大模型”的新闻,都会有完全不同的解构能力。

数据说明:本次写作环境无法联网核验,文中播放量、日期等热度数据均来自公开历史资料,标注为约数、未经实时核验,请以频道页面实际显示为准;视频身份信息(频道、标题、系列归属)属稳定的公开常识,链接为该视频长期不变的规范地址。

视频基本信息

项目 内容
视频标题 But what is a neural network?(但神经网络到底是什么?)
所属系列 Deep learning(深度学习)系列 · 第 1 集,共 4 集
频道 3Blue1Brown(主持人:Grant Sanderson,斯坦福数学系毕业,前可汗学院数学讲师)
发布时间 2017 年 10 月
热度 千万级播放量(约数,未经实时核验);该系列长期被全球高校课程、训练营列为深度学习入门指定材料
视频地址 https://www.youtube.com/watch?v=aircAruvnKk

选片理由:这是“老视频因 AI 大潮持续翻红”的典型——2017 年它讲的是一个小众技术的入门,2026 年它讲的已经是每天都在上头条的那个行业的基本盘。理解今天 AI 的最短路径,恰恰是从这条被时代验证过的第一课开始。

一、这条视频讲了什么:从 784 个像素到一次下山

按叙事顺序,视频的论证可以拆成五步。

1. 开场钩子:认字这件“小事”,其实难到离谱

Grant 的切入方式是所有人都有体感的场景:你一眼就能认出这是手写的"3",哪怕它歪斜、潦草、粗细不一。但如果你试图给计算机写规则——“上方有个尖、下方有开口就是 3"——写不了几条就会崩溃。字体千变万化,规则永远漏。这个开场精确地建立了整节课的张力:对人类简单到不存在的事,恰恰是传统编程的无解区。这也是为什么“认字”能当整个深度学习的代言人:它足够小(一张 28×28 的灰度图),又足够难(无法用 if-else 枚举)。

2. 第一步去魅:神经元只是一个装数字的格子

视频最有价值的教学决策,是先杀死神秘感。所谓神经元,就是 0 到 1 之间的一个数值,叫“激活值”;所谓神经网络,就是一堆格子按层排列。整层激活值可以画成一列亮度的柱子——激活值高就亮,低就暗。这个“网络是一幅明暗图”的视角,把生物类比、智能隐喻全部暂时清空,只留下一个纯数学结构。后面的一切推理都建立在这个去魅后的地基上:如果它只是格子,那“学习”就只能是调数字,问题立刻从哲学降维成工程。

3. 结构盘点:784 → 16 → 16 → 10,以及那个著名的“没有为什么”

输入层 784 个神经元,对应 28×28=784 个像素的亮度;输出层 10 个,对应数字 0-9;中间夹两层隐藏层,每层 16 个。Grant 在这里埋了整节课最容易被忽略、也最重要的一句话:为什么是两层、为什么每层 16 个?——没有为什么,就是个选择。这类人为拍板的数值叫超参数。这句话的分量在于划清了“设计”与“选择”的边界:网络结构是选择,而结构里那 13002 个权重和偏置才是留给“学习”去填的东西。顺便算一笔账:784×16 + 16×16 + 16×10 = 12960 个连接权重,再加每层 42 个偏置,共 13002 个参数。这个小到能在黑板上画出来的网络,和今天的大模型在数学结构上没有任何本质区别,只是参数量从 13002 涨到了千亿级。

4. “学习”的翻译:成本函数与梯度下降

接着视频完成了全片最关键的概念迁移:把“学会认字”翻译成“最小化一个函数”。做法是给网络出 10000 道题,把每次“输出与正确答案的差距平方”加总,得到一个数——成本函数。识别得好,这个数就小;识别得烂,就大。于是“训练网络”变成了一个无比清晰的目标:调那 13002 个旋钮,让成本函数的值尽可能小。怎么调?求梯度。梯度指向成本上升最快的方向,那就反着走——沿最陡的下坡迈一步,再求梯度,再走。Grant 用山谷地形图讲这一段:你站在山坡上,看不见整座山,只能摸到脚下的坡度,那就永远朝最陡的下坡走。这个比喻几乎原样照搬自微积分教材,但它后面藏着极深的水——13002 维空间里的“地形”长什么样,是人类无法直观想象的,视频第二集会回头补刀。

5. 诚实留白:它没告诉你的,它自己接着讲了

第一集在“梯度下降”处收尾,把反向传播留给第二集。同样重要的是,系列第二集坦白了一件让很多观众失落的事:Grant 原本期待隐藏层的神经元会学会“识别这里有一条弧线”“这里有一个圈”这样人类可读的部件,但把训练好的权重可视化之后,看到的更像噪声——网络确实学会了认字,但它的“思路”和人类的直觉完全不同路。这个坦白让整个系列的教学品格立住了:它不负责让你觉得 AI 神奇,它负责让你准确理解 AI。而这份“看不懂的网络内部”欠下的债,直到今天,全世界的可解释性研究都还在还。

二、知识与理论溯源:视频背后横跨 80 年的接力

这条视频里的每一个概念都不是 2017 年的发明,把时间轴拉出来,你会看到一部浓缩的 AI 史。

把这些连起来看,这条视频讲的不是“一个新东西”,而是一条被反复证伪又重建、最终吞下整个行业的传统。今天 GPT-3 的 1750 亿参数,约是视频里那个 13002 参数小网络的 1300 万倍;参数涨了一千多万倍,训练的核心机制依然是“成本函数 + 梯度下降 + 反向传播”。这就是它值得重读的硬理由。

三、批判性审查:哪些站得住,哪些要打折扣

站得住的部分:视频的全部数学定义——激活值、权重、成本函数、负梯度方向——都可直接计算、可复现,任何人按 Nielsen 的免费教材用百来行代码就能复刻出 96% 上下的成绩,这是它区别于绝大多数“AI 神奇故事”视频的根本之处。13,002 这个参数计数,本身就是最好的去魅教学。

需要打折扣的部分,有四处值得指出:

  1. “神经元”是修辞,不是生物学。 视频里的神经元没有脉冲、没有时序、没有神经递质,只是一个带偏置的非线性函数。3B1B 在处理上并没有撒谎,但“神经网络”这个词天然携带的生物学联想,会让不少观众误以为这是对大脑的模拟——真实的大脑学习机制与此相去甚远,这仍是神经科学的未解问题。
  2. 96% 不是天花板。 由于选用了全连接层(每个像素连向每个神经元),演示网络看不到图像的二维空间结构。卷积网络在同一个 MNIST 上能拿到 99.7% 以上。视频为教学清晰做的这个取舍,可能让观众高估了“AI 认字的极限”。
  3. “各层识别部件”的直觉是错的。 第一集播放时,很多观众带走的理解是“第二层认弧线、第三层拼部件”。系列第二集自己推翻了它:真实学到的权重可视化后接近噪声。今天大模型的可解释性研究(机制可解释性)之所以艰难,根子在这条视频里就已经露头。
  4. “下山”比喻掩盖了高维地形的怪异。 在 13002 维空间里,鞍点、平坦区、梯度消失等问题让“一路下坡到谷底”的想象严重失真。视频第二集讨论了其中一部分,但只看第一集的人会以为训练就是顺滑地下山——真实的训练是玄学气息浓重的工程调参。

另外一个时效性提醒:视频没有、也不可能覆盖 2017 年后的注意力机制与预训练范式。但需要强调,这不是缺陷——Transformer 的每个注意力头内部依然是矩阵乘法加非线性激活,最终依然由梯度下降训练。基本盘没有变,只是楼越盖越高。

四、认知提升与实用启示

第一条:用百行代码把比喻变成手感。 打开 TensorFlow Playground(playground.tensorflow.org),拖几个神经元、按一下训练按钮,看着决策边界一格格长出来——十分钟获得的体感超过读十篇公众号。进阶可跟随 Michael Nielsen 的免费在线书《Neural Networks and Deep Learning》手写一个 MNIST 识别器。“学习”这个概念只有亲手调过那几个旋钮才算真正拥有。

第二条:用“参数=旋钮”的框架给一切 AI 新闻祛魅。 下次看到“XX 亿参数”“XX 算力训练”,直接翻译:这是那个 13002 旋钮小网络的一亿倍版本,旋钮仍然是靠做题、算误差、下山调出来的。它回答的是“这东西怎么练成的”,至于“它理解不理解”——视频第二集的噪声权重已经提示你:连它的发明者都需要专门的研究才能看懂它。用这个框架读新闻,营销话术会自动褪色一半。

第三条:学任何 AI 概念,先问“成本函数是什么”。 这是整条视频最重要的思想迁移:把模糊的目标(认字、对话、写代码)翻译成一个可计算的数字(误差),再让算法自动逼近它。这是整个 AI 工程的心智模型,反过来也是判断产品的试金石——讲不清自己在优化什么指标的“AI 产品”,多半只是换了皮的传统软件。

视频论证结构图

flowchart TD
    A["28×28手写数字<br/>784个像素"] --> B["两层隐藏层<br/>各16个神经元"]
    B --> C["权重与偏置<br/>共13002个参数"]
    C --> D["成本函数<br/>输出与答案的误差"]
    D --> E["负梯度方向<br/>沿最陡下坡调参"]
    E --> F["反向传播<br/>误差层层分摊"]
    F --> D
    F --> G["测试集识别率<br/>约96%"]
    G --> H["同一套机制<br/>撑起千亿参数大模型"]

延伸阅读

  1. 3Blue1Brown 深度学习系列第 2 集《Gradient descent, how neural networks learn》——第一集所有留白的正面回答:反向传播到底在算什么,以及“学到的权重像噪声”的诚实揭示。在 YouTube 搜索频道名加标题即可找到。
  2. Michael Nielsen《Neural Networks and Deep Learning》(neuralnetworksanddeeplearning.com)——免费在线书,用约百行 Python 复刻视频里的全部内容,是从“看懂”到“会做”的最短桥梁。

参考来源

  1. But what is a neural network? — 3Blue1Brown — 本文解读的原视频,深度学习系列第一集
  2. Michael Nielsen, Neural Networks and Deep Learning — 免费教材,MNIST 实验细节与成绩复现出处
  3. Rumelhart, Hinton & Williams (1986), Learning representations by back-propagating errors, Nature 323 — 反向传播的奠基论文
  4. The MNIST Database of handwritten digits — Yann LeCun — 视频所用数据集的官方页面(60000/10000、28×28 等规格出处)
  5. TensorFlow Playground — 浏览器里可视化训练神经网络的交互工具

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入