如果你只能看一个视频来真正搞懂 ChatGPT 背后到底发生了什么，那就看这一个。OpenAI 创始成员、前特斯拉 AI 高级总监 Andrej Karpathy 用 3 小时 31 分钟，从"互联网上的一段文本"一路讲到推理模型 DeepSeek-R1，把大语言模型（LLM）的完整训练栈拆给你看。这不是那种"AI 会不会毁灭人类"的口水科普，而是一场 工程师视角的硬核拆解——它会彻底改变你对"模型到底会不会思考"这件事的直觉。
而这 3.5 小时里，最反常识、最被低估的一个结论是：模型从头到尾都没见过一个字。它看到的，只是被切分成任意碎片的 token。这一个小小的工程细节，几乎是 LLM 所有"愚蠢时刻"——不会数字母、不会拼写、被一句话绕晕——的共同根源。这篇文章就带你顺着 Karpathy 的思路，把这个"万恶之源"连同整条训练流水线一次看透。
| 项目 | 内容 |
|---|---|
| 视频标题 | Deep Dive into LLMs like ChatGPT |
| 频道 | Andrej Karpathy（@AndrejKarpathy） |
| 时长 | 3 小时 31 分钟 |
| 播放量 | 793 万+ |
| 发布日期 | 2025 年 2 月 5 日 |
| 核心主题 | LLM 全栈训练原理：预训练→后训练→强化学习→推理 |
| 讲者背景 | OpenAI 创始成员(2015)、特斯拉 AI 高级总监(2017–2022)、Eureka Labs 创始人 |
视频第一章 Karpathy 就把起点摆得极其朴素：预训练的数据，就是互联网。某百科、代码仓库、论坛、书籍……数以万亿计（trillion）的 token，构成了模型的"全部世界观"。
这里他给了一个我非常喜欢的心智模型（视频中明确强调）：大语言模型，本质上是互联网的一份数据压缩。 模型并不是把网页存进数据库去检索，而是用梯度下降把海量文本里的统计规律，"揉"进了几百亿个数字参数（权重）里。当你问它问题，它是在解压这份数据、吐出最可能的下一段。
（补充：这一点为什么重要？因为它解释了模型的"知道"和"不知道"边界——模型的知识天花板，就是训练数据里出现过的内容。它不可能真正"知道"训练截止后发生的事，除非通过工具调用或检索去补。所谓"知识"，在模型里是以权重形式存在的、有损的压缩。）
这是整段视频最该反复看的一章。LLM 的输入既不是字符，也不是单词，而是 token。 分词器（tokenizer）用一套叫 BPE（Byte-Pair Encoding）的算法，把文本切成统计上最高频的碎片。于是：
hello 可能是一个 token；unbelievable 可能被切成 un + believ + able 三个 token；Karpathy 在视频里专门花了大量篇幅（而且讲了两遍——第 7 分钟讲一次，第 2 小时又用"models struggle with spelling"专门回炉），原因就在于此。他的一句名言是："分词是一切痛苦的根源"（tokenization is responsible for a lot of the issues）。
为什么这件事致命？因为模型从出生起，看到的"原子"就不是字母。它的整个数学世界都建立在 token 之上。于是会出现一连串看似荒谬的现象：
strawberry 里有几个 r，它会出错——因为它眼里根本没有 r 这个字母，只有 straw + berry 这两个 chunk；（这是我的延伸判断：很多工程师把 LLM 的随机失误归结为"模型不够聪明"。Karpathy 的视角更冷酷——这不是聪明不聪明的问题，是输入表示方式决定的系统性缺陷。只要 token 化这一层存在，这些毛病就无法靠"再大一点"彻底根除。这也是为什么业界一直在推 character-level、byte-level 乃至近期"原生多模态直接吃字节"的方向——大家都在试图绕开这个万恶之源。）
剥开一切包装，LLM 的核心数学行为极其简单：给定前面的 token，预测下一个 token 的概率分布，然后从中采样一个，拼回去，再预测下一个。 就这样循环——这叫 autoregressive（自回归）生成。
视频在"neural network I/O / inference"两章把这件事讲得清清楚楚：模型内部那些几十上百层的 Transformer、注意力机制，归根结底都是为这一个目标服务的。所谓"推理（inference）"，对模型而言没有任何神秘——就是反复做"下一步预测"，一个 token 一个 token 往外蹦。
Karpathy 当场跑了 GPT-2 和 Llama 3.1 的基座模型做演示。把基座模型当聊天机器人用会怎样？你会发现它根本不会"回答"你——它只是接着你的话往下续写。给它一句"巴黎是法国的首都"，它会自然续成一段百科式文本；给它一个问句，它可能再生成一个问句而不是答案。
（这一点是后面所有理解的基石：ChatGPT 那种"对答如流"的人格，不是预训练里长出来的，而是后天训出来的——这就引出了下一节最关键的区分。）
这是全片认知冲击最大的一节（对应 pretraining to post-training 与 post-training data 两章）。Karpathy 画了一条清晰的分界线：
换句话说：你感受到的那个有礼貌、会拒绝、会一步步帮你的 ChatGPT，是叠在基座模型之上的一层相对很薄的后训练外壳。 真正的"聪明"（知识与推理潜力）几乎全在预训练里；后训练主要塑造的是"行为和人格"。
（我的补充分析：这个区分解释了一个反直觉现象——为什么模型有时候"知道自己不该说什么但还是说了"，或者撤回前面刚说错的话。因为底层的基座知识会"渗"过那层薄薄的对齐外壳。安全对齐不是一堵墙，更像一层滤镜，强提示、越狱攻击、或模型能力变强时，底层知识就可能顶上来。这也是为什么业界把"对齐"视为一个持续的、而非一次性的工程问题。）
视频 hallucinations 一章直接戳破一个常见误解：模型并不是"有时记错"，而是它的机制里压根没有"真/假"这个开关。 它在做的始终是"生成统计上最像的下一段文本"。当训练数据里没有确切答案时，它会流畅地编一个最像样的——因为它被训练的目标就是"像"，不是"对"。
Karpathy 把模型的知识描述为存在权重里的、有损的、概率性的"工作记忆"。模型没有一个可以查询的事实数据库；它的"记忆"是被压缩进参数里的统计痕迹。所以：
（这一点直接关系到怎么用它：降低幻觉的根本不是"换个更好的提示词"，而是让模型用工具去查真东西——检索增强（RAG）、代码执行、网页搜索。视频把 tool use 和 working memory 放在一起讲，逻辑正在于此：既然模型自己记不准，那就给它外接一个"真"的记忆。）
这是近期最热、也最容易被误解的一章（models need tokens to think）。结论很反直觉：你不能让模型用一个 token 就给出复杂答案，因为"思考"本身需要消耗中间 token。
人脑可以在脑子里默默推几步再开口；但自回归模型没有这种"沉默的计算空间"——它的每一次推理，都只能通过"把中间步骤写出来当 token"来实现。你写下的每一个 token，都会成为预测下一个 token 的输入。所以：
（我的延伸：这把"智能"和"延迟/成本"直接挂了钩——想让模型更聪明地推理，就得让它烧更多 token、花更多时间。这也呼应了"推理越深、token 越贵"的经济学现实。所谓推理模型，本质是用算力换正确率。）
视频后半段把舞台交给了 强化学习（RL）（对应 reinforcement learning、DeepSeek-R1、AlphaGo、RLHF 数章）。这是 Karpathy 眼中 LLM 进化的下一个主战场，逻辑链条极其漂亮：
这正是 AlphaGo 当年做的事，也正是 DeepSeek-R1 让整个行业震动的逻辑：在有可验证奖励的领域，模型可以靠自我对弈，进化出人类示范里根本不存在的解题策略。
（这是我对全片趋势判断的总结：LLM 的故事正在从"模仿人类语言"转向"在可验证目标上自我进化"。 预训练给知识，后训练给人格，而强化学习给"超越人类的能力"。这条线是理解 2025–2026 所有模型进展的主轴。）
下图把整段视频的核心论点——一条从原始文本到推理模型的完整流水线——浓缩在一张图里：
flowchart TD
Internet["🌐 互联网语料<br/>数万亿 token"] --> Tok
Tok["✂️ 分词 BPE<br/>文本 → token 序列<br/>（模型看不见字）"] --> Pre
Pre["🏋️ 预训练<br/>预测下一个 token"] --> Base
Base["🧱 基座模型<br/>Llama 3.1 / GPT-2<br/>= 压缩的互联网<br/>能力：世界知识"]
Base --> Prod["🤖 实际产品"]
Base --> Post["🎨 后训练"]
Post --> SFT["SFT 监督微调<br/>学会对话格式"]
SFT --> RLHF["RLHF 人类反馈<br/>对齐人格/安全/有用"]
RLHF --> Chat["💬 ChatGPT<br/>对话模型<br/>能力：会聊天、有礼貌"]
Chat --> RL["🎮 强化学习<br/>可验证奖励 / 自我对弈"]
RL --> Reason["🧠 推理模型<br/>DeepSeek-R1 / o1<br/>能力：会推理、超人类"]
Chat --> Prod
Reason --> Prod
style Tok fill:#fecaca,stroke:#b91c1c,stroke-width:2px
style Base fill:#fde68a,stroke:#b45309
style Reason fill:#bfdbfe,stroke:#1d4ed8
红色高亮的"分词"节点，就是 Karpathy 反复强调的"万恶之源"——它卡在整个流水线的最前端，所有上层行为都要为它买单。
看完这 3.5 小时，对一个真正要用好 LLM 的工程师或产品人来说，能立刻转化成几条硬通货：
写提示词时，心里要有 token。 既然模型按 token 而不是按字符看世界，那么：变量名、专有名词、代码缩进、特殊符号，都可能因为"撞上 token 边界"而效果突变。给模型一个生僻的变量名不如给它一个高频、语义清晰的词；要求它处理大段数字时，让它用代码去算而不是靠脑子算。
分清你用的是 base 还是 instruct/chat。 如果你拿到的是一个未经后训练的开源基座模型，别指望它"回答问题"——它是续写器。要对话能力，得走 SFT/对齐；要稳定的事实，得接 RAG 或工具。很多"模型好笨"的抱怨，其实是用错了阶段。
想要正确率，给它思考空间。 对推理、数学、多步规划类任务，显式要求分步、或者直接用推理模型（o1/R1 类）。记住：模型没有"沉默的脑子"，思考必须变成 token 才存在。 这也意味着你要为这些 token 的延迟和成本买单。
别指望靠提示词消灭幻觉。 幻觉是"续写"机制的固有副产物。正确做法是让模型外接真源：检索、代码执行、API 调用。把"像不像"交给模型，把"对不对"交给工具。
判断模型进展，看它在 RL 上走到哪。 预训练的 scaling 已经边际递减，真正的增量来自"可验证奖励下的强化学习"。看一个新模型强不强，别光看参数和预训练数据，看它有没有在数学/代码等可验证任务上做足 RL。
ChatGPT 的全部"魔法"，不过是把互联网压进权重、再预测下一个 token，而那个让模型看不见字的分词层，才是它一切聪明与愚蠢的共同源头。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
web_search_prime）及 web_reader 均返回限流错误（限额至 2026-07-18 才恢复），搜索引擎（Google/Bing/DuckDuckGo）对 curl 返回 JS 验证页/302 拦截，遂改用 Playwright 真实浏览器 抓取 YouTube 搜索结果页，确认真实视频元数据。7xTGNNLPyMI），793 万播放、3h31m、2025-02-05 发布。youtube_transcript.py，按预期被 YouTube 云 IP 限制拦截（属文档说明的兜底情形），遂基于视频元数据 + 该主题深度专业知识完成解读。[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。