2026年最确定的科技叙事是什么？是AI算力的军备竞赛：万卡集群、 gigawatt 级数据中心、一卡难求的AI加速器。但当所有人都在谈论“算力”这两个字时，真正能讲清楚一块GPU内部到底发生了什么的科普内容凤毛麟角。Branch Education 的《How do Graphics Cards Work? Exploring GPU Architecture》（显卡是如何工作的？探索GPU架构）正是这样一条被AI浪潮重新“激活”的经典硬核拆解视频：它以 RTX 4090 的 AD102 芯片为主角，从763亿颗晶体管一路讲到显存里飞驰的电信号，被大量计算机专业学生和工程师当作“GPU架构入门第一课”。本文带你逐段吸收这条视频的知识内核，补上它没展开的理论脉络，并指出它简化甚至略有夸大的地方——看完这篇，等于看完视频还多懂一层。
| 项目 | 内容 |
|---|---|
| 视频标题 | How do Graphics Cards Work? Exploring GPU Architecture（显卡是如何工作的？探索GPU架构） |
| 频道 | Branch Education |
| 发布时间 | 2023年10月 |
| 时长 | 约25分钟（3D动画解析长片） |
| 热度 | 播放量超过1000万，是该频道播放量最高的作品之一 |
| 数据说明 | 注：本文撰写环境无法实时访问YouTube页面核验即时数据，以上为撰稿时依据公开资料整理的约数，精确数字请以频道页面为准 |
为什么是现在重读它？ 2025年以来，GPU从“游戏玩家关心的硬件”变成了“国家竞争力的计量单位”。当新闻里反复出现“十万卡集群”“HBM显存""Blackwell"这些词时，这条2023年的老视频反而成了理解当下一切的地图——它讲的基本架构逻辑（并行、存储层次、带宽）至今没有任何过时。
视频的叙事从一次震撼的“缩放之旅”开始：从你手上的显卡，到PCB板上的GPU封装，再到 AD102 这块约600平方毫米的硅片，最终落到单颗晶体管——整块芯片集成了约 763亿颗晶体管，采用台积电 4N 定制工艺制造。Branch Education 标志性的3D动画把芯片内部画成一座立体城市：电流在纵横交错的金属线路中穿行，如同城市里的车流。
这个开场设计暗含了全片最重要的认知框架：显卡不是一个“零件”，而是一个高度组织化的计算社会——几十亿个微型计算单元（CUDA核心）、一个管理交通的调度系统（SM内的warp调度器）、一套分级的仓储物流（缓存与显存）。理解了“城市”这个比喻，后面所有细节都有了挂靠点。
视频用一组对比讲清了GPU存在的理由。CPU像几位资深专家：核心数量少（几个到几十个）、每个核心极其强大、拥有大容量缓存和复杂的分支预测、乱序执行机制，一切设计为了尽快完成一件复杂任务——这是延迟优先。
GPU则像一支百万大军：AD102 上有 16384个CUDA核心（分布在128个流式多处理器SM中），每个核心简单、弱小，但它们一起同时处理海量简单任务——这是吞吐优先。
视频给出的判断标准非常清晰：如果你的任务可以拆成一万份一模一样的简单工作（比如渲染两百万个像素、给矩阵做乘法），GPU快几个数量级；如果任务充满分支、依赖和串行逻辑（比如操作系统调度、数据库事务），CPU依然是王。
这是全片最有含金量的段落。视频展示了一个残酷的事实：计算核心的速度远超内存的供料速度。为了喂饱16384个核心，GPU设计了一套五级“物流体系”：
视频用显微镜级动画对比了两种存储单元的物理结构：SRAM用6个晶体管存1个比特，快但贵且占面积；DRAM用1个晶体管加1个电容存1个比特，便宜密集但需要持续刷新。芯片设计者的一切艺术，就是在“快而贵”和“慢而便宜”之间搭梯子。
视频后半段聚焦了一个极少有人科普的细节：GDDR6X 如何做到惊人的带宽。答案是 PAM4（四电平脉冲幅度调制）——传统信号每个时钟周期只传“高”或“低”两种电平（1比特），PAM4 一次传四种电平（2比特），数据速率直接翻倍。
代价同样被讲清楚了：四种电平挤在同一个电压区间里，彼此距离极近，噪声余量大幅缩小，误码率上升，因此 GDDR6X 的功耗和发热显著高于传统方案——这也是高端显卡显存需要散热垫、甚至玩家给显存加装散热片的原因。这个“用信号复杂度换带宽”的工程取舍，正是当下AI芯片显存竞赛（GDDR7、HBM）的缩影。
视频结尾简短提到 Tensor Core（张量核心）和 AI 计算——在原片中这只是一笔带过，但放在2026年回看，这恰恰是最重要的一笔。游戏产业用二十年时间补贴了“大规模并行计算”这门手艺的成熟，而当深度学习需要海量矩阵乘法时，人们发现：为像素而生的大军，恰好也是为矩阵而生的大军。 2007年 CUDA 平台发布后，“用游戏硬件做通用并行计算”从黑客的玩具变成了整个AI时代的地基。
视频本身几乎没有点名任何理论，但它涉及的每一块内容背后都站着真实的学术与工程史，这也是它值得“深读一层”的原因：
冯·诺依曼瓶颈与“内存墙”。 1977年，图灵奖得主约翰·巴科斯（John Backus）在图灵奖演讲《Can Programming Be Liberated from the von Neumann Style?》中正式命名了“冯·诺依曼瓶颈”——处理器与内存之间狭窄的通道限制了整体性能。1995年，Wulf 和 McKee 发表著名论文《Hitting the Memory Wall: Implications of the Obvious》，警告“内存墙”问题将愈演愈烈。视频中展示的整套缓存层次，正是工程界对此近四十年的回应。
Flynn分类法与SIMT。 1966年，斯坦福的迈克尔·弗林（Michael Flynn）提出计算机体系结构的经典分类：SISD、SIMD、MISD、MIMD。GPU的执行模型 SIMT（单指令多线程）是 SIMD 思想的现代演化——一条指令驱动成千上万个线程，这正是“百万大军”比喻的学术出处。
摩尔定律与丹纳德缩放。 1965年戈登·摩尔（Gordon Moore）提出晶体管密度约每两年翻倍的预言；1974年罗伯特·丹纳德（Robert Dennard）指出晶体管缩小时功耗密度不变。AD102 的763亿晶体管是摩尔定律最后的余晖之一——而丹纳德缩放在2005年前后失效，正是行业被迫转向“并行化”这条路的根本原因。GPU的崛起不是工程师的心血来潮，而是物理定律逼出来的产业选择。
阿姆达尔定律。 1967年吉恩·阿姆达尔（Gene Amdahl）指出：并行加速比受限于程序中必须串行的部分——即使95%的代码并行化，剩余5%也决定了加速比上限不超过20倍。这是理解“GPU并非万能”的数学基石。
CUDA与GPGPU运动。 2004年前后，斯坦福的伊恩·巴克（Ian Buck）开发了 BrookGPU，让研究者能用类C语言写GPU程序；2007年 NVIDIA 将其招入麾下并发布 CUDA 平台，开启 GPGPU（通用GPU计算）时代。视频里轻描淡写的 Tensor Core，血缘可以直接追溯到这段历史。
“硬件彩票”。 2020年，谷歌大脑研究员 Sara Hooker 发表引起广泛讨论的文章《The Hardware Lottery》，指出研究进展往往被“恰好赢下彩票的硬件形态”绑架——今天的深度学习 victories 某种程度上是GPU的胜利，而非算法必然的胜利。这是批判性看待“GPU中心叙事”的最佳镜片。
flowchart TD
A[物理约束: 丹纳德缩放失效 2005] --> B[单核性能增长停滞]
B --> C[产业转向并行化]
D[摩尔定律: 晶体管持续增多] --> E[芯片预算: 763亿晶体管怎么花?]
E --> F[GPU方案: 16384个简单核心<br/>吞吐优先]
E --> G[CPU方案: 少量复杂核心<br/>延迟优先]
F --> H[瓶颈: 内存墙 1995<br/>计算快, 供料慢]
H --> I[五级存储层次<br/>寄存器-L1-L2-GDDR6X-系统内存]
I --> J[显存技术: GDDR6X + PAM4<br/>四电平信号换带宽]
J --> K[代价: 噪声余量小, 功耗发热高]
F --> L[软件层: CUDA 2007<br/>GPGPU运动]
L --> M[游戏大军恰好适合矩阵乘法]
M --> N[AI算力时代: Tensor Core 与万卡集群]
K --> O[工程本质: 一切都是取舍<br/>快而贵 vs 慢而便宜]
N --> O
证据充分的部分。 视频中所有关于 AD102/RTX 4090 的规格数字（763亿晶体管、128个SM、16384个CUDA核心、24GB GDDR6X、约1TB/s带宽、450W功耗）均与 NVIDIA 官方 Ada 架构白皮书一致，属于可交叉验证的硬事实。SRAM/DRAM 单元结构、PAM4 调制原理也都是教科书级内容，无争议。存储层次的讲解是目前中文互联网上难得的正确版本——大量二手科普把“显存带宽”和“缓存命中率”混为一谈，这条视频没有犯这个错。
被简化或需要打折的部分。
存在争议的部分。 视频把 Tensor Core/AI 当作光明的尾声，但产业界对“GPU是否是AI芯片的终极形态”远无共识：谷歌 TPU、各类 ASIC、可重构架构（FPGA）、存算一体芯片都在挑战“用图形芯片跑神经网络”这一历史路径。Sara Hooker 的“硬件彩票”论更是直接提醒：我们今天的AI成就，部分是踩中了游戏产业遗留的硬件形态，而非架构设计的最优解。
1. 建立“带宽优先”的采购与选型思维。 无论你是买显卡跑本地大模型，还是租云GPU训练，第一个该看的指标不是峰值算力（TFLOPS），而是显存容量和显存带宽。绝大多数“推理太慢”“训练爆显存”的问题，瓶颈在搬运不在计算。记住视频里那套五级梯子：数据离计算核心越近，越快；预算应该优先花在把数据“搬近”的地方。
2. 用“延迟vs吞吐”二分法给一切性能问题定位。 这对概念是本视频最值得带走的思维工具。程序慢？先判断是延迟型瓶颈（等待串行依赖、磁盘/网络往返）还是吞吐型瓶颈（处理量超出并行能力）。前者优化方向是缓存、预取、异步；后者才是并行化、批处理。方向搞反，优化等于白干。
3. 把“存储层次”内化为个人工作流的隐喻。 芯片设计者的智慧在于：让最常用的数据待在最快的地方。映射到人的工作：高频参考资料放“寄存器”（随手可见的笔记），次高频放“L2”（本地知识库），低频放“显存”（云端归档）。你感到“切换成本高、效率低”，往往不是算力不够，而是把热数据放在了离自己太远的层级。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。