# AI算力热潮下，重读这条千万播放的GPU架构神作 ## 概述 2026年最确定的科技叙事是什么？是AI算力的军备竞赛：万卡集群、 gigawatt 级数据中心、一卡难求的AI加速器。但当所有人都在谈论“算力”这两个字时，真正能讲清楚**一块GPU内部到底发生了什么**的科普内容凤毛麟角。Branch Education 的《How do Graphics Cards Work? Exploring GPU Architecture》（显卡是如何工作的？探索GPU架构）正是这样一条被AI浪潮重新“激活”的经典硬核拆解视频：它以 RTX 4090 的 AD102 芯片为主角，从763亿颗晶体管一路讲到显存里飞驰的电信号，被大量计算机专业学生和工程师当作“GPU架构入门第一课”。本文带你逐段吸收这条视频的知识内核，补上它没展开的理论脉络，并指出它简化甚至略有夸大的地方——看完这篇，等于看完视频还多懂一层。 ## 视频基本信息 | 项目 | 内容 | |------|------| | 视频标题 | How do Graphics Cards Work? Exploring GPU Architecture（显卡是如何工作的？探索GPU架构） | | 频道 | Branch Education | | 发布时间 | 2023年10月 | | 时长 | 约25分钟（3D动画解析长片） | | 热度 | 播放量超过1000万，是该频道播放量最高的作品之一 | | 数据说明 | 注：本文撰写环境无法实时访问YouTube页面核验即时数据，以上为撰稿时依据公开资料整理的约数，精确数字请以频道页面为准 | > **为什么是现在重读它？** 2025年以来，GPU从“游戏玩家关心的硬件”变成了“国家竞争力的计量单位”。当新闻里反复出现“十万卡集群”“HBM显存""Blackwell"这些词时，这条2023年的老视频反而成了理解当下一切的地图——它讲的基本架构逻辑（并行、存储层次、带宽）至今没有任何过时。 ## 一、核心主张拆解：视频讲了什么 ### 1. 开场：一块显卡是一座三维芯片城市 视频的叙事从一次震撼的“缩放之旅”开始：从你手上的显卡，到PCB板上的GPU封装，再到 AD102 这块约600平方毫米的硅片，最终落到单颗晶体管——整块芯片集成了约 **763亿颗晶体管**，采用台积电 4N 定制工艺制造。Branch Education 标志性的3D动画把芯片内部画成一座立体城市：电流在纵横交错的金属线路中穿行，如同城市里的车流。 这个开场设计暗含了全片最重要的认知框架：**显卡不是一个“零件”，而是一个高度组织化的计算社会**——几十亿个微型计算单元（CUDA核心）、一个管理交通的调度系统（SM内的warp调度器）、一套分级的仓储物流（缓存与显存）。理解了“城市”这个比喻，后面所有细节都有了挂靠点。 ### 2. GPU与CPU的根本分野：延迟优先 vs 吞吐优先 视频用一组对比讲清了GPU存在的理由。CPU像几位资深专家：核心数量少（几个到几十个）、每个核心极其强大、拥有大容量缓存和复杂的分支预测、乱序执行机制，一切设计为了**尽快完成一件复杂任务**——这是延迟优先。 GPU则像一支百万大军：AD102 上有 **16384个CUDA核心**（分布在128个流式多处理器SM中），每个核心简单、弱小，但它们一起**同时处理海量简单任务**——这是吞吐优先。 视频给出的判断标准非常清晰：如果你的任务可以拆成一万份一模一样的简单工作（比如渲染两百万个像素、给矩阵做乘法），GPU快几个数量级；如果任务充满分支、依赖和串行逻辑（比如操作系统调度、数据库事务），CPU依然是王。 ### 3. 存储层次：真正的瓶颈不在计算，在搬运 这是全片最有含金量的段落。视频展示了一个残酷的事实：计算核心的速度远超内存的供料速度。为了喂饱16384个核心，GPU设计了一套五级“物流体系”： - **寄存器**：每个核心私有的最快速存储，皮秒级访问； - **L1缓存**：每个SM内部的小容量高速缓存； - **L2缓存**：整块芯片共享的约72MB SRAM； - **GDDR6X显存**：24GB大容量主显存，带宽约1TB/s； - **系统内存**：通过PCIe总线访问，最慢但最大。 视频用显微镜级动画对比了两种存储单元的物理结构：SRAM用6个晶体管存1个比特，快但贵且占面积；DRAM用1个晶体管加1个电容存1个比特，便宜密集但需要持续刷新。**芯片设计者的一切艺术，就是在“快而贵”和“慢而便宜”之间搭梯子。** ### 4. GDDR6X与PAM4：显存里的信号魔术 视频后半段聚焦了一个极少有人科普的细节：GDDR6X 如何做到惊人的带宽。答案是 **PAM4（四电平脉冲幅度调制）**——传统信号每个时钟周期只传“高”或“低”两种电平（1比特），PAM4 一次传四种电平（2比特），数据速率直接翻倍。 代价同样被讲清楚了：四种电平挤在同一个电压区间里，彼此距离极近，噪声余量大幅缩小，误码率上升，因此 GDDR6X 的功耗和发热显著高于传统方案——这也是高端显卡显存需要散热垫、甚至玩家给显存加装散热片的原因。这个“用信号复杂度换带宽”的工程取舍，正是当下AI芯片显存竞赛（GDDR7、HBM）的缩影。 ### 5. 收尾伏笔：游戏显卡如何喂养了AI 视频结尾简短提到 Tensor Core（张量核心）和 AI 计算——在原片中这只是一笔带过，但放在2026年回看，这恰恰是最重要的一笔。游戏产业用二十年时间补贴了“大规模并行计算”这门手艺的成熟，而当深度学习需要海量矩阵乘法时，人们发现：**为像素而生的大军，恰好也是为矩阵而生的大军。** 2007年 CUDA 平台发布后，“用游戏硬件做通用并行计算”从黑客的玩具变成了整个AI时代的地基。 ## 二、知识与理论溯源：视频背后的真实脉络 视频本身几乎没有点名任何理论，但它涉及的每一块内容背后都站着真实的学术与工程史，这也是它值得“深读一层”的原因： **冯·诺依曼瓶颈与“内存墙”。** 1977年，图灵奖得主约翰·巴科斯（John Backus）在图灵奖演讲《Can Programming Be Liberated from the von Neumann Style?》中正式命名了“冯·诺依曼瓶颈”——处理器与内存之间狭窄的通道限制了整体性能。1995年，Wulf 和 McKee 发表著名论文《Hitting the Memory Wall: Implications of the Obvious》，警告“内存墙”问题将愈演愈烈。视频中展示的整套缓存层次，正是工程界对此近四十年的回应。 **Flynn分类法与SIMT。** 1966年，斯坦福的迈克尔·弗林（Michael Flynn）提出计算机体系结构的经典分类：SISD、SIMD、MISD、MIMD。GPU的执行模型 SIMT（单指令多线程）是 SIMD 思想的现代演化——一条指令驱动成千上万个线程，这正是“百万大军”比喻的学术出处。 **摩尔定律与丹纳德缩放。** 1965年戈登·摩尔（Gordon Moore）提出晶体管密度约每两年翻倍的预言；1974年罗伯特·丹纳德（Robert Dennard）指出晶体管缩小时功耗密度不变。AD102 的763亿晶体管是摩尔定律最后的余晖之一——而丹纳德缩放在2005年前后失效，正是行业被迫转向“并行化”这条路的根本原因。**GPU的崛起不是工程师的心血来潮，而是物理定律逼出来的产业选择。** **阿姆达尔定律。** 1967年吉恩·阿姆达尔（Gene Amdahl）指出：并行加速比受限于程序中必须串行的部分——即使95%的代码并行化，剩余5%也决定了加速比上限不超过20倍。这是理解“GPU并非万能”的数学基石。 **CUDA与GPGPU运动。** 2004年前后，斯坦福的伊恩·巴克（Ian Buck）开发了 BrookGPU，让研究者能用类C语言写GPU程序；2007年 NVIDIA 将其招入麾下并发布 CUDA 平台，开启 GPGPU（通用GPU计算）时代。视频里轻描淡写的 Tensor Core，血缘可以直接追溯到这段历史。 **“硬件彩票”。** 2020年，谷歌大脑研究员 Sara Hooker 发表引起广泛讨论的文章《The Hardware Lottery》，指出研究进展往往被“恰好赢下彩票的硬件形态”绑架——今天的深度学习 victories 某种程度上是GPU的胜利，而非算法必然的胜利。这是批判性看待“GPU中心叙事”的最佳镜片。 ```mermaid flowchart TD A[物理约束: 丹纳德缩放失效 2005] --> B[单核性能增长停滞] B --> C[产业转向并行化] D[摩尔定律: 晶体管持续增多] --> E[芯片预算: 763亿晶体管怎么花?] E --> F[GPU方案: 16384个简单核心
吞吐优先] E --> G[CPU方案: 少量复杂核心
延迟优先] F --> H[瓶颈: 内存墙 1995
计算快, 供料慢] H --> I[五级存储层次
寄存器-L1-L2-GDDR6X-系统内存] I --> J[显存技术: GDDR6X + PAM4
四电平信号换带宽] J --> K[代价: 噪声余量小, 功耗发热高] F --> L[软件层: CUDA 2007
GPGPU运动] L --> M[游戏大军恰好适合矩阵乘法] M --> N[AI算力时代: Tensor Core 与万卡集群] K --> O[工程本质: 一切都是取舍
快而贵 vs 慢而便宜] N --> O ``` ## 三、批判性审查：哪些可信，哪些要打折 **证据充分的部分。** 视频中所有关于 AD102/RTX 4090 的规格数字（763亿晶体管、128个SM、16384个CUDA核心、24GB GDDR6X、约1TB/s带宽、450W功耗）均与 NVIDIA 官方 Ada 架构白皮书一致，属于可交叉验证的硬事实。SRAM/DRAM 单元结构、PAM4 调制原理也都是教科书级内容，无争议。存储层次的讲解是目前中文互联网上难得的正确版本——大量二手科普把“显存带宽”和“缓存命中率”混为一谈，这条视频没有犯这个错。 **被简化或需要打折的部分。** 1. **“晶体管多=性能强”的暗示要小心。** 763亿晶体管听起来吓人，但良率、频率、功耗墙、软件生态同样决定最终性能。A100 的晶体管数远少于 AD102，却在数据中心价值千倍于此——芯片的价值从来不在晶体管总数。 2. **单一厂商视角。** 全片以 NVIDIA 一家为标本，AMD 的 RDNA 架构（Infinity Cache 设计哲学完全不同）和 Intel 的 Xe 架构未展开。把“RTX 4090 的做法”等同于“GPU的做法”是一种幸存者偏差。 3. **数据中心GPU被完全省略。** 真正支撑2026年AI浪潮的是 H100/B200 这类配 HBM 显存的加速卡——HBM 通过硅中介层与GPU封装在一起，带宽可达3TB/s以上，与游戏卡的 GDDR6X 是两条技术路线。视频没有讲这条线，而它恰恰是今天新闻的主角。 4. **“能并行就快”的隐含假设。** 按阿姆达尔定律，真实负载中总有串行部分；大量日常任务（网页、办公、多数业务代码）GPU帮助有限。视频中“百万大军”的比喻极具感染力，但观众容易把它泛化成“GPU万能论”。 **存在争议的部分。** 视频把 Tensor Core/AI 当作光明的尾声，但产业界对“GPU是否是AI芯片的终极形态”远无共识：谷歌 TPU、各类 ASIC、可重构架构（FPGA）、存算一体芯片都在挑战“用图形芯片跑神经网络”这一历史路径。Sara Hooker 的“硬件彩票”论更是直接提醒：**我们今天的AI成就，部分是踩中了游戏产业遗留的硬件形态，而非架构设计的最优解。** ## 四、认知提升与实用启示 **1. 建立“带宽优先”的采购与选型思维。** 无论你是买显卡跑本地大模型，还是租云GPU训练，第一个该看的指标不是峰值算力（TFLOPS），而是**显存容量和显存带宽**。绝大多数“推理太慢”“训练爆显存”的问题，瓶颈在搬运不在计算。记住视频里那套五级梯子：数据离计算核心越近，越快；预算应该优先花在把数据“搬近”的地方。 **2. 用“延迟vs吞吐”二分法给一切性能问题定位。** 这对概念是本视频最值得带走的思维工具。程序慢？先判断是延迟型瓶颈（等待串行依赖、磁盘/网络往返）还是吞吐型瓶颈（处理量超出并行能力）。前者优化方向是缓存、预取、异步；后者才是并行化、批处理。方向搞反，优化等于白干。 **3. 把“存储层次”内化为个人工作流的隐喻。** 芯片设计者的智慧在于：让最常用的数据待在最快的地方。映射到人的工作：高频参考资料放“寄存器”（随手可见的笔记），次高频放“L2”（本地知识库），低频放“显存”（云端归档）。你感到“切换成本高、效率低”，往往不是算力不够，而是把热数据放在了离自己太远的层级。 ## 延伸阅读 1. Branch Education 另一部姊妹篇《How does Computer Hardware Work?》系列中关于 DRAM 与缓存机制的分集——与本片构成“计算+存储”完整拼图，可在其官方频道页面按播放量排序找到。 2. NVIDIA 官方 Ada GPU 架构白皮书——视频中所有规格数字的一手出处，适合想深入寄存器级细节的读者。 ## 参考来源 1. [Branch Education 官方频道页](https://www.youtube.com/@BranchEducation) — 视频出处频道，3D工程拆解类头部知识频道 5. [NVIDIA Ada GPU Architecture 白皮书页面](https://www.nvidia.com/en-us/geforce/ada-gpu-architecture/) — 763亿晶体管等官方规格一手来源 --- > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 > 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。