在AI吞噬全球算力的2026年,回看Branch Education这条GPU架构科普神课,会有一种“预言成真”的震撼:它用一条渲染管线的旅程,把“为什么GPU能画游戏,也能跑大模型”讲得明明白白。这条视频是无数程序员、硬件工程师和AI从业者的共同启蒙课,在AI热潮中持续被算法重新推荐,成为该频道播放量最高的作品之一。本文带你逐段拆解它的论证结构,补上视频没展开的AI部分,并指出几处它为了教学而做的简化——看完这篇,你对“算力”两个字的理解会深一层。
| 项目 | 内容 |
|---|---|
| 视频标题 | How do Graphics Cards Work? Exploring GPU Architecture |
| 中文译名 | 显卡是如何工作的?探索GPU架构 |
| 频道 | Branch Education(工程科普频道,以3D动画拆解计算机硬件著称,订阅数为百万级) |
| 发布时间 | 2022年(据频道页面归档信息,本篇撰写环境未能实时核验精确日期) |
| 播放量 | 千万级爆款,是该频道旗舰作品之一(据频道页面历史数据,实时数据请以频道页为准) |
| 数据说明 | 本篇基于频道公开页面信息与视频内容整理;因撰写环境无法实时抓取,播放量与订阅数均为量级描述,精确数字以频道页面实时显示为准 |
这条视频全长二十多分钟,论证结构极其工整,像一座五层递进的塔。按叙事顺序拆开,每一层都在为下一层铺路。
视频从一个问题切入:你的屏幕上,一帧4K画面大约有830万个像素;要让画面以每秒60帧流畅滚动,显卡每秒就要产出约5亿个像素。而这还只是“写进”屏幕的数量——实际渲染中,一个像素往往要被反复计算多次:物体互相遮挡需要反复覆盖(overdraw),阴影、反射、抗锯齿都要在像素之外追加计算量。再叠加游戏引擎要求的每帧必须在约16.6毫秒内完成(1000毫秒÷60帧),留给每个像素的预算只有纳秒级。
这个开头的功能是制造“算力饥渴”:观众先被灌入“图形渲染是个天文数字工程”的直觉,才会真心接受后面“必须换一种计算组织方式”的结论。
在确认了问题规模之后,视频抛出全片最核心的对比:CPU和GPU到底是两种什么动物。
CPU的核心策略是“延迟最小化”——用少量几个极其强大的核心,配大容量缓存、分支预测、乱序执行等一堆精巧机制,目的是让单个任务尽快完成。视频把CPU比作几位顶尖教授:给你解一道偏微分方程,快得惊人。
GPU的策略则完全相反,是“吞吐最大化”——把几千上万个结构简单的小核心塞进一块芯片,每个核心都不快,但它们同时干活。视频的比喻是:这就像一万个小学生 vs 一位教授。抄一万页作业,教授抄到明年,小学生军团十分钟干完。
关键在于:图形渲染恰好是后一种任务。屏幕上几百万个像素,每个像素执行的是同一段着色程序,彼此之间几乎不依赖——你算左下角那个像素的颜色,不需要知道右上角像素算出了什么。这类“任务海量、程序相同、互相独立”的负载,在并行计算里有个形象的名字:embarrassingly parallel(尴尬并行,意指“并行到毫无技术含量”)。GPU就是为这类负载而生的机器。
第三段是视频的视觉高潮:用3D动画完整走了一遍渲染管线(rendering pipeline)。这一段的知识密度最高,值得逐步还原:
视频反复强调一个设计哲学:GPU里堆着成千上万个着色器核心,每一帧,这几千个核心都在对几百万个像素执行同一套程序。硬件架构与任务形态严丝合缝地咬合,这才是GPU效率的真正来源——不是“核心多”这么一句口号,而是“多核心”与“可并行的任务”之间的匹配。
第四层是大多数显卡科普会略过、而这支视频专门用一节来讲的内容:显存。
几千个核心同时开工,每秒要读写的天量数据(纹理、几何、帧缓冲)从哪来?答案是显卡上紧贴着GPU芯片的专用显存——GDDR显存。视频指出关键数字:现代GDDR显存的带宽可达每秒数百GB乃至接近1TB级别,而普通电脑CPU使用的DDR内存带宽通常只有几十GB/s。两者相差一个数量级。
为什么差这么多?因为设计目标不同:DDR内存追求容量与成本,为CPU“随机、琐碎”的访问模式优化;GDDR显存放弃容量,把所有电路预算砸在“极宽的位宽+极高的吞吐”上,伺候GPU“成块、连续”的读取习惯。
这一段埋了一个贯穿全片的暗线:决定性能的往往不是计算单元,而是数据搬运的速度。几千个核心如果喂不饱,就只能空转等待数据——这个现象在体系结构领域有个正式的名字,叫“内存墙”(memory wall)。
视频的收尾把视野从游戏拉向通用计算:既然GPU本质上是“大规模并行数学机器”,那它能算的就不只是像素。视频展示了GPU在科学计算、视频剪辑、加密货币挖矿等场景的应用,并点明:任何可以被拆成海量小任务的问题,都可以扔给GPU。
以2026年的后见之明看,这个收尾恰恰是全片最有预言性的部分——虽然视频制作时对AI着墨不多,但它讲的架构逻辑正是后来AI爆发的硬件地基(这一点我们在第四、五节展开)。
这支视频没有列参考文献,但它的每个论点都能对应到真实的体系结构理论与工程史。把这条脉络补全,你得到的就不只是一支视频,而是半门《计算机体系结构》导论。
Flynn分类法与SIMT。1966年,斯坦福教授Michael Flynn提出了计算机体系结构最经典的分类框架:按“指令流×数据流”把计算机分为SISD、SIMD、MISD、MIMD四类。GPU的大规模并行属于其中的SIMD思想(单指令多数据)的延伸——NVIDIA为GPU提出的执行模型叫SIMT(单指令多线程):一条指令,成千上万个线程各自处理不同的数据。视频里“几千个核心执行同一套着色程序”的画面,正是SIMT的具象化。
CUDA与GPGPU运动。“把GPU用于图形之外的通用计算”(GPGPU)并非NVIDIA灵光一现。2000年代初,学界已经有人用着色语言“伪装”出通用计算(比如Brook项目)。2006-2007年,NVIDIA在Ian Buck等人的推动下推出CUDA架构,第一次为通用并行计算提供了正式的编程模型——开发者可以用类C语言直接调动GPU的万核军团,而不必假装自己在“画三角形”。这是GPU从“游戏配件”变成“计算基础设施”的历史转折点。
AlexNet时刻。2012年,多伦多大学的Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton用两块消费级GTX 580游戏显卡训练出的深度卷积网络AlexNet,在ImageNet图像识别大赛中以碾压优势夺冠,错误率比第二名低了约十个百分点。这个故事最戏剧性的细节是:深度学习革命的第一把火,烧的燃料是游戏玩家的消费级显卡。此后十年,游戏GPU的并行架构被不断放大为数据中心级的A100/H100等产品,GPU成为AI工业的心脏。视频里“GPU也能做通用计算”的轻描淡写,在这条历史线上回看,重量完全不同。
Amdahl定律。1967年,Gene Amdahl提出并行计算最冷峻的定律:一个程序无论并行化到什么程度,它的加速上限由无法并行的串行部分决定。哪怕95%的代码可以扔给一万核并行加速,剩下5%的串行代码也会把总加速比锁死在20倍以内。这是对“核越多越快”这种朴素直觉最有力的纠偏。
内存墙与冯诺依曼瓶颈。“性能瓶颈在数据搬运而不在计算”并非视频独创。Hennessy与Patterson的经典教材《计算机体系结构:量化研究方法》在1990年代就系统论述了处理器速度与内存速度的剪刀差——“内存墙”一词由此流行。更早的源头是1977年图灵奖得主John Backus的获奖演讲,他给“CPU与存储之间那根狭窄通道”起了一个流传至今的名字:冯诺依曼瓶颈。视频用一整节讲显存带宽,等于把教科书里这五十年的一条主线,用一帧3D动画讲给了大众。
“免费午餐结束”。2005年,C++大师Herb Sutter发表著名文章《The Free Lunch Is Over》:处理器主频提升撞上物理天花板,芯片厂商转向“多核”路线,程序员躺着等性能翻倍的时代终结了。这篇文章是理解“为什么整个软件行业被迫学会并行”的钥匙,也是GPU崛起的宏观背景板。
这支视频能成为神课,靠的是取舍精准;但也正因为要照顾大众,它有几处简化值得单独拎出来审视。
证据充分的部分:渲染管线的讲解与业界公开资料(包括NVIDIA、AMD的官方文档)完全一致,属于无争议的标准知识;CPU与GPU“延迟优化vs吞吐优化”的对比,是体系结构教科书级别的共识;显存带宽重要性的强调,更是直接命中了后来AI推理性能分析的核心议题。这些内容今天重看依然站得住。
简化一:“GPU=海量简单小核心”的教学模型。视频反复用“几千个简单核心”构建直觉,但现代GPU的真实结构复杂得多:成千个核心被组织成一个个“流式多处理器”(SM),每个SM内部还有共享内存、张量核心(Tensor Core)、光线追踪单元(RT Core)等专用电路。特别是对AI而言,真正扛算力大旗的是Tensor Core这种专用矩阵运算单元,而不是视频主角化的通用着色核心。看完视频若以为“AI算力=着色器堆料”,会把最重要的十年技术演进漏掉。
简化二:核心数不可跨厂商直接比较。视频没有展开,但值得补一刀:NVIDIA的“CUDA核心”与AMD的“流处理器”并不是同一颗粒度的东西,两家的“一个核”定义不同、架构不同,数字大小不能直接比。显卡营销最爱利用这种模糊性打数字战——这是观众看完神课后最该建立的一道心理防线。
简化三:对“并行万能论”缺少刹车。视频结尾“任何可拆分的任务都可以扔给GPU”的表述,热情有余、限制不足。Amdahl定律冷酷地提醒:不是所有问题都“尴尬并行”。任务之间有强依赖(比如下一步要吃上一步的结果)时,万核军团会大面积闲置。现实工程里,“这个问题能不能高效并行”本身就是一个需要专门分析的难题。
简化四:AI部分的时代局限。视频制作于2022年,对AI着墨极少。放到2026年,大模型推理的真实瓶颈恰恰是视频埋过暗线但没点破的那条——显存带宽:参数从显存搬运到计算单元的速度,经常比计算本身更卡。视频给了观众正确的地基,但上层建筑需要观众自己按今日的现实续建。
第一条:看硬件,先找最窄的那段管道。 整机性能永远取决于瓶颈环节,而不是最强环节。游戏卡顿先看GPU;本地跑大模型,先看显存容量和带宽,而不是CPU核数;日常办公,CPU性能早就过剩。买任何设备前,先问一句“我的任务,数据流经的哪一段最窄?”——把预算花在最窄处,比任何“堆旗舰”都有效。
第二条:接到问题先做“并行分流”判断。 养成一个工程师直觉:这个任务能不能拆成一万份“程序相同、互不依赖”的小任务?能拆——并行路线(GPU、多进程、分布式)收益巨大;不能拆——别浪费时间堆机器,回去优化串行算法本身。这一问一答,就是CPU思维与GPU思维的分水岭,也是Amdahl定律给你的免费咨询。
第三条:盯住你手里“过剩的能力”。 GPU为画游戏而生,却接住了深度学习;游戏玩家的消费需求,阴差阳错养活了AI工业。历史反复证明:为A问题打造的强大工具,常常在意想不到的B问题上爆发。对个人同理——你为某个目的练出的“过剩技能”(写作、建模、自动化脚本),往往才是你下一次跃迁的资产。别只用当下的用途为能力估值。
flowchart TD
A[像素洪流<br/>每秒数亿像素] --> B[CPU单核再快<br/>也算不完]
B --> C[换思路:<br/>不求快,但求多]
C --> D[数千小核并行<br/>SIMT执行模型]
D --> E[渲染管线<br/>几何-光栅-着色]
D --> F[GDDR显存<br/>带宽是暗线瓶颈]
E --> G[本质:<br/>海量并行矩阵运算]
F --> G
G --> H[CUDA开放通用计算<br/>2012 AlexNet点火]
H --> I[AI时代:<br/>GPU成为算力心脏]
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
