2026年聊任何科技话题，最后几乎都会撞上同一堵墙：算力。大模型为什么烧钱、显卡为什么常年缺货、英伟达为什么一骑绝尘——这些问题绕来绕去，最后都落在同一颗芯片上：GPU。但大多数人对显卡的理解停留在「显存多大、几个风扇」，至于芯片内部到底怎么工作，基本是一片空白。
把GPU内部结构讲得最透的入门内容，是 Branch Education 的《How do Graphics Cards Work?》。这条约二十分钟的3D拆解动画课，用一次显卡「开盖之旅」回答了三个问题：GPU和CPU到底差在哪？显卡内部凭什么长成这样？以及最关键的——为什么一群原本为打游戏而生的芯片，最后喂饱了整个AI产业？它不教你买卡，而是给你一套能看懂十年芯片新闻的底层框架。
先交代一句：本轮写作环境的实时抓取通道受限，视频页实时数据（播放量、时长等）未能在线核验，下文卡片中标注为记忆值；正文涉及的GPU原理属教科书级稳定知识，不受数据滞后影响。
| 项目 | 内容 |
|---|---|
| 视频标题 | How do Graphics Cards Work?（以频道内检索为准） |
| 频道 | Branch Education（3D工程可视化科普频道，订阅百万级） |
| 发布时间 | 2023年前后（记忆值，未经实时核验） |
| 时长 | 约20分钟（记忆值，未经实时核验） |
| 播放量 | 数百万级，是该频道代表作之一（记忆值，未经实时核验） |
| 核心主题 | GPU的并行架构、显存设计、渲染管线与AI算力逻辑 |
频道背景多说一句：Branch Education 的路线，是把芯片、硬盘、光缆、传感器这些「黑盒设备」用3D动画一颗颗螺丝拆开，一条视频常打磨数月。它的画面是行业标杆级——大量基于真实 die shot（芯片俯视图）重制的3D结构，让「几百亿个晶体管怎么排布」这种抽象概念第一次变得肉眼可见。看它的视频，建议开最高画质。
视频的出发点，是纠正一个最常见的误读：GPU不是「更厉害的CPU」，而是另一种计算哲学。视频原话逻辑大致是：CPU像几位终身教授，擅长解难题、处理复杂的条件判断和串行依赖；GPU像一万个中学生，每人只会算简单算术，但一起上的时候，吞吐量碾压教授团队。图形处理恰好是后一种活儿——屏幕上200多万个像素，每个像素的颜色计算彼此独立、公式简单、数量巨大。任务的形状决定了芯片的形状，这是全片最重要的一句潜台词。这里补一个延伸：这个分工背后的理论边界是Amdahl定律——程序里无法并行的串行部分，决定了你堆多少核都白搭。所以GPU赢的不是「所有计算」，而是「恰好能摊开的那些计算」，AI恰好是历史上被摊得最开的一种。
接着视频把镜头怼到芯片表面。延伸补充一点量级概念：现代高端GPU的一颗Die（裸片）面积几百平方毫米，晶体管数量在数百亿量级（据公开资料，各代不同），比地球人口还多好几倍。视频的核心演示是：这些晶体管不是均匀铺开的，而是像城市规划一样分区——成千上万个几乎一模一样的小格子重复排列，每个格子里是一组算术逻辑单元（ALU）、一小块寄存器和缓存，这就是流式多处理器（SM，各厂家叫法不同）。反观CPU的Die，一大片面积让给了控制逻辑、分支预测和大容量缓存，为的是让「单个核心」聪明。一眼看去，GPU的Die像整齐的住宅楼群，CPU的Die像功能混杂的市中心——视频这组对比画面，是全片信息密度最高的几分钟。
小核心怎么协同？视频引入了GPU执行模型的关键词：SIMT（单指令多线程）。大意是：成千上万个线程被打包成组，一组线程执行同一条指令，只是处理各自不同的数据。像素渲染天然适合——每个像素做的是同一个着色公式，喂的坐标颜色各不相同。视频也点出了代价：一旦同组线程走到「如果A走这条路、否则走那条路」的分支上，两条路只好排队各跑一遍，并行度直接腰斩。延伸补充：这就是所谓「线程发散」（divergence）问题，也是写GPU代码（CUDA或shader）时，老手反复告诫新手的第一条戒律——在GPU上，if语句是有物理代价的。数据结构整齐、分支少、批量大的算法，才吃得到GPU的红利。
视频用很大篇幅讲了一个反直觉的设计：GPU的显存（GDDR）和电脑内存（DDR）本是近亲，却朝着完全相反的方向进化。CPU内存优化的是延迟——让单次访问尽快回来，因为串行程序在乎每一次存取；GPU显存优化的是带宽——芯片周围密密麻麻绕了一圈显存颗粒，走线又短又宽，并发拉出几千条数据通道，单卡带宽轻松达到几百GB每秒。原因还是那个：一万个小核心同时开工，如果喂不饱数据，算力再强也是空转——GPU真正的心脏病从来不是算力不够，是数据喂不上。数据中心的训练卡走得更极端，用HBM把内存直接3D堆叠封装在芯片旁边，带宽推到TB每秒量级（据公开资料）。延伸一句给想本地跑大模型的读者：社区实测反复验证的经验是，决定「能不能跑」的是显存容量，决定「每秒蹦多少个字」的是带宽——看卡先看这两样，别只数核心。
GPU的本职工作怎么干？视频把渲染管线拆成了流水线：第一步顶点着色，把3D模型上百万个顶点的位置算出来；第二步光栅化，把三角形「盖章」成屏幕上的像素格子；第三步像素着色，给每个像素贴材质、算光照、做反射；最后写入帧缓存，送往显示器。关键约束是时间：60帧每秒意味着每一帧只有约16毫秒预算，超时就卡顿。这是整个计算工业里最严苛的实时deadline之一——GPU从出生起就在「Deadline驱动」下进化，和批处理时代的CPU性格完全不同。视频后半段还介绍了光追（Ray Tracing）核心与AI超分（如DLSS）：前者用专用单元硬算光线路径求真实光影，后者干脆让神经网络「脑补」放大画面、甚至凭空生成中间帧——延伸评价一句：DLSS是个分水岭，它标志着GPU第一次大规模「用算力换算力」：花一部分芯片面积跑AI，换回数倍的渲染性能。
视频的收尾把话题从游戏转向通用计算。补全这段历史的来龙去脉：2000年代初，就有科学家发现GPU的并行架构正好适合做物理模拟等非图形计算，这股「把通用计算塞进GPU」（GPGPU）的野路子实践，最终促成英伟达在2007年正式推出CUDA，把GPU改造成「顺手就能写C语言程序」的通用并行机。真正的爆发在十几年后：深度学习的核心运算恰好是海量矩阵乘法——和图形计算一样形状的任务（数据独立、算子简单、批量巨大）。据公开报道，GPT-4一代模型的训练动用了以万张计的加速卡互联集群；自2023年起，英伟达数据中心业务收入已长期超过游戏卡业务（据公开财报）。游戏玩家 inadvertently 资助了AI革命——玩家买单摊薄研发成本，AI产业坐享其成，这是科技史上罕见的正外部性案例。
以下全部是我的延伸分析。视频拍摄时消费级AI还刚起步，有三条后续剧情值得补上。其一，算力单元正在无处不在化：手机SoC里塞进了NPU，苹果的统一内存架构模糊了CPU和GPU的内存边界，推理计算正从云端往口袋里下沉。其二，GPU并非AI芯片的终点：训练要的是通用并行的灵活性，推理要的是单位能耗的性价比，所以谷歌造TPU、各家自研ASIC层出不穷——但CUDA的软件生态护城河，让「造芯片容易、让人用起来难」成为行业共识。其三，给通信同行一面镜子：基带芯片里那些FFT、信道编解码的硬件加速器，和GPU里的张量核心是同一种设计智慧——把高频、规律、可并行的运算固化成专用电路，把灵活性留给控制面。读懂了GPU，也就读懂了异构计算时代所有芯片的通行语法。
仍然成立的部分：CPU/GPU分工、SIMT执行模型、显存带宽逻辑、渲染管线，全部是《计算机体系结构》教材级别的稳定内容，再过十年也不过时。
需要更新的部分：视频成片时消费级AI尚未爆发，没有涉及数据中心HBM的疯狂军备、推理专用芯片的崛起、以及端侧NPU的普及。把这条视频当「第一课」，之后需要自己补「AI算力基础设施」这一章。
容易误读的部分：核心数量不等于性能。不同代际的架构效率天差地别，隔代比较核心数毫无意义；同理，显存容量大不等于快。评估GPU永远要看「架构代际 × 带宽 × 软件生态」三件套，这是视频没明说、但买卡和选型时最值钱的一条判断。
flowchart TD
GPU["GPU：吞吐量机器"] --> A["万级小核心<br/>SIMT万路齐发"]
GPU --> B["显存带宽墙<br/>GDDR超宽总线"]
GPU --> C["渲染管线<br/>每帧16毫秒死线"]
A --> C
C --> D["张量核心<br/>矩阵乘加速"]
B --> D
A --> E["GPGPU通用计算"]
D --> E
E --> F["大模型训练与推理"]
C --> G["DLSS：AI反向改造游戏"]
第一，换一双眼睛看硬件评测。 以后看显卡发布，别再只问「显存多大」，先问三件事：新架构每瓦性能提升多少？显存带宽多少？软件生态（CUDA版本、驱动成熟度）跟上了吗？这三问足以过滤九成的营销话术。
第二，想本地跑大模型的人，按「容量定生死、带宽定速度」选卡。 社区经验是：7B级别的量化模型，8GB显存是入场券；70B级别则要48GB以上起步。而生成速度的瓶颈往往不是算力是带宽——这就是为什么同一颗芯片，不同显存方案的实测能差出几倍。动手前先拿显存容量对着模型参数表算一遍，再查带宽实测数据。
第三，写代码的人建立「并行嗅觉」。 遇到循环嵌套的图像处理、批量特征计算、矩阵运算，先想一想「这个任务能不能摊平」：数据是否独立、分支是否稀少、批量是否够大。能摊平的活儿交给GPU（哪怕先从NumPy、CuPy这类现成库用起），不能摊平的别硬上——用错工具的GPU，比CPU还慢。
第四，通信工程师可以直接迁移这套框架。 基站的硬件加速器、交换芯片的流水线、乃至未来算力网络里「算力并网」的定价逻辑，底层都是同一门学问：并行度、带宽、实时性三者的折中。这条二十分钟的显卡课，其实是通信用芯片语言的入门发音练习。
它用一次20分钟的开盖手术证明：GPU赢在不是更聪明的芯片，而是把「笨」重复一万次的天才组织学——而AI时代，恰恰奖励这种组织学。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。