首页 › programming › 七大数据库内核开发频道精读

七大数据库内核开发频道精读:从存储引擎到分布式查询的进阶路线

本期概述

上一轮我们看了算法与数据结构,这一轮把镜头下移一层——数据库内核与存储引擎开发。这是编程领域里一块"硬骨头中的硬骨头":它要求你同时精通磁盘 I/O 模型、并发控制理论、查询优化和分布式一致性。更重要的是,它和数据工程(数据管道、流处理)是两个完全不同的工种——后者消费数据库,前者造数据库。

本期围绕 2025–2026 年仍在持续更新的七大优质 YouTube 资源展开,从 CMU 的学术课堂,到 Hussein Nasser 的实战后端,再到 PingCAP、ScyllaDB 这类一线厂商的工程分享,覆盖了"理解内核 → 写代码 → 做分布式 → 看工业实践"的完整光谱。

核心发现:① 数据库内核学习正在"慕课化",CMU 15-445 已成为全球事实标准;② HTAP(混合事务分析)与向量检索正在重塑存储引擎设计;③ 厂商频道(ScyllaDB、PingCAP)的研究级分享质量已不输学术会议。

频道对比总览

频道 / 系列 定位 难度 语言 核心产出 适合人群
CMU Database Group(Andy Pavlo) 大学课堂 / 学术系统课 ⭐⭐⭐⭐ 英 15-445/645 完整课程 + BusTub 项目 想打牢内核基础的开发者
Hussein Nasser 实战后端 / 数据库工程 ⭐⭐⭐ 英 协议、ACID、索引、复现式讲解 后端工程师、DBA
Martin Kleppmann 分布式数据系统理论 ⭐⭐⭐⭐ 英 《DDIA》配套讲座 架构师、中间件作者
Ben Dicken 经典书逐章精读 ⭐⭐⭐ 英 《Database Internals》读书系列 自学型开发者
ScyllaDB NoSQL / 分布式实战 ⭐⭐⭐ 英 Summit 技术演讲 大数据、高并发场景
PingCAP(TiDB) 分布式 SQL / HTAP ⭐⭐⭐⭐ 英 工程师内部技术分享 云数据库从业者
ByteByteGo(Alex Xu) 系统设计入门 ⭐⭐ 英 数据库相关系统设计动画 后端初级、面试党

逐个深度解读

1. CMU Database Group —— Andy Pavlo 的 15-445/645

频道:CMU Database Group

如果要选一门课定义"数据库内核入门",那就是 Andy Pavlo 在卡内基梅隆大学的 15-445/645。每学期更新上传,围绕自研教学数据库 BusTub(C++17)展开,作业直接让你实现 Buffer Pool Manager、B+Tree 索引、查询执行器和并发控制管理器。

关键洞察:Pavlo 的杀手锏是"观点鲜明"——他会明确告诉你为什么 LSM-Tree 在 OLTP 里被高估、为什么基于锁的并发控制在 2026 年仍然有研究价值。课程不只是灌输知识,而是建立判断力。

实用价值:完成四个编程项目后,你将真正理解"一条 SELECT 语句从解析到磁盘读取经历了什么"。这是后端、中间件、存储岗位的硬通货。

适合人群:有 C++ 基础、想从"用数据库"升级到"懂数据库"的开发者。

2. Hussein Nasser —— 把协议逐字节讲给你听

频道:Hussein Nasser (@hnasr)

Hussein 是少见的"既讲 HTTP 协议、又讲 PostgreSQL MVCC、还讲 Redis 持久化"的全能型后端博主。他的标志性风格是:不背概念,而是画图 + 抓包 + 写最小可复现代码,让你看到协议/索引在真实运行中的样子。

关键洞察:他反复强调"internals over APIs"——别只会调 EXPLAIN,要去理解 PostgreSQL 的 WAL、可见性判断、索引选择代价模型。他的"为什么 PostgreSQL 不用我建的索引"系列堪称经典。

实用价值:对线上排障、慢查询调优、选型(Redis vs Memcached、Postgres vs MySQL)有直接帮助,是 DBA 和后端的日常工具箱。

适合人群:1–5 年经验的后端工程师,想补"原理盲区"的人。

3. Martin Kleppmann ——《DDIA》的可视化讲座

频道:Martin Kleppmann 在剑桥大学的讲座系列(基于《Designing Data-Intensive Applications》)

如果说 CMU 解决"单机内核",Kleppmann 解决"分布式数据系统怎么设计"。他的讲座逐章对应 DDIA:复制、分区、事务、共识(Raft/Paxos)、批处理与流处理。

关键洞察:他用"可序列化快照隔离(SSI)""因果一致性"等概念,把"CAP 定理被滥用"这件事讲得极其透彻——CAP 不是非黑即白,而是一个连续的权衡谱。

实用价值:这是写中间件、做存储系统、设计多活架构的理论地基。很多大厂架构面试的"设计一个分布式 KV"本质上考的就是 DDIA 的前三章。

适合人群:已读过 DDIA、想要作者亲自讲解的进阶读者;架构师必看。

4. Ben Dicken ——《Database Internals》逐章精读

播放列表:Database Internals

Alex Petrov 的《Database Internals》是存储引擎领域的"红宝书",但理论密度高。Ben Dicken 的系列把它拆成"行存 vs 列存""B-Tree vs LSM""WAL 与检查点"等可消化的小节,配合手绘板书。

关键洞察:把"面向磁盘的页(page)组织""写放大/读放大/空间放大"这三个 LSM 的核心权衡讲得最直观——这正是 LevelDB/RocksDB/Cassandra 共享的底层逻辑。

实用价值:理解后,你再看任何存储引擎(包括自己手撸一个 KV)都会有清晰的骨架,而不是一堆零散名词。

适合人群:自学型、喜欢"读书 + 视频对照"的开发者。

5. ScyllaDB —— NoSQL 工程级深度分享

频道:ScyllaDB

ScyllaDB(基于 Cassandra 协议、用 C++ 重写、单机多核 shard-per-core 架构)的官方频道汇聚了大量 Summit 技术演讲,质量堪比学术会议。话题覆盖 LSM 调优、Compaction 策略、分片再平衡、一致性级别权衡。

关键洞察:他们用真实生产数据展示"为什么 shard-per-core + 任务窃取调度能跑赢 Java 版 Cassandra 5–10 倍"——这是少有的、能让你看到"工程取舍 → 实测性能"全链条的内容。

实用价值:对做海量写入、时间序列、推荐特征存储的团队极具参考价值。

适合人群:大数据、广告、物联网等高吞吐场景的工程师。

6. PingCAP(TiDB)—— 分布式 SQL 与 HTAP 内部视角

频道:PingCAP / TiDB

TiDB 是国内开源走向全球的代表,其频道分享 Raft 共识、分布式事务(Percolator 模型)、TiKV 存储引擎、TiFlash 列存与 HTAP 路径。值得一提的是,TiDB 2025–2026 的方向已转向"AI 原生数据库"——内置向量检索、面向 Agent 的事务语义。

关键洞察:通过"TiDB 如何在同一份数据上既跑 OLTP 又跑 OLAP",你能看清 HTAP 的真实工程边界——它不是银弹,而是"行存 + 列存异步复制"的精巧权衡。

实用价值:对评估分布式 SQL(TiDB / CockroachDB / YugabyteDB)选型、理解 Google Spanner 思路的人极有帮助。

适合人群:云数据库从业者、SaaS 平台架构师。

7. ByteByteGo(Alex Xu)—— 数据库系统设计入门的最短路径

频道:ByteByteGo

Alex Xu(《System Design Interview》作者)的频道用大量动画把"为什么数据库要分库分表""主从复制如何选主""读写分离"等概念讲得极其直观,订阅量在该领域名列前茅。

关键洞察:它不追求内核深度,而是建立"存储组件在系统中的位置感"——数据库、缓存、消息队列、搜索引擎各承担什么职责。这是从"会写 SQL"到"会做架构"的关键一跃。

实用价值:系统设计面试的"作弊器";对初级后端建立全局视图效率极高。

适合人群:0–3 年后端、准备系统设计面试的工程师。

本期知识图谱

graph TD
    A[数据库内核开发学习路线] --> B[单机存储引擎]
    A --> C[分布式数据系统]
    A --> D[系统设计视角]
    A --> E[工业实践]

    B --> B1[CMU 15-445 / BusTub]
    B --> B2[Ben Dicken: Database Internals]
    B2 --> B3["LSM vs B-Tree<br/>写放大/读放大/空间放大"]

    C --> C1[Kleppmann / DDIA]
    C1 --> C2[复制 + 分区 + 共识]
    C2 --> C3[PingCAP TiDB: Percolator + Raft]

    D --> D1[ByteByteGo 动画]
    D1 --> D2[分库分表 / 读写分离]

    E --> E1[Hussein Nasser 实战]
    E --> E2[ScyllaDB Summit]
    E1 --> E3[协议抓包 / MVCC 排障]

    B1 -.进阶.-> C1
    C3 -.同源.-> E2
    D1 -.基础.-> B1

建议学习路径

flowchart LR
    S[ByteByteGo 入门] --> H[Hussein Nasser 实战]
    H --> C[CMU 15-445 内核]
    C --> K[Kleppmann 分布式]
    K --> P[PingCAP / ScyllaDB 工业实践]
    P --> DIY[动手: 写一个 KV 存储]

实操建议:学完 CMU 的 BusTub 项目后,可以尝试实现一个简化版的 LSM-KV(参考 LevelDB 源码),把"写放大/读放大"亲手测出来——这是把"看懂"变成"会写"的唯一路径。

延伸推荐

  1. MIT 6.5840(原 6.824)分布式系统 —— Robert Morris 主讲,Raft/GFS/Spanner 经典论文阅读 + Go 实现,与 Kleppmann 互补。
  2. Low Level Learning —— 用 C/Rust 带你读 Redis、SQLite 源码,"逐函数"级别的精读。
  3. CMU 15-721 Advanced Database Systems —— Andy Pavlo 的进阶课,聚焦现代 OLAP/内存数据库研究。
  4. SIGMOD / VLDB / CMU DB Group Oral History —— 数据库泰斗(Stonebraker 等)的口述史,理解技术演进脉络。
  5. Erik Wijmans / sled-rs 相关演讲 —— 用 Rust 实现现代 LSM 存储引擎的工程分享。

参考来源

  1. CMU Database Group(Andy Pavlo 15-445/645) — 全球最系统的数据库内核慕课,配套 BusTub C++ 项目。
  2. Hussein Nasser 频道 — 后端与数据库协议的实战式讲解,强调 internals over APIs。
  3. Ben Dicken — Database Internals 逐章精读 — 对应 Alex Petrov《Database Internals》一书的可视化读书系列。
  4. ScyllaDB 官方频道 — NoSQL 与分布式数据库的高质量工程演讲合集。
  5. PingCAP / TiDB 频道 — 分布式 SQL、HTAP 及 AI 原生数据库的内部技术视角。
  6. ByteByteGo(Alex Xu) — 以动画见长的系统设计频道,含数据库架构专题。
  7. Reddit: 对 CMU 15-445 MOOC 的评价讨论 — 数据工程社区对该课程的实战反馈。
  8. Andy Pavlo 个人博客 — Databases in 2025: A Year in Review — 每年初的数据库行业年度盘点,权威风向标。

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入