2026 年,"批处理 ETL 正在死去"——这句来自 iomete 技术博客的判断,正在成为数据工程领域的真实写照。以 Kafka 实时流、Debezium 变更数据捕获(CDC)和 Apache Iceberg 开放表格式为支柱的流优先 Lakehouse 架构(Streaming-First Lakehouse)正在重塑整个数据栈:曾经泾渭分明的"实时流"与"离线批",正在被一张统一的、带 ACID 事务和时间旅行能力的表所取代。Apache Iceberg 在与 Delta Lake、Hudi 的三国竞争中胜出,成为事实上的开放表格式标准;Apache Airflow 3 的发布则重新定义了编排层的边界。
本期精选聚焦 programming(编程与开发) 分类下的数据工程实战方向,从 WebSearch、ducksearch、社区盘点文章三种信息源交叉验证,遴选出 7 个方向互补、风格各异的优质 YouTube 频道。它们覆盖了从官方权威课程、概念与职业方法论、端到端项目实战、系统设计面试,到自动化与高质量制作的完整光谱,构成一条从入门到精通的可执行学习路径。
核心理念:2026 年优秀的数据工程内容,已不再是某个工具的"操作手册",而是架构思维 + 流批统一 + 工程落地三位一体的体系。下面这 7 个频道,正是这一体系不同切面的最佳注脚。
| 频道 | 主持人/背景 | 核心定位 | 内容风格 | 适合阶段 | 技术栈侧重 |
|---|---|---|---|---|---|
| Data with Zach | Zach Wilson(前 Facebook 数据工程师,DataExpert.io 创始人) | 现代数据栈 + 流处理实战 | 高密度硬核、Boot Camp 系列 | 中→高 | Kafka、Flink、dbt、Iceberg |
| Seattle Data Guy | Ben Rogojan(前 Meta 数据工程师,独立顾问) | 数据工程概念与职业方法论 | 思辨型、长视频对谈 | 全阶段 | 工具无关、架构思维 |
| Confluent Developer | Confluent 官方(Kafka 原作者团队) | Kafka 流处理权威课程 | 体系化课程、官方认证 | 入门→中 | Kafka、Flink、ksqlDB |
| Anders Jensen | Anders Jensen | AI 与自动化、Snowflake+dbt | 手把手步骤式、清晰温和 | 入门→中 | Snowflake、dbt、Power Automate |
| Ansh Lamba | Ansh Lamba | 端到端项目从零搭建 | 项目驱动、保姆级 | 入门→中 | Databricks、Snowflake、dbt、Airflow |
| Data Architect Studio | Dmitry 等 | 系统设计面试与生产案例 | 面试模拟、真实架构 | 中→高 | 系统设计、Clickstream、RAG |
| mehdio debugs | Mehdi Ouazza | 高质量数据内容与编排 | 制作精良、视觉化 | 全阶段 | Airflow、大数据、数据科学 |
核心内容与关键洞察:Zach 的频道最鲜明的标签是"高信息密度"。他的代表作如《Master Real-time Data Pipelines with Kafka and Flink》三小时免费 Boot Camp,把一条完整的实时管道从 Kafka 接入、Flink 窗口计算到下游落地,一气呵成讲透。他的洞察在于:现代数据工程师必须同时理解批与流两种范式,并掌握 dbt 这类转换层如何与 Iceberg 表格式协同。他反复强调"数据栈的组件会变,但建模与管道设计的底层逻辑不变"。
实用价值与应用场景:适合想要系统搭建端到端管道、准备 FAANG 级数据工程面试的中高级开发者。他的 DataExpert.io Boot Camp 系列可作为从"会用工具"到"会设计架构"的跳板。
适合人群:有一定 SQL/Python 基础、目标进入一线科技公司的数据工程师;希望从分析工程转向数据工程架构的人。
flowchart LR
A[Kafka 实时事件] --> B[Flink 流处理]
B --> C[dbt 转换层]
C --> D[Apache Iceberg 表]
D --> E[BI / ML 下游]
F[Data with Zach 教学法] -.贯穿.-> B
F -.贯穿.-> C
F -.贯穿.-> D
核心内容与关键洞察:与 Zach 的"硬核技术"路线不同,Ben 走的是概念思辨 + 职业方法论路线。他的长视频与播客对谈(如《Understanding Data Engineering》)反复拆解一个核心问题:数据工程的本质不是堆砌工具,而是"在业务与数据之间架起桥梁"。他敢于对行业热点泼冷水——例如批判盲目追逐新工具、提醒"很多管道失败在需求对齐而非技术"。他的《Growing To Senior Data Engineer》系列直击职业卡点。
实用价值与应用场景:对工具党是清醒剂,对转行/求职者是导航图。当你困惑"该学 Snowflake 还是 Databricks""数据工程师和数据科学家到底有何不同"时,这里能给出基于实战的判断框架,而非营销话术。
适合人群:数据工程初学者与寻求晋升的中级工程师;需要向非技术利益相关方解释数据价值的从业者。
核心内容与关键洞察:旗舰课程《Apache Kafka 101》(持续更新至 2025 Edition)堪称 Kafka 入门黄金标准,从 Topic/Partition 存储结构、复制机制,到 Kafka Connect 与流处理表/流二元论(Table-Stream Duality),层层递进。其核心价值在于官方视角的准确性——当社区教程众说纷纭时,Confluent 的解释就是事实标准。2026 年趋势文章(如 Kai Wähner 的博客)也常以此频道的概念框架为基础,论述"Iceberg 如何统一实时与批处理"。
实用价值与应用场景:构建事件驱动架构、CDC 管道、微服务异步通信的必备基础。无论你用自建 Kafka 还是 Confluent Cloud,这套课程都能建立扎实的概念地基。
适合人群:后端工程师、数据工程师、平台工程师;任何需要理解事件流与消息系统的开发者。
核心内容与关键洞察:代表作《Snowflake and DBT Data Engineering Roadmap: 12-Week Guide》将一个完整的现代数据栈学习路径拆解为 12 周可执行计划,覆盖 Snowflake 仓库搭建、dbt 模型分层(staging/intermediate/marts)、自动化调度。他的洞察在于"自动化优先"思维——强调用低代码/无代码手段(Power Automate 等)把重复性数据任务工程化,让数据管道不仅"能跑",更要"少维护"。
实用价值与应用场景:适合偏好"跟着做、立刻出结果"的学习者。如果你来自业务/分析侧,想快速搭建一条可演示的 ELT 管道向团队或面试官展示成果,Anders 的教程回报率极高。
适合人群:业务分析师转型数据/分析工程师;偏好可视化、低门槛学习曲线的初学者。
核心内容与关键洞察:Ansh 的内容最大特色是完整度——一个视频往往就是一个可写进简历的项目。涵盖《Job-Ready dbt + Databricks End-to-End Data Engineering Project》《Snowflake & dbt Full Tutorial》等,从数据摄取、转换、编排到可视化,全链路打通。他的价值在于降低"项目落地"的心理门槛:很多学习者卡在"知道每个工具却拼不成系统",Ansh 用真实业务数据集(如电商订单、日志流)把散落的工具缝合成一条可运行的管道。
实用价值与应用场景:求职者构建作品集的最佳素材库。每个项目都可直接作为面试中的"讲一个你做过的项目"的弹药。
适合人群:数据工程求职者、在校生、需要快速产出可演示成果的转行者。
核心内容与关键洞察:这是七强中最具"高阶"气质的频道。代表作包括《Data Engineering Interview — Netflix Clickstream Data Pipeline》《Real Interview Q&A for Senior Data Engineer about System Design》以及与 RAG(检索增强生成)相关的现代案例。它把数据工程面试还原为真实的架构推演:如何在面试白板上设计一个能承载亿级点击流的管道?Lambda/Kappa 架构如何取舍?时间敏感的实时处理与传统批处理如何并存?其洞察在于——系统设计能力才是区分初级与资深数据工程师的分水岭。
实用价值与应用场景:高级数据工程师、数据架构师面试必备;也是技术管理者评估团队架构方案的参考沙盘。
适合人群:目标 Senior/Staff 级别、冲击 FAANG 与头部产品公司的资深从业者。
graph TD
subgraph 面试系统设计四要素
Q1[需求澄清<br/>吞吐/延迟/规模]
Q2[架构选型<br/>Lambda vs Kappa]
Q3[存储层<br/>Iceberg/DWH/消息队列]
Q4[权衡取舍<br/>成本/一致性/新鲜度]
end
Q1 --> Q2 --> Q3 --> Q4
DS[Data Architect Studio] -.训练.-> Q1
DS -.训练.-> Q4
核心内容与关键洞察:在七强中,mehdio 的辨识度在于视觉与叙事的精良。他将抽象的数据管道、Airflow DAG、编排概念转化为生动的可视化讲解,让"枯燥的工程"变得可观赏。在编排(Orchestration)成为 2026 年热点的背景下(Apache Airflow 3 发布、Data Flowcast 播客兴起),mehdio 对 Airflow 工作流自动化的讲解兼具美感与深度。
实用价值与应用场景:适合视觉型学习者、需要向团队做技术分享的工程师——可以借鉴其表达方式,把复杂数据架构讲得引人入胜。也是疲劳学习时"轻松但仍有收获"的优质选择。
适合人群:视觉型学习者、技术布道者、追求内容美感的数据从业者。
理解上述频道的内容价值,离不开对 2026 年数据工程范式转变的认知。综合 iomete、RisingWave、Kai Wähner 等多源技术博客,本年度最关键的技术演进可归纳为以下知识图谱:
flowchart TB
subgraph 数据源
S1[业务数据库 CDC]
S2[事件流]
S3[日志/IoT]
end
subgraph 流优先 Lakehouse 核心
K[Apache Kafka<br/>事件骨干]
D[Debezium<br/>CDC 捕获]
I[Apache Iceberg<br/>开放表格式<br/>ACID + 时间旅行]
end
subgraph 处理层
F[Apache Flink<br/>流式计算]
DBT[dbt<br/>SQL 转换]
AF[Airflow 3<br/>统一编排]
end
subgraph 消费层
C1[BI 分析]
C2[机器学习/AI]
C3[反向 ETL]
end
S1 --> D --> K
S2 --> K
S3 --> K
K --> F --> I
K --> I
I --> DBT --> I
AF -.编排.-> F
AF -.编排.-> DBT
I --> C1
I --> C2
I --> C3
三个关键认知:
Iceberg 赢下表格式战争。在 Iceberg、Delta Lake、Hudi 三国竞争中,Iceberg 凭借开放治理、强大的元数据层(manifest、snapshot)和跨引擎兼容性,成为 2026 年事实标准。各大云厂商与引擎(Spark、Flink、Trino、Snowflake Polar Iceberg、Databricks Unity Catalog)纷纷原生支持。
"批 ETL 正在死去" 的本质,是流批一体:同一张 Iceberg 表既能接收 Flink 实时写入,也能被批处理作业读取,无需维护两套 Lambda 架构的批流分离管道。这极大降低了架构复杂度与数据不一致风险。
编排层回归统一。Airflow 3 的发布与 DataProvider 接口的引入,让编排不再绑定特定执行引擎,Flink、Spark、dbt 都可被统一调度,"编排"与"计算"彻底解耦。
面对如此庞大的技术栈,如何高效利用这 7 个频道?建议遵循"概念打底 → 官方权威 → 项目实战 → 系统升华"的递进路径:
flowchart LR
A["1. 概念打底<br/>Seattle Data Guy"] --> B["2. 权威地基<br/>Confluent Developer"]
B --> C["3. 项目实战<br/>Ansh Lamba / Anders Jensen"]
C --> D["4. 现代栈<br/>Data with Zach"]
D --> E["5. 系统升华<br/>Data Architect Studio"]
F["全程调剂<br/>mehdio debugs"] -.-> A
F -.-> C
F -.-> E
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
