本期(Round 2 · 编程与开发)聚焦一个长期被中文技术圈低估、却在 2026 年迎来爆发性人才需求的细分方向——数据工程(Data Engineering)与流处理系统编程(Stream Processing)。
过去十轮精选里,我们已经走过编程实战、全栈架构、AI 编程、底层工程、数据库与分布式系统、工具链效能等方向,但始终没有正面拆解"数据如何在企业内部流动、被加工、被实时消费"这一层。而在 2026 年的产业语境下,这恰恰是 GenAI 落地的真正瓶颈:模型可以由云厂商提供,但喂给模型的干净、实时、可追溯的数据管道,必须由数据工程师自己搭建。Apache Kafka 与 Apache Flink 的组合,已经成为金融风控、实时推荐、物联网监控、广告竞价等场景的事实标准;而 dbt、Airflow、Iceberg、Databricks Lakehouse 构成的"现代数据栈",则重塑了离线数仓的工程实践。
本期精选的七个 YouTube 频道,恰好覆盖了从入门 ETL到流处理系统设计的完整光谱:有面向新手的零基础课程,有面向中级工程师的实战项目拆解,有面向架构师的规模化系统设计,也有来自 Confluent 官方的 Kafka/Flink 权威教程。无论你是想转岗数据工程、还是已经在岗位上想深入实时系统,都能找到匹配的学习路径。
| 频道 | 主持人/背景 | 核心定位 | 技术栈侧重 | 适合阶段 |
|---|---|---|---|---|
| Data with Zach | Zach Wilson(前 Meta 数据工程师) | 现代数据栈全景 + 流式入门 | Kafka/Flink/Spark/dbt/Snowflake | 中级 → 高级 |
| Seattle Data Guy | Ben Rogojan(数据咨询顾问) | 数据架构与建模方法论 | SQL/数仓建模/架构选型 | 中级 → 架构师 |
| Andreas Kretz | Andreas Kretz(德国资深数据工程师) | 真实世界管道工程 | Airflow/Python/云平台 | 初级 → 中级 |
| ByteByteGo | Alex Xu & Sahn Lam(系统设计畅销书作者) | 大规模系统设计 | 分布式/流式后端架构 | 中级 → 面试备战 |
| Confluent Developer | Confluent 官方(Kafka 创始团队) | Kafka/Flink 权威教程 | Kafka/Flink/ksqlDB | 全阶段 |
| Karolina Sowinska | Karolina Sowinska(数据工程师) | 零基础 ETL 入门 | Python/SQL/Azure | 完全新手 |
| Daniel Beach | Daniel Beach(大数据工程师) | PySpark 与生产编排 | PySpark/Airflow/Databricks | 中级 |
频道链接:https://www.youtube.com/c/DatawithZach
Zach Wilson 是中文数据工程圈引用率最高的英文名之一。他曾在 Meta(Facebook)担任数据工程师,如今运营 DataExpert.io 教育平台,同时是开源社区 DataTalksClub 的核心贡献者——后者那个大名鼎鼎、被无数人当作转岗蓝本的 Data Engineering Zoomcamp 就有他主讲流处理模块。在 2025 年的 Zoomcamp 直播中,他系统讲解了从批处理到 Spark Structured Streaming 的过渡,DataTalksClub 频道本身订阅数已超 7.5 万。
他的频道价值在于提供了一张完整的数据工程认知地图:你会清楚看到 Kafka(消息)、Flink(流计算)、dbt(转换)、Airflow(编排)、Snowflake/Databricks(存储与计算)各自的位置,而不是孤立地学某个工具。他特别强调"批流一体"的现代趋势——同一个管道既要支持每天一次的报表,也要支持毫秒级的实时告警。
实用价值:适合已经会 SQL 和 Python、想系统化理解整个数据栈的中级开发者。他的"Breaking into Data Engineering"路线图是转岗者的黄金指南。
适合人群:有 1-3 年后端/分析经验、目标转岗数据工程或数据平台架构的开发者。
频道链接:https://www.youtube.com/c/SeattleDataGuy
如果说 Zach Wilson 偏"工具全景",那么 Ben Rogojan(Benjamin Rogojan)则更偏方法论与架构思辨。作为一位长期从事数据咨询的工程师,他自称"Tool-Agnostic, Outcome-Obsessed"(不迷信工具、只关注结果),这种立场使他的内容罕见地不被任何厂商绑定。他的视频常以"数据工程师到底在做什么""为什么你的数仓项目总是失败"这类直击痛点的问题开场。
他的核心贡献在于把数据建模这门被很多人忽视的"老手艺"重新带回视野——维度建模、缓慢变化维(SCD)、数据仓库 vs 数据湖 vs Lakehouse 的选型权衡,在他的拆解下变得清晰。他还会定期做 Live Q&A,直接回应观众在真实工作中遇到的架构难题,比如"小公司要不要上 dbt""自建 Airflow 还是买托管服务"。
实用价值:当你的管道已经能跑、却开始被数据质量、重复计算、口径不一致折磨时,来这里找答案。他帮你从"写代码"跃迁到"设计系统"。
适合人群:1-3 年数据工程师,准备向数据架构师/技术负责人方向发展。
频道链接:https://www.youtube.com/@andreaskayy
Andreas Kretz 是一位德国资深数据工程师,被多家榜单评为"最具影响力的独立数据工程声音之一"。他的频道口号是"Data Engineering and AI Engineering in the real world"——关键词是 real world。区别于很多只讲概念的理论派,Andreas 会带你从零搭一条端到端的管道:从数据采集、用 Airflow 编排 DAG、到部署上云(AWS/Azure/GCP 三大云都覆盖),再到监控与失败重试。
他最经典的内容是 Apache Airflow 工作流编排系列,把一个生产级 DAG 的设计——任务依赖、回填(backfill)、XCom 数据传递、SLA 告警——讲得透彻。他还运营 Learn Data Engineering 在线学习平台,提供 70+ 小时的实战项目课程,覆盖真实业务场景(电商订单分析、日志聚合等)。
实用价值:如果你刚入行、面对公司的 Airflow 代码库一脸懵,Andreas 是最好的"翻译官"。他的内容直接对接日常工作中的痛点。
适合人群:初级到中级数据工程师,尤其需要补齐编排与部署经验者。
频道链接:https://www.youtube.com/channel/UCZgt6AzoyjslHTC9dz0UoTw
ByteByteGo 严格说不只属于"数据工程",但它对流处理系统的设计层面的贡献无可替代。由畅销书《System Design Interview》作者 Alex Xu 与 Sahn Lam 联合运营,订阅量近 200 万,是 YouTube 上规模最大的系统设计频道。它的杀手锏是精美的可视化动画——把分布式系统里那些抽象的概念(分区、副本、一致性、反压)用一张张图拆解得明明白白。
在数据/流处理语境下,ByteByteGo 价值极高:它讲"如何设计 YouTube""如何设计一个实时排行榜""如何设计消息队列",这些问题的答案直接关系到 Kafka、Flink 这类系统为何被设计成现在这样。理解了它讲的"为什么用流式聚合而非批处理""分区键如何影响数据倾斜",你再看 Confluent 的教程会顺畅十倍。它还推出了《Generative AI System Design》新书,覆盖 RAG、向量检索等 AI 数据基础设施。
实用价值:面试备战神器,更是理解流处理底层"为什么"的最佳入口。当别人还在背 Kafka 配置参数时,你已经能从架构层面解释它的取舍。
适合人群:准备系统设计面试的中高级工程师,以及想从"会用"跃迁到"会设计"的数据/后端工程师。
频道链接:https://www.youtube.com/@ConfluentDeveloper
当所有第三方教程都有信息滞后或理解偏差时,官方源永远是最后一道防线。Confluent 由 Apache Kafka 的原始创造团队(包括 Jay Kreps 等 LinkedIn 前工程师)创立,其 Developer 频道是学习 Kafka 与 Flink 最权威的起点。这里的 Apache Kafka 101(2025 Edition) 和 Apache Flink 101 系列课程,由 Confluent 内部讲师(如 Wade Waldron)主讲,质量稳定、更新及时。
该频道的核心价值在于概念的正确性:什么是 topic、partition、consumer group、offset;流处理中"exactly-once 语义"到底如何实现;Flink 的 checkpoint 机制如何保证有状态计算的容错。这些是流处理的基石,一旦理解偏差,后面所有的工程实践都会建立在错误假设上。频道还配合 developer.confluent.io 提供完整的免费交互式课程,从 Kafka 基础到 Flink SQL、ksqlDB 流式数据库,形成完整学习闭环。
实用价值:把这里当作"流处理知识的基准线(ground truth)"。无论你之后看哪本中文教材、哪个博主,都可以回到这里校准。
适合人群:所有阶段。新手用来建立正确概念,老手用来查证细节、跟进最新特性(如 Flink SQL 的窗口语义演进)。
频道链接:https://www.youtube.com/@KarolinaSowinska
当上述频道对你而言还太"硬核"时,Karolina Sowinska 是最理想的起点。她的 "Data Engineering Course for Beginners" 系列以约 4.5 万订阅的体量,服务了海量完全零基础的学习者。她的教学风格温和、节奏舒缓,会带你用 Python 手把手走完一个 ETL(Extract-Transform-Load)流程——从用 API 抓取数据,到用 pandas 清洗,再到加载进数据库,每一步都有完整代码与解释。
她的内容覆盖 Python、SQL、机器学习基础、软件工程入门,特别适合文科跨行、或刚毕业想入行数据分析/工程的学习者。在 LinkedIn 上她被频繁推荐为"数据工程最友好的入门频道之一"。她还会讲解 Azure、Databricks 等云数据平台的入门操作,帮你建立对"数据工作"的整体感性认识。
实用价值:消除"数据工程门槛太高"的恐惧。如果你连"什么是 ETL"都还没概念,先在这里花两周,建立信心再往上走。
适合人群:完全新手、转行者、以及对数据工程好奇但不知从何下手的学生。
频道链接:Daniel Beach 频道(YouTube 搜索 "Daniel Beach data engineering")
Daniel Beach 代表了数据工程中"大数据处理"的硬核一极。他的频道深度聚焦 PySpark——Apache Spark 的 Python 接口,以及它与 Airflow、Databricks Delta Lake、AWS 的集成。他的内容特点是"从 notebook 走向生产":很多学习者能在 Jupyter 里跑通一段 Spark 代码,却不知道如何把它封装成 Airflow DAG、用 Docker 容器化、再调度到 Databricks 集群上跑——Daniel 正是补齐这"最后一公里"的人。
他的代表作包括 PySpark 数据工程系列课程,覆盖 Spark 核心概念(RDD、DataFrame、 Catalyst 优化器)、Delta Lake 的事务日志(ACID on data lake)、以及 Airflow DAG 的生产级编写。他还会跟踪行业动态,比如对比 Apache Airflow 与新兴的 Databricks Lakeflow 编排引擎,帮你判断技术选型。
实用价值:当你的公司数据量从 GB 级跃升到 TB/PB 级、单机 pandas 不再够用时,Daniel 的内容帮你完成从"小数据工程师"到"大数据工程师"的跨越。
适合人群:中级数据工程师,需处理大规模数据、深入 Spark 生态与生产部署。
下图呈现七个频道如何映射到数据工程从入门到架构的完整能力阶梯,以及它们之间的知识依赖关系:
graph TD
Start([零基础/转行]) --> K["Karolina Sowinska<br/>Python/SQL/ETL入门"]
K --> A["Andreas Kretz<br/>Airflow编排/端到端管道"]
K --> DB["Daniel Beach<br/>PySpark/大数据/Delta Lake"]
A --> Z["Data with Zach<br/>现代数据栈全景/流式"]
DB --> Z
Z --> S["Seattle Data Guy<br/>数据架构/建模方法论"]
S --> BBG["ByteByteGo<br/>系统设计/分布式架构"]
Z --> CD["Confluent Developer<br/>Kafka/Flink官方权威"]
subgraph 流处理核心栈
CD --> Kafka[Apache Kafka<br/>消息传输]
CD --> Flink[Apache Flink<br/>有状态流计算]
Kafka --> Flink
end
BBG -.支撑理解.-> CD
S -.架构选型.-> CD
Flink --> Apps([实时风控/推荐/IoT<br/>广告竞价/监控])
Kafka --> Apps
style K fill:#e1f5ff
style CD fill:#fff4e1
style BBG fill:#f3e1ff
style Apps fill:#e1ffe1
阅读路径建议:完全新手按 Karolina → Andreas → Data with Zach 线性推进;已有基础者直接进入 Data with Zach + Seattle Data Guy 并行学习架构与方法论;准备面试或深入实时系统者,以 ByteByteGo + Confluent Developer 为双核,前者理解"为什么这样设计",后者掌握"具体怎么用"。
基于以上七个频道,建议构建一条 3-6 个月的学习主线:
延伸推荐频道(本期未展开,值得收藏):
数据工程与流处理之所以在 2026 年成为最具确定性的技术方向,根本原因在于:AI 模型的天花板,正越来越取决于数据管道的地板。一个训练再强的模型,如果喂进去的是延迟数小时、口径混乱、质量不明的数据,产出的也只能是"高维度的垃圾"。而 Kafka/Flink/Spark/dbt/Airflow 这套技术栈,正是把"混乱的数据"转化为"可信的实时数据资产"的工程基础设施。
本期精选的七个频道,从 Karolina 的温柔入门,到 Confluent 的官方权威,再到 ByteByteGo 的架构思辨,构成了一条任何人都能走通的学习链路。建议你不必七个全看,而是根据自身阶段锁定 2-3 个,配合真实项目(哪怕是个人项目)反复实践——数据工程是一门"看十遍不如跑一遍"的手艺活。当你的第一条端到端实时管道真正跑通的那一刻,你会发现这个领域的门槛,远没有想象中那么高。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
