需要诚实说明的两点:第一,本解读未能获取该视频的逐字稿,下文对视频主张的还原,基于其标题所直指的问题框架与该议题在业界的公开讨论脉络展开,凡涉及“视频中如何说”的具体表述均不作虚构转述;第二,也正因如此,本文的重心放在这条视频背后真实的知识体系上——那部分内容有大量可交叉验证的论文与工程实践支撑,是读者真正能带走的东西。
要理解这条视频为什么存在,得先理解它反驳的那个叙事。
RAG(Retrieval-Augmented Generation,检索增强生成)由Patrick Lewis等人在2020年论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》(arXiv:2005.11401)中正式提出,核心想法朴素而强大:大模型的知识固化在参数里,更新慢、易幻觉,那就在生成之前先去外部知识库里检索相关片段,把检索结果塞进提示词里再让模型作答。这套范式在2023年到2024年间几乎成了企业落地大模型的标准答案——客服机器人、企业知识库、文档问答,十家有九家从RAG起步。
但朴素RAG的体验经常一言难尽:文档切块切得支离破碎,检索召回的片段答非所问,多跳问题(“A公司的CTO在哪家大学读的博”)基本无解。于是当2024年起长上下文模型爆发——上下文窗口从8K一路膨胀到百万token级别——一个极具传播力的论断顺势而生:“既然模型能一口吞下整本文档甚至整个代码库,中间那层检索还有什么用?RAG已死。”
这个论断在社交媒体上的传播效率远高于它的论证质量。而它的反命题——大公司2026年的真实投入方向——恰恰相反:检索基础设施的工程复杂度不是在降,而是在升。一条视频的价值,就在于把这对矛盾摊开。这也是本文想帮读者建立的第一个认知:“RAG已死”从来不是一个技术判断,而是一个传播学事件。
按标题所锚定的议题,这条视频的回答框架可以拆成三问三答。这三问恰好也是任何人在2026年评估“要不要上RAG”时必须回答的三问。
讨论对象必须先钉死。行业里说的“RAG之死”,死的其实是一个非常具体的形态——朴素RAG(Naive RAG):文档切成固定长度的块→向量化→存进向量数据库→用户查询同样向量化→余弦相似度召回Top-K→拼进提示词→生成答案。
这条流水线的问题是一份长长的公开清单:固定切块把表格、代码、逻辑论证拦腰斩断;纯向量检索对专有名词、产品型号、编号这类精确匹配场景表现很差;召回质量没有度量,错检无人知晓。所谓“RAG已死”,严格说是“朴素RAG该退休了”——而朴素RAG本来就不是RAG的全部,正如炭火烧烤的死活代表不了烹饪。
这是全篇技术含量最高的部分,也是“RAG已死论”的正面战场。支持者说百万token窗口可以直接吞下全部文档;但2023年斯坦福Nelson Liu等人的论文《Lost in the Middle: How Language Models Use Long Contexts》(arXiv:2307.03172)早就给出过冷静的测量:即使上下文窗口足够长,模型对放在中部的信息利用率也显著低于放在首尾的信息——窗口大不等于记得牢。
更系统的证据来自NVIDIA 2024年的RULER基准(arXiv:2404.06654):在“大海捞针”之外的多跳追踪、聚合推理等任务上,各家长上下文模型的有效上下文长度普遍远小于标称值——标称百万token的模型,在复杂任务上可靠工作的区间可能只有几万token。
除了召回质量,工程账本上还有三笔钱:
答案不是“抛弃检索”,而是以检索为中心、围绕智能体重构的栈。向量检索退居为多种召回方式之一:关键词检索(经典的BM25算法)与向量检索并行、结果融合的混合检索成为默认配置;召回之后用交叉编码器(Cross-Encoder)做重排序;检索本身被智能体化——模型自己决定要不要检索、检索什么、检索几轮(所谓Agentic RAG,本质是把检索从“流水线的一站”升级为“智能体的一个工具”);面对跨文档全局性问题,微软研究院2024年提出的GraphRAG(Edge等人,arXiv:2404.16130)路线——先从语料抽取实体关系图、再按社区摘要检索——提供了向量检索覆盖不了的能力。
一句话概括这组演进:死掉的是“向量数据库=RAG”的偷懒等式,活下来并被强化的是“检索”这个动作本身。
| 概念 | 出处 | 核心结论 |
|---|---|---|
| RAG范式 | Lewis et al., 2020,arXiv:2005.11401 | 参数化知识+非参数化检索结合,显著降低幻觉 |
| 中部遗忘 | Liu et al.(斯坦福),2023,arXiv:2307.03172 | 长上下文中部信息利用率显著下降 |
| 有效上下文 | NVIDIA RULER,2024,arXiv:2404.06654 | 复杂任务下有效上下文远小于标称值 |
| 上下文检索 | Anthropic,2024(官方工程博客) | 给每个块注入文档级上下文后再向量化,检索失败率大幅下降 |
| GraphRAG | Edge et al.(微软研究院),2024,arXiv:2404.16130 | 实体图谱+社区摘要,解决跨文档全局问答 |
| 评估体系 | RAGAS等开源框架 | 忠实度、答案相关性、上下文精确率/召回率四类指标 |
其中特别值得展开的是Anthropic 2024年发布的Contextual Retrieval(上下文检索)实践:朴素切块最大的痛点是块脱离原文后语义残缺——一段写着“该公司营收增长了15%”的块,离开标题就不知道“该公司”是谁。Anthropic的做法是在入库前用模型为每个块生成一段说明其出处与语境的上下文前缀,再行向量化,配合混合检索与重排序,检索失败率相对朴素方案下降约49%(据Anthropic官方博客,组合最全配置时数字更高)。这项实践后来成了2025年以来各家RAG改造的标配思路。
另一条常被忽视的脉络是评估。RAGAS等开源框架把RAG质量拆成四个可量化维度:忠实度(答案是否被检索内容支撑)、答案相关性、上下文精确率、上下文召回率。这组指标的意义不在数字本身,而在它确立了一个工程共识:RAG不是“搭起来就能用”的功能,而是需要持续回归测试的系统。“先有评估集,再谈架构”正是2026年企业实践的第一个分水岭。
证据充分的部分:长上下文“窗口大≠记得牢”有RULER、Lost in the Middle等多项独立测量支撑,是本文所引材料中证据等级最高的一环;检索层做权限过滤与审计也属行业共识,无实质争议。
被夸大的部分:“RAG已死”作为口号本身即是夸大——持该论者常引用的案例(智能体自主搜索、长文档直读)拆开看内部依然大量使用检索。Agentic Search本质上是“把检索这件事从流水线搬到智能体循环里”,是检索的进化形态,而非替代品。把进化说成死亡,是叙事偷懒。
存在争议的部分:GraphRAG在全局摘要类问题上收益明确,但图抽取与社区摘要的离线成本高昂,在中小语料上是否划算,社区实测结论分歧很大;各家模型厂商公布的上下文利用率数据彼此口径不一,横向比较需谨慎。此外,视频中若涉及具体企业案例与数字,因无法核对逐字稿,本文不作转述——这也是读者在观看原片时应当保持的同款警惕。
flowchart TD
A["口号 RAG已死"] --> B["第一问 死的是什么"]
B --> C["答案 朴素RAG管线"]
A --> D["第二问 长上下文能否取代检索"]
D --> E["证据一 中部遗忘"]
D --> F["证据二 有效上下文缩水"]
D --> G["工程账 成本 新鲜度 权限"]
E --> H["结论 取代失败"]
F --> H
G --> H
A --> I["第三问 2026年造什么"]
I --> J["混合检索"]
I --> K["重排序"]
I --> L["上下文增强切块"]
I --> M["智能体化检索"]
J --> N["检索为中心的生产栈"]
K --> N
L --> N
M --> N
H --> N
C -->|进化和死亡的区别| N
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
