2024年到2026年,AI工程圈吵得最凶的话题之一就是:RAG(Retrieval-Augmented Generation,检索增强生成)是不是已经死了?
论战的导火索很直白——当模型上下文窗口从8K涨到百万token级,“把整个知识库直接塞进上下文”似乎成了更简单的选择。一时间“RAG已死”的标题党席卷技术社区。但有意思的是,如果你去看大厂2026年的生产系统,会发现检索组件不但没被删掉,反而变得更复杂、更精密了。
这个视频 《Is RAG Dead? How Top Companies Build in 2026 Explained》 由 AI 工程领域的实践者 Aish Reganti 发布,正面回答了这个问题:死的到底是什么,活下来的又是什么。它不是又一篇“RAG vs 长上下文”的口水对比,而是从企业真实约束(权限、成本、数据新鲜度、审计)出发,把 2026 年头部公司的检索架构配方讲清楚。
对你来说,价值在于:如果你正在做 AI 应用,这个视频(以及本文的延伸分析)能帮你回答一个每天都在被老板和客户追问的问题——“现在还需要搭检索吗?该怎么搭?”
说明:本文解读基于视频主题、频道公开资料与行业公开工程资料综合撰写;视频中逐字细节请以原片为准。
| 项目 | 内容 |
|---|---|
| 视频标题 | Is RAG Dead? How Top Companies Build in 2026 Explained |
| 频道 | Aish Reganti |
| 时长 | 以视频页面为准(未抓取到精确值) |
| 播放量 | 约6.8万(2026-09-06 素材收录时点,持续增长中) |
| 核心主题 | 2026年企业级 RAG/检索架构的真实演进方向 |
| 频道定位 | 据公开资料,主讲人为 LLM 工程实践者,长期输出企业级 AI 落地内容 |
播放量不算爆款,但这恰恰是 YouTube 的常态:知识密度最高的内容往往不在千万播放的列表里。这类“从业者给从业者讲的视频”,评论区质量通常远高于泛科普频道。
要理解这场论战,得回到2024年的“上下文军备竞赛”。当年 Google 的 Gemini 1.5 Pro 把上下文窗口推到100万token,随后扩展到200万——这据公开资料是业界第一个百万级上下文的商用模型。一夜之间,一种新叙事出现了:“既然能把几十万字的文档一次性丢给模型,为什么还要费劲建向量数据库、调切片策略、做嵌入检索?”
这就是“RAG is dead”论调的起源。它本质上是把一个工程问题简化成了算术问题:100万token的窗口 > 你知识库的大小,所以检索多余。
【延伸分析】这个论调犯了一个经典错误:把“能装下”等同于“用得好”。就像你的书柜能塞下500本书,不代表你考试时把500本全摊在桌上就比“精准翻到那一页”更快。模型不是复印机,塞进去的内容要经过注意力机制的处理,而注意力是有预算的——这是后面几个要点的伏笔。
反对“全量塞入”最有力的学术证据,是斯坦福团队2023年发布的著名论文 《Lost in the Middle: How Language Models Use Long Contexts》(Nelson Liu 等,后刊于 TACL)。结论简单粗暴:当相关信息被放在长上下文的中间位置时,模型的回答质量显著下降,呈现“两头好、中间差”的U型曲线——模型对开头和结尾的内容记忆清晰,对中段的信息几乎是“睁眼瞎”。
这意味着:把100页文档塞进上下文,相关信息恰好落在第50页,模型大概率给你一个自信满满的错误答案。更可怕的是,模型不会告诉你“我没找到”,它会编。
【延伸分析】这个问题在2024-2026年间被各家模型反复优化(长上下文基准成绩一直在涨),但“注意力稀释”是架构层面的物理约束,没有根除。对工程师的启示是:上下文窗口的官方数字是“能装多少”,而有效注意力才是“能用多少”,两者在2026年依然不能画等号。
“RAG已死”论最回避的就是钱。我们粗算一笔账(以下为方法论演示,具体价格以各厂商当期定价为准):
再加上推理延迟与首token时间的差异——百万token的prefill耗时是以秒计的,检索后的小上下文则以百毫秒计。在面向C端的产品里,这个延迟差直接决定留存率。
【延伸分析】视频里这类“工程经济学”视角是最值钱的部分。技术选型从来不是“哪个更先进”,而是“在质量、成本、延迟三角里,你的业务把哪个放在第一位”。
视频最重要的澄清在这里:“RAG已死”这个说法,对了一半。死掉的不是RAG,是2019-2023年那套天真配方(naive RAG):文档切块(chunking)→ 嵌入(embedding)→ 向量库里搜 top-k → 塞进prompt。
天真配方的三宗罪:
所以如果你2026年还在用“默认512字切片+OpenAI嵌入+top-5”这套配置,那确实该推倒重来——但推倒之后重建的,仍然是检索系统,只是升级版。
头部公司2026年检索栈的地基是混合检索(Hybrid Search):向量语义检索 + BM25关键词检索双路并行,再用重排模型(reranker)统一打分排序。两路检索互补盲区,重排器负责最后的质量把关。
更进一步的进化是 Anthropic 在其官方工程博客(2024年发布)中提出的 Contextual Retrieval(上下文检索):在切片入库之前,先让模型读全文,为每个切片生成一段“它在全文中的位置说明”,再把切片+位置说明一起嵌入和索引。据 Anthropic 官方博客报告,这一招把 top-20 检索失败率降低了约35%;结合上下文化的 BM25,失败率下降约49%;再加上重排,累计下降约67%(原始失败率5.7%→1.9%)。
【延伸分析】这个数字值得咀嚼:检索失败率从约5.7%降到约1.9%,没有换模型、没有换向量库,只是把“切片时丢上下文”这一宗罪修掉了。这就是2026年企业AI工程的典型打法——不追模型热点,在数据管道里抠精度。
第二配方是把检索从“固定管道”变成“模型自主决策”,即 Agentic RAG / agentic retrieval:模型拿到问题后,自己判断要不要检索、检索什么关键词、结果够不够好、要不要再查一轮——就像你用 Deep Research 类产品时看到的“正在搜索……正在阅读第3份资料……”过程。
这与2024年底 Anthropic 发布的《Building Effective Agents》一文的理念一脉相承:能用简单编排(workflow)解决的别上agent,需要模型自主决策的再把检索做成工具交给它。多跳问题(“A公司的CEO收购的第一家公司后来怎么样了”)是天真实检的死刑题,却是agentic检索的主场——它会把问题拆解、连续检索、自我校验。
【延伸分析】代价也要看清:agentic检索的延迟和token消耗是固定管道的数倍,还会引入新的不可控性。2026年的共识是分层:80%的高频简单查询走固定检索管道,20%的复杂长尾问题升级给agent处理。别把整套系统都agent化,那是另一种天真。
第三配方针对企业最硬的约束。GraphRAG(微软2024年开源)代表“结构化路线”:用LLM从文档中抽取实体和关系,构建知识图谱,检索时按图导航。它擅长回答“全局性、总结性”问题(“这批文档的主要主题是什么”),这是切片检索的天然盲区。
而企业的四大刚需——权限过滤(每个用户只能检索到他有权限的文档)、数据新鲜度(知识库实时更新,而不是重新 embed 一遍全库)、审计合规(答案必须能溯源到具体文档)、成本控制——没有一条是“塞进长上下文”能解决的,每一条都需要一个独立的检索层。
【延伸分析】这就是为什么说“检索永远死不了”:长上下文解决的是“模型能读多少”,企业检索层解决的是“允许它读什么、读了什么、花多少钱”。这是治理问题,不是模型能力问题。模型能力每涨一大截,治理需求一寸都不会少。
最后一个要点超越了技术:这场变革重塑的是工程师的岗位职责。2023年大家自称“RAG工程师”,核心技能是向量库选型和切片调参;2026年对应的角色叫 Context Engineer(上下文工程师)——负责的不再是一个“RAG组件”,而是模型在每一步看到的全部信息:系统提示词、检索结果的组织方式、工具返回结果的裁剪、对话历史的压缩策略、缓存的设计。
用视频的框架收束:RAG从一个“系统架构名词”降级为一个“实现细节动词”——就像“调数据库”之于后端开发。它没死,它成熟了。成熟的技术不再是发布会的主角,而是账本里安静的一行。
flowchart TD
A["RAG: 检索增强生成"] --> B["天真配方: 切片 + 嵌入 + top-k"]
B --> C{"2024-2026 论战: RAG死了吗"}
C -->|死亡论据| D["百万token长上下文"]
C -->|死亡论据| E["Agentic search 兴起"]
C -->|存活论据| F["Lost in the middle 注意力衰减"]
C -->|存活论据| G["成本账: 全量塞入贵一个量级"]
C -->|存活论据| H["企业约束: 权限 新鲜度 审计"]
D --> I["新共识: 上下文工程"]
E --> I
F --> I
G --> I
H --> I
I --> J["混合检索 + 重排"]
I --> K["Contextual Retrieval 上下文化切片"]
I --> L["Agentic RAG 模型自主检索"]
I --> M["GraphRAG 结构化知识"]
J --> N["结论: 天真配方死了 检索层永生"]
K --> N
L --> N
M --> N
第一步,先做场景体检,别急着动手。拿出三个问题自查:知识库多大(10万token以内的小场景,全量塞入+缓存可能真够了)?数据多脏多碎(扫描件、表格、音转文的质量决定检索上限)?权限和审计有没有硬要求(有,则检索层不可绕过)?
第二步,升级顺序按性价比排。根据行业实践,投入产出比从高到低大致是:查询改写(把口语query改写成文档语言)→ 混合检索(加上BM25)→ 重排模型 → 上下文化切片(Contextual Retrieval)→ 结构化抽取。别一上来就上GraphRAG和agent,那是最后一公里,不是第一公里。
第三步,用失败率说话。建一个50-100条的真实问题评测集,测量命中率和端到端答案质量,每次改动跑一遍。没有评测集的检索优化都是玄学——这是所有严肃团队最便宜也最被低估的基建。
第四步,给复杂问题留一条agent通道。识别出多跳、需要多轮检索的查询(通常占比不超过两成),把它们路由给自主检索流程,其余走固定管道控制成本。
一句话行动指南:2026年入场的正确姿势,不是争论RAG死没死,而是把2019年的检索栈换成2026年的检索栈——这个gap,就是你的机会。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
