首页 › trending › RAG没死、Llama不算开源:两场论战真相

导语: 海外AI圈有两场论战吵了快两年还没收场,但吵出来的阶段性共识,和国内大部分教程教的版本完全不一样。一个是「RAG已死还是永生」——争论的结果不是谁消灭谁,而是朴素RAG被淘汰、新三件套上位;另一个是「开源大模型到底算不算开源」——OSI官方已经盖章:你天天挂在嘴边的Llama,在开源界根本不算开源。这两场论战国内讨论得零散又滞后,而它们直接决定你做系统时的架构选型和商用合规红线。今天把海外的完整争论地图、关键数据和踩坑条款一次拆给你。

论战一:RAG到底死没死

起火点:百万token上下文出现的那一刻

2024年2月,Google发布Gemini 1.5,上下文窗口首次达到100万token,随后API扩到200万。这意味着一件以前想都不敢想的事:把几百页文档直接一次性塞给模型,不需要任何检索中间层。

于是Hacker News上「RAG is dead」这类标题的帖子开始反复冲上热榜,r/LocalLLaMA、r/Rag两大社区迅速分裂成两派。这场论战延续至今,每一次新模型放长上下文(如后续各家旗舰模型的百万级窗口),论战就重新开一轮。

「RAG已死」派的三个论据

论据一:架构简单就是正义。 长上下文方案没有向量库、没有切片策略、没有检索调参,一个API调用搞定。对于个人知识库、单本长文档问答这种场景,工程量直接归零。

论据二:大海捞针测试全绿。 各家长上下文模型在「needle in a haystack」测试中的召回率接近满分,「既然全记得住,为什么还要检索」。

论据三:最强Agent根本不用RAG。 这是2024年下半年开始最有杀伤力的论据——Claude Code这类编程Agent不建向量索引,靠agentic search(让模型自己反复调用grep、glob全文检索工具,边搜边推理),实测效果反而比向量检索好。社区把这称为「agentic search over RAG」,一度让RAG阵营非常被动。

「RAG永生」派的反击

反击一:成本差了五六个数量级。 按公开定价算一笔账:OpenAI的text-embedding-3-small向量化的价格是每百万token约0.02美元;而把100万token上下文直接丢给旗舰模型,单次请求就要按百万token的推理价付费,每轮对话都付一遍。知识库问答是高频、重复性的负载,长上下文方案在规模化后成本会失控。这不是「要不要」的问题,是「养不养得起」的问题。

反击二:大海捞针测试是假繁荣。 社区随后意识到:单针测试(在一堆无关文本里找一条信息)掩盖了真实痛点——多跳推理和跨文档综合。据报道,2025年初海外流传的NoLiMa等新基准显示:排除字面匹配线索后,不少模型的长上下文有效能力明显衰减,部分模型从短上下文的接近满分掉到一半以下(此数据未经官方复现,建议自行核验)。简单说:窗口大,不代表用得好。

反击三:知识库会更新。 长上下文方案里,文档变了就得整包重发、全量重付费;RAG只需要更新受影响的向量。知识更新成本完全不对等。

2025年的合流:死的是「朴素RAG」,不是RAG

这场论战最有价值的产出,是海外社区把「RAG」这个词拆开了。被淘汰的是2023年式朴素RAG:固定512token切片、纯向量召回、无重排。活下来的是改良方案,标志性事件是Anthropic在2024年9月发布的Contextual Retrieval:

三步都来自Anthropic官方博客公布的数字。同期微软开源了GraphRAG(github.com/microsoft/graphrag),用知识图谱补多跳检索的短板。到2025年,海外做知识问答的事实标准收敛为:小规模文档直接长上下文或agentic search;大规模知识库用「上下文化切片+混合检索+rerank」三件套;预算无上限的用Agentic RAG让模型自己决定查什么。

国内常见误区

国内大量教程、付费课至今还在教固定切片+纯向量库的朴素方案,不知道或不讲三件套。如果你的RAG系统检索质量差、幻觉多,大概率不是模型不行,而是你的RAG版本过时了。

怎么选:一张决策图

flowchart TD
    A["知识问答系统选型"] --> B{"知识库规模多大?"}
    B -->|"几十页以内"| C["直接整包塞长上下文"]
    B -->|"成千上万份文档"| D{"对单次成本敏感吗?"}
    C --> E["零工程量 但每轮全量付费"]
    D -->|"敏感 高频调用"| F["混合检索 向量加BM25"]
    D -->|"不敏感 低频深度问答"| G["Agentic search 模型自查循环"]
    F --> H{"检索失败率高吗?"}
    H -->|"高"| I["补Contextual切片预处理"]
    H -->|"低"| J["加rerank精排收工"]
    G --> J
    I --> J

论战二:「开源大模型」到底算不算开源

起火点:OSI的官方定义落地

2024年10月底,开源促进会(Open Source Initiative,OSI)正式发布了开源AI定义(Open Source AI Definition,OSAID)1.0版。这是开源界的老牌权威机构第一次给「开源AI」立官方标准,核心要求两条:

  1. 模型必须赋予用户四大自由:随意使用、研究、修改、再分发;
  2. 必须披露「足够详细」的训练数据信息——来源、构成、筛选清洗方法等,让第三方能理解并重建差不多的模型。

注意:OSAID并不要求公开训练数据本身,只要求披露足够的数据信息。即便如此,OSI仍然明确表态:Meta的Llama系列采用的社区许可证,不构成开源。

为什么Llama不算开源

翻Llama社区许可证原文(ai.meta.com/llama可查),至少有两处硬伤:

类似的还有Google的Gemma系列:权重可下载,但附带专有使用条款和禁用场景清单,同样过不了OSAID。据Meta官方说明,Llama 3.2的多模态版本当时甚至在欧盟不可用——许可直接划定了地域边界。

三方混战:谁在吵、吵什么

OSI派(含红帽等企业):定义必须严格,因为欧盟AI法案对「自由开源」系统有监管豁免条款,OSAID要与之对接。定义放水等于把豁免送给了随便贴「开源」标签的大厂。

开源元老派:以Bruce Perens(Debian自由软件指南的作者之一)为代表,据其公开表态和媒体报道,他认为OSAID已经过于软弱,2025年初另起炉灶推动「Post-Open」运动,重新设计AI时代的开源许可与资助模式(此动态细节请以其官网为准)。

务实派(大厂与多数一线开发者):权重能下载能微调能商用就行,叫不叫「开源」是文字游戏。Hugging Face则用「开放程度分级」的方式回避站队,只标注每个模型开放了哪些部分。

主流模型许可红绿灯

模型/系列 许可类型 OSAID认可 商用关键条款
Llama系列 Llama社区许可 否 内置AUP;月活超7亿需Meta授权;对衍生模型训练有额外限制,以许可原文为准
Gemma系列 专有使用条款 否 附禁用场景清单与合规义务
Mistral多数模型 Apache 2.0 权重层面宽松 但训练数据未公开,OSAID仍不认
Qwen多数版本 Apache 2.0 权重层面宽松 个别版本有特例条款,用前查仓库LICENSE
DeepSeek-R1起 MIT 权重层面最干净 几乎无附加条件,以官方仓库为准
AI2 OLMo Apache 2.0 最接近合规 数据集、训练代码、权重全公开,全球少数

对中国开发者的三个启示

启示一:「开源」不等于「免责任」。 只要许可里带AUP,违反使用政策=许可终止,商用产品可能瞬间失去授权基础。出海产品尤其要逐条读AUP。

启示二:最干净的出海底座可能就在国内。 DeepSeek的MIT、Qwen主线的Apache 2.0,在许可干净度上反而超过Llama和Gemma。海外论战吵完的结论之一就是:选型看LICENSE文件,不看营销话术。

启示三:这张许可地图本身是信息差。 国内讲模型对比的文章铺天盖地讲跑分,极少有人系统讲许可差异。而海外企业选型时,法务审许可和工程师审跑分是并列环节。

开放程度光谱图

flowchart LR
    A["闭源API:权重不可见"] --> B["专有许可:可下载但限制多"]
    B --> C["社区许可:附AUP和规模门槛"]
    C --> D["宽松许可:Apache 2.0 或 MIT"]
    D --> E["完全开放:数据代码权重全公开"]

信息差总结

你以为的(国内常见认知) 海外社区吵完的共识
RAG过时了,长上下文会取代它 朴素RAG过时了;「上下文化切片+混合检索+rerank」三件套是2025年后事实标准
RAG切片随便切切就行 切片前加上下文前缀一项就能降约35%检索失败率(Anthropic官方数据)
窗口越大模型越能干 多个新基准显示长窗口下的有效能力会明显衰减,单针测试失真
Llama是开源模型 OSI官方定义下Llama不是开源;带AUP和7亿月活条款
用「开源」模型没有合规风险 违反AUP即失去授权;出海前必须逐条审许可原文
选型只看跑分 海外企业选型:跑分、成本、许可三线并审

行动指南

  1. 本周内审计你的RAG链路:检查是否实现三件套——chunk上下文化、向量+BM25混合召回、rerank精排。都没有的话,优先补混合检索(BM25实现成本最低,收益立竿见影)。
  2. 算一笔成本账:取你知识库的总token数,分别按「embedding检索+短上下文」和「全量长上下文」估算单轮成本乘以日均调用量。超过10万token的知识库、日均千次以上的调用,长上下文方案大概率不划算。
  3. 打开你产品的模型许可原文:搜「Acceptable Use Policy」和「annual revenue」「monthly active users」关键词,确认有没有触发条款。Llama系产品重点查7亿月活条款和AUP清单。
  4. 出海项目换底座:新项目优先选MIT/Apache 2.0许可的模型底座,把许可风险归零。
  5. 持续跟踪:订阅OSI官网AI定义页面的更新,OSAID与欧盟AI法案豁免的对接进展会影响所有出海AI产品的合规成本。

核验说明与参考来源

说明:本文论战时间线与数据均来自各家官方公开资料和海外社区高热度讨论;Anthropic检索失败率数字、OSAID发布时间、Llama 7亿月活条款为多来源交叉可验证内容;个别标注「据报道」的细节建议自行核验。本文成文时未做实时联网检索,最新许可条款与模型版本以官方仓库为准。

  1. Anthropic官方博客:Improving Retrieval Performance with Contextual Retrieval — https://www.anthropic.com/news (搜索关键词:Anthropic contextual retrieval)
  2. OSI开源AI定义(OSAID)1.0全文 — https://opensource.org (搜索关键词:Open Source AI Definition 1.0)
  3. Meta Llama许可与可接受使用政策原文 — https://ai.meta.com/llama (搜索关键词:Llama community license acceptable use policy)
  4. 微软GraphRAG开源仓库 — https://github.com/microsoft/graphrag
  5. AI2 OLMo完全开放模型仓库 — https://github.com/allenai/OLMo

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入