首页 › new-tools › RAG之外:Agent记忆本周三种新解法

RAG 之外:Agent 记忆本周三种新解法

本周 Hacker News 的 Show HN 板块冒出三个看似无关、实则指向同一件事的开源新品:Agent 的「记忆」和「判断」这两层基础设施,正在被人从根上重写。raidho 用一种叫 VSA 的代数记忆替代 RAG,实测把同一个任务的成本从 \$0.301 砍到 \$0.05;HelixDB 把「图 + 向量 + 全文」三套系统塞进对象存储,专门给 Agent 当大脑;CriteriaBot 让一群小开源模型投票打分,发现 Gemma 4 26B 的准确率只比 Opus 4.8 低 1 个百分点。如果你现在还在给 Agent 死磕 RAG,这篇就是为你留的信息差。

一、raidho:把 RAG 换成「代数记忆」,成本砍到 1/6

它到底改了什么

大多数 coding agent 就是「一个模型 + 一个工具循环」。raidho 把这件事拆成三段,而且每一段可以跑在不同供应商上:

  1. Reasoning ≠ Execution:用一个贵但聪明的模型(比如 Claude/Opus)做推理和规划,用一个便宜但快的模型(比如 DeepSeek)去执行工具循环。你决定「贵的思考」和「便宜的干活」分别发生在哪。
  2. Council mode(议会模式):让两个供应商辩论同一个问题,再由一个中立 pass 提炼共识——同意点、残留分歧、最终建议。比如 Claude vs DeepSeek。
  3. 持久化结构记忆:这是最硬核的部分。Agent 记住 (主体, 关系, 对象) 形式的事实,每轮把相关事实召回进 prompt;它通过一个 remember 工具自己存新事实,Council 的裁决会自动蒸馏成事实。

关键在于:这套记忆不是 RAG,而是 VSA(Vector Symbolic Architecture,向量符号架构)。事实是代数组合出来的,相似度用 bit-packed 表示,比 float 少用 32 倍内存,排序结果完全一致。记忆写进磁盘 <workdir>/.raidho/memory,下次启动重载——今天达成的决定,明天还能浮现,且只在相关时召回(不撑爆历史)。它甚至跨语言:一条俄语查询能找到一条英语事实。

为什么值得关注:硬邦邦的成本数字

作者放了一份同任务、同模型的对照实测(2026-06-11,真实 API):

方案 单次成本
纯工具循环(传统 agent 做法) \$0.301
上下文优先混合(context-first hybrid) \$0.116
确定性过程(auto-distillation 后) \$0.05

混合方案在报告质量上追平了工具循环,成本却只有它的 1/2.6;开启自动蒸馏后最省能到 1/6。原理是:一次成功的只读工具循环会被捕获成「确定性过程」,下次遇到类似任务直接跳过 LLM 循环,换成确定性数据采集 + 一次综合调用。作者对安全性做了重重门禁(只读命令、安全校验 pass、坏过程会被中性 fitness 否决,写操作永远留在 LLM 路径)。

国内对比与适用人群

国内做 RAG 的工具一抓一大把——RAGFlow、FastGPT、Dify、LangChain-Chatchat——但全是向量检索那套范式,VSA 这种「代数记忆」在国内内容圈几乎是空白。适合:coding agent / 长任务 agent 的构建者、想给 agent 加跨会话记忆又不想被向量库成本拖垮的独立开发者、对 DeepSeek + Claude 混合调度感兴趣的团队。

二、HelixDB:对象存储上的「图 + 向量 + 全文」,给 Agent 当大脑

它解决的是 GraphRAG 的缝合噩梦

HelixDB 一年前立项时只是个图数据库。转折发生在他们试图给它做一个 AI 记忆系统——一头扎进了 GraphRAG / HybridRAG 的兔子洞,发现要分别维护一个图 DB 和一个向量 DB,还要在应用层手工 join。于是他们把三样东西合进了一个引擎:图(关系建模)+ 向量(语义理解)+ 全文(精确过滤),并且原生支持跨系统的 join 查询,不用再在应用层缝合。

杀手锏:持久层用 S3 对象存储

这是它最反直觉、也最省钱的点。传统图数据库要扩容,要么全量复制数据集到分布式机器(每节点极贵),要么分片(但图的边会跨越任意分区,跨机遍历又慢又贵)。HelixDB 的思路是:agent 的负载往往是「存海量数据,但任何时刻只需要其中一小撮」——那不如全放对象存储(S3),需要哪块取哪块。

效果数据:

作者正在做的下一步也直指 agent:一个基于 HelixDB 的通用 AI 记忆层(完全开源)、向量预过滤(按图关系 / 元数据 / 子图预过滤)、以及 GA 云版本。当前已经在跑的工作负载包括 TB 级数据的 agent 搜索遍历、给 agent 自主权的企业「company brain」、AI 记忆系统。

国内对比与适用人群

国内图数据库有 NebulaGraph、腾讯云图数据库等,OLTP 性能很强,但几乎没人把「向量 + 全文 + agent 记忆」打包,更没人拿对象存储当图持久层。如果你正在做知识图谱、企业大脑、或需要「关系 + 语义」混合检索的 agent,HelixDB 这个角度值得抄。适合:知识图谱 / GraphRAG 团队、企业级 agent 记忆后端、对存储成本敏感的大数据 agent 项目。

三、CriteriaBot:一群小模型投票,Gemma 只比 Opus 低 1 个点

场景:那些传统 ML 接不住的「主观判断」

作者要做的分类很微妙:「这是不是剧透?」「这段话事实正确吗?」「这个用户在骂人吗?」——这些细粒度、主观、落在典型 ML 盲区的判断,传统分类器接不住。于是他把它做成一个「通用可定制分类器」:给它内容 + 一段大白话标准,它返回 true/false。

架构:小模型群投票 + 因子分解机 + 用户校准

这是全文技术含量最高的一个。它的判断不是单模型,而是一条流水线:

三个反直觉的发现(这才是真正的信息差)

  1. 同测试集下,Gemma 4 26B 的准确率只比 Opus 4.8 低约 1 个百分点。换句话说,在这种「判断」类任务上,免费的 26B 小模型已经摸到了旗舰模型的脚后跟。
  2. 纯 oracle(理想组合)当前约 98% 准确率。
  3. 最有用的单一模型是 LFM2 24B——它个体表现最差,却对共识贡献最大。原因反直觉:它和其他模型相关性最低,独特架构带来了别人给不了的信号,刚好补上盲区。

这条第 3 点对做模型集成的人是直接可抄的方法论:集成里最值钱的不是「最强模型」,而是「和大家都不一样的模型」。

国内对比与适用人群

国内有「模型集成 / 投票」的概念,但「因子分解机动态选投票池 + 用户历史校准 + 故意纳入相关性低的模型补盲区」这种组合实现极其罕见。「用一群便宜小模型替代一个贵大模型做分类判断」的思路,对内容审核、评论风控、数据标注管线是即插即用的降本路径。适合:内容审核 / 风控、标注团队、想用小模型群替代 GPT 做结构化判断的开发者。

一张图看懂:传统 Agent vs 本周三条新路径

flowchart LR
    subgraph OLD["传统 Agent(贵 + 缝合)"]
        A1[用户请求] --> A2[单一旗舰模型<br/>如 Opus/GPT]
        A2 --> A3[向量 RAG 检索]
        A3 --> A4[工具循环 多轮]
        A4 --> A5["成本高 / 记忆易丢<br/>图与向量要分别维护"]
    end

    subgraph R1["raidho:代数记忆"]
        B1[贵模型 规划<br/>Claude] --> B2[便宜模型 执行<br/>DeepSeek]
        B2 --> B3["VSA 代数记忆<br/>bit-packed 省32倍内存<br/>跨语言 持久化磁盘"]
        B3 --> B4["成本 $0.05 vs $0.301<br/>Council 裁判自动入库"]
    end

    subgraph R2["HelixDB:对象存储大脑"]
        C1[Agent 记忆 / 知识查询] --> C2["图 + 向量 + 全文<br/>原生 join 不缝合"]
        C2 --> C3["S3 对象存储持久层<br/>容量无上限"]
        C3 --> C4["写 p99 100ms<br/>读 p99 50ms"]
    end

    subgraph R3["CriteriaBot:小模型议会"]
        D1[内容 + 大白话标准] --> D2["一池小开源 LLM<br/>Gemma/LFM2 等"]
        D2 --> D3["因子分解机选池+裁决<br/>用户历史校准"]
        D3 --> D4["Gemma 26B 仅比<br/>Opus 4.8 低 1pp"]
    end

    OLD -.重构.-> R1
    OLD -.重构.-> R2
    OLD -.重构.-> R3

信息差总结:你知道的 vs 别人知道的

维度 国内多数人知道的 本周 HN 上别人已经在玩的
Agent 记忆 向量 RAG(RAGFlow/FastGPT/Dify) VSA 代数记忆(bit-packed,省 32× 内存,跨语言,raidho)
记忆 / 知识存储 图 DB 或向量 DB 二选一,应用层 join 图+向量+全文合体,S3 当持久层,HelixDB
分类 / 判断 一个大模型(GPT/Claude)打天下 一群小模型投票,Gemma 26B 仅比 Opus 4.8 低 1pp(CriteriaBot)
降本思路 换更便宜的单模型 / prompt 压缩 贵模型规划+便宜模型执行+确定性过程缓存(raidho,成本到 1/6)
模型集成 选最强模型组合 故意纳入「相关性最低」的模型补盲区(LFM2 24B 案例)
## 行动指南:你可以马上做什么
  1. 想给 coding agent 降本:clone raidho,跑通它 benchmarks/real_task_opus.py 里的对照实验,对比你当前 agent 在同一任务上的成本。重点看「确定性过程」自动蒸馏有没有把你的重复任务成本压下去。
  2. 在做知识图谱 / 企业大脑:把 HelixDB 本地跑起来(支持磁盘 / 内存两种模式),把你现有「图 DB + 向量 DB」的双系统合并成一套,体验原生 join 带来的应用层简化。
  3. 在做内容审核 / 风控判断:用 CriteriaBot 的思路,在你现有的标注管线上挂一层「小模型群投票」,先验证「Gemma 级别小模型群能否追平你现在用的旗舰模型」——如果能,账单能砍掉一大截。
  4. 方法论复用:哪怕你不用这三个工具,也记住三条可迁移的原理——记忆不一定非要是向量检索(VSA / 图都可)、集成里最值钱的是「差异化模型」而非「最强模型」、把成功的只读流程固化成确定性过程是 agent 降本的隐藏开关。

参考来源

完成摘要(What was done)

下一步计划

  1. (高优) 若需进一步提升可信度:可补充抓取 HelixDB 与 CriteriaBot 的 GitHub README / 官网定价页,把价格段写得更精确
  2. (中优) 6月18日搜索配额恢复后,可用 WebSearch 交叉验证这三个工具在 Reddit / Twitter 上的二次传播与社区评价
  3. (低优) 可考虑把本文的「三条可迁移原理」单独拆成一篇 tips-tricks 角度的深度文

注意事项

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入