首页 › new-tools › Agent分叉、记忆大脑与LLM路由器:六款新利器

Agent分叉、记忆大脑与LLM路由器:六款海外新AI利器

你有没有遇到过这种情况:Claude Code写了半天代码,关掉重新打开就全忘了;想同时用Claude和GPT却要写一堆SDK切换代码;8个Agent并行探索方案,每个都要冷启动等340秒。这周HN上涌现了一批直击这些痛点的全新开源工具,国内几乎没人讨论。本文拆解其中最有信息差价值的6款。


一、Thaw — AI Agent的"git branch"

一句话:把正在运行的LLM会话快照,分叉出N个并行子Agent,跳过冷启动。

GitHub:github.com/thaw-ai/thaw 语言:Python | 协议:Apache 2.0 | 安装:pip install thaw-vllm

解决什么问题

当你的Agent需要同时探索8个方案时,传统做法是8次完整prefill(预热推理)。Llama-3.1-8B在H100上,一次冷启动要340秒。8个方案?等半天。

Thaw的做法像git branch:把当前运行中的LLM状态(权重 + KV缓存 + 调度器 + 前缀哈希表)完整快照,然后"水合"出N个子进程,每个走不同分支。结果?从340秒降到0.88秒,约400倍加速。

关键数据

指标 传统方式 Thaw
单次冷启动 ~340秒 一次性,之后0.88秒/轮
4分支×5轮×64 token ~90分钟 ~15秒
70B模型热切换 N/A 0.29秒/55 GB/s
状态完整性 仅权重 权重+KV+调度器+哈希表

谁该关注

国内对比

目前国内开源社区没有类似工具。主流做法是在应用层做并行调用,底层每个Agent独立加载模型,成本巨大。Thaw直接操作KV cache层面,是底层基础设施级的创新。


二、PMB — AI编码Agent的"记忆大脑"

一句话:本地运行的持久化记忆系统,让Claude Code/Cursor/Codex跨会话记住一切。

GitHub:github.com/oleksiijko/pmb 语言:Python | 协议:Apache 2.0 | ⭐:76 stars(一周内)

解决什么问题

你的AI编码Agent每次开会话都从零开始。你每天早上粘贴相同的上下文,维护一个Agent看不到的笔记文件,重复上周做过的决定。PMB用3条命令解决:记忆跨会话、跨工具(Claude Code + Cursor + Codex共享一个工作区)、跨重启,且数据不离开你的硬盘。

核心指标

指标 PMB mem0 Letta Zep
LoCoMo检索recall@10 94.5% N/A N/A N/A
p50热查询延迟 70ms 1-3秒 1-3秒 1-3秒
多语言(50+) ✅ ⚠️ ⚠️ ⚠️
跨语言检索 ✅ 100% ⚠️ ⚠️ ⚠️
每次调用成本 $0 按量计费 按量计费 按量计费
是否离线 ✅ ❌云服务 部分 部分
需要API Key ❌ ✅ ✅ ✅
MCP原生 ✅ ❌ ⚠️ ⚠️

快速上手

pip install pmb-ai
pmb connect          # 接入Claude Code和Codex
pmb remember "我们用FastAPI不用Flask,因为需要异步支持"
pmb recall "为什么不用Flask?"   # → 返回之前的决策记忆

存储在SQLite + LanceDB上,~/.pmb/目录可以直接USB拷贝或Dropbox同步。

为什么值得关注

这是目前唯一一个完全本地、零API Key、MCP原生的Agent记忆方案。对国内开发者来说,不依赖海外云服务,延迟极低,隐私安全。76星但增长迅猛。


三、Busbar — 一个URL路由所有LLM

一句话:7.4MB的Rust单文件二进制,把所有LLM厂商变成配置文件里的一行。

GitHub:github.com/MattJackson/busbarAI 语言:Rust | 协议:AGPL-3.0 | 冷启动:<15ms

解决什么问题

你的代码里到处是if provider == "openai": ... elif provider == "anthropic": ...。切换模型要改代码、重新部署。某个厂商挂了,你的服务也跟着挂。

Busbar的做法:改一行base_url,model: "fast"变成一个池子——背后是80% Claude + 20% GPT-4o-mini,Gemini做故障转移。你的应用代码完全不知道发生了什么。

# 之前
client = OpenAI(api_key=OPENAI_KEY)

# 之后
client = OpenAI(api_key=BUSBAR_TOKEN, base_url="http://busbar:8080")
client.chat.completions.create(model="fast", ...)
# 这个请求以OpenAI格式发出,可能被Anthropic处理,以OpenAI格式返回

核心特性

国内对比

国内开发者常用LiteLLM(Python),但Busbar是原生二进制,无Python运行时、无GC暂停,适合生产环境。与OpenRouter等托管路由相比,Busbar在你自己的基础设施上运行,流量不经过第三方。


四、Agents Remember — Git感知的代码记忆

一句话:把项目里的隐性知识("这个文件改了会炸")变成Agent能自动查阅的Markdown笔记。

GitHub:github.com/Foxfire1st/agents-remember-md 语言:Python | ⭐:21 stars

解决什么问题

AI编码Agent能写代码,但不知道项目里的潜规则:"这个函数别动,改了会影响3个微服务"、"这个表的命名规范是xxx"。这些知识在老员工的脑子里、旧PR的评论里、团队的口头传统里。顶层CLAUDE.md能写一些,但Agent深入到具体文件时就忘了。

Agents Remember的做法:每个源文件旁边放一个Markdown记忆文件,Agent在编辑文件时自动获取对应记忆。

src/orchestrator/core_editor.py
ar-memory/onboarding/src/orchestrator/core_editor.py.md  ← 自动关联的记忆

三种检索方式

  1. By Path:编辑src/foo/bar.ts时自动找到ar-memory/onboarding/src/foo/bar.ts.md
  2. By Meaning:语义搜索,知道概念但不知道文件名时使用
  3. By Relationship:代码图谱,查找调用者、被调用者和依赖关系

与PMB的区别

PMB是通用的对话记忆(记住你说过什么),Agents Remember是代码级的项目知识(记住这个文件为什么这样写)。两者互补,不冲突。


五、Agent Browser Shield — Agent浏览器的"安全套"

一句话:Chrome扩展,35+规则,让AI Agent浏览网页时既省Token又防注入。

GitHub:github.com/pixiebrix/agent-browser-shield 语言:TypeScript | ⭐:13 stars | 来源:Pixiebrix团队(知名浏览器自动化公司)

解决什么问题

当你的AI Agent使用浏览器时,会遇到三大问题: 1. Token浪费:页面的页脚、Cookie横幅、聊天控件、赞助内容白白消耗Token 2. 安全风险:PII和凭据被发送到模型,HTML注释和隐藏文本可能携带Prompt注入载荷 3. 准确性干扰:暗黑模式(dark patterns)和诱导性内容误导Agent

Agent Browser Shield在浏览器层面直接拦截,Agent拿到的已经是干净的页面。

三重防护

维度 具体措施
Token效率 剥离页脚、Cookie横幅、聊天控件、赞助内容
安全合规 屏蔽PII和凭据、抑制隐藏文本和HTML注释中的注入载荷
准确性 阻止暗黑模式、隐藏诱导性内容

安装方式

直接从Chrome Web Store安装,支持Chrome、Edge、Brave、Arc、Opera。还有在线Demo站点可以直接看Before/After效果。


六、Open Envelope — AI Agent团队的定义标准

一句话:用开放Schema定义AI Agent团队,类似Docker Compose但给Agent用。

GitHub:openenvelope.org HN热度:52 points

解决什么问题

你有一堆Agent工具,但怎么定义"这3个Agent组成一个团队,分别负责规划、编码、测试,彼此怎么协作"?目前没有标准。

Open Envelope提出了一个开放Schema:用YAML/JSON定义Agent团队的组成、角色、工具、通信方式。

team:
  name: code-review-squad
  agents:
    - role: reviewer
      tools: [github, linter]
      communicates_with: [approver]
    - role: approver
      tools: [github]
      final_decision: true

为什么值得关注

随着Agent数量爆发式增长,"Agent编排"成为刚需。Open Envelope试图建立标准,52个HN赞说明社区在认真讨论这个问题。国内做Agent框架的团队应该密切关注。


工具全景对比

graph TB
    subgraph "Agent基础设施层"
        THAW["Thaw<br/>Agent分叉引擎<br/>0.88秒fork"]
        BUS["Busbar<br/>LLM路由器<br/>7.4MB Rust二进制"]
    end

    subgraph "Agent记忆层"
        PMB["PMB<br/>通用对话记忆<br/>本地+MCP"]
        ARM["Agents Remember<br/>代码级项目知识<br/>Git感知"]
    end

    subgraph "Agent安全层"
        ABS["Agent Browser Shield<br/>浏览器安全扩展<br/>35+规则"]
    end

    subgraph "Agent编排层"
        OEN["Open Envelope<br/>团队定义标准<br/>开放Schema"]
    end

    THAW --> |"并行探索"| BUS
    BUS --> |"路由请求"| PMB
    BUS --> |"路由请求"| ARM
    PMB --> |"记忆供给"| ABS
    ARM --> |"知识供给"| ABS
    OEN --> |"团队编排"| THAW

    style THAW fill:#ff6b6b,color:#fff
    style BUS fill:#4ecdc4,color:#fff
    style PMB fill:#45b7d1,color:#fff
    style ARM fill:#96ceb4,color:#fff
    style ABS fill:#feca57,color:#333
    style OEN fill:#a29bfe,color:#fff

信息差总结

你可能知道的 你可能不知道的
Agent并行要重复加载模型 Thaw可以快照运行中的LLM状态,分叉400倍加速
Agent记忆要用mem0/Zep云服务 PMB完全本地、零成本、70ms延迟、94.5%召回率
多模型切换要用LiteLLM(Python) Busbar是7.4MB Rust单文件,15ms冷启动,无损翻译
Agent项目知识靠CLAUDE.md Agents Remember按文件路径自动关联记忆,Git drift感知
Agent浏览网页直接抓取全页 Agent Browser Shield自动剥离噪音、防注入、省Token
Agent团队编排各做各的 Open Envelope试图建立开放标准,52赞HN热议中

行动指南

  1. 立刻可试:pip install pmb-ai,一条命令给Claude Code加记忆,零成本
  2. 有GPU的团队:pip install thaw-vllm,多Agent并行探索从90分钟降到15秒
  3. 多模型用户:下载Busbar 7.4MB二进制,YAML配置多模型路由+故障转移
  4. 做浏览器自动化的:安装Agent Browser Shield扩展,立刻省Token+提升安全性
  5. 做Agent框架的:研究Open Envelope Schema,思考团队编排的标准方向

参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入