你有没有遇到过这种情况:Claude Code写了半天代码,关掉重新打开就全忘了;想同时用Claude和GPT却要写一堆SDK切换代码;8个Agent并行探索方案,每个都要冷启动等340秒。这周HN上涌现了一批直击这些痛点的全新开源工具,国内几乎没人讨论。本文拆解其中最有信息差价值的6款。
一句话:把正在运行的LLM会话快照,分叉出N个并行子Agent,跳过冷启动。
GitHub:github.com/thaw-ai/thaw
语言:Python | 协议:Apache 2.0 | 安装:pip install thaw-vllm
当你的Agent需要同时探索8个方案时,传统做法是8次完整prefill(预热推理)。Llama-3.1-8B在H100上,一次冷启动要340秒。8个方案?等半天。
Thaw的做法像git branch:把当前运行中的LLM状态(权重 + KV缓存 + 调度器 + 前缀哈希表)完整快照,然后"水合"出N个子进程,每个走不同分支。结果?从340秒降到0.88秒,约400倍加速。
| 指标 | 传统方式 | Thaw |
|---|---|---|
| 单次冷启动 | ~340秒 | 一次性,之后0.88秒/轮 |
| 4分支×5轮×64 token | ~90分钟 | ~15秒 |
| 70B模型热切换 | N/A | 0.29秒/55 GB/s |
| 状态完整性 | 仅权重 | 权重+KV+调度器+哈希表 |
目前国内开源社区没有类似工具。主流做法是在应用层做并行调用,底层每个Agent独立加载模型,成本巨大。Thaw直接操作KV cache层面,是底层基础设施级的创新。
一句话:本地运行的持久化记忆系统,让Claude Code/Cursor/Codex跨会话记住一切。
GitHub:github.com/oleksiijko/pmb 语言:Python | 协议:Apache 2.0 | ⭐:76 stars(一周内)
你的AI编码Agent每次开会话都从零开始。你每天早上粘贴相同的上下文,维护一个Agent看不到的笔记文件,重复上周做过的决定。PMB用3条命令解决:记忆跨会话、跨工具(Claude Code + Cursor + Codex共享一个工作区)、跨重启,且数据不离开你的硬盘。
| 指标 | PMB | mem0 | Letta | Zep |
|---|---|---|---|---|
| LoCoMo检索recall@10 | 94.5% | N/A | N/A | N/A |
| p50热查询延迟 | 70ms | 1-3秒 | 1-3秒 | 1-3秒 |
| 多语言(50+) | ✅ | ⚠️ | ⚠️ | ⚠️ |
| 跨语言检索 | ✅ 100% | ⚠️ | ⚠️ | ⚠️ |
| 每次调用成本 | $0 | 按量计费 | 按量计费 | 按量计费 |
| 是否离线 | ✅ | ❌云服务 | 部分 | 部分 |
| 需要API Key | ❌ | ✅ | ✅ | ✅ |
| MCP原生 | ✅ | ❌ | ⚠️ | ⚠️ |
pip install pmb-ai
pmb connect # 接入Claude Code和Codex
pmb remember "我们用FastAPI不用Flask,因为需要异步支持"
pmb recall "为什么不用Flask?" # → 返回之前的决策记忆
存储在SQLite + LanceDB上,~/.pmb/目录可以直接USB拷贝或Dropbox同步。
这是目前唯一一个完全本地、零API Key、MCP原生的Agent记忆方案。对国内开发者来说,不依赖海外云服务,延迟极低,隐私安全。76星但增长迅猛。
一句话:7.4MB的Rust单文件二进制,把所有LLM厂商变成配置文件里的一行。
GitHub:github.com/MattJackson/busbarAI 语言:Rust | 协议:AGPL-3.0 | 冷启动:<15ms
你的代码里到处是if provider == "openai": ... elif provider == "anthropic": ...。切换模型要改代码、重新部署。某个厂商挂了,你的服务也跟着挂。
Busbar的做法:改一行base_url,model: "fast"变成一个池子——背后是80% Claude + 20% GPT-4o-mini,Gemini做故障转移。你的应用代码完全不知道发生了什么。
# 之前
client = OpenAI(api_key=OPENAI_KEY)
# 之后
client = OpenAI(api_key=BUSBAR_TOKEN, base_url="http://busbar:8080")
client.chat.completions.create(model="fast", ...)
# 这个请求以OpenAI格式发出,可能被Anthropic处理,以OpenAI格式返回
cache_control、thinking blocks、citations全部保留,连temperature都用f64传递(f32会把0.7变成0.699999988)国内开发者常用LiteLLM(Python),但Busbar是原生二进制,无Python运行时、无GC暂停,适合生产环境。与OpenRouter等托管路由相比,Busbar在你自己的基础设施上运行,流量不经过第三方。
一句话:把项目里的隐性知识("这个文件改了会炸")变成Agent能自动查阅的Markdown笔记。
GitHub:github.com/Foxfire1st/agents-remember-md 语言:Python | ⭐:21 stars
AI编码Agent能写代码,但不知道项目里的潜规则:"这个函数别动,改了会影响3个微服务"、"这个表的命名规范是xxx"。这些知识在老员工的脑子里、旧PR的评论里、团队的口头传统里。顶层CLAUDE.md能写一些,但Agent深入到具体文件时就忘了。
Agents Remember的做法:每个源文件旁边放一个Markdown记忆文件,Agent在编辑文件时自动获取对应记忆。
src/orchestrator/core_editor.py
ar-memory/onboarding/src/orchestrator/core_editor.py.md ← 自动关联的记忆
src/foo/bar.ts时自动找到ar-memory/onboarding/src/foo/bar.ts.mdPMB是通用的对话记忆(记住你说过什么),Agents Remember是代码级的项目知识(记住这个文件为什么这样写)。两者互补,不冲突。
一句话:Chrome扩展,35+规则,让AI Agent浏览网页时既省Token又防注入。
GitHub:github.com/pixiebrix/agent-browser-shield 语言:TypeScript | ⭐:13 stars | 来源:Pixiebrix团队(知名浏览器自动化公司)
当你的AI Agent使用浏览器时,会遇到三大问题: 1. Token浪费:页面的页脚、Cookie横幅、聊天控件、赞助内容白白消耗Token 2. 安全风险:PII和凭据被发送到模型,HTML注释和隐藏文本可能携带Prompt注入载荷 3. 准确性干扰:暗黑模式(dark patterns)和诱导性内容误导Agent
Agent Browser Shield在浏览器层面直接拦截,Agent拿到的已经是干净的页面。
| 维度 | 具体措施 |
|---|---|
| Token效率 | 剥离页脚、Cookie横幅、聊天控件、赞助内容 |
| 安全合规 | 屏蔽PII和凭据、抑制隐藏文本和HTML注释中的注入载荷 |
| 准确性 | 阻止暗黑模式、隐藏诱导性内容 |
直接从Chrome Web Store安装,支持Chrome、Edge、Brave、Arc、Opera。还有在线Demo站点可以直接看Before/After效果。
一句话:用开放Schema定义AI Agent团队,类似Docker Compose但给Agent用。
GitHub:openenvelope.org HN热度:52 points
你有一堆Agent工具,但怎么定义"这3个Agent组成一个团队,分别负责规划、编码、测试,彼此怎么协作"?目前没有标准。
Open Envelope提出了一个开放Schema:用YAML/JSON定义Agent团队的组成、角色、工具、通信方式。
team:
name: code-review-squad
agents:
- role: reviewer
tools: [github, linter]
communicates_with: [approver]
- role: approver
tools: [github]
final_decision: true
随着Agent数量爆发式增长,"Agent编排"成为刚需。Open Envelope试图建立标准,52个HN赞说明社区在认真讨论这个问题。国内做Agent框架的团队应该密切关注。
graph TB
subgraph "Agent基础设施层"
THAW["Thaw<br/>Agent分叉引擎<br/>0.88秒fork"]
BUS["Busbar<br/>LLM路由器<br/>7.4MB Rust二进制"]
end
subgraph "Agent记忆层"
PMB["PMB<br/>通用对话记忆<br/>本地+MCP"]
ARM["Agents Remember<br/>代码级项目知识<br/>Git感知"]
end
subgraph "Agent安全层"
ABS["Agent Browser Shield<br/>浏览器安全扩展<br/>35+规则"]
end
subgraph "Agent编排层"
OEN["Open Envelope<br/>团队定义标准<br/>开放Schema"]
end
THAW --> |"并行探索"| BUS
BUS --> |"路由请求"| PMB
BUS --> |"路由请求"| ARM
PMB --> |"记忆供给"| ABS
ARM --> |"知识供给"| ABS
OEN --> |"团队编排"| THAW
style THAW fill:#ff6b6b,color:#fff
style BUS fill:#4ecdc4,color:#fff
style PMB fill:#45b7d1,color:#fff
style ARM fill:#96ceb4,color:#fff
style ABS fill:#feca57,color:#333
style OEN fill:#a29bfe,color:#fff
| 你可能知道的 | 你可能不知道的 |
|---|---|
| Agent并行要重复加载模型 | Thaw可以快照运行中的LLM状态,分叉400倍加速 |
| Agent记忆要用mem0/Zep云服务 | PMB完全本地、零成本、70ms延迟、94.5%召回率 |
| 多模型切换要用LiteLLM(Python) | Busbar是7.4MB Rust单文件,15ms冷启动,无损翻译 |
| Agent项目知识靠CLAUDE.md | Agents Remember按文件路径自动关联记忆,Git drift感知 |
| Agent浏览网页直接抓取全页 | Agent Browser Shield自动剥离噪音、防注入、省Token |
| Agent团队编排各做各的 | Open Envelope试图建立开放标准,52赞HN热议中 |
pip install pmb-ai,一条命令给Claude Code加记忆,零成本pip install thaw-vllm,多Agent并行探索从90分钟降到15秒本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
