首页 › new-tools › 别让agent自批自跑:本周四把围栏新刀

别让 agent 自批自跑:本周四把开源围栏新刀

一句话信息差:海外这周冒出来一批"给 AI agent 当保安"的工具——它们不帮 agent 干活,而是挡住 agent、给 agent 上锁、专门拆 agent。如果你正在用 Claude Code / Codex / 各种 agentic 框架让 agent 自主删数据、调接口、装依赖,那你大概不知道:你的 agent 正在自己批准自己干这些危险事,而且全程没人拦。这四把刀,就是堵这个洞的。

一、为什么这周突然全是"围栏"

我抓了 7 月初 Hacker News 的 Show HN 区块,发现一个清晰的趋势:这一周最高赞的 AI 工具,不是让 agent 更能干,而是让 agent 更"安全地"干活。同一个礼拜里,至少 5 个 Show HN 项目在解决同一类问题——agent 越权、agent 烧钱、agent 装上恶意依赖、agent 被一句话骗出去。

这不是巧合。当 agent 从"补全代码"进化到"自主操作生产环境",最大的风险已经从"写错代码"变成了"它自己同意自己去删库"。国内同行现在还在卷"谁的 agent 能跑更长任务",海外已经在卷"谁的围栏更难被绕过"。这就是这周的信息差。

二、MakerChecker:让 agent "结构上不可能"自己批准自己

地址:github.com/sammysltd/makerchecker | 官网 makerchecker.ai HN 热度:43 分(7 月 6 日上 Show HN) 协议:AGPL-3.0 核心 + Apache-2.0 SDK 适用人群:做 to B、做金融/医疗/合规、跑 agent 动钱动数据的团队

这是这周最硬的一把。它的核心口号一句到位:

你的 agent 跑在原有框架里(LangChain / Claude SDK / CrewAI 都行),MakerChecker 挡在每一次工具调用前当检查点,挡在调用后当签名账本——agent 只能扮演一个 role,只能跑被 grant 过的 skill,不能超限,更不能批准自己的作业。

为什么这句"provably can't approve its own work"(可证明地无法自批)这么重要?因为现在 99% 的 agent 实现里,审批和工作执行是同一个主体。agent 想删表,它自己判断"嗯该删",然后自己删了。MakerChecker 干的事是:把高风险动作拆给一个独立的 role(比如 risk-desk),agent 永远拿不到这个权限,必须等人按。

三步上手,每步都是独立包,可以单独用:

第一步——扫描现有代码,看你的 agent 到底能干嘛:

npx @makerchecker/scan .

零安装、数据不出本地。它会把你 agent 能自己干的"后果性动作"全标出来——删数据、转钱、跑 shell、泄露 secret——并把每个动作对应到一个真实的公开事故来命名风险等级。加 --fix 还能直接帮你生成治理代码。

第二步——结构上保证行为:

npm i @makerchecker/embedded
const gov = createGovernor()
  .defineSkill("place-order@1", { riskTier: "high" })
  .defineRole("agent")
  .defineRole("risk-desk")
  .grant("risk-desk", "place-order@1")   // 注意:给 agent 的 role 没授权
  .defineAgent("trader", "agent");

const placeOrder = gov.governedTool("trader", "place-order@1",
  (order) => broker.submit(order));
// 这个调用在执行前就被 deny 掉,错误码 skill_not_granted

高风险 skill 挂在一个单独的 role 上,agent 永远不能自己批准自己——每一次"放行"或"拒绝"都写进签名审计日志。

第三步——给审计人员用的可验证账本:docker compose up 起一个自托管 server,每条决策都用 Ed25519 签名 + 哈希链(改任意一行,整条链验证就断)。导出一个 bundle,离线、不信任生成过程也能验。对做合规、过审计的团队,这就是"可证明"三个字。

为什么值得关注:它不是又一个 agent 框架,而是框架中立的治理层。国内做 agent 平台的(扣子、Dify 等)目前普遍是"信任模型输出 + 简单开关",缺的正是这种 deny-by-default + 独立审批角色 + 密码学可验证的硬约束。如果你做的是金融、医疗、政务类 agent,这把刀直接抬高一档过审概率。

三、deptrust:挡住 agent 给你塞进来的"毒依赖"

地址:github.com/clidey/deptrust HN 热度:26 分 安装:pnpx @clidey/deptrust@latest install 或 brew install clidey/tap/deptrust 适用人群:所有让 agent(Claude Code / Codex / Cursor)写代码、装包的人

作者一句话点破了所有人遇到过、却没人系统的痛:

我做这个工具,是因为 AI coding agent 一直在用旧版本、漏洞版本。我老是得手动去纠正 Claude 和 Codex:"用更新的、更安全的版本"。

deptrust 同时是 CLI 和 MCP server,作用就一个:在 agent 装包/推荐版本之前,先查这个版本有没有已知漏洞。直连公开的包注册表和 OSV API,没有托管服务需要信任或配置——这点对在意数据出境的国内团队很关键。

覆盖范围吓人:npm(含 scoped 包)、PyPI、Cargo/crates.io、Go modules、RubyGems、NuGet、Maven、Packagist、pub.dev、CocoaPods、Hex.pm、Hackage,甚至 GitHub Actions。

它的判断逻辑是个清晰的表格,agent 看了能直接做决策:

最高已知严重度 推荐
critical block
high block
medium / unknown review
low allow
未发现 allow

最骚的一个设计——不是 CVE 但依然是风险信号:最近 72 小时内发布的版本一律标 review。为什么?因为投毒包、仿冒包、抢注包常常是"刚发就塞给你"。agent 不长记性,看到一个看起来对的包名就 npm i,deptrust 帮它在最后一道关上踩一脚刹车。查询走 OSV + GitHub Advisory Database(含恶意软件公告)并行拉取。

为什么值得关注:这是"供应链投毒 + AI 写代码"双重风险叠加时代的必需品。2024-2025 已经出现过 npm 投毒包专门针对 Cursor/Claude 用户的真实事件。你把 deptrust 配成 MCP,agent 每次想装包自动先问它一句"这版本干净吗",等于给 agent 配了个常驻安全顾问。这是国内几乎没有人在做、但出事就翻车的环节。

四、AgentWatch:在 agent 烧爆预算之前就掐断

地址:agent-watch.dev | GitHub AgentWatch-dev/AgentWatch HN 热度:7 分 价格:免费(schema 里 price = 0) 适用人群:跑长任务、跑批、用昂贵前沿模型的 agent 团队

定位一句话:Stop runaway LLM agents before they burn your budget(在失控 agent 烧爆预算前拦住它)。

它解决的是另一个真实痛点——agent 进了死循环、或者在一个子任务上反复重试,一晚上把 API 额度烧光。我之前在《盯AI比跑AI贵八倍》里讲过观测成本,AgentWatch 管的是更上游的问题:根本不让烧钱的循环发生。

核心卖点(直接来自它的 schema 元数据): - Pre-call budget enforcement——在每次调用之前就强制预算,不是事后对账 - Real-time loop detection——实时识别死循环 - Fail-open resilience——它自己挂了不会拖垮你的业务(fail-open,可配置) - Zero data retention——不留存数据 - Sub-millisecond edge latency——亚毫秒级边缘延迟

最讨喜的是集成成本:两行代码,无需 SDK。对于一个"我只是想让 agent 别一晚上烧掉我一万块"的需求,这种轻量接入是关键。

为什么值得关注:国内很多团队上了 agent 之后,第一笔超预期的账单几乎都来自"agent 卡住循环重试"。AgentWatch 把这个风险变成一个可配置的硬上限,免费、轻量。配合前文《路由器砍七成账单》里的模型路由,能形成"便宜模型跑杂活 + AgentWatch 兜底防爆"的省钱组合拳。

五、Declaw Arena:让你亲手去拆一个被保护的 agent

地址:declaw.ai/arena HN 热度:8 分 适用人群:安全工程师、想做 agent 防护的人、以及想搞清楚"注入攻击到底怎么得手"的所有人

这是我见过的最聪明的产品演示——它把"我们的防护有多强"做成了一个 CTF 挑战,免费、不用注册:

一个真实的 AI agent 守着一个 secret,跑在隔离的 Declaw 沙箱里。你是攻击者——让它漏嘴。挡在你面前的,只有 Declaw 的运行时策略。

底层是 Firecracker microVM(AWS 用来跑 Lambda 的同款轻量虚拟机),一个 SDK 同时管沙箱 + 安全:PII 脱敏、提示注入防御、代码安全、网络管控全打包。

它最有教育意义的,是同一个 agent、同一个 secret、只换防护等级的对比。比如"Breakout(越狱)"挑战: - 无防护:agent 只听自己的 system prompt,没有别的保护——你绕绕就能套出 secret - + 注入裁判:Declaw 加了一个 injection judge,把你的每一句话和 agent 本身的任务做权衡,识别并挡住哪怕措辞再巧妙的操纵,还附带解释 - 严格模式:裁判逐轮审查,出口流量锁死只能连 agent 自己的模型,放行门槛拉到最高

每个会话跑在独立 Declaw 沙箱里,10 分钟时限,免注册。

为什么值得关注:这不是又一个工具,而是一个免费的"红队健身房"。在国内,绝大多数人只知道"提示注入"这四个字,却从没亲手攻破过一个 agent。花 10 分钟在 Arena 里把一个 agent 套出 secret,你对"为什么需要围栏"的理解会彻底改观——这比读十篇文章都管用。它的商业 SDK 也值得关注:如果你要给 agent 跑任意用户代码/不可信输入,Firecracker + 注入裁判是最稳的隔离姿势。

六、四把刀怎么配合:纵深防御一张图

这四把不是竞争关系,而是层层设防。一个负责任的 agent 系统,应该让动作在落到"真实执行"前,穿过尽可能多道闸:

flowchart LR
    A["🤖 AI Agent 想执行动作"] --> B{"第一道 · MakerChecker<br/>deny-by-default + 独立审批 role"}
    B -->|"未授权 / 需人审"| X["❌ 拒绝"]
    B -->|"角色放行"| C{"第二道 · AgentWatch<br/>预算 + 死循环检测"}
    C -->|"超预算 / 卡循环"| X
    C -->|"预算内"| D{"第三道 · Declaw<br/>Firecracker microVM + 注入裁判"}
    D -->|"提示注入 / 越权"| X
    D -->|"沙箱内执行"| E{"第四道 · deptrust<br/>校验依赖版本与发布时间"}
    E -->|"高危包 / 72h 新包"| X
    E -->|"安全"| F["✅ 真正执行"]
    X --> L["📝 Ed25519 哈希链<br/>签名审计日志"]
    F --> L
    style X fill:#ef4444,color:#fff
    style F fill:#22c55e,color:#fff
    style L fill:#3b82f6,color:#fff
    style A fill:#6366f1,color:#fff

读懂这张图,你就读懂了 2026 年 agent 工程的范式转移:过去是"信任 agent 的输出",现在是"默认不信任,每一道都要自证清白"。

七、信息差总结:你知道的 vs 别人已经上车的

维度 国内普遍认知 本周海外已经在做的
agent 权限 信任模型,加几个 if/开关 deny-by-default + 独立审批 role + agent 不能自批
审计 写个 log 文件 Ed25519 签名 + 哈希链,离线可验、改一行就断
依赖安全 装完手动 npm audit MCP 自动在 agent 装包前查漏洞 + 72h 新包拦截
预算控制 事后看账单吓一跳 调用前强制预算 + 实时死循环检测
提示注入 听过这个词 免费 CTF 让你亲手拆一个 agent + 注入裁判 SDK
整体范式 让 agent 更能干 给 agent 配治安官,默认它不可信
## 八、行动指南:今晚就能做三件事
  1. 跑一次 npx @makerchecker/scan .——把你现在跑的 agent 代码扫一遍,看看它"自己能干"的危险动作清单。这一步 5 分钟,但会改变你对自有 agent 风险的全部认知。

  2. 把 deptrust 配成 Claude Code / Codex 的 MCP——pnpx @clidey/deptrust@latest install,让 agent 每次装包前自动查漏洞。零成本堵住供应链投毒。

  3. 去 declaw.ai/arena 花 10 分钟攻破一个 agent——亲身体验一次"绕过 system prompt 拿到 secret"。这是 2026 年每个做 agent 的人都该有的肌肉记忆。

进阶:如果你的 agent 动钱、动数据、动生产环境,把 MakerChecker 的 embedded 包接到你的工具调用前,给高风险动作配独立审批 role——这是你向客户、向审计"可证明安全"的唯一硬通货。

九、参考来源

完成摘要(What was done)

文章产出: - domain: new-tools(Round 6 正确分类) - 4 个核心工具:MakerChecker、deptrust、AgentWatch、Declaw Arena,每个都有真实链接、命令、协议/价格、HN 热度 - 1 个 Mermaid 纵深防御流程图 - 信息差对比表 + 行动指南 + 5 条参考链接 - 约 2500 字,含可执行命令与代码片段

下一步计划(What's next)

按 Round 循环,Round 7 回到 new-tools。建议方向(避开本周已写的"agent 围栏"): 1. P0:本周 GitHub Trending 中 alibaba/page-agent(浏览器内 agent)+ openai/codex-plugin-cc —— 浏览器/插件形态的新 agent 工具,国内关注度低 2. P1:下周抓 Product Hunt(限流 7-18 解除后)今日 AI 新品榜 3. P2:备用——runmirrors.com(回放生产 trace 测 agent 变更)可单独成篇做 use-cases

注意事项(If applicable)

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入