首页 › cost-hacks › agent的钱六成烧在工具上：六把刀

你的 AI agent 账单，六成根本不是花在"模型"上

你以为跑 AI agent 烧的是模型推理费？错。2026 年的真实账本显示：一个跑十步工具调用的 agent，真正把账单撑起来的，是那些你根本没在意的东西——工具定义、工具输出、以及每一轮都在重新发送的上下文。

这篇要给你的信息差很直接：海外一份 6 月刚更新的成本优化的精选清单（pleasedodisturb/awesome-llm-token-optimization）和几篇生产实测，把"agent 到底烧在哪、怎么一刀一刀砍下来"讲透了。下面给你 6 把经过实测的"瘦身刀"，每把都带具体数字、操作步骤和官方链接。

一、先把账算明白：agent 的钱到底烧在哪

很多人优化成本的第一反应是"换便宜模型"。但 Epoch AI 的数据早就说了：推理成本每两个月就腰斩一次——盯模型降价是被动等，盯你每次请求里塞了多少废 token 才是主动赚。

三组数据彻底推翻"模型最贵"的直觉：

Tokenomics 论文（2026）：在 agent 做软件工程（agentic SE）的任务里，光"代码审查"这一项就吃掉 59.4% 的 token；而 input context（你喂进去的内容）整体占 53.9%。也就是说，输入侧才是大头，输出（模型回答）反而是小头。
Cockroach Labs 的生产实测：在规模化 agent 场景里，重复发送的 context 占了整张推理账单的 62%。每多跑一轮，就把同一坨系统提示 + 工具描述 + 历史记录重新发一遍。
GitHub 官方工程博客：在 agentic CI/CD 工作流里，光是"修剪没用到的 MCP 工具 schema + 把 MCP 调用换成 gh CLI"，就把 token 消耗砍掉 43%~62%。

结论一句话：agent 的贵，不在脑子，在手脚。 工具越多、上下文越长、循环越多，你付的"过路费"就越多。

下面这张图说清了 token 在一个多轮 agent 循环里是怎么滚雪球的：

flowchart TD
    A[用户请求] --> B[组装请求<br/>系统提示 + 工具定义 + 历史]
    B --> C{调用大模型}
    C --> D[模型决定调用工具]
    D --> E[执行工具<br/>产生大量输出: 日志/HTML/JSON]
    E --> F[把工具输出原样塞回上下文]
    F --> B
    C --> G[给出最终答案]
    G --> H[结算账单]

    B -.- B1[💸 膨胀点1<br/>每个工具的 schema<br/>每轮都重发]
    F -.- F1[💸 膨胀点2<br/>工具输出 uncompressed<br/>动辄几十KB]
    B -.- B2[💸 膨胀点3<br/>历史记录<br/>逐轮累积]

    style B fill:#ffd6d6
    style F fill:#ffd6d6
    style B1 fill:#ffe8e8
    style F1 fill:#ffe8e8
    style B2 fill:#ffe8e8
    style H fill:#ffcccc

红色那几块，就是六把刀要砍的地方。

二、六把瘦身刀：从"翻个开关"到"换种协议"

🔪 第一刀：打开 token-efficient tool use 开关（零改动，输出 -70%）

这是性价比最高的一刀——改一行配置，啥逻辑都不用动。

是什么：Anthropic 官方的"token 高效工具调用"模式。普通模式下，模型生成工具调用参数时会用冗长的 JSON 格式；打开这个开关后，模型改用压缩过的格式生成，工具调用的输出 token 直接砍掉 70%。
怎么操作：在 Claude 的 API 请求里加 --token-efficient-tools（或对应 SDK 的 tool_choice 高效模式参数）。OpenAI 这边类似的机制是结构化输出 + 限制 max_tokens。
适用场景：任何大量调用工具的 agent（function calling、MCP、多步工作流）。工具越多，省得越多。
官方文档：docs.anthropic.com/en/docs/agents-and-tools/tool-use/token-efficient-tool-use

中国用户常踩的坑：很多人在 Cursor / Claude Code 里挂了一堆 MCP 工具，却从没动过这个开关，等于每轮都在给冗余 JSON 付钱。

🔪 第二刀：用 Tool Search 动态加载工具（大型工具库 -85%）

工具一多，新的悖论出现了：你挂的每个工具的 schema，都会被塞进每一次请求。挂 50 个 MCP 工具，每次都重发 50 份描述，哪怕这次只用 1 个。

是什么：Anthropic 的 Tool Search——不一次性把所有工具塞进去，而是按需检索、动态加载。官方实测对大型工具库能砍 85% 的 token。
怎么操作：把工具库拆成"目录 + 摘要"，先给模型一个压缩版索引，让它指明要用哪个，再加载那一个的完整 schema。
适用场景：工具数量超过 10 个的 agent，尤其是把整套开发环境（数据库、文件系统、浏览器、GitHub……）都挂上去的那种。
官方文档：anthropic.com/engineering/advanced-tool-use

🔪 第三刀：mcp-compressor，给 MCP 工具表面"瘦身"

如果你不方便改成 Tool Search 架构，这把刀是即插即用的平替。

是什么：Atlassian Labs 开源的 mcp-compressor，一个 MCP 代理。它先给模型展示一个压缩过的工具表面（只列名称和一句说明），等模型真要用某个工具时，再按需拉取完整 schema。
怎么操作：在你的 MCP client 和 MCP server 之间加一层 mcp-compressor，零代码改动。
效果：和第二刀同源——把"每个工具完整 schema 永远在线"变成"按需付费"。
项目地址：github.com/atlassian-labs/mcp-compressor

🔪 第四刀：把 MCP 调用换成 `gh` CLI / 原生命令（agentic CI -43~62%）

这把刀是 GitHub 自己的工程团队在生产里跑出来的，最反直觉：很多时候，用 MCP 工具反而比直接跑命令行贵得多。

是什么：MCP 工具的 schema + 返回的 JSON 结构化数据，token 开销远大于一段纯文本命令输出。GitHub 把 agentic 工作流里对 GitHub 的操作，从"MCP 工具调用"换成直接调 gh CLI，token 直接掉 43%~62%。
怎么操作：审计你的 agent，凡是能用 gh、rg、git 这类 CLI 一步搞定的操作，就别挂 MCP 工具。让 agent 跑 shell 命令，输出天然是精简文本。
适用场景：代码类 agent（Claude Code、Copilot Workspace、Cursor agent 模式）。
来源：github.blog 的 "Improving Token Efficiency in GitHub Agentic Workflows"

🔪 第五刀：在工具输出进上下文前，先压一道（-60~95%）

agent 最隐蔽的烧钱点：工具的输出（日志、网页 HTML、文件内容、RAG chunk）被原样塞回上下文。一次网页抓取的 accessibility tree 动辄 10~33KB，跑 10 页就是 330KB 的上下文被反复重发。

这一刀有几把现成的开源刀任你挑：

工具	地址	压的是什么	实测省多少
Headroom	`github.com/chopratejas/headroom`	工具输出、日志、文件、RAG chunk	60~95%
RTK	`github.com/rtk-ai/rtk`	dev-command 输出（Claude Code/Cursor/Copilot/Gemini CLI 通用）	60~90%
lean-ctx	`github.com/yvgude/lean-ctx`	shell 输出 + 10 种 cached-read 模式，MCP server 76 个工具	60~90%
llmtrim	`github.com/fkiene/llmtrim`	prompt + 工具输出 + 回复，质量门控（省不下来就回退）	输入 -31% / 输出 -74%

怎么操作：这些大多是本地代理 / MCP server，挂在你的 agent 和模型之间，透明压缩。llmtrim 最稳——它带"质量门控"，压缩后如果没省 token 就自动回退，不会牺牲质量。

🔪 第六刀：结构化数据用 TOON 代替 JSON（-30~60%）

最后一刀最冷门，但一旦你给模型传大量结构化数据（表格、对象数组、配置），立竿见影。

是什么：TOON（Token-Oriented Object Notation），一种专门为"省 token"设计的紧凑编码格式。同样的对象数组，传给 LLM 时比 JSON 少 30~60% 的 token。
怎么操作：在把数据塞进 prompt 之前，序列化成 TOON；模型照样能解析。对"统一结构的对象数组"（比如一批用户记录、一批商品）效果最好。
项目地址：github.com/toon-format/toon

这把刀的精髓：token 是按 BPE 分词算的，JSON 的 {、"、,、空格这些"语法噪音"全都要花钱。TOON 把这些噪音榨干了。

三、地基别忘了：prompt caching，把"重发的 62%"变便宜

上面六把刀是在"减少" token，而这层是在"让重发的 token 变便宜"。两者叠加才是终极省法。

原理：把系统提示、工具定义、用户画像这些稳定的前缀标记成可缓存，之后所有请求复用，这部分只按 1 折计费。
震撼数字：一家每月跑 5 万次文档分析的公司公布账本——开 prompt caching 是 $8,000，不开是 $45,000，直接 -82%。
ProjectDiscovery 实测：把缓存命中率从 7% 干到 84%（覆盖 98 亿 cached token），整体成本砍 59%。
国产最强价：DeepSeek 的 KV Cache 走磁盘、64 token 粒度。V4 Flash 命中缓存只要 $0.0028/百万 token，不命中是 $0.14——差 50 倍。

懒人方案：开源的 autocache（github.com/montevive/autocache），一个透明 Anthropic 代理，自动在最优位置注入 cache_control 断点，实测 成本 -90%、延迟 -85%，你代码一行都不用改。

四、信息差对照表：你知道的 vs 别人知道的

维度	大多数人以为的	实际情况（信息差）
agent 主要烧钱点	模型推理 / 思考	工具定义 + 工具输出 + 重发上下文（占 62%）
优化方向	换更便宜的模型	砍每次请求里的废 token（模型每两月自动降价）
工具调用成本	"调用而已，不花钱"	工具 schema 每轮重发，工具库越大越贵
工具输出	直接喂回模型	应先进压缩代理（-60~95%）
工具调用方式	挂 MCP 越多越好	换成 `gh` CLI 反而 -43~62%
prompt caching	"听说了，没配"	一行配置，命中即 1 折（DeepSeek 差 50 倍）

五、综合省钱账本：一个 10 步 agent 的真实对比

假设你跑一个调用 20 个工具、跑 10 步的代码 agent，每步平均工具输出 8KB：

方案	每轮 token	10 步累计	月成本（日跑 500 次）
Naive（啥都不管）	~12,000	~120,000	约 $540
+ 第六刀（TOON/压缩输出）	~6,000	~60,000	~$270
+ 第二/三刀（动态加载工具）	~3,500	~35,000	~$160
+ 地基（prompt caching）	缓存命中按 1 折	重发部分 -90%	约 $45

从 $540 干到 $45，砍掉 92%——而模型还是同一个，质量没动。这就是六把刀叠加的力量。

六、限时提醒（务必这周处理）

DeepSeek 官方公告：deepseek-chat 和 deepseek-reasoner 这两个旧别名将在 2026 年 7 月 24 日下线。之后必须改用 deepseek-v4-flash（便宜版，$0.14/$0.28 每百万 token）或 deepseek-v4-pro（$0.435/$0.87，带 thinking 模式）。

如果你正在用旧别名，现在不改，7 月 24 日直接报错。 改名同时别忘了顺手把 V4 Flash 的 KV Cache 打开——缓存命中 $0.0028/百万 token，是国内目前最便宜的正经推理。

七、行动指南：今天就能做的 3 步

测一下你到底花了多少：装 ccusage（github.com/ryoppippi/ccusage，本地离线，支持 Claude Code/Codex/Gemini CLI/Cursor 等 14+ agent）或 agenttrace，先看清账单分布——是模型贵、还是上下文贵。
先翻两个零成本开关：打开 token-efficient tool use；挂上 autocache 自动缓存。这两步不改架构，预计立刻 -30~50%。
再上压缩代理：在 agent 和模型之间加 RTK 或 lean-ctx 压缩工具输出，配合 Tool Search / mcp-compressor 给工具表面瘦身。

八、参考来源

Awesome LLM Token Optimization（精选清单，6 月更新）：github.com/pleasedodisturb/awesome-llm-token-optimization
Prompt Caching Economics 2026（$8k vs $45k 案例）：agentmarketcap.ai/blog/2026/04/06/prompt-caching-economics-2026-anthropic-google-agent-cost
GitHub：Improving Token Efficiency in Agentic Workflows（-43~62%）：github.blog → AI and ML → GitHub Copilot
Cockroach Labs：Agentic AI Costs at Scale（62% 重发上下文）：cockroachlabs.com/blog/agentic-ai-costs-at-scale/
Anthropic 官方 token-efficient tool use 文档：docs.anthropic.com/en/docs/agents-and-tools/tool-use/token-efficient-tool-use

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护。聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入