# 你的 AI agent 账单，六成根本不是花在"模型"上 你以为跑 AI agent 烧的是模型推理费？错。2026 年的真实账本显示：一个跑十步工具调用的 agent，**真正把账单撑起来的，是那些你根本没在意的东西——工具定义、工具输出、以及每一轮都在重新发送的上下文**。 这篇要给你的信息差很直接：海外一份 6 月刚更新的成本优化的精选清单（`pleasedodisturb/awesome-llm-token-optimization`）和几篇生产实测，把"agent 到底烧在哪、怎么一刀一刀砍下来"讲透了。下面给你 6 把经过实测的"瘦身刀"，每把都带具体数字、操作步骤和官方链接。 --- ## 一、先把账算明白：agent 的钱到底烧在哪 很多人优化成本的第一反应是"换便宜模型"。但 Epoch AI 的数据早就说了：**推理成本每两个月就腰斩一次**——盯模型降价是被动等，盯你每次请求里塞了多少废 token 才是主动赚。 三组数据彻底推翻"模型最贵"的直觉： 1. **Tokenomics 论文（2026）**：在 agent 做软件工程（agentic SE）的任务里，光"代码审查"这一项就吃掉 **59.4% 的 token**；而 input context（你喂进去的内容）整体占 **53.9%**。也就是说，输入侧才是大头，输出（模型回答）反而是小头。 2. **Cockroach Labs 的生产实测**：在规模化 agent 场景里，**重复发送的 context 占了整张推理账单的 62%**。每多跑一轮，就把同一坨系统提示 + 工具描述 + 历史记录重新发一遍。 3. **GitHub 官方工程博客**：在 agentic CI/CD 工作流里，光是"修剪没用到的 MCP 工具 schema + 把 MCP 调用换成 `gh` CLI"，就把 token 消耗砍掉 **43%~62%**。 结论一句话：**agent 的贵，不在脑子，在手脚。** 工具越多、上下文越长、循环越多，你付的"过路费"就越多。 下面这张图说清了 token 在一个多轮 agent 循环里是怎么滚雪球的： ```mermaid flowchart TD A[用户请求] --> B[组装请求
系统提示 + 工具定义 + 历史] B --> C{调用大模型} C --> D[模型决定调用工具] D --> E[执行工具
产生大量输出: 日志/HTML/JSON] E --> F[把工具输出原样塞回上下文] F --> B C --> G[给出最终答案] G --> H[结算账单] B -.- B1[💸 膨胀点1
每个工具的 schema
每轮都重发] F -.- F1[💸 膨胀点2
工具输出 uncompressed
动辄几十KB] B -.- B2[💸 膨胀点3
历史记录
逐轮累积] style B fill:#ffd6d6 style F fill:#ffd6d6 style B1 fill:#ffe8e8 style F1 fill:#ffe8e8 style B2 fill:#ffe8e8 style H fill:#ffcccc ``` 红色那几块，就是六把刀要砍的地方。 --- ## 二、六把瘦身刀：从"翻个开关"到"换种协议" ### 🔪 第一刀：打开 token-efficient tool use 开关（零改动，输出 -70%） 这是性价比最高的一刀——**改一行配置，啥逻辑都不用动**。 - **是什么**：Anthropic 官方的"token 高效工具调用"模式。普通模式下，模型生成工具调用参数时会用冗长的 JSON 格式；打开这个开关后，模型改用压缩过的格式生成，**工具调用的输出 token 直接砍掉 70%**。 - **怎么操作**：在 Claude 的 API 请求里加 `--token-efficient-tools`（或对应 SDK 的 `tool_choice` 高效模式参数）。OpenAI 这边类似的机制是结构化输出 + 限制 `max_tokens`。 - **适用场景**：任何大量调用工具的 agent（function calling、MCP、多步工作流）。工具越多，省得越多。 - **官方文档**：`docs.anthropic.com/en/docs/agents-and-tools/tool-use/token-efficient-tool-use` > 中国用户常踩的坑：很多人在 Cursor / Claude Code 里挂了一堆 MCP 工具，却从没动过这个开关，等于每轮都在给冗余 JSON 付钱。 ### 🔪 第二刀：用 Tool Search 动态加载工具（大型工具库 -85%） 工具一多，新的悖论出现了：**你挂的每个工具的 schema，都会被塞进每一次请求**。挂 50 个 MCP 工具，每次都重发 50 份描述，哪怕这次只用 1 个。 - **是什么**：Anthropic 的 **Tool Search**——不一次性把所有工具塞进去，而是按需检索、动态加载。官方实测对大型工具库能砍 **85% 的 token**。 - **怎么操作**：把工具库拆成"目录 + 摘要"，先给模型一个压缩版索引，让它指明要用哪个，再加载那一个的完整 schema。 - **适用场景**：工具数量超过 10 个的 agent，尤其是把整套开发环境（数据库、文件系统、浏览器、GitHub……）都挂上去的那种。 - **官方文档**：`anthropic.com/engineering/advanced-tool-use` ### 🔪 第三刀：mcp-compressor，给 MCP 工具表面"瘦身" 如果你不方便改成 Tool Search 架构，这把刀是即插即用的平替。 - **是什么**：Atlassian Labs 开源的 **mcp-compressor**，一个 MCP 代理。它先给模型展示一个**压缩过的工具表面**（只列名称和一句说明），等模型真要用某个工具时，再按需拉取完整 schema。 - **怎么操作**：在你的 MCP client 和 MCP server 之间加一层 mcp-compressor，零代码改动。 - **效果**：和第二刀同源——把"每个工具完整 schema 永远在线"变成"按需付费"。 - **项目地址**：`github.com/atlassian-labs/mcp-compressor` ### 🔪 第四刀：把 MCP 调用换成 `gh` CLI / 原生命令（agentic CI -43~62%） 这把刀是 GitHub 自己的工程团队在生产里跑出来的，最反直觉：**很多时候，用 MCP 工具反而比直接跑命令行贵得多**。 - **是什么**：MCP 工具的 schema + 返回的 JSON 结构化数据，token 开销远大于一段纯文本命令输出。GitHub 把 agentic 工作流里对 GitHub 的操作，从"MCP 工具调用"换成直接调 `gh` CLI，token 直接掉 **43%~62%**。 - **怎么操作**：审计你的 agent，凡是能用 `gh`、`rg`、`git` 这类 CLI 一步搞定的操作，就别挂 MCP 工具。让 agent 跑 shell 命令，输出天然是精简文本。 - **适用场景**：代码类 agent（Claude Code、Copilot Workspace、Cursor agent 模式）。 - **来源**：`github.blog` 的 "Improving Token Efficiency in GitHub Agentic Workflows" ### 🔪 第五刀：在工具输出进上下文前，先压一道（-60~95%） agent 最隐蔽的烧钱点：**工具的输出（日志、网页 HTML、文件内容、RAG chunk）被原样塞回上下文**。一次网页抓取的 accessibility tree 动辄 10~33KB，跑 10 页就是 330KB 的上下文被反复重发。 这一刀有几把现成的开源刀任你挑： | 工具 | 地址 | 压的是什么 | 实测省多少 | |------|------|-----------|-----------| | **Headroom** | `github.com/chopratejas/headroom` | 工具输出、日志、文件、RAG chunk | 60~95% | | **RTK** | `github.com/rtk-ai/rtk` | dev-command 输出（Claude Code/Cursor/Copilot/Gemini CLI 通用） | 60~90% | | **lean-ctx** | `github.com/yvgude/lean-ctx` | shell 输出 + 10 种 cached-read 模式，MCP server 76 个工具 | 60~90% | | **llmtrim** | `github.com/fkiene/llmtrim` | prompt + 工具输出 + 回复，质量门控（省不下来就回退） | 输入 -31% / 输出 -74% | **怎么操作**：这些大多是本地代理 / MCP server，挂在你的 agent 和模型之间，透明压缩。llmtrim 最稳——它带"质量门控"，压缩后如果没省 token 就自动回退，不会牺牲质量。 ### 🔪 第六刀：结构化数据用 TOON 代替 JSON（-30~60%） 最后一刀最冷门，但一旦你给模型传大量结构化数据（表格、对象数组、配置），立竿见影。 - **是什么**：**TOON（Token-Oriented Object Notation）**，一种专门为"省 token"设计的紧凑编码格式。同样的对象数组，传给 LLM 时比 JSON 少 **30~60% 的 token**。 - **怎么操作**：在把数据塞进 prompt 之前，序列化成 TOON；模型照样能解析。对"统一结构的对象数组"（比如一批用户记录、一批商品）效果最好。 - **项目地址**：`github.com/toon-format/toon` > 这把刀的精髓：token 是按 BPE 分词算的，JSON 的 `{`、`"`、`,`、空格这些"语法噪音"全都要花钱。TOON 把这些噪音榨干了。 --- ## 三、地基别忘了：prompt caching，把"重发的 62%"变便宜 上面六把刀是在"减少" token，而这层是在"让重发的 token 变便宜"。两者叠加才是终极省法。 - **原理**：把系统提示、工具定义、用户画像这些**稳定的前缀**标记成可缓存，之后所有请求复用，这部分只按 1 折计费。 - **震撼数字**：一家每月跑 5 万次文档分析的公司公布账本——开 prompt caching 是 **$8,000**，不开是 **$45,000**，直接 **-82%**。 - **ProjectDiscovery 实测**：把缓存命中率从 7% 干到 84%（覆盖 98 亿 cached token），整体成本砍 **59%**。 - **国产最强价**：DeepSeek 的 KV Cache 走磁盘、64 token 粒度。V4 Flash 命中缓存只要 **$0.0028/百万 token**，不命中是 $0.14——**差 50 倍**。 懒人方案：开源的 **autocache**（`github.com/montevive/autocache`），一个透明 Anthropic 代理，自动在最优位置注入 `cache_control` 断点，实测 **成本 -90%、延迟 -85%**，你代码一行都不用改。 --- ## 四、信息差对照表：你知道的 vs 别人知道的 | 维度 | 大多数人以为的 | 实际情况（信息差） | |------|---------------|-------------------| | agent 主要烧钱点 | 模型推理 / 思考 | 工具定义 + 工具输出 + 重发上下文（占 62%） | | 优化方向 | 换更便宜的模型 | 砍每次请求里的废 token（模型每两月自动降价） | | 工具调用成本 | "调用而已，不花钱" | 工具 schema 每轮重发，工具库越大越贵 | | 工具输出 | 直接喂回模型 | 应先进压缩代理（-60~95%） | | 工具调用方式 | 挂 MCP 越多越好 | 换成 `gh` CLI 反而 -43~62% | | prompt caching | "听说了，没配" | 一行配置，命中即 1 折（DeepSeek 差 50 倍） | --- ## 五、综合省钱账本：一个 10 步 agent 的真实对比 假设你跑一个调用 20 个工具、跑 10 步的代码 agent，每步平均工具输出 8KB： | 方案 | 每轮 token | 10 步累计 | 月成本（日跑 500 次） | |------|-----------|----------|---------------------| | **Naive**（啥都不管） | ~12,000 | ~120,000 | **约 $540** | | **+ 第六刀（TOON/压缩输出）** | ~6,000 | ~60,000 | ~$270 | | **+ 第二/三刀（动态加载工具）** | ~3,500 | ~35,000 | ~$160 | | **+ 地基（prompt caching）** | 缓存命中按 1 折 | 重发部分 -90% | **约 $45** | 从 $540 干到 $45，**砍掉 92%**——而模型还是同一个，质量没动。这就是六把刀叠加的力量。 --- ## 六、限时提醒（务必这周处理） DeepSeek 官方公告：**`deepseek-chat` 和 `deepseek-reasoner` 这两个旧别名将在 2026 年 7 月 24 日下线**。之后必须改用 `deepseek-v4-flash`（便宜版，$0.14/$0.28 每百万 token）或 `deepseek-v4-pro`（$0.435/$0.87，带 thinking 模式）。 **如果你正在用旧别名，现在不改，7 月 24 日直接报错。** 改名同时别忘了顺手把 V4 Flash 的 KV Cache 打开——缓存命中 $0.0028/百万 token，是国内目前最便宜的正经推理。 --- ## 七、行动指南：今天就能做的 3 步 1. **测一下你到底花了多少**：装 `ccusage`（`github.com/ryoppippi/ccusage`，本地离线，支持 Claude Code/Codex/Gemini CLI/Cursor 等 14+ agent）或 `agenttrace`，先看清账单分布——是模型贵、还是上下文贵。 2. **先翻两个零成本开关**：打开 token-efficient tool use；挂上 autocache 自动缓存。这两步不改架构，预计立刻 -30~50%。 3. **再上压缩代理**：在 agent 和模型之间加 RTK 或 lean-ctx 压缩工具输出，配合 Tool Search / mcp-compressor 给工具表面瘦身。 --- ## 八、参考来源 - **Awesome LLM Token Optimization（精选清单，6 月更新）**：`github.com/pleasedodisturb/awesome-llm-token-optimization` - **Prompt Caching Economics 2026（$8k vs $45k 案例）**：`agentmarketcap.ai/blog/2026/04/06/prompt-caching-economics-2026-anthropic-google-agent-cost` - **GitHub：Improving Token Efficiency in Agentic Workflows（-43~62%）**：`github.blog` → AI and ML → GitHub Copilot - **Cockroach Labs：Agentic AI Costs at Scale（62% 重发上下文）**：`cockroachlabs.com/blog/agentic-ai-costs-at-scale/` - **Anthropic 官方 token-efficient tool use 文档**：`docs.anthropic.com/en/docs/agents-and-tools/tool-use/token-efficient-tool-use` --- > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护。 > 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。