首页 › cost-hacks › 思考token是隐形账单:推理模型三开关止血

你打开 Claude Opus 或 GLM-5.1 的 extended thinking,让它"多想想"——结果月末账单翻了两三倍,你却找不到是哪条多花的。问题出在一个 90% 开发者都没意识到的盲区:推理模型烧的钱,大头不在你看到的回答里,而在它"思考"的过程里。这篇文章拆开这个隐形黑洞,给你三个立刻能关的开关,把推理账单砍掉一半以上。这是 2026 年最贵、也最被忽视的 API 信息差。

一、思考 token 黑洞:你看不见,但你要付钱

先用一句话把信息差摆出来:reasoning / thinking tokens 是模型生成的、对你完全不可见、却照样按 output 价格计费的 token。

OpenAI 的 o 系列和 GPT-5 有 reasoning tokens,Anthropic 的 Claude 有 thinking tokens,GLM-5.1 有自己的思考链。机制各不相同,但计费逻辑一致——思考过程算输出,输出最贵。

这里有个反直觉的关键点,是绝大多数人踩坑的根源:

思考 token 通常不能被 prompt cache 命中。

原因很简单:缓存是按内容做哈希的,而思考链每次都是模型现想出来的、不稳定的中间状态,厂商不会把它算作可复用的前缀。这意味着——你为同一段思考反复买单,缓存机制在这里帮不了你。

后果有多严重?看一个真实场景。一个调用 Opus 级模型(约 $15/MTok 输入、$75/MTok 输出,具体以官方定价页为准)做代码 review 的请求:

一次请求你以为是几毛钱,实际是几块钱。跑一个每天 1000 次调用的后台任务,一个月就是几千刀——而其中六成以上,是那个你从来没看见过的"思考"。

二、为什么九成的人在白烧思考 token

认知差有三层,一层比一层隐蔽:

第一层:以为"开了思考=更好=该一直开"。 很多团队把 thinking 永远设成 high/最大预算,连"这段文本是不是 JSON"这种判断也让它深思 5000 token。简单任务的思考收益趋近于零,成本却一分不少。

第二层:不知道思考预算是个可调旋钮。 OpenAI 有 reasoning_effort(minimal / low / medium / high,minimal 是后加的省钱档),Anthropic 用 budget_tokens / max_tokens 控制思考上限。这个旋钮默认偏大,你不主动调,它就按"够用偏多"来花。

第三层:把推理模型当成通用模型。 真正需要长思考的(复杂数学、架构设计、安全审计)可能只占你调用的两三成,其余七八成的分类、提取、改写,扔给 Haiku / Flash / GLM-5.1 的快思考档就够了——而且快 5–10 倍。

换句话说,账单里大概有一半,是"思考开太大"和"用错了模型"两件事叠出来的。下面三个开关,专门治这两个病。

三、三层止血法(可立刻执行)

flowchart TD
    A[一个推理请求进来] --> B{需要复杂推理吗?}
    B -- 否: 分类/提取/改写 --> C[开关2<br/>改派快档模型<br/>Haiku/Flash/GLM-5.1]
    B -- 是: 数学/架构/审计 --> D{需要实时返回吗?}
    D -- 否: 批处理/离线 --> E[开关3<br/>Batch API 5折 + Prompt Caching 90%]
    D -- 是 --> F[开关1<br/>调低 reasoning_effort/budget_tokens]
    F --> G[先 minimal/low 试跑<br/>不够再升]
    C --> H[同样动作:<br/>能用缓存就用缓存]
    E --> H
    G --> H
    H --> I[账单砍 50%-90%]
    style A fill:#fff3e0
    style I fill:#e8f5e9
    style C fill:#e3f2fd
    style E fill:#e3f2fd
    style F fill:#e3f2fd

开关 1:把思考旋钮从 high 拧到 minimal

这是最快见效的一刀。同一个推理模型,思考档位一降,thinking token 断崖式下跌。

操作就一行参数,但 90% 的人从没改过默认值——这就是认知差。

开关 2:别让简单任务占用推理模型

第二个开关是分流。把"判断""提取""格式转换"这类活儿,从 Opus/o 级模型挪到 Haiku / Gemini Flash / GLM-5.1 的非思考档。

为什么这步特别值钱?因为这类任务在真实业务里往往占调用总量的七成,却只产出两成的价值。用百倍价差的模型去做二分判断,是纯粹的浪费。国产推理模型(GLM-5.1 等)在中文结构化任务上单价远低于 Opus(约低一个数量级,以官方定价页为准),且 API 兼容、可直接替换——这是中国开发者独有的价格差红利。

注意:这条说的是"该派哪个模型",与上面"思考档位"是两个独立的省钱维度,叠加使用。

开关 3:离线任务双杀——Batch 5 折 + Prompt Caching 9 折

凡是能等(不要求秒回)的批处理——夜间数据清洗、批量摘要、文档问答语料生成——立刻走 Batch API。OpenAI 和 Anthropic 的 Batch 都是 约 50% 折扣、24 小时内异步返回,本质是你拿"延迟"换"半价"。一晚上跑完和实时跑完,对结果没区别,钱省一半。

再叠一层 Prompt Caching:把稳定不变的 system prompt、长文档前缀缓存住,命中读取省约 90%(Anthropic 的 cache write 一次性贵 25%、cache read 便宜 90%,5 分钟 TTL;OpenAI 类似)。系统提示越长、重复越多,省得越狠。

两者可叠加:半价 × 一折 = 原价的 5%。注意一个坑——如前所述,思考 token 不能被缓存,所以 Batch + Caching 对"思考重"的请求主要省在输入侧;想省思考,还得靠开关 1 和 2。

四、真实账单拆解

一个真实场景:后台每天跑 1000 次"合同条款抽取",平均每条:输入 6000 token(含长 system prompt + 文档),思考 3000 token,可见输出 500 token。

优化前(Opus 级,实时,思考 high,不缓存):

项目 Token 量 单价(参考) 日成本
输入(每次重传) 6,000 ×1000 $15/MTok $90
思考(不可缓存) 3,000 ×1000 $75/MTok $225
输出 500 ×1000 $75/MTok $37.5
合计 ≈$352/天 → 月 ≈$10,560

优化后(三开关叠加):

项目 优化后 月成本(估)
输入(缓存命中×10%) 6,000×10% ×1000 ×30 ≈ 数十刀量级
思考(降到300) 300 ×1000 ×30 显著下降
输出(Batch半价+1/10单价) 500 ×1000 ×30 个位数刀
合计 月省约 90%

上面用相对比例表达(1/10、90%、50%、10%),避免给你一个我无法逐项核实的精确到分的数字。落地前务必拿你自己一周的调用量,在官方定价页对一次实际单价——比例关系稳定,绝对值按你的实际价填。

五、信息差总结

维度 大多数人以为的 实际情况(信息差)
思考 token 不显示=不计费 照 output 全价计费,且不能缓存
账单结构 输出主要花在"回答"上 六成以上花在看不见的思考上
effort/budget 默认值就是最优 默认偏大,手动降一档立省 30%–50%
Batch API 跟实时一个价 5 折,24h 异步,离线任务必走
Prompt Caching 对所有重复都有效 对思考链无效,只省稳定前缀
国产推理模型 比 Opus 弱很多不能用 中文结构化任务单价低一个数量级,可直接替换

六、行动指南(今晚就能做)

  1. 查日志:翻一次你的 API usage,按模型拆"input / output"占比。如果 output 远大于你预期看到的回复量——思考 token 在烧钱。
  2. 降默认档:把所有推理调用的 reasoning_effort 调到 low、budget_tokens 压到 2048 以下,灰度一周看质量是否真掉。
  3. 做任务分流:列出调用清单,把分类/提取/改写类的请求路由到 Haiku/Flash/GLM-5.1,只把硬核推理留给 Opus/o 级。
  4. 批处理挪到 Batch:凡是容忍 24 小时的任务,全部改走 Batch API,直接半价。
  5. 开 Prompt Caching:固定长 system prompt 和文档前缀全部加 cache_control,重复请求的输入按一折算。

五步走完,推理相关的支出通常能砍掉一半到九成,而质量损失几乎不可感知。这就是 2026 年最被低估的省钱杠杆——不是换更便宜的模型那么简单,而是搞懂"思考"这条看不见的成本线。

参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入