首页 › cost-hacks › 模型越想越贵:五刀砍掉九成思考税

2026年,几乎所有前沿模型在回答你之前都会先"想一遍"——而你要为这些看不见的思考token买单。GPT-5、o系列、Claude、Gemini、GLM全都有推理/思考模式,默认档位往往拉得很高。一个"把这段翻成英文"的活,开high档能烧掉几千个思考token,开minimal档可能一个都不烧,账单差出十倍。本期给你5个具体到参数名的"思考税"砍价开关,只动配置不改业务,实测能把推理型API账单砍掉九成。这篇解决一个认知差:很多人知道选便宜模型,却不知道同一个模型"想多少"也是个旋钮。

一、先搞懂什么是"思考税":你付了钱却看不到的字

推理模型(reasoning model)在产出最终答案前,会先生成一段内部的"思考链"(chain-of-thought)。这段思考在大部分API里默认不返回给你,或只返回一段摘要,但它照样按token计费。

关键事实有三个,90%的人只知其一:

  1. 思考token按"输出价"算。各家输出价通常是输入价的4–5倍。也就是说,5000个思考token的真实成本,约等于5000个输出token,比同等数量输入token贵四五倍。这才是账单的隐形大头。
  2. 思考量是一个可调旋钮。OpenAI叫reasoning_effort,Anthropic叫budget_tokens,Google叫thinkingConfig.thinkingBudget,名字不同但都是同一个意思:允许模型最多想多少token。
  3. 默认档经常偏高。很多IDE插件、聚合网关、官方Playground默认用medium甚至high,因为"看起来更聪明"。但日常80%的请求(翻译、抽取、格式化、改名、分类)根本不需要深度推理——纯纯白付。

举个数字感受一下(时点估算,以官网为准):同一个"判断这条评论是正面还是负面"的请求,走GPT-5档位:

reasoning_effort 平均思考token 相对成本 首字延迟
minimal ~50 1× 最快
low ~400 ~3× 快
medium(常见默认) ~2500 ~10× 中
high ~8000+ ~30× 慢

一个二分类问题,high档的成本可以是minimal档的近三十倍,准确率却几乎没差别。这就是"思考税"。

二、第一刀:把reasoning_effort压到minimal/low

这是见效最快的一刀。OpenAI的o系列和GPT-5家族都支持reasoning_effort参数,取值从低到高是 minimal → low → medium → high(minimal是GPT-5新增的最低档)。

具体操作(OpenAI SDK):

resp = client.chat.completions.create(
    model="gpt-5",
    reasoning_effort="minimal",   # 关键:日常活全压到这
    messages=[{"role": "user", "content": "把下面JSON里的name字段翻译成英文:\n" + data}],
)

适用判断——什么时候坚决用minimal/low: - 输入很明确、输出很机械:JSON字段映射、正则生成、固定模板填充、批量打标签 - 答案在原文里、只需"找出来":摘要抽取、要点提取、关键值读取 - 已经喂了充足few-shot示例:模型照葫芦画瓢,不需要自己推理

什么时候才放开high:数学证明、复杂多步调试、需要规划长链路的Agent决策。这类活通常只占请求量的5%–20%。

经验值:把分类/抽取类批处理任务的reasoning_effort从medium降到minimal,单次成本降一个数量级,延迟也快3–5倍。

三、第二刀:给Claude套上budget_tokens上限

Anthropic的extended thinking(扩展思考)没有"档位"枚举,而是直接给你一个token预算参数,精确到个位数:

client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=4096,
    thinking={
        "type": "enabled",
        "budget_tokens": 2000   # 思考上限,日常活压到1k–2k
    },
    messages=[...]
)

budget_tokens是硬上限——Claude最多想这么多就必须收敛出答案。不设紧的话,Claude遇到稍微开放的问题能想到8000–10000+ token,且这些全按输出价计费。

调档建议: - 例行改代码、改文案、总结会议:budget_tokens=1024或2000够用 - 中等推理:budget_tokens=6000 - 真正烧脑(架构设计、难bug):budget_tokens=20000或更高

注意一个坑:budget_tokens必须小于max_tokens,且要给最终答案留够空间。设budget_tokens=2000时,max_tokens至少给到4096。

四、第三刀:Gemini的thinkingBudget直接设0,关掉脑子

Google的Gemini 2.5系列给了一个最暴力的开关——thinkingConfig.thinkingBudget,可以直接设成0完全关闭思考(Flash系列支持设0;Pro系列有最低下限,约128以上)。配合Flash本就极低的单价,这一刀对"海量低价值请求"几乎是免费。

genai.GenerativeModel("gemini-2.5-flash").generate_content(
    contents=text,
    generation_config=genai.GenerationConfig(
        thinking_config={"thinking_budget": 0}   # 直接关脑
    ),
)

最适配场景:每天跑几十万次的流水线——邮件分类、敏感词扫描、客服意图识别、日志打标、内容审核预筛。这些任务模型闭着眼都能做,留个脑子纯纯浪费token。

实测对比(时点估算):同样跑100万条短文本分类, - thinkingBudget=默认 vs =0,token消耗可差5–10倍, - Gemini Flash单价又只有前沿旗舰的几十分之一, - 叠加下来,单条成本能压到几乎可以忽略,准确率损失通常<1个百分点。

五、第四刀:按复杂度路由,只给少数请求开脑(方法差)

前三刀是"手动调档",第四刀是让程序自动决定该想多少——这是真正能把整体账单砍到一成的核心。

思路:在主调用前加一层轻量分类器,先判断这条请求的复杂度,再决定走哪个模型、开多大思考预算。分类器可以是几行规则、一个小Embedding+阈值、甚至让廉价小模型(Haiku/GLM-Flash)花几十个token先判一下。

flowchart TD
    A[请求进入] --> B{轻量复杂度判别<br/>规则/小模型/Embedding}
    B -->|简单 ~80%<br/>分类/抽取/翻译/格式化| C[effort=minimal<br/>budget=0<br/>Gemini Flash]
    B -->|中等 ~15%<br/>改码/总结/改写| D[effort=medium<br/>budget=2k<br/>GLM/Haiku]
    B -->|困难 ~5%<br/>调试/数学/规划| E[effort=high<br/>budget=10k+<br/>GPT-5/o系/Claude]
    C --> F[按输出价计费]
    D --> F
    E --> F
    style C fill:#d4f5d4
    style E fill:#ffd4d4

为什么能省这么多:成本由"价格×数量×思考量"决定。路由同时压三个杠杆——80%的请求走最便宜的Flash且关脑(价格×0、思考×0),15%走中档低预算,只有5%真正烧脑的请求才喂旗舰模型开high。少数请求多花的钱,远远抵不过大头省下的钱。

这一刀和"换便宜模型"的路由不是一回事:路由是选模型,这里是控同一个模型的思考量,两者可以叠加——先用路由挑模型,再在模型里压思考预算。

六、第五刀:别在最贵模型上做思考——输出token是输入的4倍

这是最反直觉、也最容易被忽略的一刀。前面说过,思考token按输出价计费,而输出价是输入价的4–5倍。这意味着:在旗舰模型上想5000个token的真实成本,远超你的直觉。

实战原则:把"需要思考但不难"的活,从旗舰推理模型迁到廉价高速推理供应商。2026年这条供应链已经很成熟:

很多蒸馏后的开源推理模型(参数小、但保留了推理能力)在这些供应商上跑,单价低、速度极快,对"中等复杂度"的推理活质量够用。旗舰推理模型只留给那5%真正啃不动的硬骨头。这一招的本质是:思考税的高低,不只取决于"想多少",还取决于"在哪想"——同样的思考量,换个便宜的脑子,账单立减。

七、省钱实战账本(原价 vs 优化后)

场景:一个团队每月跑100万次API调用,结构是80%简单分类、15%中等改写、5%复杂推理。全部默认走某旗舰推理模型、reasoning_effort=medium。

方案 配置 月成本(估算)
原始(全旗舰medium) 100%走旗舰,思考全开 ~$2,400
第一刀 简单请求effort=minimal ~$900
一+二+三刀 全部压到最低思考预算 ~$400
四+五刀(完整路由) 按复杂度路由+廉价供应商 ~$240(砍掉九成)

(数字为时点估算,用于说明相对降幅,实际以各供应商官网实时计价为准。)关键不是绝对数字,而是降幅结构:动思考预算这一项,比换模型省得还狠。

八、不同预算的推荐组合

九、信息差总结:你知道的 vs 别人不知道的

维度 大多数人知道 信息差(本篇)
省钱手段 换便宜模型 同一模型调思考预算,省得更狠
思考token 知道模型会"想" 思考token按输出价算,是隐形大头
OpenAI 知道用GPT-5 reasoning_effort=minimal可让思考量趋近于0
Claude 知道开extended thinking budget_tokens是硬上限,设紧立省
Gemini 知道Flash便宜 thinkingBudget=0可完全关脑
系统级 手动选模型 加一层复杂度路由,自动决定想多少

十、行动指南:今天就能做的五步

  1. 盘点账单:打开你的API用量页,看token消耗里"输出token"占比——如果输出远高于输入,多半是思考token在作怪。
  2. 全局兜底:所有非关键调用,先把reasoning_effort=minimal、budget_tokens=2000、thinkingBudget=0设成默认值,跑一周观察成本。
  3. 抓低价值高频流:找出占调用量80%但业务上最简单的任务(分类/抽取/打标),整体迁到Gemini Flash关脑或Groq蒸馏模型。
  4. 加复杂度路由:在主调用前加个轻量判别(规则或小模型),把请求分到三档模型×三档预算,旗舰只在hard档触发。
  5. 设置思考成本告警:监控"思考token/总token"比值,超过阈值(如60%)就报警——这是"思考税"失控的最早信号。

参考来源

51学通信知识星球海报-扫码加入