2026年,几乎所有前沿模型在回答你之前都会先"想一遍"——而你要为这些看不见的思考token买单。GPT-5、o系列、Claude、Gemini、GLM全都有推理/思考模式,默认档位往往拉得很高。一个"把这段翻成英文"的活,开high档能烧掉几千个思考token,开minimal档可能一个都不烧,账单差出十倍。本期给你5个具体到参数名的"思考税"砍价开关,只动配置不改业务,实测能把推理型API账单砍掉九成。这篇解决一个认知差:很多人知道选便宜模型,却不知道同一个模型"想多少"也是个旋钮。
推理模型(reasoning model)在产出最终答案前,会先生成一段内部的"思考链"(chain-of-thought)。这段思考在大部分API里默认不返回给你,或只返回一段摘要,但它照样按token计费。
关键事实有三个,90%的人只知其一:
reasoning_effort,Anthropic叫budget_tokens,Google叫thinkingConfig.thinkingBudget,名字不同但都是同一个意思:允许模型最多想多少token。举个数字感受一下(时点估算,以官网为准):同一个"判断这条评论是正面还是负面"的请求,走GPT-5档位:
| reasoning_effort | 平均思考token | 相对成本 | 首字延迟 |
|---|---|---|---|
| minimal | ~50 | 1× | 最快 |
| low | ~400 | ~3× | 快 |
| medium(常见默认) | ~2500 | ~10× | 中 |
| high | ~8000+ | ~30× | 慢 |
一个二分类问题,high档的成本可以是minimal档的近三十倍,准确率却几乎没差别。这就是"思考税"。
reasoning_effort压到minimal/low这是见效最快的一刀。OpenAI的o系列和GPT-5家族都支持reasoning_effort参数,取值从低到高是 minimal → low → medium → high(minimal是GPT-5新增的最低档)。
具体操作(OpenAI SDK):
resp = client.chat.completions.create(
model="gpt-5",
reasoning_effort="minimal", # 关键:日常活全压到这
messages=[{"role": "user", "content": "把下面JSON里的name字段翻译成英文:\n" + data}],
)
适用判断——什么时候坚决用minimal/low: - 输入很明确、输出很机械:JSON字段映射、正则生成、固定模板填充、批量打标签 - 答案在原文里、只需"找出来":摘要抽取、要点提取、关键值读取 - 已经喂了充足few-shot示例:模型照葫芦画瓢,不需要自己推理
什么时候才放开high:数学证明、复杂多步调试、需要规划长链路的Agent决策。这类活通常只占请求量的5%–20%。
经验值:把分类/抽取类批处理任务的
reasoning_effort从medium降到minimal,单次成本降一个数量级,延迟也快3–5倍。
budget_tokens上限Anthropic的extended thinking(扩展思考)没有"档位"枚举,而是直接给你一个token预算参数,精确到个位数:
client.messages.create(
model="claude-sonnet-4-6",
max_tokens=4096,
thinking={
"type": "enabled",
"budget_tokens": 2000 # 思考上限,日常活压到1k–2k
},
messages=[...]
)
budget_tokens是硬上限——Claude最多想这么多就必须收敛出答案。不设紧的话,Claude遇到稍微开放的问题能想到8000–10000+ token,且这些全按输出价计费。
调档建议:
- 例行改代码、改文案、总结会议:budget_tokens=1024或2000够用
- 中等推理:budget_tokens=6000
- 真正烧脑(架构设计、难bug):budget_tokens=20000或更高
注意一个坑:budget_tokens必须小于max_tokens,且要给最终答案留够空间。设budget_tokens=2000时,max_tokens至少给到4096。
thinkingBudget直接设0,关掉脑子Google的Gemini 2.5系列给了一个最暴力的开关——thinkingConfig.thinkingBudget,可以直接设成0完全关闭思考(Flash系列支持设0;Pro系列有最低下限,约128以上)。配合Flash本就极低的单价,这一刀对"海量低价值请求"几乎是免费。
genai.GenerativeModel("gemini-2.5-flash").generate_content(
contents=text,
generation_config=genai.GenerationConfig(
thinking_config={"thinking_budget": 0} # 直接关脑
),
)
最适配场景:每天跑几十万次的流水线——邮件分类、敏感词扫描、客服意图识别、日志打标、内容审核预筛。这些任务模型闭着眼都能做,留个脑子纯纯浪费token。
实测对比(时点估算):同样跑100万条短文本分类, - thinkingBudget=默认 vs =0,token消耗可差5–10倍, - Gemini Flash单价又只有前沿旗舰的几十分之一, - 叠加下来,单条成本能压到几乎可以忽略,准确率损失通常<1个百分点。
前三刀是"手动调档",第四刀是让程序自动决定该想多少——这是真正能把整体账单砍到一成的核心。
思路:在主调用前加一层轻量分类器,先判断这条请求的复杂度,再决定走哪个模型、开多大思考预算。分类器可以是几行规则、一个小Embedding+阈值、甚至让廉价小模型(Haiku/GLM-Flash)花几十个token先判一下。
flowchart TD
A[请求进入] --> B{轻量复杂度判别<br/>规则/小模型/Embedding}
B -->|简单 ~80%<br/>分类/抽取/翻译/格式化| C[effort=minimal<br/>budget=0<br/>Gemini Flash]
B -->|中等 ~15%<br/>改码/总结/改写| D[effort=medium<br/>budget=2k<br/>GLM/Haiku]
B -->|困难 ~5%<br/>调试/数学/规划| E[effort=high<br/>budget=10k+<br/>GPT-5/o系/Claude]
C --> F[按输出价计费]
D --> F
E --> F
style C fill:#d4f5d4
style E fill:#ffd4d4
为什么能省这么多:成本由"价格×数量×思考量"决定。路由同时压三个杠杆——80%的请求走最便宜的Flash且关脑(价格×0、思考×0),15%走中档低预算,只有5%真正烧脑的请求才喂旗舰模型开high。少数请求多花的钱,远远抵不过大头省下的钱。
这一刀和"换便宜模型"的路由不是一回事:路由是选模型,这里是控同一个模型的思考量,两者可以叠加——先用路由挑模型,再在模型里压思考预算。
这是最反直觉、也最容易被忽略的一刀。前面说过,思考token按输出价计费,而输出价是输入价的4–5倍。这意味着:在旗舰模型上想5000个token的真实成本,远超你的直觉。
实战原则:把"需要思考但不难"的活,从旗舰推理模型迁到廉价高速推理供应商。2026年这条供应链已经很成熟:
很多蒸馏后的开源推理模型(参数小、但保留了推理能力)在这些供应商上跑,单价低、速度极快,对"中等复杂度"的推理活质量够用。旗舰推理模型只留给那5%真正啃不动的硬骨头。这一招的本质是:思考税的高低,不只取决于"想多少",还取决于"在哪想"——同样的思考量,换个便宜的脑子,账单立减。
场景:一个团队每月跑100万次API调用,结构是80%简单分类、15%中等改写、5%复杂推理。全部默认走某旗舰推理模型、reasoning_effort=medium。
| 方案 | 配置 | 月成本(估算) |
|---|---|---|
| 原始(全旗舰medium) | 100%走旗舰,思考全开 | ~$2,400 |
| 第一刀 | 简单请求effort=minimal | ~$900 |
| 一+二+三刀 | 全部压到最低思考预算 | ~$400 |
| 四+五刀(完整路由) | 按复杂度路由+廉价供应商 | ~$240(砍掉九成) |
(数字为时点估算,用于说明相对降幅,实际以各供应商官网实时计价为准。)关键不是绝对数字,而是降幅结构:动思考预算这一项,比换模型省得还狠。
thinkingBudget=0 跑批量;GLM开放日的免费额度跑中等任务;硬骨头才偶尔上付费旗舰。够个人项目和早期验证用。reasoning_effort=minimal/budget_tokens=2000兜底;叠加prompt caching(缓存命中几乎免费);把高频简单活迁到Flash关脑。| 维度 | 大多数人知道 | 信息差(本篇) |
|---|---|---|
| 省钱手段 | 换便宜模型 | 同一模型调思考预算,省得更狠 |
| 思考token | 知道模型会"想" | 思考token按输出价算,是隐形大头 |
| OpenAI | 知道用GPT-5 | reasoning_effort=minimal可让思考量趋近于0 |
| Claude | 知道开extended thinking | budget_tokens是硬上限,设紧立省 |
| Gemini | 知道Flash便宜 | thinkingBudget=0可完全关脑 |
| 系统级 | 手动选模型 | 加一层复杂度路由,自动决定想多少 |
reasoning_effort=minimal、budget_tokens=2000、thinkingBudget=0设成默认值,跑一周观察成本。reasoning_effort、reasoning tokens 计费):https://platform.openai.com/docs/guides/reasoningbudget_tokens 用法):https://docs.anthropic.com/en/docs/build-with-claude/extended-thinkingthinkingConfig.thinkingBudget):https://ai.google.dev/gemini-api/docs/thinking本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。 [!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
