首页 › cost-hacks › 别让模型边想边烧:三招砍掉思考税

导语

你盯着账单上的"output tokens",觉得输出 token 就是模型给你的那段答案。错。2026 年推理模型(reasoning model)真正的大头,是它在出答案之前自己跟自己嘀咕的那几千个"思考 token"——它们不在答案里、多数客户端默认不显示,但按输出价全额计费。一行请求你以为花 200 token 的钱,实际扣了 2200。下面拆解三招把这笔"思考税"砍掉七成,外加两笔同样看不见的账(图片 token、工具 schema),都附真实开关和省钱测算。

核心问题:思考 token 才是隐形账单

先建立认知。一个推理模型的输出由两段组成:

两者单价相同(都是 output 价)。问题在于,对一道普通题,思考段往往是答案段的 5~15 倍。也就是说你以为花 1 块,实际花了 6~16 块,其中绝大部分你根本没"看到价值"。

举一个结构性的真实测算(token 单价为示意,以各官网为准):

场景 最终答案 token 思考 token 你实付 output token 相对成本
翻译一句英文 120 0(非思考模型) 120 1×
同句,用思考模型默认开 120 1800 1920 16×
同句,思考开但 effort=minimal 120 150 270 2.25×
同句,思考关 / no_think 120 0 120 1×

一张表说清核心信息差:同一道题、同一个模型,思考开关不同,账单差 16 倍,答案几乎一样。这不是"模型路由"(那是换小模型),而是同一个模型身上第二个成本旋钮,绝大多数人从来没拧过它。

各家"思考旋钮"长什么样(2026 现状)

平台/模型 关思考 / 限思考的参数 关掉后效果
OpenAI GPT-5 系(含 Sol/5.6) reasoning_effort: minimal\|low\|medium\|high minimal 几乎不产生思考 token
Anthropic Claude 扩展思考 thinking={"type":"enabled","budget_tokens":N} 调小 N 直接封顶思考量
DeepSeek 选 V3(不思考) vs R1(思考);R1 的 reasoning_content 单独返回 跑常规活选 V3,输出价约为 R1 的一半
Qwen3 / GLM 系 enable_thinking=false,或 prompt 里 /no_think 零思考 token,又快又便宜
Google Gemini 2.5 thinkingConfig.thinkingBudget: N(0 即关) Flash 可设 0,Pro 调小 N

记一个口诀:所有主流推理模型,2026 年都给了你一个"想多少"的开关,但默认值都偏向"使劲想"——因为它对模型口碑有利、对你钱包不利。你要做的,是把它从默认值往回拧。

三招砍掉思考税

招式一:默认关思考,复杂才开(省钱 70%)

在 API 调用前加一个极便宜的"复杂度分流"。可以用规则(正则判长度/是否含"翻译、提取、格式化"),也可以花 1 个 Haiku/Flash 级小模型做分类。经验比例:约 70% 的请求根本不需要思考——翻译、摘要、信息提取、JSON 格式化、改字段名这类活,关掉思考答案一模一样,账单直接打 1 折。

flowchart TD
    Q[请求进来] --> C{复杂度分流}
    C -->|提取/翻译/格式化<br/>约70%| OFF[思考关<br/>reasoning_effort=minimal<br/>或 no_think]
    C -->|常规编码/多步规划<br/>约25%| LOW[思考低<br/>budget_tokens=1k]
    C -->|调试难题/数学证明<br/>约5%| HIGH[思考高<br/>budget_tokens=8k]
    OFF --> O1[相对成本 1×]
    LOW --> O2[相对成本 3×]
    HIGH --> O3[相对成本 15×]
    O1 --> Save[整体账单 ≈ -70%]
    O2 --> Save
    O3 --> Save

这一招的本质:把"思考"当成一种可按请求开关的算力,而不是模型的固定属性。

招式二:给思考设预算上限,别让它无限想

不分流也行,至少在每个请求里显式传思考预算,避免模型自言自语刹不住车:

实测:把 budget 从默认高降到 1~2k,对 90% 的工程任务答案质量无损,思考 token 掉一个数量级。默认高 budget 是给刷榜用的,不是给你跑生产用的。

招式三:缓存思考块,多轮 Agent 别让它重复想

这是信息差里最值钱的一招。Agent 多轮对话里,每一轮如果把上下文从头重新喂,模型会把同一道题的思考过程再算一遍、再付一遍钱。

两条具体做法:

  1. Prompt caching 复用思考块:Claude 的 prompt caching 支持把上一轮的 thinking block 一起缓存。命中后那段思考只按缓存价(约 1 折)计费,而不是重新跑。把稳定的 system prompt + 已完成的 thinking 放进 cache,多轮成本骤降。
  2. "想一次、跑十次"模式:让思考模型只在第 0 步深度思考一次、产出一份计划/方案,缓存下来;后续 N 步执行全部切到便宜的、关思考的模型去干活。一次思考税,覆盖整个任务——这是把"思考"从"每步都交"变成"只交一次"的关键架构。

一笔账:Agent 跑 20 步。若每步都开思考,每步 ~2000 思考 token × 20 = 4 万 token 的思考税。改成"想一次跑十次",思考税 ≈ 2000 token,省 95%。

另外两笔"看不见的账"(顺手砍)

思考 token 是最大的一笔,但还有两笔同样藏在账单里:

账单二:图片 token 随分辨率平方涨。 多模态模型把图片切成 512×512 的 tile,token 数 ≈ ⌈宽/512⌉ × ⌈高/512⌉ × 系数。一张 2048² 的图约 16 个 tile,压到 768² 后约 4 个 tile——同一个 OCR/看图任务,先压图再喂,省 4 倍。上传前用脚本把最长边限到 768~1024px,识别类任务几乎无损。

账单三:工具 schema(function calling)每轮都重传。 你挂了 20 个 MCP 工具、每个 300 token 的 JSON schema,每轮请求都把这 6000 token 当 input 重新发一遍。砍法:精简工具描述、删掉示例值;或用按需加载工具(tool search / 动态挂载),首轮只暴露元信息,用到哪个加载哪个。一个 20 工具的 Agent,瘦身 + 按需加载后,input 端能掉一半。

信息差总结

你以为的 实际上的
思考 token 是免费的副产品 按输出价全额计费,常是答案的 5~15 倍
推理模型就是"更聪明",没法关 2026 全主流都给了 effort/budget/no_think 开关,默认值偏贵
多轮对话每轮都得重新想 思考块可缓存复用,第二次近乎免费
图片越大 AI 越清楚 图片 token 随分辨率平方涨,先压再喂
工具挂得越多越强 工具 schema 每轮重传,是 input 端的隐形税

行动指南(今天就能做)

  1. 打开你的 API 客户端,在请求里显式加上 reasoning_effort / budget_tokens / thinkingBudget / enable_thinking 这类参数——哪怕先统一设成最低档。
  2. 加一个复杂度分流(规则或 Haiku 级分类器),70% 请求走"思考关"通道。
  3. 多轮 Agent 改成"想一次跑十次":第 0 步思考、产出方案并缓存,后续切便宜模型执行。
  4. 图片入口加压缩,最长边限 768~1024px;工具列表瘦身 + 按需加载。
  5. 上观测:用 Helicone / Langfuse 把 reasoning_tokens / thinking_tokens 单独打成一个看板。你砍不掉你没看见的东西——先让它显形,是第一笔省的钱。

参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入