首页 › cost-hacks › 输出token三倍税：五招砍掉啰嗦账

输出token三倍税：五招砍掉啰嗦账

一句话信息差：你 90% 的省钱精力花在了"输入端"（裁系统提示、上 prompt caching、换中文编码），却没人在乎模型在"输出端"的啰嗦——而输出 token 单价是输入的 3–5 倍。这一篇给你五招，把账单上最肥的那块肉切下来。

一、最贵的 token，是模型吐出来的那一个

先看一张让人血压升高的表。截至 2026 年中，主流大模型厂商的定价结构几乎一致——输出 token 是输入 token 的 4–5 倍：

模型档位（代表）	输入（约 $/百万token）	输出（约 $/百万token）	输出/输入倍率
旗舰（Claude Opus 级 / GPT 旗舰级）	~$15	~$75	5 倍
中端（Claude Sonnet / GPT 中端级）	~$3	~$15	5 倍
轻量（Haiku / mini 级）	~$0.15–1	~$0.60–4	4 倍
国产旗舰（GLM、Qwen、DeepSeek 级）	~¥1–4	~¥4–16	3–5 倍

为什么这么贵？因为生成（自回归解码）是逐 token 往外吐，每吐一个都要把整个上下文重新过一遍 KV cache，计算量远大于只读一次的输入编码。这是物理成本，不是厂商心黑。

但信息差在于：绝大多数团队的省钱动作，全都砸在了左边那一列。

裁 system prompt 长度 ✅（有效，但天花板低）
上 prompt caching ✅（命中可省 50–90% 输入费）
把中文 prompt 改英文省编码 token ✅（已有人讲过）
把图片压缩、降分辨率 ✅（已有人讲过）

这些全是"输入端"优化。问题是：当你的输入已经被 caching 压到 1 块钱，输出却还在以 5 倍单价、且无人设防地膨胀。一个让 Claude "详细分析一下" 的请求，模型给你回 2000 token，光这一句输出就值 2000 × $75/M ≈ $0.15。一天调用一万次，光"啰嗦"就烧 $1500——而你还在纠结 system prompt 多了 50 token。

二、五个被忽视的"输出端"砍价招

下面每一招都对应"如何让模型少吐 token，或让吐出来的 token 单价更低"。

招 1：max_tokens + 结构化输出双闸

问题：你的分类/抽取任务，模型常常"贴心地"先解释一通，再给答案。一个本该 5 token 的情感分类，硬是吐出 80 token。

操作： 1. 用 OpenAI 的 response_format: { type: "json_schema", strict: true }，或 Anthropic 的 tool use / 强制 JSON，把输出锁死成 schema。 2. schema 里把字段做成 enum（"sentiment": {"type":"string","enum":["pos","neg","neu"]}），而不是自由文本。 3. 显式设 max_tokens 上限——分类任务设 50，抽取设 200，别用默认的 4096。

预期效果：单次输出从 80 token 压到 10 token 以内，输出费直降 80%+。strict schema 还能杜绝"我注意到……"这类废话前缀。

适用场景：情感分析、意图识别、字段抽取、评分打标——一切"答案本就该很短"的任务。

招 2：logprobs 单 token 分类法（最被低估的省法）

问题：分类任务你让模型生成 "positive" / "negative" 整个词，至少 1–3 个输出 token，还可能附带换行、标点。

操作： 1. 设 max_tokens=1，让模型只生成第一个 token。 2. 打开 logprobs=5，拿回 top-5 候选 token 及其概率。 3. 在 prompt 里要求"第一个词必须是 pos 或 neg"，然后把第一个 token 的 logprob 跟你的标签集匹配。

预期效果：输出 token 恒定为 1，不管任务多复杂。分类成本从"按句子长度计费"变成"按一个 token 计费"。批量跑百万条评论，省下的钱是实打实的真金白银。

适用场景：高并发的纯分类（垃圾邮件、内容审核、A/B 测试打分、reranker 替代）。注意：复杂多标签、需要推理链的分类不适用。

招 3：few-shot 锚定 + 提示词硬约束

问题：模型默认输出风格是"论文体"——先总起、再分述、最后总结。这套修辞每一个字都在烧你的输出配额。

操作： 1. 在 prompt 末尾加死命令："只输出 JSON，不要解释，不要 markdown，不要前后缀。"（中英文各写一遍，模型对中文约束的服从度偶尔掉线）。 2. 给 1–2 个极简 few-shot 示例，示例本身就是你要的最终格式（5 token 的那种）。模型会模仿示例的冗长度，而不是它的默认风格。 3. 用 "回答不超过20字"、"用yes/no回答" 这类显式长度上限。

预期效果：输出长度平均砍掉 40–60%。配合招 1，效果叠加。

适用场景：客服回复、摘要、任何对"措辞优美"没要求的内部任务。对外品牌文案别用，会变得干巴。

招 4：embedding 判别替代 LLM 生成

问题：很多"分类"任务，你其实根本不需要生成式模型——你要的是"这段话更像 A 还是更像 B"。用大模型生成，等于用牛刀切豆腐，还按生成价计费。

操作： 1. 把每个类别的描述/样例做一次 embedding（embedding 单价比生成便宜一两个数量级，约 $0.01–0.13/百万 token）。 2. 新输入做一次 embedding，算余弦相似度，取最高分类别。 3. 只有当相似度低于阈值（边缘 case）时，才回退到大模型生成。

预期效果：90% 的请求只花 embedding 的钱，整体分类成本可压到原来的 5–10%。延迟也大幅下降。

适用场景：意图路由（决定该把用户转给哪个 agent）、知识库召回、客服分类、重复问题识别。和"路由器砍七成账单"的思路一脉相承，但这里砍的是"判别"本身。

招 5：长答切短答 + mini 模型跑结构化

问题：你让模型"写一篇 800 字的行业分析"，800 token × 输出价，就是一笔大钱。而其中 70% 是套话。

操作： 1. 把"生成 800 字"拆成"生成 8 个 bullet，每个 ≤30 字"。总输出从 800 降到 240，省 70%。 2. 结构化抽取/分类这类任务，整个迁到 mini 模型（Haiku、GPT-mini、GLM-Flash、Qwen-Turbo 级）。这类任务对推理深度要求低，mini 模型质量几乎不降，单价却只有旗舰的 1/10–1/20。 3. 只有真正需要深度推理的环节（多步规划、复杂代码）才用旗舰。

预期效果：取决于你的任务构成，混合方案通常能砍掉 60–80% 的总输出成本。

三、决策流：拿到一个任务，怎么选招

flowchart TD
    A[新任务进来了] --> B{答案是短的还是长的?}
    B -->|短: 分类/抽取/打分| C{并发量高吗?}
    B -->|长: 摘要/分析/文案| D[招5: 切bullet + mini模型]

    C -->|高, 百万级| E[招4: embedding判别<br/>边缘case回退LLM]
    C -->|中低| F{是否纯分类单标签?}

    F -->|是| G[招2: logprobs单token<br/>max_tokens=1]
    F -->|否, 多字段抽取| H[招1: strict JSON schema<br/>+ max_tokens上限]

    E --> Z[统一加 招3: 提示词硬约束<br/>禁止解释/前后缀]
    G --> Z
    H --> Z
    D --> Z

    Z --> R[部署后监控 平均输出token数<br/>这个指标比总token更重要]

关键洞察：最该盯的指标不是总 token，而是"平均输出 token 数"。在你的 dashboard 上单独画一条线，凡是这条线飙高的接口，就是漏钱的口子。

四、信息差总结：你知道的 vs 别人不知道的

维度	大多数人在做的（你知道的）	输出端高手的做法（信息差）
省钱主战场	裁输入 prompt、上 caching	给输出加 `max_tokens` 上限 + 结构化
分类任务	让模型生成完整标签词	logprobs + max_tokens=1，输出恒 1 token
提示词结尾	"请详细分析"	"只输出JSON，禁止解释" + 极简 few-shot
判别任务	全走大模型生成	embedding 判别，边缘才回退 LLM
监控指标	月度总账单	平均输出 token/请求这一条线
心智模型	"token = token"	输出 token 1 个 ≈ 输入 token 4–5 个

一句话：输入端已经被大家卷成红海了，输出端还是一片没人设防的蓝海。

五、行动指南（今天就能做）

5 分钟：打开你的 LLM 网关日志，统计每个接口的"平均输出 token"。把 TOP 3 最啰嗦的接口圈出来——那就是钱袋子。
30 分钟：给这三个接口全部加上 max_tokens 上限，prompt 末尾加"禁止解释"。先上线观察 24 小时，质量没掉就保留。
半天：把纯分类接口迁到 logprobs 单 token 方案（招 2）或 embedding 方案（招 4），跑一轮 A/B 看准确率。
一周：把结构化抽取从旗舰模型下沉到 mini 模型（招 5），用 5% 的抽检样本保质量。
持续：在账单看板上单独画"输出 token 占比"曲线，目标把它从典型的 70% 压到 40% 以下。

预期回报：成熟业务接入这五招后，月度 LLM 账单下降 30–50% 是常见结果，且无需换模型、无需自建、无需牺牲可观测质量——纯粹是把模型嘴边的废话堵回去。

参考来源

Anthropic 官方定价页（核对当日输入/输出单价与倍率）：https://www.anthropic.com/pricing
OpenAI 定价与 structured output 文档（response_format strict 模式）：https://platform.openai.com/docs/guides/structured-outputs
OpenAI logprobs 指南（max_tokens=1 + top logprobs 做分类）：https://platform.openai.com/docs/api-reference/chat/create#chat-create-logprobs
OpenAI Embeddings 定价与用法（判别替代生成的成本基础）：https://platform.openai.com/docs/guides/embeddings
各厂商定价倍率为公开结构，输出/输入 3–5 倍溢价是行业长期共识，可在上述各定价页交叉验证。

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护。聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

完成摘要

文章交付： - 第一行 、第二行 ，第三行起正文，符合强制格式。 - 含 1 张定价对比表、1 张信息差对比表、1 个 Mermaid 决策流程图。 - 五招逐条给出操作步骤/预期效果/适用场景，附省钱估算与行动指南。

注意事项（需你确认）

联网受限：本轮搜索/抓取工具被限额锁死（重置日 2026-07-18），定价数字未做实时核对。落地前建议人工到 Anthropic / OpenAI / 智谱 GLM 定价页确认当日精确单价，再替换文中"约"字数字。
若你希望换一个完全依赖实时数据的角度（如重新跑联网），可在 7 月 18 日额度恢复后我再补一轮验证。
主题与历史 78 篇去重核对：聚焦"可见输出端的啰嗦溢价"，与已有"推理思考税""缓存""路由""批处理"等均不冲突，角度独立。

[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入