# 输出token三倍税：五招砍掉啰嗦账
> 一句话信息差：你 90% 的省钱精力花在了"输入端"（裁系统提示、上 prompt caching、换中文编码），却没人在乎模型在"输出端"的啰嗦——而输出 token 单价是输入的 3–5 倍。这一篇给你五招，把账单上最肥的那块肉切下来。
## 一、最贵的 token，是模型吐出来的那一个
先看一张让人血压升高的表。截至 2026 年中，主流大模型厂商的定价结构几乎一致——**输出 token 是输入 token 的 4–5 倍**：
| 模型档位（代表） | 输入（约 $/百万token） | 输出（约 $/百万token） | 输出/输入倍率 |
|---|---|---|---|
| 旗舰（Claude Opus 级 / GPT 旗舰级） | ~$15 | ~$75 | **5 倍** |
| 中端（Claude Sonnet / GPT 中端级） | ~$3 | ~$15 | **5 倍** |
| 轻量（Haiku / mini 级） | ~$0.15–1 | ~$0.60–4 | **4 倍** |
| 国产旗舰（GLM、Qwen、DeepSeek 级） | ~¥1–4 | ~¥4–16 | **3–5 倍** |
为什么这么贵？因为生成（自回归解码）是逐 token 往外吐，每吐一个都要把整个上下文重新过一遍 KV cache，计算量远大于只读一次的输入编码。这是物理成本，不是厂商心黑。
**但信息差在于**：绝大多数团队的省钱动作，全都砸在了左边那一列。
- 裁 system prompt 长度 ✅（有效，但天花板低）
- 上 prompt caching ✅（命中可省 50–90% 输入费）
- 把中文 prompt 改英文省编码 token ✅（已有人讲过）
- 把图片压缩、降分辨率 ✅（已有人讲过）
这些全是"输入端"优化。问题是：**当你的输入已经被 caching 压到 1 块钱，输出却还在以 5 倍单价、且无人设防地膨胀。**一个让 Claude "详细分析一下" 的请求，模型给你回 2000 token，光这一句输出就值 2000 × $75/M ≈ $0.15。一天调用一万次，光"啰嗦"就烧 $1500——而你还在纠结 system prompt 多了 50 token。
## 二、五个被忽视的"输出端"砍价招
下面每一招都对应"如何让模型少吐 token，或让吐出来的 token 单价更低"。
### 招 1：max_tokens + 结构化输出双闸
**问题**：你的分类/抽取任务，模型常常"贴心地"先解释一通，再给答案。一个本该 5 token 的情感分类，硬是吐出 80 token。
**操作**：
1. 用 OpenAI 的 `response_format: { type: "json_schema", strict: true }`，或 Anthropic 的 **tool use / 强制 JSON**，把输出锁死成 schema。
2. schema 里把字段做成 **enum**（`"sentiment": {"type":"string","enum":["pos","neg","neu"]}`），而不是自由文本。
3. 显式设 `max_tokens` 上限——分类任务设 50，抽取设 200，别用默认的 4096。
**预期效果**：单次输出从 80 token 压到 10 token 以内，**输出费直降 80%+**。strict schema 还能杜绝"我注意到……"这类废话前缀。
**适用场景**：情感分析、意图识别、字段抽取、评分打标——一切"答案本就该很短"的任务。
### 招 2：logprobs 单 token 分类法（最被低估的省法）
**问题**：分类任务你让模型生成 "positive" / "negative" 整个词，至少 1–3 个输出 token，还可能附带换行、标点。
**操作**：
1. 设 `max_tokens=1`，让模型只生成第一个 token。
2. 打开 `logprobs=5`，拿回 top-5 候选 token 及其概率。
3. 在 prompt 里要求"第一个词必须是 pos 或 neg"，然后把第一个 token 的 logprob 跟你的标签集匹配。
**预期效果**：**输出 token 恒定为 1**，不管任务多复杂。分类成本从"按句子长度计费"变成"按一个 token 计费"。批量跑百万条评论，省下的钱是实打实的真金白银。
**适用场景**：高并发的纯分类（垃圾邮件、内容审核、A/B 测试打分、reranker 替代）。注意：复杂多标签、需要推理链的分类不适用。
### 招 3：few-shot 锚定 + 提示词硬约束
**问题**：模型默认输出风格是"论文体"——先总起、再分述、最后总结。这套修辞每一个字都在烧你的输出配额。
**操作**：
1. 在 prompt 末尾加死命令：`"只输出 JSON，不要解释，不要 markdown，不要前后缀。"`（中英文各写一遍，模型对中文约束的服从度偶尔掉线）。
2. 给 **1–2 个极简 few-shot 示例**，示例本身就是你要的最终格式（5 token 的那种）。模型会模仿示例的冗长度，而不是它的默认风格。
3. 用 `"回答不超过20字"`、`"用yes/no回答"` 这类显式长度上限。
**预期效果**：输出长度平均砍掉 40–60%。配合招 1，效果叠加。
**适用场景**：客服回复、摘要、任何对"措辞优美"没要求的内部任务。对外品牌文案别用，会变得干巴。
### 招 4：embedding 判别替代 LLM 生成
**问题**：很多"分类"任务，你其实根本不需要生成式模型——你要的是"这段话更像 A 还是更像 B"。用大模型生成，等于用牛刀切豆腐，还按生成价计费。
**操作**：
1. 把每个类别的描述/样例做一次 **embedding**（embedding 单价比生成便宜一两个数量级，约 $0.01–0.13/百万 token）。
2. 新输入做一次 embedding，算余弦相似度，取最高分类别。
3. 只有当相似度低于阈值（边缘 case）时，才回退到大模型生成。
**预期效果**：90% 的请求只花 embedding 的钱，**整体分类成本可压到原来的 5–10%**。延迟也大幅下降。
**适用场景**：意图路由（决定该把用户转给哪个 agent）、知识库召回、客服分类、重复问题识别。和"路由器砍七成账单"的思路一脉相承，但这里砍的是"判别"本身。
### 招 5：长答切短答 + mini 模型跑结构化
**问题**：你让模型"写一篇 800 字的行业分析"，800 token × 输出价，就是一笔大钱。而其中 70% 是套话。
**操作**：
1. 把"生成 800 字"拆成"生成 8 个 bullet，每个 ≤30 字"。总输出从 800 降到 240，**省 70%**。
2. 结构化抽取/分类这类任务，**整个迁到 mini 模型**（Haiku、GPT-mini、GLM-Flash、Qwen-Turbo 级）。这类任务对推理深度要求低，mini 模型质量几乎不降，单价却只有旗舰的 1/10–1/20。
3. 只有真正需要深度推理的环节（多步规划、复杂代码）才用旗舰。
**预期效果**：取决于你的任务构成，混合方案通常能砍掉 **60–80%** 的总输出成本。
## 三、决策流：拿到一个任务，怎么选招
```mermaid
flowchart TD
A[新任务进来了] --> B{答案是短的还是长的?}
B -->|短: 分类/抽取/打分| C{并发量高吗?}
B -->|长: 摘要/分析/文案| D[招5: 切bullet + mini模型]
C -->|高, 百万级| E[招4: embedding判别
边缘case回退LLM]
C -->|中低| F{是否纯分类单标签?}
F -->|是| G[招2: logprobs单token
max_tokens=1]
F -->|否, 多字段抽取| H[招1: strict JSON schema
+ max_tokens上限]
E --> Z[统一加 招3: 提示词硬约束
禁止解释/前后缀]
G --> Z
H --> Z
D --> Z
Z --> R[部署后监控 平均输出token数
这个指标比总token更重要]
```
关键洞察：**最该盯的指标不是总 token，而是"平均输出 token 数"**。在你的 dashboard 上单独画一条线，凡是这条线飙高的接口，就是漏钱的口子。
## 四、信息差总结：你知道的 vs 别人不知道的
| 维度 | 大多数人在做的（你知道的） | 输出端高手的做法（信息差） |
|---|---|---|
| 省钱主战场 | 裁输入 prompt、上 caching | 给输出加 `max_tokens` 上限 + 结构化 |
| 分类任务 | 让模型生成完整标签词 | logprobs + max_tokens=1，输出恒 1 token |
| 提示词结尾 | "请详细分析" | "只输出JSON，禁止解释" + 极简 few-shot |
| 判别任务 | 全走大模型生成 | embedding 判别，边缘才回退 LLM |
| 监控指标 | 月度总账单 | **平均输出 token/请求** 这一条线 |
| 心智模型 | "token = token" | 输出 token 1 个 ≈ 输入 token 4–5 个 |
一句话：**输入端已经被大家卷成红海了，输出端还是一片没人设防的蓝海。**
## 五、行动指南（今天就能做）
1. **5 分钟**：打开你的 LLM 网关日志，统计每个接口的"平均输出 token"。把 TOP 3 最啰嗦的接口圈出来——那就是钱袋子。
2. **30 分钟**：给这三个接口全部加上 `max_tokens` 上限，prompt 末尾加"禁止解释"。先上线观察 24 小时，质量没掉就保留。
3. **半天**：把纯分类接口迁到 logprobs 单 token 方案（招 2）或 embedding 方案（招 4），跑一轮 A/B 看准确率。
4. **一周**：把结构化抽取从旗舰模型下沉到 mini 模型（招 5），用 5% 的抽检样本保质量。
5. **持续**：在账单看板上单独画"输出 token 占比"曲线，目标把它从典型的 70% 压到 40% 以下。
预期回报：成熟业务接入这五招后，**月度 LLM 账单下降 30–50%** 是常见结果，且无需换模型、无需自建、无需牺牲可观测质量——纯粹是把模型嘴边的废话堵回去。
## 参考来源
- Anthropic 官方定价页（核对当日输入/输出单价与倍率）：https://www.anthropic.com/pricing
- OpenAI 定价与 structured output 文档（`response_format` strict 模式）：https://platform.openai.com/docs/guides/structured-outputs
- OpenAI logprobs 指南（`max_tokens=1` + top logprobs 做分类）：https://platform.openai.com/docs/api-reference/chat/create#chat-create-logprobs
- OpenAI Embeddings 定价与用法（判别替代生成的成本基础）：https://platform.openai.com/docs/guides/embeddings
- 各厂商定价倍率为公开结构，输出/输入 3–5 倍溢价是行业长期共识，可在上述各定价页交叉验证。
> 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护。
> 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
## 完成摘要
**文章交付**：
- 第一行 ``、第二行 ``，第三行起正文，符合强制格式。
- 含 1 张定价对比表、1 张信息差对比表、1 个 Mermaid 决策流程图。
- 五招逐条给出操作步骤/预期效果/适用场景，附省钱估算与行动指南。
## 注意事项（需你确认）
- **联网受限**：本轮搜索/抓取工具被限额锁死（重置日 2026-07-18），定价数字未做实时核对。落地前建议人工到 Anthropic / OpenAI / 智谱 GLM 定价页确认当日精确单价，再替换文中"约"字数字。
- 若你希望换一个**完全依赖实时数据**的角度（如重新跑联网），可在 7 月 18 日额度恢复后我再补一轮验证。
- 主题与历史 78 篇去重核对：聚焦"可见输出端的啰嗦溢价"，与已有"推理思考税""缓存""路由""批处理"等均不冲突，角度独立。
> [!tip] 51学通信知识星球
> **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。
> **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。
> **当前规模**：5200 篇主题 / 990 个回答，198 元/年。
> **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。
> **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。
