首页 › cost-hacks › 三道官方折扣没人领:缓存白砍九成费

三道官方折扣没人领:缓存白砍九成费

如果你正在用 OpenAI 或 Anthropic 的 API,每月账单上千刀却还在自己搭 Redis 做语义缓存、还在用旗舰模型跑批量任务、还在让推理模型"自由发挥"思考几千个 token——那你大概率漏领了三道厂商白送的官方折扣。这三道折扣不需要你写额外的基础设施、不需要换模型,只需要改几个参数或换一个 endpoint:原厂前缀缓存能白砍九成重复输入费,Batch API 给所有非实时任务直接打五折,思考 token 预算控制能堵住那个"你根本看不见却在计费"的暗洞。今天这篇,把这三张被 90% 开发者错过的优惠券一张张撕开给你看。

一、信息差的全貌:你交了税,还以为在交原价

先说一个残酷的认知差。海外社区(Reddit 的 r/LocalLLaMA、r/ChatGPTCoding,Hacker News)2026 年讨论最热的省钱话题,已经不是"换便宜模型"了,而是"把厂商已经标在价目表上的折扣领满"。

国内技术圈对省钱的认知还停留在三层:

  1. 换模型——能用 Haiku 就不用 Sonnet(这个你早知道了)
  2. 语义缓存——自己搭 Redis + embedding,命中就省六成(这个国内有不少教程了)
  3. 模型路由——简单问题甩给小模型(也聊烂了)

但真正高 ROI 的三张官方优惠券——原厂前缀缓存(Prompt Caching)、Batch API、思考 token 预算——国内几乎没人系统讲。原因很简单:它们藏在英文官方文档里,价目表上一行小字,国内博客懒得翻译。

而这三张券加起来,对一个典型的 Agent 应用,能把账单从 $300/天砍到 $30/天以内。这不是玄学,下面全是算术。

二、折扣一:原厂前缀缓存,白砍九成输入费

这不是语义缓存,别搞混了

最大的认知差在这里:很多人把"原厂前缀缓存"和"语义缓存"当成一个东西。

区别有多大?语义缓存省六成,还要自己搭;原厂前缀缓存省九成,还免费。你却在辛辛苦苦造语义缓存,把官方白送的九折券扔在桌上。

具体折扣数字(2026 年现行价)

厂商 缓存写入(cache write) 缓存读取(cache read) 最低缓存长度 TTL
Anthropic Claude 输入价 × 1.25 输入价 × 0.1(打一折,省 90%) 1024 token 5 分钟 / 可延至 1 小时
OpenAI 正常价 输入价 × 0.5(五折) 1024 token 自动,约 5–10 分钟

关键点:

一个改 prompt 顺序就能多省一倍的小动作

OpenAI 的缓存是前缀匹配。它只缓存从开头连续相同的部分。所以:

就这一个顺序调整,OpenAI 上能从全价变五折。 国内很多套壳应用 prompt 模板把用户输入拼在最前面,等于在跟官方对着干,把优惠券主动作废。

真实算术:Agent 场景砍九成

假设你的 Agent 带一份 10K token 的系统提示 + 工具说明 + 知识库,每天被调用 1 万次(Claude Sonnet 4.6,输入 $3/百万 token):

而你要付出的成本:在 API 请求里加一行 cache_control 标记。就这。

# Anthropic:标记缓存断点,就这一行
message = client.messages.create(
    model="claude-sonnet-4-6",
    messages=[{
        "role": "user",
        "content": [
            {"type": "text", "text": BIG_SYSTEM_PROMPT,
             "cache_control": {"type": "ephemeral"}},  # ← 就加这个
            {"type": "text", "text": user_query}
        ]
    }]
)
# 响应里有 usage.cache_read_input_tokens / cache_creation_input_tokens 可监控命中率

适用人群:所有带长系统提示、RAG 检索上下文、few-shot 示例、Agent 工具定义的应用。只要你的 prompt 有超过 1024 token 是"每次都一样"的部分——恭喜,你正在交全价。

三、折扣二:Batch API,给所有非实时任务直接打五折

如果说前缀缓存是"重复内容的折扣",那 Batch API 就是"不着急的任务的折扣"。

OpenAI 和 Anthropic 都提供了一个批量异步端点:你把一堆请求打包成一个 JSONL 文件上传,厂商在 24 小时内异步处理完,结果再给你。代价是不能秒回,好处是每一条都直接打五折。对,就是字面意义的五折,没有任何套路。

为什么这是被忽略最狠的一张券

这五折有多隐蔽?一篇海外博客的标题直接叫《大多数开发者忽略的 50% 折扣》。原因有三:

  1. 它不在主 API 文档的显眼位置,藏在单独的 Batch 指南里。
  2. 国内 SDK 教程几乎不提——大家习惯了同步调用,没人主动告诉你"你等等就能省一半"。
  3. 很多人误以为 Batch 只适合"百万级大数据",其实几十条、几百条也能用,照样五折。

哪些任务该走 Batch(你应该立刻迁移的)

凡是不要求秒级响应的任务,全部该走 Batch:

任务 是否实时 建议走 Batch? 节省
客服对话 / 实时问答 是 ❌ 不能 —
批量代码 review(PR 合集) 否(过夜跑) ✅ 50%
批量生成单元测试 否 ✅ 50%
大批量文档摘要 / 分类打标签 否 ✅ 50%
内容审核 / 情感分析批量跑 否 ✅ 50%
Embedding 批量生成 否 ✅(OpenAI) 50%
评测集 / 基准测试跑分 否 ✅ 50%

对独立开发者和小团队,每天晚上把白天攒下来的非实时任务一股脑 Batch 跑掉,直接砍掉一半成本。这比换便宜模型还实在,因为你不牺牲任何质量——用的是同一个旗舰模型。

真实算术 + 叠加缓存

一个更狠的组合:Batch API 的请求里照样可以用前缀缓存(共享系统提示)。

# OpenAI Batch:准备一个 JSONL,每个请求带自定义 ID
{"custom_id": "review-1", "method": "POST", "url": "/v1/chat/completions",
 "body": {"model": "gpt-4o", "messages": [{"role":"user","content":"review this PR..."}]}}
# 上传 → 创建 batch → 24h 内拿结果,自动五折

适用人群:有任何"攒一批过夜跑"性质任务的人——内容平台、SaaS 后台、数据团队、做评测的开发者。如果你现在还在用同步循环一条条跑批处理,你每天都在扔掉一半的钱。

四、折扣三(反向省):思考 token 预算,堵住看不见的计费洞

前两个是"领折扣",这一个是"堵漏洞"。但它属于同一类信息差——厂商不会主动告诉你的计费真相。

推理模型在收你看不见的 token 钱

o1/o3、Claude Extended Thinking、Gemini thinking 模式、DeepSeek R1 这类推理模型(reasoning model),会先在内部做一段"思考"再输出答案。问题来了:这段思考也算 token,也按输出价计费,而你在响应里根本看不到它。

海外实验室 TokenMix 在 2026 年 4 月的实测里写了一个让人头皮发麻的细节:

给 Gemini 3.1 Pro 设 max_tokens: 10,请求返回了一个空响应——不是模型出错了,而是这 10 个 token 全被内部推理吃掉了,一个字的正式输出都没生成就到上限了。

换句话说:你以为你只请求了 10 个 token 的输出,结果你为模型"脑子里想了一下"付了全款,最后啥也没拿到。 这就是"思考 token 陷阱"。海外数据称,推理模型在高强度任务上能比普通模型贵 5–20 倍,主要就贵在这段你看不见的推理上。

三个动作堵住这个洞

  1. 简单任务别用推理模型。分类、抽取、改写、格式化这类任务,用 Haiku/4o-mini 等非推理小模型,又快又便宜,质量没差。推理模型留给真正需要多步推理的硬题。
  2. 给思考设预算上限。Anthropic 和 Gemini 都允许你设 thinking budget / 限制 reasoning token 数。Claude Extended Thinking 可以设 budget_tokens,Gemini 有 thinkingBudget 参数。把无上限的"自由发挥"关掉。
  3. 监控而非相信。响应里的 usage 字段会把 reasoning token 单列出来(如 OpenAI 的 completion_tokens_details.reasoning_tokens)。把它接进你的监控面板,否则你永远不知道推理烧了多少钱。
# Anthropic:给思考设预算上限,别让它无限烧
client.messages.create(
    model="claude-opus-4-8",
    thinking={"type": "enabled", "budget_tokens": 2000},  # ← 最多想 2000 token
    max_tokens=4000,
    ...
)
# Gemini: generationConfig.thinkingConfig.thinkingBudget = 2000

适用人群:所有在用 o3 / Extended Thinking / Gemini thinking 做生产调用的人。如果你只盯着 max_tokens 和输入长度,却从没看过 reasoning token 计费——你账单里很可能有一块"隐形的大头"。

五、信息差总结表

维度 你以为的(国内主流认知) 别人不知道的(本次信息差)
重复内容省钱 自己搭 Redis 做语义缓存,省六成 原厂前缀缓存白砍九成,零基础设施,加一行参数
批量任务 同步循环一条条跑,全价 Batch API 直接五折,24h 异步,质量零损失
OpenAI 缓存 不知道有这回事 自动五折,但 prompt 要"静态在前动态在后"才能命中
推理模型成本 比 Sonnet 贵一点 可贵 5–20 倍,思考 token 看不见却在计费
省钱优先级 先换便宜模型 先把官方三道折扣领满,再谈换模型
叠加效果 单点优化 缓存 × Batch × 思考预算三张券叠加,降幅 85%+
## 六、决策流程图:你的请求该走哪条省钱路径
flowchart TD
    A[一个 API 请求] --> B{需要实时秒回?}
    B -- 否 --> C[✅ 走 Batch API<br/>直接五折]
    B -- 是 --> D{prompt 有 1024+ token<br/>每次重复?}
    D -- 是 --> E[✅ 开原厂前缀缓存<br/>Anthropic 砍九成 / OpenAI 五折]
    D -- 否 --> F{必须用推理模型?}
    F -- 否 --> G[✅ 换非推理小模型<br/>Haiku / 4o-mini]
    F -- 是 --> H[✅ 设 thinking budget<br/>堵住看不见的计费洞]
    C --> I[监控 usage 字段<br/>跟踪命中率与 reasoning token]
    E --> I
    G --> I
    H --> I
    I --> J[账单从全价 → 三折以内]

这张图的精髓:先问"急不急"和"重不重复",而不是上来就换便宜模型。前者是白捡的官方折扣,后者要牺牲质量。

七、行动指南:今天就能做的五步

  1. 今天就打开你的 prompt 模板,检查顺序。 把系统提示、文档、few-shot 全部挪到最前面,用户输入放最后。OpenAI 上这一步立省一半(五折自动命中)。
  2. 在 Anthropic 调用上加 cache_control。 找到代码里所有带长上下文的请求,标记缓存断点,部署后观察 cache_read_input_tokens 占比,目标 > 80%。
  3. 盘点你的非实时任务。 代码 review、文档摘要、批量分类、评测跑分——挑一个,今晚改成 Batch API 跑,明天看账单砍半。
  4. 给所有推理模型调用设 thinking budget。 别让 o3 / Extended Thinking 自由发挥,设个 1000–3000 token 上限。
  5. 把四个指标接进监控: 缓存命中率、缓存写/读 token、Batch 任务量、reasoning token 占比。没监控就没省钱——你以为省了,其实可能根本没命中缓存。

做完这五步,再去算账。对一个中等规模的 Agent 应用,月账单从 $9000 砍到 $1500 以内是正常水平,而且你一行模型都没换、一点质量都没牺牲。

八、一句话总结

国内技术圈卷"换模型""语义缓存""模型路由",却把厂商明码标价放在价目表上的三张官方券——前缀缓存九折、Batch 五折、思考预算——晾在桌上没领。这不是技术问题,是信息差问题。把这三张券领满,比换十个便宜模型都管用。

参考来源

完成摘要(What was done)

下一步计划(What's next)

  1. Round 5(社区热议) 是下一轮分类,建议从 Reddit r/LocalLLaMA 或 HN 当周热帖切入,避免与"模型退化嘴仗""去偏见暗战"等已覆盖话题重复
  2. 如本轮 cost-hacks 想做实测补充:可后续用真实 API key 跑一次"开缓存 vs 不开缓存"对比,产出实拍账单截图,信息差杀伤力更强
  3. 可考虑把"原厂前缀缓存"单独扩写成一篇 tips-tricks 深度教程(含 OpenAI/Anthropic/Gemini 三家代码模板),作为姊妹篇

注意事项

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入