首页 › cost-hacks › 提示词缓存:API账单的隐藏折扣通道

提示词缓存:API账单的隐藏折扣通道

导语: 同样调 Claude、GPT、DeepSeek 的 API,有人月底账单上万,有人只花零头——差别不在用量,而在一个 90% 国内开发者从没主动用过的机制:Prompt Caching(提示词缓存)。它不是第三方灰产折扣,而是四家官方文档白纸黑字写明的“原生折扣通道”:Claude 缓存命中只要原价 10%,DeepSeek 命中价是未命中价的 2%,OpenAI 官方宣称最高省 90% 输入成本,Gemini 甚至默认帮你开启。这篇文章把四家的机制、触发条件、隐藏参数和省钱计算一次性拆给你,全部信息来自本轮刚抓取的官方文档(2026年8月现行版本)。

一、为什么你一直在“原价裸奔”

先看一个所有做 Agent 的人都在犯的错:你的 Agent 每一轮对话,都要把 system prompt、工具定义、历史上下文重新发一遍。一个典型的 coding agent,单轮请求的前缀(系统指令 + 工具 schema + 代码库摘要)轻松超过 5 万 token。跑 100 轮,就是 500 万 token 的输入费——而这 500 万 token 里,99% 的内容和上一轮一模一样。

四家厂商早就为此准备了缓存机制:把重复的前缀在服务器上存下来,下次命中就直接复用计算结果(KV Cache),只收你一个极低的“读取价”。但这个机制在国内技术社区的存在感低得惊人——很多做了两年 LLM 应用的人,从来没在自己的账单里见过 cache_read_input_tokens 这个字段。

这就是本轮的信息差:折扣通道一直开着,只是你的 prompt 结构天生命不中它。

二、四家机制横评(2026年8月官方文档实测口径)

1. Anthropic Claude:最透明,也最需要“手动扳开关”

根据 Anthropic 官方 Prompt caching 文档(docs.anthropic.com/en/docs/build-with-claude/prompt-caching),以 Claude Sonnet 4(基础输入 $3/MTok)为例:

项目 价格 相对基础输入
5分钟缓存写入 $3.75/MTok 1.25 倍
1小时缓存写入 $6/MTok 2 倍
缓存命中/刷新 $0.30/MTok 0.1 倍(省90%)
输出 $15/MTok —

Opus 4.1 同理:输入 $15,缓存命中只要 $1.50。

关键机制,每一条都值钱:

2. OpenAI:全自动,但有个 24 小时隐藏参数

OpenAI 官方文档(platform.openai.com/docs/guides/prompt-caching)的口径:缓存自动开启、无需改代码、写入免费,官方宣称输入成本最高省 90%、延迟最高降 80%,对 gpt-4o 及之后所有模型生效。

大多数人不知道的三个细节:

3. DeepSeek:命中价是原价的 2%,还有 Anthropic 兼容端点

刚抓取的 DeepSeek 官方价格页(api-docs.deepseek.com/zh-cn/quick_start/pricing,2026年8月现行 V4 版本):

模型 输入(缓存命中) 输入(未命中) 输出
deepseek-v4-flash 0.02 元/MTok 1 元/MTok 2 元/MTok
deepseek-v4-pro 0.025 元/MTok 3 元/MTok 6 元/MTok

划重点:

4. Gemini:零配置,默认帮你省钱

Google 官方文档(ai.google.dev/gemini-api/docs/caching):所有 Gemini 2.5 及更新模型默认开启 Implicit Caching,命中缓存自动传导折扣,“无需做任何事”。注意事项:

(各家具体折扣率以各家定价页实时为准,本轮以官方文档口径为准。)

三、一张图看懂缓存的省钱路径

flowchart TD
    A[API 请求发出] --> B{前缀是否命中缓存?}
    B -->|命中| C[按缓存读取价计费]
    B -->|未命中| D[按全价计算输入]
    D --> E[前缀写入缓存<br/>Claude 收 1.25x 写入费<br/>OpenAI / Gemini / DeepSeek 免费]
    E --> F[5-10分钟后缓存过期?]
    F -->|是| A
    F -->|否| A
    C --> G[Claude: 0.1x · DeepSeek: 0.02x<br/>OpenAI: 最高省90% · Gemini: 自动折扣]
    C --> H[缓存自动续期, 不额外收费]
    G --> I[账单直降 50%~98%]
    H --> I

四、实战算账:一个 Agent 的月账单对比

场景:coding agent,固定前缀(系统指令+工具定义)5 万 token,每天 100 轮调用,以 Claude Sonnet 4 计。

省 89%。 如果你把非实时任务再挪到各家 Batch 模式(据 OpenAI 官方文档,Batch API 输入输出统一半价),还能在这基础上再砍一刀。

换成 DeepSeek v4-flash 同场景:全价 100 轮 = 5,000,000 × 1元/1M = 5 元/天;命中后约 0.19 元/天,月省约 144 元——量再大 100 倍,就是每月省上万元。

五、信息差总结

你以为的 实际情况
“API 价格是标价,没得谈” 四家都有官方折扣通道,Claude 命中价 1 折、DeepSeek 命中价 2 分钱
“缓存要自己搭 Redis” 服务器端 KV 缓存,一行标记/零代码即可
“OpenAI 缓存默认开了就不用管” 有 prompt_cache_retention:"24h" 和 prompt_cache_key 两个隐藏参数,命中率差数倍
“DeepSeek 还是那个 v3 时代的价格体系” V4 时代:1M 上下文、命中 0.02 元、旧模型名已于 2026/07/24 弃用
“Claude Code 只能配 Claude” DeepSeek 提供 Anthropic 兼容端点,可直接当 Claude Code 后端
“账单高就该换小模型” 先查 cache_read_input_tokens 占比——大概率是缓存没命中,而不是模型太贵

六、行动指南(今晚就能做完)

  1. 查账单:打开你现在的 API 控制台,找 usage 里的 cached_tokens(OpenAI/Gemini)或 cache_read_input_tokens(Claude)。如果是 0 或占比极低,你一直在原价裸奔。
  2. 重排 prompt:把 system 指令、工具定义、few-shot 示例、大段背景资料全部挪到 prompt 最前面,用户级动态内容放最后。这是所有缓存命中的前提——前缀必须逐字节一致。
  3. 各家加开关:Claude 加 cache_control 断点(内容超过 5 分钟才复用就上 1 小时 TTL);OpenAI 给同类请求配 prompt_cache_key(注意单 key 别超 15 RPM),低频大前缀任务试 prompt_cache_retention:"24h";DeepSeek 无需配置,但确保 prompt 顺序利于前缀稳定。
  4. 换便宜后端:把 Claude Code 的 ANTHROPIC_BASE_URL 指到 https://api.deepseek.com/anthropic,体验“Claude 的工作流 + DeepSeek 的价格”(注意工具调用兼容性以实际测试为准)。
  5. 非实时任务走 Batch:定时报告、数据清洗、批量摘要这类不看延迟的任务,全挪到 Batch 模式拿半价。

七、参考来源

  1. Anthropic — Prompt caching 官方文档:https://docs.anthropic.com/en/docs/build-with-claude/prompt-caching
  2. OpenAI — Prompt caching 官方指南:https://platform.openai.com/docs/guides/prompt-caching
  3. Google — Gemini API Context caching:https://ai.google.dev/gemini-api/docs/caching
  4. DeepSeek — 模型 & 价格(中文官方):https://api-docs.deepseek.com/zh-cn/quick_start/pricing
  5. DeepSeek — Your First API Call(Anthropic 兼容端点):https://api-docs.deepseek.com/quick_start/pricing

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入