首页 › cost-hacks › Prompt Caching折扣矩阵:七家厂商对比

Prompt Caching折扣矩阵:90%开发者忽略的省钱密码

你知道调用同一个API,有人花1块钱,有人只花1毛钱吗?区别就在一个你天天路过却从没注意的功能——Prompt Caching。

2026年,所有主流AI厂商都支持了Prompt Caching,但折扣力度天差地别:Anthropic缓存命中后只收原价的10%,Alibaba Qwen也是10%——而你可能还在每次请求都付全价。更关键的是,OpenRouter最近上线了session_id粘性路由和flex服务层级(半价),把省钱这件事又推到了新高度。

今天这篇文章,我要把七家主流AI厂商的Prompt Caching定价全部拆开给你看,教你如何用一个参数把API成本砍掉90%。


一、什么是Prompt Caching?为什么它能省钱?

先讲原理。你每次调用AI API,模型都要从头处理你发送的所有token。但如果你有80%的内容是重复的(比如系统提示词、RAG检索到的文档、角色卡、历史对话),那这些重复部分其实不需要每次都重新计算。

Prompt Caching就是把这些重复部分缓存起来,下次请求只处理新增的部分。缓存命中的token按折扣价计费,这就是省钱的根源。

flowchart LR
    A[第一次请求] -->|缓存写入| B[Cache Write<br/>1.25x原价]
    B --> C[缓存存储<br/>5分钟~1小时TTL]
    C -->|缓存命中| D[Cache Read<br/>0.1x原价]
    C -->|缓存过期| B
    D --> E[节省90%输入成本]

    style A fill:#e1f5fe
    style D fill:#c8e6c9
    style E fill:#fff9c4

核心概念只有三个: - Cache Write(缓存写入):第一次遇到新内容时写入缓存,部分厂商加收25%~100%的溢价 - Cache Read(缓存读取):后续请求命中缓存,按折扣价计费 - TTL(缓存有效期):5分钟或1小时,过期后需要重新写入


二、七家厂商Prompt Caching定价全对比

这是我花了半天从各家官方文档和OpenRouter实测中整理出来的完整折扣矩阵:

厂商 Cache Write Cache Read 最低Token数 自动/手动 TTL
Anthropic Claude 1.25x(5分钟)/ 2x(1小时) 0.1x 1024~4096 均支持 5分钟/1小时
Alibaba Qwen 1.25x 0.1x N/A 手动标记 5分钟
DeepSeek 1x(无溢价) 0.1x N/A 自动 N/A
OpenAI 免费 0.25x~0.5x 1024 自动 N/A
Grok 免费 0.25x N/A 自动 N/A
Moonshot AI 免费 0.25x N/A 自动 N/A
Google Gemini 免费(隐式)/ 含存储费(显式) 0.25x 1024~4096 均支持 3~5分钟
Groq 免费 0.5x N/A 自动 N/A

关键发现

省钱冠军:Anthropic、Alibaba Qwen、DeepSeek——缓存命中后只收原价的10%。如果你有大量重复的上下文(比如长文档问答),这三家的缓存折扣是最猛的。

写入最省:OpenAI、Grok、Moonshot、Groq——缓存写入零溢价,不缓存也不亏。适合不确定是否会重复请求的场景。

综合最优:DeepSeek——写入零溢价(1x = 原价),读取0.1x。没有比这更好的组合了。


三、OpenRouter隐藏省钱三板斧

如果你通过OpenRouter调用API,还有三个大多数人不知道的省钱利器:

1. Session ID 粘性路由

OpenRouter最近上线的session_id功能,可以强制将你的请求路由到同一个提供商,最大化缓存命中率。

{
  "model": "anthropic/claude-sonnet-4",
  "session_id": "my-agent-session-abc123",
  "messages": [
    {"role": "user", "content": "继续我们的对话..."}
  ]
}

为什么重要? 没有session_id时,OpenRouter可能把你第二轮请求路由到不同的提供商,缓存就白建了。加上session_id后,同一会话的请求都会打到同一个提供商上。

工作原理: - OpenRouter自动追踪:哪个提供商服务了你的缓存请求 - 后续同模型请求路由到同一提供商,保持缓存热度 - 如果该提供商不可用,自动回退到次优提供商 - 只在缓存读取价比原始提示词价格更便宜时才启用

2. Flex服务层级(半价)

OpenRouter的service_tier参数让你在成本和延迟之间做选择:

{
  "model": "openai/gpt-5",
  "service_tier": "flex",
  "messages": [...]
}

目前支持OpenAI、Google Vertex、Google AI Studio的精选模型。对于不需要实时响应的批处理任务(比如文档摘要、数据分析),flex层级是白捡的折扣。

3. 免费模型每日1000次

OpenRouter上有24个免费文本模型,包括:

免费模型 参数量 上下文 特色
NVIDIA Nemotron 3 Super 120B MoE (12B活跃) 1M 编程排名第8,多Agent应用
NVIDIA Nemotron 3 Ultra 550B MoE (55B活跃) 1M 刚发布(6月4日!),Agent编排
OpenAI gpt-oss-120b 117B MoE (5.1B活跃) 131K 支持推理、工具调用
Poolside Laguna M.1 未公开 262K 编程Agent专用,FP8量化
Poolside Laguna XS.2 未公开 262K 轻量编程Agent,Apache 2.0
Z.ai GLM 4.5 Air 未公开 131K 支持思考/非思考模式切换
OpenAI gpt-oss-20b 20B 131K 轻量级推理模型

免费额度规则: - 未充值用户:50次/天 - 充值$10以上:1000次/天 - 所有免费模型:20次/分钟


四、实战:三种场景的最优省钱策略

场景1:长文档RAG问答(重复上下文>80%)

flowchart TD
    A[用户上传100页PDF] --> B[第一次请求<br/>Cache Write: 1.25x]
    B --> C[后续20轮对话<br/>Cache Read: 0.1x]
    C --> D{用哪家?}
    D -->|最省| E[DeepSeek V3<br/>写入1x + 读取0.1x]
    D -->|质量优先| F[Anthropic Claude<br/>写入1.25x + 读取0.1x]

    style E fill:#c8e6c9
    style F fill:#bbdefb

策略: 选DeepSeek或Anthropic,缓存命中率高的场景下,原本$10的API费用可以降到$1~$2。

操作步骤: 1. 用OpenRouter统一接入 2. 发送请求时加上session_id 3. Anthropic模型添加顶层cache_control: {"type": "ephemeral"} 4. 监控cached_tokens字段确认缓存命中

场景2:批量数据处理(不需要实时响应)

策略: 用Flex层级 + OpenAI模型,自动获得50%折扣。

成本对比: - 常规调用GPT-5处理10K条数据:约$50 - Flex层级:约$25 - 如果用NVIDIA Nemotron 3 Super免费模型:$0(1000次/天额度内)

场景3:编程Agent多轮对话

策略: 免费Poolside模型 + session_id粘性路由


五、Reasoning Token的隐藏成本控制

一个很多人忽略的事实:Reasoning Token(推理token)按输出token计费。如果你不需要看到模型的推理过程,可以关闭它:

{
  "model": "your-model",
  "reasoning": {
    "effort": "low",
    "exclude": true
  }
}

Reasoning Effort级别对应不同比例的token消耗:

级别 推理Token占比 适用场景
xhigh ~95% 数学竞赛、复杂推理
high ~80% 代码架构设计
medium ~50% 通用任务
low ~20% 简单问答
minimal ~10% 格式化、翻译
none 0% 不需要推理

省钱建议: 对于简单任务(如文本格式化、翻译、摘要),把reasoning effort设为low或none,可以直接减少50%~95%的推理token输出成本。这个功能目前在OpenRouter上统一了OpenAI和Anthropic的接口,一行参数搞定。


六、信息差总结

你知道的 你不知道的
Prompt Caching能省钱 七家厂商折扣差10倍(0.1x vs 1x)
大部分厂商自动缓存 Anthropic/Qwen需要手动标记cache_control
OpenRouter是个聚合路由 它有session_id粘性路由,最大化缓存命中
免费模型有额度限制 充值$10后免费额度从50次/天升到1000次/天
Reasoning Token要花钱 设exclude:true+effort:low可省80%推理成本
OpenRouter按默认层级收费 Flex服务层级可以半价调用GPT-5
缓存只能用5分钟 Anthropic支持1小时TTL,适合长会话

七、行动指南

立刻可以做的事(0成本):

  1. 检查你的API调用——如果你在用OpenRouter或直连Anthropic/DeepSeek,确认是否开启了Prompt Caching
  2. 给多轮对话加session_id——一行代码,缓存命中率飙升
  3. 简单任务降低reasoning effort——设为low或none
  4. 批量任务切flex层级——用"service_tier": "flex"拿半价

本周可以做的事(10分钟):

  1. 充值$10到OpenRouter——解锁每天1000次免费模型调用
  2. 把NVIDIA Nemotron 3 Super加入你的工具链——1M上下文的免费120B模型,编程排名第8
  3. 对比你的当前API账单——计算如果用缓存+flex+免费模型能省多少

本月可以做的事(1小时):

  1. 重构你的RAG管道——把静态文档放在system message的开头,确保被缓存
  2. 设置缓存监控——定期查看cached_tokens和cache_discount字段
  3. 建立模型路由策略——简单任务用免费模型,复杂任务才用付费模型

参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入