你知道调用同一个API,有人花1块钱,有人只花1毛钱吗?区别就在一个你天天路过却从没注意的功能——Prompt Caching。
2026年,所有主流AI厂商都支持了Prompt Caching,但折扣力度天差地别:Anthropic缓存命中后只收原价的10%,Alibaba Qwen也是10%——而你可能还在每次请求都付全价。更关键的是,OpenRouter最近上线了session_id粘性路由和flex服务层级(半价),把省钱这件事又推到了新高度。
今天这篇文章,我要把七家主流AI厂商的Prompt Caching定价全部拆开给你看,教你如何用一个参数把API成本砍掉90%。
先讲原理。你每次调用AI API,模型都要从头处理你发送的所有token。但如果你有80%的内容是重复的(比如系统提示词、RAG检索到的文档、角色卡、历史对话),那这些重复部分其实不需要每次都重新计算。
Prompt Caching就是把这些重复部分缓存起来,下次请求只处理新增的部分。缓存命中的token按折扣价计费,这就是省钱的根源。
flowchart LR
A[第一次请求] -->|缓存写入| B[Cache Write<br/>1.25x原价]
B --> C[缓存存储<br/>5分钟~1小时TTL]
C -->|缓存命中| D[Cache Read<br/>0.1x原价]
C -->|缓存过期| B
D --> E[节省90%输入成本]
style A fill:#e1f5fe
style D fill:#c8e6c9
style E fill:#fff9c4
核心概念只有三个: - Cache Write(缓存写入):第一次遇到新内容时写入缓存,部分厂商加收25%~100%的溢价 - Cache Read(缓存读取):后续请求命中缓存,按折扣价计费 - TTL(缓存有效期):5分钟或1小时,过期后需要重新写入
这是我花了半天从各家官方文档和OpenRouter实测中整理出来的完整折扣矩阵:
| 厂商 | Cache Write | Cache Read | 最低Token数 | 自动/手动 | TTL |
|---|---|---|---|---|---|
| Anthropic Claude | 1.25x(5分钟)/ 2x(1小时) | 0.1x | 1024~4096 | 均支持 | 5分钟/1小时 |
| Alibaba Qwen | 1.25x | 0.1x | N/A | 手动标记 | 5分钟 |
| DeepSeek | 1x(无溢价) | 0.1x | N/A | 自动 | N/A |
| OpenAI | 免费 | 0.25x~0.5x | 1024 | 自动 | N/A |
| Grok | 免费 | 0.25x | N/A | 自动 | N/A |
| Moonshot AI | 免费 | 0.25x | N/A | 自动 | N/A |
| Google Gemini | 免费(隐式)/ 含存储费(显式) | 0.25x | 1024~4096 | 均支持 | 3~5分钟 |
| Groq | 免费 | 0.5x | N/A | 自动 | N/A |
省钱冠军:Anthropic、Alibaba Qwen、DeepSeek——缓存命中后只收原价的10%。如果你有大量重复的上下文(比如长文档问答),这三家的缓存折扣是最猛的。
写入最省:OpenAI、Grok、Moonshot、Groq——缓存写入零溢价,不缓存也不亏。适合不确定是否会重复请求的场景。
综合最优:DeepSeek——写入零溢价(1x = 原价),读取0.1x。没有比这更好的组合了。
如果你通过OpenRouter调用API,还有三个大多数人不知道的省钱利器:
OpenRouter最近上线的session_id功能,可以强制将你的请求路由到同一个提供商,最大化缓存命中率。
{
"model": "anthropic/claude-sonnet-4",
"session_id": "my-agent-session-abc123",
"messages": [
{"role": "user", "content": "继续我们的对话..."}
]
}
为什么重要? 没有session_id时,OpenRouter可能把你第二轮请求路由到不同的提供商,缓存就白建了。加上session_id后,同一会话的请求都会打到同一个提供商上。
工作原理: - OpenRouter自动追踪:哪个提供商服务了你的缓存请求 - 后续同模型请求路由到同一提供商,保持缓存热度 - 如果该提供商不可用,自动回退到次优提供商 - 只在缓存读取价比原始提示词价格更便宜时才启用
OpenRouter的service_tier参数让你在成本和延迟之间做选择:
{
"model": "openai/gpt-5",
"service_tier": "flex",
"messages": [...]
}
目前支持OpenAI、Google Vertex、Google AI Studio的精选模型。对于不需要实时响应的批处理任务(比如文档摘要、数据分析),flex层级是白捡的折扣。
OpenRouter上有24个免费文本模型,包括:
| 免费模型 | 参数量 | 上下文 | 特色 |
|---|---|---|---|
| NVIDIA Nemotron 3 Super | 120B MoE (12B活跃) | 1M | 编程排名第8,多Agent应用 |
| NVIDIA Nemotron 3 Ultra | 550B MoE (55B活跃) | 1M | 刚发布(6月4日!),Agent编排 |
| OpenAI gpt-oss-120b | 117B MoE (5.1B活跃) | 131K | 支持推理、工具调用 |
| Poolside Laguna M.1 | 未公开 | 262K | 编程Agent专用,FP8量化 |
| Poolside Laguna XS.2 | 未公开 | 262K | 轻量编程Agent,Apache 2.0 |
| Z.ai GLM 4.5 Air | 未公开 | 131K | 支持思考/非思考模式切换 |
| OpenAI gpt-oss-20b | 20B | 131K | 轻量级推理模型 |
免费额度规则: - 未充值用户:50次/天 - 充值$10以上:1000次/天 - 所有免费模型:20次/分钟
flowchart TD
A[用户上传100页PDF] --> B[第一次请求<br/>Cache Write: 1.25x]
B --> C[后续20轮对话<br/>Cache Read: 0.1x]
C --> D{用哪家?}
D -->|最省| E[DeepSeek V3<br/>写入1x + 读取0.1x]
D -->|质量优先| F[Anthropic Claude<br/>写入1.25x + 读取0.1x]
style E fill:#c8e6c9
style F fill:#bbdefb
策略: 选DeepSeek或Anthropic,缓存命中率高的场景下,原本$10的API费用可以降到$1~$2。
操作步骤:
1. 用OpenRouter统一接入
2. 发送请求时加上session_id
3. Anthropic模型添加顶层cache_control: {"type": "ephemeral"}
4. 监控cached_tokens字段确认缓存命中
策略: 用Flex层级 + OpenAI模型,自动获得50%折扣。
成本对比: - 常规调用GPT-5处理10K条数据:约$50 - Flex层级:约$25 - 如果用NVIDIA Nemotron 3 Super免费模型:$0(1000次/天额度内)
策略: 免费Poolside模型 + session_id粘性路由
一个很多人忽略的事实:Reasoning Token(推理token)按输出token计费。如果你不需要看到模型的推理过程,可以关闭它:
{
"model": "your-model",
"reasoning": {
"effort": "low",
"exclude": true
}
}
Reasoning Effort级别对应不同比例的token消耗:
| 级别 | 推理Token占比 | 适用场景 |
|---|---|---|
| xhigh | ~95% | 数学竞赛、复杂推理 |
| high | ~80% | 代码架构设计 |
| medium | ~50% | 通用任务 |
| low | ~20% | 简单问答 |
| minimal | ~10% | 格式化、翻译 |
| none | 0% | 不需要推理 |
省钱建议: 对于简单任务(如文本格式化、翻译、摘要),把reasoning effort设为low或none,可以直接减少50%~95%的推理token输出成本。这个功能目前在OpenRouter上统一了OpenAI和Anthropic的接口,一行参数搞定。
| 你知道的 | 你不知道的 |
|---|---|
| Prompt Caching能省钱 | 七家厂商折扣差10倍(0.1x vs 1x) |
| 大部分厂商自动缓存 | Anthropic/Qwen需要手动标记cache_control |
| OpenRouter是个聚合路由 | 它有session_id粘性路由,最大化缓存命中 |
| 免费模型有额度限制 | 充值$10后免费额度从50次/天升到1000次/天 |
| Reasoning Token要花钱 | 设exclude:true+effort:low可省80%推理成本 |
| OpenRouter按默认层级收费 | Flex服务层级可以半价调用GPT-5 |
| 缓存只能用5分钟 | Anthropic支持1小时TTL,适合长会话 |
立刻可以做的事(0成本):
low或none"service_tier": "flex"拿半价本周可以做的事(10分钟):
本月可以做的事(1小时):
cached_tokens和cache_discount字段本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
