# Prompt Caching折扣矩阵：90%开发者忽略的省钱密码 你知道调用同一个API，有人花1块钱，有人只花1毛钱吗？区别就在一个你天天路过却从没注意的功能——**Prompt Caching**。 2026年，所有主流AI厂商都支持了Prompt Caching，但折扣力度天差地别：Anthropic缓存命中后只收原价的10%，Alibaba Qwen也是10%——而你可能还在每次请求都付全价。更关键的是，OpenRouter最近上线了**session_id粘性路由**和**flex服务层级（半价）**，把省钱这件事又推到了新高度。 今天这篇文章，我要把七家主流AI厂商的Prompt Caching定价全部拆开给你看，教你如何用一个参数把API成本砍掉90%。 --- ## 一、什么是Prompt Caching？为什么它能省钱？ 先讲原理。你每次调用AI API，模型都要从头处理你发送的所有token。但如果你有80%的内容是重复的（比如系统提示词、RAG检索到的文档、角色卡、历史对话），那这些重复部分其实不需要每次都重新计算。 **Prompt Caching就是把这些重复部分缓存起来**，下次请求只处理新增的部分。缓存命中的token按折扣价计费，这就是省钱的根源。 ```mermaid flowchart LR A[第一次请求] -->|缓存写入| B[Cache Write
1.25x原价] B --> C[缓存存储
5分钟~1小时TTL] C -->|缓存命中| D[Cache Read
0.1x原价] C -->|缓存过期| B D --> E[节省90%输入成本] style A fill:#e1f5fe style D fill:#c8e6c9 style E fill:#fff9c4 ``` 核心概念只有三个： - **Cache Write（缓存写入）**：第一次遇到新内容时写入缓存，部分厂商加收25%~100%的溢价 - **Cache Read（缓存读取）**：后续请求命中缓存，按折扣价计费 - **TTL（缓存有效期）**：5分钟或1小时，过期后需要重新写入 --- ## 二、七家厂商Prompt Caching定价全对比 这是我花了半天从各家官方文档和OpenRouter实测中整理出来的完整折扣矩阵： | 厂商 | Cache Write | Cache Read | 最低Token数 | 自动/手动 | TTL | |:-----|:-----------|:-----------|:------------|:---------|:----| | **Anthropic Claude** | 1.25x（5分钟）/ 2x（1小时） | **0.1x** | 1024~4096 | 均支持 | 5分钟/1小时 | | **Alibaba Qwen** | 1.25x | **0.1x** | N/A | 手动标记 | 5分钟 | | **DeepSeek** | 1x（无溢价） | **0.1x** | N/A | 自动 | N/A | | **OpenAI** | **免费** | 0.25x~0.5x | 1024 | 自动 | N/A | | **Grok** | **免费** | 0.25x | N/A | 自动 | N/A | | **Moonshot AI** | **免费** | 0.25x | N/A | 自动 | N/A | | **Google Gemini** | **免费**（隐式）/ 含存储费（显式） | 0.25x | 1024~4096 | 均支持 | 3~5分钟 | | **Groq** | **免费** | 0.5x | N/A | 自动 | N/A | ### 关键发现 **省钱冠军：Anthropic、Alibaba Qwen、DeepSeek**——缓存命中后只收原价的10%。如果你有大量重复的上下文（比如长文档问答），这三家的缓存折扣是最猛的。 **写入最省：OpenAI、Grok、Moonshot、Groq**——缓存写入零溢价，不缓存也不亏。适合不确定是否会重复请求的场景。 **综合最优：DeepSeek**——写入零溢价（1x = 原价），读取0.1x。没有比这更好的组合了。 --- ## 三、OpenRouter隐藏省钱三板斧 如果你通过OpenRouter调用API，还有三个大多数人不知道的省钱利器： ### 1. Session ID 粘性路由 OpenRouter最近上线的`session_id`功能，可以强制将你的请求路由到同一个提供商，最大化缓存命中率。 ```json { "model": "anthropic/claude-sonnet-4", "session_id": "my-agent-session-abc123", "messages": [ {"role": "user", "content": "继续我们的对话..."} ] } ``` **为什么重要？** 没有session_id时，OpenRouter可能把你第二轮请求路由到不同的提供商，缓存就白建了。加上session_id后，同一会话的请求都会打到同一个提供商上。 **工作原理：** - OpenRouter自动追踪：哪个提供商服务了你的缓存请求 - 后续同模型请求路由到同一提供商，保持缓存热度 - 如果该提供商不可用，自动回退到次优提供商 - 只在缓存读取价比原始提示词价格更便宜时才启用 ### 2. Flex服务层级（半价） OpenRouter的`service_tier`参数让你在成本和延迟之间做选择： ```json { "model": "openai/gpt-5", "service_tier": "flex", "messages": [...] } ``` - **flex**：低成本、高延迟，**最高50%折扣** - **priority**：低延迟、高成本 目前支持OpenAI、Google Vertex、Google AI Studio的精选模型。对于不需要实时响应的批处理任务（比如文档摘要、数据分析），flex层级是白捡的折扣。 ### 3. 免费模型每日1000次 OpenRouter上有**24个免费文本模型**，包括： | 免费模型 | 参数量 | 上下文 | 特色 | |:---------|:------|:-------|:-----| | NVIDIA Nemotron 3 Super | 120B MoE (12B活跃) | **1M** | 编程排名第8，多Agent应用 | | NVIDIA Nemotron 3 Ultra | 550B MoE (55B活跃) | **1M** | 刚发布（6月4日！），Agent编排 | | OpenAI gpt-oss-120b | 117B MoE (5.1B活跃) | 131K | 支持推理、工具调用 | | Poolside Laguna M.1 | 未公开 | 262K | 编程Agent专用，FP8量化 | | Poolside Laguna XS.2 | 未公开 | 262K | 轻量编程Agent，Apache 2.0 | | Z.ai GLM 4.5 Air | 未公开 | 131K | 支持思考/非思考模式切换 | | OpenAI gpt-oss-20b | 20B | 131K | 轻量级推理模型 | **免费额度规则：** - 未充值用户：50次/天 - 充值$10以上：**1000次/天** - 所有免费模型：20次/分钟 --- ## 四、实战：三种场景的最优省钱策略 ### 场景1：长文档RAG问答（重复上下文>80%） ```mermaid flowchart TD A[用户上传100页PDF] --> B[第一次请求
Cache Write: 1.25x] B --> C[后续20轮对话
Cache Read: 0.1x] C --> D{用哪家？} D -->|最省| E[DeepSeek V3
写入1x + 读取0.1x] D -->|质量优先| F[Anthropic Claude
写入1.25x + 读取0.1x] style E fill:#c8e6c9 style F fill:#bbdefb ``` **策略：** 选DeepSeek或Anthropic，缓存命中率高的场景下，原本$10的API费用可以降到$1~$2。 **操作步骤：** 1. 用OpenRouter统一接入 2. 发送请求时加上`session_id` 3. Anthropic模型添加顶层`cache_control: {"type": "ephemeral"}` 4. 监控`cached_tokens`字段确认缓存命中 ### 场景2：批量数据处理（不需要实时响应） **策略：** 用Flex层级 + OpenAI模型，自动获得50%折扣。 **成本对比：** - 常规调用GPT-5处理10K条数据：约$50 - Flex层级：约$25 - 如果用NVIDIA Nemotron 3 Super免费模型：**$0**（1000次/天额度内） ### 场景3：编程Agent多轮对话 **策略：** 免费Poolside模型 + session_id粘性路由 - Laguna M.1专精编程Agent任务 - session_id确保缓存命中 - 每天1000次免费额度足够大多数个人开发者 --- ## 五、Reasoning Token的隐藏成本控制 一个很多人忽略的事实：**Reasoning Token（推理token）按输出token计费**。如果你不需要看到模型的推理过程，可以关闭它： ```json { "model": "your-model", "reasoning": { "effort": "low", "exclude": true } } ``` Reasoning Effort级别对应不同比例的token消耗： | 级别 | 推理Token占比 | 适用场景 | |:-----|:------------|:---------| | xhigh | ~95% | 数学竞赛、复杂推理 | | high | ~80% | 代码架构设计 | | medium | ~50% | 通用任务 | | low | ~20% | 简单问答 | | minimal | ~10% | 格式化、翻译 | | none | 0% | 不需要推理 | **省钱建议：** 对于简单任务（如文本格式化、翻译、摘要），把reasoning effort设为`low`或`none`，可以直接减少50%~95%的推理token输出成本。这个功能目前在OpenRouter上统一了OpenAI和Anthropic的接口，一行参数搞定。 --- ## 六、信息差总结 | 你知道的 | 你不知道的 | |:--------|:----------| | Prompt Caching能省钱 | 七家厂商折扣差10倍（0.1x vs 1x） | | 大部分厂商自动缓存 | Anthropic/Qwen需要手动标记`cache_control` | | OpenRouter是个聚合路由 | 它有session_id粘性路由，最大化缓存命中 | | 免费模型有额度限制 | 充值$10后免费额度从50次/天升到1000次/天 | | Reasoning Token要花钱 | 设`exclude:true`+`effort:low`可省80%推理成本 | | OpenRouter按默认层级收费 | Flex服务层级可以半价调用GPT-5 | | 缓存只能用5分钟 | Anthropic支持1小时TTL，适合长会话 | ## 七、行动指南 **立刻可以做的事（0成本）：** 1. **检查你的API调用**——如果你在用OpenRouter或直连Anthropic/DeepSeek，确认是否开启了Prompt Caching 2. **给多轮对话加session_id**——一行代码，缓存命中率飙升 3. **简单任务降低reasoning effort**——设为`low`或`none` 4. **批量任务切flex层级**——用`"service_tier": "flex"`拿半价 **本周可以做的事（10分钟）：** 5. **充值$10到OpenRouter**——解锁每天1000次免费模型调用 6. **把NVIDIA Nemotron 3 Super加入你的工具链**——1M上下文的免费120B模型，编程排名第8 7. **对比你的当前API账单**——计算如果用缓存+flex+免费模型能省多少 **本月可以做的事（1小时）：** 8. **重构你的RAG管道**——把静态文档放在system message的开头，确保被缓存 9. **设置缓存监控**——定期查看`cached_tokens`和`cache_discount`字段 10. **建立模型路由策略**——简单任务用免费模型，复杂任务才用付费模型 --- ## 参考来源 - [OpenRouter Prompt Caching文档](https://openrouter.ai/docs/guides/best-practices/prompt-caching) — 七家厂商缓存定价详细说明 - [OpenRouter Service Tiers文档](https://openrouter.ai/docs/guides/features/service-tiers) — Flex/Priority层级使用方法 - [OpenRouter Limits文档](https://openrouter.ai/docs/api/reference/limits) — 免费模型额度规则 - [OpenRouter Reasoning Tokens文档](https://openrouter.ai/docs/guides/best-practices/reasoning-tokens) — 推理Token控制参数 - [Anthropic Prompt Caching官方文档](https://platform.claude.com/docs/en/build-with-claude/prompt-caching) — Claude缓存机制详解 --- > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护。 > 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。