首页 › cost-hacks › API别付原价:官方Batch五折通道

API别付原价:官方Batch五折通道

导语:如果你在用 Claude、GPT 或 Gemini 的 API 做批量任务——评测、分类、数据清洗、内容生成——你很可能一直在付双倍价格。海外三大厂商都内置了一条“官方五折通道”:Batch API。任务不要求秒级响应?提交批量任务,价格直接打五折,还有独立的高并发额度。这篇文章把三家通道的规则、实操步骤、省钱账本一次讲透,最后再对比国产 DeepSeek,帮你算清楚到底该走哪条路。这是官方明文标注的折扣,不是灰色优惠码,90% 的 API 用户却从没打开过这个页面。


一、Batch 通道的本质:用时间换钱,折扣是官方定价

三家厂商的逻辑完全一致:你的任务不需要实时返回 → 厂商把你的请求塞进算力空闲时段异步处理 → 作为交换,所有 token 按标准 API 价格的 50% 计费。

这不是促销活动,而是写进官方文档的长期定价。我逐一抓取了三家的官方文档确认(截至 2026-08-28):

维度 Anthropic Message Batches OpenAI Batch API Gemini Batch Mode
折扣 标准价 × 50% 标准价 × 50% 标准价 × 50%
完成时限 大多数 <1 小时,24h 内必须完成 24h(通常更快) 目标 24h(SLO),48h 过期
单批上限 10 万条请求 / 256 MB 5 万条请求 / 200 MB inline 20MB / 文件 2GB
结果保留 29 天 完成后 30 天 随 job 保留,可删除
失败计费 errored/canceled/expired 均不计费 过期未执行的不计费 失败请求按 batchStats 报告
限速池 独立额度 独立额度,不占标准限速 参照官方限速页
附加能力 可与 Prompt Caching 叠加 支持 embeddings 半价 批量内可用 Context Caching

最容易被忽略的是限速池那一行:OpenAI 官方明确写着 Batch API 使用独立限速池,不消耗你标准的 per-model 额度。对被 TPM/RPM 卡脖子的重度用户来说,这本身就是值钱的功能,更别说还半价。

flowchart TD
    A["有一批 AI 任务要跑"] --> B{"用户需要秒级响应吗?"}
    B -- "是" --> C["走实时 API<br/>用 Prompt Caching 压输入成本"]
    B -- "否" --> D{"单批数据量多大?"}
    D -- "小于20MB" --> E["Gemini inline 提交<br/>或 OpenAI JSONL 文件"]
    D -- "大文件" --> F["Gemini File API 最大2GB<br/>Anthropic 单批10万条/256MB"]
    E --> G["创建 Batch 任务<br/>每条请求带唯一 custom_id"]
    F --> G
    G --> H{"24小时内完成?"}
    H -- "是" --> I["下载 JSONL 结果<br/>按 custom_id 回对每条请求"]
    H -- "否/部分过期" --> J["未执行的请求不计费<br/>拆成小批次重新提交"]
    I --> K["账单 = 标准价 × 50%<br/>Anthropic 还可与缓存折扣叠加"]
    C --> L["输出成本无折扣<br/>控制 max_tokens"]

二、Anthropic 实操:五折之上还能再叠缓存

Anthropic 的 Message Batches API 是三家里细节最丰富的。官方文档确认的关键规则:

隐藏杀招:与 Prompt Caching 叠加。 官方文档明确写了 "The pricing discounts from prompt caching and Message Batches can stack"。缓存读取本身就是标准输入价的 10%(Sonnet 4 为 $0.30/MTok),叠加 Batch 五折后,命中缓存的输入 token 理论上低至标准价的 5%。官方给出的实际命中率区间是 30%–98%(取决于流量模式),技巧是把相同的 system 提示 + few-shot 示例打上 cache_control,并在每个批次请求里保持完全一致。

三步上手:

  1. 把请求写成列表,每条带唯一 custom_id 和标准 params,整体 POST 给 batches 端点;
  2. 轮询批次的 processing_status,从 in_progress 等到 ended;
  3. 从 results_url 下载 JSONL 结果,按 custom_id 对号入座(结果顺序不保证与提交一致,官方最佳实践第一条就是别依赖顺序)。

注意两个坑:批次结果只保留 29 天(从创建时间算);超过 24h 未处理完的请求标记 expired,不收费但需要重提。

三、OpenAI 实操:embedding 也半价,RAG 选手狂喜

OpenAI 的 Batch API 支持 5 个端点:/v1/responses、/v1/chat/completions、/v1/embeddings、/v1/completions、/v1/moderations。

重点说 /v1/embeddings—— embedding 半价这件事对 RAG 工程师是真金白银:知识库向量化往往是一次性处理几十万条文档,这个场景天然不需要实时响应,半价等于白捡。

操作流程(官方文档原文步骤):

  1. 写一个 .jsonl 文件,每行一个请求,带 custom_id 和 body(一个文件只能放一个模型的请求);
  2. 用 Files API 上传,purpose="batch";
  3. 调 batches.create,completion_window 目前只支持 "24h";
  4. 轮询状态(validating → in_progress → finalizing → completed),完成后用 output_file_id 下载结果;
  5. 失败的请求会写进 error_file_id 对应的错误文件,方便补跑。

额度也是宽裕级别:单批 5 万条、单文件 200MB、每小时可创建 2000 个批次,且输出 token 当前不限速。多模态批处理时官方建议用 image_url 引用远程图片而不是塞 base64,避免撞 200MB 上限。

四、Gemini 实操:2GB 巨型批次 + 独特的缓存规则

Gemini Batch Mode 的折扣同样是标准价 50%,目标 24h 完成,但有两个差异点:

结构化输出(response_schema)、system 指令、Google Search 工具都可以在每个批量请求里单独配置,灵活度不小。

五、省钱账本:一个真实规模的计算

假设你要给 10 万条客服评论做分类(情感 + 类目标签),平均每条 1000 输入 token、200 输出 token。总量:1 亿输入 token + 2000 万输出 token。

用 Claude Sonnet 4:

方案 输入成本 输出成本 合计
标准 API 100M × $3 = $300 20M × $15 = $300 $600
Batch API 100M × $1.50 = $150 20M × $7.50 = $150 $300

直接省 $300/月,一年 $3600。如果共享的系统提示 + 标签示例能占到输入的 40% 且稳定命中缓存(按官方说的 30%–98% 命中区间的中位估算),输入成本还能再砍一大截——叠加后总成本逼近原价的 2–3 折。

换 Gemini 2.5 Flash 或 DeepSeek 会更便宜吗? 单纯比单价,看下一节。

六、DeepSeek 视角:国产底价 VS 海外折扣,怎么选?

我抓取了 DeepSeek 当前官方定价页(2026-08 版,V4 系列已上线):

模型 输入(缓存命中) 输入(未命中) 输出
deepseek-v4-flash ¥0.02 / 百万token ¥1 / 百万token ¥2 / 百万token
deepseek-v4-pro ¥0.025 / 百万token ¥3 / 百万token ¥6 / 百万token

两个值得注意的点:

  1. 定价逻辑变了:此前官方主推的 UTC 时段“错峰半价”活动,在当前定价页已经不再展示(以官方页面为准),取而代之的是极低的缓存命中价——flash 模型缓存命中输入低至 ¥0.02/百万 token,相当于未命中价的 2%。
  2. 上下文 1M、flash 并发 2500,且官方提供 Anthropic 格式 base URL(https://api.deepseek.com/anthropic),Claude Code 等工具可以直接切后端,改个环境变量就能用。

理性结论:纯论批量任务的单位成本,DeepSeek flash(¥1/¥2 每百万 token,约 $0.14/$0.28)仍然比“五折后的 Sonnet 4”($1.50/$7.50)便宜约 10 倍。但 Batch 通道的价值不只在单价——当任务本身需要 Claude/GPT 级别的能力和指令遵循时(复杂评测、高风险内容审核、Agent 轨迹回放),五折通道让你用半价买到原本舍不得用的旗舰模型。工具选型先看能力下限,再用折扣通道压成本,顺序别反。

七、什么场景不该用 Batch

信息差总结

你以为的 实际情况
API 价格是死的,只能换便宜模型 三大厂商官方提供 50% 折扣的异步通道,写进定价文档
批量 = 等一整天 Anthropic 多数批次 1 小时内完成,OpenAI 通常也远快于 24h 上限
失败也要扣钱 Anthropic/OpenAI 对 errored/expired 请求均不计费
限速是瓶颈 OpenAI Batch 用独立限速池,不占标准额度
缓存和折扣二选一 Anthropic 上两者可叠加,输入成本最低可到标准价的约 5%

行动指南

  1. 今天就做:翻一下你最近的 API 账单,找出所有“不需要实时”的调用(离线评测、数据标注、日志摘要、向量化)。
  2. 本周内:挑一个最小场景(比如 1000 条文本分类)用 Batch API 跑通一次,验证结果质量与实时 API 无差异(官方确认缓存不影响输出内容)。
  3. 本周内:Anthropic 用户给批处理加上 cache_control 共享前缀;OpenAI 用户把历史知识库用半价 embedding 重新向量化一遍。
  4. 本月内:在成本看板里拆分“实时/Batch”两条曲线,把实时占比作为下一阶段的优化指标。
  5. 持续:每季度核对一次三家定价页,折扣规则和模型支持列表一直在变(DeepSeek 刚完成 V4 换代就是例子)。

参考来源

  1. Anthropic 官方文档 · Batch processing:https://docs.anthropic.com/en/docs/build-with-claude/batch-processing
  2. OpenAI 官方文档 · Batch API:https://platform.openai.com/docs/guides/batch
  3. Google AI 官方文档 · Gemini API Batch Mode:https://ai.google.dev/gemini-api/docs/batch-mode
  4. Anthropic 官方文档 · Prompt caching(缓存定价与叠加规则):https://docs.anthropic.com/en/docs/build-with-claude/prompt-caching
  5. DeepSeek 官方定价页(V4 系列,2026-08 版):https://api-docs.deepseek.com/zh-cn/quick_start/pricing

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入