导语:如果你在用 Claude、GPT 或 Gemini 的 API 做批量任务——评测、分类、数据清洗、内容生成——你很可能一直在付双倍价格。海外三大厂商都内置了一条“官方五折通道”:Batch API。任务不要求秒级响应?提交批量任务,价格直接打五折,还有独立的高并发额度。这篇文章把三家通道的规则、实操步骤、省钱账本一次讲透,最后再对比国产 DeepSeek,帮你算清楚到底该走哪条路。这是官方明文标注的折扣,不是灰色优惠码,90% 的 API 用户却从没打开过这个页面。
三家厂商的逻辑完全一致:你的任务不需要实时返回 → 厂商把你的请求塞进算力空闲时段异步处理 → 作为交换,所有 token 按标准 API 价格的 50% 计费。
这不是促销活动,而是写进官方文档的长期定价。我逐一抓取了三家的官方文档确认(截至 2026-08-28):
| 维度 | Anthropic Message Batches | OpenAI Batch API | Gemini Batch Mode |
|---|---|---|---|
| 折扣 | 标准价 × 50% | 标准价 × 50% | 标准价 × 50% |
| 完成时限 | 大多数 <1 小时,24h 内必须完成 | 24h(通常更快) | 目标 24h(SLO),48h 过期 |
| 单批上限 | 10 万条请求 / 256 MB | 5 万条请求 / 200 MB | inline 20MB / 文件 2GB |
| 结果保留 | 29 天 | 完成后 30 天 | 随 job 保留,可删除 |
| 失败计费 | errored/canceled/expired 均不计费 | 过期未执行的不计费 | 失败请求按 batchStats 报告 |
| 限速池 | 独立额度 | 独立额度,不占标准限速 | 参照官方限速页 |
| 附加能力 | 可与 Prompt Caching 叠加 | 支持 embeddings 半价 | 批量内可用 Context Caching |
最容易被忽略的是限速池那一行:OpenAI 官方明确写着 Batch API 使用独立限速池,不消耗你标准的 per-model 额度。对被 TPM/RPM 卡脖子的重度用户来说,这本身就是值钱的功能,更别说还半价。
flowchart TD
A["有一批 AI 任务要跑"] --> B{"用户需要秒级响应吗?"}
B -- "是" --> C["走实时 API<br/>用 Prompt Caching 压输入成本"]
B -- "否" --> D{"单批数据量多大?"}
D -- "小于20MB" --> E["Gemini inline 提交<br/>或 OpenAI JSONL 文件"]
D -- "大文件" --> F["Gemini File API 最大2GB<br/>Anthropic 单批10万条/256MB"]
E --> G["创建 Batch 任务<br/>每条请求带唯一 custom_id"]
F --> G
G --> H{"24小时内完成?"}
H -- "是" --> I["下载 JSONL 结果<br/>按 custom_id 回对每条请求"]
H -- "否/部分过期" --> J["未执行的请求不计费<br/>拆成小批次重新提交"]
I --> K["账单 = 标准价 × 50%<br/>Anthropic 还可与缓存折扣叠加"]
C --> L["输出成本无折扣<br/>控制 max_tokens"]
Anthropic 的 Message Batches API 是三家里细节最丰富的。官方文档确认的关键规则:
隐藏杀招:与 Prompt Caching 叠加。 官方文档明确写了 "The pricing discounts from prompt caching and Message Batches can stack"。缓存读取本身就是标准输入价的 10%(Sonnet 4 为 $0.30/MTok),叠加 Batch 五折后,命中缓存的输入 token 理论上低至标准价的 5%。官方给出的实际命中率区间是 30%–98%(取决于流量模式),技巧是把相同的 system 提示 + few-shot 示例打上 cache_control,并在每个批次请求里保持完全一致。
三步上手:
custom_id 和标准 params,整体 POST 给 batches 端点;processing_status,从 in_progress 等到 ended;results_url 下载 JSONL 结果,按 custom_id 对号入座(结果顺序不保证与提交一致,官方最佳实践第一条就是别依赖顺序)。注意两个坑:批次结果只保留 29 天(从创建时间算);超过 24h 未处理完的请求标记 expired,不收费但需要重提。
OpenAI 的 Batch API 支持 5 个端点:/v1/responses、/v1/chat/completions、/v1/embeddings、/v1/completions、/v1/moderations。
重点说 /v1/embeddings—— embedding 半价这件事对 RAG 工程师是真金白银:知识库向量化往往是一次性处理几十万条文档,这个场景天然不需要实时响应,半价等于白捡。
操作流程(官方文档原文步骤):
.jsonl 文件,每行一个请求,带 custom_id 和 body(一个文件只能放一个模型的请求);purpose="batch";batches.create,completion_window 目前只支持 "24h";output_file_id 下载结果;error_file_id 对应的错误文件,方便补跑。额度也是宽裕级别:单批 5 万条、单文件 200MB、每小时可创建 2000 个批次,且输出 token 当前不限速。多模态批处理时官方建议用 image_url 引用远程图片而不是塞 base64,避免撞 200MB 上限。
Gemini Batch Mode 的折扣同样是标准价 50%,目标 24h 完成,但有两个差异点:
JOB_STATE_EXPIRED,此时整个任务没有结果可取,只能拆小重提。所以 Gemini 用户更要主动把大批次拆小。结构化输出(response_schema)、system 指令、Google Search 工具都可以在每个批量请求里单独配置,灵活度不小。
假设你要给 10 万条客服评论做分类(情感 + 类目标签),平均每条 1000 输入 token、200 输出 token。总量:1 亿输入 token + 2000 万输出 token。
用 Claude Sonnet 4:
| 方案 | 输入成本 | 输出成本 | 合计 |
|---|---|---|---|
| 标准 API | 100M × $3 = $300 | 20M × $15 = $300 | $600 |
| Batch API | 100M × $1.50 = $150 | 20M × $7.50 = $150 | $300 |
直接省 $300/月,一年 $3600。如果共享的系统提示 + 标签示例能占到输入的 40% 且稳定命中缓存(按官方说的 30%–98% 命中区间的中位估算),输入成本还能再砍一大截——叠加后总成本逼近原价的 2–3 折。
换 Gemini 2.5 Flash 或 DeepSeek 会更便宜吗? 单纯比单价,看下一节。
我抓取了 DeepSeek 当前官方定价页(2026-08 版,V4 系列已上线):
| 模型 | 输入(缓存命中) | 输入(未命中) | 输出 |
|---|---|---|---|
| deepseek-v4-flash | ¥0.02 / 百万token | ¥1 / 百万token | ¥2 / 百万token |
| deepseek-v4-pro | ¥0.025 / 百万token | ¥3 / 百万token | ¥6 / 百万token |
两个值得注意的点:
https://api.deepseek.com/anthropic),Claude Code 等工具可以直接切后端,改个环境变量就能用。理性结论:纯论批量任务的单位成本,DeepSeek flash(¥1/¥2 每百万 token,约 $0.14/$0.28)仍然比“五折后的 Sonnet 4”($1.50/$7.50)便宜约 10 倍。但 Batch 通道的价值不只在单价——当任务本身需要 Claude/GPT 级别的能力和指令遵循时(复杂评测、高风险内容审核、Agent 轨迹回放),五折通道让你用半价买到原本舍不得用的旗舰模型。工具选型先看能力下限,再用折扣通道压成本,顺序别反。
| 你以为的 | 实际情况 |
|---|---|
| API 价格是死的,只能换便宜模型 | 三大厂商官方提供 50% 折扣的异步通道,写进定价文档 |
| 批量 = 等一整天 | Anthropic 多数批次 1 小时内完成,OpenAI 通常也远快于 24h 上限 |
| 失败也要扣钱 | Anthropic/OpenAI 对 errored/expired 请求均不计费 |
| 限速是瓶颈 | OpenAI Batch 用独立限速池,不占标准额度 |
| 缓存和折扣二选一 | Anthropic 上两者可叠加,输入成本最低可到标准价的约 5% |
cache_control 共享前缀;OpenAI 用户把历史知识库用半价 embedding 重新向量化一遍。本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
