<!-- title: 开源模型有批发价：换接口砍七成账 -->
<!-- domain: cost-hacks -->

## 你为「同一个模型」多付的钱，可能比模型本身还贵

如果你还在用某个模型厂商的「官方 API」跑开源模型，我有个坏消息要告诉你：**你大概率在为一个免费的权重付三倍以上的钱。**

这是 2026 年海外开发者圈子里一个公开的秘密，但中文世界几乎没人系统讲过——Llama 4、DeepSeek-V4、Qwen 这些开源模型的权重是免费下载的，任何人都能部署。这意味着「谁来跑这个模型」彻底变成了一门竞争性生意。于是同一个 DeepSeek-V3.2，在不同「推理供应商」（inference provider）之间的价格能差出 3 到 10 倍；同一个 Llama 3.3 70B，换一个 endpoint（接口地址），账单就能砍掉一大半，而且**还可能更快**。

今天这篇就把这条「推理供应商套利」（inference provider arbitrage）的路径彻底拆开，告诉你：海外批发市场的真实价目长什么样、怎么用 OpenRouter 当统一入口、以及换供应商时有哪些坑。

## 一、核心认知：权重免费，但「推理」是按零售价卖给你的

很多人对「开源模型」有个误解：以为「开源 = 便宜」。权重确实免费，但模型本身不会自己跑——它需要 GPU 推理。而推理是有成本的：显卡折旧、电费、带宽、运维。

问题在于，这个成本在不同卖家手里天差地别。打个比方：同样一袋面粉（权重），你可以去超市买成品面包（官方 API，含品牌溢价），可以去面包批发市场买（DeepInfra/Together，走量薄利），也可以去全自动面包机店买现烤的（Groq/Cerebras，专用芯片，又快又便宜）。**面粉一模一样，价格能差几倍。**

这就是 2026 年推理市场的真实结构。整个赛道火到什么程度？专用芯片推理厂商 **Cerebras 和 Groq 都在疯狂扩张，Together AI 2025 年刚完成 1.07 亿美元 B 轮融资**专门做「推理云」——资本押注的就是「未来大家不再为模型付费，而是为推理算力付费，且会拼命比价」。

## 二、实证：我抓下来的真实价目表

光说没用，我直接从供应商定价页抓了数据。下面是 **DeepInfra**（deepinfra.com/pricing）2026 年 6 月的最新挂单价，单位都是「每百万 token」：

| 模型 | 输入价 | 缓存命中价 | 输出价 |
|------|--------|-----------|--------|
| DeepSeek-V4-Pro | $1.30 | **$0.10** | $2.60 |
| DeepSeek-V4-Flash | $0.10 | **$0.02** | $0.20 |
| DeepSeek-V3.2 | $0.26 | $0.13 | $0.38 |
| DeepSeek-V3.1-Terminus | $0.27 | $0.13 | $0.95 |

注意两个信息差点：第一，**DeepSeek-V4-Flash 输入只要 $0.10**——这是一个旗舰级模型的批发价；第二，那列「缓存命中价」（cached），命中后只要正常价的 **1/5 到 1/13**，这个后面讲。

再来看 **Llama 3.3 70B Instruct** 这个完全相同的模型，在不同供应商那里卖多少钱（数据来自 hostfleet.net 的横向对比）：

| 供应商 | 价格（美元/百万token 口径） |
|--------|--------------------------|
| Together AI | $0.88 |
| Fireworks AI | $0.90 |
| Groq | $0.59 - $0.79 |

**同一个 Llama，Groq 比 Fireworks 便宜约 35%。** 而如果你绕开这些供应商，直接用某些云厂商（AWS Bedrock、Azure OpenAI、Google Vertex）托管的同款开源模型，往往会再叠加一层「云平台托管费」，单价更高。这就是「零售税」的本质。

## 三、四档价格阶梯：你在哪一档？

海外推理市场已经分化成四个清晰的层级，越往下越便宜、越往专用芯片走越快：

```mermaid
flowchart TD
    A["同一个开源模型<br/>Llama4 / DeepSeek-V4 / Qwen"] --> B["第1档：官方API<br/>品牌价 + 完整功能<br/>最贵"]
    A --> C["第2档：云厂商托管<br/>Bedrock / Vertex / Azure<br/>叠加托管费"]
    A --> D["第3档：批发推理商<br/>DeepInfra / Together / Fireworks<br/>走量薄利，便宜30%-70%"]
    A --> E["第4档：专用芯片推理<br/>Groq / Cerebras<br/>又快又便宜"]

    B -.->|"换接口省一档"| D
    C -.->|"换接口省一档"| D
    D -.->|"追求速度再换"| E

    style D fill:#d4edda,stroke:#28a745
    style E fill:#cce5ff,stroke:#007bff
```

- **第 1 档·官方 API**：模型原创团队自己卖。优点是功能最全、最先上新版；缺点是含品牌定价，且经常限流排队。
- **第 2 档·云厂商托管**：Bedrock、Vertex、Azure 把开源模型塞进自家平台。优点是和企业账号、合规、VPC 打通；缺点是**叠加了一层云利润**，同款模型反而更贵。企业用户最容易掉进这个坑。
- **第 3 档·批发推理商**：DeepInfra、Together、Fireworks 这类「推理云」，靠极致的 GPU 利用率和工程优化压成本，薄利多销。**这是个人开发者和中小团队最该用的一档。**
- **第 4 档·专用芯片推理**：Groq（LPU）、Cerebras（晶圆级芯片）不用 GPU，用自研芯片，单价低的同时**速度能飙到几百甚至上千 tokens/秒**（GPU 推理通常只有几十）。适合需要「实时」的场景。

## 四、速度也是钱：被忽略的第二块账单

价格差只是信息差的一半，另一半是**速度差**，而速度直接影响你的隐性成本。

GPU 推理一个 70B 模型，输出速度通常在 30-80 tokens/秒。而 Groq 和 Cerebras 这种专用芯片，能把同样的 Llama 跑到 **数百到上千 tokens/秒**——快出一个数量级。这意味着什么？

- **流式输出体验天差地别**：用户等待首字延迟从 2 秒降到 0.3 秒，留存率提高。
- **Agent / 多轮调用更快收敛**：一个要跑 10 轮工具调用的 Agent，每轮快 5 倍，整体耗时从几分钟降到几十秒，你能在同样时间里跑更多次，等于变相降本。
- **并发吞吐更高**：同样一份预算，能服务更多用户。

所以「推理供应商套利」不只是单价游戏，是「单价 × 速度 × 并发」的综合账。有时候选单价稍贵但快 10 倍的供应商，整体 ROI 反而更高。

## 五、行动指南：怎么换，三步搞定

```mermaid
flowchart LR
    S1["Step1<br/>锁死一个模型<br/>如 DeepSeek-V3.2"] --> S2["Step2<br/>上对比站查最低价<br/>hostfleet / pricepertoken"]
    S2 --> S3["Step3<br/>用OpenRouter统一入口<br/>或直连供应商"]
    S3 --> S4{"需要极速?"}
    S4 -->|是| S5["Groq / Cerebras<br/>专用芯片"]
    S4 -->|否| S6["DeepInfra / Together<br/>批发价"]

    style S3 fill:#fff3cd,stroke:#ffc107
```

**第 1 步：先锁定模型，别在选模型上浪费钱。** 决定好你到底要 DeepSeek-V3.2 还是 Llama 3.3 70B，固定下来再去比供应商。

**第 2 步：上对比站查实时最低价。** 这一步是国内用户最缺的——海外已经有一批专门做「逐 token 比价」的网站：

- **hostfleet.net**：横向对比 OpenRouter / Together / Groq / Fireworks / Cerebras 同一模型的价格与速度。
- **pricepertoken.com**：按 endpoint 维度比价，能精确到「同一个模型在不同供应商的每个 endpoint」。
- **costbench.com**：两两对比（如 DeepInfra vs OpenRouter），并算出月度成本预估。
- **aipricing.guru**：Meta 系模型五大供应商逐 token 对比。

**第 3 步：选接入方式。** 两条路：

- **省心路·OpenRouter 统一入口**（openrouter.ai）：一个 API key 接几百个模型，背后自动帮你路由到各供应商。代码几乎不用改（OpenAI 兼容格式），适合不想折腾、想「一个 key 切遍全网」的人。代价是会有一层很薄的加价（通常 5%），但换来的是自动比价和容灾切换。
- **极致省钱路·直连供应商**：直接注册 DeepInfra、Together、Groq 的账号，用它们的原生 endpoint。价格最低，但要自己维护多个 key、处理限流和故障转移。适合跑量大的生产环境。

## 六、信息差总结：你知道的 vs 别人不知道的

| 维度 | 大多数人的认知 | 真相（信息差） |
|------|--------------|--------------|
| 开源模型价格 | 「开源=便宜，随便用官方就行」 | 同一模型在不同供应商间差 3-10 倍 |
| 切换成本 | 「换供应商要重写代码」 | OpenAI 兼容格式，改个 base_url 就行 |
| 缓存价 | 「没有缓存这回事」 | 批发商有 cached 价，命中后只要 1/5 到 1/13 |
| 速度 | 「都差不多」 | 专用芯片比 GPU 快一个数量级，Agent 受益最大 |
| 接入入口 | 「只能一个个供应商注册」 | OpenRouter 一个 key 接几百模型 |

## 七、换之前必须知道的三个坑

1. **数据合规与隐私**：第三方供应商会把你的 prompt 跑在它们的基础设施上。涉密、含 PII 的数据，先看供应商的数据政策。企业场景下，宁可多花点钱用 Bedrock/Vertex 的 VPC 隔离，也别把客户数据送到不知名批发商。
2. **「同款模型」未必真同款**：不同供应商的量化等级（FP16 / INT8 / FP8）、上下文长度上限、是否支持工具调用都不一样。换之前在你的任务上做一轮回归测试，别只看跑分。
3. **缓存命中是手动开的**：那列诱人的 cached 价（DeepInfra V4-Pro 命中后 $0.10 vs 正常 $1.30）不是天上掉的——要靠 **prompt caching**（把固定前缀缓存住），且不同供应商的 TTL、是否跨请求共享规则不同。长系统提示词、固定 Few-shot 场景收益最大，一次性短请求吃不到。

## 参考来源

- [DeepInfra 官方定价页（含 DeepSeek-V4 / V3.2 真实挂单价）](https://deepinfra.com/pricing)
- [hostfleet：OpenRouter vs Together vs Groq vs Fireworks vs Cerebras 逐 token 对比](https://hostfleet.net/openrouter-vs-together-vs-groq-vs-fireworks/)
- [OpenRouter 模型与定价总览](https://openrouter.ai/models)
- [pricepertoken：OpenRouter vs Together endpoint 级比价](https://pricepertoken.com/endpoints/compare/openrouter-vs-together)
- [costbench：DeepInfra vs OpenRouter 成本对比](https://costbench.com/compare/deepinfra-vs-openrouter/)

---
> 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护。
> 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

> [!tip] 51学通信知识星球
> **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。
> **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。
> **当前规模**：5200 篇主题 / 990 个回答，198 元/年。
> **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。
> **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。

![51学通信知识星球海报-扫码加入](https://wiki.500nian.com/images/zhixingqiu_qrcode.png)