你为「同一个模型」多付的钱，可能比模型本身还贵

如果你还在用某个模型厂商的「官方 API」跑开源模型，我有个坏消息要告诉你：你大概率在为一个免费的权重付三倍以上的钱。

这是 2026 年海外开发者圈子里一个公开的秘密，但中文世界几乎没人系统讲过——Llama 4、DeepSeek-V4、Qwen 这些开源模型的权重是免费下载的，任何人都能部署。这意味着「谁来跑这个模型」彻底变成了一门竞争性生意。于是同一个 DeepSeek-V3.2，在不同「推理供应商」（inference provider）之间的价格能差出 3 到 10 倍；同一个 Llama 3.3 70B，换一个 endpoint（接口地址），账单就能砍掉一大半，而且还可能更快。

今天这篇就把这条「推理供应商套利」（inference provider arbitrage）的路径彻底拆开，告诉你：海外批发市场的真实价目长什么样、怎么用 OpenRouter 当统一入口、以及换供应商时有哪些坑。

一、核心认知：权重免费，但「推理」是按零售价卖给你的

很多人对「开源模型」有个误解：以为「开源 = 便宜」。权重确实免费，但模型本身不会自己跑——它需要 GPU 推理。而推理是有成本的：显卡折旧、电费、带宽、运维。

问题在于，这个成本在不同卖家手里天差地别。打个比方：同样一袋面粉（权重），你可以去超市买成品面包（官方 API，含品牌溢价），可以去面包批发市场买（DeepInfra/Together，走量薄利），也可以去全自动面包机店买现烤的（Groq/Cerebras，专用芯片，又快又便宜）。面粉一模一样，价格能差几倍。

这就是 2026 年推理市场的真实结构。整个赛道火到什么程度？专用芯片推理厂商 Cerebras 和 Groq 都在疯狂扩张，Together AI 2025 年刚完成 1.07 亿美元 B 轮融资专门做「推理云」——资本押注的就是「未来大家不再为模型付费，而是为推理算力付费，且会拼命比价」。

二、实证：我抓下来的真实价目表

光说没用，我直接从供应商定价页抓了数据。下面是 DeepInfra（deepinfra.com/pricing）2026 年 6 月的最新挂单价，单位都是「每百万 token」：

注意两个信息差点：第一，DeepSeek-V4-Flash 输入只要 $0.10——这是一个旗舰级模型的批发价；第二，那列「缓存命中价」（cached），命中后只要正常价的 1/5 到 1/13，这个后面讲。

再来看 Llama 3.3 70B Instruct 这个完全相同的模型，在不同供应商那里卖多少钱（数据来自 hostfleet.net 的横向对比）：

同一个 Llama，Groq 比 Fireworks 便宜约 35%。 而如果你绕开这些供应商，直接用某些云厂商（AWS Bedrock、Azure OpenAI、Google Vertex）托管的同款开源模型，往往会再叠加一层「云平台托管费」，单价更高。这就是「零售税」的本质。

三、四档价格阶梯：你在哪一档？

海外推理市场已经分化成四个清晰的层级，越往下越便宜、越往专用芯片走越快：

flowchart TD
    A["同一个开源模型<br/>Llama4 / DeepSeek-V4 / Qwen"] --> B["第1档：官方API<br/>品牌价 + 完整功能<br/>最贵"]
    A --> C["第2档：云厂商托管<br/>Bedrock / Vertex / Azure<br/>叠加托管费"]
    A --> D["第3档：批发推理商<br/>DeepInfra / Together / Fireworks<br/>走量薄利，便宜30%-70%"]
    A --> E["第4档：专用芯片推理<br/>Groq / Cerebras<br/>又快又便宜"]

    B -.->|"换接口省一档"| D
    C -.->|"换接口省一档"| D
    D -.->|"追求速度再换"| E

    style D fill:#d4edda,stroke:#28a745
    style E fill:#cce5ff,stroke:#007bff

• 第 1 档·官方 API：模型原创团队自己卖。优点是功能最全、最先上新版；缺点是含品牌定价，且经常限流排队。
• 第 2 档·云厂商托管：Bedrock、Vertex、Azure 把开源模型塞进自家平台。优点是和企业账号、合规、VPC 打通；缺点是叠加了一层云利润，同款模型反而更贵。企业用户最容易掉进这个坑。
• 第 3 档·批发推理商：DeepInfra、Together、Fireworks 这类「推理云」，靠极致的 GPU 利用率和工程优化压成本，薄利多销。这是个人开发者和中小团队最该用的一档。
• 第 4 档·专用芯片推理：Groq（LPU）、Cerebras（晶圆级芯片）不用 GPU，用自研芯片，单价低的同时速度能飙到几百甚至上千 tokens/秒（GPU 推理通常只有几十）。适合需要「实时」的场景。

四、速度也是钱：被忽略的第二块账单

价格差只是信息差的一半，另一半是速度差，而速度直接影响你的隐性成本。

GPU 推理一个 70B 模型，输出速度通常在 30-80 tokens/秒。而 Groq 和 Cerebras 这种专用芯片，能把同样的 Llama 跑到 数百到上千 tokens/秒——快出一个数量级。这意味着什么？

• 流式输出体验天差地别：用户等待首字延迟从 2 秒降到 0.3 秒，留存率提高。
• Agent / 多轮调用更快收敛：一个要跑 10 轮工具调用的 Agent，每轮快 5 倍，整体耗时从几分钟降到几十秒，你能在同样时间里跑更多次，等于变相降本。
• 并发吞吐更高：同样一份预算，能服务更多用户。

所以「推理供应商套利」不只是单价游戏，是「单价 × 速度 × 并发」的综合账。有时候选单价稍贵但快 10 倍的供应商，整体 ROI 反而更高。

五、行动指南：怎么换，三步搞定

flowchart LR
    S1["Step1<br/>锁死一个模型<br/>如 DeepSeek-V3.2"] --> S2["Step2<br/>上对比站查最低价<br/>hostfleet / pricepertoken"]
    S2 --> S3["Step3<br/>用OpenRouter统一入口<br/>或直连供应商"]
    S3 --> S4{"需要极速?"}
    S4 -->|是| S5["Groq / Cerebras<br/>专用芯片"]
    S4 -->|否| S6["DeepInfra / Together<br/>批发价"]

    style S3 fill:#fff3cd,stroke:#ffc107

第 1 步：先锁定模型，别在选模型上浪费钱。 决定好你到底要 DeepSeek-V3.2 还是 Llama 3.3 70B，固定下来再去比供应商。

第 2 步：上对比站查实时最低价。 这一步是国内用户最缺的——海外已经有一批专门做「逐 token 比价」的网站：

• hostfleet.net：横向对比 OpenRouter / Together / Groq / Fireworks / Cerebras 同一模型的价格与速度。
• pricepertoken.com：按 endpoint 维度比价，能精确到「同一个模型在不同供应商的每个 endpoint」。
• costbench.com：两两对比（如 DeepInfra vs OpenRouter），并算出月度成本预估。
• aipricing.guru：Meta 系模型五大供应商逐 token 对比。

第 3 步：选接入方式。 两条路：

• 省心路·OpenRouter 统一入口（openrouter.ai）：一个 API key 接几百个模型，背后自动帮你路由到各供应商。代码几乎不用改（OpenAI 兼容格式），适合不想折腾、想「一个 key 切遍全网」的人。代价是会有一层很薄的加价（通常 5%），但换来的是自动比价和容灾切换。
• 极致省钱路·直连供应商：直接注册 DeepInfra、Together、Groq 的账号，用它们的原生 endpoint。价格最低，但要自己维护多个 key、处理限流和故障转移。适合跑量大的生产环境。

六、信息差总结：你知道的 vs 别人不知道的

七、换之前必须知道的三个坑

1. 数据合规与隐私：第三方供应商会把你的 prompt 跑在它们的基础设施上。涉密、含 PII 的数据，先看供应商的数据政策。企业场景下，宁可多花点钱用 Bedrock/Vertex 的 VPC 隔离，也别把客户数据送到不知名批发商。
2. 「同款模型」未必真同款：不同供应商的量化等级（FP16 / INT8 / FP8）、上下文长度上限、是否支持工具调用都不一样。换之前在你的任务上做一轮回归测试，别只看跑分。
3. 缓存命中是手动开的：那列诱人的 cached 价（DeepInfra V4-Pro 命中后 $0.10 vs 正常 $1.30）不是天上掉的——要靠 prompt caching（把固定前缀缓存住），且不同供应商的 TTL、是否跨请求共享规则不同。长系统提示词、固定 Few-shot 场景收益最大，一次性短请求吃不到。

参考来源

• DeepInfra 官方定价页（含 DeepSeek-V4 / V3.2 真实挂单价）
• hostfleet：OpenRouter vs Together vs Groq vs Fireworks vs Cerebras 逐 token 对比
• OpenRouter 模型与定价总览
• pricepertoken：OpenRouter vs Together endpoint 级比价
• costbench：DeepInfra vs OpenRouter 成本对比

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。