# 向量化是最被埋没的账单：六个开关砍九成
当你盯着 Claude、GPT 的 token 账单抠每一分钱时，有一个数字正在你眼皮底下悄悄长大——**向量化（embedding）**。所有做 RAG、做语义搜索、做内容分类的团队都在烧它，但 90% 的人只关心生成模型的价目表，从来没人翻过 embedding 这一页。
这是一篇纯粹的成本拆解。看完你会在一张 1 亿 token 的 RAG 账单上，把向量化这一行从 1.3 万元砍到 0 元，或在 1500 万 token/月 的体量上，把每百万 token 的成本从 0.13 美元压到 0.001 美元。所有数字均来自 2026 年 5–6 月厂商定价页与公开基准（MTEB/BEIR），已交叉核实。
## 一、为什么 embedding 是"被埋没的账单"
信息差的本质在这句话里：**embedding 单次很便宜，但它会"复利"。**
一个 RAG 系统的钱包里有三条流水：① 初始语料入库（一次性，几百万到几亿 token）；② 每月内容刷新（语料 2%–10% 在变）；③ 用户查询的实时嵌入（跟流量走）。第一条大家都算过，第二条和第三条几乎没人算——而它们会**随时间无限膨胀**。
举个真实账本（数字来自 getapipulse 的 2026 拆解）：1 亿文档块、每块 500 token 的语料，初始入库是 500M token；按 5% 月刷新率算，每月还要追加 25M token 的"刷新嵌入"。三年下来，刷新 token 总量高达 900M，是初始入库的 1.8 倍——**第三年你花在 embedding 上的钱，64% 是给"已经存在的语料"重新算向量。**
更扎心的是：很多人至今还在用 OpenAI 的老模型 `ada-002`，每百万 token 收你 **0.10 美元**；而它的继任者 `text-embedding-3-small` 只要 **0.02 美元**、质量还更高（MTEB 62.3 vs 60.5）。**一个模型号没换，账单贵了 5 倍。** 这就是纯粹的认知差。
## 二、六家厂商实价对比（2026 年 6 月核实）
下面这张表是全网少见的"标准价 + 批量价 + 维度 + 质量 + 免费额度"五维并排，数据综合自 embeddingcost.com（标注 "Verified June 2026"）与 getapipulse、digitalapplied 三方：
| 模型 | 厂商 | $/百万 token（标准） | $/百万 token（批量） | 维度 | MTEB | 免费额度 |
|------|------|------|------|------|------|------|
| text-embedding-3-small | OpenAI | $0.020 | **$0.010** | 1536 | 62.3 | 仅试用 |
| text-embedding-3-large | OpenAI | $0.130 | $0.065 | 3072 | 64.6 | 仅试用 |
| ada-002（旧版） | OpenAI | $0.100 | 无 | 1536 | 60.5 | 无 |
| embed-v4 | Cohere | $0.120 | 无 | 1536 | 55.0 | 100 次/分钟 |
| voyage-4-large | Voyage | $0.120 | $0.080 | 1024 | 榜首 | **200M token** |
| voyage-4 | Voyage | $0.060 | $0.040 | 1024 | — | **200M token** |
| voyage-4-lite | Voyage | $0.020 | $0.013 | 1024 | — | **200M token** |
| gemini-embedding-001 | Google | $0.150 | 无 | 3072 | 65.4 | AI Studio 免费层 |
| **embedding-001 / 004** | **Google** | **$0（免费）** | — | 768 | 62.0 | **限速免费** |
| Titan V2 | AWS Bedrock | $0.020 | 无 | 1024 | 62.8 | — |
| **BGE-M3（自托管）** | **开源** | **$0.001** | — | 1024 | **66.5** | **永久免费** |
盯着这张表看 10 秒，你会发现两个反常识的事实：
1. **Google 的 embedding-001/004 是 0 元**，质量 MTEB 62.0，跟 OpenAI 的 small 几乎持平。getapipulse 的结论原文是："**Google offers embedding models for free（with rate limits）**"。
2. **开源 BGE-M3 自托管，质量 MTEB 66.5，比 OpenAI 最贵的 large（64.6）还高**，单价却只要 0.001 美元——是它的 1/130。
## 三、六个开关，逐个拆解
### 开关 1：把 ada-002 换成 text-embedding-3-small（5 倍便宜 + 更准）
如果你的索引里还有 `ada-002`，立刻迁移。`ada-002` 0.10 美元/M、MTEB 60.5；`3-small` 0.02 美元/M、MTEB 62.3——**5 倍便宜，质量还更高**。重嵌 10 亿 token 只花 20 美元，两三个月就回本。这是最容易捡的钱。
### 开关 2：用 Google 免费嵌入做原型和小项目
`embedding-001` 和 `text-embedding-004` 在 Google AI Studio 里**完全免费**（768 维，限速）。对一个 1 万文档、每天 500 查询的小 RAG，初始嵌入 0 元、月查询嵌入 0 元——**整个向量化账单是 0**。中国开发者大多不知道这条路，以为只能付费用 OpenAI。
适用场景：原型验证、个人项目、内部工具、限速吃得下的中小流量。一旦你的查询量冲破限速，再切到付费。
### 开关 3：Matryoshka 维度截断（存储砍 6–12 倍）
这是 2026 年最大的认知差。OpenAI 的 `text-embedding-3` 系列是 **Matryoshka（套娃）表征学习**训练的——意味着一个 3072 维的向量，你可以**安全地截断**到 1536、1024、512 甚至 256 维，质量只掉 1–2 个点。
存储账是这样的：3072 维 fp32 一个向量约 12 KB，截到 256 维只要约 1 KB——**直接省 12 倍**。一亿块的语料，从 1.2 TB 压到 100 GB。OpenAI 在 API 里直接给了 `dimensions` 参数（getapipulse 的原话 tip："Use OpenAI's dimension reduction parameter, e.g. 256 instead of 1,536, to cut storage costs by 6x with minimal quality loss"）。Voyage、Gemini 也都支持 MRL 降维。
实操：在你的 held-out 检索集上测一遍 full 维度的 recall@10，再测 1536/1024/512/256，**挑掉点小于 1–2% 的最小维度**。
### 开关 4：批量 API（Batch API）直接对半
OpenAI 的 `text-embedding-3-small` 标准价 0.02，**批量价 0.01**；Voyage-4-lite 从 0.02 降到 0.013。批量 API 适合一切**不需要亚秒级响应**的活：初始入库、月度刷新、离线分类。把这两条流水从实时通道挪到批量通道，向量化账单立刻腰斩。查询侧（要低延迟）继续走实时价。
### 开关 5：BGE-M3 自托管（15M token/月 以上 break-even）
体量上来后，开源自托管是结构性的降维打击。BAAI 的 **BGE-M3**：MTEB 66.5（比 OpenAI large 还高）、1024 维、支持 100+ 语言。在 A100 spot 价上，**每百万 token 0.001 美元**，是 OpenAI small 的 1/20。embeddingcost 给的 break-even 点是**月 15M token**——超过这个量，自托管的机器钱就比 API 便宜。
中国团队天然适合这条路：BGE-M3 是智源（BAAI）出品，中文支持是强项，国内 GPU 也好搞。
### 开关 6：checksum 门控刷新（砍掉无效重嵌）
刷新是隐性黑洞。digitalapplied 的工程团队在一份 1400 万块迁移的复盘里给出公式：
```
12月成本 = 初始入库成本 + (月刷新率 × 增量块数 × 每块token数 × 每百万token单价 × 12)
```
两个杠杆能把刷新量砍下去：**① checksum 门控**——每块入库时算个哈希，刷新时对比哈希，内容没变就不重嵌；**② 调度批量**——把一周的刷新增量攒起来，一次性走批量通道（开关 4）提交。在"部分文档漂移、多数不变"的真实语料上，这招能把刷新 token 量砍掉一大块。
## 四、真实省钱账本：三种规模，原价 vs 优化后
下面是按 getapipulse 的三档真实负载算的账（每文档 500 token、每查询 50 token）：
| 场景 | 原价方案 | 优化方案 | 优化后 |
|------|---------|---------|--------|
| 小 RAG（1万文档，500查询/天） | ada-002，$0.10 入库 + 无维度截断 | Google 免费 + voyage 维度截断 | **$0** |
| 中型搜索（10万文档，5000查询/天） | OpenAI large $0.13，3072维 | 3-small $0.02 + 截到512维 + 批量入库 | 入库 $1→$0.5，查询/月 $0.98→$0.15 |
| 高体量分类（100万文档/月） | OpenAI large $0.13，实时 | BGE-M3 自托管 $0.001 | $65/月 → **$0.5/月** |
第三档最狠：100 万文档/月、5 亿 token，从 OpenAI large 的 **每月 65 美元** 砸到 BGE-M3 自托管的 **每月 0.5 美元**——**砍掉 99%**。
## 五、向量库才是真正的大头（别只盯着 API）
getapipulse 点破了一个真相：**embedding API 很便宜，贵的是存和搜向量。** 隐藏成本清单：
- **向量数据库**：Pinecone 100 万向量 **70 美元/月**；Weaviate Cloud 25 美元/月起；自托管免费但要人维护。
- **存储**：10 万向量 × 1536 维 ≈ 600 MB；1 亿块 1536 维 fp32 ≈ 600 GB。
- **重嵌入**：换模型、换维度、换厂商，都要**全量重嵌**。digitalapplied 特别提醒——"vendor migrations happen"，把一次重嵌的预算提前打进第二年的账里。
所以省钱的正解是：**小到中等体量，用免费/便宜的嵌入 + 维度截断 + pgvector（Postgres 上的向量插件，几乎零边际成本）**。embeddingcost 给的方案原文是："OpenAI text-embedding-3-small + pgvector，100K 文档知识库，低查询量下总成本 **< 5 美元/月**。"
```mermaid
flowchart TD
A["月向量化token量"] --> B{"< 15M token/月?"}
B -->|"是, 原型/小项目"| C["开关2: Google免费嵌入
账单 = $0"]
B -->|"是, 生产级"| D["开关1+3+4:
3-small + 维度截断 + 批量API"]
B -->|"否, ≥15M token"| E{"数据能否离开本机?"}
E -->|"能"| F["开关5: BGE-M3自托管
$0.001/M, MTEB 66.5"]
E -->|"不能 / 合规"| F
D --> G["开关6: checksum门控刷新
+ 调度批量通道"]
F --> G
C --> G
G --> H["向量库: 小体量用 pgvector
大体量评估自托管 Milvus/Qdrant"]
style C fill:#c8e6c9
style F fill:#c8e6c9
style G fill:#fff9c4
```
## 信息差总结：你不知道的，别人在省钱
| 维度 | 大多数人以为 | 真相（2026年6月） |
|------|------------|------------------|
| 最便宜的 embedding | OpenAI 3-small $0.02 | **Google embedding-001 完全免费**；BGE-M3 自托管 $0.001 |
| 最高质量 | OpenAI 3-large MTEB 64.6 | **开源 BGE-M3 MTEB 66.5**，比它还高 |
| ada-002 | 还在用，觉得"够用" | **比 3-small 贵 5 倍且更差**，该立刻迁移 |
| 维度 | 默认 1536/3072 不能动 | **Matryoshka 可截到 256 维**，存储省 6–12 倍，质量掉 <2% |
| 批量价 | 没注意 | **对半**，入库和刷新都该走批量通道 |
| 真正的开销 | embedding API | **向量库 + 重嵌入**（Pinecone 100万向量 $70/月） |
| 免费额度 | OpenAI 试用完就没了 | **Voyage 送 2 亿 token**；Google 限速永久免费 |
## 行动指南：今天就做三件事
1. **查账**：登录各厂商后台，把"embedding"单独拉出来看一个月烧了多少 token、用的哪个模型。如果你还在 ada-002——先迁移到 3-small，立省 5 倍。
2. **截维**：把 `text-embedding-3` 的 `dimensions` 参数从 3072 降到 768–1024，在你的检索集上跑一次 recall，确认掉点 <2% 后全量重嵌（趁这次把维度一起改了）。
3. **分通道**：初始入库和月度刷新改走 Batch API；月 token 超过 15M 就评估 BGE-M3 自托管——尤其中国团队，BGE-M3 中文强、国内 GPU 好搞。
一句话收尾：**embedding 这条流水线，价格差是 3–130 倍，质量差却不到 5 个 MTEB 点。** 在"生成模型"卷上天的时候，向量化才是 2026 年最好薅的羊毛——因为没人在看。
## 参考来源
- [Embedding Model Comparison（June 2026 Verified）— EmbeddingCost.com](https://embeddingcost.com/compare)
- [Embedding API Pricing: OpenAI vs Cohere vs Google (2026) — APIpulse](https://www.getapipulse.com/blog-embedding-pricing.html)
- [Embedding Model Cost Calculator: Vendor Comparison 2026 — Digital Applied](https://www.digitalapplied.com/blog/embedding-model-cost-calculator-vendor-comparison-2026)
- [Matryoshka Representation Learning — Hugging Face](https://huggingface.co/blog/matryoshka)
- [Q2 2026 Open-Source Embedding Models Benchmark: BGE-M3, GTE, E5, Stella, Nomic](https://iotdigitaltwinplm.com/open-source-embedding-models-benchmark-q2-2026/)
---
> 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护。
> 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
> [!tip] 51学通信知识星球
> **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。
> **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。
> **当前规模**：5200 篇主题 / 990 个回答，198 元/年。
> **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。
> **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。
