向量化是最被埋没的账单：六个开关砍九成

当你盯着 Claude、GPT 的 token 账单抠每一分钱时，有一个数字正在你眼皮底下悄悄长大——向量化（embedding）。所有做 RAG、做语义搜索、做内容分类的团队都在烧它，但 90% 的人只关心生成模型的价目表，从来没人翻过 embedding 这一页。

这是一篇纯粹的成本拆解。看完你会在一张 1 亿 token 的 RAG 账单上，把向量化这一行从 1.3 万元砍到 0 元，或在 1500 万 token/月 的体量上，把每百万 token 的成本从 0.13 美元压到 0.001 美元。所有数字均来自 2026 年 5–6 月厂商定价页与公开基准（MTEB/BEIR），已交叉核实。

一、为什么 embedding 是"被埋没的账单"

信息差的本质在这句话里：embedding 单次很便宜，但它会"复利"。

一个 RAG 系统的钱包里有三条流水：① 初始语料入库（一次性，几百万到几亿 token）；② 每月内容刷新（语料 2%–10% 在变）；③ 用户查询的实时嵌入（跟流量走）。第一条大家都算过，第二条和第三条几乎没人算——而它们会随时间无限膨胀。

举个真实账本（数字来自 getapipulse 的 2026 拆解）：1 亿文档块、每块 500 token 的语料，初始入库是 500M token；按 5% 月刷新率算，每月还要追加 25M token 的"刷新嵌入"。三年下来，刷新 token 总量高达 900M，是初始入库的 1.8 倍——第三年你花在 embedding 上的钱，64% 是给"已经存在的语料"重新算向量。

更扎心的是：很多人至今还在用 OpenAI 的老模型 ada-002，每百万 token 收你 0.10 美元；而它的继任者 text-embedding-3-small 只要 0.02 美元、质量还更高（MTEB 62.3 vs 60.5）。一个模型号没换，账单贵了 5 倍。 这就是纯粹的认知差。

二、六家厂商实价对比（2026 年 6 月核实）

下面这张表是全网少见的"标准价 + 批量价 + 维度 + 质量 + 免费额度"五维并排，数据综合自 embeddingcost.com（标注 "Verified June 2026"）与 getapipulse、digitalapplied 三方：

盯着这张表看 10 秒，你会发现两个反常识的事实：

1. Google 的 embedding-001/004 是 0 元，质量 MTEB 62.0，跟 OpenAI 的 small 几乎持平。getapipulse 的结论原文是："Google offers embedding models for free（with rate limits）"。
2. 开源 BGE-M3 自托管，质量 MTEB 66.5，比 OpenAI 最贵的 large（64.6）还高，单价却只要 0.001 美元——是它的 1/130。

三、六个开关，逐个拆解

开关 1：把 ada-002 换成 text-embedding-3-small（5 倍便宜 + 更准）

如果你的索引里还有 ada-002，立刻迁移。ada-002 0.10 美元/M、MTEB 60.5；3-small 0.02 美元/M、MTEB 62.3——5 倍便宜，质量还更高。重嵌 10 亿 token 只花 20 美元，两三个月就回本。这是最容易捡的钱。

开关 2：用 Google 免费嵌入做原型和小项目

embedding-001 和 text-embedding-004 在 Google AI Studio 里完全免费（768 维，限速）。对一个 1 万文档、每天 500 查询的小 RAG，初始嵌入 0 元、月查询嵌入 0 元——整个向量化账单是 0。中国开发者大多不知道这条路，以为只能付费用 OpenAI。

适用场景：原型验证、个人项目、内部工具、限速吃得下的中小流量。一旦你的查询量冲破限速，再切到付费。

开关 3：Matryoshka 维度截断（存储砍 6–12 倍）

这是 2026 年最大的认知差。OpenAI 的 text-embedding-3 系列是 Matryoshka（套娃）表征学习训练的——意味着一个 3072 维的向量，你可以安全地截断到 1536、1024、512 甚至 256 维，质量只掉 1–2 个点。

存储账是这样的：3072 维 fp32 一个向量约 12 KB，截到 256 维只要约 1 KB——直接省 12 倍。一亿块的语料，从 1.2 TB 压到 100 GB。OpenAI 在 API 里直接给了 dimensions 参数（getapipulse 的原话 tip："Use OpenAI's dimension reduction parameter, e.g. 256 instead of 1,536, to cut storage costs by 6x with minimal quality loss"）。Voyage、Gemini 也都支持 MRL 降维。

实操：在你的 held-out 检索集上测一遍 full 维度的 recall@10，再测 1536/1024/512/256，挑掉点小于 1–2% 的最小维度。

开关 4：批量 API（Batch API）直接对半

OpenAI 的 text-embedding-3-small 标准价 0.02，批量价 0.01；Voyage-4-lite 从 0.02 降到 0.013。批量 API 适合一切不需要亚秒级响应的活：初始入库、月度刷新、离线分类。把这两条流水从实时通道挪到批量通道，向量化账单立刻腰斩。查询侧（要低延迟）继续走实时价。

开关 5：BGE-M3 自托管（15M token/月 以上 break-even）

体量上来后，开源自托管是结构性的降维打击。BAAI 的 BGE-M3：MTEB 66.5（比 OpenAI large 还高）、1024 维、支持 100+ 语言。在 A100 spot 价上，每百万 token 0.001 美元，是 OpenAI small 的 1/20。embeddingcost 给的 break-even 点是月 15M token——超过这个量，自托管的机器钱就比 API 便宜。

中国团队天然适合这条路：BGE-M3 是智源（BAAI）出品，中文支持是强项，国内 GPU 也好搞。

开关 6：checksum 门控刷新（砍掉无效重嵌）

刷新是隐性黑洞。digitalapplied 的工程团队在一份 1400 万块迁移的复盘里给出公式：

12月成本 = 初始入库成本 + (月刷新率 × 增量块数 × 每块token数 × 每百万token单价 × 12)

两个杠杆能把刷新量砍下去：① checksum 门控——每块入库时算个哈希，刷新时对比哈希，内容没变就不重嵌；② 调度批量——把一周的刷新增量攒起来，一次性走批量通道（开关 4）提交。在"部分文档漂移、多数不变"的真实语料上，这招能把刷新 token 量砍掉一大块。

四、真实省钱账本：三种规模，原价 vs 优化后

下面是按 getapipulse 的三档真实负载算的账（每文档 500 token、每查询 50 token）：

第三档最狠：100 万文档/月、5 亿 token，从 OpenAI large 的 每月 65 美元 砸到 BGE-M3 自托管的 每月 0.5 美元——砍掉 99%。

五、向量库才是真正的大头（别只盯着 API）

getapipulse 点破了一个真相：embedding API 很便宜，贵的是存和搜向量。 隐藏成本清单：

• 向量数据库：Pinecone 100 万向量 70 美元/月；Weaviate Cloud 25 美元/月起；自托管免费但要人维护。
• 存储：10 万向量 × 1536 维 ≈ 600 MB；1 亿块 1536 维 fp32 ≈ 600 GB。
• 重嵌入：换模型、换维度、换厂商，都要全量重嵌。digitalapplied 特别提醒——"vendor migrations happen"，把一次重嵌的预算提前打进第二年的账里。

所以省钱的正解是：小到中等体量，用免费/便宜的嵌入 + 维度截断 + pgvector（Postgres 上的向量插件，几乎零边际成本）。embeddingcost 给的方案原文是："OpenAI text-embedding-3-small + pgvector，100K 文档知识库，低查询量下总成本 < 5 美元/月。"

flowchart TD
    A["月向量化token量"] --> B{"< 15M token/月?"}
    B -->|"是, 原型/小项目"| C["开关2: Google免费嵌入<br/>账单 = $0"]
    B -->|"是, 生产级"| D["开关1+3+4:<br/>3-small + 维度截断 + 批量API"]
    B -->|"否, ≥15M token"| E{"数据能否离开本机?"}
    E -->|"能"| F["开关5: BGE-M3自托管<br/>$0.001/M, MTEB 66.5"]
    E -->|"不能 / 合规"| F
    D --> G["开关6: checksum门控刷新<br/>+ 调度批量通道"]
    F --> G
    C --> G
    G --> H["向量库: 小体量用 pgvector<br/>大体量评估自托管 Milvus/Qdrant"]
    style C fill:#c8e6c9
    style F fill:#c8e6c9
    style G fill:#fff9c4

信息差总结：你不知道的，别人在省钱

行动指南：今天就做三件事

1. 查账：登录各厂商后台，把"embedding"单独拉出来看一个月烧了多少 token、用的哪个模型。如果你还在 ada-002——先迁移到 3-small，立省 5 倍。
2. 截维：把 text-embedding-3 的 dimensions 参数从 3072 降到 768–1024，在你的检索集上跑一次 recall，确认掉点 <2% 后全量重嵌（趁这次把维度一起改了）。
3. 分通道：初始入库和月度刷新改走 Batch API；月 token 超过 15M 就评估 BGE-M3 自托管——尤其中国团队，BGE-M3 中文强、国内 GPU 好搞。

一句话收尾：embedding 这条流水线，价格差是 3–130 倍，质量差却不到 5 个 MTEB 点。 在"生成模型"卷上天的时候，向量化才是 2026 年最好薅的羊毛——因为没人在看。

参考来源

• Embedding Model Comparison（June 2026 Verified）— EmbeddingCost.com
• Embedding API Pricing: OpenAI vs Cohere vs Google (2026) — APIpulse
• Embedding Model Cost Calculator: Vendor Comparison 2026 — Digital Applied
• Matryoshka Representation Learning — Hugging Face
• Q2 2026 Open-Source Embedding Models Benchmark: BGE-M3, GTE, E5, Stella, Nomic

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。