首页 › cost-hacks › 别在云上租GPU烧钱:六月四个低价算力黑市

大多数中国开发者一提到"跑模型"就打开阿里云或 AWS,按官方价租 H100——但你正在为同样的算力多付 3 到 10 倍。海外有一个完整的 GPU 现货黑市生态,同样的 H100、同样的 A100、同样的 RTX 4090,价格只有大云的零头。这一篇拆给你看:四个真正能省九成算力钱的平台、一张价格对照表、以及一条把 A100 的活用 4090 干完的微调省钱链路。

一、信息差到底是什么:你为"稳定"付了认知税

先说一个反直觉的事实:GPU 这东西,跟云主机不是一个定价逻辑。

AWS、阿里云、Azure 把 GPU 打包成"实例"卖给你,里面裹着:机房 SLA、企业级网络、合规认证、账单系统、销售提成。你真正用到的那张卡的边际成本,可能只占账单的 15%。

而海外有一批"算力二级市场",干的事是:把全世界散落的卡(矿场退役的、个人工作室闲置的、小 IDC 的冗余算力)撮合起来,按小时出租,去掉中间一切附加值,只卖裸算力。这类平台叫 spot market(现货市场),主流的四个是:

中国开发者 90% 不知道这套生态,因为中文圈里 GPU 租赁讨论基本停在"阿里云 GPU 实例怎么选规格"。这就是典型的价格差 + 认知差叠加。

二、四个算力黑市逐个拆解

1. Vast.ai —— 现货价格的"地板"

2. RunPod —— 性价比和体验的平衡点

3. TensorDock —— 透明比价的市场制

4. FluidStack —— 企业级现货,便宜又少翻车

三、价格对照表:你到底多付了多少钱

下面这张表把"大云官方价"和"现货市场价"放一起,差距一目了然(均为约数,现货价格波动,2026 年 6 月参考):

GPU 型号 AWS/阿里云 On-Demand 现货市场最低 省幅
RTX 4090 (24GB) 大云不零售 / 等效约 $1.0+/h $0.20/h (Vast) ~5–8 倍
A100 80GB ~$3.0–4.0/h (p4d 等效) $0.80/h (Vast 现货) ~4–5 倍
H100 80GB ~$4.0–5.0/h (p5) $1.50/h (FluidStack/Vast) ~3 倍

算一笔账:微调一个 8B 模型需要 100 GPU 小时。 - 大云 H100:100 × $4.5 = $450 - Vast 4090(QLoRA 完全跑得动):100 × $0.30 = $30 - 省 $420,省 93%。

这不是理论,是无数海外 indie 开发者每天都在做的操作。

四、关键省钱杠杆:把 A100 的活用 4090 干

光换平台还不够。真正省到极致的,是降卡 + 降精度的组合拳:用 RTX 4090(24GB)+ QLoRA 微调,干原本要 A100(80GB)才能干的活。

这就是 2026 年微调圈最主流的省钱栈:

典型链路:选一个 8B–14B 开源底模 → 4-bit 加载 → 挂 LoRA(rank=8 或 16)→ 开 gradient checkpointing → 单张 4090 跑完。

信息差提示:很多国内教程还在教你"微调要 A100、要 H100",那是 2023 年的旧认知。2026 年,Unsloth + QLoRA + 4090 已经能让个人开发者花一杯咖啡钱微调一个专属模型。

五、决策流程图:什么时候用 API,什么时候租 GPU

不是所有场景都该上现货 GPU。关键看你的算力规模和稳定性要求。下面这张流程图帮你一秒决策:

flowchart TD
    A[需要跑模型] --> B{月度算力需求?}
    B -->|很小 / 偶尔| C[直接用 API<br/>按 token 付费]
    B -->|中等: 微调/批量推理| D{需要 7x24 稳定在线?}
    B -->|很大: 训练大模型| G[FluidStack 长租 H100/H200<br/>谈批量价]
    D -->|是, 跑线上服务| E[RunPod On-Demand<br/>或自建高可用]
    D -->|否, 可中断| F[⚠️ 现货省钱区<br/>Vast.ai / TensorDock<br/>4090+QLoRA]
    F --> F1[必须频繁 checkpoint]
    F --> F2[训练脚本加断点续训]
    C --> Z[省心但贵<br/>适合验证阶段]
    E --> Y[稳定但中价]
    F --> X[最便宜<br/>省 80%–93%]
    G --> W[规模化最划算]
    style F fill:#d4f4dd
    style X fill:#d4f4dd

口诀:验证阶段上 API,跑通之后上现货,稳定上线才用 On-Demand,规模化去谈 FluidStack。

六、现货市场的三个坑(中国用户必看)

便宜不是没代价。这三个坑你必须知道:

  1. 会中断:现货的本质就是"别人出价更高就把你踢了"。训练脚本必须写断点续训,每 N 步存一次 checkpoint。Vast.ai 尤其野,中断率最高。
  2. 数据安全:你把训练数据传到陌生矿场的机器上。敏感数据别上现货,或先做脱敏。FluidStack/RunPod On-Demand 相对可控。
  3. 支付摩擦:这几个平台大多要美元卡或加密货币。RunPod 支持加密货币充值,是国内用户最顺手的入口;Vast.ai 也支持多种方式。

七、信息差总结

你以为的 实际情况
微调一定要 A100/H100 QLoRA + Unsloth,4090 就够
跑模型去 AWS/阿里云 现货市场便宜 3–10 倍
GPU 必须包月/包年 现货按小时租,用完即走
微调门槛很高、很贵 LLaMA-Factory 配置文件一键起
海外算力平台支付麻烦 RunPod 支持加密货币,国内可入

八、行动指南(明天就能做)

  1. 今天就注册 RunPod(https://www.runpod.io),充 $10 现货余额,跑一个 4090 的 Jupyter 试水
  2. 比价:同一张 H100,去 Vast.ai、TensorDock、FluidStack 各看一眼,挑当天最低价
  3. 改造训练脚本:加 save_steps checkpoint + 断点续训逻辑,准备好被中断
  4. 把微调从 A100 降级到 4090:用 Unsloth 官方 notebook 模板,8B 模型单卡直接跑
  5. 算清楚临界点:当月算力超过 $200,就该从 API 切到现货 GPU 了

参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入