首页 › tips-tricks › Cloudflare偷藏免费AI机房

你以为 Cloudflare 就是个挂域名、开 CDN 的建站配套?这可能是中文圈对它最大的误读。过去两年,这家「卖 CDN 的公司」在自己全球 300 多个节点上,偷偷攒出了一整套 AI 基础设施:推理算力(Workers AI)、统一网关(AI Gateway)、托管 RAG(AutoRAG)、向量数据库(Vectorize)、Agent 框架(Agents SDK),外加一个能免费横评各家开源模型的 Playground。大部分核心功能不绑信用卡就能用。这篇把里面八个最有价值的「暗格」一次挖开——每个都附操作路径,看完就能上手。

先看全景:这栋「机房」里有什么

组件 干什么的 费用
Workers AI 边缘节点上跑开源模型推理 免费档每天 1 万 Neurons
AI Playground 网页版多模型横评 免费
AI Gateway 所有 AI API 的统一代理 核心功能免费
AutoRAG R2 存储桶一键变 RAG 服务 beta 期间免费
Vectorize 托管向量数据库 有免费额度
Agents SDK 开源 Agent 框架,部署到 Workers 开源+免费额度

注:具体额度与计费随版本调整,动手前以官方定价页为准(文末有链接)。以下按信息差价值排序,一个一个开。

暗格一:AI Playground,免费把几十个开源模型盘一遍

入口:playground.ai.cloudflare.com(或 Dashboard 左侧 AI → AI Playground)。

选模型、填 prompt、直接对话,Llama、Mistral、Qwen、DeepSeek 系列都在列表里,可以中途换模型继续同一个会话——上一轮的上下文直接带过去,特别适合对比「同一个问题,8B 和 70B 的差距」。右侧还能调 system prompt、温度、最大 token,调完点「Use this prompt」直接给你生成一段调用代码。

为什么值得:想横向选型时,你不用去充任何一家的 API,打开网页就能把候选模型全部摸一遍。对做选型报告、写技术调研的人,这是零成本的评测台。

暗格二:Workers AI,每天 1 万 Neurons 白送

Workers AI 是 Cloudflare 自己的推理服务:它在全球节点上托管了几十个开源模型,你用 REST API 或官方 SDK 调用,按「Neurons」计费。免费档每天 1 万 Neurons、按天刷新,注册免费计划即可,不需要绑卡。用超了才需要升级到每月 5 美元的 Workers Paid,超出部分约每千 Neurons 0.011 美元(以定价页为准)。

举三个最实用的场景:

  1. Whisper 转写:模型名 @cf/openai/whisper,音频 POST 过去返回带时间戳的文本。做播客转录、会议纪要机器人,免费额度够个人项目长期跑。
  2. Flux 生图:@cf/black-forest-labs/flux-1-schnell,几秒出图,写脚本批量做文章配图、占位图。
  3. 轻量 LLM:@cf/meta/llama-3.1-8b-instruct 这类小模型,做分类、抽取、摘要这种「杀鸡不用牛刀」的任务,成本几乎为零。

调用格式长这样(换上你的账户 ID 和 API Token 即可):

POST https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/run/@cf/meta/llama-3.1-8b-instruct

适用人群:个人开发者、学生、想先跑通再谈钱的 side project。

暗格三:AI Gateway,把 OpenAI 请求换一行 URL 就能省一半钱

这是我个人认为全栈里性价比最高的一个。AI Gateway 是托管版的大模型网关:你把应用里的 base_url 换成它的地址,比如:

https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway名}/openai

之后所有请求照常发往 OpenAI/Anthropic/Google 等十几家上游,但全部从网关过一道。核心功能免费,换来的是:

自建过 One-API/New-API 的都懂:自己维护网关意味着服务器、证书、升级、单点故障全归你。AI Gateway 把这些全托管了,还不收钱——这就是典型的「价格差 + 方法差」二合一。

暗格四:Universal Endpoint,主模型挂了自动切备用

AI Gateway 里最容易被忽略的功能:自动降级(fallback)。你可以在一个请求里按顺序写一组「模型清单」,网关按序尝试,主模型超时或报错,自动切到下一家。比如 GPT 系主用、Claude 系兜底、Workers AI 垫底——凌晨三点上游抽风,你的服务不用跟着陪葬。

flowchart TD
    A["你的应用"] -->|换一行 base_url| B["AI Gateway"]
    B -->|重复请求| C["缓存秒回<br/>不上游扣费"]
    B -->|正常请求| D["主力模型"]
    D -->|超时或报错| E["备用模型接管"]

适用场景:任何拿 AI API 当生产依赖的服务。国内做套壳产品、Agent 应用的团队尤其该看——上游稳定性你控制不了,但切换策略你控制得了。

暗格五:Secrets 存管,前端永远不碰钥匙

AI Gateway 支持把上游 API key 托管在网关侧。调用时你只带 Cloudflare 的凭证,真实 key 永不出现在你的前端代码、移动 App 或开源仓库里。给客户做 demo、开源项目里要留调用入口的时候,这一格能救命。

暗格六:AutoRAG,R2 桶扔文件,检索接口白捡

搭过 RAG 的都知道流程有多碎:解析、切片、embedding、入库、检索、拼 prompt,五件套少一样都不行。AutoRAG 把这套流水线整个托管了:

flowchart TD
    S["R2存储桶<br/>扔进PDF与文档"] --> P["自动解析切片"]
    P --> E["自动向量化"]
    E --> V["Vectorize建索引"]
    V --> Q["search接口<br/>返回相关片段"]
    Q --> L["ai-search接口<br/>直接生成答案"]

操作路径:Dashboard → 存储 → R2 建一个桶 → 上传文档 → AutoRAG 页面选桶、建实例 → 等索引完成。之后它暴露两个 HTTP 接口:/search 返回最相关的片段,/ai-search 直接让模型基于片段生成回答。页面会给你现成的 curl 示例,复制就能测。

注意:发布时处于 open beta、官方声明 beta 期间免费(底层 embedding 与 Vectorize 用量另计);至今的计费状态请以官网为准。

适用人群:想给公司文档、产品手册加「问答机器人」,又不想自己维护向量库的中小团队——这是目前我能找到的最短路径之一。

暗格七:日志里藏着你的「成本账本」

打开 AI Gateway 的 Logs 页,每个请求的 token 消耗和预估成本逐条可查。多数人烧钱烧得糊涂,是因为账单只给总数;在这里你能看到「哪个用户的哪类 prompt 最烧钱」,然后针对性地加缓存、砍 max_tokens、换小模型。这一格不需要任何新操作,是暗格三的配套动作,但用的人极少。

暗格八:Agents SDK,免费部署带定时任务的 Agent

Cloudflare 开源了 Agents SDK(agents.cloudflare.com 可查),跑在 Workers 上,免费计划就能部署。几个对个人开发者很关键的能力:

官方提供了 chat agent 起手模板,npm create cloudflare 选模板,几分钟部署一个带前端聊天界面的 Agent。

国内用户视角:优劣与替代

说点实在的。优势:不绑卡的免费额度、全托管免运维、网关+RAG+向量库一条龙,这个组合在国内云上要么没有、要么收费。劣势也要讲清楚:一是需要外币卡才能升级付费档(免费档不用);二是国内直连 Cloudflare 的速度和可达性看网络环境,很多开发者本来就托管域名在 CF 上,问题不大,纯国内用户访问你的 AI 服务则建议加自定义域名并自测链路。同类自建方案(One-API 系网关、vLLM 自托管)胜在可控,败在运维成本——一个人做项目,托管方案省下的时间就是钱。

信息差总结

你以为的 实际情况
Cloudflare 只是 CDN 它有整套 AI 推理+网关+RAG 栈
白嫖模型要到处蹲 key 每天免费 1 万 Neurons,不绑卡
网关必须自建 One-API AI Gateway 托管免费,带缓存/限流/日志
搭 RAG 要拼五件套 AutoRAG 扔个 R2 桶全自动
模型选型要先充值 AI Playground 免费横评+中途换模型
Agent 定时任务要租服务器 Agents SDK 在 Workers 免费档跑

行动指南

  1. 注册 Cloudflare 免费计划(不绑卡),进 Dashboard 左侧 AI 菜单;
  2. 花 10 分钟在 AI Playground 把候选模型各问同一个问题,形成自己的选型结论;
  3. 建 AI Gateway,把现有项目里 OpenAI 的 base_url 换成网关地址(一行改动),打开缓存+限流;
  4. 看一周日志,找出最烧钱的 prompt 模式,针对性优化;
  5. 建一个 R2 桶丢几份 PDF 进去,建 AutoRAG 实例,用页面给的 curl 跑通 /search;
  6. 有 24 小时自动化需求的,用 Agents SDK 模板部署第一个定时 Agent。

参考来源

  1. Workers AI 官方文档:https://developers.cloudflare.com/workers-ai/
  2. AI Gateway 官方文档:https://developers.cloudflare.com/ai-gateway/
  3. AutoRAG 官方文档:https://developers.cloudflare.com/autorag/
  4. AI Playground:https://playground.ai.cloudflare.com/
  5. Cloudflare 官方博客(AI 产品发布第一现场):https://blog.cloudflare.com/

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入