大多数开发者还在为AI功能按token付账单,但你的Chrome浏览器里,其实早就免费住着一个Gemini Nano——不联网能跑、不要API Key、数据不出本机,官方还配好了一整套标准JavaScript接口。海外开发者已经拿它做插件、做产品原型,官方文档里甚至直接给你列了“日历事件提取”“联系人抓取”这类可以照抄的生意点子,而中文圈至今没几篇系统的实操教程。这篇把它的真实现状、8个实战暗门和所有的坑一次讲透:读完你就知道,哪些任务可以从今天起彻底停掉API账单。
Chrome的Built-in AI计划,官方口径是“浏览器提供并托管基础模型,网页和应用通过浏览器管理的模型与API直接完成AI任务”。根据官方文档(2026年8月26日更新),目前文档单列的API一共有7个:Prompt API、Summarizer API、Writer API、Rewriter API、Proofreader API、Language Detector API、Translator API,另外还有官方Polyfill兜底方案。
版本现状(以官方文档为准):Prompt API在扩展端从Chrome 138就稳定可用,网页端在Chrome 148正式上线,采样参数另有Origin Trial在跑;Language Detector和Translator在桌面版Chrome直接可用。也就是说,这套东西不是实验品,是已经转正的正式Web平台能力。
硬件门槛要记牢,这是官方白纸黑字写的:
模型具体多大?官方说随版本变化,打开chrome://on-device-internals自己看。
const avail = await LanguageModel.availability();
if (avail !== 'unavailable') {
const session = await LanguageModel.create();
console.log(await session.prompt('Write me a poem!'));
}
效果:无Key、无账单、无配额限制。场景:任何“要不要加个AI功能”的念头,先用这三行验证,比注册云服务、绑信用卡、算token快十倍。注意首次调用会触发模型下载,别在演示前一秒才想起来。
availability()有四种返回:unavailable(设备不达标)、downloadable(可下载)、downloading(下载中)、available(就绪)。下载过程可以挂进度监听,官方文档明确建议“下载可能耗时,必须告知用户”:
const session = await LanguageModel.create({
monitor(m) {
m.addEventListener('downloadprogress', (e) => {
console.log(`Downloaded ${e.loaded * 100}%`);
});
},
});
场景:产品化必备。用户点了“开启AI功能”按钮却毫无反馈,是劝退第一名。
prompt()的第二参数传responseConstraint,塞一个JSON Schema,模型就只回合法JSON。官方示例就是让模型判断一条帖子是不是在聊陶艺,返回true/false。还有两个配套狠招:measureContextUsage()可以预估schema会吃掉多少上下文窗口;omitResponseConstraintInput能把schema从实际发送的提示里省掉,只留输出约束。
场景:评论分类、内容打标、工单路由、表单校验——所有“判断题”类的活,从此一分钱不花。这招的价值被严重低估:大部分业务AI需求根本不是“写作”,是“判断”。
在消息数组末尾放一条assistant角色消息并标记prefix: true,等于把回答的开头焊死。官方例子:要求生成TOML格式的角色卡,直接预填一段```toml开头。效果:比在提示词里反复哀求“请严格输出TOML格式”稳定得多。场景:生成配置文件、代码块、任何需要严格开头格式的场合。
expectedInputs支持text、image、audio三种模态。图片侧,HTMLImageElement、canvas、视频当前帧、ImageData、Blob全能塞;音频侧支持AudioBuffer和Blob(必须GPU)。官方还给了两个可以直接玩的demo:Canvas Image Prompt(上传两张图让AI点评相似度)和Mediarecorder Audio Prompt(录音提问)。场景:给用户上传的图片自动生成alt文本(顺便把无障碍分数也拿了)、语音消息转文字要点。
promptStreaming()返回ReadableStream,逐字上屏,长回答体验直接对标商业产品clone()克隆当前会话,对话分叉探索不同方向,不用重跑前置上下文destroy()释放资源;contextUsage/contextWindow实时盯余量contextoverflow事件兜底溢出;真超了会抛QuotaExceededError,还贴心带上requested和contextWindow两个属性,错误提示都能做得精确另有append()方法可以在会话建立后预先投喂上下文,让模型“预读”大文档,用户提问时秒回。
扩展里的Prompt API保留了数值版temperature和topK,还有LanguageModel.params()查询边界(默认topK为3、上限128,temperature默认1、上限2)。网页端想调采样,目前要走采样参数Origin Trial,用samplingMode七档枚举:从most-predictable到most-creative,比裸数字友好得多。
关键时间差在这:扩展端Chrome 138就稳定了,比网页端早了整整一年。生意逻辑也顺:本地推理零边际成本,“数据不出浏览器”本身就是隐私卖点,上架Chrome商店即开张——这是对按月收费的云端AI套件最直接的降维打法。两个技术细节别忘了:跨域iframe要设allow="language-model"权限策略;Web Worker里暂时用不了。
打开DevTools的AI assistance面板,可以直接带着当前页面的技术上下文跟Gemini对话,还有专门的样式助手帮你看整体布局、查元素样式、生成CSS bug修复方案。排障、改样式、读懂祖传代码,这是每个前端今天就能领的免费工资。再往前看一步:官方正在推WebMCP,给AI Agent暴露结构化工具的标准协议——“网页即工具”的时代已经在门口了,值得提前理解。
第一,中文暂时玩不转。 Prompt API的语言白名单目前只有en、ja、es、de、fr五种,官方注明“更多语言开发中”。想让本地模型读中文、写中文,现在别指望;翻译需求要看Translator API的语言对支持表。中文用户的位置是:用本地AI处理英文素材(摘要、分类、判断),中文任务老实回退云端。
第二,认清小模型的能力边界。 Gemini Nano是端侧模型,甜区是分类、判断、短摘要、格式转换;复杂推理、长文写作别硬来。官方自己都在推Firebase AI Logic做混合架构——本地干轻活、云端干重活,这才是正解。
第三,门槛会筛掉你的用户。 22 GB磁盘加GPU这条线,会刷掉一部分设备,降级逻辑不是可选项是必答题。
整体判定流程一张图:
flowchart TD
A[调用 availability] --> B{返回状态}
B -->|available| C[直接建会话]
B -->|downloadable| D[用户手势触发下载]
B -->|downloading| E[监听下载进度]
B -->|unavailable| F[设备不达标]
D --> E
E --> C
F --> G[回退云端API]
C --> H[本地免费推理]
| 你以为的 | 实际情况 |
|---|---|
| 浏览器AI=网页里塞个聊天框 | Chrome内置模型+7个标准JS API,代码直接调 |
| 加AI功能必须按token付费 | 判断/分类/摘要/改写,全程免费无Key |
| 本地模型=折腾Ollama一晚上 | 装个Chrome就有,模型自动下载 |
| 端侧AI是玩具 | Schema约束、多模态、流式、会话管理,工程能力齐全 |
| 扩展和网页能力一样 | 扩展端早一年稳定,参数控制更全,是副业首选入口 |
国产浏览器的AI能力基本都是云端会员制——按月付费、内容上传服务器;通义、智谱、DeepSeek的API按token计费,做个高频小功能月底账单感人。Chrome这套的差异化就三个词:免费、离线、代码级。当然也别神化:模型分发走Google组件通道,国内网络环境下下载和更新体验要自己实测;中文任务本地跑不了;真要商用到国内用户,混合架构里云端那半边大概率还是得配国产模型。
chrome://version确认版本;chrome://on-device-internals看模型状态;把暗门1的三行代码贴进控制台跑通。responseConstraint替掉一个云端API调用,同时写好四态降级逻辑。本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
