你大概以为"computer use(让AI操控你的电脑屏幕)"这件事只能靠云端:每截一张图发给OpenAI或Claude,按调用次数付钱,敏感数据全程出境。这是90%中国开发者的认知。但2026年6月1—2日这一周,海外连发三款开源、可本地运行、零调用费的小模型,把这条路的本地版彻底打通了。这篇文章要给你的信息差是:agent流水线里那些"本不需要大模型干的脏活",正在被一批叫做focal model(焦点小模型)的开源货系统性接管——而给它命名这个概念的,正是JetBrains。
先说趋势,再说工具,否则你会觉得这只是又一波"开源平替"。
6月1日,JetBrains开源Mellum2时,官方博客里抛出一个新词——focal model(焦点模型)。原话大意是:随着AI系统变复杂,瓶颈不再是"模型够不够聪明",而是延迟、吞吐和成本;前沿大模型继续冲上限,但实际产品里大量环节是高频、重复、对延迟敏感的,这些环节该交给"又快又专、能本地托管"的小模型,而不是塞给一个又贵又慢的大模型。
翻译成人话:一个agent要完成一个任务,中间有十几个步骤——截屏看屏幕、判断该点哪、路由该调哪个工具、总结检索结果、过一道安全审查……真正需要GPT-5/Claude级别脑子的,往往只有最后那一步。前面所有脏活,本来就该用免费、本地、毫秒级响应的小模型来跑。云端大模型按调用收税,本地焦点模型按0收税——这就是6月这波新货共同的暗线。
下面三款,正好是这条流水线上的三个"器官":眼+手(computer use)、调度大脑(routing)、门口保安(safety)。全部6月1—2日发布,全部开源,全部能塞进一台消费级显卡或Mac。
这是这波里信息差最大、最值得动手的一款。
Hcompany 组织下,例如 Hcompany/Holo-3.1-35B-A3B-FP8最炸裂的数字:旗舰款 35B-A3B 用 Q4 GGUF 量化版,在一张12GB显存的消费卡(RTX 4070 Ti)上,单步140ms。它是个MoE(混合专家)结构——总参35B,但每个token只激活3B,所以你能用"3B的推理成本"拿到"接近35B的精度",这就是它塞进12G显存的秘密。
四个版本对应四档硬件,自己对照:
| 型号 | 参数 | 目标硬件 | 适合 |
|---|---|---|---|
| Holo3.1-0.8B | 0.8B | 纯CPU/嵌入式 | 常驻后台的极轻量代理 |
| Holo3.1-4B | 4B | 6G显存/8G内存 | 老笔记本、续航优先 |
| Holo3.1-9B | 9B | 8–12G显存 | 开发工作站,性价比甜点 |
| Holo3.1-35B-A3B | 35B MoE/3B激活 | 12G显存(Q4 GGUF) | 旗舰精度,生产级 |
跑分(重点看这个):桌面自动化基准 OSWorld 74.2%(BF16),量化版~72%,和GPT-5.4 Computer Use(~73%)打平,但GPT-5.4只能云端跑、Holo3.1是当前得分最高的开源、可本地computer use模型。手机端 AndroidWorld 79.3%(上一代67%)。端到端每一步从Holo3的6.8秒降到3.3秒——模型延迟已经不是瓶颈,瓶颈变成了UI本身的响应速度。
怎么本地跑(三行命令):Holo3.1已进Ollama库,这是最简单的路:
curl -fsSL https://ollama.com/install.sh | sh
ollama pull holo3.1:9b # 性价比款
ollama run holo3.1:9b
跑起来后 Ollama 在 http://localhost:11434/v1 暴露一个OpenAI兼容接口——你原来对接OpenAI的代码,只改 base_url 和模型名就能直接用。Mac党(M3/M4 Pro 18G以上统一内存)用GGUF跑得很顺。
vs 国内:国内能本地跑的开源VLM不少(Qwen-VL系列等),但专门为"操控屏幕"训练、带function-calling、给computer use动作schema、还把量化checkpoint一起放出来的,Holo3.1是第一个生产级的。国内做RPA、办公自动化、内网运维的团队,这是把"屏幕自动化从云端拽回机房"的钥匙。
适合人群:做RPA/办公自动化的、内网运维、隐私敏感行业(医疗/金融/政企)、想自己搭computer use agent的研究者和独立开发者。
Holo3.1是"眼和手",Mellum2是agent流水线里的调度大脑。
JetBrains;技术报告 arXiv:2605.31268为什么值得关注:Mellum(一代)本来是JetBrains IDE里的代码补全模型;二代扩成"语言+代码"通吃,定位从"补全工具"升级成"AI工作流里的focal model"。它的意义不在跑分,而在JetBrains用一整篇文章给"focal model"这个趋势正名——大厂亲自下场说"未来属于协同系统、不属于单个大模型",这比任何自媒体喊口号都权威。
vs 国内:国内做"模型路由""小模型当中间层"的实践早就有,但像JetBrains这样把一个Apache 2.0、12B/2.5B激活、专门为routing和子代理调过的小模型白送,加上完整技术报告,是给中小团队省钱的硬货。你可以拿它在本地搭一个"先Mellum2判断意图、再决定要不要烧钱叫大模型"的路由层——这正是过去几轮我们聊的"别把所有活都喂贵模型"的官方版实现。
适合人群:搭RAG/agent流水线的基础设施团队、IDE/编程工具开发者、有私有代码库要做本地AI的企业、想砍API账单的中型团队。
第三款补上流水线最后一环:安全审查。
适合人群:合规/安全工程师、多模态App开发者、agent运营团队、做出海产品要过数据驻留合规的人。
flowchart LR
subgraph CLOUD["☁️ 云端computer use(传统·按调用收税)"]
A1[本地截屏] -->|上传截图| A2[GPT-5.4 / Claude CUA<br/>云端API]
A2 -->|返回动作| A3[本地执行]
A1 -.数据出境.-> A2
A2 -.每步计费.-> A4["$$$ 按调用收费"]
end
subgraph LOCAL["🏠 本地focal model栈(6月新货·零调用费)"]
B1[本地截屏] --> B2{"Mellum2<br/>路由/意图判断"}
B2 -->|高频脏活自己干| B3["总结/规划<br/>2.5B激活"]
B2 -->|只有难活才上| B6["(可选)大模型"]
B1 --> B4["Nemotron 3.5<br/>本地安全审查"]
B4 --> B5["Holo3.1<br/>看屏+输出动作<br/>140ms/step 12G显存"]
B5 --> B7[本地执行]
B1 -.数据全程localhost.-> B8["$0 不出网卡"]
end
CLOUD ==>|6月趋势:脏活拽回本地| LOCAL
看懂这张图,你就懂这波新货的共同逻辑:不是"开源又出了一个新模型",而是"agent流水线的三个器官,都有了能本地托管的开源替代,且每个都够用"。
| 维度 | 你以为的(国内主流认知) | 别人已经知道的(6月信息差) |
|---|---|---|
| computer use | 只能云端,每截屏上传一次、按次付费 | Holo3.1本地跑,12G显存140ms/step,OSWorld 74.2%追平GPT-5.4 |
| 小模型定位 | "够不上大模型才用小模型"的备胎 | focal model:高频脏活本就该用又快又专的小模型,大厂亲自命名 |
| 路由/子代理层 | 自己拿通用模型硬凑 | Mellum2:12B/2.5B激活、Apache 2.0、JetBrains为routing专门调过 |
| 安全审查 | 调OpenAI Moderation API(数据出境) | Nemotron 3.5本地跑,可喂自定义policy,审查不出域 |
| 成本结构 | agent越复杂、API账单越贵 | 把脏活换成本地focal model,只有真难的那一步才付钱给云端 |
ollama pull holo3.1:9b,拿一个你常用的"重复点界面"的小活(批量改设置、填表、抓数据)试一把本地computer use——感受"屏幕不上云"的延迟和隐私差异。本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
