如果你这一年用过 Claude Computer Use、OpenAI Operator 或 Google 的 Project Mariner,你大概率有过同一个心梗瞬间:让 Agent 帮你在浏览器里点几下、填个表,结果一轮任务跑下来,账单上赫然躺着 0.3 美元——因为它每一步都要把你整屏截图传上云、再让大模型"看图说话"。更扎心的是,那截图里可能有你的邮箱、客户名单、内部后台。
这就是 2026 年 Computer-Use Agent(屏幕操控智能体)最大的信息差:所有人都以为它天生属于云巨头、天生按 token 计费、天生要把你的屏幕数据上传。 但就在 6 月第一周,海外四块开源拼图几乎同时落地,把它们拼起来,你就能在自己机器上跑一个"几乎零边际成本、数据不出本机、可随意改造"的屏幕操控 Agent。国内目前几乎没人系统讲这件事——这篇就是给你把拼图摆好。
这是本周分量最重的一块。法国创业公司 H Company(前身为"H",做通用智能体)在 Hugging Face 开源了 Holo3.1 全家族——一组专为"看屏幕、动鼠标键盘"设计的视觉语言模型(VLM)。
0.8B、4B、9B,以及旗舰 35B-A3B(总参 35B、MoE 每 token 仅激活 3B)。原生支持 function-calling,并提供量化版 checkpoint 专门为本地推理优化。信息差点:很多人以为"操控电脑"必须用 Anthropic/OpenAI 的闭源接口。Holo3.1 证明这件事的模型层已经开放了——差距只在"有没有人知道它存在"。
一个真正能干活的屏幕 Agent 不会只用一个大模型。它要规划、要决定"该调哪个子工具"、要做摘要、要做 RAG 检索——这些"中间脏活"如果都丢给旗舰模型,成本和延迟都会爆炸。JetBrains 这周开源的 Mellum2 就是干这些中间活的"小脑"。
让一个本地 Agent 自由操控你的屏幕,最怕什么?怕它"自信地"点错了按钮——比如把"删除"当成"确认"、把内部数据贴进公网输入框。NVIDIA 6 月初发布的 Nemotron 3.5 Content Safety 正好补上这块:一个本地的安全审查小模型,在 Agent 动手前先审一遍 prompt、图片、甚至它准备输出的内容。
前三块拼图都来自 Hugging Face,所以"怎么用脚本把它们拉下来、跑起来、接进 Agent"成了关键。Hugging Face 团队本周同步发布了一篇指南,把 hf 命令行工具重设计成"对 Agent 友好"的入口。
git log 或 pip 的散乱文本,而是拿到干净的结构化数据。这对搭自动化流水线的人是实打实的提效。flowchart TD
U[用户下达任务<br/>例如:整理本地表格并发邮件] --> R[Mellum2 路由/规划层<br/>2.5B激活·毫秒级·本地]
R --> S{需要操作屏幕?}
S -- 是 --> G[Nemotron 3.5 安全审查<br/>自定义策略·本地刹车]
G -- 放行 --> H[Holo3.1 操控屏幕<br/>看截图·点鼠标·敲键盘·本地]
G -- 拦截 --> B[阻断并回报<br/>避免误删/外泄]
H --> O[执行结果]
S -- 否 --> D[直接走 RAG/摘要<br/>Mellum2 处理]
O --> R
D --> DONE[任务完成·全程数据不出本机]
HF[hf CLI 结构化管道<br/>拉取/部署/编排以上模型] -.支撑.-> R
HF -.支撑.-> G
HF -.支撑.-> H
classDef local fill:#e8f5e9,stroke:#2e7d32,stroke-width:2px;
class R,G,H,D,B,O,DONE local;
这张图就是这周海外开源圈给你的"免费礼物":规划、护栏、操控、管道,四层全部本地、全部开源、全部可商用。 而一年前,你要凑齐这四层,要么花大价钱买云 API,要么自己从零训模型。
| 维度 | 多数人的认知(信息差劣势方) | 本周开源圈已经做到(信息差优势方) |
|---|---|---|
| Computer-Use 模型 | 必须用 Claude/OpenAI 云接口 | Holo3.1 本地开源,4B 即可推理 |
| Agent 中间任务 | 全丢旗舰模型,又慢又贵 | Mellum2 做 routing/RAG,2.5B 激活 |
| 安全护栏 | 云端敏感词,管不住业务规则 | Nemotron 3.5 自定义策略,本地毫秒级 |
| 开发者工具 | 靠正则解析命令行输出 | hf CLI 重写成结构化、Agent 友好 |
| 数据归属 | 截图必须上云 | 全链路数据不出本机 |
| 边际成本 | 按 token 计费,越用越贵 | 硬件折旧,跑越多越省 |
| 方案 | 单任务成本估算 | 数据是否出本机 | 可定制性 |
|---|---|---|---|
| Claude Computer Use(云,Sonnet 级) | 约 $0.05–0.5/任务(重度截图会更高) | 是,截图上云 | 低(闭源) |
| OpenAI Operator(云) | 按 token/订阅,单任务类似量级 | 是 | 低 |
| 本地 Holo3.1 + Mellum2 + Nemotron | 接近 $0(硬件折旧) | 否 | 高(全开源) |
说明:云端价格为公开文档参考值,受具体模型、缓存、用量影响波动大;本地方案的真实成本是电费 + 一次性硬件投入(一张 16–24GB 显存卡或 M 系列高配 Mac 即可起步)。
Holo-3.1-4B 起步,按 quickstart 在本地跑通一个"看截图→给动作"的最小例子。如果你只有一台 M 系列 Mac,先从 4B 版本 + Mellum2 的 CPU/GPU 推理试水;如果有 24GB 显存的游戏卡,直接上 35B-A3B 体验旗舰级本地操控。
这周的四连发共同指向一个判断:Computer-Use 正在从"云巨头的增值服务"变成"开源的基建能力"。 对国内开发者有三层机会——
差距不在技术——技术已经开源摆在那;差距在信息:知道它存在、知道它能拼起来、知道怎么落地。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
