首页 › new-tools › 屏幕操控不上云:本周开源四连发

你还在为"电脑操作 Agent"按 token 付云费吗?

如果你这一年用过 Claude Computer Use、OpenAI Operator 或 Google 的 Project Mariner,你大概率有过同一个心梗瞬间:让 Agent 帮你在浏览器里点几下、填个表,结果一轮任务跑下来,账单上赫然躺着 0.3 美元——因为它每一步都要把你整屏截图传上云、再让大模型"看图说话"。更扎心的是,那截图里可能有你的邮箱、客户名单、内部后台。

这就是 2026 年 Computer-Use Agent(屏幕操控智能体)最大的信息差:所有人都以为它天生属于云巨头、天生按 token 计费、天生要把你的屏幕数据上传。 但就在 6 月第一周,海外四块开源拼图几乎同时落地,把它们拼起来,你就能在自己机器上跑一个"几乎零边际成本、数据不出本机、可随意改造"的屏幕操控 Agent。国内目前几乎没人系统讲这件事——这篇就是给你把拼图摆好。


拼图一(大脑):Holo3.1 —— 把 Computer-Use 塞进本地显卡

这是本周分量最重的一块。法国创业公司 H Company(前身为"H",做通用智能体)在 Hugging Face 开源了 Holo3.1 全家族——一组专为"看屏幕、动鼠标键盘"设计的视觉语言模型(VLM)。

信息差点:很多人以为"操控电脑"必须用 Anthropic/OpenAI 的闭源接口。Holo3.1 证明这件事的模型层已经开放了——差距只在"有没有人知道它存在"。


拼图二(小脑/路由):JetBrains Mellum2 —— 12B MoE,每 token 只烧 2.5B

一个真正能干活的屏幕 Agent 不会只用一个大模型。它要规划、要决定"该调哪个子工具"、要做摘要、要做 RAG 检索——这些"中间脏活"如果都丢给旗舰模型,成本和延迟都会爆炸。JetBrains 这周开源的 Mellum2 就是干这些中间活的"小脑"。


拼图三(护栏):NVIDIA Nemotron 3.5 Content Safety —— 给 Agent 装一个本地"刹车"

让一个本地 Agent 自由操控你的屏幕,最怕什么?怕它"自信地"点错了按钮——比如把"删除"当成"确认"、把内部数据贴进公网输入框。NVIDIA 6 月初发布的 Nemotron 3.5 Content Safety 正好补上这块:一个本地的安全审查小模型,在 Agent 动手前先审一遍 prompt、图片、甚至它准备输出的内容。


拼图四(管道):Hugging Face 把 hf CLI 重写成"Agent 友好"

前三块拼图都来自 Hugging Face,所以"怎么用脚本把它们拉下来、跑起来、接进 Agent"成了关键。Hugging Face 团队本周同步发布了一篇指南,把 hf 命令行工具重设计成"对 Agent 友好"的入口。


把四块拼图拼起来:一个本地 Computer-Use Agent 长什么样

flowchart TD
    U[用户下达任务<br/>例如:整理本地表格并发邮件] --> R[Mellum2 路由/规划层<br/>2.5B激活·毫秒级·本地]
    R --> S{需要操作屏幕?}
    S -- 是 --> G[Nemotron 3.5 安全审查<br/>自定义策略·本地刹车]
    G -- 放行 --> H[Holo3.1 操控屏幕<br/>看截图·点鼠标·敲键盘·本地]
    G -- 拦截 --> B[阻断并回报<br/>避免误删/外泄]
    H --> O[执行结果]
    S -- 否 --> D[直接走 RAG/摘要<br/>Mellum2 处理]
    O --> R
    D --> DONE[任务完成·全程数据不出本机]
    HF[hf CLI 结构化管道<br/>拉取/部署/编排以上模型] -.支撑.-> R
    HF -.支撑.-> G
    HF -.支撑.-> H
    classDef local fill:#e8f5e9,stroke:#2e7d32,stroke-width:2px;
    class R,G,H,D,B,O,DONE local;

这张图就是这周海外开源圈给你的"免费礼物":规划、护栏、操控、管道,四层全部本地、全部开源、全部可商用。 而一年前,你要凑齐这四层,要么花大价钱买云 API,要么自己从零训模型。


信息差总结:你知道的 vs 别人已经能做的

维度 多数人的认知(信息差劣势方) 本周开源圈已经做到(信息差优势方)
Computer-Use 模型 必须用 Claude/OpenAI 云接口 Holo3.1 本地开源,4B 即可推理
Agent 中间任务 全丢旗舰模型,又慢又贵 Mellum2 做 routing/RAG,2.5B 激活
安全护栏 云端敏感词,管不住业务规则 Nemotron 3.5 自定义策略,本地毫秒级
开发者工具 靠正则解析命令行输出 hf CLI 重写成结构化、Agent 友好
数据归属 截图必须上云 全链路数据不出本机
边际成本 按 token 计费,越用越贵 硬件折旧,跑越多越省

成本对比(参考值,2026 年 6 月)

方案 单任务成本估算 数据是否出本机 可定制性
Claude Computer Use(云,Sonnet 级) 约 $0.05–0.5/任务(重度截图会更高) 是,截图上云 低(闭源)
OpenAI Operator(云) 按 token/订阅,单任务类似量级 是 低
本地 Holo3.1 + Mellum2 + Nemotron 接近 $0(硬件折旧) 否 高(全开源)

说明:云端价格为公开文档参考值,受具体模型、缓存、用量影响波动大;本地方案的真实成本是电费 + 一次性硬件投入(一张 16–24GB 显存卡或 M 系列高配 Mac 即可起步)。


行动指南:今天就能做的四步

  1. 先摸 Holo3.1:打开 Holo3.1 集合页,从 Holo-3.1-4B 起步,按 quickstart 在本地跑通一个"看截图→给动作"的最小例子。
  2. 加一层 Mellum2 做规划:用 Apache 2.0 的 Mellum2 接管"先想再做"的中间步骤,把 Holo3.1 留给真正的屏幕操控,省 token 又降延迟。
  3. 装本地护栏:把 Nemotron 3.5 Content Safety 挡在 Agent 动手前,先写 3–5 条你最在意的业务红线(如"禁止点击删除/批量操作""禁止把含身份证号的截图外发")。
  4. 用 hf CLI 串起来:用结构化的 hf CLI 做模型拉取与编排,丢掉脆弱的正则解析,让整套流水线可以被你自己的 Agent 稳定调用。

如果你只有一台 M 系列 Mac,先从 4B 版本 + Mellum2 的 CPU/GPU 推理试水;如果有 24GB 显存的游戏卡,直接上 35B-A3B 体验旗舰级本地操控。


对中国技术从业者的启示

这周的四连发共同指向一个判断:Computer-Use 正在从"云巨头的增值服务"变成"开源的基建能力"。 对国内开发者有三层机会——

差距不在技术——技术已经开源摆在那;差距在信息:知道它存在、知道它能拼起来、知道怎么落地。


参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入