首页 › new-tools › AI不再是个网站:三个本地新物种

AI不再是个网站:三个本地新物种

你大概率还在用这样的方式"用 AI":打开浏览器,登进某个聊天网页,把问题粘进对话框,等它吐完,复制走。这套交互的潜台词是——AI 是一个"目的地",你要去拜访它。但 2026 年 6 月的海外圈子,范式已经变了:AI 正在从一个"网站",退化成一个住在你设备里的常驻进程。它不等你打开,它就蹲在你的 Telegram、你的文件系统、你的 IDE 后台,7×24 小时待命,有记忆、能动手、还主动找你汇报。

这一轮我挖了三个真正"住进你设备"的 6 月新物种,全部开源、全部可自托管、全部有官方一手链接。对中国技术人来说,这恰恰是最大的认知差:当大家还在比谁的聊天框更大、谁的网页会员更便宜时,老外已经把 AI 装成了"系统服务"。

范式转移:从"网站"到"住客"

先看一张图,理解这场转变的本质。它不是模型变强了,而是部署位置变了——AI 从"云端一个端点"搬到了"你已有的工具内部"。

flowchart LR
    subgraph OLD["旧范式:AI 是目的地(2023-2025)"]
        U1["你"] -->|"打开网页"| W["云端聊天网站"]
        W -->|"返回文字"| U1
    end
    subgraph NEW["新范式:AI 是住客(2026.6)"]
        A["聊天软件<br/>Telegram/WhatsApp/Discord"] --> G
        B["文件系统 / Shell"] --> G
        C["IDE 后台 / 本地小模型"] --> G
        G["常驻本地进程<br/>有记忆·能动手·主动心跳"] -.主动汇报.-> A
    end
    OLD ==住进你已有的工具==> NEW

下面三个工具,正好分别占据了"住进聊天软件""住进桌面/手机本地""住进 AI 基础设施后台"三个位置,拼出一张完整的"AI 住客"版图。

一、OpenClaw:把 AI 装进你的聊天软件,替你管整台电脑

官网:https://openclaw.ai/ | GitHub:https://github.com/openclaw/openclaw

如果只看一个工具,就看这个。OpenClaw 是开发者圈过去半年最炸的开源项目之一,由 PSPDFKit 创始人 Peter Steinberger(@steipet)打造——这位作者在 2026 年 2 月已被 OpenAI 挖走,《TechCrunch》《The Verge》都有报道,但项目仍以开源形式狂奔。它的核心定位一句话:一个跑在你自己机器上的常驻 AI 助手,你用平时聊天的软件跟它说话,它能操作你整台电脑。

它支持 WhatsApp、Telegram、Discord、Slack、Signal、iMessage——也就是说,你在手机上发条 Telegram,家里 Mac mini 上的 OpenClaw 就开始干活:读文件、跑 shell、填网页表单、抓数据、定时提醒(它甚至有"心跳"机制会主动找你汇报)。有人让它批量清理一万封邮件、自动跑 Codex/Claude Code 修 bug 并开 PR、从手机遥控部署。Karpathy 都转发了它,评价是"hilarious, troubling, and awesome(又好笑、又吓人、又牛逼)"。

为什么值得中国技术人关注:国内没有任何等价物。最接近的是各种"AI 助手 APP",但全是云端 SaaS——不可自托管、不能控制你的本机文件、没有跨应用持久记忆。Dify、FastGPT 是给开发者"搭服务给别人用"的工作流平台,方向相反。OpenClaw 填的是"私人 AI 员工住在我设备里"这个生态位,而这个品类在国内几乎无人知晓。

价格:开源免费、自托管。它本身不收费,成本只是它背后驱动的大模型——你可以接已有的 Claude/OpenAI 订阅(很多人拿 Claude Max + Claw),也可以完全跑本地模型(社区里有人用 MiniMax M2.5 纯本地驱动,零 API 费)。甚至有人让它把自己的 Copilot 订阅代理成 API 端点,白嫖额度。

怎么上手(macOS/Linux 一行命令):

curl -fsSL https://openclaw.ai/install.sh | bash   # 装 OpenClaw
openclaw onboard                                    # 绑定你的 Telegram/WhatsApp 等

或 npm i -g openclaw;喜欢读源码的人有 --install-method git 的 Hackable 安装。

6 月新东西(也是它的安全进化):OpenClaw 与 NVIDIA 合作推出 SkillSpector,每个 ClawHub 技能包都附带一张"技能卡"说明它干什么、来自哪,并扫描隐藏指令等 Agent 风险(5 月 31 日加 Auto Mode 执行审批,6 月 3 日上 Skill Workshop 让你先审再启用技能)。这点对中国用户尤其关键——给 AI 整机控制权,护栏必须先到位,否则就是"Agent 闯祸,账单/事故寄给你"。Docker 沙箱、未知联系人 pairing code 配对,都是为此设计。

适用人群:想要一个"24 小时在线、住在我设备、能真动手"私人助手的独立开发者、一人公司、极客玩家;想自托管 AI 而非把数据交给云厂商的隐私敏感者。

二、Holo3.1:computer-use 能力,从云端截图服务变成可下载的本地模型

官网:https://hcompany.ai/holo3.1 | HuggingFace:https://huggingface.co/blog/Hcompany/holo31

Computer-use(让 AI 看屏幕、点鼠标、操作 GUI)一直是"云端贵且慢、还涉及隐私"的活——传统做法是把你的屏幕截图源源不断上传到云端 API。H Company 在 6 月 1 日放出的 Holo3.1,把这件事本地化、模型化、可下载了。

Holo3.1 是基于 Qwen 家族微调的视觉语言模型(VLM)家族,专门干 computer-use,这次一口气给了四个尺寸:0.8B / 4B / 9B / 35B-A3B。小尺寸(0.8B/4B/9B)主打低成本、隐私、端侧部署;35B-A3B(激活 3B 参数的稀疏大杯)冲 SOTA 性能。关键突破有三:

  1. 首次放量化权重——FP8、Q4 GGUF、NVFP4 三种,专为本地推理优化,BF16 全精度几乎不掉点(FP8/NVFP4 的 OSWorld 分数仅比 BF16 低约 2 分)。
  2. 跨平台——从浏览器、桌面,扩展到移动端:在 AndroidWorld 上,35B-A3B 从 67% 提升到 79.3%,小杯 4B/9B 从 58% 涨到 71%。
  3. 原生 function-calling——以前只输出结构化 JSON,现在原生支持函数调用协议,方便塞进第三方 Agent 框架。

速度账很实在:在 DGX Spark 上,NVFP4(W4A16)的 token 吞吐是 FP8 的 1.41 倍、BF16 的 1.74 倍;端到端 Agent 单步时间从 6.8 秒砍到 3.3 秒。还有给消费级硬件的 Q4 GGUF——Agent 在你的 Windows/Mac 上本地跑,模型可同机或同网段 DGX Spark,全程不出你的网络。

为什么值得中国技术人关注:国内做 RPA + 大模型自动化,90% 还是"截图传云端"路线,企业内部系统、含敏感信息的界面根本不敢这么玩。Holo3.1 给了一条"computer-use 数据不出网"的本地路线,特别适合金融、政企、内部运维这类隐私/合规场景。差异化点不在"能不能控屏",而在"控屏的过程留在我自己机器里"。

价格:开源权重,HuggingFace 免费下载(社区已有人镜像了 Prince-1/Holo-3.1-0.8B 等小杯)。成本 = 你跑它的硬件;0.8B/4B 这种小杯,一张消费级显卡甚至 Apple Silicon 就能转。

怎么上手:到 HuggingFace 下对应尺寸 checkpoint;本地推理用 vLLM(Spark 上 NVFP4 吞吐最高)或 Q4 GGUF 跑 GGUF runtime;H Company 还提供 hub.hcompany.ai/quickstart 的快速入门。建议先用 0.8B/4B 在受控 UI 任务上验证,再上 35B-A3B。

适用人群:做浏览器/桌面/移动端自动化的 Agent 开发者、企业自动化与运维团队、研究 UI/屏幕控制的团队、想自建"数据不出网 RPA"的合规敏感行业。

三、Mellum2:JetBrains 的"焦点小模型",住进你的 AI 基础设施后台

JetBrains 官方博客:https://blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/ | HuggingFace:https://huggingface.co/collections/JetBrains/mellum-2

第三个新物种走的是另一条路:它不抢"最终回答"的活,专门住进 AI 系统的后台管线,干那些高频、低延迟、不需要旗舰的"脏活"。JetBrains 在 6 月开源的 Mellum2,把这种思路产品化了,并给它一个理论框架叫 "focal model(焦点模型)"——快、专、省,专为流水线中间环节优化。

规格很讲究:12B 总参数的 MoE,但每个 token 只激活 2.5B。这意味着它有大模型的容量、小模型的推理成本。官方实测:在同等量级里性能有竞争力,而推理时间砍到不到一半。它只训练自然语言 + 代码(不做多模态),刻意保持精简。协议是 Apache 2.0,商用友好。

JetBrains 给的四个核心用例,正好是 AI 系统里最该用小模型的地方:

  1. 路由/编排:分析进来的 prompt,决定派给哪个大模型或工具——省钱的关键开关。
  2. 低延迟 RAG:检索完用它做摘要、即时生成。
  3. 快子代理:把 Agent 流水线拆成"取上下文→规划→校验"等步骤,这种高频步骤交给 Mellum2,旗舰模型只干最终回答。
  4. 私有本地部署:自托管,代码和数据完全在自己手里。

为什么值得中国技术人关注:这是"小模型替旗舰省九成 API"思路在 2026 年的最新、最规范的落地。国内开发者手里有 Qwen3-Coder、DeepSeek 等开源小模型,但它们多被当"主力模型"用,很少有人像 JetBrains 这样把小模型显式定位成流水线里的"焦点组件"。直接抄这个架构:Mellum2 当路由+子代理,旗舰只做最终输出,账单肉眼可见地降。对自建 IDE 补全后端、搭内部 RAG、做 Agent 编排的团队,是个现成的开源积木。

价格:Apache 2.0,免费下载自托管。成本 = 自托管或推理服务商的算力;因为只激活 2.5B,单位推理极便宜。

怎么上手:到 HuggingFace 的 JetBrains Mellum 2 collection 拉权重,本地用 vLLM/Ollama 起,接进你的路由层、RAG 管线或 IDE 补全后端即可。也可直接试 JetBrains 的 Mellum 在线版体验效果。

适用人群:搭 AI 基础设施的团队、做 IDE/补全工具的开发者、RAG 产品团队、想把 Agent 流水线成本打下来的工程团队、有私有代码库需要本地化的企业。

信息差总结:你知道的 vs 别人不知道的

维度 你以为的(国内主流认知) 别人已经在做的(6月海外新物种)
AI 形态 一个要打开的聊天网页/APP 住在你设备里的常驻进程,主动找你
助手入口 厂商专用 APP,数据在云上 OpenClaw:住进 Telegram/WhatsApp,自托管、控本机
computer-use 截图传云端 API,贵+隐私风险 Holo3.1:本地可下载模型,0.8B~35B,数据不出网
模型分层 全用旗舰模型,一路贵到底 Mellum2:小模型干路由/子代理/RAG,旗舰只管最终回答
成本模型 按 token 持续付给云厂商 自托管+本地模型,边际成本趋近于零
安全 给 AI 权限=裸奔 SkillSpector 扫隐藏指令 + Auto Mode 审批 + 沙箱

行动指南:你现在就能做的三步

  1. 今晚就装一个 OpenClaw(性价比最高)。Mac/Linux 一行命令装好,openclaw onboard 绑定你的 Telegram。先用受控任务(清邮件、整理笔记、跑测试)试一周,务必先开 Auto Mode 执行审批和 Docker 沙箱,再逐步放权。把它当"实习员工"——先看着它干活,再让它独立。
  2. 拿 Holo3.1 小杯验证一条"数据不出网"自动化。下 0.8B 或 4B,跑一个内部系统的简单点击流,感受"本地 computer-use"和"云端截图 API"在隐私/延迟/成本上的真实差距。这能直接转化成你对客户/老板的差异化提案。
  3. 把 Mellum2 塞进你的 Agent 流水线当路由层。在最贵的旗舰调用前面加一层 Mellum2 做意图路由和子任务,跑两周对比账单。这是你能立刻看到数字下降的优化,建议先在低风险的非生产链路上灰度。

一句话收尾:这一轮信息差不是"哪个模型更强",而是"AI 该装在哪儿"。当 AI 从一个你要去拜访的网站,变成一个住在你设备里、替你 7×24 干活的常驻进程,最先想明白"部署位置"的人,会用极低的成本拿到极高的杠杆。上面三个开源工具,就是这场转移的第一批零件——现在抄,还早。

参考来源: - OpenClaw 官网与文档:https://openclaw.ai/ | GitHub:https://github.com/openclaw/openclaw - Holo3.1 官方发布:https://hcompany.ai/holo3.1 | HuggingFace 博客:https://huggingface.co/blog/Hcompany/holo31 - Mellum2 开源公告(JetBrains):https://blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/ - AI 模型发布追踪(6 月最新动态):https://aireleasetracker.com/latest - 6 月 AI 发布雷达汇总:https://kingy.ai/news/ai-launch-radar-june-8-2026/


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入