📚 知识库首页 交互式阅读 Markdown
你公司每月给 Claude Opus、GPT 烧的钱,可能有七成花在了它根本不该干的活上——分类一句话、判断内容安不安全、点几下鼠标、写一段 boilerplate。2026 年 6 月这十几天,海外集体上线了一批"后台小模型",专门接走这些脏活。最关键的是:它们几乎全是开放权重、能下载、能自托管 。这篇拆解四款刚发布的新物种,告诉你贵模型只需要说"最后一句话",其余的脏活怎么外包给几乎不要钱的小模型。
一个被忽略的范式:前台门面,后台搬砖
先说清楚这套"信息差"的核心。过去一年,大家讨论 AI 产品,焦点都在"用哪个 frontier 模型"——Opus 4.8、GPT-5、Gemini。但海外真正在跑生产环境的团队,6 月开始集体换打法:
前台 :贵模型只在用户看得见的那一步出现,写最后一段回复、做最后一次拍板。
后台 :一整套可下载的小模型 接走了路由、摘要、安全审核、操控屏幕、写代码这些高频低难度 的活。
我把它叫做"影子栈(Shadow Stack)"。它和国内常见的"一条 API 走天下"的最大区别是:脏活不经过贵模型,账单直接砍到地板。
flowchart TD
U[用户请求] --> SEC{Nemotron 3.5<br/>安全保安}
SEC -->|违规| BLOCK[拦截/改写]
SEC -->|放行| RT[Mellum2 2.5B<br/>路由调度]
RT -->|闲聊/摘要| RT2[Mellum2 直接答]
RT -->|要写代码| CODE[Kimi K2.7 Code<br/>代码写手]
RT -->|要点鼠标/填表| GUI[Holo3.1<br/>本地操控双手]
RT2 --> FINAL
CODE --> FINAL
GUI --> FINAL
FINAL[Claude/GPT<br/>只写最后一句话]
FINAL --> OUT[交付用户]
style FINAL fill:#ffd6d6
style RT fill:#d6e4ff
style SEC fill:#fff3cd
style CODE fill:#d6ffe0
style GUI fill:#e6d6ff
下面逐个拆四款 6 月新发布的"后台小模型",每款都给链接、价格、和国内同类对比。
工具一:JetBrains Mellum2 —— 2.5B 激活的调度员
名称 :Mellum2(JetBrains)
发布 :2026 年 6 月 1 日
链接 :huggingface.co/collections/JetBrains/mellum-2,官方博客 blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/
功能 :12B 参数的 Mixture-of-Experts 模型,但每个 token 只激活 2.5B 。JetBrains 自己的定位很清楚——路由、问答、RAG、子 agent 步骤、私有/自托管场景的代码补全 。也就是说,它是那个"判断这事要不要麻烦大哥"的调度员。变体里有 Thinking-SFT 版,支持低延迟编码工作流。
价格 :Apache 2.0,权重免费 。自托管只算显卡成本。激活 2.5B 意味着一张消费级卡就能跑。
为什么值得关注 :这是"小模型塞进 agent 栈"的典型。生产系统里 90% 的中间步骤(分类、摘要、改写、路由)根本不需要 frontier 模型,Mellum2 把这部分接走,延迟和成本同时下降。JetBrains 官方技术报告还给了代码生成、科学、数学的基准。
国内同类对比 :对标 Qwen2.5-Coder 小杯、GLM-Coder Air。区别在于 Mellum2 是 JetBrains 用自己 IDE 的真实数据训出来的,补全和子 agent 的"工程味"更重 ,而国产小杯更偏通用对话。
适用人群 :IDE/插件开发者、做 RAG 的团队、想给 agent 加一个"廉价格式化层"的后端工程师。
工具二:NVIDIA Nemotron 3.5 Content Safety —— 多模态的门口保安
名称 :Nemotron 3.5 Content Safety(NVIDIA)
发布 :2026 年 6 月 4 日
链接 :NVIDIA 开发者站 + Hugging Face 模型卡(NVIDIA 出品,商用就绪)
功能 :一个小型语言模型,专门做内容安全审核 ,而且多模态 ——文本、图像、(可选)音频都能查。两种模式:标准安全分类法模式,和自定义策略模式 (你自己定义什么叫违规)。内置对 GDPR、CCPA 等合规框架的支持,低延迟,适合实时客服、内容审核、交互式 AI。
价格 :开放权重、商用就绪 (按标注的 license/条款)。自托管免费,只算推理成本。
为什么值得关注 :国内做 AI 产品的朋友最头疼的就是合规。过去要么用大厂的审核 API(按量收费、数据出境),要么自己写规则。Nemotron 3.5 给了第三条路——本地部署、策略可定制、多模态 。它把"保安"从云上搬到你自己的机房,数据不出去,规则你定。
国内同类对比 :对标阿里云内容安全、百度 moder API。核心差异:自托管 + 自定义策略 ,不用把用户内容发给第三方,合规审计更可控。
适用人群 :安全工程师、企业 AI 团队、做 C 端应用需要过审的产品、合规团队、agent 运营方。
注意:Nemotron 3.5 不是"打开就安全"的魔法开关。NVIDIA 自己也强调,它是让你按自己的策略做评估 的工具,标准基准和你的真实业务往往对不上,上线前务必用你自己的 case 跑一遍。
工具三:H Company Holo3.1 —— 本地点鼠标的双手
名称 :Holo3.1(H Company)
发布 :2026 年 6 月 2 日
链接 :Hugging Face 模型卡(H Company 官方)
功能 :一组视觉-语言 computer-use 模型 ,能在网页、桌面、移动端做导航和操作。提供 0.8B / 4B / 9B / 35B-A3B 四个档位,原生支持 function calling,并且带了量化 checkpoint ,专门为本地部署优化。鼠标键盘自动化、GUI 交互、应用控制,全程数据不出本机 。
价格 :开放权重 ,无托管价,成本取决于你的硬件和推理方案。
为什么值得关注 :computer-use(操控电脑)过去只能靠云端大模型,又慢又贵还泄露隐私。Holo3.1 把这件事压到本地 ——0.8B 的版本甚至能在边缘设备跑。对中国开发者尤其有价值的是:国内开源的对等 computer-use 小模型基本是空白 ,这块信息差很大。RPA、自动化测试、内部工具打通,都能用上。
国内同类对比 :开源 computer-use 小模型国内尚无对等物;商用层面接近的是各种 RPA + 云端 vision model 方案,但都做不到"本地小模型直接点鼠标"。Holo3.1 填的就是这个空。
适用人群 :agent 开发者、自动化团队、RPA/测试工程师、UI 研究团队、要做内部系统打通的运维。
工具四:Moonshot Kimi K2.7 Code —— 中国出身却在海外先火的代码写手
名称 :Kimi K2.7 Code(月之暗面 Moonshot AI)
发布 :2026 年 6 月 12 日(6 月最新)
链接 :官方 kimi.com/resources/kimi-k2-7-code
功能 :基于 K2.6 的开源 agentic 编码模型 ,专注代码。官方称在 Kimi Code Bench v2 上比 K2.6 提升 +21.8% ,而且token 消耗降约 30% (更省钱)。agentic 也就是说它不只是补全,能自己跑工具、改文件、多步编码。
价格 :开放权重,可自托管 ;走 Moonshot API 也比 frontier 便宜一截,外加省 30% token。
为什么值得关注 :这是信息差的"反向流"——中国公司出的模型,海外讨论热度比国内还高 。aireleasetracker 把它列为 6 月 12 日最新发布。对于国内团队,它的价值是:写代码这件事,可以专门交给一个又便宜又强的开源专才,而不是每次都调 Opus 。和前面 Mellum2 的"调度员"正好搭档——Mellum2 判断"这事要写代码",Kimi K2.7 Code 接过去写。
国内同类对比 :对标 Qwen-Coder、DeepSeek-Coder。差异在于 agentic + 省 token 的组合,以及 Kimi 系在 2026 年的开源开放度。
适用人群 :独立开发者、Cursor/Cline 用户想换便宜后端、需要批量编码任务(迁移、补测试、改 API)的团队。
这套影子栈一个月能省多少
用一组保守的估算(假设一个中型 AI 产品,每月 1000 万次请求):
工作类型
全用 Opus 4.8(按量)
影子栈方案
估算降幅
内容分类/路由
每次约 $0.005
Mellum2 自托管
~90%
安全审核
每次约 $0.003
Nemotron 3.5 本地
~95%
简单表单/点击自动化
每次 $0.02+
Holo3.1 本地
~98%
编码任务
每次 $0.05+
Kimi K2.7 Code(省 30% token)
~40-60%
仅"最后一句话"
占总量 ~10%
保留 Opus/GPT
不变
把脏活剥离后,贵模型的调用量可能从 1000 万次降到 100 万次(只有"最后一句话"和真正复杂的步骤),API 账单整体砍到原来的两到三成 ,是常见结果。这不是玄学——6 月海外那批新工具,本质就是把这条路径"产品化"了。
信息差总结:你知道的 vs 别人知道的
维度
多数人知道的
这篇告诉你的(6 月信息差)
模型选型
一个 frontier 模型干所有事
前台贵模型只管最后一句话
路由/摘要
全喂给 GPT/Claude
Mellum2(2.5B 激活,Apache 2.0)
内容安全
调大厂审核 API
Nemotron 3.5 本地多模态保安
操控电脑
云端 vision 大模型
Holo3.1 本地点鼠标,0.8B 起步
写代码
每次调 Opus
Kimi K2.7 Code 专才,省 30% token
部署
全在云端按量付费
影子栈自托管,数据不出门
行动指南:今晚就能动手的四步
先做一次"脏活审计" :拉一周的 API 日志,按"分类/摘要/审核/补全/复杂推理"分类。你会大概率发现,真正需要 frontier 模型的不到 20%。
装一个调度员 :去 huggingface.co/collections/JetBrains/mellum-2 拉 Mellum2,先用它接走分类和摘要。激活 2.5B,单卡即可。
给 API 加个本地保安 :拿 Nemotron 3.5 Content Safety 挡在入口,按你自己的策略配置,先把审核费和数据出境风险压下去。
挑一个编码任务换后端 :用 Kimi K2.7 Code 跑一批迁移/补测试任务,对比 token 账单。Computer-use 场景再上 Holo3.1 试本地自动化。
四步走完,你的"影子栈"雏形就有了。接下来是把贵模型回调到只在"最后一句话"出现——那时候你才会发现,原来账单里有这么多冤枉钱。
一句话收尾
6 月这批新工具的真正信号是:AI 产品的护城河,正在从"我用最贵的模型"变成"我用最对的小模型组合" 。谁先把脏活剥离给可下载的小模型,谁就先把成本、延迟、隐私三件事一起解决。这个信息差,窗口期不会太长。
参考来源
AI Launch Radar: New AI Tools for June 8, 2026 — kingy.ai:kingy.ai/news/ai-launch-radar-june-8-2026/
Mellum2 Goes Open Source: A Fast Model for AI Workflows — JetBrains 官方博客:blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/
Mellum2 Collection — Hugging Face:huggingface.co/collections/JetBrains/mellum-2
Latest AI Model Releases: June 2026 Roundup(含 Nemotron 3.5、Holo3.1、Mellum2 细节)— DEV Community:dev.to/vjswamy/latest-ai-model-releases-june-2026-roundup-49j5
Kimi K2.7 Code 官方资源页:kimi.com/resources/kimi-k2-7-code
Moonshot AI Releases Kimi K2.7-Code 报道(+21.8%、省 30% token)— MarkTechPost:marktechpost.com/2026/06/12/moonshot-ai-releases-kimi-k2-7-code-a-coding-model-reporting-21-8-on-kimi-code-bench-v2-over-k2-6/
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生 (微信ID: gprshome201101)维护。
聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球
星主:爱卫生 (微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。
星球定位 :深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。
当前规模 :5200 篇主题 / 990 个回答,198 元/年。
加入福利 :加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。
AI 加持 :51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。