<!-- title: 贵模型只说最后一句：六月四款后台小模型 -->
<!-- domain: new-tools -->

你公司每月给 Claude Opus、GPT 烧的钱，可能有七成花在了它根本不该干的活上——分类一句话、判断内容安不安全、点几下鼠标、写一段 boilerplate。2026 年 6 月这十几天，海外集体上线了一批"后台小模型"，专门接走这些脏活。最关键的是：它们几乎全是**开放权重、能下载、能自托管**。这篇拆解四款刚发布的新物种，告诉你贵模型只需要说"最后一句话"，其余的脏活怎么外包给几乎不要钱的小模型。

## 一个被忽略的范式：前台门面，后台搬砖

先说清楚这套"信息差"的核心。过去一年，大家讨论 AI 产品，焦点都在"用哪个 frontier 模型"——Opus 4.8、GPT-5、Gemini。但海外真正在跑生产环境的团队，6 月开始集体换打法：

- **前台**：贵模型只在用户看得见的那一步出现，写最后一段回复、做最后一次拍板。
- **后台**：一整套**可下载的小模型**接走了路由、摘要、安全审核、操控屏幕、写代码这些**高频低难度**的活。

我把它叫做"影子栈（Shadow Stack）"。它和国内常见的"一条 API 走天下"的最大区别是：脏活不经过贵模型，账单直接砍到地板。

```mermaid
flowchart TD
    U[用户请求] --> SEC{Nemotron 3.5<br/>安全保安}
    SEC -->|违规| BLOCK[拦截/改写]
    SEC -->|放行| RT[Mellum2 2.5B<br/>路由调度]
    RT -->|闲聊/摘要| RT2[Mellum2 直接答]
    RT -->|要写代码| CODE[Kimi K2.7 Code<br/>代码写手]
    RT -->|要点鼠标/填表| GUI[Holo3.1<br/>本地操控双手]
    RT2 --> FINAL
    CODE --> FINAL
    GUI --> FINAL
    FINAL[Claude/GPT<br/>只写最后一句话]
    FINAL --> OUT[交付用户]
    style FINAL fill:#ffd6d6
    style RT fill:#d6e4ff
    style SEC fill:#fff3cd
    style CODE fill:#d6ffe0
    style GUI fill:#e6d6ff
```

下面逐个拆四款 6 月新发布的"后台小模型"，每款都给链接、价格、和国内同类对比。

## 工具一：JetBrains Mellum2 —— 2.5B 激活的调度员

- **名称**：Mellum2（JetBrains）
- **发布**：2026 年 6 月 1 日
- **链接**：`huggingface.co/collections/JetBrains/mellum-2`，官方博客 `blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/`
- **功能**：12B 参数的 Mixture-of-Experts 模型，但每个 token 只激活 **2.5B**。JetBrains 自己的定位很清楚——**路由、问答、RAG、子 agent 步骤、私有/自托管场景的代码补全**。也就是说，它是那个"判断这事要不要麻烦大哥"的调度员。变体里有 Thinking-SFT 版，支持低延迟编码工作流。
- **价格**：**Apache 2.0，权重免费**。自托管只算显卡成本。激活 2.5B 意味着一张消费级卡就能跑。
- **为什么值得关注**：这是"小模型塞进 agent 栈"的典型。生产系统里 90% 的中间步骤（分类、摘要、改写、路由）根本不需要 frontier 模型，Mellum2 把这部分接走，延迟和成本同时下降。JetBrains 官方技术报告还给了代码生成、科学、数学的基准。
- **国内同类对比**：对标 Qwen2.5-Coder 小杯、GLM-Coder Air。区别在于 Mellum2 是 JetBrains 用自己 IDE 的真实数据训出来的，**补全和子 agent 的"工程味"更重**，而国产小杯更偏通用对话。
- **适用人群**：IDE/插件开发者、做 RAG 的团队、想给 agent 加一个"廉价格式化层"的后端工程师。

## 工具二：NVIDIA Nemotron 3.5 Content Safety —— 多模态的门口保安

- **名称**：Nemotron 3.5 Content Safety（NVIDIA）
- **发布**：2026 年 6 月 4 日
- **链接**：NVIDIA 开发者站 + Hugging Face 模型卡（NVIDIA 出品，商用就绪）
- **功能**：一个小型语言模型，专门做**内容安全审核**，而且**多模态**——文本、图像、（可选）音频都能查。两种模式：标准安全分类法模式，和**自定义策略模式**（你自己定义什么叫违规）。内置对 GDPR、CCPA 等合规框架的支持，低延迟，适合实时客服、内容审核、交互式 AI。
- **价格**：**开放权重、商用就绪**（按标注的 license/条款）。自托管免费，只算推理成本。
- **为什么值得关注**：国内做 AI 产品的朋友最头疼的就是合规。过去要么用大厂的审核 API（按量收费、数据出境），要么自己写规则。Nemotron 3.5 给了第三条路——**本地部署、策略可定制、多模态**。它把"保安"从云上搬到你自己的机房，数据不出去，规则你定。
- **国内同类对比**：对标阿里云内容安全、百度 moder API。核心差异：**自托管 + 自定义策略**，不用把用户内容发给第三方，合规审计更可控。
- **适用人群**：安全工程师、企业 AI 团队、做 C 端应用需要过审的产品、合规团队、agent 运营方。

> 注意：Nemotron 3.5 不是"打开就安全"的魔法开关。NVIDIA 自己也强调，它是**让你按自己的策略做评估**的工具，标准基准和你的真实业务往往对不上，上线前务必用你自己的 case 跑一遍。

## 工具三：H Company Holo3.1 —— 本地点鼠标的双手

- **名称**：Holo3.1（H Company）
- **发布**：2026 年 6 月 2 日
- **链接**：Hugging Face 模型卡（H Company 官方）
- **功能**：一组**视觉-语言 computer-use 模型**，能在网页、桌面、移动端做导航和操作。提供 **0.8B / 4B / 9B / 35B-A3B** 四个档位，原生支持 function calling，并且带了**量化 checkpoint**，专门为本地部署优化。鼠标键盘自动化、GUI 交互、应用控制，全程**数据不出本机**。
- **价格**：**开放权重**，无托管价，成本取决于你的硬件和推理方案。
- **为什么值得关注**：computer-use（操控电脑）过去只能靠云端大模型，又慢又贵还泄露隐私。Holo3.1 把这件事**压到本地**——0.8B 的版本甚至能在边缘设备跑。对中国开发者尤其有价值的是：**国内开源的对等 computer-use 小模型基本是空白**，这块信息差很大。RPA、自动化测试、内部工具打通，都能用上。
- **国内同类对比**：开源 computer-use 小模型国内尚无对等物；商用层面接近的是各种 RPA + 云端 vision model 方案，但都做不到"本地小模型直接点鼠标"。Holo3.1 填的就是这个空。
- **适用人群**：agent 开发者、自动化团队、RPA/测试工程师、UI 研究团队、要做内部系统打通的运维。

## 工具四：Moonshot Kimi K2.7 Code —— 中国出身却在海外先火的代码写手

- **名称**：Kimi K2.7 Code（月之暗面 Moonshot AI）
- **发布**：2026 年 6 月 12 日（6 月最新）
- **链接**：官方 `kimi.com/resources/kimi-k2-7-code`
- **功能**：基于 K2.6 的**开源 agentic 编码模型**，专注代码。官方称在 Kimi Code Bench v2 上比 K2.6 提升 **+21.8%**，而且**token 消耗降约 30%**（更省钱）。agentic 也就是说它不只是补全，能自己跑工具、改文件、多步编码。
- **价格**：**开放权重，可自托管**；走 Moonshot API 也比 frontier 便宜一截，外加省 30% token。
- **为什么值得关注**：这是信息差的"反向流"——**中国公司出的模型，海外讨论热度比国内还高**。aireleasetracker 把它列为 6 月 12 日最新发布。对于国内团队，它的价值是：**写代码这件事，可以专门交给一个又便宜又强的开源专才，而不是每次都调 Opus**。和前面 Mellum2 的"调度员"正好搭档——Mellum2 判断"这事要写代码"，Kimi K2.7 Code 接过去写。
- **国内同类对比**：对标 Qwen-Coder、DeepSeek-Coder。差异在于 agentic + 省 token 的组合，以及 Kimi 系在 2026 年的开源开放度。
- **适用人群**：独立开发者、Cursor/Cline 用户想换便宜后端、需要批量编码任务（迁移、补测试、改 API）的团队。

## 这套影子栈一个月能省多少

用一组保守的估算（假设一个中型 AI 产品，每月 1000 万次请求）：

| 工作类型 | 全用 Opus 4.8（按量） | 影子栈方案 | 估算降幅 |
|---|---|---|---|
| 内容分类/路由 | 每次约 $0.005 | Mellum2 自托管 | ~90% |
| 安全审核 | 每次约 $0.003 | Nemotron 3.5 本地 | ~95% |
| 简单表单/点击自动化 | 每次 $0.02+ | Holo3.1 本地 | ~98% |
| 编码任务 | 每次 $0.05+ | Kimi K2.7 Code（省 30% token） | ~40-60% |
| **仅"最后一句话"** | 占总量 ~10% | 保留 Opus/GPT | 不变 |

把脏活剥离后，贵模型的调用量可能从 1000 万次降到 100 万次（只有"最后一句话"和真正复杂的步骤），**API 账单整体砍到原来的两到三成**，是常见结果。这不是玄学——6 月海外那批新工具，本质就是把这条路径"产品化"了。

## 信息差总结：你知道的 vs 别人知道的

| 维度 | 多数人知道的 | 这篇告诉你的（6 月信息差） |
|---|---|---|
| 模型选型 | 一个 frontier 模型干所有事 | 前台贵模型只管最后一句话 |
| 路由/摘要 | 全喂给 GPT/Claude | Mellum2（2.5B 激活，Apache 2.0） |
| 内容安全 | 调大厂审核 API | Nemotron 3.5 本地多模态保安 |
| 操控电脑 | 云端 vision 大模型 | Holo3.1 本地点鼠标，0.8B 起步 |
| 写代码 | 每次调 Opus | Kimi K2.7 Code 专才，省 30% token |
| 部署 | 全在云端按量付费 | 影子栈自托管，数据不出门 |

## 行动指南：今晚就能动手的四步

1. **先做一次"脏活审计"**：拉一周的 API 日志，按"分类/摘要/审核/补全/复杂推理"分类。你会大概率发现，真正需要 frontier 模型的不到 20%。
2. **装一个调度员**：去 `huggingface.co/collections/JetBrains/mellum-2` 拉 Mellum2，先用它接走分类和摘要。激活 2.5B，单卡即可。
3. **给 API 加个本地保安**：拿 Nemotron 3.5 Content Safety 挡在入口，按你自己的策略配置，先把审核费和数据出境风险压下去。
4. **挑一个编码任务换后端**：用 Kimi K2.7 Code 跑一批迁移/补测试任务，对比 token 账单。Computer-use 场景再上 Holo3.1 试本地自动化。

四步走完，你的"影子栈"雏形就有了。接下来是把贵模型回调到只在"最后一句话"出现——那时候你才会发现，原来账单里有这么多冤枉钱。

## 一句话收尾

6 月这批新工具的真正信号是：**AI 产品的护城河，正在从"我用最贵的模型"变成"我用最对的小模型组合"**。谁先把脏活剥离给可下载的小模型，谁就先把成本、延迟、隐私三件事一起解决。这个信息差，窗口期不会太长。

## 参考来源

- AI Launch Radar: New AI Tools for June 8, 2026 — kingy.ai：`kingy.ai/news/ai-launch-radar-june-8-2026/`
- Mellum2 Goes Open Source: A Fast Model for AI Workflows — JetBrains 官方博客：`blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/`
- Mellum2 Collection — Hugging Face：`huggingface.co/collections/JetBrains/mellum-2`
- Latest AI Model Releases: June 2026 Roundup（含 Nemotron 3.5、Holo3.1、Mellum2 细节）— DEV Community：`dev.to/vjswamy/latest-ai-model-releases-june-2026-roundup-49j5`
- Kimi K2.7 Code 官方资源页：`kimi.com/resources/kimi-k2-7-code`
- Moonshot AI Releases Kimi K2.7-Code 报道（+21.8%、省 30% token）— MarkTechPost：`marktechpost.com/2026/06/12/moonshot-ai-releases-kimi-k2-7-code-a-coding-model-reporting-21-8-on-kimi-code-bench-v2-over-k2-6/`

---
> 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护。
> 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

> [!tip] 51学通信知识星球
> **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。
> **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。
> **当前规模**：5200 篇主题 / 990 个回答，198 元/年。
> **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。
> **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。

![51学通信知识星球海报-扫码加入](https://wiki.500nian.com/images/zhixingqiu_qrcode.png)
