2026年6月第一周,AI工具圈像炸了锅。一个26M参数的微型模型能替代Gemini做工具路由,一个上海团队的开源模型把1M上下文和前沿编码能力塞进同一个权重包,NVIDIA发布了一个让机器人"预知物理世界"的开源模型,OpenAI则把Codex从写代码的助手变成了能搭企业应用的平台。这四件事,每一件都在重新定义"AI能做什么"的边界。
官网:github.com/cactus-compute/needle
Cactus Compute团队做了一个疯狂的事:把Google Gemini 3.1的工具调用能力蒸馏到一个只有26M参数的"Simple Attention Network"里。结果是什么?这个模型能在树莓派级别设备上跑到6000 tokens/秒的推理速度。
目前绝大多数AI Agent的架构是这样的:每次用户发一句话,系统都要把所有可用工具的schema塞进prompt,发给一个大模型(比如GPT-4o或Claude),让它判断该调哪个工具。这个过程:
Needle把这个环节变成了一个可以跑在本地的微型模型。26M参数意味着什么?大约50MB的内存占用。你的手机、智能手表、IoT设备都能跑。
| 指标 | Needle | 传统方案(GPT-4o) |
|---|---|---|
| 参数量 | 26M | ~1.8T |
| 推理速度 | 6000 tok/s | ~100 tok/s |
| 延迟 | <5ms | 200-500ms |
| 部署要求 | 任意设备 | 云端GPU |
| 成本 | 免费(本地) | $2.5/1M token |
| 许可证 | Apache 2.0 | 商业API |
Needle的设计不是替代大模型做复杂推理,而是专门解决tool routing这一件事。典型架构:
用户输入 → Needle(本地,判断调什么工具)→ 工具执行 → 大模型(云端,处理结果)
这意味着你可以用Needle做第一层过滤,只有真正需要大模型推理的请求才发到云端。对于一个有50个工具的Agent系统,这能省掉80%以上的API调用。
# 安装
pip install needle-engine
# 基本使用
from needle import NeedleRouter
router = NeedleRouter.from_pretrained("Cactus-Compute/needle")
result = router.route(
"帮我查一下明天北京的天气",
tools=[weather_tool, calendar_tool, email_tool]
)
# result: {tool: "weather_api", params: {city: "北京", date: "明天"}}
目前Needle在HuggingFace上开源,GitHub已有2.6K Star,支持微调——你可以用自己的工具schema做fine-tune,让它更适合你的业务场景。
适用人群:AI Agent开发者、边缘计算工程师、想要降低Agent成本的团队。
2026年6月1日,上海AI公司MiniMax发布M3模型。这不是又一个"跑分模型"——它是第一个同时做到以下三件事的开源权重模型:
| 特性 | MiniMax M3 | Claude Sonnet 4.6 | GPT-4o | DeepSeek V3 |
|---|---|---|---|---|
| 上下文 | 1M tokens | 200K | 128K | 128K |
| 编码 | 前沿级 | 前沿级 | 强 | 强 |
| 多模态 | 原生 | 原生 | 原生 | 文本为主 |
| 开源 | ✅ 开放权重 | ❌ | ❌ | ✅ |
| 架构 | 稀疏注意力 | — | — | MoE |
| 价格 | $0.2/1M输入 | $3/1M输入 | $2.5/1M输入 | $0.27/1M输入 |
MiniMax M3的定位非常明确:给Agent和长上下文任务用的。它的稀疏注意力架构让1M上下文不再是噱头——在长文档处理场景下,推理成本比全注意力模型低一个数量级。
对于中国开发者来说,这可能是目前性价比最高的选择:
from openai import OpenAI
client = OpenAI(
api_key="your-minimax-key",
base_url="https://api.minimax.chat/v1"
)
response = client.chat.completions.create(
model="minimax-m3",
messages=[
{"role": "user", "content": "分析这个100页的技术文档,提取所有API端点和参数"}
],
# 1M上下文,可以传入超长文档
)
适用人群:需要长上下文处理的开发者、编码Agent构建者、追求性价比的团队、需要私有化部署的企业。
NVIDIA做了一件别人没做过的事:发布了一个能模拟物理世界的开源基础模型。Cosmos 3不是一个聊天机器人,不是一个编码助手——它是一个"物理AI全知模型"。
物理AI(Physical AI)是指能在真实物理世界中感知、推理和行动的AI系统。自动驾驶汽车、工业机器人、无人机——这些都是物理AI的应用场景。
Cosmos 3的核心能力:
graph TD
A[Cosmos 3 物理AI全知模型] --> B[世界推理]
A --> C[物理模拟]
A --> D[未来预测]
B --> B1[理解物理规律]
B --> B2[物体交互关系]
B --> B3[场景语义理解]
C --> C1[真实感视频生成]
C --> C2[多场景仿真]
C --> C3[传感器数据模拟]
D --> D1[轨迹预测]
D --> D2[碰撞检测]
D --> D3[行为规划]
B1 & B2 & B3 --> E[自动驾驶训练]
C1 & C2 & C3 --> F[机器人仿真]
D1 & D2 & D3 --> G[工业自动化]
即使你不做机器人,Cosmos 3也值得关注:
| 能力 | Cosmos 3 | 国内仿真平台 |
|---|---|---|
| 物理推理 | ✅ 基础模型原生 | 需要规则引擎 |
| 生成真实感 | 高(diffusion-based) | 中等 |
| 开源程度 | 完全开放 | 多数商业授权 |
| 硬件需求 | 高(需NVIDIA GPU) | 低 |
| 部署成本 | GPU集群 | 云服务订阅 |
适用人群:自动驾驶工程师、机器人研发、计算机视觉研究者、仿真工程师。
官网:openai.com/index/codex-for-every-role-tool-workflow
2026年6月2日,OpenAI发布了Codex的重大更新——Sites和角色插件。Codex不再只是一个写代码的桌面应用,它现在是一个能直接从提示词生成可交互企业应用的平台。
Sites让你用自然语言描述一个应用,Codex就会生成一个可分享的交互式工作空间。比如你说"帮我做一个项目看板,包含任务分配、进度追踪、每日站会记录",Codex会直接给你生成一个能用的web应用。
OpenAI同时发布了6个面向企业的Codex插件:
| 插件 | 功能 | 目标用户 |
|---|---|---|
| Salesforce CRM | 客户数据查询与更新 | 销售 |
| HubSpot | 营销自动化集成 | 市场营销 |
| Linear | 项目管理与Issue追踪 | 工程 |
| Slack | 消息汇总与自动回复 | 全员 |
| Zendesk | 客服工单智能处理 | 客服 |
| Google Workspace | 文档/表格/日历操作 | 全员 |
Codex Sites的核心思路——从prompt到可交互应用——正在成为行业趋势。国内类似方向的工具也在跟进,但目前成熟度差距明显:
flowchart LR
subgraph 传统方式
A1[需求文档] --> A2[设计稿] --> A3[编码] --> A4[测试] --> A5[部署]
A1 -.->|2-4周| A5
end
subgraph Codex Sites方式
B1[自然语言描述] --> B2[Codex生成应用] --> B3[即时可用]
B1 -.->|2分钟| B3
end
style 传统方式 fill:#ffcccc
style Codex Sites方式 fill:#ccffcc
不过需要注意,Codex Sites目前仅面向Business和Enterprise客户开放预览,Plus用户暂时用不到。这也是一个信号:OpenAI正在把Codex定位为企业生产力工具而非个人编码助手。
适用人群:企业IT团队、产品经理、非技术团队负责人。
| 你知道的 | 你不知道的(本文信息差) |
|---|---|
| 大模型才能做工具调用 | 26M参数的Needle就能做tool routing,免费跑在本地 |
| 开源模型编码不如闭源 | MiniMax M3开源权重,编码接近Claude水平,价格1/15 |
| NVIDIA只做GPU硬件 | Cosmos 3是开源物理AI模型,能模拟和预测物理世界 |
| Codex是个编程助手 | Codex Sites能用prompt直接生成企业级应用 |
| Agent必须依赖云端大模型 | 用Needle做路由+本地轻量推理,可省80%API成本 |
| 1M上下文只是噱头 | MiniMax M3的稀疏注意力让1M真正可用且成本低 |
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
