首页 › new-tools › 26M跑工具调用、1M上下文开源:四款重磅新AI利器

26M参数跑工具调用、1M上下文开源:四款重磅新AI利器

2026年6月第一周,AI工具圈像炸了锅。一个26M参数的微型模型能替代Gemini做工具路由,一个上海团队的开源模型把1M上下文和前沿编码能力塞进同一个权重包,NVIDIA发布了一个让机器人"预知物理世界"的开源模型,OpenAI则把Codex从写代码的助手变成了能搭企业应用的平台。这四件事,每一件都在重新定义"AI能做什么"的边界。

一、Needle:26M参数的"工具调用瑞士军刀"

官网:github.com/cactus-compute/needle

Cactus Compute团队做了一个疯狂的事:把Google Gemini 3.1的工具调用能力蒸馏到一个只有26M参数的"Simple Attention Network"里。结果是什么?这个模型能在树莓派级别设备上跑到6000 tokens/秒的推理速度。

为什么这很重要

目前绝大多数AI Agent的架构是这样的:每次用户发一句话,系统都要把所有可用工具的schema塞进prompt,发给一个大模型(比如GPT-4o或Claude),让它判断该调哪个工具。这个过程:

Needle把这个环节变成了一个可以跑在本地的微型模型。26M参数意味着什么?大约50MB的内存占用。你的手机、智能手表、IoT设备都能跑。

核心参数

指标 Needle 传统方案(GPT-4o)
参数量 26M ~1.8T
推理速度 6000 tok/s ~100 tok/s
延迟 <5ms 200-500ms
部署要求 任意设备 云端GPU
成本 免费(本地) $2.5/1M token
许可证 Apache 2.0 商业API

实际使用场景

Needle的设计不是替代大模型做复杂推理,而是专门解决tool routing这一件事。典型架构:

用户输入 → Needle(本地,判断调什么工具)→ 工具执行 → 大模型(云端,处理结果)

这意味着你可以用Needle做第一层过滤,只有真正需要大模型推理的请求才发到云端。对于一个有50个工具的Agent系统,这能省掉80%以上的API调用。

快速上手

# 安装
pip install needle-engine

# 基本使用
from needle import NeedleRouter

router = NeedleRouter.from_pretrained("Cactus-Compute/needle")
result = router.route(
    "帮我查一下明天北京的天气",
    tools=[weather_tool, calendar_tool, email_tool]
)
# result: {tool: "weather_api", params: {city: "北京", date: "明天"}}

目前Needle在HuggingFace上开源,GitHub已有2.6K Star,支持微调——你可以用自己的工具schema做fine-tune,让它更适合你的业务场景。

适用人群:AI Agent开发者、边缘计算工程师、想要降低Agent成本的团队。


二、MiniMax M3:开源模型的"三合一"王炸

官网:platform.minimax.io

2026年6月1日,上海AI公司MiniMax发布M3模型。这不是又一个"跑分模型"——它是第一个同时做到以下三件事的开源权重模型:

  1. 前沿编码能力(frontier-level coding)
  2. 1M token上下文窗口
  3. 原生多模态(文本+图像+代码)

核心规格

特性 MiniMax M3 Claude Sonnet 4.6 GPT-4o DeepSeek V3
上下文 1M tokens 200K 128K 128K
编码 前沿级 前沿级 强 强
多模态 原生 原生 原生 文本为主
开源 ✅ 开放权重 ❌ ❌ ✅
架构 稀疏注意力 — — MoE
价格 $0.2/1M输入 $3/1M输入 $2.5/1M输入 $0.27/1M输入

为什么值得关注

MiniMax M3的定位非常明确:给Agent和长上下文任务用的。它的稀疏注意力架构让1M上下文不再是噱头——在长文档处理场景下,推理成本比全注意力模型低一个数量级。

对于中国开发者来说,这可能是目前性价比最高的选择:

API调用示例

from openai import OpenAI

client = OpenAI(
    api_key="your-minimax-key",
    base_url="https://api.minimax.chat/v1"
)

response = client.chat.completions.create(
    model="minimax-m3",
    messages=[
        {"role": "user", "content": "分析这个100页的技术文档,提取所有API端点和参数"}
    ],
    # 1M上下文,可以传入超长文档
)

适用人群:需要长上下文处理的开发者、编码Agent构建者、追求性价比的团队、需要私有化部署的企业。


三、NVIDIA Cosmos 3:让机器人"看见未来"的物理AI模型

官网:nvidianews.nvidia.com

NVIDIA做了一件别人没做过的事:发布了一个能模拟物理世界的开源基础模型。Cosmos 3不是一个聊天机器人,不是一个编码助手——它是一个"物理AI全知模型"。

什么是"物理AI"

物理AI(Physical AI)是指能在真实物理世界中感知、推理和行动的AI系统。自动驾驶汽车、工业机器人、无人机——这些都是物理AI的应用场景。

Cosmos 3的核心能力:

graph TD
    A[Cosmos 3 物理AI全知模型] --> B[世界推理]
    A --> C[物理模拟]
    A --> D[未来预测]

    B --> B1[理解物理规律]
    B --> B2[物体交互关系]
    B --> B3[场景语义理解]

    C --> C1[真实感视频生成]
    C --> C2[多场景仿真]
    C --> C3[传感器数据模拟]

    D --> D1[轨迹预测]
    D --> D2[碰撞检测]
    D --> D3[行为规划]

    B1 & B2 & B3 --> E[自动驾驶训练]
    C1 & C2 & C3 --> F[机器人仿真]
    D1 & D2 & D3 --> G[工业自动化]

为什么这对你重要

即使你不做机器人,Cosmos 3也值得关注:

  1. 合成数据生成:如果你在做计算机视觉,Cosmos 3可以生成无限的标注训练数据,不需要再花钱请人标注
  2. 仿真测试:自动驾驶、无人机路径规划可以在模拟环境中低成本验证
  3. 开源可用:模型权重在HuggingFace开放下载,Apache 2.0许可

与国内方案对比

能力 Cosmos 3 国内仿真平台
物理推理 ✅ 基础模型原生 需要规则引擎
生成真实感 高(diffusion-based) 中等
开源程度 完全开放 多数商业授权
硬件需求 高(需NVIDIA GPU) 低
部署成本 GPU集群 云服务订阅

适用人群:自动驾驶工程师、机器人研发、计算机视觉研究者、仿真工程师。


四、OpenAI Codex Sites:从聊天到搭建企业应用

官网:openai.com/index/codex-for-every-role-tool-workflow

2026年6月2日,OpenAI发布了Codex的重大更新——Sites和角色插件。Codex不再只是一个写代码的桌面应用,它现在是一个能直接从提示词生成可交互企业应用的平台。

Sites是什么

Sites让你用自然语言描述一个应用,Codex就会生成一个可分享的交互式工作空间。比如你说"帮我做一个项目看板,包含任务分配、进度追踪、每日站会记录",Codex会直接给你生成一个能用的web应用。

六大企业插件

OpenAI同时发布了6个面向企业的Codex插件:

插件 功能 目标用户
Salesforce CRM 客户数据查询与更新 销售
HubSpot 营销自动化集成 市场营销
Linear 项目管理与Issue追踪 工程
Slack 消息汇总与自动回复 全员
Zendesk 客服工单智能处理 客服
Google Workspace 文档/表格/日历操作 全员

对中国开发者的启示

Codex Sites的核心思路——从prompt到可交互应用——正在成为行业趋势。国内类似方向的工具也在跟进,但目前成熟度差距明显:

flowchart LR
    subgraph 传统方式
        A1[需求文档] --> A2[设计稿] --> A3[编码] --> A4[测试] --> A5[部署]
        A1 -.->|2-4周| A5
    end

    subgraph Codex Sites方式
        B1[自然语言描述] --> B2[Codex生成应用] --> B3[即时可用]
        B1 -.->|2分钟| B3
    end

    style 传统方式 fill:#ffcccc
    style Codex Sites方式 fill:#ccffcc

不过需要注意,Codex Sites目前仅面向Business和Enterprise客户开放预览,Plus用户暂时用不到。这也是一个信号:OpenAI正在把Codex定位为企业生产力工具而非个人编码助手。

适用人群:企业IT团队、产品经理、非技术团队负责人。


信息差总结

你知道的 你不知道的(本文信息差)
大模型才能做工具调用 26M参数的Needle就能做tool routing,免费跑在本地
开源模型编码不如闭源 MiniMax M3开源权重,编码接近Claude水平,价格1/15
NVIDIA只做GPU硬件 Cosmos 3是开源物理AI模型,能模拟和预测物理世界
Codex是个编程助手 Codex Sites能用prompt直接生成企业级应用
Agent必须依赖云端大模型 用Needle做路由+本地轻量推理,可省80%API成本
1M上下文只是噱头 MiniMax M3的稀疏注意力让1M真正可用且成本低

行动指南

  1. 立刻试用Needle:如果你在构建AI Agent,先去GitHub下载,在本地跑个demo,感受一下26M参数的工具路由效果
  2. 切换MiniMax M3做编码Agent:如果当前用GPT-4o或Claude做代码生成,可以对比测试M3,API成本直接降到1/10以下
  3. 关注Cosmos 3生态:如果你做CV或机器人,去HuggingFace下载权重试跑,看看合成数据生成的质量
  4. 评估Codex Sites:如果你在企业IT部门,申请加入Codex Business预览,体验从prompt生成应用的能力

参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入