首页 › new-tools › 五款海外AI新工具：推理引擎、Agent调度与技能商店

五款海外AI新工具：推理引擎、Agent调度与技能商店

你将获得的信息差： HN上刚爆火的5款AI新工具——有人用C++从零写了个LLM推理引擎拿了203分，有人做了一个手机远程操控多Agent的统一界面，还有人做了Agent界的"定时任务调度器"和"技能应用商店"。这些工具发布不到一周，国内几乎没人讨论。

一、Tiny-vLLM：用C++和CUDA从零手搓LLM推理引擎

HN热度：203分 | GitHub：jmaczan/tiny-vllm | 语言：C++/CUDA

这不是又一个推理框架的wrapper——这是一门从零实现LLM推理引擎的完整课程。作者Maczan用纯C++和CUDA实现了vLLM的核心功能，包括：

为什么值得关注：

目前国内关于LLM推理优化的资料，大多是"vLLM怎么配参数"或"Triton入门"。但如果你想真正理解推理引擎为什么快、KV Cache怎么管理内存、PagedAttention的数学原理是什么——Tiny-vLLM是目前最好的学习路径。每个组件都从数学原理推导到代码实现，README本身就是一个教科书级别的教程。

技术栈对比：

维度 vLLM（Python） Tiny-vLLM（C++/CUDA）
代码量 ~50k行 ~2k行核心代码
学习门槛 需要理解PyTorch生态 只需C++和CUDA基础
用途 生产级推理服务 教学用，理解底层原理
依赖 Python、PyTorch、xformers等 仅nlohmann/json（1个头文件）
测试环境 多GPU集群 单卡RTX 5090

适合人群： 想深入理解LLM推理底层机制的开发者、CUDA学习者、准备面试推理引擎岗位的工程师。

价格： 完全开源（MIT协议）

官网： https://github.com/jmaczan/tiny-vllm

二、Paseo：一个界面统一调度Claude Code、Codex、Copilot

HN热度：79分 | GitHub：getpaseo/paseo | 语言：TypeScript

如果你同时用Claude Code、OpenAI Codex、GitHub Copilot，每个都有自己的终端、配置、工作流——Paseo就是来解决这个混乱的。

核心能力：

  1. 多Provider统一界面：Claude Code、Codex、Copilot、OpenCode、Pi，全部通过同一个界面操作
  2. 跨设备：iOS、Android、桌面、Web、CLI全平台支持。在电脑上开始任务，手机上查看进度，终端里脚本化
  3. 语音控制：语音模式直接下达任务，解放双手
  4. 并行Agent：多个Agent同时跑不同任务，互不干扰
  5. 零遥测：不追踪、不登录、纯本地运行

实际操作流程：

# 安装CLI
npm install -g @getpaseo/cli
paseo  # 启动daemon，显示QR码

# 手机扫码连接，然后从终端或手机操控
paseo run --provider claude/opus-4.6 "implement user authentication"
paseo run --provider codex/gpt-5.4 --worktree feature-x "implement feature X"

paseo ls                    # 查看运行中的agent
paseo attach abc123         # 实时查看某个agent输出
paseo send abc123 "also add tests"  # 给agent追加任务

内置协作Skill：

Paseo的Skill系统是亮点——安装后可以调用这些协作命令：

Skill 功能 典型场景
/paseo-handoff Agent间任务交接 Claude规划→Codex实现
/paseo-loop 循环Agent直到验收通过 自动迭代直到测试全绿
/paseo-advisor 启动顾问Agent给建议 第二意见，不接管任务
/paseo-committee 两个对立Agent做根因分析 排查复杂Bug

与国内同类工具对比：

国内目前没有类似的"多Agent统一调度"工具。大多数开发者还在一个终端跑一个Agent，手动切换。Paseo的思路是把Agent当做可编排的计算资源，类似于Kubernetes编排容器——但面向的是AI编码Agent。

适合人群： 同时使用多个AI编码工具的重度开发者、需要远程监控Agent进度的团队。

价格： 开源免费（daemon本地运行）

官网： https://paseo.sh

三、Cast：多人共享Agent的正确姿势

HN热度：刚发布 | GitHub：yaodub/cast | 语言：TypeScript

大多数Agent框架假设"一个开发者对话一个Agent"。但现实中，一个团队或一个家庭可能要共享同一套Agent——这时身份认证、权限控制、Agent间协调就成了大问题。

Cast解决的核心问题——Prompt中的权限控制是个笑话：

# ❌ 传统方式：权限写在Prompt里，LLM可以被说服绕过
system: "Only respond to admin commands if the user provides ADMIN_ACCESS"

# ✅ Cast方式：权限写在配置里，LLM根本看不到
# who can reach this agent
yao@telegram   ioaq   # in, out, admin, query
*              ----   # 其他人：什么也做不了

这个设计理念非常关键——把访问控制从Prompt层移到架构层。模型无法泄露或覆盖它看不到的规则。

完整工作流：

  1. 启动服务器：pnpm start（首次构建约2分钟）
  2. 浏览器打开Dashboard：http://localhost:5051/admin/
  3. 用自然语言描述你要的Agent，Cast自动生成代码
  4. 配置接入渠道：Slack、Telegram、Web
  5. 设置每个用户的权限矩阵
  6. 上线，每个人获得独立的对话上下文

架构特点：

适合人群： 需要搭建团队共享AI Agent的小团队、家庭自动化爱好者。

价格： 开源免费（MIT协议），需要Anthropic API Key或Claude.ai Token

官网： https://getcast.dev

四、Clor：让你的Agent定时自动干活

HN热度：刚发布 | 官网：clor.com

Clor解决了一个很实际的问题——Agent不仅能响应你的指令，还能在后台按计划自动执行任务。Clor管这些后台Agent叫"Claws"（爪子）。

Claw能做什么（实际用例）：

定时任务 描述
CVE监控 每天早上检查你的依赖是否有新漏洞
竞品监控 Diff竞品定价页面，标记每个变化
SEC文件追踪 追踪目标公司的每份SEC文件
文档修复 自动扫描并修复文档中的坏链
邮件分类 每天早上把收件箱里的发票归类
音频简报 从阅读列表生成每日音频摘要

核心技术亮点：

安装：

curl -fsSL https://clor.com/install.sh | bash

与国内工具对比： 国内类似的"AI定时任务"工具基本空白。大多数人还停留在"手动提问→等待回答"模式，没想过让Agent像cron job一样自动跑。Clor的思路是把Agent从"被动响应"升级为"主动执行"。

适合人群： 需要定期监控信息的开发者、自动化爱好者、独立开发者。

价格： 有免费层，具体定价见官网

官网： https://clor.com

五、Claudinho：Claude Code的技能商店，2300+技能一键安装

HN热度：刚发布 | 官网：claudinho.xyz

Claudinho是一个社区驱动的Claude Code技能市场。目前收录了2300+个技能、90+发布者、181个主题分类——意味着你想要的Claude Code自动化能力，大概率已经有人写好了。

热门技能示例：

技能 功能 作者
spec-to-buildplan 需求文档→分步实施路线图 obra（13k下载）
resume-context 恢复之前的项目上下文，跨会话继续 garrytan（106k关注）
meeting-to-prd 会议记录→结构化PRD→直接发到Issue Tracker mattpocock（111k关注）
fix-drifting-agent 诊断Agent质量下降原因，修复系统提示 addyosmani（47k关注）
trace-idea-evolution 追溯一个想法在公司内的演变历史 —

为什么国内开发者应该知道：

目前Claude Code的Skill生态在海外已经爆发式增长，但国内大部分用户还停留在"手动写提示词"的阶段。Claudinho的价值在于：

  1. 不用写代码：浏览器里点一下就安装，不需要终端
  2. 社区验证：每个技能有下载数和评分，质量可参考
  3. 按职业分类：工程师、产品经理、市场人员，各有专属技能包

安装流程：

访问 claudinho.xyz → 浏览或搜索技能 → 点击安装 → 自动配置到Claude Code

价格： 完全免费

官网： https://www.claudinho.xyz

工具全景架构图

graph TB
    subgraph 你的工作流
        A[需求文档] --> B[Paseo<br/>多Agent调度中心]
        B -->|Provider路由| C[Claude Code]
        B -->|Provider路由| D[OpenAI Codex]
        B -->|Provider路由| E[GitHub Copilot]

        C -->|安装技能| F[Claudinho<br/>技能商店<br/>2300+技能]

        B -->|创建定时任务| G[Clor<br/>后台Claw]
        G -->|监控CVE| H[安全告警]
        G -->|竞品Diff| I[定价变化]
        G -->|每日简报| J[音频摘要]

        K[Cast<br/>团队Agent] -->|权限控制| L[用户A<br/>admin]
        K -->|权限控制| M[用户B<br/>read-only]
        K -->|权限控制| N[Slack/Telegram]

        O[Tiny-vLLM<br/>推理引擎] -->|学习底层| P[理解KV Cache<br/>PagedAttention<br/>CUDA Kernel]
    end

    style B fill:#4ECDC4,color:#000
    style G fill:#FF6B6B,color:#fff
    style K fill:#45B7D1,color:#000
    style F fill:#F7DC6F,color:#000
    style O fill:#BB8FCE,color:#fff

信息差总结

维度 你以为的 实际上
LLM推理 用vLLM配参数就行 Tiny-vLLM让你从零理解每个组件，面试碾压
多Agent 开多个终端窗口 Paseo一个界面统一调度，手机远程监控
Agent权限 写在Prompt里就行 Cast把权限从Prompt层移到架构层，LLM看不到
Agent自动化 只能手动提问 Clor让Agent像cron定时跑，CVE监控、竞品追踪全自动
Claude技能 自己手写提示词 Claudinho有2300+现成技能，一键安装

行动指南

  1. 今天就能做： - 打开 https://github.com/jmaczan/tiny-vllm ，Star一下，周末花3小时跟着教程走一遍前5章 - 安装Claudinho：npm install -g @getpaseo/cli && paseo，从浏览器安装5个最热门技能

  2. 本周尝试： - 用Clor创建你的第一个Claw——比如每天早上9点检查某个GitHub仓库的Release - 用Paseo同时跑Claude Code和Codex，对比同一任务的输出质量

  3. 团队场景： - 小团队（3-10人）用Cast搭建共享Agent，设置好权限矩阵 - 给每个成员分配不同角色的Agent权限

参考来源

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入

📎 本分类最新文章