# 五款海外AI新工具：推理引擎、Agent调度与技能商店 **你将获得的信息差：** HN上刚爆火的5款AI新工具——有人用C++从零写了个LLM推理引擎拿了203分，有人做了一个手机远程操控多Agent的统一界面，还有人做了Agent界的"定时任务调度器"和"技能应用商店"。这些工具发布不到一周，国内几乎没人讨论。 --- ## 一、Tiny-vLLM：用C++和CUDA从零手搓LLM推理引擎 **HN热度：203分 | GitHub：jmaczan/tiny-vllm | 语言：C++/CUDA** 这不是又一个推理框架的wrapper——这是一门**从零实现LLM推理引擎的完整课程**。作者Maczan用纯C++和CUDA实现了vLLM的核心功能，包括： - 从Safetensors格式加载Llama 3.2 1B模型 - 完整的LLM前向传播（Prefill + Decode） - 全部计算使用CUDA kernel - KV Cache、静态批处理、连续批处理 - Online Softmax、类FlashAttention实现 - **PagedAttention**（vLLM的核心创新） **为什么值得关注：** 目前国内关于LLM推理优化的资料，大多是"vLLM怎么配参数"或"Triton入门"。但如果你想真正理解推理引擎为什么快、KV Cache怎么管理内存、PagedAttention的数学原理是什么——Tiny-vLLM是目前最好的学习路径。每个组件都从数学原理推导到代码实现，README本身就是一个教科书级别的教程。 **技术栈对比：** | 维度 | vLLM（Python） | Tiny-vLLM（C++/CUDA） | |------|---------------|----------------------| | 代码量 | ~50k行 | ~2k行核心代码 | | 学习门槛 | 需要理解PyTorch生态 | 只需C++和CUDA基础 | | 用途 | 生产级推理服务 | 教学用，理解底层原理 | | 依赖 | Python、PyTorch、xformers等 | 仅nlohmann/json（1个头文件） | | 测试环境 | 多GPU集群 | 单卡RTX 5090 | **适合人群：** 想深入理解LLM推理底层机制的开发者、CUDA学习者、准备面试推理引擎岗位的工程师。 **价格：** 完全开源（MIT协议） **官网：** https://github.com/jmaczan/tiny-vllm --- ## 二、Paseo：一个界面统一调度Claude Code、Codex、Copilot **HN热度：79分 | GitHub：getpaseo/paseo | 语言：TypeScript** 如果你同时用Claude Code、OpenAI Codex、GitHub Copilot，每个都有自己的终端、配置、工作流——Paseo就是来解决这个混乱的。 **核心能力：** 1. **多Provider统一界面**：Claude Code、Codex、Copilot、OpenCode、Pi，全部通过同一个界面操作 2. **跨设备**：iOS、Android、桌面、Web、CLI全平台支持。在电脑上开始任务，手机上查看进度，终端里脚本化 3. **语音控制**：语音模式直接下达任务，解放双手 4. **并行Agent**：多个Agent同时跑不同任务，互不干扰 5. **零遥测**：不追踪、不登录、纯本地运行 **实际操作流程：** ```bash # 安装CLI npm install -g @getpaseo/cli paseo # 启动daemon，显示QR码 # 手机扫码连接，然后从终端或手机操控 paseo run --provider claude/opus-4.6 "implement user authentication" paseo run --provider codex/gpt-5.4 --worktree feature-x "implement feature X" paseo ls # 查看运行中的agent paseo attach abc123 # 实时查看某个agent输出 paseo send abc123 "also add tests" # 给agent追加任务 ``` **内置协作Skill：** Paseo的Skill系统是亮点——安装后可以调用这些协作命令： | Skill | 功能 | 典型场景 | |-------|------|---------| | `/paseo-handoff` | Agent间任务交接 | Claude规划→Codex实现 | | `/paseo-loop` | 循环Agent直到验收通过 | 自动迭代直到测试全绿 | | `/paseo-advisor` | 启动顾问Agent给建议 | 第二意见，不接管任务 | | `/paseo-committee` | 两个对立Agent做根因分析 | 排查复杂Bug | **与国内同类工具对比：** 国内目前没有类似的"多Agent统一调度"工具。大多数开发者还在一个终端跑一个Agent，手动切换。Paseo的思路是把Agent当做可编排的计算资源，类似于Kubernetes编排容器——但面向的是AI编码Agent。 **适合人群：** 同时使用多个AI编码工具的重度开发者、需要远程监控Agent进度的团队。 **价格：** 开源免费（daemon本地运行） **官网：** https://paseo.sh --- ## 三、Cast：多人共享Agent的正确姿势 **HN热度：刚发布 | GitHub：yaodub/cast | 语言：TypeScript** 大多数Agent框架假设"一个开发者对话一个Agent"。但现实中，一个团队或一个家庭可能要共享同一套Agent——这时身份认证、权限控制、Agent间协调就成了大问题。 **Cast解决的核心问题——Prompt中的权限控制是个笑话：** ```bash # ❌ 传统方式：权限写在Prompt里，LLM可以被说服绕过 system: "Only respond to admin commands if the user provides ADMIN_ACCESS" # ✅ Cast方式：权限写在配置里，LLM根本看不到 # who can reach this agent yao@telegram ioaq # in, out, admin, query * ---- # 其他人：什么也做不了 ``` 这个设计理念非常关键——**把访问控制从Prompt层移到架构层**。模型无法泄露或覆盖它看不到的规则。 **完整工作流：** 1. 启动服务器：`pnpm start`（首次构建约2分钟） 2. 浏览器打开Dashboard：`http://localhost:5051/admin/` 3. 用自然语言描述你要的Agent，Cast自动生成代码 4. 配置接入渠道：Slack、Telegram、Web 5. 设置每个用户的权限矩阵 6. 上线，每个人获得独立的对话上下文 **架构特点：** - Agent不是代码，是文件夹（`~/.cast/agents//`） - 内置扩展：邮件、日历、网页抓取、WhatsApp - 支持Claude Code直接构建Agent（通过`/cast-build`等Skill） - 自托管、MIT协议 **适合人群：** 需要搭建团队共享AI Agent的小团队、家庭自动化爱好者。 **价格：** 开源免费（MIT协议），需要Anthropic API Key或Claude.ai Token **官网：** https://getcast.dev --- ## 四、Clor：让你的Agent定时自动干活 **HN热度：刚发布 | 官网：clor.com** Clor解决了一个很实际的问题——Agent不仅能响应你的指令，还能**在后台按计划自动执行任务**。Clor管这些后台Agent叫"Claws"（爪子）。 **Claw能做什么（实际用例）：** | 定时任务 | 描述 | |---------|------| | CVE监控 | 每天早上检查你的依赖是否有新漏洞 | | 竞品监控 | Diff竞品定价页面，标记每个变化 | | SEC文件追踪 | 追踪目标公司的每份SEC文件 | | 文档修复 | 自动扫描并修复文档中的坏链 | | 邮件分类 | 每天早上把收件箱里的发票归类 | | 音频简报 | 从阅读列表生成每日音频摘要 | **核心技术亮点：** - **跨Provider路由**：每个任务发给最适合的模型，砍Token用量 - **多模型辩论**：让Gemini、Opus、GPT讨论，选最强答案 - **Web能力**：搜索、抓取页面、截图、爬站 - **邮件集成**：IMAP/SMTP收发邮件 - **云盘存储**：文件随Agent跨设备同步 - **密钥管理**：加密存储密码和API Key **安装：** ```bash curl -fsSL https://clor.com/install.sh | bash ``` **与国内工具对比：** 国内类似的"AI定时任务"工具基本空白。大多数人还停留在"手动提问→等待回答"模式，没想过让Agent像cron job一样自动跑。Clor的思路是把Agent从"被动响应"升级为"主动执行"。 **适合人群：** 需要定期监控信息的开发者、自动化爱好者、独立开发者。 **价格：** 有免费层，具体定价见官网 **官网：** https://clor.com --- ## 五、Claudinho：Claude Code的技能商店，2300+技能一键安装 **HN热度：刚发布 | 官网：claudinho.xyz** Claudinho是一个**社区驱动的Claude Code技能市场**。目前收录了**2300+个技能、90+发布者、181个主题分类**——意味着你想要的Claude Code自动化能力，大概率已经有人写好了。 **热门技能示例：** | 技能 | 功能 | 作者 | |------|------|------| | spec-to-buildplan | 需求文档→分步实施路线图 | obra（13k下载） | | resume-context | 恢复之前的项目上下文，跨会话继续 | garrytan（106k关注） | | meeting-to-prd | 会议记录→结构化PRD→直接发到Issue Tracker | mattpocock（111k关注） | | fix-drifting-agent | 诊断Agent质量下降原因，修复系统提示 | addyosmani（47k关注） | | trace-idea-evolution | 追溯一个想法在公司内的演变历史 | — | **为什么国内开发者应该知道：** 目前Claude Code的Skill生态在海外已经爆发式增长，但国内大部分用户还停留在"手动写提示词"的阶段。Claudinho的价值在于： 1. **不用写代码**：浏览器里点一下就安装，不需要终端 2. **社区验证**：每个技能有下载数和评分，质量可参考 3. **按职业分类**：工程师、产品经理、市场人员，各有专属技能包 **安装流程：** 访问 claudinho.xyz → 浏览或搜索技能 → 点击安装 → 自动配置到Claude Code **价格：** 完全免费 **官网：** https://www.claudinho.xyz --- ## 工具全景架构图 ```mermaid graph TB subgraph 你的工作流 A[需求文档] --> B[Paseo
多Agent调度中心] B -->|Provider路由| C[Claude Code] B -->|Provider路由| D[OpenAI Codex] B -->|Provider路由| E[GitHub Copilot] C -->|安装技能| F[Claudinho
技能商店
2300+技能] B -->|创建定时任务| G[Clor
后台Claw] G -->|监控CVE| H[安全告警] G -->|竞品Diff| I[定价变化] G -->|每日简报| J[音频摘要] K[Cast
团队Agent] -->|权限控制| L[用户A
admin] K -->|权限控制| M[用户B
read-only] K -->|权限控制| N[Slack/Telegram] O[Tiny-vLLM
推理引擎] -->|学习底层| P[理解KV Cache
PagedAttention
CUDA Kernel] end style B fill:#4ECDC4,color:#000 style G fill:#FF6B6B,color:#fff style K fill:#45B7D1,color:#000 style F fill:#F7DC6F,color:#000 style O fill:#BB8FCE,color:#fff ``` --- ## 信息差总结 | 维度 | 你以为的 | 实际上 | |------|---------|--------| | LLM推理 | 用vLLM配参数就行 | Tiny-vLLM让你从零理解每个组件，面试碾压 | | 多Agent | 开多个终端窗口 | Paseo一个界面统一调度，手机远程监控 | | Agent权限 | 写在Prompt里就行 | Cast把权限从Prompt层移到架构层，LLM看不到 | | Agent自动化 | 只能手动提问 | Clor让Agent像cron定时跑，CVE监控、竞品追踪全自动 | | Claude技能 | 自己手写提示词 | Claudinho有2300+现成技能，一键安装 | --- ## 行动指南 1. **今天就能做**： - 打开 https://github.com/jmaczan/tiny-vllm ，Star一下，周末花3小时跟着教程走一遍前5章 - 安装Claudinho：`npm install -g @getpaseo/cli && paseo`，从浏览器安装5个最热门技能 2. **本周尝试**： - 用Clor创建你的第一个Claw——比如每天早上9点检查某个GitHub仓库的Release - 用Paseo同时跑Claude Code和Codex，对比同一任务的输出质量 3. **团队场景**： - 小团队（3-10人）用Cast搭建共享Agent，设置好权限矩阵 - 给每个成员分配不同角色的Agent权限 --- ## 参考来源 - [Tiny-vLLM - GitHub](https://github.com/jmaczan/tiny-vllm) — HN 203分爆款，C++/CUDA推理引擎教程 - [Paseo - GitHub](https://github.com/getpaseo/paseo) — 多Provider Agent统一调度界面 - [Cast - GitHub](https://github.com/yaodub/cast) — 多人多Agent权限控制框架 - [Clor - 官网](https://clor.com) — Agent定时任务调度器 - [Claudinho - 官网](https://www.claudinho.xyz) — Claude Code技能市场，2300+技能 - [Show HN - Hacker News](https://news.ycombinator.com/show) — 以上工具均来源于2026年6月初Show HN板块 --- > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护。 > 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。