首页 › trending › Jev浪潮:AI决策不吐token

Jev浪潮:AI决策不吐token

导语: 翻开2026年9月27日的GitHub新星榜,你会发现一条几乎所有人都没注意到的暗线:榜单前二十名里,有八个仓库同属一个阵营——它们都挂在"Jev"或"System 1决策引擎"的旗帜下。一套主张“AI做判断时不该生成哪怕一个token”的范式,正在海外极客圈以每周上千星的速度裂变:新仓库laya上架即2.6万星,社区编目自称已收录916个相关开源项目,连诺基亚应用研究院都下场出了适配器。这篇文章带你三分钟看懂这场运动是什么、吵什么、跟中国开发者有什么关系——外加本周HN上另外两场正在升温的架。


话题一:别吐token了——一场针对大模型的“内勤革命”

先说人话:Jev到底是个啥?

用过Claude Code、Coze或者任何Agent框架的人对这套流程不陌生:Agent每走一步,都要让大模型生成一段自由文本,再用正则或JSON解析把结果抠出来。路由要生成、判断要生成、打个分也要生成。又慢、又贵、又脆——解析失败一次,整个流程就断。

Jev式做法反过来:把Agent流程里的大部分“判断”降级成分类题。输出不再是自由文本,而是从有限类型里选一个——“是/否”“三选一”“给个0到1的分”。每个结果带真实概率,非自回归(non-autoregressive),也就是说不需要让模型一个字一个字往外蹦。用yibie的awesome-jev里的介绍话说,Jev出自TypeSafe AI的System 1引擎路线;用nokia-applied-research/AnyJev的简介话说,就是“把任何LLM变成Jev式决策模型:类型化决策、真实概率、无需训练”。

熟悉心理学的朋友会心一笑:这就是卡尼曼《思考,快与慢》里双系统的工程化——System 2慢思考(写代码、写文案、做推理,必须让大模型生成)留给贵而慢的大模型;System 1快思考(路由、判型、打分、放行)换成专用的类型化决策引擎。

本周战场盘点:八个仓库,三个派系

仓库 Star 一句话定位
NandhaKishorM/laya 26348 非自回归System 1决策引擎,类型化选择/打分/是否判断
yibie/awesome-jev 1811 Jev生态精选列表,挂在TypeSafe AI的System 1路线下
bespokelabsai/nimble 1857 本地类型化决策+对比式数据清洗+模型评测
deepopen-com/deepopen 1044 非自回归System 1引擎,专攻结构化类型决策
kerpopule/hermes-jev-skills 859 用Jev驱动模型路由、记忆、压缩、技能选择
nokia-applied-research/AnyJev 809 诺基亚应用研究院出品:把任意LLM转成Jev式决策模型
Rizzo-AI-Academy/rizzo-flow 656 Jev的开源本地化版本
heyjunpenn/awesome-jev 864 自称经社区核验的916个Jev相关项目编目

从这一堆简介里,你能读出明显的三个派系:

第一派,原生引擎派。 laya和deepopen走的是“专用引擎”路线——决策这件事根本不该外包给大语言模型,就该有专门的非自回归引擎来干。laya上架即26348星,说明这个方向的需求憋了很久。

第二派,混合派。 AnyJev的姿态很有意思:不推翻大模型,而是“把任何LLM变成Jev式决策模型”。相当于给现有模型加一层类型化出口,训练都不用重新训。

第三派,本地开源派。 rizzo-flow的简介写得直白:“Jev的开放、本地版本”——只出类型化判断,不生成一个token。这是典型开源社区打法:原厂引爆概念,社区立刻做本地化平替。

生态往哪长:先吃Agent的“内勤岗位”

最值得玩味的是kerpopule/hermes-jev-skills:它把Jev接进了Agent的内部事务——模型路由、记忆管理、上下文压缩、技能选择。翻译一下:System 1引擎最先吃掉的不是Agent的主力创作岗,而是内勤岗。你的Agent还是用大模型写代码写文案,但它“该调哪个模型”“这条记忆要不要存”“这个技能要不要触发”这类每秒都在发生的琐碎判断,全部换成了不吐token的毫秒级决策。

顺手一提,消费端也炸了:jev-chat/jev-chat-jarvis一周冲到6747星(这个工具昨天已有专文拆解,不赘述),它的底层判断逻辑同样标注为Jev式。概念从仓库渗透到应用,只花了一周。

flowchart TD
    A["Agent走到一步任务"] --> B{"这步需要自由发挥吗"}
    B -->|要写要画要推理| C["System 2 生成<br/>大模型吐token"]
    B -->|选一个判一下给个分| D["System 1 类型判断"]
    C --> E["慢且贵<br/>但表达力强"]
    D --> F["Jev式决策引擎<br/>不生成token"]
    F --> G["毫秒级返回<br/>类型化结果带概率"]
    F --> H["决策可回放<br/>全程可审计"]
    D --> I["适合:模型路由"]
    D --> J["适合:意图识别"]
    D --> K["适合:放行或拦截"]

围观者的三个问号——争议在哪里?

运动越大,问号越多。海外社区对Jev浪潮的质疑,目前集中在三点(这是我基于各仓库定位与Agent工程圈长期争论的归纳,不代表任何具体人物的发言):

  1. 表达力天花板。 类型化判断快是快,但世界不总是三选一。质疑者会问:硬把模糊问题塞进有限类型里,丢掉的信息谁来兜底?混合派给出的答案是“拿不准就升级给System 2”,但这又引出新的问题——升级的判据本身也是个判断。
  2. 新瓶旧酒之辩。 老派工程师会说:这不就是搞了十年的意图分类器加router吗?支持者的反驳是:范式化、概率化、非自回归这三件事凑齐之后,工程上第一次可以“整套搬走”,而不是每个项目手搓一遍。
  3. 评测标准缺位。 916个项目里,有多少经得起横评?bespokelabsai/nimble把“类型化决策”和“模型评测”捆在一起卖,恰恰说明社区自己也意识到了这块空白。

对中国开发者的启示: 国内做Agent大多是“一把梭”架构——所有判断都让大模型生成,再用正则硬解析。System 1层是现成的降本骨架:把你Agent里“路由、判型、打分、放行”四类高频小判断拆出来,哪怕先用最土的分类模型实现,token账单和响应延迟都能砍一大截。先读awesome-jev里星数靠前的几个实现,看人家的类型体系怎么设计,比看十篇方法论文章都管用。


话题二:HN 237分——AI把作业全做完了,老师改的是考场

HN今日另一枚热议弹:《How I changed teaching after AI managed to do all my homework assignments》(当AI能做完我布置的所有课后作业之后,我改了教学),237分。链接在文末,细节以原帖为准,但这个标题本身就把结论说了一半:这位老师改的不是“怎么收作业”,而是“作业还配不配当评价工具”。

这场仗海外教育圈从2025年吵到现在,评论区立场通常裂成三派,这次大概率也不例外:

对中国用户的启示: 这场架的终局判断对国内家长和老师有直接参考价值——“会做题”的资产价值正在塌缩,“会出题、会验题”的价值在上升。如果你小孩还在刷题军备竞赛里,值得去原帖评论区看看一线教师这两年踩过的坑,比国内“禁带手机进课堂”式的讨论提前一个身位。


话题三:HN 277分——DeepSeek上线DSec,模型厂开始卖算力

第三枚信号弹:DeepSeek Elastic Compute(DSec)冲上HN首页,277分。从名字看,这是DeepSeek推出的弹性计算服务——也就是说,它可能不只是卖模型API,而是开始把算力本身当商品卖给开发者。该服务的具体规格、定价和能力边界,我暂时没有条件逐项核实,请以DeepSeek官方渠道为准,这里只谈这个信号本身为什么值得盯:

行动建议只有一条:先蹲官方公告,别急着按HN评论区的猜测做采购决策。


本周信号灯:三个值得标记但不展开的热帖


信息差总结

你可能以为 海外社区实际在吵 差距在哪
Agent每步都该用大模型生成 高频小判断正被System 1引擎成建制接管 成本差一个数量级,你可能还在为路由付token钱
916个项目的生态=营销数字 诺基亚研究院、Bespoke Labs等机构实体已下场 概念到产业只隔一个季度
AI作业问题=要不要禁 主流已跳过禁用,直接重设计考场 国内讨论还在第一层
DeepSeek只卖便宜API DSec信号:算力本身可能成为商品 采购策略可能要提前改

行动指南

  1. 今天:打开 yibie/awesome-jev(github.com/yibie/awesome-jev),挑星数前五的仓库,各读十分钟README,建立对类型化决策的手感。读文件用 raw.githubusercontent.com 直链,别在网页版里迷路。
  2. 本周:把你手头Agent的日志拉出来,标出所有“让大模型生成后再正则解析”的判断步骤,数一数占比——大概率超过一半,这就是你的降本空间。
  3. 本周:挑一个最简单的步骤(比如意图三分类),用一个小模型或规则引擎做System 1替换实验,对比延迟和成本。
  4. 持续:盯 kerpopule/hermes-jev-skills 的动向,看Jev怎么接进Agent内务流程——这是范式落地的风向标。
  5. 顺手:把HN三帖(作业帖49836579、DSec帖49859112、乐趣帖49854875)丢进稍后读,评论区比正文精彩。

参考来源

  1. yibie/awesome-jev — Jev生态精选列表:https://github.com/yibie/awesome-jev
  2. NandhaKishorM/laya — 非自回归System 1决策引擎:https://github.com/NandhaKishorM/laya
  3. Rizzo-AI-Academy/rizzo-flow — Jev的开源本地化版本:https://github.com/Rizzo-AI-Academy/rizzo-flow
  4. nokia-applied-research/AnyJev — 诺基亚应用研究院出品:https://github.com/nokia-applied-research/AnyJev
  5. HN热议:AI做完作业后我改了教学(237分):https://news.ycombinator.com/item?id=49836579
  6. HN热议:DeepSeek Elastic Compute(277分):https://news.ycombinator.com/item?id=49859112

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入