首页 › new-tools › AI测谎仪上线:HN三款免费新货

过去两天我盯着 Show HN 的实时流扒了一遍,挖出三款刚冒头、中文圈还没人写的免费新货:一个给大模型输出装「测谎仪」的纳秒级工具,一个让你告别 vim 配置地狱的开箱即用终端 IDE,一个每月白送 10 万张标注好的视觉训练数据。全部开源或免注册可用,最快 30 秒能跑通第一条命令。


一、Spanda:给 AI 输出装上测谎仪,CPU 跑出纳秒级结果

先说我认为本轮最有信息差的一个。做 LLM 应用落地的同学都躲不开一个问题:怎么知道模型这次输出靠不靠谱?

学术界的主流方案叫 Semantic Entropy(语义熵,Nature 2024 那篇):让模型对同一问题采样 K 次,再用一个 NLI 交叉编码器(比如 DeBERTa-v3)两两判断答案语义是否一致,聚类算熵。问题在于代价爆炸——K=10 时要做 45 次神经网络评估,每次推理额外增加约 90ms 的 GPU 开销,生产环境根本扛不住。

9 月 11 日登上 Show HN 的 Spanda(作者 Bhupen Nayak)给出了一个「土办法」:不做语义判断,只做词面归一化后的精确匹配聚类。「Paris」「paris.」「Paris」归成一类,然后直接算归一化香农熵,得到一个 0 到 1 的风险分 R_sc。作者给这个思路起了个名字叫 Exact-Match Normalized Entropy。

效果数据(作者在 GSM8K、TriviaQA 上的实测,1.5B 到 120B 两数量级跨度):

模型规模 基准 Spanda AUROC 传统神经语义熵 延迟
Qwen-1.5B GSM8K 0.577 0.584 <1µs
Mistral-7B GSM8K 0.706 0.705 <1µs
Qwen-27B GSM8K 0.889 未跑 <1µs

三个反直觉的发现值得单独说:

  1. 一致性扩展律:模型越大,答对时给出的词面序列越趋于完全一致。7B 以上,这个「土办法」的判别力追平了重型 DeBERTa 交叉编码器——神经聚类步骤在推理类任务上是冗余的。
  2. 自信的集体翻车(Confident Mode Collapse):120B 级模型在无接地的事实问答(TriviaQA)上,会把同一个错误答案在 K 条采样路径里一字不差地重复出来,AUROC 直接倒转成 0.091。作者的原话很扎心:任何拿「多次采样答案一致」当「正确」代理的系统,都会被前沿模型系统性欺骗。
  3. 所以第 2 点的工程结论是:大模型场景必须配 RAG 外部接地,一致性检查只能当第一道闸,不能当真理裁决。

怎么用(三条路)

pip install spnda

SDK 零第三方依赖,纯 Python 标准库。最快的方式是一行包装现成的 OpenAI 客户端:

import spanda
from openai import OpenAI

client = spanda.wrap(OpenAI(), k=3, threshold=0.35, block=False)
resp = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "17 * 19 是多少?"}]
)
print(resp.spanda.rsc)        # 风险分
print(resp.spanda.decision)   # 'FAST_PASS_CONSISTENT'

生产环境更推荐独立 Rust 网关模式:spnda serve --upstream http://localhost:11434/v1 --port 8080 --k 3,任何语言的程序把 base_url 指过来就行,响应头自带 X-Spanda-Rsc、X-Spanda-Decision,还暴露 Prometheus /metrics 给 Grafana 看板用。作者基准:数学核单核每秒 150 万次评估、空闲内存 2.98MB、冷启动 3.69ms、纯 CPU 零 GPU。它甚至能拦 Agent 的危险操作——两条并行采样路径如果生成了冲突的 rm 参数,会直接报 TOOL_ARG_MISMATCH 阻断执行。

flowchart TD
    A["业务应用请求"] --> B["spnda serve 网关端口 8080"]
    B -->|"改写请求采样 k 条路径"| C["上游 LLM"]
    C --> D["收集 k 个最终答案"]
    D --> E["词面归一化聚类"]
    E --> F["计算归一化熵与风险分 R_sc"]
    F -->|"R_sc 低于阈值"| G["放行共识答案并附 X-Spanda 头"]
    F -->|"R_sc 高于阈值"| H["拦截并转 RAG 或人工"]
    F -->|"工具参数互相冲突"| I["阻断执行"]

代价、边界与国内对比

先泼两盆冷水,免得你踩坑:其一,R_sc 要采样 K 次,等于这个请求的生成费用乘以 K(k=3 就是 3 倍 token),适合用在客服答案校验、Agent 工具调用、SQL 生成这类高价值出口,不适合闲聊全量开。其二,作者自己划了红线:自由创作类文本(散文、文案)同义表达天然多样,词面聚类会误报,这种场景老老实实用神经语义熵;前沿大模型的无接地事实问答也不能单靠它。

对国内做 LLM 应用的团队,信息差在于:大家默认幻觉护栏 = 再调一个裁判模型或上 NLI 服务,每月 GPU 账单不小。Spanda 的思路是「能不跑神经网络就不跑」,网关层 CPU 侧纳秒级搞定,OpenAI 兼容协议意味着接 vLLM、Ollama、OneAPI 分发的国产模型也一样即插即用。协议选择上,Python SDK 是 MIT 随便商用,Rust 核心网关是 BSL 1.1(内部生产使用免费,拿它对外做托管服务才需要谈授权,2030 年 1 月 1 日自动转 Apache 2.0)。

适用人群:LLM 网关/中台开发、Agent 平台工程师、任何要给模型输出加审计合规层的后端。


二、Toast:一条 brew 命令,把终端变成开箱即用的 IDE

9 月 11 日的 Show HN 上,Toast 拿了 73 分、86 条评论(截至 9 月 13 日发稿),是这批新品里最热的。一句话定位:vim、neovim、emacs 都要你自己从零攒,Toast 直接给你一台装好的。

README 里的对比表很嚣张——toast 是表格里唯一同时勾选「无 AI 功能、无遥测、内置文件树、鼠标支持」四项的编辑器。Go 写的单二进制 TUI,开箱就有:

安装就一行:

brew install paradise-runner/tap/toast

除 TUI 外,每个 release 还带一个实验性的 Toast.app 桌面版(内嵌 libghostty 终端窗口),不用碰终端也能跑——注意目前未签名,首次要右键打开或手动清隔离属性。想自己编也行,Go 1.25.2+ 即可。

冷静提醒:项目自标 early development,bug 不会少,二进制目前主要围绕 macOS(Homebrew / darwin 包)。HN 评论区的争论点也集中在「为什么不用现成的 neovim 发行版」——我的看法是,LazyVim、LunarVim 这类发行版本质还是「配置的集合」,升级和插件冲突照样要人管;Toast 走的是「编辑器即产品」路线,类似 Zed 的思路搬进终端,方向本身就值一张票。

对国内开发者:终端党不少,但把周末烧在 init.lua 上的更多。这类「零配置全功能终端 IDE」目前没有中文教程、没有国内社区讨论,属于典型时间差窗口。而且它旗帜鲜明的「无 AI、无遥测」定位,在满屏 AI 编辑器里反而成了稀缺品——把它当 AI Agent(Claude Code / Codex CLI)旁边那个纯手工操作位,组合起来反而顺手。


三、SyntheticAIdata:每月 10 万张免费合成视觉数据,自动带标签

第三个是价格差最大的。做嵌入式视觉、工业质检、机器人感知的同学都知道,图像数据采集和标注是最贵的环节——要特定物体、特定角度、特定光照,真人标注一张几毛到几块钱。

SyntheticAIdata 的创始人 Goran(就是做合成数据的那家)9 月 11 日在 Show HN 放出了自助管道:你在网页上调环境、相机角度、背景、干扰物,批量渲染自动带标注的训练图,下载或直推 Edge Impulse(嵌入式 ML 平台)训练端侧模型。关键数字:每月 100,000 张免费,需注册,入口 app.syntheticaidata.com。

flowchart LR
    A["设定物体与场景参数"] --> B["批量渲染图像"]
    B --> C["自动生成标注"]
    C --> D["本地下载或推送 Edge Impulse"]
    D --> E["训练并部署边缘视觉模型"]

国内对比:合成数据国内多是 toB 定制项目(自动驾驶、安防居多),面向个人开发者的免费自助批量管道基本空白。如果你在做树莓派/Jetson 类小项目、比赛 demo 或者客户 POC,这个免费额度大概率够用,等于把标注外包费直接省了。注意合成数据与现实分布的鸿沟依然存在,正式上线前拿真实数据验一遍是基本素养。


顺手再捞三件小的(早期项目,未评测,仅存档)


信息差总结

维度 你可能以为的 实际情况
幻觉检测 必须上裁判模型/NLI,GPU 账单免不了 Spanda 用词面聚类 + 熵,CPU 纳秒级,7B+ 场景效果追平神经方案
「答案一致」 多次采样一致 = 正确 120B 级模型会一致地错(Mode Collapse),必须配 RAG
终端 IDE 要么啃 vim 配置,要么开 VSCode Toast 一条 brew 装完,托管 LSP + 文件树 + 命令面板
视觉训练数据 采集标注又贵又慢 SyntheticAIdata 每月免费 10 万张自动标注合成图
MCP 安全 装了 MCP 就能用 工具输出本身就是注入入口,防护品正在冒头

行动指南

  1. 今天 5 分钟:pip install spnda,拿你业务里 20 条真实 prompt 跑 spanda.wrap,看 R_sc 分布和你的实际错误率对不对得上——对得上就接网关。
  2. 今天 2 分钟:brew install paradise-runner/tap/toast,把你某个小项目的 vim 会话换成 Toast 跑半天,感受「零配置」是不是你的菜。
  3. 本周:如果你有 CV 项目,去 app.syntheticaidata.com 注册免费额度,生成 1000 张样图先跑通 Edge Impulse 链路。
  4. 持续观察:Stroq 和 KyttoMCP 都太早期,先收藏不上生产;等它出现在 MCP 安全讨论里第二回,再考虑引入。
  5. 顺手做:Show HN 的新品窗口期就 48 小时,用 hn.algolia.com 的 API 按 tags=show_hn 按时间拉流,比等中文号二手翻译快三天。

参考来源

  1. HN Show HN 实时流(Algolia API,本文全部条目来源):https://hn.algolia.com/api/v1/search_by_date?tags=show_hn&hitsPerPage=40
  2. Spanda 仓库与基准数据(作者发布):https://github.com/Adarshent/Spnda | PyPI:https://pypi.org/project/spnda/
  3. Toast 仓库与安装文档:https://github.com/paradise-runner/toast
  4. SyntheticAIdata(创始人 Goran 发布帖):https://app.syntheticaidata.com/
  5. Stroq:https://stroq.dev/ | KyttoMCP:https://kytto.jakubhecht.sk/ | HungryGPU:https://hungrygpu.com

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入