首页 › trending › Redis之父造引擎,专吃中国模型

2026年10月3日的 Hacker News 首页,有两个帖子中国技术圈几乎没人注意,但它们合起来透露了一个重要信号:中国开源模型正在被海外开发者“基础设施化”,而海外社区同时开始为“AI写的代码”重新设计信任机制。第一个信号来自 Redis 之父 antirez——他不声不响发布了一个专门跑中国模型的 C 语言推理引擎,冲上首页223分;第二个信号来自 Linux 内核二号人物 Greg Kroah-Hartman 的一场演讲《Security in the LLM Age》,231分。这两件事,一件关于“模型从哪来”,一件关于“代码敢不敢用”,正好拼出当下海外开发者圈最真实的焦虑与路线图。

一、Redis 之父下场:为 DeepSeek、GLM、Qwen 单写一个引擎

先说人。Salvatore Sanfilippo,网名 antirez,Redis 的创造者,写 C 代码的活传奇。2020年离开 Redis Labs 之后,他一直在博客上折腾小模型和 LLM 推理。这次他放出的项目叫 DwarfStar 4(ds4),HN 帖子标题直接就是“From the creator of Redis; run LLM locally with ds4”。

这个引擎最值得玩味的地方,是它官网开头那句话:不是通用 GGUF 运行器,是窄引擎(narrow on purpose)。它只支持三族模型:DeepSeek V4 / V4.1 Flash、GLM 5.x、Qwen3.8 Flash Next——清一色中国开源模型。MIT 协议,C 语言手写,支持 Metal(Mac)、CUDA(N卡)、ROCm(A卡)三种后端,文本和视觉输入都做了。

技术上有两个狠活值得单独说:

1. 非对称 2bit 量化。 普通量化是“全模型统一压”,ds4 的思路是压路由专家(routed experts),但保住关键共享路径的精度。用官网的原话说,“压缩,但不切除脑叶(compressed, not lobotomized)”。这就是为什么 DeepSeek V4 Flash 这种 2840 亿参数的 MoE 巨兽,能塞进一台 128GB 内存的 Mac。

2. KV 缓存当磁盘公民。 长前缀缓存直接写 SSD,重启时按 prompt 哈希续跑,不用重新 prefill。对跑长上下文编码 Agent 的人来说,这一条直接决定“本地能不能当生产力”。

跑分是官方给的(ds4 基准表,未经第三方复核):

机器 上下文 Prefill(tok/s) 生成(tok/s)
M5 Max 128GB q2 · 2k 790.2 39.4
M5 Max 128GB q2 · 65k 398.5 27.6
DGX Spark 128GB q2 · 2k 825.8 18.1
DGX Spark 128GB q2 · 65k 823.0 13.8

内存门槛也写得很明白:128GB 机器上,V4 Flash Q2 是基线,GLM 5.3 Q2 和 Qwen Q4 都能跑;V4.1 Q2 走 SSD 流式加载;64GB 内存就能跑 Qwen。

安装就三步,官网原文:

git clone https://github.com/antirez/ds4
cd ds4 && ./download_model.sh ds4f-q2
make && ./ds4
flowchart TD
    A["官方开源权重"] --> B["download_model.sh 下载"]
    B --> C["转专用GGUF格式"]
    C --> D["非对称2bit量化"]
    D --> E["ds4推理引擎"]
    E --> F1["ds4 命令行对话"]
    E --> F2["ds4-server 本地API"]
    E --> F3["ds4-agent 编码会话"]
    F2 --> G1["接 Claude Code"]
    F2 --> G2["接 Codex"]
    F2 --> G3["接 OpenCode"]
    E --> H["KV缓存写入SSD"]
    H --> I["按prompt哈希续跑"]

HN 评论区在吵什么? 57 条评论里,核心分歧其实是一个老问题的变体:已经有 llama.cpp 和 ollama 了,为什么还要自己写一个?一派认为这是重复造轮子,窄引擎每支持一个新模型都要手工适配,生态上不可持续;另一派则认为,通用运行器什么都支持意味着什么都不极致,antirez 这种“每支持一个布局就端到端验证一遍、和官方输出对齐”的做法,才是本地推理该有的工程态度。值得注意的潜台词是:没人争论“该不该跑中国模型”——这件事在海外开发者眼里已经不需要讨论了,争论只发生在“用什么姿势跑”。

同一天首页上还有第二个帖子做了佐证:《One month coding with GLM 5.3 Flash》,发在 wagtail.org(Wagtail CMS 官网,发帖人是社区里深耕多年的开发者),讲的是用 GLM 5.3 Flash 干了一个月真实编码工作的一手记录,150分,111条评论吵得很热闹。两个帖子同日出现在首页,一个造引擎、一个写月记,说明中国模型在海外已经完成了从“跑分玩具”到“日常工具”的转身。

二、内核二号人物开讲:AI 写的代码,你敢签收吗

第二个帖子的分量更重。Greg Kroah-Hartman——Linux 内核稳定分支和驱动子系统的实际掌门人,全球开源世界最有话语权的维护者之一——做了一场演讲:《Security in the LLM Age》,视频挂上 HN 首页,231分、67条评论。

这场演讲戳的是所有重度用 AI 写码的人的共同软肋:当补丁是模型生成的,信任链从哪里开始?

背景并不是空穴来风。2024年 kernel.org 就发布过指引,要求贡献者披露代码中 AI 的参与程度(据当年 LWN 等多方报道);同年还出过极端案例——有人用大模型批量伪造内核漏洞报告投递到安全邮件列表,把维护者搅得不胜其烦(据 oss-security 邮件列表当时的公开讨论)。从那以后,“AI slop”(AI 泔水补丁)成了开源圈的固定黑话,多个项目明文禁止未披露的 AI 生成贡献。

GKH 选在这个节点讲安全,讨论的实质是:开源世界的信任模型建立在“人对人的审查”上,LLM 把产能放大一百倍的同时,把审查成本也放大了一百倍。

海外社区在这类讨论里反复出现三派立场:

立场 核心主张 逻辑
拥抱派 AI 代码照单全收 审查是维护者本来就该做的事,来源不重要,质量重要
抵制派 未披露的 AI 补丁直接拒 维护者志愿劳动不该替模型厂商免费质检,伪贡献是给信任链投毒
流程派 强制披露+机器辅助审查 AI 可用,但必须有 provenance(来源凭证),签名、审计、披露三件套跟上

GKH 多年来的公开立场偏向后两者的组合:他处理过大量伪造安全报告,对“低成本生成、高成本审查”的攻击模型极其敏感。这次把话题升级到"Security in the LLM Age",等于是把一个社区纪律问题,正式升格为安全架构问题。

flowchart TD
    A["开发者用LLM写补丁"] --> B{"是否披露AI参与"}
    B -->|是| C["进入正常审查流"]
    B -->|否| D["被视为slop风险"]
    C --> E["维护者人肉审核"]
    E --> F["签名合入主线"]
    F --> G["下游发行版信任锚"]
    D --> H["拒收或整体回滚"]

这张图就是海外社区正在收敛的共识:AI 可以进流水线,但必须在入口处留痕,在出口处签名。 信任不再默认存在,而是逐环节重建。

三、信息差总结

你可能知道的 大多数人还不知道的
ollama / LM Studio 跑开源模型 antirez 为中国模型家族专门写了窄引擎 ds4,2bit 量化 + KV 缓存落盘是两个关键黑科技
中国模型海外跑分强 海外一线开发者已经用 GLM 5.3 Flash 干了一个月真活,并发了万字一手复盘
本地跑大模型要 4bit 起步 ds4 用非对称量化把 2840 亿参数 MoE 压进 128GB Mac,32K 上下文 34.4 tok/s
用 AI 写码很正常 开源基础设施层正在给“AI 代码”重新设计披露、审查、签名的信任链,国内团队普遍还没有这层机制

四、行动指南

  1. 有 128GB Mac 或 DGX Spark 的,今天就能跑通 ds4:按上面三步命令操作,然后把 ./ds4-server --ctx 100000 起的本地服务地址填进 Claude Code / Codex / OpenCode 的 base URL,你的编码 Agent 就跑在自己机器上的 DeepSeek/GLM/Qwen 上,API 费归零。64GB 内存先从 Qwen Q4 玩起。
  2. 把 GKH 的演讲看完(HN 首页可检索到视频),重点听他讲审查成本与攻击模型;然后给自己团队补一条最小规矩:PR 模板加一行“AI 参与程度”披露字段,成本为零,但出事时能溯源。
  3. 去读《One month coding with GLM 5.3 Flash》的原文和 111 条评论,这可能是目前关于“中国模型当主力生产力”信息密度最高的一手记录,评论区里正反方的实战数据比评测文章值钱。

延伸思考:这两件事其实是一体两面。当模型能力趋同(跑分拉不开差距)、价格趋零(本地可跑)之后,开发者的竞争力会迁移到两处——算力的自主性(你的 Agent 跑在谁的服务器上)和交付的可信度(你的代码经不经得起 provenance 审查)。海外社区已经在为这两个问题修基础设施了,而国内讨论还集中在模型本身。这才是最大的信息差。


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入