首页 › new-tools › 100刀训出你自己的ChatGPT:四件新货

去年10月,前特斯拉AI总监、OpenAI创始成员Andrej Karpathy干了件“反常识”的事:他开源了一个叫 nanochat 的项目,口号是“100美元能买到的最好的ChatGPT”。没有发布会,没有融资通稿,但这个仓库在X和Hacker News上刷了整整一周。半年过去了,中文社区对它的讨论还停留在“又一个教学项目”,而海外开发者已经拿它做内训、做面试题、做私有化网关的练手场。

今天这期「新货速递」,我把这条线索上连着的四件海外工具一次说清:nanochat(100刀训模型全栈)、Goose(Block开源的本地Agent)、Marimo(把Notebook变成App)、OpenRouter(一个Key打通几百个模型)。它们凑成一条完整的纵队:从“搞懂模型怎么造”,到“一个Key调所有模型”,再到“实验能直接部署”,最后“让Agent替你干活”。国内开发者对前三件的名字大多陌生,这正是本文要补的信息差。

一、nanochat:100刀,从Tokenizer训到聊天界面

官网:https://github.com/karpathy/nanochat

Karpathy可能是全球最会“教人做大模型”的人。他此前的nanoGPT、llm.c是纯教学代码,而nanochat更进一步——它是一个完整可用的ChatGPT复制品:分词器(Rust写的rustbpe)、预训练、监督微调SFT、可选的强化学习、Rust推理引擎、带前端UI的网页聊天,一条龙全在仓库里。

据作者自述,在一张8×H100的节点上跑4小时左右,花费约100美元,就能得到一个能正常对话的小模型;愿意加钱,跑一晚上更高预算的训练,模型质量会明显上一个台阶。所有数字以仓库README为准,但“一顿饭钱 + 一个通宵 = 自己的ChatGPT”这个叙事,是它爆火的根本原因。

价格:代码完全免费开源;成本主要是租GPU,官方脚本按“档位”给出预算参考。

为什么值得关注:国内学大模型的路子,要么是看论文课(理论懂了,工程全无),要么是魔搭社区拉现成模型微调(只会调参数,不懂流水线)。nanochat的价值是把整条生产线摊开给你看——哪怕你不实际租卡,光读它的训练脚本和推理引擎,也比大多数付费课扎实。海外已经有人拿它做团队内训教材和面试考题。

对比国内:魔搭ModelScope有免费GPU试用额度但封闭在自家生态里;AutoDL租一张4090一小时只要几块钱,适合把nanochat的speedrun配置降档慢慢跑。差距在于:国内平台给你“用”,nanochat给你“造”。

适用人群:想转大模型infra的算法工程师、要做私有化部署但被“从哪开始”卡住的团队、以及所有被培训课割过韭菜的人。

二、Goose:支付公司Block开源的“本地打工人”

官网:https://github.com/block/goose

Goose是Jack Dorsey旗下支付公司Block(Square/Cash App母公司)在2025年初开源的AI Agent,定位是“跑在你自己机器上的AI员工”。它有两个形态:CLI和桌面端,核心玩法是挂载MCP扩展——读写文件、跑终端命令、连浏览器、接数据库,全都通过标准化的MCP工具协议接入,生态里的扩展可以随意插拔。

它的差异化就三个字:本地跑。模型可以接云端API,也可以直接接Ollama的本地模型,实现“数据不出门”的全离线Agent。Block内部声称已在工程流程里大规模使用(以官方博客为准),这一点让它在“公司背书”上比多数社区开源Agent硬气。

价格:免费开源(宽松协议);如果不接付费API、纯走本地模型,边际成本为零。

为什么值得关注:国内开发者提AI编程助手,第一反应是字节TRAE或通义灵码——都免费好用,但都是闭源云服务,代码上下文要过别人的服务器。Goose是同赛道里少有的开源+本地+可换任意模型的选择,公司要在内网合规环境里给工程师配Agent,它几乎是现成答案。

适用人群:有代码保密要求的团队、想在终端里搭自动化流水线的独立开发者、MCP生态尝鲜派。

三、Marimo:你写了十年Jupyter,其实一直在用错误的格式

官网:https://marimo.io (开源仓库:https://github.com/marimo-team/marimo)

Marimo是2024年出现、2025年在海外数据圈迅速起量的反应式Notebook。它干掉了Jupyter最大的两个原罪:隐藏状态和没法复用。

具体体验:单元之间不再是“从上到下碰运气”的执行顺序,而是像Excel一样——改一个变量,所有依赖它的单元自动重跑,跑不动就直接报错,永远不会再出现“第3行的x其实在笔记本最底下才定义”这种事故。更狠的是它的存储格式:notebook就是一个纯Python文件,可以直接git diff、可以直接pip install后当成库import、可以一条命令变成网页App(marimo run),甚至能编译成WASM在浏览器里离线跑。它还内置了SQL单元,查询结果直接变成Python变量。

价格:核心完全免费开源;官方提供云端托管服务,有免费额度,付费档以官网为准。

为什么值得关注:国内做数据/AI的人都活在Jupyter里,百度AI Studio、阿里PAI的Notebook全是Jupyter壳,十年没变过。Marimo不是“又一个Notebook”,它把Notebook从“草稿纸”升级成“能交付的软件”——写实验和写产品用的是同一个文件。海外团队已经在拿它做内部数据工具的前端。

适用人群:所有写Jupyter的人,尤其是经常“实验代码改一改就变成线上脚本”的算法工程师和数据工程师。

四、OpenRouter:一个API Key,几百个模型随便切

官网:https://openrouter.ai

注意,这不是聊天应用Poe(Poe是给人聊天的,之前已经写过)。OpenRouter做的是API网关:注册一个账号拿一个Key,就能用同一套接口调用OpenAI、Anthropic、Google、Meta、DeepSeek等几百家模型的API,按token统一计费,还支持自动故障转移——某家模型挂了自动切到备选。

对国内用户真正的杀招有三个:其一,支付门槛低,不用逐家去申请海外信用卡账单(充值方式以官网为准);其二,部分开源模型带free后缀的免费档,白嫖做原型完全够用;其三,你自己的官方Key也能托管给它中转,官方口径收取约5%左右的中转费——换来的是统一监控、负载均衡和日志。

价格:注册免费,按token充值计费;免费档模型零成本;自带Key中转收取小额手续费(约5%,以官网定价页为准)。

为什么值得关注:国内开发者用海外模型,传统路径是找中文中转站,普遍加价10%-30%,跑路风险高、稳定性的确堪忧。OpenRouter是海外正规军的“官方中转”,价格透明、有账单明细,做Agent应用要同时备好几家模型的fallback,它是目前最省事的方案。

适用人群:做多模型路由的Agent开发者、不想每家都注册账号的独立开发者、需要给团队统一发API预算的技术管理。

四件货怎么选:一张图看懂

flowchart TD
    A["今晚先薅哪件"] --> B{"想搞懂大模型<br/>整条生产线"}
    A --> C{"想要本地合规<br/>的AI码农"}
    A --> D{"一个Key<br/>调遍所有模型"}
    A --> E{"Notebook写完<br/>直接变App"}
    B --> F["nanochat<br/>读代码 + 租卡复现"]
    C --> G["Goose<br/>挂MCP扩展上岗"]
    D --> H["OpenRouter<br/>注册拿Key五分钟"]
    E --> I["Marimo<br/>pip一条命令装好"]

信息差总结

工具 你以为的 实际上的
nanochat 又一个教学玩具 100刀复刻ChatGPT全栈,海外已拿来做内训和面试题
Goose 不如TRAE好用 开源可本地部署,内网合规环境几乎唯一解
Marimo Jupyter的换皮 纯.py格式可git可部署,草稿纸变交付物
OpenRouter Poe的亲戚 API网关,免费档模型+官方聚合,替代野鸡中转站

行动指南

  1. 今晚(0成本):打开nanochat仓库,只读README和训练脚本目录,重点看它怎么组织预训练→SFT的流水线,建立“全栈感”。
  2. 明晚(5分钟):注册OpenRouter,找到带free后缀的模型,用curl发第一个请求,把Base URL替换进你现有的Agent代码里做fallback。
  3. 本周末(半天):pip install marimo,把手上一个最烦的Jupyter实验搬过去,体验一次“改上游自动重跑”,再试试marimo run把它变成同事能打开的网页。
  4. 下周(一晚):装Goose,先接Ollama本地模型跑通文件读写,再逐个挂MCP扩展,把“每天固定的代码搬运活”交给它。
  5. 有余力:在AutoDL租一张4090,把nanochat的speedrun配置降到单卡慢慢跑,体验一次“亲手喂完一条训练曲线”。

参考来源

  1. nanochat 开源仓库:https://github.com/karpathy/nanochat
  2. Goose 开源仓库(Block出品):https://github.com/block/goose
  3. Marimo 官网:https://marimo.io
  4. Marimo 开源仓库:https://github.com/marimo-team/marimo
  5. OpenRouter 官网:https://openrouter.ai

注:文中涉及的具体价格、训练时长、手续费比例均以各工具官网最新定价为准,部分数据来自项目作者自述,未经第三方审计。


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入