国内技术圈聊AI落地,声音高度集中在两头:一头是"哪个大模型跑分又涨了",一头是"我用Cursor/Claude Code一天写了多少代码"。但中间那层——让AI在动手之前/之中/之后保持确定性——几乎没人系统讲。结果是大量团队卡在三个"玄学关"上:买完显卡不知道该跑哪个模型、AI读不懂自己的代码库、AI抽出来的数据没人敢信。
今天介绍三把6月底刚上GitHub趋势榜(数据源 aitoolradar.io 6月版)的海外新刀,正好对应这三关:选型(whichllm)、读懂(graphify)、取证(langextract)。它们都不是又一个跑模型的引擎,而是给AI落地"补确定性"的元层工具。国内目前还基本没人系统搬运。
它解决什么:你手里有一台 4060 Ti 16G,或者一台 M3 Pro,又或者想买张 5090——到底该跑哪个本地模型?国内90%的人是按"参数量 + 某个跑分榜"拍脑袋选,结果要么爆显存跑不动,要么跑得动但实测很蠢。whichllm 是一个 CLI,先探测你的实际硬件(GPU 型号/显存、CPU、内存),再用真实多榜单基准(LiveBench、Artificial Analysis、Aider、Arena ELO)对"在你这台机器上能流畅跑的模型"打分排序,而不是只看参数量。
为什么值得关注(信息差):
1. 它带"置信度标记"——~ 表示估计值,? 表示无数据。一个选型工具敢承认自己不确定,这在国内工具里极罕见。
2. 支持 GPU 模拟:你还没买卡,可以先告诉它"我想买 5090",它帮你算这台假想机器能跑什么、性能大概多少。买卡前省下几千块试错成本。
3. 输出可脚本化的 JSON,能塞进 CI 或采购决策流。
国内对比:国内选本地模型基本靠两类——贴吧/B站博主的人肉测评(主观、过时快),或者 Ollama 自带的 ollama run 试错(暴力的能跑/不能跑二元判断)。没有"按我硬件+多榜单实测推荐"的中间层。whichllm 填的就是这一层。
适用人群:打算本地部署的技术人、给团队采购显卡的Leader、做边缘部署的工程师。
要踩的坑:速度数字是估算值而非实测保证;Ollama 集成还需要手动做 HuggingFace ID 映射;仍在 0.x 阶段。
它解决什么:你扔给 Claude Code 或 Cursor 一个 50 万行的老项目,让它改一个跨模块的功能,AI 经常"瞎改"——因为它没有全局视图。graphify 是一个 AI 编程助手的 skill,一条 /graphify 指令,就能把一整个文件夹(代码、SQL schema、文档、PDF、甚至图片)解析成可查询的知识图谱。它用 tree-sitter 在本地做 AST 提取,输出 HTML 可视化、JSON 图谱、Obsidian vault、架构图四种产物。
最狠的一点:它跨 约 20 个 agent 工作——Claude Code、Codex、Cursor、Gemini CLI、Aider、Windsurf 等都能用,不需要 Neo4j、不需要起服务器。
为什么值得关注(信息差): - 国内做"AI读代码库"几乎只有两条路:把整个仓库塞进上下文(贵且超长就崩),或者做 RAG(召回不准,AI 还是瞎)。graphify 给了第三条路——结构化为图谱,让AI按关系而不是按文本相似度去理解项目。 - 它同时吃代码和非代码(SQL、文档、PDF、图)。国内工具通常要么只啃代码,要么只啃文档,很少有人把"全工程资产"统一图谱化。
国内对比:通义灵码、文心快码主要做单文件/单项目补全和问答;国内几乎没有"把整个存量工程变成图谱、且跨 20 个 IDE/agent 通用"的开源方案。这块是实打实的认知差。
适用人群:维护大型遗留项目的工程师、做代码审计/迁移的人、想让 agent 真正理解自己公司代码库的团队。
要踩的坑:语义那一步会把数据发给你的 agent 模型 API(有成本和隐私考量);pre-1.0,格式/接口还会变;需要 Python 3.10+。
它解决什么:让大模型从非结构化文本(合同、论文、报表、病历、工单)里抽结构化字段,是国内最常见的需求之一。但痛点是——抽出来的数据对不对?出处在哪里? langextract 是 Google 开源的 Python 库,用 LLM 做结构化信息抽取,然后把每一个抽取结果回链到原文的精确位置(source grounding),并渲染成一个可交互的 HTML 视图,点开就能看到"这个字段是从原文第几段抽出来的"。
最巧妙的一点:它自己不调用任何模型——你自带 provider:Gemini(默认)、OpenAI,或者通过 Ollama 跑本地模型(无需任何 API key,数据不出本机)。
为什么值得关注(信息差): - 国内做抽取的主流姿势还是"正则 + 大模型直接 JSON 输出",结果对不对全靠人工抽查,出了错没法溯源。langextract 的 source-grounding 让"AI提取结果"第一次可以像"数据库查询"一样被审计。 - 它把 provider 完全解耦,本地用 Ollama 就能跑——这对金融、医疗、法律等数据不能出境的国内场景是刚需。
国内对比:国产工具里几乎没有把"抽取+逐字段溯源+可视化"做成一体的开源方案。多数是商业 API 黑盒。
适用人群:做数据治理/ETL、合规审计、医疗法律信息化的工程师,以及所有"AI抽取结果要给业务方一个交代"的场景。
要踩的坑:README 明确写"this is not an officially supported Google product"(无 SLA);用云端模型时文本会出本机、有 token 成本;准确率取决于你选的模型和示例,是项目方自己的声明。
flowchart LR
A["玄学起点<br/>团队要落地AI"] --> B{"卡在哪一关?"}
B -->|"动手前:选错模型<br/>跑不动或很蠢"| C["whichllm<br/>按真实硬件+多榜单<br/>推荐该跑的模型"]
B -->|"动手中:AI看不懂项目<br/>瞎改乱改"| D["graphify<br/>一条指令把整个工程<br/>变成可查询知识图谱"]
B -->|"动手后:AI抽的数据<br/>没人敢信"| E["langextract<br/>每个抽取结果<br/>回链原文+可视化"]
C --> F["确定性 AI 落地"]
D --> F
E --> F
style C fill:#e8f5e9
style D fill:#e3f2fd
style E fill:#fff3e0
style F fill:#fce4ec
| 环节 | 多数人还在做的(玄学) | 懂这三把刀的人在做的(确定性) |
|---|---|---|
| 选模型 | 看参数量+单一跑分榜拍脑袋 | 用 whichllm 按自己硬件+多榜单打分,还能模拟买卡 |
| AI读代码 | 塞全量上下文/做粗糙RAG | 用 graphify 把全工程图谱化,跨20个agent复用 |
| 信息抽取 | 正则+大模型直接出JSON,靠人抽查 | 用 langextract 逐字段回链原文,可审计、可本地 |
npx / pip 装 whichllm,5 分钟拿到"你这台机器的最优解",别再靠玄学。/graphify,看它生成的架构图——你会第一次直观看到 AI 是怎么"理解"你的代码库的。三把刀都还年轻(pre-1.0 或 0.x),适合技术尝鲜和小团队内部工具,不建议未经验证直接上生产关键链路;上生产前务必核对各自的 LICENSE 和最新 release 状态。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
aitoolradar.io(6月19仓库radar)、devflokers.com(6月开源汇总),完整内容落盘后用 Read 读取分析。topic_history.sh 自行抓取标题。[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
