国内还在为"换了个模型,prompt 全得重调"熬夜,海外这周连上三把刀,把 prompt 从"手写的咒语"变成"可编译、可回归、可自愈的参数"。6 月 24 日同一天,dspyer、HALO、OntoCortex 三个开源项目一起更新——一个在编译期把你的 Agent 代码转译成可自动调优的 DSPy 程序(自带 benchmark 60%→90%),一个在运行期用专门的 RLM 啃生产 trace、自动给 Cursor/Claude Code 派活改 harness(AppWorld 上 Sonnet 4.6 +15.8 分),还有一个从结构上让 LLM 只许"发意图"、不许"碰执行"。这三把刀指向同一个信息差:prompt 正在被工程化,而你大概率还在手搓。
你在 LangChain / LangGraph 里写的那个 system prompt,本质上是一段没有测试、没有回归、没有版本管理的字符串。它有三个结构性毛病,dspyer 的作者 Ramkumar M 在 README 里点得很准:
try/except 去兜底 LLM 吐出来的畸形 JSON、缺字段。国内主流的 Dify、Coze、百度千帆、阿里百炼,解决的是"可视化编排"——把节点拖出来连一连,让你少写点胶水代码。但它们几乎都不碰上面这件事:把 prompt 本身当成一个可以对着数据集自动优化的参数。 这正是斯坦福 DSPy 这两年在海外的火种,而这周三把刀,分别把这个理念推进到了"编译期""运行期""结构层"三个位置。
DSPy 的核心思想很颠覆:别手写 prompt,把 prompt 当参数,让优化器对着数据集编译出来。 但 DSPy 自己有一套 Signature / Predictor / Module 的新语法,迁移成本高,老项目根本搬不动。dspyer 干的事就是当那个"转译器"——你照常用 Python 函数 + Pydantic schema + LangGraph 写代码,它在底下把这些转译成标准的 dspy.Module,再丢给任何 DSPy 优化器(如 BootstrapFewShot)去自动调。
它最值钱的四个能力:
@self_correcting 装饰器,Pydantic 校验一旦失败,自动生成反馈让模型重答,直到符合 schema。不用再手写 try/except。save_prompts("agent_config.json"),生产环境 load_prompts 直接用。换模型?重新 compile 一遍。from_langgraph(builder, node_mappings=...) 把现有 StateGraph 整个吃进来,非 LLM 节点原样保留。作者在自带的情感分类 benchmark 上给出一个很直观的数:只调推理节点,准确率从 60% 拉到 90%。 装一行就行:pip install dspyer(支持 Python 3.10–3.14)。
适合谁:已经在用 LangChain/LangGraph 跑生产 Agent、受够了"换模型就翻车"的 Python 后端和算法工程师。需要提醒一句——它现在还很早期(star 个位数),CI 和测试(69 个用例)做得挺认真,但别直接拍进核心链路,先在旁路 benchmark 上试。
如果说 dspyer 是"上线前调好",HALO 玩的是"上线后让 Agent 自己进化"。全称 Hierarchical Agent Loop Optimizer,核心是一个递归自愈闭环:
flowchart LR
A[生产 Agent 跑起来<br/>采集 OpenTelemetry trace] --> B[HALO-RLM 引擎<br/>分解 trace 找共性失败模式]
B --> C[产出诊断报告<br/>幻觉工具调用/冗余参数/拒绝循环/语义错误]
C --> D[喂给 Cursor / Claude Code<br/>自动改 harness 代码]
D --> E[重新部署<br/>再采 trace]
E --> A
HALO 最反直觉的一个判断值得单独拎出来:用 Claude Code 这种通用 harness 去分析 trace,是错的工具。 不是模型不够聪明,而是生产 trace 会非常长,通用 harness 容易"过拟合到某一条 trace 的错误",而不是泛化到 harness 层面的系统性问题。所以 context-labs 专门造了一个 RLM(Reasoning Language Model)来做这件事——它能把"幻觉的工具调用""冗余的工具参数""拒绝循环""语义不对"这些失败模式归因出来,而且每一条都能直接对应到一个 prompt 编辑。
数字很硬。在 AppWorld 这个多 App(Spotify、Venmo、文件系统、通讯录)的 Agent benchmark 上,只靠"优化 harness",不换模型:
| 模型 | dev SGC | 提升 | test_normal SGC | 提升 |
|---|---|---|---|---|
| Gemini 3 Flash | 36.8% → 52.6% | +15.8 | 37.5% → 48.2% | +10.7 |
| Sonnet 4.6 | 73.7% → 89.5% | +15.8 | 62.5% → 73.2% | +10.7 |
关键是它用 dev split 迭代、用 test_normal 验证,证明提升不是过拟合来的。用法对钱包友好:默认用 gpt-5.4-mini 跑,trace 总结和上下文压缩这两步(最烧 token 的)单独指定便宜的 gpt-4.1-nano,还支持 OPENAI_BASE_URL 接任意 OpenAI 兼容服务(OpenRouter、国产兼容端都行)。pip install halo-engine 装好,halo your_traces.jsonl -p "诊断错误并建议修复" 就能跑。
适合谁:已经有线上 Agent、每天产生大量调用、想知道"到底是哪类失败在拖后腿"的团队。流量越大、方差越高,HALO 越有用——这正好是国内 toB Agent 最缺的一层"质检 + 自我迭代"。
前两把刀管"调优",这把管"别让 Agent 翻车"。它的主张叫 intent-execution separation(意图-执行分离):LLM 永远只发出类型化的意图(SIF,Structured Intent Format),只有 7 个动词——find / create / update / delete / link / unlink / transition,而且必须用本体论(ontology)词汇表里的名字。底下有一个确定性的执行层负责校验、路由、翻译、执行。
这件设计买到三样东西,每一样都直击 Agent 落地的痛点:
Lawyer 在 PG、MatterNote 在 Mongo,LLM 毫不知情)。active 状态的案子上跑 Engage 转换,引擎直接拒绝:current state 'active' is not in the legal source set [conflict_check]。模型拿不到 override 权,只能把拒绝解释给用户。更激进的是它的第二个实验:一个能跑的业务 App,可能只需要"本体 + 业务规则(纯文本)+ Agent prompt"三样声明式内容,不写任何 service 层代码。仓库里 legal(律所案件管理)和 vet(兽医诊所)两个域就是这么搭的,换域只换那四五个 YAML/文本文件。
适合谁:做企业级、有强审计/合规/权限要求的 toB Agent 的 Java/Spring 团队(国内金融、法律、医疗、政务场景天然契合)。它非常新(star 还是 0),但作为"参考实现"和设计范式,值得早点抄进自己的架构。
| 维度 | 国内主流做法(你大概率在这) | 海外这周三把刀 |
|---|---|---|
| prompt 管理 | 手写、放配置文件、换模型靠人肉重调 | 当参数编译,对着数据集自动优化并存盘(dspyer) |
| Agent 上线后 | 看 dashboard、靠用户投诉发现 bug | 生产 trace 喂给 RLM,自动诊断并派 Cursor 改 harness、闭环自愈(HALO) |
| Agent 执行 | LLM 直接 function call,校验全靠后置兜底 | LLM 只发类型化意图 SIF,确定性层执行,结构上杜绝越权和幻觉(OntoCortex) |
| 可观测/质检 | 基本没有,"Agent 都上岗了,质检层还没人装" | 把 trace 当训练数据,把诊断当回归 |
| 心智模型 | prompt 是"咒语",靠玄学手感 | prompt 是"代码对象",可编译、可回归、可自愈 |
pip install dspyer,跑它 README 里那个 30 秒离线 quickstart(不用 API key、用 mock 模型),亲眼看一次"自纠正"循环怎么把缺字段的输出修好。再跑 examples/benchmark.py,看 60%→90% 是怎么出来的。这是认知升级成本最低的一步。pip install halo-engine)随时能 halo traces.jsonl -p "..." 开跑。没 trace,自愈就是空谈。一句话收尾:海外正在把 prompt 从"玄学"搬进"工程",三个位置(编译期 / 运行期 / 结构层)这周都补齐了开源工具。信息差的窗口期就在这几个月——等 DSPy 范式和 trace 自愈在国内普及,就没你什么事了。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
