静态的智能体框架在 2026 年遭遇了一次根本性转向:业界不再满足于"一次性答对",而是要求智能体把自己跑过的轨迹当训练集、把自己的失败当梯度,在部署后持续优化自身的提示词、工具、工作流乃至权重。这套范式被 2025–2026 年的两篇综述正式命名为 Self-Evolving Agents(自进化智能体),其统一模型把所有变体收束进同一个反馈回路:System Inputs → Agent System → Environment → Optimisers。本文以该"闭环四件套"为骨架,拆解四台真正跑通自进化的引擎——Sakana AI Scientist-v2(登顶 Nature)、DeepMind AlphaEvolve、ICML 2026 的 EvolveR、以及开源工程化框架 EvoAgentX,给出每一台的优化对象、闭环代码与落地取舍。
| 引擎 | 优化对象 | 闭环机制 | 反馈来源 | 代表战绩 | 上手/变现 |
|---|---|---|---|---|---|
| AI Scientist-v2(Sakana) | 研究方案/代码/论文 | 树搜索 + 同行评审模拟 | 评审模型打分 | 首个过 ICLR Workshop 同行评审、登 Nature | 高门槛,学术向 |
| AlphaEvolve(DeepMind) | 程序/算法本身 | 进化算法(变异+选择) | 可验证的适应度函数 | 重现并改进矩阵乘法算法 | 需明确定义 fitness |
| EvolveR(ICML 2026) | 策略权重 + 经验原则 | 离线蒸馏 + 在线交互 + GRPO | 多跳 QA 正确率 | 多跳问答超 agentic 强基 | 需 RL 栈,研究友好 |
| EvoAgentX(开源) | 工作流 + 提示词 | 自动构建 + 评测 + 自进化算法 | 任务评测器 | 通用业务工作流 | 工程化最好,适合训练营 |
共性:四者都把"Agent System 的某个部件"当成可被优化器改写的对象,而非黑盒。
综述(arXiv 2508.07407)给出的抽象足以解释一切自进化系统,关键在于区分四个边界清晰的组件:
一个最小可运行的自进化内核只有五行:
def self_evolve(agent, env, optimiser, rounds=10):
for r in range(rounds):
traj = agent.rollout(env) # Agent <-> Environment
score = env.evaluate(traj) # 可信反馈信号
agent = optimiser.update(agent, traj, score)# 改写本体
agent.memory.write(traj, score) # 沉淀进经验库
理解了这五行,就理解了下面四台引擎的全部差异——它们只是在"优化器改写本体的哪一层"上做了不同选择。
这是选型时最该先问的问题。把上面的 optimiser.update 展开,自进化被实践证明有四条互不替代的赛道:
| 层级 | 改什么 | 代表方法 | 适用场景 |
|---|---|---|---|
| Prompt 层 | 系统提示 / few-shot | EvoAgentX、DSPy | 业务工作流调优 |
| Tool 层 | 技能库 / 可复用代码 | Voyager、AlphaEvolve | 长周期探索任务 |
| Workflow 层 | Agent 拓扑 / 分工 | AI Scientist-v2 树搜索、EvoAgentX 自动构建 | 复杂多步任务 |
| Weight 层 | 模型参数 | EvolveR(GRPO) | 有大量可验证样本时 |
工程上的关键洞察:越靠上层,反馈越快、成本越低、但天花板越低;越往下沉到权重层,反馈越贵、见效越慢,但能学到提示词表达不出的策略。多数生产系统应从 Prompt/Workflow 层起步,确有海量可验证轨迹时再下沉到 Weight 层。盲目一上来就 GRPO,是自进化最常见的烧钱陷阱。
EvolveR(arXiv 2510.16079,已被 ICML 2026 收录)解决的是一个根本矛盾:现有 Agent 框架只补"外部知识缺口",却不会从自己解题的轨迹里提炼可复用策略。它给出两段式闭环:
闭环用 GRPO 做策略强化,按表现迭代更新权重,在复杂多跳问答基准上超越强 agentic 基线。其代码骨架可抽象为:
# EvolveR 经验驱动生命周期
trajectories = collect(agent, tasks) # 在线交互:累积轨迹
principles = distill(trajectories) # 离线蒸馏:轨迹 -> 策略原则库
agent.policy = grpo_update( # 策略强化:按表现更新权重
agent.policy,
rollouts = trajectories,
rewards = task_rewards,
guidance = retrieve(principles, tasks), # 在线检索原则引导决策
)
EvolveR 的贡献不在某项指标,而在给出"从自己行为的后果中学习"的完整蓝图。对垂直行业(金融尽调、法律检索这类天然多跳的活),这是把 Agent 从"每次重学"推进到"越用越准"的现成范式。
DeepMind 的 AlphaEvolve 走的是 Tool/Program 层的硬核路线:LLM 不直接答,而是不断变异程序种群,用可验证的适应度函数筛选。流程是经典进化算法,但"变异算子"换成了 LLM:
population = seed_programs()
archive = {} # 去重存档,防退化
for gen in range(G):
parents = select(population) # 精英选择
children = [llm.mutate(p, archive) for p in parents] # LLM 当变异算子
scored = [(c, fitness(c)) for c in children] # 可验证适应度
population = elites(scored)
archive.update(unique(scored))
它的战绩极具说服力:重新发现了已知的矩阵乘法技巧,并在若干人类启发式上做出改进。AlphaEvolve 的关键前提是——你必须能给"对/错"写出一个机器可验证的 fitness(数学可证明、单元测试可跑、延迟可测)。没有可验证目标,进化就是随机游走。这恰好划定了它的适用边界:算法发现、数学计算、编译优化这类有客观 ground truth 的领域是主场;开放性创意写作则基本不适用。
Sakana AI 的 AI Scientist-v2(arXiv 2504.08066,成果发表于 Nature)是 Workflow 层自进化的标杆。相比 v1,v2 最关键的改进是移除了对人工撰写模板的依赖,转而用树搜索(tree-based exploration)让系统自己探索研究方案的分支、自我评审、自我淘汰:
根问题
├── 分支A:方案A → 自动实验 → 评审模型打分 → 留/弃
│ └── 细化A1 → 实验Z → 评审 → 留
├── 分支B:方案B → 自动实验 → 评审 → 弃
└── 分支C:方案C → ...
评审由 LLM 模拟同行评审,按新颖性、清晰度、与会议契合度打分,淘汰低分分支、细化高分分支。结果是该系统成为首个通过 ICLR Workshop 级别同行评审的完全自主研究系统,并在 2026 年登上 Nature。它的启示有二:一是"把人写的固定流程换成可被搜索优化的工作流"是自进化最容易落地、性价比最高的一层;二是模拟评审的质量直接决定搜索方向,评审模型若系统性偏好某种文风,整个进化就会朝该文风漂移。
如果说前三台偏研究,EvoAgentX(GitHub,MIT 协议)是把自进化做成开箱即用产品的代表。它主张:给一段模糊目标描述,自动构建多智能体工作流,再内置评测器驱动自进化。核心特性包括:
用法极简,这也是它变现潜力的来源:
from evoagentx.app.workflow import Workflow
# 一句话目标 -> 自动组装多智能体工作流
wf = Workflow.from_prompt("调研竞品并产出对比报告", models="gpt-4o")
# 用数据集和目标驱动自进化
wf.evolve(dataset, goal="提升报告事实准确率", rounds=8)
EvoAgentX 把"闭环四件套"全部封装成可调用 API,是从论文走向付费训练营/企业内训最顺滑的载体:学员能在一个下午跑通"目标→工作流→评测→自进化"全链路,亲眼看到工作流被自动改写、指标上升。这是前三台给不了的教学密度。
四台引擎有一个容易被忽视的共性——它们都把"经验库"当作一等公民:EvolveR 的策略原则库、AlphaEvolve 的去重存档(archive)、AI Scientist-v2 的评审历史、EvoAgentX 的长期记忆。原因很简单:没有沉淀的自进化等于每次从零随机搜索。
经验库的设计直接决定收敛速度与成本:
实战结论:经验库的检索召回质量,比本体模型的能力更能决定一个自进化系统的上限。一个配了强模型却用随机捞取经验库的系统,跑不过一个弱模型但检索精准的系统。
把本体设为可变,意味着系统获得了自我改写提示词、自我生成工具、自我重组工作流的能力——这正是自进化综述专门辟出"安全与伦理"章节的原因。三类典型塌方:
工程对策已被实践验证:适应度对齐(fitness 必须包含可验证性与安全性约束)、评测护栏(关键步骤插不可绕过的校验)、HITL 检查点(EvoAgentX 的人介入正好用在这里)。把这三道闸门接进 env.evaluate,自进化的边际风险就可控。
flowchart LR
subgraph SI["① System Inputs 系统输入"]
TASK[任务描述]
EXP[经验库/策略原则]
end
subgraph AS["② Agent System 智能体本体(可被改写)"]
PROMPT[提示词]
TOOLS[工具/技能]
WF[工作流拓扑]
W[模型权重]
end
subgraph ENV["③ Environment 环境"]
EXEC[沙箱执行]
EVAL[评测器/适应度]
end
subgraph OPT["④ Optimisers 优化器"]
PE[提示词进化]
TE[工具进化]
WE[工作流进化]
RL[权重更新 GRPO]
end
TASK --> AS
EXP -.检索召回.-> AS
AS -->|rollout 轨迹| EXEC
EXEC --> EVAL
EVAL -->|反馈分数| OPT
OPT -->|改写本体| AS
AS -->|沉淀轨迹/原则| EXP
EVAL -->|人工检查点 HITL| H[(人)]
H -.纠正.-> OPT
classDef core fill:#e8f0fe,stroke:#1a73e8,stroke-width:2px;
classDef opt fill:#fce8e6,stroke:#d93025,stroke-width:2px;
class AS core
class OPT opt
图中四件套首尾相接形成闭环:优化器改写本体→本体在环境中产生新轨迹→轨迹沉淀回经验库→经验库召回引导下一轮。HITL 检查点是阻断"自进化失控"的人工闸门。
一句话收口:2026 年的自进化多智能体,比的不是"谁模型大",而是"谁的闭环四件套接得更紧、经验库召回更准、闸门更可靠"。把优化对象、反馈信号、记忆沉淀三件事想清楚,再贵的引擎也只是这三件事的不同打包。
本文为「51学通信」AI 智能体实战分析系列(Round 3),更多 AI Agent 落地拆解与通信技术深度内容,关注公众号「51学通信」,站长爱卫生微信:gprshome201101。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
