2025年底至2026年初,Google Research联合MIT发表180组配置的系统性实验,揭示了多Agent系统的"能力饱和效应"——单Agent已能完成45%以上准确率的任务,继续堆Agent收益递减甚至为负。UIUC、Stanford、NVIDIA联合发表RecursiveMAS将Agent间通信从文本空间搬入潜空间,Token消耗直降75%。NeurIPS 2025 Spotlight论文证明多数投票已占据多Agent辩论绝大部分性能增益。六条来自实测的缩放定律,正在重写多Agent系统的设计直觉。
Google Research、DeepMind与MIT的论文《Towards a Science of Scaling Agent Systems》(arXiv 2512.08296)是迄今为止最大规模的多Agent缩放定律系统性实验。研究团队在4个基准(GSM8K、MATH、HumanEval、MMLU)、5种架构(Sampling、Debate、Multi-Agent Review、Tool-Use、Mixed)和3种模型规模上,测试了180种Agent配置组合。
核心发现:多Agent系统的性能遵循一条能力饱和曲线。当单个Agent的独立准确率已经超过约45%时,增加更多Agent带来的协调收益迅速衰减,最终可能为负。这不是某个特定任务的偶然现象,而是在所有四个基准上都观察到的稳健规律。
该论文引入的"缩放定律"预测模型如下:
$$\text{Performance}(n) = \alpha - \beta \cdot e^{-\gamma \cdot n}$$
其中 $n$ 为Agent数量,$\alpha$ 为理论上限,$\beta$ 和 $\gamma$ 是与任务类型和模型能力相关的参数。当单Agent能力 $c_0$ 已接近 $\alpha$ 时,$\beta$ 接近零,多Agent的边际贡献几乎消失。
实战含义:在评估是否需要多Agent架构之前,先用单Agent跑一轮基准。如果单Agent在目标任务上的pass@1已经超过45%,那么你的精力应该花在Prompt工程和工具增强上,而非堆Agent数量。
# 伪代码:判断是否值得引入多Agent
def should_use_multi_agent(single_agent_accuracy, task_type):
if single_agent_accuracy > 0.65:
return False # 能力饱和区,堆Agent无意义
elif single_agent_accuracy > 0.45:
return "marginal" # 边际收益区,谨慎评估
else:
return True # 协调增益区,多Agent有价值
同一篇Google论文归纳了多Agent系统的三个主导缩放效应,它们在不同任务类型上的表现截然不同:
| 缩放效应 | 含义 | 在推理任务上 | 在规划任务上 |
|---|---|---|---|
| 能力饱和 | 单Agent越强,多Agent增益越小 | 显著 | 显著 |
| 协调收益 | 多Agent交互带来的纯增益 | 正向但快速衰减 | 常为负向 |
| 架构依赖 | 不同编排架构的缩放曲线不同 | Sampling≈Debate | 严格串行最优 |
在数学推理(GSM8K/MATH)上,重复采样+多数投票的简单架构,性能随样本数增加呈对数增长,但回报率在n=5-8后急剧下降。而在规划类任务(PlanCraft等)上,多Agent协调设计——无论是辩论还是互审——一致性地损害了性能。原因是规划任务需要严格的因果链,多个Agent的并行推理引入了冲突的中间步骤。
关键数据:在PlanCraft基准上,所有多Agent配置(包括2-Agent和5-Agent)的性能都低于单Agent基线。这是对"多Agent总是更好"这一直觉的最有力反驳。
SafeRL-Lab的论文《Understanding Agent Scaling in LLM-Based Multi-Agent Systems via Diversity》(arXiv 2602.03794)从信息论角度为上述现象提供了理论解释。
论文的核心贡献是一个信息论框架:多Agent系统的性能上限由Agent之间的互信息(Mutual Information)决定,而非Agent的绝对数量。当多个Agent基于相同的LLM和相似的Prompt生成回答时,它们的输出高度相关(高互信息),增加的"独立信息量"极少。
设 $I(A_1; A_2)$ 为两个Agent输出的互信息,则多Agent系统的有效信息增益为:
$$\Delta I_{\text{eff}} = H(A_n) - I(A_n; A_{1:n-1})$$
当所有Agent使用同一模型时,$I(A_n; A_{1:n-1}) \approx H(A_n)$,即$\Delta I_{\text{eff}} \approx 0$。
实验验证:该论文在GSM8K、MATH、ARC等基准上测试了同构Agent(相同模型+不同温度)vs 异构Agent(不同模型/不同Prompt策略),发现:
实战方案:不要用10个相同的GPT-4o做采样投票,改用3个不同模型(GPT-4o + Claude + Gemini),用温度=0.7的多数投票。成本更低,效果更好。
2026年4月,UIUC、Stanford、NVIDIA、MIT联合发表RecursiveMAS(arXiv 2604.25917),提出了一个根本性的范式转变:Agent之间的通信不必通过文本进行,可以直接在embedding/latent space中交换信息。
传统多Agent系统的通信瓶颈如下:
Agent A (推理) → 生成1000 token文本 → 序列化 → 传输
Agent B (接收) → 解析1000 token文本 → 反序列化 → 理解 → 推理
每轮通信至少消耗2000+ token(发送+接收理解),且文本序列化/反序列化会丢失高维语义信息。
RecursiveMAS的核心设计:
Agent A (推理) → 生成hidden states → 取最后一层embedding (768/1024维向量)
Agent B (接收) → 直接将embedding注入attention层 → 推理
实测数据:
| 指标 | 传统文本通信 | RecursiveMAS潜空间 | 变化 |
|---|---|---|---|
| Token消耗 | 基准 | 降低75% | ↓75% |
| 推理速度 | 基准 | 提升2.4倍 | ↑2.4x |
| 准确率 | 基准 | 提升约8.3% | ↑8.3% |
| 通信延迟 | 100-500ms/轮 | 5-20ms/轮 | ↓95% |
该框架引入了一个轻量级的"Recursive Communication Module"(RCM),本质上是一个可学习的投影层,将一个Agent的隐藏状态映射到另一个Agent的输入空间。RCM仅增加不到1%的参数量。
限制:目前仅在同架构模型间验证(如多个Llama实例之间),跨架构通信(如Llama→GPT)仍需文本桥接。这意味着在当前的API调用场景中,潜空间通信尚不可直接应用,但为未来多Agent基础设施指明了方向。
NeurIPS 2025 Spotlight论文《Debate or Vote: Which Yields Better Decisions in Multi-Agent Large Language Models?》(arXiv 2508.17536)对比了7种决策协议,发现了一个令人意外的结论:
多数投票(Majority Voting)单独贡献了多Agent辩论绝大部分的性能增益。
论文在MMLU、GSM8K、ARC等基准上系统测试了: 1. 多数投票(无通信) 2. 多轮辩论后投票 3. 共识协议(需全体同意) 4. 加权投票(按置信度加权) 5. 单轮讨论后投票 6、7. 其他变体
关键发现:
| 决策协议 | MMLU准确率 | 通信轮次 | 总Token消耗 |
|---|---|---|---|
| 单Agent | 78.2% | 0 | 1x |
| 多数投票(n=5) | 84.6% | 0 | 5x |
| 1轮辩论+投票(n=5) | 85.1% | 1 | 15x |
| 3轮辩论+投票(n=5) | 85.3% | 3 | 35x |
| 共识协议(n=5) | 83.9% | 2-5 | 20-50x |
从投票到1轮辩论,准确率提升仅0.5%,但Token消耗从5x跳到15x。从1轮到3轮辩论,准确率再提升0.2%,Token消耗飙到35x。这揭示了多Agent辩论的性价比极低——大多数性能增益来自投票的统计平滑效应,而非辩论带来的信息交换。
另一篇ACL 2025论文《Voting or Consensus? Decision-Making in Multi-Agent Debate》进一步确认:共识协议(要求全体Agent同意)在多样化数据集上反而降低了准确率,因为它迫使少数持有正确答案的Agent向多数错误答案妥协。
实战方案:在99%的生产场景中,多数投票(n=5, temperature=0.7)已经足够。如果预算允许1轮辩论,选择性地在投票结果分歧最大时触发辩论,可以将边际成本控制在合理范围内。
Google Research在InfoQ的后续访谈中总结了一个实用的决策矩阵,根据任务类型推荐最优Agent架构:
graph TD
A[任务输入] --> B{任务类型判断}
B -->|可分解并行| C[Sampling + 多数投票]
B -->|需要严格因果链| D[单Agent + 增强工具]
B -->|验证/审阅类| E[Generator-Verifier 双Agent]
B -->|开放式探索| F[异构小队 3-5 Agent]
C --> G{n=5, temp=0.7}
D --> H{工具增强+CoT}
E --> I{生成+验证循环}
F --> J{多模型+多策略}
G --> K[性价比最高<br/>Token消耗: 5x]
H --> L[规划任务最优<br/>Token消耗: 1x]
I --> M[代码/数学场景<br/>Token消耗: 2-3x]
J --> N[创意/研究场景<br/>Token消耗: 3-5x]
具体的量化建议:
| 任务类别 | 推荐架构 | 最优Agent数 | 理论依据 |
|---|---|---|---|
| 数学/逻辑推理 | Sampling + Voting | 5-8 | 统计平滑效应,边际递减在n>8后消失 |
| 代码生成 | Generator-Verifier | 2 | 验证反馈循环比并行生成更有效 |
| 规划/调度 | 单Agent + 工具 | 1 | 严格因果链,多Agent引入冲突 |
| 创意写作 | 异构小队 + 轮转 | 3-5 | 多样性增益最大 |
| 信息提取 | 并行Sampling | 3-5 | 可独立完成,投票消除噪声 |
| 复杂决策 | 辩论+仲裁 | 3-5 | 需要视角冲突,但仲裁者很关键 |
一个常被忽视的发现:当Agent数量超过5时,即使在高增益场景(数学推理)中,性能也开始出现微弱下降。这不是因为协调成本(sampling架构无协调),而是因为多数投票在面对长尾错误模式时,更多样本反而会稀释正确答案的投票比例——当模型的系统偏差一致时,更多样本只是更多相同的错误。
将六条缩放定律整合为生产环境决策流程:
flowchart TB
subgraph Phase1["第一律:能力探测"]
A[单Agent基线测试] --> B{pass@1 > 45%?}
end
B -->|是| C[单Agent增强路线<br/>Prompt/工具/CoT]
B -->|否| D{pass@1 > 25%?}
D -->|否| E[换模型/换任务分解]
D -->|是| F[进入多Agent设计]
subgraph Phase2["第二律:架构选择"]
F --> G{任务可并行分解?}
end
G -->|是| H[Sampling + Voting<br/>第五律:投票优先]
G -->|否| I{需要验证?}
I -->|是| J[Generator-Verifier]
I -->|否| K[单Agent增强]
subgraph Phase3["第三律:多样性注入"]
H --> L{Agent同构?}
end
L -->|是| M[改用2-3种不同模型]
L -->|否| N[3-5个异构Agent]
subgraph Phase4["成本校准"]
N --> O[监控Token消耗]
O --> P{成本/收益比可接受?}
end
P -->|是| Q[上线]
P -->|否| R[减少Agent数量或<br/>第四律:探索潜空间通信]
Phase 1耗时约1-2小时(跑一轮单Agent基准),但能避免80%不必要的多Agent复杂度。Phase 2的核心是区分并行和串行任务——这是决定多Agent能否带来正收益的分水岭。Phase 3引入多样性约束,确保即使数量少,信息增益也足够大。Phase 4在成本和性能之间做最终权衡。
上述六律之外,还有一条生产环境中极为关键但常被忽视的规律:多Agent系统的通信开销随Agent数量呈超线性增长。
在一个$n$个Agent的系统中,如果每个Agent需要向所有其他Agent广播其推理结果(全连接拓扑),每轮通信的Token消耗为:
$$T_{\text{comm}} = n \times (n-1) \times t_{\text{msg}}$$
其中 $t_{\text{msg}}$ 是单条消息的平均Token数。这意味着从3个Agent增加到5个Agent,通信Token不是增加67%,而是增加233%(从$6t$增加到$20t$)。
在实际的辩论架构中,3轮辩论的总Token消耗为 $3 \times n \times (n-1) \times t_{\text{msg}} + n \times t_{\text{init}}$。对于5个Agent、$t_{\text{msg}}=500$ token的场景,仅通信成本就达到30000 token/轮,三论辩论共计90000+ token——这还不包括Agent自身的推理Token。
降低通信开销的三种策略:
星型拓扑替代全连接:引入一个中心协调Agent,所有Worker Agent只与Coordinator通信。通信成本从$O(n^2)$降至$O(n)$。
摘要压缩:每轮辩论后,Coordinator生成一份50-100 token的摘要,替代完整的$n \times t_{\text{msg}}$广播。实测可减少60-70%的通信Token。
触发式通信:不是每轮都让所有Agent发言,而是在投票分歧超过阈值时才触发辩论。这能将90%的请求保持在纯投票路径上,仅10%进入辩论流程。
| 策略 | 最优Agent数 | Token消耗倍数 | 适用场景 | 推荐优先级 |
|---|---|---|---|---|
| 纯投票(同构) | 5-8 | 5-8x | 数学推理、分类 | ★★★ |
| 纯投票(异构) | 3-5 | 3-5x | 多数场景首选 | ★★★★★ |
| 辩论后投票 | 3-5 | 15-35x | 仅高价值决策 | ★★ |
| Generator-Verifier | 2 | 2-3x | 代码/数学验证 | ★★★★ |
| 潜空间通信 | 3-5 | 0.5-1x | 同架构模型(实验性) | ★★★(未来) |
多Agent缩放定律是一个极好的训练营主题,原因有三:
反直觉性强:"更多Agent ≠ 更好结果"这一结论能立刻抓住学员注意力,与传统"人海战术"直觉形成冲突。
可量化实操:每个学员都能在1小时内完成"单Agent基准 → 3-Agent投票 → 5-Agent辩论"的A/B测试,亲眼看到缩放曲线。
直接降本:企业客户从5-Agent辩论降级到3-Agent异构投票,Token成本可降低70%以上,ROI清晰可见。
建议训练营结构:第一天跑基线(2小时),第二天学六律框架(4小时),第三天动手优化一个真实多Agent系统(4小时),第四天做成本/性能Trade-off报告(2小时)。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
