2026 年中,模型能力的分水岭已经从"它知道什么"(MMLU)转移到"它能否把工具调对"。但工具调用榜单本身正在发生相变:单调用精度榜单(BFCL)的榜首,与端到端任务完成榜单(τ-bench)的榜首不再是同一个模型——截至撰稿时,BFCL V3 综合榜上 Claude Opus 4.7 与 GPT-5-Pro 仅差一分,但在更接近生产的 τ-bench retail 分项上 GPT-5 反超,而 airline 分项上 Opus 4.7 领先。同一批模型在四份主流榜单上的排序严重错位,这意味着"选榜单"本身已经成为一道工程题:选错榜单,等于白测。本文横评 BFCL V3/V4、τ-bench(含 τ²/τ³ 扩展)、AppWorld、ToolACE、ToolBench、T-Eval 六大工具调用基准,给出每个基准的真实预测力、盲区与生产选型决策。
| 基准 | 出品方 | 核心测什么 | 评分粒度 | 难度轴 | 生产预测力 | 典型陷阱 |
|---|---|---|---|---|---|---|
| BFCL V3/V4 | UC Berkeley | 单/多工具结构化调用精度 | 逐调用二值+子类 | 单调用→并行→多轮 | 中(结构化强信号) | 单调用≠多轮连贯 |
| τ-bench | Sierra | 端到端任务完成+策略合规 | 目标达成+工具恰当性 | 多轮对话+用户模拟 | 高(最接近生产) | 依赖模拟用户保真度 |
| AppWorld | Stony Brook | 跨应用协调 | 任务级通过率 | 15 个真实 App 串联 | 高(消费级 agent) | 沙箱覆盖业务窄 |
| ToolACE | Tencent | 长程函数链 | 任务级+步骤级 | 20–50 步串行调用 | 高(长程) | 数据合成痕迹 |
| ToolBench | OpenBMB/清华 | 大规模 API 覆盖 | 召回+通过率 | 16K API 选择 | 低(已被污染) | API 失效、过时 |
| T-Eval | 上交大等 | 维度级能力拆解 | 六维子分 | 选择/调用/响应分项 | 中(诊断用) | 不评端到端 |
横向看,六基准可以按"测的是原子能力还是系统能力"分为两层:BFCL、ToolBench、T-Eval 偏原子层(一次调用对不对);τ-bench、AppWorld、ToolACE 偏系统层(一串调用能否完成任务)。生产 agent 的故障几乎全部出现在系统层,但团队却惯性地只看原子层榜单——这正是榜首错位的根源。
BFCL 是引用量最高的工具调用基准。V3 相对 V2 做了三道关键扩展:相关性检测(模型要知道"何时一个工具都不该调")、并行工具调用、多轮对话。从 V3 起数据集闭源以防止训练污染。截至撰稿时,BFCL V3 综合榜头部极度胶着:Opus 4.7 与 GPT-5-Pro 在一分以内,Gemini 3 紧随,之后是 Llama 4、Qwen3、DeepSeek V4 构成的开权重第一梯队,落后约 5 分。
BFCL 的工程价值在于它是一个强结构化信号——它的评判是确定性的 JSON Schema 比对,不依赖主观打分。它的代码骨架可视为一行评测调用:
# BFCL 评测核心:结构化输出与期望调用的逐字段比对
from berkeley_function_calling_eval import eval_entry
result = eval_entry(
model_output=completion, # 模型返回的 tool_calls
expected=sample["ground_truth"], # 期望的 name + args
test_category=sample["category"] # 如 "parallel", "irrelevance"
)
# 返回 {"valid": bool, "error": str} —— 零主观,可纳入 CI 回归
它的盲区同样明确:BFCL 把每一次调用当孤立事件评分,不考核"前一次调用结果如何影响下一次决策"。一个模型可以在 BFCL 拿 95 分却在 τ-bench 上崩盘,因为它不擅长把工具返回值喂回给下一轮推理。BFCL V4 预期引入成本归一化分数(每千次调用 $X 下的准确率),这是对"精度不等于划算"的回应。
τ-bench(Tool-Agent-User)由 Sierra 出品,是目前最贴近生产的基准。模型扮演客服 agent,对位一个被 LLM 模拟的用户,必须调用真实风格的 API(改签、退款、查询)完成任务。评分不只是"目标达成",还要看"工具调用是否恰当"——即是否违反了业务策略(policy)。retail、airline、telecom 三个分项是业界标准。
它和 BFCL 的最大差异在于评分对象:BFCL 评"调用对不对",τ-bench 评"任务成没成、有没有越权"。这导致头部模型排序在两个榜单上分家——GPT-5 领先 τ-bench retail,Opus 4.7 领先 airline。换言之,"单调用精度第一"不能保证"多轮任务完成第一"。τ-bench 的任务定义形如:
// τ-bench 任务:目标 + 可用工具 + 策略约束(违反即失败)
{
"user_id": "u_7782",
"task": "我要把订单里的两件商品退款,但只退没拆封的那件",
"tools": ["get_order", "refund_item", "get_return_policy"],
"policy": "退款前必须核验商品状态;已拆封商品不可退"
}
// 通过条件:调用 refund_item 且仅针对未拆封件,全程不违反 policy
策略合规这一维,是 BFCL/T-Eval 完全不覆盖的盲区,却是金融、医疗、客服 agent 上线最致命的风险点。
这是本轮横评最值得展开的发现。把六基准的头部模型对齐看,会出现三种错位模式:精度—连贯错位(BFCL 高、τ-bench 低),典型于长上下文管理弱的模型;零售—航空错位(retail 强、airline 弱),暴露策略复杂度耐受差异;原子—系统错位(ToolBench 召回高、AppWorld 通过率低),暴露跨应用状态迁移能力不足。
这些错位指向一个反直觉结论:工具调用能力的"前沿"正在沿着系统轴而非精度轴分化。在单调用精度上,开权重模型只落后前沿 5–8 分;但在长程(ToolACE 的 20–50 步)和跨应用(AppWorld)上,差距拉到 15–25 分。也就是说,"够不够用"的门槛已被系统层任务重新定义。把榜单读懂的第一步,是承认不同基准测的是不同的"工具调用"——选择与你的故障域最接近的那一个,比追综合榜首更有意义。
AppWorld(Stony Brook)把 agent 放进一个包含 15 个模拟 App 的沙箱——日历、邮件、音乐、外卖、记账等——并给它跨 App 的任务,例如"把我上周在外卖 App 订的餐厅加到日历,并把确认邮件转发给妻子"。它评的是任务级通过率。
AppWorld 的价值在于它测的是"状态迁移":agent 必须在 App A 读数据、在 App B 写数据,并保持中间状态一致。这恰是消费级 agent(手机操控、个人助理)故障最密集的区域。它和 τ-bench 互补——τ-bench 测"一个垂直域内的多轮",AppWorld 测"多个域之间的串联"。如果你的产品是多 App 编排型,BFCL/τ-bench 都不足以预警,AppWorld 是唯一能给出有意义信号的公开基准。
ToolACE(Tencent)是长程压力测试,任务需要 20–50 步串行工具调用。它是 2026 年前沿模型与中端模型差距拉得最大的地方:单调用精度接近,但一旦链路拉长,中端模型在第 10 步之后开始出现"调用漂移"——参数塌方、重复调用、忘记中间结论。
长程对生产的含义是决定性的:如果你的 agent 任务超过 ~10 步,开权重模型基本不可用,必须上前沿模型或接受显著质量下降。这也解释了为什么"千工具目录"和"长程任务"是两个独立的成本陷阱——前者是选择税(选错工具),后者是连贯税(调对但接不上)。ToolACE 是当前唯一能量化连贯税的公开基准,建议把它纳入任何多步 agent 的选型回归集。
跨六基准扫描后,三个生产关键信号在所有主流榜单上都缺席:
这三个盲区解释了"榜单 95 分、生产翻车"的常态。一个实用的做法是自建三类内部基准:成本回归(单任务 token 预算上限)、延迟回归(p95 阈值)、错误注入回归(对每个工具构造失败用例)。把这三类写进 CI,比刷榜更能防线上事故。
榜单的第二个隐疾是污染。ToolBench(16K API)因长期开源、API 大量失效,已被业界视为"刷分但不反映能力"的基准,预测力最低。BFCL 从 V3 起转闭源正是为此。选型时一个硬规则:优先信任闭源或定期轮换的基准(BFCL V3+、τ-bench、AppWorld),谨慎对待长期静态开源基准(ToolBench)。
flowchart TD
Start["新 agent 选型"] --> Q1{"任务步数?"}
Q1 -- "1-3 步" --> Easy["用 BFCL 单调用榜<br/>开权重即可,省成本"]
Q1 -- "4-10 步" --> Mid{"需策略合规?"}
Q1 -- ">10 步" --> Long["必上 ToolACE 回归<br/>前沿模型,开权重放弃"]
Mid -- "是" --> Tau["τ-bench retail/airline<br/>选头部模型"]
Mid -- "否" --> BFCL_MT["BFCL 多轮榜<br/>开权重 +5-8 分成本"]
Easy --> Blind["补成本/延迟/错误恢复三盲区"]
Mid --> Blind
Long --> Blind
Blind --> Ship["写入 CI 回归集再上线"]
把这张决策树落到训练营或内部评测产品里,变现路径清晰:以 τ-bench + ToolACE 为骨架搭一套"企业 agent 选型评测 SaaS",附带成本/延迟/错误恢复三盲区自测模块,是目前公共榜单的空白地带,适合包装成"模型选型训练营"或选型报告订阅。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
