多智能体系统在生产环境里最被低估的属性,不是它有多聪明,而是它有多不透明。单个 LLM 调用是透明的——提示进去、回答出来,两端都看得见;但一条由 8 个智能体协作、跨 4 天才走完的流水线,是一个有 8 扇门的黑盒,每扇门都对另外 7 扇的现状抱有不同假设。本期聚焦 2026 年最被实战团队逼出来的新工程命题:多智能体链路追踪(Multi-Agent Distributed Tracing)。结论先行——传统 APM 在这里全线失效,行业正以 OpenTelemetry GenAI 语义约定 v1.36 为骨架收敛,而真正可用的落地方案不是某一个平台,而是「系统健康 / 运行质量 / 工作流状态」三层分工栈。我们对 Sentry、Langfuse、Arize Phoenix、LangSmith、Braintrust 五栈做了架构级横评,并拆解了一条 40 工作机生产舰队是如何被这三个工具变成可度量的。
传统可观测性建立在确定性执行模型上:相同输入产生相同输出,调用路径已知,HTTP 200 是请求成功的强信号。多智能体把这四个假设逐个击穿。
第一,同输入不同路径。同一个 prompt 发给同一个模型两次,可能产生完全不同的工具调用序列、不同的中间推理、不同的最终答案。这意味着日志只能告诉你"发生了什么",无法回答"为什么模型选了 A 而不是 B"。第二,复现困难。生产环境观察到的 bug 在测试环境大概率复现不出来,因为随机采样走了另一条路。第三,错误传播隐蔽。15 步工作流里第 3 步的错误,可能直到第 15 步才表现为一个错误答案,因果链需要轨迹级可见性,而非某个时间点的快照。第四,200 不等于成功。一个 HTTP 200 可以包着一个"自信但错误"的答案——模型把错误的计费策略当成事实输出了。
于是多智能体引入了传统系统不存在的级联失败(cascade failure):编排者误读子智能体的输出、把任务派给了错的专家、错误在后续步骤中逐级放大。每一个智能体边界,都是一个潜在的失败注入点。Braintrust 把一条可用的智能体 trace 定义为四根支柱:工具调用(名称、参数、返回值、延迟、重试)、推理步骤(计划-行动-观察的过渡与分支)、状态迁移(每步前后工作记忆、会话级上下文)、记忆操作(读、写、语义检索命中、召回分数、新鲜度)。传统 APM 的请求率、延迟分位、span 计数,一根都搭不上这四根支柱。
行业对黑盒问题的回应,是从 2025 走到 2026 迅速成熟的、以 OpenTelemetry(OTel)为仪表化标准的收敛。关键不是某一家平台,而是 OTel 把"数据采集"与"数据存储"解耦:一个用 OTel 仪表化的智能体,可以不改动一行代码,把 trace 发到 Langfuse、Arize Phoenix、Datadog、Honeycomb 或自建的 Jaeger。这种可移植性直接消除了厂商锁定。
OTel 的 GenAI 特别兴趣组(GenAI SIG)发布了语义约定,定义了智能体遥测的标准 schema。它目前处于 Development 状态,但 Datadog、Arize、LangSmith 等主流厂商已经在采纳。骨架是三种 span:
create_agent span——span 名 create_agent {gen_ai.agent.name},CLIENT 类型,必填 gen_ai.operation.name、gen_ai.provider.name,条件必填 agent id/name/version,可选开启 system_instructions。invoke_agent span——顶层的智能体任务执行,CLIENT(远程)或 INTERNAL(进程内),推荐挂 token 用量(gen_ai.usage.input_tokens/output_tokens)与响应元数据。execute_tool span——单次工具调用的时序、参数、结果,作为 invoke_agent 的子 span,parent-child 关系是因果链的物理载体。在这三种官方 span 之上,实现通常再扩展:AGENT_INVOCATION、LLM_INFERENCE、TOOL_CALL、MEMORY_RETRIEVE、MEMORY_STORE、REASONING_STEP、DECISION_POINT、ERROR。这些 span 之间的 parent-child 与 span link,让你能从单个 trace ID 重建出整条推理轨迹。实战含义很硬:调试一个跑到一半失败的多智能体工作流,你不需要回放整个执行,而是顺着 span 树定位到"哪一个工具返回了脏数据""哪一步推理脱轨""为什么编排者把任务派给了错的子智能体"。
下表把 2026 年主流的五类链路追踪方案,按对多智能体真正关键的维度做了对比。注意:这几家的差异不在"能不能画 trace",而在传输是否会阻塞请求路径、是否 OTel 原生、能否自托管、是否有评估闭环。
| 维度 | Arize Phoenix | Langfuse | LangSmith | Sentry | Braintrust |
|---|---|---|---|---|---|
| 部署模式 | 全本地,零网络出口 | 自托管(需 Postgres+ClickHouse)/云 | 仅 SaaS,trace 出进程 | 自托管/云 | 云为主 |
| 传输协议 | OTLP(gRPC/HTTP),原生 OTel | v3 起 OTel 化,支持异步批量导出 | 自有 HTTP,SDK 私有上下文传播 | OTel 合规,GenAI 语义约定 v1.36 | 结构化 trace |
| 请求路径开销 | 最低(本地、异步) | 低(异步批量) | 中(同步、出进程) | 低(auto-instrument) | 中 |
| 多智能体可视化 | span 树 | Agent 图(非线性 span 树) | 线性 span 树 | 嵌套 span | 嵌套 agent span |
| 评估层 | 有 | LLM-as-judge + goldset | 有 | 弱(系统健康向) | 生产 trace 打分,1GB+10k 评估/月免费 |
| 厂商锁定 | 低(OTel 原生) | 低 | 中(私有上下文) | 低 | 中 |
横评的关键发现:Phoenix 因为完全本地、零出口,单次调用开销最低,适合对延迟和合规敏感的场景;Langfuse 自托管需扛 Postgres + ClickHouse 两个依赖,但换来了 agent 图而非线性 span 树的可视化和强评估闭环;LangSmith 是 SaaS-only,trace 必须出进程,上下文用自有传播,是这几家里 OTel 原生度最低、锁定最高的。Sentry 的差异化在于它 auto-instrument 了底层 SDK,并且已经实现 GenAI 语义约定 v1.36——这意味着其它任何 OTel 工具都能读懂它吐出的 span。Braintrust 把"结构化 trace + 嵌套 agent span + 生产 trace 打分"压进同一个工作流,免费档 1GB 处理数据 + 每月 1 万次评估。
最有实战价值的不是单平台横评,而是一个真实生产舰队给出的三层分工模型。某团队跑着约 40 个工作机、分布在 8 个专业舰队(设计/构建/评审/发布 MCP server 的流水线、记忆产品小组、学院内容流水线、SaaS 运维、一个作为舰队 CEO 之上第二层的参谋长编排者),全部基于 Anthropic Claude Agent SDK(TypeScript)。他们的可观测性拆成三层,每层一个工具,互不替代:
第一层·系统健康(Sentry)——回答"机器还活着吗"。Sentry auto-instrument Anthropic SDK,把工具调用循环写成嵌套 span 进 trace,即便按 flat-rate 计费也追踪 token 数。这里有个被低估的信号:token 数量本身就是质量代理。当一个架构师在输出没有变好的情况下,token 用量突然翻 4 倍,这就是漂移信号(drift signal)。整条栈 OTel 合规,实现 GenAI 语义约定 v1.36,不锁 Sentry 私有格式。
第二层·运行质量与评估(Langfuse)——回答"智能体是在变好还是变坏"。MIT 协议、可自托管、TypeScript SDK v4 有专门的 Claude Agent SDK 集成。三个能力撑起这一层:一是多智能体调用被可视化为 agent 图而非线性 span 树(谁调谁、中间夹着哪些工具调用、trace 在哪里断了、token 在哪里爆炸,一目了然);二是通过 LLM-as-judge 跑评估,团队维护 goldset(带预期答案的策展测试集);三是 prompt 管理。
第三层·工作流状态(LangGraph)——回答"流水线走到哪了、状态机在哪个节点"。前两层看的是"代码与模型",这一层看的是"工作流本身"。
这条经验的核心洞察是:多智能体需要的不是一个大而全的可观测平台,而是三个职责清晰、互不重叠的层。任何一层试图吃掉另外两层的活,都会制造 sprawl(工具蔓延)。
flowchart TB
U[用户请求] --> ORC[参谋长编排者<br/>layer-2]
ORC --> F1[舰队A: MCP server 流水线]
ORC --> F2[舰队B: 记忆产品]
ORC --> F3[舰队C: 内容]
F1 --> A1[工作机1]
F1 --> A2[工作机2]
A1 -->|工具调用| T[外部工具/API]
A2 -->|记忆读写| M[记忆层]
subgraph 第三层 工作流状态
LG[LangGraph 状态机<br/>节点/边/检查点]
end
subgraph 第二层 运行质量与评估
LF[Langfuse<br/>agent图 + LLM-as-judge + goldset]
end
subgraph 第一层 系统健康
ST[Sentry<br/>auto-instrument + token漂移信号]
end
A1 -.span.-> ST
A1 -.span.-> LF
ORC -.状态迁移.-> LG
可观测性的演进已经走过三阶段,多智能体正处于第三阶段:特征级(2015–2019,SHAP/LIME,解释不了多步行为)→ 推理链级(2020–2023,CoT,看不见工具与环境)→ 轨迹级(2023 至今,跨所有系统组件的完整执行轨迹)。当前的轨迹级可观测,目标不只是记录智能体说了什么,而是重建完整执行路径:调了哪些工具、什么顺序、什么参数、什么延迟、什么结果。
这对多智能体的意义是决定性的。单智能体的失败是线性的,多智能体是级联的。一个跑了一半崩在 30 步任务里的工作流,没有轨迹级可见性时,工程师只能手动回放整段执行;有了它,可以精确定位到"第 17 步的工具返回了脏数据""第 9 步的推理脱轨""第 4 步的编排者把任务派错了子智能体"。parent-child span 在智能体边界处的保留,是跟随因果链的唯一手段。这也解释了为什么 OpenTelemetry 之所以能成为标准——它原生支持分布式上下文传播,跨进程、跨智能体边界都能把 trace 串成一条。
轨迹级可观测解决了"看见行为",但没解决"看见推理动机"。这是一个持久的挑战——观察行为(工具调用、输出、API 响应)很直接,观察推理(为什么选 A 不选 B)本质上很难,因为推理由神经网络中介,其内部表征不可直接解读。
思维链(CoT)trace 有帮助,但研究发现 CoT 解释并不总是忠诚的:模型有时通过一条与所述 CoT 不同的推理路径得出正确结论。实战含义很硬:捕获 thinking token 是有用的信号,不是 ground truth。你不能把 reasoning span 当成"模型真实想法"来信任。一个健壮的落地方案,永远要把推理 span 和工具输出 span 交叉验证——推理说"我查到了 X",必须能在 execute_tool span 的返回值里找到 X 的证据。否则那个 trace 就是一条精心编排的合理化叙事,而不是事实链。
sequenceDiagram
participant O as 编排者 invoke_agent
participant S as 子智能体 invoke_agent
participant L as LLM_INFERENCE
participant T as execute_tool
participant R as REASONING_STEP
O->>S: 派发任务 (parent-child)
S->>R: "我应该先查库存" (信号,非真理)
S->>L: 推理
L->>T: get_inventory(SKU=123)
T-->>L: {stock:0} ← 唯一可验证的事实
Note over R,T: CoT 忠诚度存疑<br/>必须用工具输出交叉验证
L-->>S: 触发缺货分支 DECISION_POINT
S-->>O: 返回结果
链路追踪的真正价值不在事后排障,而在形成闭环。HuggingFace 与学术社区对"什么样的 trace 有用"收敛出四个评估维度(质量、相关性、忠实度、有用性),而生产团队的标准动作是:用 LLM-as-judge 对生产 trace 打分,把失败样本反喂进 eval 套件。
Langfuse 这一层的做法是维护 goldset——带预期答案的策展测试集,每次 prompt 或模型变更都回归跑一遍。Braintrust 把"结构化 trace + 嵌套 agent span + 生产 trace 打分"压进同一个工作流,免费档每月 1GB 处理数据 + 1 万次评估打分,足以让小团队零成本跑起评估闭环。这条闭环的现实意义:多智能体的退化是渐进的、不容易肉眼察觉的——某个 prompt 改动让 token 用量翻 4 倍、某个模型升级让工具选错率上升,这些只有评估闭环能捕捉到。没有它,你所谓的"多智能体系统"在每一次无声退化中悄悄变蠢,直到客户投诉才暴露。
按场景给出可直接执行的选型:
变现与训练营角度:多智能体可观测性是 2026 年最被低估的"训练营金矿"。原因有三——其一,它是真痛点,几乎所有做多智能体的团队都经历过"线上跑飞却无从定位";其二,它是可量化交付,学员能在一节课内看到自己 fleet 的 agent 图、token 漂移信号、eval 分数,反馈极强;其三,它门槛适中,OTel + 三层栈的概念清晰、有标准(GenAI 语义约定 v1.36),不像底层模型训练那样高不可攀。一个"多智能体可观测性实战营"可以围绕"给一个 8 智能体流水线装上三层栈并跑通评估闭环"做结业项目,客单价与完课率都会优于泛泛的"Agent 入门课"。
多智能体的可观测性不是"再加一个 dashboard"的问题,而是架构层的认知重构:传统 APM 的确定性假设在这里全部失效,必须用 OTel GenAI 语义约定重建因果链,用轨迹级可见性穿透级联失败,用评估闭环对抗渐进退化。赢家不是某一个平台,而是理解了"三层分工 + OTel 解耦"这八个字的团队。在智能体数量突破个位数的那一刻,没有链路追踪的多智能体系统,就是一个你永远打不开的黑盒——它会在你最不希望的时候,从某一扇门里递给你一个自信的错误。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
