自主智能体真正烧钱、烧时间的,不是"做任务"那一段,而是"还没开始做之前"的盲区——冷启动与探索。2026 年的实测显示:一个现代自主智能体在吐出第一个有用 token 之前,平均要耗掉 6 到 8 秒、数千到数万 token,去枚举工具、加载记忆、组装上下文;进了陌生代码库,还会因为"早熟式利用"(premature exploitation)反复打转。更隐蔽的是,SWE-bench 这类榜单只量"暖启动"后的能力,对这段冷启动税完全失明。当六个前沿模型在 SWE-bench Verified 上仅相差 0.8 分、而解一个 issue 的成本却从 $0.46 到 $74 相差 160 倍时,"能不能做"早已不是问题,"上手前烧多少"才是分水岭。
| 框架/工具 | 冷启动架构 | 上手难度 | 变现潜力 | 适用场景 |
|---|---|---|---|---|
| Claude Code | 按需加载工具清单 + 仓库地图,Haiku 4.5 首 token 低至 597ms | 低(CLI 直开) | 高(企业订阅 + 训练营素材足) | 大型单体库重构、跨文件改动 |
| OpenHands | 沙箱容器预装依赖,状态恢复走快照 | 中(需配运行时) | 中高(自托管平台化) | 云端批量 issue、长程自主任务 |
| Aider | 轻量 repo map 树状摘要,无 MCP 膨胀 | 低 | 中(极客向,付费窄) | 快速 bug 修复、增量改动 |
| OpenAI Codex | 平台托管环境,工具清单平台侧缓存 | 低 | 高(用量计费成熟) | 团队协作、CI 集成 |
| Cursor | IDE 内常驻,warm path 为主 | 极低 | 高(订阅制) | 边写边改、交互式补全 |
| Devin | 全异步会话,冷启动最重(含浏览器/终端/计划器) | 高(黑盒等待) | 中(单任务单价高) | 端到端工单、过夜长任务 |
自主智能体的冷启动并非单一动作,而是三段串行的"入场仪式"。第一段是工具发现:Agent 必须先枚举自己有哪些工具、并构建调用路由,MCP 场景下要连接服务器、拉取工具清单、把 schema 装进工作记忆——接 10 个以上 MCP 服务器时,仅这一段就要 2–3 秒。第二段是记忆初始化:带持久记忆的智能体要把历史会话、用户偏好、项目状态取回来才能推理,全量检索的 p95 延迟高达 17.12 秒。第三段是上下文组装:系统指令、记忆块、工具 schema、历史、任务描述要在推理前拼成提示词,差的架构把这段塞在每次请求的关键路径上。三段相加,总冷启动开销落在 3.1 秒到 22.7 秒之间,交互中位数约 6–8 秒——模型本身的首 token 反而只占其中 597ms–2s。
# 冷启动三阶段在关键路径上串行执行(典型未优化脚手架)
def cold_start(agent, task):
tools = discover_tools(agent.mcp_servers) # Phase 1: 800ms–2.5s, 随服务器数膨胀
memory = retrieve_memory(agent.session_id) # Phase 2: 全量 17s / 语义 1.44s
prompt = assemble(tools, memory, agent.history) # Phase 3: 300ms–1.2s
return agent.llm(prompt, task) # TTFT: Haiku 4.5 ≈ 597ms
优缺点:好处是冷启动把环境"摸清楚"了,后续 warm path 极快;坏处是它被基准测试系统性忽略。变现评估:这恰是训练营的高价值切口——"为什么你的 Agent 每次问答都卡 6 秒"是真实痛点,可做成《Agent 冷启动体检》轻量产品。
MCP 让自主智能体能即插即用地接上百个外部能力,但每接一个服务器,冷启动就背一份债。清单拉取、schema 解析、连接握手都发生在"第一个有用 token"之前,且与服务器数量线性甚至超线性增长。生产中 10+ MCP 服务器的栈,仅工具发现段就吞掉 2–3 秒;每个常驻实例还要 $30–70/月的基础设施成本。更坑的是工具 schema 进入上下文后常驻——每次调用都把全量工具定义重发,工具密集型请求里这部分能占 40–60% 的 token 预算。这本质上是一种"基础设施税":你越想让它万能,它启动越慢、每轮越贵。缓解手段是工具懒加载与按需 schema 注入(只在路由命中时加载该工具的完整定义),但大多数脚手架默认不做。
记忆是自主智能体的"长期人格",但取记忆本身就是一道冷启动闸门。实测显示,全量上下文检索在重记忆会话下 p95 延迟达 17.12 秒;改用语义过滤的选择性记忆管线可压到 1.44 秒,改善 91%——代价是约 6 个百分点的准确率折损。这是一个典型的精度–延迟权衡:不是所有任务都承受得起 6pt 的记忆召回损失(比如合规、审计类),但大多数交互式场景宁可快一点、偶有遗漏,也不愿等 17 秒。更进阶的做法是把语义压缩 + 自适应剪枝放在摄入期离线完成(可省 38% token),而不是在请求路径上临时算。判断标准很现实:如果你的 Agent 面向"人在回路、秒级响应",必须上选择性管线;面向"过夜批处理",全量检索可接受。
冷启动税之外,自主智能体还有第二重隐性税:探索税。2026 年 5 月的论文《Look Before You Leap》(arXiv:2605.16143)点出一个关键失败模式——早熟式利用(premature exploitation):智能体在陌生环境里,倾向于凭先验知识直接动手,而不是先采集足够的环境信息。结果是反复打转、陷入重复循环。论文提出的解法是 Explore-then-Act 范式:先拨出一笔交互预算去做有引导的探索,把环境摸清楚,再进入任务执行。为了能量化"探索得好不好",论文引入了Exploration Checkpoint Coverage——一个不依赖任务奖励、可独立验证的指标,衡量智能体发现了多少关键状态、对象与可供性。实验发现,用标准任务导向 RL 训出来的智能体,探索既窄又重复;而把探索回滚与任务回滚交替训练、各自配可验证奖励后,泛化能力显著提升。
# Explore-then-Act:把"摸环境"从"干活"里解耦,分别预算、分别度量
EXPLORE_BUDGET = 0.25 # 冷启动交互预算的 25% 先用来探索
known = explore(env, budget=EXPLORE_BUDGET * total_steps)
coverage = checkpoint_coverage(known, env.key_states) # 可验证指标,与任务奖励解耦
if coverage < 0.7: # 探索不足就补探,而不是硬干
known += explore(env, budget=EXPLORE_BUDGET * total_steps)
result = act(task, grounded=known) # 用落地知识再执行
变现评估:这套范式可直接包装成"Agent 上手陌生库 SOP"训练营——先用小预算让学员量化自家 Agent 的 Checkpoint Coverage,再教优化。这是目前市面稀缺的、有方法论硬度的课。
为什么冷启动税长期被忽视?因为主流基准结构性地只测暖路径。SWE-bench 会预先把仓库环境、依赖、沙箱准备好,计时是从初始化完成之后才开始——它回答的是"能不能做",不是"上手要多久"。GAIA、WebArena、Terminal-Bench 同样侧重完成率而非启动开销。这就造成一个采购错觉:两个 Agent 都报 72%,团队当它们可互换,但实际一个 2 秒开工、一个要等 8 秒。在交互式工作流(2026 年编程 Agent 的主导形态)里,这 6 秒差就是整个用户体验。能力趋同的背景下,这点尤其致命:2026 Q1 六个前沿模型在 SWE-bench Verified 上只差 0.8 分(Opus 4.6 为 80.8%、Gemini 3.1 Pro 80.6%、MiniMax M2.5 80.2%),质量护城河已被填平。computer-agents.com 在 2026 年 2 月的延迟方法论已开始把冷启动从暖路径里单独切出来、从"用户动作到首个流式 token"埋点——这是对的方向,但尚未成为榜单标配。
当性能打平时,钱说了算。以 2M token 任务画像(1.5M 输入 + 0.5M 输出)测算各模型"解一个真实 GitHub issue"的成本:
| 模型 | SWE-bench Verified | 每次尝试成本 | 每解一个 issue 成本 |
|---|---|---|---|
| Claude Opus 4.6 | 80.8% | ~$60 | ~$74 |
| GPT-5.4 | ~74.9% | ~$13.75 | ~$18 |
| Claude Sonnet 4.6 | 79.6% | ~$12 | ~$15 |
| Gemini 3.1 Pro | 80.6% | ~$9 | ~$11 |
| MiniMax M2.5 | 80.2% | ~$1.05 | ~$1.31 |
| Qwen3.5-397B (API) | 76.4% | ~$0.35 | ~$0.46 |
Gemini 3.1 Pro 与 MiniMax M2.5 用与 Opus 几乎相同的分数,分别以 15 倍、56 倍 的更低成本解题;Qwen3.5 更是 160 倍 便宜。月解万级 issue 时,Opus 与 Gemini 的差额约 $63 万/月,与 Qwen 差额超 $73 万/月。注意 token 的二次方增长:Agent 每多一轮,上下文整段重发,SWE-bench 现已把单任务封顶在 2M 未缓存读写 + 20M 缓存读。Opus 的救命稻草是 prompt 缓存——重复上下文输入可降 90%,在有共享代码库上下文的生产部署里能显著缩小真实成本差。
把冷启动税和探索税一起砍,有三把已被实证的杠杆。第一是模型路由:不是每个子任务都需要前沿模型,UC Berkeley/Anyscale/Canva 的 RouteLLM 实现了 85% 降本、保住 95% GPT-4 性能;70/20/10 分层(70% 流量走 <7B 小模型、20% 中型、10% 前沿)可把平均单查询成本降 60–80%。第二是 prompt 缓存:Anthropic 缓存输入 $0.30/M(新鲜 $3.00/M,省 90%),Redis LangCache 高重复负载降本 73%,"Agentic Plan Cache"连规划中间步都缓存,降本 50.31% 同时降延迟 27.28%。第三是语义压缩 + 按需加载:把摄入期剪枝与请求路径解耦,省 38% token。三者叠加,是把每任务 $1.60 砍到三毛以下的关键路径——也是训练营里最容易做出"前后对比图"的卖点。
# 降本路由 + 缓存的落地骨架
def route(task):
if task.complexity < 0.3: return model.small # <7B, $0.1–0.5/M (~70% 流量)
if task.complexity < 0.7: return model.mid # $1–5/M (~20%)
return model.frontier # $15–60/M (~10%)
def cached_llm(prompt):
key = hash(prompt.prefix) # 系统/工具/历史前缀
if hit := cache.get(key): return hit # 缓存命中省 90% 输入费
out = route(prompt.task)(prompt); cache.set(key,out); return out
把以上拆解转成商业价值,逻辑很顺:企业付费的根本动力不是"它能解 bug",而是"它解 bug 又快又省"。冷启动税恰恰把"又快又省"的隐性账本暴露出来——这是市面上最稀缺的内容角度,因为大多数评测还停在"准确率谁高"。可落地的产品形态有三类:一是《Agent 冷启动体检报告》轻量服务,用 checkpoint_coverage 与 p95 延迟给客户出一页纸诊断;二是《Explore-then-Act 实战》训练营,教学员给自家 Agent 加探索预算与可验证覆盖率度量;三是企业版"成本看板",按每解一个 issue 的真实美元归因。变现潜力评级上,Claude Code、Codex、Cursor 这类高粘性、素材足的工具更适合做训练营;OpenHands、Devin 这类自托管/黑盒型更适合做体检与咨询。
flowchart TD
U[用户提交任务] --> CS{冷启动?}
CS -->|是| P1[阶段1 工具发现<br/>MCP清单 0.8–2.5s<br/>10+服务器=2–3s]
P1 --> P2[阶段2 记忆初始化<br/>全量 p95=17.1s<br/>语义检索=1.44s, 91%快, -6pt准]
P2 --> P3[阶段3 上下文组装<br/>压缩+剪枝 省38%]
P3 --> TTFT[首token 597ms–2s]
CS -->|否/Warm| WARM[热路径: 跳过三阶段]
TTFT --> EX{早熟式利用?}
WARM --> EX
EX -->|凭先验硬干| LOOP[重复循环打转<br/>探索税爆发]
EX -->|Explore-then-Act| EXP[探索预算摸环境<br/>Checkpoint Coverage 可验证]
EXP --> ACT[任务执行 落地知识]
LOOP --> FAIL[冷启动税+探索税<br/>榜单量不到]
ACT --> DONE[降本三杠杆: 路由70/20/10 + 缓存90%off + 压缩38%]
DONE --> COST[每解issue: $0.46–$74<br/>160倍差]
交互式/人在回路场景(秒级响应刚需,如 IDE 内补全、PR 评审):必上选择性记忆管线(17s→1.44s)+ 工具懒加载,砍掉冷启动三阶段里最重的两段;模型走 70/20/10 路由,配 Haiku 4.5 这类低 TTFT 模型。优先 Claude Code / Cursor。
陌生代码库/新环境上手场景(容易打转):强推 Explore-then-Act——先拨 20–25% 交互预算做有引导探索,用 Exploration Checkpoint Coverage 卡阈值,不足就补探再动手。优先 OpenHands / Aider(repo map 轻量)。
批量/过夜长任务场景(如万级 issue):用 warm 池常驻规避冷启动,靠 prompt 缓存吃 90% 输入折扣,模型选 Gemini 3.1 Pro / MiniMax M2.5 / Qwen3.5——分数与 Opus 持平、成本却低 15–160 倍。优先 OpenHands + 开源模型自托管。
采购决策一句话:别只看 SWE-bench 分数。把"冷启动 p95 延迟"和"每解一个 issue 真实美元"加进评估表——这俩才是 2026 年自主智能体选型的真分水岭。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
