Agent上下文工程六栈实测：从硬裁剪到语义蒸馏的窗口生存术

from langgraph.graph import StateGraph, MessagesState
from langmem import ManagedMemory

# LangGraph上下文压缩管线
class AgentState(MessagesState):
    summary: str  # 压缩摘要字段

def should_compress(state: AgentState) -> str:
    """Token预算检查路由"""
    token_count = count_tokens(state["messages"])
    if token_count > 8000:  # 接近窗口上限
        return "compress"
    return "continue"

def compress_context(state: AgentState) -> dict:
    """LLM-in-loop摘要压缩"""
    summary_prompt = f"将以下对话压缩为关键信息摘要:\n旧摘要: {state.get('summary', '')}\n新消息: {state['messages'][-5:]}"
    new_summary = llm.invoke(summary_prompt)
    # 仅保留系统提示词 + 最新消息 + 摘要
    return {
        "messages": [state["messages"][0]] + state["messages"][-2:],
        "summary": new_summary
    }

graph = StateGraph(AgentState)
graph.add_conditional_edges("agent", should_compress, {
    "compress": "compress_node",
    "continue": "tools"
})

from crewai import Agent, Task, Crew, Process
from crewai.memory import Memory

# CrewAI的记忆配置——但缺少上下文压缩
agent = Agent(
    role="数据分析师",
    goal="分析大型数据集",
    memory=True,  # 启用记忆
    verbose=True
)

# 实际问题：长任务中context会无限增长
crew = Crew(
    agents=[agent],
    process=Process.sequential,
    memory=True  # 统一Memory类
)

# 生产环境必须手动注入压缩逻辑
from crewai.memory import LongTermMemory
ltm = LongTermMemory()
# 手动实现：在每轮Task之间摘要关键结论
# 框架不提供原生支持

from agents import Agent, Runner, Session

# OpenAI Agents SDK的Session上下文管理
agent = Agent(
    name="研究助手",
    instructions="你是一个深度研究助手",
    tools=[search_tool, analyze_tool]
)

session = Session(max_turns=50)  # 配置最大轮数

# Session自动管理消息历史
# 但底层策略是硬滑窗截断
result = await Runner.run(agent, "分析2026年AI行业趋势", session=session)

# 高级用法：自定义截断策略
from agents.context import TruncationStrategy

class SmartTruncation(TruncationStrategy):
    """自定义：保留系统提示+摘要+最近5轮"""
    def truncate(self, messages, max_tokens):
        system = [m for m in messages if m["role"] == "system"]
        recent = messages[-10:]  # 最近5轮(每轮2条)
        # 生成中间部分的摘要
        mid_summary = self._summarize(messages[1:-10])
        return system + [{"role": "system", "content": f"历史摘要: {mid_summary}"}] + recent

graph TD
    A[原始上下文: 系统提示+对话+工具结果] --> B{Layer 0: 磁盘落盘}
    B -->|大型工具输出写入文件| C[上下文缩减40-60%]
    C --> D{Layer 1: 工具结果清理}
    D -->|提取关键信息 删除原始输出| E[上下文再缩减20-30%]
    E --> F{Layer 2: 对话摘要压缩}
    F -->|LLM生成高保真摘要| G[上下文缩减到窗口30%]
    G --> H{Layer 3: 系统提示词精简}
    H -->|压缩冗余指令| I[上下文缩减5-10%]
    I --> J{Layer 4: 重新注入关键记忆}
    J -->|从Memory文件恢复关键上下文| K[最终上下文: <窗口80%]

    style A fill:#ff6b6b,color:#fff
    style K fill:#51cf66,color:#fff

# Claude Agent SDK上下文工程示例
from claude_agent import Agent, ContextConfig

# 配置上下文压缩策略
context_config = ContextConfig(
    max_context_tokens=180000,  # Claude 3.5 Sonnet窗口
    compression_strategy="cascade",  # 五层级联
    offload_threshold=10000,  # 工具结果>10K token则落盘
    summary_model="claude-3-5-haiku",  # 使用便宜模型做摘要
    memory_dirs=[".claude/memory/"]  # 持久化记忆目录
)

agent = Agent(
    model="claude-3-5-sonnet",
    context_config=context_config,
    tools=[file_read, shell_exec, web_search]
)

# 长任务自动触发压缩级联
result = await agent.run("重构整个认证模块并确保测试通过")
# 内部日志：
# [Layer 0] 落盘3个大型文件到 /tmp/agent_offload/
# [Layer 1] 清理12个工具结果，缩减23K tokens
# [Layer 2] 压缩对话历史 47K→8K tokens (保真度92%)
# [Layer 3] 系统提示词精简 2.1K→1.4K tokens
# [Layer 4] 注入2条相关记忆
# 最终上下文: 142K/200K tokens (71%)

from google.adk import Agent, Session, Runner
from google.adk.context import ContextManager

# Google ADK的Session State管理
class ResearchAgent(Agent):
    name = "research_agent"
    model = "gemini-2.5-pro"

    def manage_context(self, session: Session):
        """自定义上下文管理策略"""
        # 1. 将大型研究结果写入session state
        if len(session.history) > 20:
            # 提取关键发现到结构化状态
            findings = self._extract_findings(session.history)
            session.state["research_findings"] = findings
            session.state["iteration_count"] += 1

        # 2. KV-cache pruning配置
        # ADK自动根据注意力权重裁剪
        # 可配置pruning策略
        session.state.set_pruning_config(
            strategy="attention_weight",
            retention_ratio=0.7  # 保留70%的高注意力Token
        )

# 持久化Session到Vertex AI Agent Engine
runner = Runner(
    agent=ResearchAgent(),
    session_service="vertex_ai",  # 自动持久化
    artifact_service="gcs"  # 大型结果存储到GCS
)

// Microsoft Agent Framework (C#) - 上下文管理示例
using Microsoft.AgentFramework;
using Microsoft.AgentFramework.Memory;

var agent = new ChatAgent(builder => {
    builder.WithModel("gpt-4o")
           .WithMemory(new ConversationMemory(maxTurns: 30))
           .WithPlugin(new SummarizationPlugin());  // 手动添加摘要插件
});

// 问题：ConversationMemory只是简单的消息列表
// 超过maxTurns会硬截断，没有摘要/压缩
// 必须手动实现SummarizationPlugin：
public class SummarizationPlugin {
    [KernelFunction]
    public async Task<string> CompressContext(
        IList<ChatMessage> history, 
        int targetTokens) 
    {
        // 开发者需要自己写这段代码
        var important = history.Take(3)  // 保留系统提示
            .Concat(history.TakeLast(10));  // 保留最近5轮
        var toCompress = history.Skip(3).SkipLast(10);
        var summary = await llm.SummarizeAsync(toCompress);
        return summary;
    }
}

graph TB
    subgraph "上下文工程三层架构"
        direction TB

        subgraph "Layer 1: 输入控制"
            A1[系统提示词精简]
            A2[工具Schema裁剪]
            A3[Few-shot示例动态选择]
        end

        subgraph "Layer 2: 运行时压缩"
            B1[工具结果落盘]
            B2[对话摘要蒸馏]
            B3[Token预算路由]
        end

        subgraph "Layer 3: 持久化恢复"
            C1[向量化长期记忆]
            C2[结构化知识图谱]
            C3[关键上下文重注入]
        end
    end

    LLM[LLM推理引擎<br/>有限上下文窗口]

    A1 & A2 & A3 --> B1 & B2 & B3
    B1 & B2 & B3 --> LLM
    LLM --> C1 & C2 & C3
    C1 & C2 & C3 -.->|下一轮恢复| A1 & A2 & A3

    style LLM fill:#845ef7,color:#fff
    style B2 fill:#ff922b,color:#fff

graph TD
    Q1{任务平均轮数?}
    Q1 -->|<10轮| Q2{语言偏好?}
    Q1 -->|10-30轮| Q3{成本敏感度?}
    Q1 -->|>30轮| Q4{模型绑定可接受?}

    Q2 -->|Python| OPENAI[OpenAI Agents SDK<br/>快速MVP 无需压缩]
    Q2 -->|.NET| MS[Microsoft AF<br/>企业.NET生态]
    Q2 -->|TypeScript| MASTRA[Mastra<br/>TS原生框架]

    Q3 -->|成本优先| LANG[LangGraph<br/>最佳性价比压缩]
    Q3 -->|保真优先| CLAUDE[Claude Agent SDK<br/>最高保真压缩]
    Q3 -->|GCP用户| GOOGLE[Google ADK<br/>KV-cache pruning]

    Q4 -->|可绑定Claude| CLAUDE2[Claude Agent SDK<br/>五层级联开箱即用]
    Q4 -->|必须开源/自托管| LANG2[LangGraph + LangMem<br/>三级管线自定义]
    Q4 -->|超长文档2M+| GOOGLE2[Google ADK + Gemini<br/>2M窗口免压缩]

    style CLAUDE fill:#ff922b,color:#fff
    style CLAUDE2 fill:#ff922b,color:#fff
    style LANG fill:#51cf66,color:#fff
    style LANG2 fill:#51cf66,color:#fff