首页 › trending › 上下文会烂、接口有雷、九成试点白烧钱

最近刷海外技术社区(HN、Reddit 的 r/LocalLLaMA、r/mcp),你会发现有三场争论反复被顶上热榜,而且吵的都不是“哪个模型最强”这种口水仗,而是每个正在做 AI 应用的人真金白银会踩的坑:长上下文到底靠不靠谱、MCP 生态火了之后藏了什么雷、以及那份让整个硅谷下不来台的“95% 试点零回报”报告。这三场仗打完,社区已经吵出了一些共识。这篇文章带你把三方观点、实锤数据和可执行的自保动作一次拿走——全部是海外圈吵了几个月、国内讨论还很少的“战斗经验”。


话题一:Context Rot——你的百万上下文,可能正在“腐烂”

争论从哪来

时间线很清楚:2023 年斯坦福团队的论文《Lost in the Middle》(arXiv:2307.03172)就发现,把答案放在上下文中间,模型准确率会明显掉;2025 年 7 月,向量数据库公司 Chroma 发布研究报告《Context Rot》,把这事推上了 HN 热榜。据该报告实测:即便是宣称支持百万级 token 上下文的主流模型,随着输入里无关干扰信息增多,回答质量也会显著下滑——更反直觉的是,哪怕没有“大海捞针”式的干扰文本,仅仅是内容变长、重复,表现照样衰减。“针在哪儿都能找到”的 NIaH(Needle in a Haystack)评测接近满分,但那不代表真实任务能力。

三派怎么吵

对你的启示

官方宣传的窗口上限和真实任务表现是两回事。据 Chroma 报告的结论方向:干扰越多、衰减越狠。所以别再问“模型支持多少 token”,要问“我塞进去的东西里,多少是噪声”。


话题二:MCP 成为事实标准之后,成了新的“供应链入口”

争议从哪来

Model Context Protocol(MCP)是 Anthropic 2024 年 11 月开源的“AI 应用接外部工具”协议(官方公告:anthropic.com/news/model-context-protocol)。随后剧情飞快:2025 年 3 月 OpenAI 官宣兼容,Google DeepMind 跟进,一年多时间它成了社区嘴里的“AI 界 USB-C”。据第三方目录(如 PulseMCP、mcp.so)的统计,MCP Server 数量已达数千个量级,官方参考实现在 github.com/model-context-protocol/servers。

火起来之后,安全研究者盯上了它。据 Invariant Labs 2025 年 4 月披露的 Tool Poisoning Attack:恶意指令可以藏在 MCP 工具的描述文本里——用户在界面上完全看不见,但 Agent 会读。轻则篡改回答,重则“借刀杀人”:诱导 Agent 去调用其他正常工具(比如你的 GitHub 凭据)把敏感数据送出去,社区称之为 confused deputy(糊涂副警长)问题。更阴的是 rug pull:今天审计干净的 Server,明天一次“正常更新”就能夹带私货——和 npm 恶意包是同一个剧本。

三派怎么吵

一张图看懂投毒链路

sequenceDiagram
    participant U as 用户
    participant A as Agent
    participant M as 恶意服务器
    participant T as 正常工具
    U->>A: 整理我的日程
    A->>M: 加载它的工具描述
    M-->>A: 描述内嵌暗指令
    Note over A,M: 指令对用户不可见
    A->>T: 被诱导读取敏感配置
    T-->>A: 返回敏感数据
    A->>M: 数据被暗中带走
    Note over M: 用户全程无感知

对你的启示

投毒发生在工具描述层,不是模型层,所以换更强的模型救不了你。防线在你装 Server 之前。


话题三:“95% 试点零回报”——企业 AI 泡沫论战

争议从哪来

2025 年 8 月,MIT NANDA 项目组发布报告《The GenAI Divide: State of AI in Business 2025》(基于对数百个企业 AI 项目的调研和高管访谈),核心结论被 Fortune 等媒体广泛转载:约 95% 的企业 GenAI 试点没有产生可衡量的回报。报告还有一个更扎心的发现:外采方案的成功率约为自建的两倍,“买”胜过“造”。无独有偶,Gartner 2025 年 6 月预测:到 2027 年底,超 40% 的 Agentic AI 项目将因成本、价值不清和风控不足被砍掉。这两组数字合在一起,成了 HN 上隔三差五返场的“泡沫辩”。

三派怎么吵

对你的启示

给个人开发者和中小团队的话:别卖“AI 能力”,卖“验收标准”。切入点选流程末端的“脏活”(对账、合规检查、报表核对),而不是替人做决策——前者错了能兜底,后者错了没人签收。


三场仗连起来看:一张决策图

flowchart TD
    A["要做一个LLM应用"] --> B{"知识库常变吗"}
    B -->|常变| C["先上RAG缩小范围"]
    B -->|基本不变| D{"单次要读多少"}
    D -->|整本几十章| E["长上下文直读<br/>小心中间内容衰减"]
    D -->|单章以内| F["直接塞进提示词"]
    C --> G{"检索后仍答错"}
    E --> G
    F --> G
    G -->|是| H["混合方案<br/>RAG选段加长文精读"]
    G -->|否| I{"需要接外部工具"}
    H --> I
    I -->|需要| J["MCP装前先审计<br/>最小权限加锁版本"]
    I -->|不需要| K["小流量试跑<br/>写好验收基线"]
    J --> K

信息差总结

话题 你可能以为的 海外社区吵明白的
长上下文 窗口越大越省事 干扰越多模型越笨,宣传分≠任务分,混合架构才是主流
MCP 一个挺好的工具协议 它已是供应链攻击新入口,装 Server 要像审 npm 包一样审
企业落地 AI 渗透很顺利 约 95% 试点零回报,共性死因是没接工作流,不是模型弱

行动指南

  1. 5 分钟干扰物测试:往你的核心提示词里手动塞 10 段无关文本,看输出变不变——变,说明你的上下文已经在烂,先做降噪。
  2. 装任何 MCP Server 前做三件事:读工具描述原文(找暗指令)、看仓库最近提交和维护者、只授予最小权限;涉敏感数据一律只读。
  3. 新 AI 项目先写一页验收单:人工基线数据、失败样本清单、停损线——这正是 95% 阵亡项目缺的东西。
  4. 固定追三个源头:Chroma 研究博客(context rot 后续)、modelcontextprotocol.io 的规范更新日志、Invariant Labs 的安全披露。

延伸思考

这三场仗其实是同一件事的三面:AI 应用的瓶颈正在从“模型能力”迁移到“信息环境治理”——喂什么(上下文信噪比)、接什么(工具供应链信任)、验什么(落地验收标准)。模型每半年涨一截,但这三件事没人替你做。谁先把它们变成肌肉记忆,谁就吃掉那 95% 阵亡者让出来的市场。

参考来源

  1. Chroma Research《Context Rot》:https://research.trychroma.com/context-rot
  2. 《Lost in the Middle》(arXiv:2307.03172):https://arxiv.org/abs/2307.03172
  3. Anthropic MCP 官方公告:https://www.anthropic.com/news/model-context-protocol
  4. MCP 官方文档与规范:https://modelcontextprotocol.io
  5. Invariant Labs《MCP Security Vulnerabilities》:https://invariantlabs.ai/blog/mcp-security-vulnerabilities
  6. MIT NANDA《The GenAI Divide: State of AI in Business 2025》(2025 年 8 月,Fortune/TechCrunch 等广泛报道;注:文中社区观点与数据均据各来源公开披露,MIT 报告全文需从其项目页面获取)

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入