**导语**：这一轮不带你看新工具，带你看三场正在 Hacker News、Reddit 和 X 上持续发酵的技术争论：百万 token 上下文窗口到底是不是虚标？AGI 预言文件进入“交卷期”，该不该信？数据墙逼近，“预训练终结”是狼来了还是真趋势？三场争论看似务虚，其实每一条都能直接改变你写代码、做产品、囤数据的姿势。看完这篇，你就知道海外那些聪明脑袋正在为什么下注，以及你该抄哪份作业。 --- ## 一、百万 token 窗口，是不是虚标？ 背景很简单：过去一年各大厂把上下文窗口从 128K 卷到 1M 甚至更高，发布会演示清一色是“整本书丢进去大海捞针”，测试结果全绿。但海外工程社区的实测结论正在转向，导火索是检索公司 Chroma 在 2025 年年中发布的公开研究报告《Context Rot》（上下文腐坏）：他们用 18 款主流模型做实验，发现**性能随着输入变长普遍、非均匀地下滑**——哪怕是最简单的“捞针”任务，稍微改个形态（比如重复出现相似词语、相似事实）准确率就明显掉；报告还有一个扎心结论：教科书式的“干净版大海捞针”测试，恰恰掩盖了真实场景里的衰减。更早些时候的 NoLiMa 基准（2025 年初公开）也显示：去掉词面重叠这种“作弊通道”后，多数模型在 32K 左右就跌破了基线。另外 METR 的长任务测试则从另一个维度补刀：模型能稳定完成任务的时长在涨，但翻倍周期（据其公开测算约 7 个月一次）远慢于窗口数字的膨胀速度。 海外社区的立场分裂成三派，都值得你听： - **“虚标派”（支持衰减论）**：窗口标称值是“能力上限”，不是“可靠工作区间”。官方捞针测试是必要条件而非充分条件，用它宣传百万窗口接近营销话术。HN 上高赞评论的经典吐槽：文档中间那段内容，模型“看见了，但没走心”。 - **“够用派”（反对夸大）**：新模型的实际可用长度确实在涨，“我用 1M 窗口跑代码库分析跑得好好的”。他们的论点是：问题不在窗口大小，在于你不会用——关键信息放头尾、明确任务指令、分段生成输出，衰减可以工程化对冲。 - **“工程派”（中立）**：真正稀缺的不是 token 容量，是**注意力预算**。上下文越长，每个 token 分到的“关心程度”越薄。与其赌窗口，不如控制每次喂进去的信息密度。 **给你的落地结论**：别按标称窗口设计产品，按“有效长度”设计。经验上，把关键信息放在开头或结尾、长文档切块检索后只回填相关段落，比裸塞全文稳定得多。长输出也别一次要完，分段生成能显著降低“虎头蛇尾”的概率。 ```mermaid flowchart TD A["拿到一份长文档
想直接喂给大模型"] --> B{"先看文档体量"} B -->|5万字以内| C["可整篇塞入
关键信息放头尾"] B -->|5万到30万字| D["切块加检索
只回填相关段落"] B -->|超过30万字| E["先做分层摘要
概览加按需下钻"] C --> F["输出时要求
逐条标注出处"] D --> F E --> F F --> G["检索是主力
长上下文只是备胎"] ``` --- ## 二、AGI 预言进入“交卷期”，海外玩起了记分卡 2025 年 4 月，前 OpenAI 研究员 Daniel Kokotajlo 联合 Scott Alexander 等五人发布了公开预测文件 **AI-2027**（ai-2027.com），逐月推演到 2027 年的剧本：AI 编程员全面接管代码工作、“超人程序员”在 2027 年初出现、AI 开始自动化 AI 研究本身，并给出"race"与"slowdown"两条支线。这份文件在 HN 和 X 上引爆了持续数月的论战，而让它持续刷屏的一个关键前史是：Kokotajlo 在 2021 年写过一篇《What 2026 Looks Like》预测文，后来被预测社区逐条打分，命中率出奇地高（据当年多篇公开报道），被不少人称为“最接近神预言的文档”。 如今到了 2026 年 9 月，文件里的关键锚点陆续逼近验证窗口，社区争论再度升温，三个阵营吵得不可开交： - **挺派**：这是第一份成体系、**可证伪**的 AGI 路线图。就算全错，把模糊的“AGI 快来了”拆成一条条带日期的预测，本身就是认知进步。围绕它的预测锦标赛一直在滚动打分。 - **骂派**：从算力曲线外推出来的假设链条太脆，“精确的假确定性”最容易煽动资金和恐慌；而且两条支线两头下注，怎么都不算输。怀疑者认为它更像“精心包装的科幻”而非预测。 - **中立派**：别把它当预言，把它当**情景规划工具**。真正值钱的不是结论，是它带火的一套社区实践——公开写下可检验的预测、定期回看打分。 **给你的落地结论**：这套“记分卡文化”才是真正的信息差。国内讨论 AI 趋势多停在情绪站队，海外已经在用“可证伪清单”管理判断。你可以直接抄：给自己写下 3 条带日期的 AI 预测（比如“明年 Q2 前 Agent 能独立交付我团队的某个完整需求”），每季度回看打分。用同样的方法去审视任何厂商发布会——凡是不可证伪的宏大叙事，自动降权。 --- ## 三、数据墙逼近，“预训练终结”是狼来了吗 这场争论级别更高，主角都是行业奠基人。2024 年 12 月 NeurIPS 大会上，Ilya Sutskever 抛出那句被反复引用的判断：**“我们所知道的预训练将会终结”**——数据是 AI 的“化石燃料”，算力还在涨，但互联网文本就这么多，出路是 Agent、合成数据和强化学习。研究机构 Epoch AI 的公开估算给出了时间表：公开可得的人类文本存量大约在几百万亿 token 量级，按当前消耗速度，**2026 到 2032 年之间**就会被“用尽”。2025 年 4 月，强化学习宗师 Richard Sutton 与 David Silver 发表长文《The Era of Experience》：人类数据时代正在让位于“经验时代”，AI 应主要从自身与环境的交互数据中学习——AlphaGo 靠自博弈超越人类棋谱，就是这条路线的证词。 社区的分歧点非常清晰： - **乐观派（RL 路线）**：近两年模型推理能力的跃升主要来自 RL 和合成数据回路，说明数据墙没那么可怕，“数据不够，经验来凑”已经跑通。 - **怀疑派**：“模型崩塌”（model collapse）不是纸面风险——长期用合成数据自我喂食，分布会收窄、尾部知识会流失；而且模型的世界知识底座依然来自人类文本，墙先打击的恰恰是知识型任务。 - **生意派（中立）**：应用层开发者没必要囤焦虑，模型 API 大概率继续变强。真正值得关心的是护城河转移——当公开数据见底，**私有数据和高质量评估集**成了新货币。 **给你的落地结论**：两条红利现在就能吃。第一，推理模型时代你该换提示词姿势：与其堆 few-shot 例子，不如把任务描述和验收标准写清楚，让它自己多想几轮。第二，中小团队唯一能积累的数据资产是私有问题库和评估集——这是数据墙时代最抗跌的头寸。 --- ## 信息差总结 | 你以为的 | 海外社区已经知道的 | |---|---| | 上下文窗口越大，整篇塞进去越省事 | 窗口是标称上限，有效可靠长度远小于标称；长文档要切块检索、关键信息放头尾 | | AGI 时间表都是科幻故事，不用看 | 主流玩法是可证伪预测 + 公开记分卡，AI-2027 的作业可以直接抄来管理自己的判断 | | 数据快用完是模型厂的事，与我无关 | 训练范式正转向 RL/合成数据，直接改变提示词写法；私有数据和评估集才是新护城河 | ## 行动指南 1. **今天就做一次“中间盲区”测试**：把你们产品里最长的那个 prompt 或 RAG 链路拿来，将关键信息挪到文档正中间，跑 10 次看召回稳定性——用数据说话，别赌。 2. **建你自己的“2027 记分卡”**：写 3 条可检验预测 + 到期日，放进日历，每季度回看打分。 3. **改产品文案**：把“支持百万 token”改成“可靠工作区间 XX 字”，既诚实又防止被懂行客户抓包。 4. **切换推理模型的用法**：任务描述 + 验收标准 + 明确输出格式，删掉一大半 few-shot。 5. **每月花 10 分钟跟踪三个来源**：Chroma 研究页、ai-2027.com、METR 的长任务测试更新，保持对窗口、时间线、能力三条曲线的手感。 ## 参考来源 1. Chroma 研究报告《Context Rot：How Increasing Input Tokens Impacts LLM Performance》：https://research.trychroma.com/context-rot 2. AI-2027 情景预测文件（Kokotajlo 等）：https://ai-2027.com 3. METR《Measuring AI Ability to Complete Long Tasks》长任务能力测试：https://metr.org 4. Epoch AI 关于公开人类文本数据存量的估算研究：https://epoch.ai 5. Silver & Sutton《The Era of Experience》长文（Google DeepMind 发布页）：https://deepmind.google > 说明：文中模型测试结论、数据存量时间表等均来自上述公开研究与演讲的报道口径，具体数字以各机构原文为准。 --- > 本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵**爱卫生**（微信ID: gprshome201101）维护。 > 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。 > [!tip] 51学通信知识星球 > **星主：爱卫生**（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 > **星球定位**：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 > **当前规模**：5200 篇主题 / 990 个回答，198 元/年。 > **加入福利**：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 > **AI 加持**：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。