导语:这一轮不带你看新工具,带你看三场正在 Hacker News、Reddit 和 X 上持续发酵的技术争论:百万 token 上下文窗口到底是不是虚标?AGI 预言文件进入“交卷期”,该不该信?数据墙逼近,“预训练终结”是狼来了还是真趋势?三场争论看似务虚,其实每一条都能直接改变你写代码、做产品、囤数据的姿势。看完这篇,你就知道海外那些聪明脑袋正在为什么下注,以及你该抄哪份作业。
背景很简单:过去一年各大厂把上下文窗口从 128K 卷到 1M 甚至更高,发布会演示清一色是“整本书丢进去大海捞针”,测试结果全绿。但海外工程社区的实测结论正在转向,导火索是检索公司 Chroma 在 2025 年年中发布的公开研究报告《Context Rot》(上下文腐坏):他们用 18 款主流模型做实验,发现性能随着输入变长普遍、非均匀地下滑——哪怕是最简单的“捞针”任务,稍微改个形态(比如重复出现相似词语、相似事实)准确率就明显掉;报告还有一个扎心结论:教科书式的“干净版大海捞针”测试,恰恰掩盖了真实场景里的衰减。更早些时候的 NoLiMa 基准(2025 年初公开)也显示:去掉词面重叠这种“作弊通道”后,多数模型在 32K 左右就跌破了基线。另外 METR 的长任务测试则从另一个维度补刀:模型能稳定完成任务的时长在涨,但翻倍周期(据其公开测算约 7 个月一次)远慢于窗口数字的膨胀速度。
海外社区的立场分裂成三派,都值得你听:
给你的落地结论:别按标称窗口设计产品,按“有效长度”设计。经验上,把关键信息放在开头或结尾、长文档切块检索后只回填相关段落,比裸塞全文稳定得多。长输出也别一次要完,分段生成能显著降低“虎头蛇尾”的概率。
flowchart TD
A["拿到一份长文档<br/>想直接喂给大模型"] --> B{"先看文档体量"}
B -->|5万字以内| C["可整篇塞入<br/>关键信息放头尾"]
B -->|5万到30万字| D["切块加检索<br/>只回填相关段落"]
B -->|超过30万字| E["先做分层摘要<br/>概览加按需下钻"]
C --> F["输出时要求<br/>逐条标注出处"]
D --> F
E --> F
F --> G["检索是主力<br/>长上下文只是备胎"]
2025 年 4 月,前 OpenAI 研究员 Daniel Kokotajlo 联合 Scott Alexander 等五人发布了公开预测文件 AI-2027(ai-2027.com),逐月推演到 2027 年的剧本:AI 编程员全面接管代码工作、“超人程序员”在 2027 年初出现、AI 开始自动化 AI 研究本身,并给出"race"与"slowdown"两条支线。这份文件在 HN 和 X 上引爆了持续数月的论战,而让它持续刷屏的一个关键前史是:Kokotajlo 在 2021 年写过一篇《What 2026 Looks Like》预测文,后来被预测社区逐条打分,命中率出奇地高(据当年多篇公开报道),被不少人称为“最接近神预言的文档”。
如今到了 2026 年 9 月,文件里的关键锚点陆续逼近验证窗口,社区争论再度升温,三个阵营吵得不可开交:
给你的落地结论:这套“记分卡文化”才是真正的信息差。国内讨论 AI 趋势多停在情绪站队,海外已经在用“可证伪清单”管理判断。你可以直接抄:给自己写下 3 条带日期的 AI 预测(比如“明年 Q2 前 Agent 能独立交付我团队的某个完整需求”),每季度回看打分。用同样的方法去审视任何厂商发布会——凡是不可证伪的宏大叙事,自动降权。
这场争论级别更高,主角都是行业奠基人。2024 年 12 月 NeurIPS 大会上,Ilya Sutskever 抛出那句被反复引用的判断:“我们所知道的预训练将会终结”——数据是 AI 的“化石燃料”,算力还在涨,但互联网文本就这么多,出路是 Agent、合成数据和强化学习。研究机构 Epoch AI 的公开估算给出了时间表:公开可得的人类文本存量大约在几百万亿 token 量级,按当前消耗速度,2026 到 2032 年之间就会被“用尽”。2025 年 4 月,强化学习宗师 Richard Sutton 与 David Silver 发表长文《The Era of Experience》:人类数据时代正在让位于“经验时代”,AI 应主要从自身与环境的交互数据中学习——AlphaGo 靠自博弈超越人类棋谱,就是这条路线的证词。
社区的分歧点非常清晰:
给你的落地结论:两条红利现在就能吃。第一,推理模型时代你该换提示词姿势:与其堆 few-shot 例子,不如把任务描述和验收标准写清楚,让它自己多想几轮。第二,中小团队唯一能积累的数据资产是私有问题库和评估集——这是数据墙时代最抗跌的头寸。
| 你以为的 | 海外社区已经知道的 |
|---|---|
| 上下文窗口越大,整篇塞进去越省事 | 窗口是标称上限,有效可靠长度远小于标称;长文档要切块检索、关键信息放头尾 |
| AGI 时间表都是科幻故事,不用看 | 主流玩法是可证伪预测 + 公开记分卡,AI-2027 的作业可以直接抄来管理自己的判断 |
| 数据快用完是模型厂的事,与我无关 | 训练范式正转向 RL/合成数据,直接改变提示词写法;私有数据和评估集才是新护城河 |
说明:文中模型测试结论、数据存量时间表等均来自上述公开研究与演讲的报道口径,具体数字以各机构原文为准。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
