首页 › trending › 认知债、末日钟、模型塌:海外还在吵

刷新品发布谁都会,但海外AI圈真正的信息差,藏在那些吵了一整年、至今没有定论的论战里。这些论战决定你该怎么用AI、怎么教团队用AI、怎么给职业做预案——而中文世界往往只转发一个被压扁的结论。今天拆三场:MIT那篇"AI让人变笨"的研究到底吵的是什么;AI-2027末日剧本已经到了验货期,怎么自己动手打分;还有"模型塌缩"之争的最新转折。每场都给你各方观点、可执行动作,以及中文世界很少出现的原文入口。

论战一:MIT"认知债"研究,被读歪最狠的一篇

事实部分先摆清楚。 2025年6月,MIT媒体实验室Nataliya Kosmyna团队在arXiv上放出预印本《Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task》(编号arXiv:2506.08872)。实验设计:54名参与者分成三组写SAT式作文——纯脑写作组、搜索引擎组、LLM辅助组,全程戴脑电图(EEG)设备采集神经信号,共四轮。核心发现:LLM组的神经连接强度在三组中最弱,记忆表现最差,论文原文数字是83.3%的LLM组成员引用不出自己"刚写完"的作文里的话,远低于另外两组。论文造了一个词:cognitive debt,认知债。第四轮把AI组的人换回纯脑写作,表现依然偏弱——"先用了AI再撤掉,脑子回不去"是传播最广的解读。

海外真正吵的是三件事,而不是"AI有没有害"。 第一,样本只有54人,预印本未经同行评审,统计派认为撑不起"AI让人变笨"这种量级的结论;第二,任务只有作文一种,反对方指出写作让AI代劳本来就没走"动脑回路",拿脑电连接强度弱来证明"思考质量差",有循环论证的味道——你让它替你写,它当然替你写了;第三,EEG连接强度这个工程指标能不能代表"认知质量",学习科学圈内部都没统一答案。支持方主要是一线教师和学习科学研究者,他们认为结果与课堂观察高度吻合——学生交上来的作业漂亮了,但下次课一问三不知。中立派的态度最克制:这是"值得继续的重要研究方向",不是结论。

国内传播的变形很典型:原文是"使用顺序可能造成认知负债",传到中文Feed里变成"MIT实锤AI让人变笨"。丢掉的不是细节,是整场方法论之争。

对中国从业者的启示恰好藏在被丢掉的部分里:这份研究真正可用的信息不是"AI有害",而是"使用顺序有害"——先让AI作答再自己看,走的是负债路径;先自己作答再和AI对比,走的是对比学习路径。同样的工具,顺序一换,结论完全相反。给团队新人定规矩、给孩子定家规,一句"AI只进第二遍"就够了:

flowchart TD
    S1["拿到新任务<br/>先自己想"] --> S2["写下初版答案"]
    S2 --> S3["再让AI作答"]
    S3 --> S4["对比找差异点"]
    S4 --> S5["归因<br/>我漏了什么"]
    S5 --> S6["自己重写一版"]
    S6 -->|下一题| S1

论战二:AI-2027末日钟,离验货只剩几个月

2025年4月,一份叫《AI 2027》的场景预测文档在海外技术圈刷屏。主笔Daniel Kokotajlo是前OpenAI研究员,据多家媒体当时的报道,他在2024年底离开OpenAI并放弃了未兑现的股份,理由是无法再为公司的发展路线背书——这个背景让文档自带流量。合著者里还有知名博客Astral Codex Ten的作者Scott Alexander等人。剧本的核心里程碑激进得吓人:2027年初出现"超级程序员"(superhuman coder)——AI能完全替代人类编码员的全部工作,随后自动化AI研究本身,进入智能爆炸。文档罕见地附了一份带概率标注的预测清单。

2026年9月是个微妙的时间点:距离剧本里"超级程序员"的节点只剩不到半年。支持方的论据是过去一年各家agentic编码工具的能力陡增——Agent从补全工具进化到能独立提PR、跑测试、修bug,方向上确实在贴剧本走;反对方的代表人物一直批评这是包装精致的科幻叙事,拿部署、需求沟通、系统维护这些工程现实反驳——编码员的工作从来不只是"写代码"这三个字;而中立派的做法,我认为是整场论战里最值得抄的:他们不站队,把文档附的预测清单当考卷,每个季度打一次分。预测对了记一分,跳票了划一道,用可证伪的方式跟踪,而不是在评论区吵嘴仗。这份文档的生命力恰恰在于它敢被打分——市面上99%的AI预言家都不敢。

对中国技术从业者的启示有两层。方法层:把"宏大预测→拆成中间指标→定期打分"这套流程搬走,你就能对任何AI新闻产生免疫力。实操层:按剧本分支做职业预案——如果2027年代码自动化率真的陡增,你的位置在哪条分支上?把自己工作拆成"AI可替代/难替代"两栏,比焦虑有用一百倍。

论战三:模型塌缩,"近亲繁殖"恐惧的最新转折

第三场论战更底层,关系到整个AI行业的数据根基。2023年5月,Shumailov等人在arXiv上传论文《The Curse of Recursion》,2024年7月登上Nature,标题改得更直白:"AI models collapse when trained on recursively generated data"。核心发现:如果AI生成的内容大规模回流训练集,下一代模型再拿它训练,如此递归下去,模型输出的分布会不断收窄——先死的是尾部:稀有样本、冷门知识、小众表达慢慢消失,最后只剩头部高频模式。通俗版:近亲繁殖。当时中文圈的标题基本是"AI吃自己的尾巴,文明要完"。

但2025年以来,反方火力越来越猛。后续多篇研究指出论文的前提太苛刻:真实训练管道里,数据是持续累积的而不是换代覆盖的,人类数据始终有掺入,加上清洗过滤环节,塌缩在可预见的条件下是可控的。工业界的实际行动更说明问题——各家头部实验室都公开承认大规模使用合成数据训练,也没见谁家模型集体翻车。目前浮现的共识雏形是:问题已经从"要不要用合成数据"变成了"数据配比工程"——人类数据打底、合成数据扩量、质量分层、逐层过滤。这不是和稀泥,这是整场论战真正的产出。

对中国从业者来说,这里藏着个冷门机会:数据配比、数据溯源、合成数据质检,这几个方向国内还在当"脏活"看,海外已经在把它们岗位化。做数据生意、做微调服务的团队,值得提前卡位。

三场论战攻防全景

flowchart TD
    subgraph D1["论战一:认知债"]
        A1["MIT预印本<br/>54人脑电实验"] -->|结论| A2["AI组连接最弱<br/>提出认知债"]
        A2 -->|质疑| A3["样本小任务单一<br/>指标存疑"]
        A3 -->|回应| A4["作者称是早期信号<br/>呼吁更多研究"]
    end
    subgraph D2["论战二:末日钟"]
        B1["AI-2027剧本<br/>2025年4月发布"] -->|预测| B2["2027年初出现<br/>超级程序员"]
        B2 -->|支持方| B3["Agent能力陡增<br/>方向在应验"]
        B2 -->|反对方| B4["科幻叙事<br/>忽略工程现实"]
    end
    subgraph D3["论战三:模型塌缩"]
        C1["递归训练实验"] -->|发现| C2["分布收窄<br/>尾部先消失"]
        C2 -->|反驳| C3["真实管道混人类数据<br/>塌缩可控"]
        C3 -->|再反驳| C4["关键在配比工程<br/>不是禁合成"]
    end

信息差总结

你以为的 别人已经知道的
MIT研究=AI让人变笨实锤 54人预印本,海外吵的是方法而非结论,"使用顺序"才是变量
AI-2027=科幻阴谋论,看个乐 文档附可打分预测清单,海外高手正在按季度逐条验货
合成数据=毒品,碰了模型就塌 塌缩有严格前提,"数据配比工程"才是真战场,还是个岗位机会
参与论战=站队发言 高手的玩法是把论战变成自己的打分表和决策工具

行动指南

  1. 今晚(10分钟):打开arXiv:2506.08872的摘要和Limitations部分亲口读一遍,然后给自己定一条"AI只进第二遍"的使用规则,写进个人工作守则。
  2. 本周(30分钟):把ai-2027.com里"超级程序员"相关的预测逐条抄进表格,设一个季度打分提醒——2027年1月前你还有两次打分机会,届时你会比99%只看标题的人更早知道真相。
  3. 本月(半天):如果你做微调/RAG/数据服务,审计一遍训练集和知识库里AI生成内容的占比,建一个"人类数据保留层",并把它写成可以对外讲的配比方案——这是能收钱的差异化。
  4. 长期:每月扫一次HN全站检索入口和r/MachineLearning的塌缩相关讨论(入口见参考来源),跟踪三场论战的新证据,而不是等二手解读。

延伸思考

这三场论战有个共同规律:都从"结论之争"滑向了"方法之争"。中文世界传播的是结论(AI让人变笨、末日要来、合成数据有毒),海外圈真正卷的是测量方式——脑电怎么测、预测怎么打分、塌缩怎么定义。信息差的本质从来不是"知道新消息",而是掌握别人没有的验证工具。下次再看到任何一个AI惊悚结论,先问一句:它测的是什么?样本多大?有没有可打分的清单?这一问,你就站到信息差的上游去了。

参考来源

  1. MIT Media Lab预印本《Your Brain on ChatGPT》(arXiv:2506.08872):https://arxiv.org/abs/2506.08872
  2. AI-2027原文及预测清单:https://ai-2027.com
  3. 《The Curse of Recursion》(arXiv:2305.17493,即Nature塌缩论文的预印本前身):https://arxiv.org/abs/2305.17493
  4. HN全站讨论检索入口(三场论战的原始讨论帖都能搜到):https://hn.algolia.com/?q=your%20brain%20on%20chatgpt
  5. Reddit r/MachineLearning「model collapse」讨论检索入口:https://www.reddit.com/r/MachineLearning/search/?q=model+collapse

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入