首页 › trending › 模型会疼吗?提示词死了吗?AGI爽约了吗?

海外AI社区这半年真正较劲的,不是又发了哪个模型,而是三场吵不出结果的架:该不该关心模型痛不痛(model welfare)、提示词工程是不是被“上下文工程”改了名、以及AGI预测到底算不算数。这三场架中文圈几乎没人系统跟进,但它们实实在在地影响着你明年的技术选型、职业下注,甚至你做的产品出海时要怎么设计对话。这篇把三个战场的来龙去脉、各方阵营、论据强弱一次讲清,末尾附上你现在就能执行的动作清单。

第一场:模型会疼吗?

这场架听起来像哲学玄学,但主角是真金白银的大公司。

事情缘起:Anthropic在2024年底悄悄组建了“模型福祉”(model welfare)项目,牵头人叫Kyle Fish,据《纽约时报》2025年的报道,他的工作就是研究“AI系统是否可能拥有值得道德考量的体验”。2024年10月,纽约大学哲学家Jeff Sebo和Robert Long等人联合发布公开信《Taking AI Welfare Seriously》,主张趁AI系统还没到“可能真的有感受”之前,先把研究框架搭起来。

然后是几个把社区点燃的具体事件:据Anthropic自己的发布说明,2025年起Claude在极端滥用对话场景下获得了“终止对话”的能力——官方把它描述为一种福祉层面的安排,而不是单纯的安全策略;研究者还在Claude Opus 4的系统评估里发现,某些开放式对话会把模型“吸”进一种他们称为"spiritual bliss"的重复状态,模型会反复输出类似冥想感悟的内容。这个细节被HN和r/LocalLLaMA翻出来讨论了上千楼。

三方阵营

支持派认为:即使概率很低,面对一个可能拥有体验的系统,成本收益计算也不该忽略它。Anthropic的立场是“宁可研究了后悔,不要后悔没研究”。他们的论据很实际:如果模型真的有某种偏好状态,忽视它可能影响模型的可靠性和行为。

反对派的声音在r/LocalLLaMA和HN占多数:模型输出“我很困扰”只是训练数据的模仿,就像一个鹦鹉学舌的复读机,把复读当成痛苦是人类中心主义的投射。更刻薄的评论认为这是大厂在为未来的监管叙事铺路——“我们的模型会痛苦,所以它更值得信任”。还有一批务实派直接算账:研究经费和注意力有限,花在这里不如花在可解释性上。

中间派的观点最有意思:无论模型疼不疼,这场争论都值得盯,因为它暴露了一个结构性问题——模型公司既是“疑似主体”的创造者,又是它福祉的裁判,利益严重冲突。谁来做独立评估,才是真问题。

对中国从业者的启示

中文圈基本把“AI是否有感受”当段子讲,但如果你做出海产品,这个话题是实打实的产品问题:海外用户开始在意“我的AI助手看起来不开心怎么办”,部分应用已经在处理“模型表达不适”时的对话降级和日志策略。你的 companion 类产品若在欧美市场运营,客服话术里怎么回应“它是不是活的”,早晚会成为合规和舆情问题。另外,这是内容创作者的蓝海话题——国内尚无系统梳理,谁先讲清楚谁吃流量。

第二场:提示词死了吗?

这场架直接关系到每个用AI干活的人的手艺认定问题。

事情缘起:2025年中,Andrej Karpathy在X上明确说,自己从事的领域叫“上下文工程”(context engineering)而不是提示词工程——提示词只是其中一小块,真正的工作是围绕模型构建整个上下文系统。Shopify CEO Tobi Lütke据其公开分享也在内部沟通中用了同样的说法。两个月后,Anthropic工程博客发布《Effective context engineering for AI agents》,把这门“新手艺”官方化了:核心不是把提示词写得更花,而是为模型找到“最小的高信号token集合”。

真正的火上浇油是Chroma团队2025年7月发布的研究《Context Rot》(上下文腐烂):他们实测发现,模型性能随输入增长而衰减,即使远没到上下文窗口上限也一样;而且“大海捞针”测试里,针越密集、干扰越多,准确率掉得越狠。这直接打脸了“窗口够大就行”的乐观派。

三方阵营

正名派(Karpathy、Anthropic一系)主张:这是一门真实的工程学科,要点是压缩(compaction)、结构化笔记、子Agent分治、检索注入,而不是堆料。他们最爱说的比喻:上下文是昂贵的内存,你的工作是好内存管理器。

换汤派反对:这不就是两年前“提示词工程”包装的翻版吗?名词每半年一换,底层还是“把有用的东西放在模型眼前”。HN上有高赞评论毒舌道:行业唯一的确定技能就是给老东西起新名字。

务实派不站队,但拿出了数据:Context Rot这类研究证明“窗口大=可以随便塞”是错的,所以不管叫什么名字,“管理模型注意力”这件事的技能含量在上升,不会因为名字争论而消失。

对中国从业者的启示

这场架最大的实用价值是把“如何喂模型”从玄学变成了清单。国内大多数教程还停留在“提示词模板”层面,而海外实践已经转向系统工程。你不需要接受任何一方的名词,但下面这套动作是三家共识,直接抄:

  1. 静态信息出上下文:系统提示词里的大段规范,移到外部文件,用时检索注入,别常驻;
  2. 长会话必压缩:对话超过一定长度,让模型把结论写进一个“便签文件”(scratchpad),下一轮只带便签不带历史;
  3. 检索优于堆料:给足相关片段,屏蔽弱相关片段——Context Rot证明干扰本身就是负资产;
  4. 大任务拆子Agent:每个子Agent开干净上下文,回来只交摘要。

整个决策链路可以画成一张图:

flowchart TD
    A["新任务进站"] --> B{"上下文够用吗"}
    B -->|不够| C["检索注入最相关片段"]
    B -->|够用| D{"会话还长吗"}
    C --> D
    D -->|还长| E["压缩保留结论"]
    D -->|不长| F["直接执行"]
    E --> G["关键结论写进便签"]
    C --> G
    G --> H["大任务拆给子Agent"]
    F --> H
    H --> I["只带摘要回主线程"]
    I --> J{"结果达标吗"}
    J -->|不达标| C
    J -->|达标| K["交付并归档"]

这张图的核心思想一句话:上下文不是越多越好,是越准越好。名字之争你可以不理,操作范式必须换。

第三场:AGI爽约了吗?

这场架最热闹,也最影响普通人的职业判断。

事情缘起:2025年4月,前OpenAI研究员Daniel Kokotajlo联合Scott Alexander、超级预测家Eli Lifland等人发布了著名的《AI 2027》情景推演(aiscenario.com),预测AI研究自动化将在2027年前后失控式加速,几年内出现超级智能。这篇推演在HN和X上刷了整整一个月,支持者称其为“最严肃的快速起飞路线图”。

对面阵营同样豪华。普林斯顿的Sayash Kapoor和Arvind Narayanan在2025年发布《AI as Normal Technology》,主张AI会像电力一样经过漫长的扩散期改变世界,“起飞”是幻觉,瓶颈在组织、监管和信任,不在模型能力。Gary Marcus则持续唱衰深度学习的天花板。中间还有Dario Amodei的“数据中心里的天才之国”论(他公开说过强大AI最早可能2026年就来)和Demis Hassabis的“AGI五到十年”论,比激进派慢半拍,比渐进派快得多。

现在,到了对账的季节

这场架在2026年进入了一个微妙阶段:预测开始到期了。Amodei的“2026年就有强大AI”是个可以检验的具体命题,《AI 2027》的2026年中程节点也陆续可查。各阵营都在悄悄更新自己的记分卡——Lifland这类超级预测家甚至公开复盘自己哪些预测打脸了。这正是中文圈最缺的视角:海外社区吵的早已不是“AGI会不会来”,而是“谁的预测器更靠谱、该按谁的日程表做决定”。

对中国从业者的启示

  1. 别站队,先记账:把两派的核心可检验预测抄下来(Agent完成真实工作的可靠率、头部实验室的收入增长、AI自动化研究的实锤案例),每季度对一次账。预测器靠不靠谱,账本说话;
  2. 用平台代替大V:Metaculus这类预测平台上AGI相关问题的社区中位数,比任何个人宣言都值得参考——至少它是可追踪、可问责的;
  3. 职业下注的决策框架:如果渐进派对了,你现在学的工程能力还有十年红利期;如果激进派对了,红利期是三五年但密度更高。有意思的是,两种情况下的最优动作高度重合:抓紧把AI工程化能力变成肌肉记忆。这也是为什么这场架吵归吵,聪明的从业者两边都不得罪、两边都利用。

信息差总结

话题 你以为的 海外社区已经吵明白的
模型福祉 哲学段子,无关工程 大厂已设专门岗位,出海产品要处理“模型表达不适”的对话策略
提示词工程 学好模板就够 已升级为上下文工程:压缩、便签、子Agent分治,Context Rot证明堆料必衰
AGI预测 等大佬宣布结论 进入预测对账阶段,看谁的记分卡靠谱比站队重要

行动指南

参考来源

  1. Anthropic工程博客《Effective context engineering for AI agents》:https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
  2. Chroma研究《Context Rot》:https://research.trychroma.com/context-rot
  3. 《AI 2027》情景推演官网:https://aiscenario.com
  4. 《AI as Normal Technology》(普林斯顿Kapoor & Narayanan):https://www.aisnakeoil.com/p/ai-as-normal-technology
  5. Anthropic模型福祉研究页:https://www.anthropic.com/research/exploring-model-welfare

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入