首页 › trending › AI吃自己、Agent内战与水印大战

AI吃自己、Agent内战与水印大战

海外AI圈最近最热闹的,不是又发了什么新模型,而是三场吵了快两年、到现在还没吵完的“路线仗”:模型会不会被自己生成的数据毒死、多Agent到底是不是伪命题、AI内容强制打水印到底管不管用。这三场仗的共同点是:中文圈几乎没人系统梳理过,但每一个都直接影响你接下来半年怎么干活——微调用什么数据、Agent怎么搭、出海内容怎么合规。今天把三场仗的来龙去脉、各派观点和实战结论一次讲透,你看完就知道该站哪边、该怎么抄作业。


第一仗:AI正在吃自己,会不会越来越笨?

事情怎么起的头

2024年7月,牛津团队的论文《AI models collapse when trained on recursively generated data》登上Nature(前一年就挂在arXiv上流传),正式给这个现象起了名字:Model Collapse(模型坍缩)。

实验思路简单粗暴:拿一个模型生成数据,再拿这些数据训练下一代模型,如此往复。结果一代不如一代——最先崩掉的是低频长尾内容,那些出现频率只有5%的冷门表达、小众知识最先消失,迭代到后面几代,输出基本变成复读机式的胡言乱语。论文里最出名的实验里,一个改过的GPT-2迭代到第九代,已经完全不认字了。

这个结论一出,整个圈子炸了。因为它的潜台词很吓人:互联网上的AI生成内容正在指数级膨胀,下一代模型不可避免要在“AI吃AI”的环境里训练。Reddit上的r/LocalLLaMA和HN每隔几个月就把这个话题翻出来吵一轮,尤其每次有“某某论坛一半新帖是AI”的调查出来时。

三派怎么吵

阵营 核心观点 代表论据
悲观派 互联网语料被污染,下一代模型注定变笨 坍缩实验结果确凿;长尾知识会先死
实用派 坍缩是实验室里的假命题 头部实验室都在大量用合成数据,模型照样在变强
阴谋乐子派 “真会坍缩,跑分怎么还在涨?” 认为论文条件太极端,现实训练没有“整体替换”这回事

实用派最有分量的反驳来自2024年底斯坦福等机构的后续论文:坍缩实验的要害在于每一代把旧数据整体扔掉(replace),而现实中数据是累积的(accumulate)——只要真实数据持续留下来、合成数据只做增量补充,坍缩基本不会发生。另外数学、代码这类有标准答案的领域,合成数据配验证器(跑一遍测试就知道对错)不但无害反而提分,这是现在推理模型训练的公开做法。

中立派的观点最值得琢磨:坍缩关乎“多样性”,跑分关乎“正确率”,两者可以同时成立。也就是说,模型可以越来越会考试,同时越来越不会写威尔士语、越来越不懂小众行业的黑话。真正先死的不是主流能力,而是长尾——这对做垂直领域、小语种的人才是真问题。

对中国用户的启示

三点可以直接抄:

  1. 自己做微调的,给数据集做“AI含量”体检。用AI批量造训练数据没问题,但一定要留验证器或人工抽检通道,别让模型输出原样回流进训练集,否则你是在亲手复现坍缩实验。
  2. 真实人类语料在升值。你手里积累的行业论坛、客户对话、工单记录,以后就是稀缺资产——海外已经有人在给公开数据集做“血统普查”(比如DataProvenance Initiative这类项目),数据从哪来、是不是人写的,正在变成一条产业链。
  3. 中文互联网AI含量涨得比英文还快,做中文RAG或搜索的朋友要意识到:你检索到的“参考资料”本身可能就是模型写的,交叉验证的成本只会越来越高。

第二仗:多Agent是不是一场集体自我感动?

两大门派正面开撕

2025年6月,Anthropic发了工程博客《How we built our multi-agent research system》:一个总调度Agent带3~5个子Agent并行干活,在他们内部研究评测上比单Agent高出90%以上。但同一篇博客也承认代价:多Agent的token消耗是普通对话的15倍左右。

几乎同一时间,Devin的母公司Cognition发了一篇标题就是宣战的博客:《Don't Build Multi-Agents》(作者Walden Yan),核心就两条原则:

Cognition还甩出反例:Devin撑起整个产品靠的是单线程线性Agent加上下文压缩,不是多Agent编排。这篇博客在HN和X上吵了整整几周,两边都有大佬站队,是Agent架构领域近几年最著名的一次公开决裂。

两种架构长什么样,一张图看明白:

flowchart TD
    subgraph S1["单线程:一条主线打到底"]
        A["用户任务"] --> B["主Agent"]
        B --> C["工具调用"]
        C --> D["上下文压缩"]
        D --> E["下一轮调用"]
        E --> F["逐步推进"]
        F --> G["交付结果"]
    end
    subgraph S2["多Agent:先撒网再收网"]
        H["用户任务"] --> I["总调度"]
        I -->|派活| J["子Agent一"]
        I -->|派活| K["子Agent二"]
        I -->|派活| L["子Agent三"]
        J -->|完整报告| M["汇总成稿"]
        K -->|完整报告| M
        L -->|完整报告| M
    end

吵到现在,圈子里收敛出的共识

到2026年,两边其实已经各让一步,形成了不少一线实践者默认的分工:

对中国用户的启示

这才是真正的信息差所在:国内大量教程还在教LangGraph多节点编排、AutoGen群聊式多Agent,而海外一线实践者已经集体泼了冷水。很多人入门就学错方向,在编排图上画了几个星期,最后发现一个单线程Agent加良好的上下文管理就能解决90%的需求。

给你的行动清单:

  1. 新项目默认单Agent起步,跑不动了再考虑拆分;
  2. 长任务学会做上下文压缩——把陈旧的工具输出折叠成摘要,这一招比加第二个Agent管用得多;
  3. 只有“查资料”类任务才用并行子Agent,而且每个子Agent的产出要求是可直接引用的完整报告;
  4. 参考对象不用远求:Claude Code本身的subagent机制就是这套共识的活样本——主线程保持连贯,子任务只读、只汇报、不抢方向盘。

第三仗:给AI内容强制办“身份证”,到底防得住谁?

两大监管几乎同时落地

这件事今年有了实质变化:欧盟AI法案第50条(透明度义务)从2026年8月2日起适用——生成式音视频、图片、文本的提供者必须让内容带机器可读的标记,深伪内容必须明示。而国内其实动手更早:网信办等部门的《人工智能生成合成内容标识办法》2025年9月1日就已生效,要求显式标识(用户看得见)加隐式标识(藏在文件元数据里)双管齐下。

技术侧的招牌是C2PA(Content provenance and authenticity的开放标准,Adobe牵头,微软、谷歌、BBC、索尼等都是成员),思路是给内容盖一条加密签名链,记录“这文件是谁、用什么设备、在哪个环节生成的”。OpenAI已经加入其指导委员会并在生成图片里嵌入元数据;谷歌则把自家的SynthID隐形水印塞进了生成的图、音、视频。

各方观点

阵营 核心观点 杀手锏论据
支持派 有标准总比裸奔强 徕卡M11-P等相机已在拍摄端内置签名,新闻业溯源有了抓手
怀疑派 纯粹的安全表演 截图、转存、平台二压,元数据说没就没
中立派 签名≠真实 溯源只证明“链路”,不证明“画面里的事发生过”

怀疑派的弹药确实足:2024年Meta就因为把一堆真实照片误标成“AI制作”,被摄影师集体围攻,最后灰溜溜改了标签文案;学术界也陆续有论文演示主流隐形水印可以被对抗手段洗掉。这是一场典型的军备竞赛——打标容易,防伪难。

支持派则强调一个被忽略的场景:溯源是双向保险。新闻机构不但要用它防假图,也要用它自证清白——“我这张战地/灾害照片是相机直出、链路完整”,在人人可以喊“这是AI图”的年代,这反而成了专业媒体的护城河。中立派补刀:真正该关心的不是“内容是不是真的”,而是“签名的是谁”——信任的锚点从内容本身转移到了签发主体。

对中国用户的启示

  1. 出海做内容、电商、工具的,今年就把合规做进产品:导出环节嵌入C2PA这类元数据成本不高,但能提前满足欧盟AI法案和国内标识办法的双重要求;
  2. 做安全/对抗方向的,水印攻防是未来两年确定性的坑位——有标准、有监管压力、有明确的技术缺口,适合当研究方向或创业切口;
  3. “原生可信内容”会成为卖点:真实拍摄加可验证签名的素材,在新闻、司法、电商场景有明确的溢价空间,这是一个还没被中文圈定价的机会。

信息差总结

你可能以为的 圈内人已经在聊的
合成数据是免费的午餐 无验证的合成数据会坍缩,真实人类语料正在升值
多Agent=强,先学编排框架 写类任务单线程是主流实践,并行只留给只读研究
水印加上就万事大吉 元数据一截图就没,溯源是签发主体的信任战争
合规是国内平台的事 欧盟AI法案第50条已适用,出海产品导出环节就得打标
中文圈教程=最新实践 多Agent编排教学大量滞后于海外一线的反思

行动指南

  1. 今晚:翻出你项目的Agent架构图,凡是“要写要改”的任务还挂着多分支编排的,砍成单线程加上下文压缩,一周内对比效果;
  2. 本周:给你的微调数据集跑一遍AI含量初筛(困惑度过滤加人工抽检长尾样本),把合成数据的比例和验证机制写成文档;
  3. 本月:出海产品过一遍欧盟AI法案第50条和国内标识办法的合规清单,生成内容的导出链路加上元数据标识;
  4. 长期:开始囤真实语料——你所在行业的人类原始对话和记录,是三场大战共同的硬通货。

参考来源

  1. Cognition博客《Don't Build Multi-Agents》:https://cognition.ai/blog/dont-build-multi-agents
  2. Anthropic工程博客《How we built our multi-agent research system》:https://www.anthropic.com/engineering
  3. Nature论文《AI models collapse when trained on recursively generated data》(2024年7月,Nature官网搜标题可查):https://www.nature.com
  4. C2PA内容溯源标准官网:https://c2pa.org
  5. 欧盟AI法案追踪站(含第50条时间线):https://artificialintelligenceact.eu

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入