首页 › trending › 数据保留风暴与Agent安全噩梦

数据保留风暴、Agent安全噩梦与扩散模型暗涌:HN三场正在撕裂AI信任的辩论

导语:2026年6月10日,Hacker News被三场完全不同的AI讨论引爆——Anthropic要求保留你的API数据30天、€0.01的银行转账就能黑掉AI金融助手、Google悄悄发布了比传统LLM快4倍的扩散文本模型。这三个看似无关的事件,拼出了一幅AI行业信任危机与技术范式转移的完整拼图。中国开发者在用Claude API写代码的时候,可能完全不知道自己的数据正在被「安全审查」。


一、2521赞的炸弹:Claude Fable 5背后的数据保留暗门

事件全貌

6月10日,Anthropic同时发布了两个模型:Claude Fable 5(公开发布)和Claude Mythos 5(受限访问)。HN帖子在几小时内冲上2521赞、2018条评论——这是2026年上半年HN热度最高的AI帖子之一。

两个模型共享同一套权重,区别在于安全过滤级别:

指标 Mythos 5 Fable 5
SWE-bench Verified 95.5% 95.0%
SWE-bench Pro 80.3% 80.0%
Terminal-bench 2.1 88.0% 84.3%
RiemannBench 55.0% 未公开
GPQA Diamond 94.1% 未公开
定价 $10/$50 per M tokens $10/$50 per M tokens

评论区用户217总结:「Mythos拥有完整能力,但只有「超授权公司」才能访问。Fable是安全阉割版,面向大众。」

真正引爆讨论的不是模型,是数据政策

HN用户sigmar发现了一个致命细节:system card长达319页。但更关键的是Anthropic同步更新的数据保留政策——

对于Fable 5、Mythos 5及未来同级别模型,Anthropic将要求30天数据保留,无论你通过API、Bedrock还是Copilot使用。数据号称「不用于训练」,但用于「检测滥用模式」。

这条政策直接引爆了第二个热门帖子(351赞、209评论):「AWS Bedrock现在要求与Anthropic共享数据」。

HN社区的三派观点

mindmap
  root((Anthropic数据保留争议))
    愤怒派
      "承诺的数据边界被打破"
      "Bedrock的卖点是数据不出AWS"
      "30天+合法要求=永久保留"
      "EU合规直接崩溃"
    理解派
      "安全审查确实需要数据"
      "这是前沿模型不可避免的代价"
      "不用可以关闭,但关闭就没模型用"
      "OpenAI迟早也会跟进"
    阴谋派
      "这是训练数据的后门"
      "NSA/CIA随时可以合法调取"
      "opt-in迟早变成ToS的一部分"
      "聚合器增加供应链风险"

最刺痛人心的评论来自chattermate:

Bedrock向合规客户推销的核心卖点是「你的数据永远不会离开AWS边界」。30天保留要求让这一承诺静默失效。对于医疗、金融和政府客户,这不是一个可以拨动的开关,无论模型有多好。

shevy-java则一针见血:「30天后数据自动删除——你信吗?条款还说『或法律要求保留』。所以,数据是永久的。」

用户rozumbrada的担忧代表了很多人的恐惧:「他们说这是opt-in,但我等着看它什么时候被悄悄塞进新模型访问的ToS里。」

对中国开发者的启示

  1. 如果你通过AWS Bedrock用Claude:你的数据会流向Anthropic,30天保留。国内企业合规团队需要重新评估。
  2. GitHub Copilot用户也受影响:GitHub博客6月9日同步发布了Fable 5可用公告,同样附带数据保留条款。
  3. 价格信号:$10/$50的定价与Opus 4.8持平,说明Anthropic认为这代模型是「同级升级」而非提价。但免费期只到6月22日——这暗示算力严重紧张。

二、€0.01转账黑掉银行AI Agent:Prompt Injection的新战场

事件还原

安全公司Blue41发布了一篇博客:「€0.01银行转账就能攻破银行AI助手」(79赞、60评论)。

攻击路径极其优雅:

flowchart TD
    A[攻击者向受害者转账€0.01] --> B[转账备注写入隐藏Prompt]
    B --> C[受害者打开银行App]
    C --> D[询问AI助手「最近有什么交易?」]
    D --> E[AI读取转账备注]
    E --> F[AI将备注内容解读为指令]
    F --> G[AI生成钓鱼链接或执行恶意操作]
    G --> H[受害者点击AI「推荐」的链接]

    style B fill:#ff6b6b,color:#fff
    style F fill:#ff6b6b,color:#fff
    style G fill:#ff6b6b,color:#fff

核心漏洞:LLM无法区分「数据」和「指令」。当银行转账备注被注入恶意Prompt时,AI助手会把它当作自己的操作指令执行。

HN社区反应:从恐惧到嘲讽

reddalo的评论获得了大量共鸣:

做得好啊AI,我们好不容易把SQL注入几乎消灭干净了,你又让它们回来了!

nticompass提出了最直白的解决方案:

没有任何单一控制手段能解决间接Prompt注入。 其实有。那就是移除AI Agent。完事。

EnglishRobin96抓住了问题的本质:

「它看起来像普通文本,但当被放入LLM上下文窗口时,模型可能将其解释为指令而非数据。」——我觉得只要这是事实,我们就永远不会有安全的LLM。每次有人谈论在产品中添加AI功能时,我都能听到警钟在响。

doctorpangloss则暗示自己正在利用这个漏洞赚钱:

这个问题的解决方案从第一性原理出发如此简单、如此容易推理,我很震惊自己能继续通过给金融客户部署Agent赚钱。

为什么中国开发者应该关注

  1. 间接Prompt Injection是2026年最严重的安全漏洞类别。它不攻击代码,攻击的是LLM的认知边界。
  2. 国内银行和金融科技公司正在疯狂集成AI Agent。支付宝、招商银行等都在做AI助手,转账备注攻击同样适用。
  3. 「数据即指令」是LLM的根本架构缺陷,短期内无法修复。任何在金融、医疗、法律场景部署AI Agent的团队,必须假设Prompt Injection一定存在。

三、DiffusionGemma:被忽视的范式革命

Google的「静默发布」

在Fable 5和数据隐私的风暴中,一条107赞的消息被很多人忽略了:Google发布了DiffusionGemma,文本生成速度提升4倍。

这不是传统LLM。传统LLM(GPT、Claude等)使用自回归解码——一个token一个token地生成。DiffusionGemma使用扩散模型——像Stable Diffusion生成图片一样,从噪声中「去噪」出文本。

HN评论区的关键洞察

minimaxir(知名ML博主)点出了背景:

几天前我还在想,Google在I/O大会上演示了扩散文本生成模型后就再也没提过。传闻是太贵了跑不起来。但从他们提供的图表看,在相同H100硬件上对比,应该不是这个问题。

vineyardmike分享了实际使用体验:

我最近试了Mercury(另一个扩散模型)。不是因为它「聪明」,而是因为它快得离谱。更像结对编程的体验,而不是「提示然后等待」。说实话,也更有趣,带回了一些AI前的编程乐趣。

samuelknight指出了关键应用场景:

扩散模型的优势在边缘设备上。LLM解码器逐token计算,因为attention需要考虑每个前序token。扩散模型没有这个限制。在手机或电脑GPU上,这是颠覆性的。

schmorptron提出了最有趣的问题:

扩散推理模型会是什么样?一个预定义长度的thinking block,经过长时间扩散,然后输出block使用thinking block的内容作为输入?

为什么这很重要

graph LR
    subgraph 自回归LLM
        A1[Token 1] --> A2[Token 2] --> A3[Token 3] --> A4[...Token N]
        A1 -.- A2 -.- A3 -.- A4
    end

    subgraph 扩散LLM
        B1[噪声] --> B2[去噪Round 1] --> B3[去噪Round 2] --> B4[完整文本]
    end

    style A1 fill:#4a9eff,color:#fff
    style A2 fill:#4a9eff,color:#fff
    style A3 fill:#4a9eff,color:#fff
    style A4 fill:#4a9eff,color:#fff
    style B1 fill:#ff9f43,color:#fff
    style B2 fill:#ff9f43,color:#fff
    style B3 fill:#ff9f43,color:#fff
    style B4 fill:#ff9f43,color:#fff
维度 自回归LLM 扩散LLM
生成方式 逐token串行 并行去噪
延迟 O(n),n为输出长度 O(k),k为去噪轮数(固定)
长文本优势 短文本快,长文本慢 长短文本速度一致
边缘设备 受限于串行解码 天然适合并行计算
质量 成熟、可靠 仍在追赶
代表模型 GPT-4/Claude/DeepSeek DiffusionGemma/Mercury

关键信息差:国内几乎没有人关注扩散文本模型。但它可能是解决LLM推理成本和延迟问题的真正出路——特别是在端侧部署场景。


四、被忽略的信号:Agent框架疲劳与SWE工作的「表演性」

Apache Burr与「框架疲劳」

Apache Burr(91赞、59评论)是一个Apache孵化器中的AI Agent框架。但评论区的焦点不是Burr本身,而是整个Agent框架赛道的疲劳感。

drchaim直接说:

我刚给客户做了个Django AI聊天机器人MVP。我选择了不用任何框架。Claude/Codex帮我写了Agent Loop、工具调用、流式传输……MVP运行得很好。

brotchie的总结最有深度:

Agent框架有它的位置,取决于Agent的性质:「3秒内返回一个够好的响应」vs「花3小时解决一个问题」。但归根到底,Agent就是:构建上下文 → LLM调用 → 执行工具 → 解析输出 → 返回。

vanuatu吐槽最狠:「vibe coded landing page + reddit user testimonial + framework for state machines... why man...」

「大多数SWE工作是表演性的吗?」

另一个AI相关的热门帖子(117赞、127评论)问了这个问题。答案几乎是一致的「是」。

prepend分享了一个真实故事:

我在50人项目中工作时,感觉很多人什么都没做,少数人在做负功。经历了一轮裁员,我不得不「完成」另一个程序员的Java App。他把HTML直接复制粘贴到JSP里,里面全是示例数据和消息。

phyzix5761引用了Price定律:团队中√N的人贡献了50%的成果。50人团队,约7人干了50%的活。

在AI加速开发的2026年,这个讨论变得更有意思:如果大部分SWE工作本来就是「表演性的」,AI是在暴露这个事实,还是在创造新的表演性工作?


信息差总结

你知道的 你不知道的(信息差)
Claude发了新模型Fable 5 Anthropic现在强制保留你的API数据30天,且「法律要求」时永久保留
Bedrock是企业级部署的安全选择 Bedrock的数据边界承诺已被打破,合规客户需要重新评估
Prompt Injection是理论风险 €0.01转账就能实战攻破银行AI助手,金融行业无一幸免
LLM就是GPT/Claude那种 扩散文本模型(DiffusionGemma)快4倍,长文本延迟恒定,端侧部署的真正出路
Agent框架百花齐放 HN顶级开发者正在回归「无框架」——用Claude直接写Agent Loop
AI让开发更高效 HN社区正在讨论大部分SWE工作本来就是「表演性的」,AI只是加速了暴露

行动指南

  1. 立即检查你的API调用方:如果你通过AWS Bedrock或GitHub Copilot使用Claude Fable 5,确认你的合规团队知道30天数据保留政策。
  2. 审计你的AI Agent安全:如果你的产品涉及AI Agent + 外部数据(银行、客服、文档),做一次间接Prompt Injection渗透测试。
  3. 试玩DiffusionGemma:Google已开源权重,在HuggingFace可下载。体验4倍速度差异,评估是否适合你的端侧部署场景。
  4. 评估「无框架」Agent开发:在选型Agent框架之前,先用Claude/Codex写一个裸Agent Loop——HN社区的经验表明MVP阶段不需要框架。

参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入