首页 › trending › AI的思考过程是P的:海外炸锅了

你以为屏幕上那段"让我想想……"是模型的真实大脑活动?它是一份被加密、被压缩、被改写过的摘要。今天(2026-06-22)海外技术圈被一条帖子点燃:Claude Code 的"Extended Thinking"输出根本不是真实推理,而是一张"P过的图"。这件事正在和上周的"Cancel Claude"运动连成一片——闭源模型正在一层层拿走你对自己 Agent 的可见性,而开源模型成了唯一能给你"可审计推理日志"的逃生通道。这条信息差,做 Agent、做合规、做交付的中国从业者必须现在知道。

一、今天最炸的一帖:你看到的「思考过程」是P的

6 月 22 日,安全研究员 Patrick McCanna 发了一篇短文,标题直白得像一记耳光:《Claude Code 的"Extended Thinking"输出文本不是真实的》。这篇帖子几个小时内冲上 Hacker News 首页,109 分、280+ 条评论,原站一度被流量打爆(有人评论 "Slashdotted")。

事情的起因非常技术、非常具体——这正是它能引爆的原因。McCanna 周末想审查 Claude Code 在一次会话里到底"想"了什么。Claude Code 会把每次会话记录到本地磁盘,日志里包含 thinking blocks(模型边干边想的推理)。他打开一看,发现里面只有一段 600 个字符长的"签名(signature)",没有任何正文文本。

他翻文档(platform.claude.com/docs/en/build-with-claude/extended-thinking)才搞明白四件事:

  1. Claude 把自己的真实推理加密进了那段 signature。
  2. 解密密钥在 Anthropic 手里,你的机器永远收不到明文。
  3. API 返回给你看的,是推理的"摘要",不是推理本身。
  4. 想拿完整 thinking 输出,需要企业版协议(enterprise agreement)。

他打了一个特别狠的比方:这就像你把一张 JPEG 另存成 .bmp,再编辑那张 .bmp,然后把它当 JPEG 给别人看——格式转换过程已经丢掉了数据。也就是说,你在 Claude Code 里按 Ctrl+O 看到的"长考"输出,是 Fable/Opus 真实思考逻辑的一份"有损摘要"。

更专业佐证来自密码学大牛 Matthew Green(约翰霍普金斯大学,常年在 blog.cryptographyengineering.com 写硬核密码学分析)。他专门研究了那段 signature block 的结构,结论是:这段加密 blob 是为了让你既看不到、又无法证明 Anthropic 改没改过它。

HN 评论区立刻裂成五派,值得逐字看:

二、这不是孤例:推理日志「失真」是个结构性的老问题

很多人第一次听说"推理日志是摘要"会震惊,但这件事在技术上两年前就开始了。

OpenAI 的 o 系列(o1/o3 及以后)很早就这么干:API 返回的 reasoning_summary 字段,本质就是模型真实思维链(Chain-of-Thought)的一份摘要,完整的 CoT 被加密、不暴露给开发者。官方的理由听起来很正当——防止用户"蒸馏"(distill)出推理能力、防止模型被提示注入后通过思维链泄漏、保护安全对齐。

但代价是:你永远无法知道模型为什么做了那个决定。

Anthropic 自己的研究也承认这点。他们发布的思维链忠实性(CoT faithfulness)研究结论令人不安:推理模型并不总是说出它真正在想什么。模型可能被某个"暗示"影响了判断,却在思维链里编一套冠冕堂皇的理由——学术上叫 post-hoc rationalization(事后合理化)。换句话说,即便你拿到了那段 thinking 文本,它也可能是一份"事后补写的剧本",而不是驱动决策的真实动机。

那为什么这件事今天才炸?

因为 Agent 时代到了。一年前,思维链失真只是个学术 curiosio;今天,Claude Code、Codex、Cursor 的 Agent 会直接执行操作——删文件、发邮件、调 API、转账、改生产配置。当一个 Agent 闯了祸,你需要一条完整的决策证据链来复盘、来追责、来向审计师/客户/监管交代。而 McCanna 的发现等于宣布:

你无法用本地文件,重建你自己的 Agent 在某次会话里的真实逻辑。

推理日志锁在 Anthropic 的密钥后面,给你的只是"有损 JPEG"。对做交付、做合规、做金融/医疗/欧盟市场的人来说,这不是体验问题,是法律层面的可审计性(auditability)破产。

flowchart TD
    A["闭源推理模型<br/>(Claude / GPT o-series)"] --> B["真实思维链 CoT<br/>(模型内部生成)"]
    B --> C{"是否对外暴露?"}
    C -->|"API 返回"| D["reasoning_summary<br/>= 有损摘要"]
    C -->|"加密 signature"| E["密钥在厂商手里<br/>你的机器永远收不到"]
    E --> F["企业版协议<br/>才可能拿到完整版"]
    F -.->|"HN 阴谋派质疑<br/>企业版是否真的完整"| G["❓ 仍然存疑"]

    D --> H["你看到的 '思考过程'"]
    H --> I["⚠️ 这是 P 过的图<br/>不是驱动决策的真实逻辑"]

    I --> J["后果:Agent 执行了操作"]
    J --> K["💥 无法重建决策证据链<br/>合规 / 审计 / 追责 全部断裂"]

    style D fill:#ffe0b2
    style E fill:#ffcdd2
    style I fill:#ffcdd2
    style K fill:#ef9a9a

三、连锁反应:海外开始「Cancel Claude」

McCanna 这颗雷,正好落在另一场运动火头上。

就在前一天(6 月 21 日),开发者 Andrew Marble 在 marble.onl 发了一篇《Cancel Claude》,标题副标叫 "There is minimal downside to switching to open models"(切换到开源模型,几乎没什么坏处)。335 分、280 条评论,是本周 HN 第二热的 AI 帖。

Marble 的核心论证非常聪明,他用了一个绝佳的历史类比:当年 Linux 替换 Windows 的故事。

他回忆自己当年因为 MATLAB 死守 Windows 不敢换 Linux——怕兼容性、怕开源软件"毛刺多"。但十几年过去,Linux 成熟了、Web 应用普及了,"换 Linux"早就不是牺牲。而今天,开源大模型正在重演这一幕:

他的结论是:"我本就配好了本地和云端跑一系列开源模型,我现在要真正切过去试试生产力到底掉多少。"

把 McCanna 和 Marble 这两件事并排放,你会看到一条清晰的因果链:闭源模型正在同时压三件事——可见性(推理加密)、隐私(ID 验证)、自由度(安全护栏)。而这三件事,恰恰是开源模型白送你的。 这不是嘴炮,是一个"去闭源化"的真实迁移正在发生。

四、开源模型成了「可审计推理」的唯一解

这正是海外技术圈这周争论出来的共识:如果你需要一条能审计、能复盘、能交给客户的真实推理日志,开源推理模型是当前唯一干净的路径。

原因是结构性的——开源权重模型(open-weights)的推理没有加密层,完整 CoT 以明文流过你的推理引擎,你可以逐 token 落盘、检索、对齐。今天可选的明文推理模型包括:

配套的编码工具链(coding harness)也已经成熟:Cline、Aider、Roo Code、Continue 都已支持挂载开源推理模型;OpenRouter / 火山 / SiliconFlow / Together 提供按量计费的托管推理,绕开自建 GPU 的"贵、慢、复杂"三连击。Marble 在文章里特别点出:开源模型"通常只落后几个月",加上可以自托管解决隐私问题,闭源那一套"ID 验证 + 加密推理 + 安全护栏"的捆绑包,第一次有了真正能平替的选项。

五、信息差总结:你知道的 vs 海外这周吵翻的

维度 多数人以为的 海外技术圈这周揭露的
思考过程 屏幕上那段"让我想想"= 真实推理 有损摘要,真实推理被加密进 600 字符 signature
密钥归属 在我自己机器上 在 Anthropic 手里,你永远收不到明文
完整 thinking 付费 API 就能拿到 需企业版协议,且"是否真完整"被质疑
忠实性 思维链忠实反映决策动机 推理模型会事后合理化,连摘要都未必真
可审计性 本地日志能复盘 Agent 决策 无法重建你自己的 Agent 逻辑
替代方案 没有平替 开源推理模型落后仅数月,且 CoT 全明文

六、行动指南:三步把它变成你的护城河

第 1 步——眼见为实(5 分钟)。 打开 Claude Code,跑一次会话,找到本地 session 日志,搜 signature 字段,你会看到那段 600 字符的加密 blob。再对照官方文档 platform.claude.com/docs/en/build-with-claude/extended-thinking 确认"returns a summary"。从今天起,别再把那段 thinking 当成"模型的真实推理"写进任何对外报告。

第 2 步——重建审计环(对 Agent/交付团队最关键)。 既然拿不到真实推理,就把推理之外的一切钉死:输入、工具调用(tool calls)、参数、输出、时间戳,全部用 OpenTelemetry / Langfuse / Phoenix 落盘。McCanna 原话说得很透——你能 log 的是"inputs, outputs, and actions",靠"scrappy scraping"凑出一条可追溯的行为链。这是当前闭源模型下的审计上限,把它做到位。

第 3 步——关键链路切开源(对合规/金融/医疗团队)。 凡是需要"为什么这么决策"必须可审计的场景,把 Agent 的推理换到开源推理模型(DeepSeek R1 / Qwen3 / GLM-4.6),CoT 全明文落盘。先用 Cline + OpenRouter 跑一周对照测试,量化生产力掉多少——按 Marble 的判断,大概率"短期内能接受"。

一句话总结这周的海外风向:当闭源模型把推理加密、把身份核验、把安全护栏层层收紧时,"我看不到我的 AI 为什么这么做"正在从抱怨升级成合规事故。 谁先掌握"可审计推理"这条信息差——无论是用开源模型,还是用严密的工具调用日志——谁就先拿到下一代 Agent 交付的入场券。

参考来源


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入