首页 › trending › 安全债、假用户、AGI赌局:三场新论战

这三场架,中文圈还没人认真搬

做AI情报这行,最怕的不是信息太多,而是吵得最凶的地方恰恰没人翻译。最近一个月,海外技术社区(Hacker News、Reddit 的 r/ExperiencedDevs、r/singularity、各家博客圈)有三场论战打得火热,火药味十足,但中文技术圈几乎听不到回声:AI写出来的代码欠下的“安全债”该谁还?用AI“假人”替代真人做用户调研到底靠不靠谱?AGI到底还有几年——该信大佬的嘴还是信榜单的曲线?

这三场架没有一场是纯嘴仗,每一场背后都站着真实的工具、真实的论文、真实的钱。看完这篇,你至少能拿到三个别人没有的东西:一个安全自查动作、一套几乎零成本的调研新玩法、一个拒绝焦虑营销的判断框架。

论战一:Vibe Coding 的安全债,到底谁来还?

先补个背景:“vibe coding”这个词是前特斯拉 AI 总监 Andrej Karpathy 在 2025 年初发帖带火的——不细看代码,凭感觉接受 AI 生成的代码,能跑就行。这个词火了不到一年,社区的态度已经从“真香”分裂成了泾渭分明的两派。

正方(提效派):独立开发者和小团队在 HN 上反复强调,vibe coding 把原型周期从几周压到几天,“代码安全债可以像技术债一样排队还,但错过窗口期的产品连还债的机会都没有”。他们的论据是:各家工具正在补课,GitHub Copilot 加了代码评审,Claude Code 这类终端 Agent 也开始内置安全审查命令(以你手上的版本为准),流程化解决流程化的问题。

反方(安全派):声音更刺耳。安全媒体在 2025 年报道了一个新词——slopsquatting:大模型会一本正经地幻觉出不存在的包名,攻击者把这些假包名抢注到 PyPI、npm 上,等开发者照着 AI 给的名字 pip install,装进去的就是恶意代码。这跟传统的依赖投毒不是一个打法——过去是人投毒,现在是模型批量生产毒源。此外,据 GitGuardian 等公司的年度密钥泄露报告,公开仓库里硬编码的 API 密钥常年以百万计,而 vibe coding 时代“把密钥直接贴给AI、AI又把它写进代码”的路径让这事变得更随意。OWASP 也早就把提示注入、不安全的输出处理这类风险写进了面向 LLM 应用的十大风险清单(见 genai.owasp.org),但反方观点是:清单归清单,用 AI 生成代码的人里,认真读完清单的不到一成。

吃瓜位(中立派):最有意思的是一批资深工程师的态度——“锅不在模型,在 code review 没跟上。AI 写代码的速度快了十倍,人审代码的速度没变,出事是数学的必然。”这个“审查带宽瓶颈”的说法在 HN 上反复出现,我觉得是三派里最接近本质的。

对中国用户的启示:国内团队用 AI 写码的比例只高不低,但“生成后审查”的习惯普及率更低。这波论战里沉淀下来的实操共识其实很便宜:依赖装之前先看一眼是否真的存在(防幻觉包)、密钥一律走环境变量、每周跑一次 pip-audit 或 npm audit。三个动作,零成本,能挡掉大部分 vibe coding 的事故。

论战二:拿“假人”做用户调研,是省钱神器还是自欺欺人?

这场架的技术含量最高。事情源于一条逐渐清晰的技术路线:用大模型模拟真实用户,做市场调研和产品测试。

代表性事件是斯坦福大学 Park 等人 2024 年 11 月挂出的论文《Generative Agent Simulations of 1,000 People》:团队招募了一千多名真人做两小时深度访谈,再用访谈材料构建 AI 分身,结果这些分身在通用社会调查(GSS)题库上的答案复现精度,大约相当于同一批真人两周后重测自己答案的稳定程度(论文原话约85%的量级)。换句话说:AI 分身回答“你会怎么投票/你怎么看通胀”时,像极了本人——比传统人格问卷准得多。

工具侧,SyntheticUsers(syntheticusers.com)这类产品早早上线,输入产品描述就能生成一批“虚拟目标用户”给出反馈,小规模试用几乎不花钱。

然后社区就吵起来了:

对中国用户的启示:这是出海从业者实打实的信息差。国内做跨境电商、工具出海、内容出海的同学,完全可以把“合成用户预研 + 小样本真人校验”这套两段式流程抄走:AI 分身负责把糟主意在纸面上筛死,真人样本(5~10个就够)负责给好主意盖章。注意反方的警告——AI 全票通过的产品方向,反而要警惕。

论战三:AGI 赌局:信掌门的嘴,还是信榜单的曲线?

第三场架最古老,但最近因为一批新数据又打起来了。

乐观派的旗帜是 OpenAI 奥特曼 2024 年秋发表的《The Intelligence Age》,里面那句“我们可能在几千天内迎来超级智能”被反复引用;此后各大实验室掌门人的时间表普遍压到“几年内”。

怀疑派的弹药则是实打实的榜单。ARC Prize(arcprize.org,Françoise Chollet 发起的非营利基准,主打“模型没见过的抽象推理题”)的经历堪称戏剧:前五年,所有模型在 ARC-AGI-1 上的成绩长期趴在个位数到三成的区间,业内公认“这题就是来打脸的”;结果 2024 年 12 月 OpenAI 的 o3 一口气跳到 75% 以上(按算力档位不同有差异),乐观派欢天喜地。但怀疑派立刻祭出第二回合:2025 年 3 月上线的 ARC-AGI-2 上,主流模型成绩普遍跌回个位数百分比,此后的最好成绩也只到一成多的水平(以 arcprize.org 实时榜单为准)。Chollet 的立场多年未变:大模型擅长的是“见过的事”,泛化推理仍是短板,靠刷题量堆不出通用智能。公开唱反调的还有 NYU 教授 Gary Marcus 等一批老牌批评者。

中间派在干嘛?在下注。预测市场 Metaculus(metaculus.com)上长期挂着“通用AI何时到来”的社区预测题,中位数时间这几年被反复修正、整体前移——人群的集体判断在动,但没有哪次像掌门口号那么激进。

这场架跟国内读者有什么关系?关系比你想的大。国内知识付费市场已经出现大量“AGI倒计时、最后窗口期”式的营销话术,而海外这场论战最大的产出,恰恰是一套反焦虑的判断框架:

  1. 别拿掌门的公开发言做技术选型依据——他们有融资需求,说辞天然乐观;
  2. 盯客观榜单的趋势斜率而不是单点分数——单点可以营销,斜率很难造假;
  3. 预测市场的群体中位数比任何一个人的铁口直断都值得参考。

一句话:能力曲线是唯一不撒嘴的东西。

一张图看懂三场论战的站位

flowchart TD
    subgraph L1["论战一:Vibe Coding安全债"]
        A1["正方:提效红利别丢"] --> M1["交锋点:漏洞责任在谁"]
        B1["反方:漏洞潮是真的"] --> M1
        M1 --> E1["共识:安全审查前置"]
    end
    subgraph L2["论战二:合成用户调研"]
        A2["正方:预研省时省钱"] --> M2["交锋点:平均人陷阱"]
        B2["反方:边缘声音被抹掉"] --> M2
        M2 --> E2["共识:只当定性预判"]
    end
    subgraph L3["论战三:AGI时间表"]
        A3["乐观派:几年内兑现"] --> M3["交锋点:榜单算不算证据"]
        B3["怀疑派:泛化仍是短板"] --> M3
        M3 --> E3["共识:盯曲线别盯口号"]
    end

注意三个共识的共性:吵到最后,两派都退到了“流程”和“证据”上。这也是海外社区论战和国内口水战的本质区别——吵完通常能沉淀出可执行的东西。

信息差总结:你以为的 vs 圈内人正在吵的

你以为的 圈内人正在吵的
AI写代码=无脑提效,能跑就抄 幻觉包名已被抢注成 slopsquatting 产业链,审查带宽跟不上生成速度才是真瓶颈
用户调研=烧钱找真人发问卷 千人AI分身论文已证明可行性,但只能当“定性预演”,全票通过反而要警惕
AGI倒计时=再不上车就晚了 真正下注的人盯 ARC-AGI 榜单斜率和预测市场中位数,没人拿口号做决策

行动指南:本周就能做的三件事

  1. 今天(10分钟):对自己的项目跑一次 pip-audit(Python)或 npm audit(Node),重点检查依赖列表里“看着眼生”的包是否真的存在于官方源——这是防 slopsquatting 最笨也最有效的办法。用 Claude Code 的同学,可以试试它内置的安全审查类命令(以你的版本为准)。
  2. 本周(半天):如果你做出海产品,去 syntheticusers.com 小规模试一轮合成用户预调研,让 AI 分身把你的落地页和定价页“骂”一遍,再用 5~10 个真人目标用户做校验。全程成本接近于零,但能把问卷设计里的硬伤提前筛掉。
  3. 长期(每周5分钟):把 arcprize.org 的榜单曲线和 metaculus.com 的预测中位数加进每周浏览清单。以后再看到“AGI只剩X年”的卖课推文,先问一句:他敢不敢晒自己的榜单数据和仓位?

三场架,三个共识,其实指向同一句话:在AI时代,护住你的不是站队,而是流程、样本和曲线。

参考来源

  1. Hacker News(news.ycombinator.com)— 用 "vibe coding security"、"synthetic users" 关键词可检索到近月高分讨论楼
  2. OWASP 生成式AI安全项目(https://genai.owasp.org/)— LLM 应用十大风险官方清单
  3. ARC Prize 官网(https://arcprize.org/)— ARC-AGI 榜单、历史成绩与技术博客
  4. SyntheticUsers(https://syntheticusers.com/)— 合成用户调研工具,支持小规模试用
  5. OpenAI《The Intelligence Age》(https://openai.com/index/the-intelligence-age/)— 乐观派时间表的原始出处

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入