你可能已经在用 Claude Code、Cursor 或者 Codex 天天写码了，代码越写越快，心里越来越爽。但海外安全圈这两年一直在悄悄攒一份“账本”：哪些用 AI 写出来的应用翻车了、怎么翻的、翻完之后社区吵成了什么样。这篇文章把这份账本摊开给你看：4 个有据可查的翻车案例、海外吵出来的三大阵营、以及一条正在起飞的“AI 代码安检”新赛道。看完你会拿到一张别人还没整理过的翻车模式清单——以后自己 vibe coding 的时候，知道哪几扇门必须亲手锁上。
"Vibe coding"这个词是 Andrej Karpathy 2025 年 2 月造出来的，本意是“跟着感觉走、全程信任 AI、不看 diff”。它火的速度比任何开发范式都快，翻车的速度也不遑多让。把公开报道过的案例排一排，你会发现事故的“姿势”高度雷同。
第一起：Tea 应用泄露（2025 年 7 月）。 据美国科技媒体 404 Media 和 TechCrunch 报道，这款面向女性交友安全信息的 App，先是被曝出约 7.2 万张图片（含约 1.3 万张自拍和证件照）被打包挂到了匿名论坛上；几天后又被发现约 110 万条用户私信可以公开访问。安全问题指向 Firebase 配置不当——那正是“能跑就行、默认配置全收”的典型产物。
第二起：SaaStr 大会 MCP 事件（2025 年 8-9 月）。 这起更有名。安全公司 Zenity Labs 复盘发现，SaaStr 社区一个聚合 MCP 服务器把 50 多万条社区记录和约 3000 个 OAuth 令牌暴露在公网。最扎眼的是，项目负责人事后公开承认这个 MCP 是自己“vibe coded”出来的——用 AI 拼的，没做安全设计就接上了生产数据。
第三起：Lovable 生态批量中招（2025 年 7 月）。 安全公司 Vivo Security 抽测了 1645 个用 Lovable 生成的应用，其中 140 个存在可被利用的存储型 XSS——比例约 8.5%。这说明问题不是个案，而是模式级缺陷：AI 习惯把 Supabase 客户端密钥直接吐进前端代码。
第四起：Horizon3.ai 的渗透演示（2025 年 3 月）。 这家攻击模拟公司拿一个 vibe coding 生成的网站当靶子做公开演示：.env 文件直接可读、API 密钥硬编码在前端、最后拿到服务器命令执行权限。整场演示传递的信息只有一句：AI 帮你写完了功能，也帮你把门焊死了。
下面这张图，是这四起事故的共同剧本：
flowchart TD
A["让AI写个应用"] --> B["本地一次跑通"]
B --> C["当晚直接上线"]
C --> D["密钥硬编码进前端"]
C --> E["数据库权限全开"]
C --> F["配置文件打进部署包"]
D --> G["扫描脚本批量巡检"]
E --> G
F --> G
G --> H["数据被打包挂上论坛"]
H --> I["安全研究员发帖复盘"]
I --> J["社区吵成几大阵营"]
J --> K["创始人出面道歉"]
J --> L["安全公司跟进出报告"]
K --> M["连夜换密钥补权限"]
L --> M
注意图中从 D/E/F 到 G 的汇聚：攻击者不需要多高明，自动化扫描脚本每天都在公网上批量巡检这类默认配置。你手机里的密钥，可能只是别人爬虫的一个 hit。
每次事故复盘帖下面，讨论都会分裂成三个方向。这个分裂本身比事故更值得看，因为它决定了未来两年行业往哪走。
阵营一：悲观派——“AI 代码就是不负责任的代码”。 代表人物是安全研究者 Simon Willison，他在 2025 年 6 月那篇被反复引用的文章里提出 AI Agent 的“致命三要素”：能接触私有数据、会读取不可信内容、还能对外通信——三者凑齐就是事故配方。悲观派的论据还有数据：安全公司 Veracode 的 GenAI Code Security Report 显示，约 45% 的 AI 生成代码样本过不了安全测试，Java 里的 XSS 尤其重灾区。按他们的说法，AI 不是在帮你写码，是在批量生产带洞的代码。
阵营二：实用派——“锅在人不在 AI”。 这是 HN 上点赞最多的立场：同样的开发者不用 AI 也会写出不安全的代码，Tea 的问题是不懂 Firebase 的默认权限，不是模型的错。Karpathy 本人早就说过，vibe coding 适合周末玩具项目，上生产就得改规矩。这一派的观点很朴素：工具降低了写码门槛，也同步降低了“犯业余错误”的门槛，救人的办法是补安全课，不是骂模型。
阵营三：卖铲派——“吵架的地方就是生意”。 一批“AI 代码安检”公司趁势起飞：Corgea、ZeroPath、DryRun Security 等专攻 AI 生成代码审计的新玩家陆续拿到关注（据各自官网与社区评测），老牌厂商 Semgrep、Snyk、Socket、Endor Labs 也纷纷把 AI 代码审查塞进产品线。他们的商业逻辑一句话讲完：既然写码的人翻十倍，安检的需求就翻十倍。
还有一个常被忽略的数据点可以送给怀疑论者：METR 2025 年 7 月的随机对照实验发现，资深开源开发者用 AI 工具后实际慢了约 19%，但他们自我感觉快了不止两成。“提速幻觉”叠加“安全盲区”，才是 vibe coding 事故的完整成因——不光坑，还让人自信地坑。
启示一：翻车模式是可以背下来的。 上面四起事故没有一起是高深攻击，全部是“默认配置 + 密钥暴露 + 权限全开”三件套。中国开发者用 Supabase、Firebase、各种 Serverless 的比例极高，这些坑一个都绕不开。
启示二：安检赛道在海外已经跑通，国内几乎空白。 海外卖铲派的服务对象是“用 AI 写码的中小企业”，这个画像在国内同样海量。AI 生成代码审计、Agent 上线前安检、MCP 接入巡检——这些细分方向中文圈连像样的文章都很少，先写教程、先做工具的人都吃到了流量红利。
启示三：把“上线前仪式”固化下来。 海外社区吵完之后的共识其实很收敛：AI 可以写码，但合并权限、密钥管理、上线扫描这三件事必须人来闭环。
| 维度 | 大多数人知道的 | 别人已经知道的 |
|---|---|---|
| AI 写码 | 快、爽、提升效率 | 约 45% 样本过不了安全测试（Veracode） |
| 翻车原因 | 模型能力不行 | 默认配置+密钥暴露，四起事故剧本相同 |
| 提速感受 | 用了确实快了 | METR 实测资深开发者慢 19%，存在提速幻觉 |
| 防护手段 | 交给公司安全部门 | 密钥扫描、权限审查可个人免费配置 |
| 机会 | 卷模型、卷应用 | “AI 代码安检”赛道海外起飞、中文圈空白 |
每一次开发范式跃迁，安全都是最后才被补上的那块板。PC 时代如此，云计算如此，AI 写码也不会例外。有意思的是海外社区的处理方式：事故不稀奇，稀奇的是事故会被安全公司逐帧复盘、被 HN 投票顶到首页、被做成一整套新的产品品类——翻车本身被产业化了。对个人开发者来说，真正该记住的不是“AI 写码危险”这种结论，而是那个朴素的分工：模型负责生产速度，你负责生产确定性。速度可以外包，确定性永远是你的活。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。