导语: 今年8月2日,欧盟AI法案第四章正式适用,AI生成内容从此必须带「机器可读标识」,deepfake不声明就是违法。同一时间,海外社区关于「水印到底是不是皇帝的新衣」的争论又吵上了热榜。而国内《人工智能生成合成内容标识办法》去年9月就已施行。也就是说:做跨境内容的人,现在同时活在两套「亮身份」法规之下,而中文圈几乎没人把这两件事放在一起讲清楚。这篇文章帮你补上这块拼图。
先说结论:欧盟AI法案(EU AI Act,法规编号 Regulation (EU) 2024/1689)第四章「透明度义务」,据其第113条规定于2026年8月2日起适用。我在EU AI Act Explorer上核对了第50条原文,核心要求就三条:
豁免条款也写得很细:辅助性的常规编辑(比如自动抠图、调色这类「不实质性改变输入」的功能)不在管制范围内。罚则方面,据法案第99条,违反透明度义务这一档最高可处1500万欧元或全球年营业额3%的罚款。
一个重要澄清:很多人以为欧盟法规只管欧洲公司。错。第50条的义务主体是「向欧盟提供服务」的提供者(provider)和部署者(deployer)——你人在深圳,内容流向欧盟用户,就在射程之内。
flowchart TD
A["相机或AI工具<br/>生成内容并签名"] --> B["剪辑软件<br/>追加编辑记录"]
B --> C["导出成品<br/>凭证嵌入元数据"]
C --> D["发布平台<br/>校验凭证链"]
D -->|链路完整| E["展示内容凭证标签"]
D -->|链路缺失| F["要求人工声明<br/>或标为来源不明"]
E --> G["观众点击核验<br/>查看拍摄与编辑史"]
A -->|截图或翻拍| H["签名断链<br/>凭证归零"]
H --> F
政策落地的同一个月,海外社区的老争论又翻热了。我把各方观点整理成三派,基本能覆盖Reddit r/artificial、HN和X上的主流声音:
| 阵营 | 核心论点 | 代表说法 |
|---|---|---|
| 反对派 | 任何水印都会被截图、录屏、压缩「洗掉」;开源模型根本不受约束;打标只会惩罚守规矩的商业厂商 | 「这是给老实人戴镣铐,骗子根本不戴」 |
| 基建派 | C2PA不是水印,是签名链元数据,逻辑类似食品溯源和TLS证书链;单点可破,但链路+法律威慑的组合拳能大幅抬高造假成本 | 「别指望技术单打独斗,要的是取证抓手」 |
| 中间派 | 水印防不了坏人,但能给平台审核、司法鉴定、新闻机构核验提供「第一道筛子」;真正的执行靠平台下架和法律追责 | 「技术做不到100%,做到『可追责』就够了」 |
我的判断:反对派说的技术事实没错——纯像素水印(比如隐写在图像噪点里的那种)确实脆弱;但C2PA走的路线不同,它把签名信息存在文件元数据里,记录「谁在什么时间用什么设备/模型生成了它、经过了哪些编辑」。这更像给内容配了一张可以一路追加签名的「体检报告」。文件被截图翻拍,报告确实会丢——所以它是合规基础设施,不是防伪银弹。把这两个概念混着吵,是这场论战里最大的噪音。
技术层面真正的看点是C2PA(Coalition for Content Provenance and Authenticity)阵营的扩张。我核对了c2pa.org官网:C2PA如今是Linux Foundation旗下的开放标准项目,其指导委员会成员名单包括:Adobe、Amazon、BBC、Google、Meta、Microsoft、OpenAI、Publicis、Sony、TikTok、Truepic——内容生产端(OpenAI)、硬件端(Sony)、平台端(Google/Meta/TikTok)、媒体端(BBC)、广告巨头(Publicis)全齐了。
这个「营养标签」式的标准叫Content Credentials,配套生态已经铺开:
注意一个对中国出海者致命的细节:你的剪辑软件和传输链路可能正在悄悄剥掉这些元数据。微信传一次图、某些剪辑工具二次导出,凭证链就断了——断了链的内容在平台眼里就是「来源不明」,可能被误判为AI内容而限流或打上你并不想要的标签。
别忘了,国内《人工智能生成合成内容标识办法》由中国网信办等部门于2025年3月发布,2025年9月1日已施行(配套还有强制性国标《网络安全技术 人工智能生成合成内容标识方法》),要求显式标识(画面/文案可见的提示)加隐式标识(文件元数据)双管齐下。也就是说,同一份AI生成内容,你可能同时受两套法规约束。对照如下:
| 维度 | 中国《标识办法》 | 欧盟AI法案第50条 |
|---|---|---|
| 生效时间 | 2025年9月1日 | 2026年8月2日起适用 |
| 管什么 | AI生成合成内容的显式+隐式标识 | 合成内容机器可读标记、deepfake披露、AI新闻文本披露 |
| 谁来执行 | 平台核验+监管部门 | 成员国主管机构,罚则最高1500万欧或全球营业额3% |
| 技术抓手 | 配套强制国标定义标识方法 | 鼓励行业Code of Practice,C2PA是事实标准 |
| 对出海者 | 内容出口前先满足国内标识义务 | 面向欧盟分发时核对第50条清单 |
flowchart TD
S["内容生产"] --> T{"是否AI生成或深度合成"}
T -->|是| U["显式标识<br/>画面或文案注明"]
U --> V["保留隐式元数据<br/>C2PA或同类"]
T -->|否| W["保留原始文件<br/>与设备元数据"]
V --> X{"发布到哪个市场"}
W --> X
X -->|欧盟| Y["核对第50条<br/>机器可读标识"]
X -->|国内| Z["核对标识办法<br/>显式加隐式"]
X -->|美国平台| M["按平台规则<br/>主动打标防误判"]
| 你以为的 | 实际情况 |
|---|---|
| 水印=防伪万能药,或者干脆没用 | 隐式水印确实脆弱,但C2PA走的是签名链元数据路线,两者不是一回事 |
| 欧盟新规只管欧洲公司 | 义务落在「向欧盟提供服务」上,跨境内容团队直接在射程内 |
| 国内还没有AI内容法规 | 标识办法2025年9月已施行一年,出海是双合规而非零合规 |
| 平台会自动搞定一切 | 平台只认凭证链和你的主动声明,你不打标,可能被误判限流 |
| 元数据会一直跟着文件走 | 微信传输、部分剪辑导出会剥元数据,出货前必须验证 |
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
