人工智能标签时代已临：欧洲现要求提高合成内容透明度

不可见的人工智能时代正在欧洲走向终结。自 2026 年 8 月 2 日起，《欧盟人工智能法案》（EU AI Act）第 50 条规定的新透明度义务已正式适用。这些规定旨在帮助人们在与 AI 互动或看到某些 AI 生成及操纵的内容时能够清晰识别。这些规则并非认定所有合成图像均为非法，也不要求在所有情况下都使用相同的标签。它们确立了一个新原则：当 欧盟人工智能法案 下的 AI 可能实质性影响人们对所见内容或互动对象的认知时，人工智能透明度 至关重要。在 Safegram，我们认为确保 真实性、保护 隐私 并建立 用户信任 是应对 合成内容 与 深度伪造 挑战的关键。

关键要点

• 《欧盟人工智能法案》第 50 条下的透明度义务已于 2026 年 8 月 2 日起适用。
• 提供者必须设计特定的 AI 系统，以确保用户在与 AI 互动时知情，除非从环境背景中可以明显看出这一点。
• 生成式 AI 提供者必须支持以机器可读格式可靠地识别 AI 生成或操纵的输出，并受法律范围和例外情况的约束。
• 对于发布的、旨在向公众通报公共利益事项的 深度伪造 以及某些 AI 生成或操纵的文本，部署者面临披露义务。
• 相关规则侧重于透明度，而非全面禁止 AI 内容。
• 对于平台和出版商而言，来源追踪、人工智能标签 和人工编辑监督正从可选的信任功能转变为产品合规要求。

小标签背后的宏大意义

人工智能已经变得异常擅长“隐身”于普通的数字生活之中。

客户可能在未察觉的情况下与自动化助手聊天；一张写实的照片可能从未被拍摄过；一段视频可能描绘了一个人从未说过的话；一篇文采斐然的文章可能是由模型生成或大幅修改的。

欧洲的应对方案并非要求在所有软件制作的内容上都贴上警告贴纸。该法案第 50 条采取了更有针对性的方法。欧盟委员会表示，透明度规则适用于四种主要情况：当人们与特定 AI 系统互动时；当人们遇到必须在技术上可检测其合成来源的 AI 生成或操纵的内容时；当使用情绪识别或生物识别分类系统时；以及当部署者发布有关公共利益的深度伪造内容或特定 AI 生成文本时。

其核心逻辑非常直接：人们应该拥有足够的信息，以了解 AI 何时在实质上塑造了他们面前的互动或媒体内容。

2026 年 8 月 2 日发生了什么变化

《欧盟人工智能法案》于 2024 年生效，但其义务是分阶段实施的。第 50 条透明度规则于 2026 年 8 月 2 日正式适用。

对于对话系统，该原则非常直观。当系统被设计为直接与人互动时，提供者通常必须确保告知用户他们正在与 AI 互动，除非在相关环境下，一个具备合理信息且细心的用户能明显识别出这一点。

对于合成媒体，技术要求则有所不同。生成合成音频、图像、视频或文本的 AI 系统提供者必须确保输出内容可以以机器可读的格式被检测为人工生成或操纵，只要技术上可行且符合详细的法律条件。

这种区分至关重要。可见的标签是透明度的一部分，技术层面的来源溯源（Provenance）则是另一部分。

为什么深度伪造受到特殊对待

深度伪造造成了极其严峻的信任难题，因为其威力源于“相似性”。观众可能会相信一个真实的人执行了某个动作、发表了某项声明或出现在某个场景中，而实际上这些都是生成或操纵的。

根据第 50 条，生成或操纵构成深度伪造的图像、音频或视频内容的 AI 系统部署者，必须披露该内容是人工生成或操纵的。该法案还对艺术、创作、讽刺及类似作品进行了量身定制的处理，以便以适当的方式进行披露，而不会不必要地削弱作品的体验感。

这一实践教训远超法律定义本身。随着合成媒体技术的进步，视觉上的真实感已不再是真实性的可靠信号。来源追踪和信息披露变得愈发重要。

公共利益文本的专属规则

该法案还涉及为向公众通报公共利益事项而发布的特定 AI 生成或操纵的文本。

法律包含一个重要的例外情况：如果 AI 生成的内容经过了人工审核或编辑控制，并且由个人或组织承担出版的编辑责任，则不适用披露义务。

这与新闻编辑室、专业出版商以及将 AI 作为人工主导编辑流程一部分的组织高度相关。人工智能监管 不仅仅是询问 AI 是否接触过文本，它还承认了负责任的人工编辑责任的重要性。

对于出版商而言，这产生了一种强烈的激励去记录工作流程：AI 做了什么，人工检查了什么，谁批准了发布，以及事实陈述是如何验证的。

AI 透明度也是媒介素养问题

标签本身无法解决误导性信息。

披露信息可以告诉人们媒体内容是合成的，但无法自动告诉他们潜在的主张是否属实、来源是否可靠，或者内容是否脱离了语境。

这就是为什么爱尔兰在媒介素养方面的广泛工作至关重要。爱尔兰媒体委员会（Coimisiún na Meán）在 2026 年为媒介素养和反虚假信息倡议拨付了资金，将批判性媒介技能描述为对抗虚假信息的重要机制。

因此，最好的防御是多层次的：更清晰的技术溯源、易懂的披露说明、负责任的平台设计、负责任的发布行为，以及懂得质疑所见内容的广大用户。

平台在最低限度合规之外应做的工作

一个平台可能在技术上满足了披露要求，但仍然创造了糟糕的用户体验。

如果标签隐藏在菜单深处、使用晦涩的法律语言编写，或者在视觉上与普通的界面杂乱无章融为一体，用户可能永远无法理解它们。如果平台在内容上传或转换时剥离了来源元数据，有用的信号就会消失。如果举报工具不能区分冒充、操纵媒体和普通的误导性信息，审核就会变得更加困难。

更好的产品方法是在关键时刻让 Safegram AI 来源变得易于理解。这可以包括简洁的标签、可访问的解释、可靠来源信号的保留、针对冒充风险的情境警告，以及举报欺骗性合成内容的清晰路径。

同时应避免另一个极端：将所有 AI 辅助的内容都视为可疑。AI 可以用于翻译、无障碍辅助、编辑、插图和日常生产力提升，而不会欺骗任何人。

目标是实现有意义的透明度，而非污名化。

这对 Safegram 意味着什么——已上线、测试中与计划中

Safegram 的发展方向核心在于验证参与、隐私和更安全的互动。目前已上线的功能包括端到端加密聊天、用户和企业的验证层、Safegram Exchange 以及创作者和企业工具。

Safegram 也在开发 AI 辅助功能，包括商业和创作者方案中的 AI 接待员能力。在 AI 助手直接与人沟通的情况下，明确披露互动是自动化的应当作为核心产品原则，而不是埋藏在服务条款中。

Safegram 不应声称所有第 50 条技术溯源机制、深度伪造检测流程或 AI 内容标签功能已全部上线，除非这些实现在生产环境中经过测试和确认。在适当的情况下，这些能力应被描述为“计划中”或“开发中”。

对于 Safegram News，编辑原则应同样清晰：AI 可以辅助研究、制作或视觉创作，但事实陈述需要经过人工验证，发布责任仍由人工编辑承担。当合成的编辑视觉效果可能误导读者时，应进行适当的识别。

更大的转变：真实性成为基础设施

多年来，互联网将真实性主要视为一种社会判断。用户通过查看用户名、个人资料照片、蓝 V 认证、写作风格或图像的表象真实感来决定是否信任。

这种模式正面临压力。

生成式 AI 可以大规模模仿风格、外貌和声音。因此，下一代信任系统需要更强的信号：经过验证的个人和组织（通过 Didit 实现）、来源信息、透明的 AI 互动、负责任的出版商以及易于理解的安全控制。

欧洲新的透明度规则是这一基础设施的早期版本。

它们不会让欺骗彻底消失，但它们改变了默认预期。AI 不应仅仅因为它可以隐身就总是保持不可见。

常见问题解答

现在欧盟强制要求使用 AI 标签吗？

《欧盟人工智能法案》第 50 条下的特定 AI 透明度义务已于 2026 年 8 月 2 日起适用。具体职责取决于 AI 系统的类型、内容和使用案例；并非所有 AI 辅助的输出都需要统一的标签。

每一个 AI 生成的图像都需要可见标签吗？

不一定。该法案对生成式系统的提供者规定了技术透明度义务，并对部署者在深度伪造等情形下规定了特定的披露义务。适用要求取决于上下文以及提供者或部署者的法律角色。

聊天机器人必须说明自己是 AI 吗？

通常情况下，旨在直接与人互动的 AI 系统提供者必须确保告知用户他们正在与 AI 互动，除非在相关环境下，这对于具备合理信息且细心的用户来说是显而易见的。

什么是《人工智能法案》定义的深度伪造？

该法案将深度伪造定义为 AI 生成或操纵的图像、音频或视频内容，其模仿现有的个人、物体、地点、实体或事件，且看起来具有虚假的真实性或可靠性。

《人工智能法案》禁止深度伪造吗？

不禁止。它在涵盖的场景中施加了透明度义务，而不是对所有合成媒体实施全面禁令。

AI 撰写的新闻文章怎么办？

为向公众通报公共利益事项而发布的特定 AI 生成或操纵的文本可能会触发披露义务。法案规定了一个例外：如果内容经过了人工审核或编辑控制，并且由可识别的个人或组织承担编辑责任。

人们如何检查图像是否由 AI 生成？

没有单一的视觉技巧是完全可靠的。应查找来源追踪或披露信息，验证原始出处，将相关主张与可靠的新闻报道进行对比，并对没有可追溯来源的、带有强烈情绪色彩或非同寻常的媒体内容保持警惕。

Safegram 的 AI 内容标签系统上线了吗？

Safegram 仅在特定 AI 标签或溯源功能已在生产环境中实施并验证后，才会将其描述为“已上线”。仍在开发中的 AI 辅助能力和透明度机制应标记为“开发中”或“计划中”。

参考资料

1. 欧盟委员会，“速览：AI 系统透明度规则”，《人工智能法案》第 50 条——确认透明度义务自 2026 年 8 月 2 日起适用。

2. (EU) 2024/1689 条例，《人工智能法案》第 50 条——针对特定 AI 系统提供者和部署者的透明度义务。

3. 欧盟委员会，《人工智能法案》透明度指南及实施材料。

4. Coimisiún na Meán，“媒介素养与反虚假信息微型基金”，2026 年 9 月 3 日——2026 年预算拨款 110 万欧元，通过研究、媒介素养和事实核查等倡议支持爱尔兰反虚假信息战略的实施。