欧洲实施AI透明度新规,合成内容须按情形披露
欧洲AI透明度新规并非全面禁止合成内容,而是根据系统、内容及用途,要求提供相应的识别信息或披露。

在欧洲,AI悄然隐身于日常体验的时代正开始走向终点。自 2 August 2026 起,《欧盟人工智能法案》第50条规定的新透明度义务开始适用,旨在帮助人们识别自己何时正在与AI互动,或正在接触某些由AI生成或修改的内容。这些规则并未将所有合成图像都定为非法,也不要求所有情形都使用同一种标签。但它们确立了一项新原则:当AI可能实质性地影响人们对所见内容或交互对象的判断时,透明度就至关重要。
要点速览
- 《欧盟人工智能法案》第50条规定的透明度义务已自 2 August 2026 起开始适用。
- 提供者必须在某些AI系统的设计中确保人们获知自己正在与AI互动,除非这一点在当时情境下显而易见。
- 在法律适用范围及例外规定的约束下,生成式AI提供者必须支持以机器可读形式,可靠识别由AI生成或修改的输出。
- 对于深度伪造内容,以及某些为向公众提供公共利益事项相关信息而发布的AI生成或修改文本,部署者负有披露义务。
- 这些规则着眼于透明度,并非全面禁止AI内容。
- 对平台和出版机构而言,来源追溯、内容标识和人工编辑监督正逐渐成为产品要求,而不再只是可选的信任建设功能。
小标签背后的大作用
人工智能已经非常善于不露痕迹地融入日常数字生活。
顾客可能正在与自动化助手聊天,却没有立即察觉。一张逼真的照片,可能从未经过相机拍摄。一段视频可能呈现某人从未说过的话。一篇文字流畅的文章,可能由模型生成,或经过模型大幅修改。
欧洲的应对方式,并不是要求给所有借助软件制作的内容贴上警示标签。《人工智能法案》第50条采取了更有针对性的做法。欧盟委员会表示,透明度规则大体适用于四类情形:人与某些AI系统互动;人们接触由AI生成或修改、且必须能通过技术手段识别其合成来源的内容;使用情绪识别或生物特征分类系统;以及部署者发布深度伪造内容,或某些涉及公共利益事项的AI生成文本。
这些规定贯穿着一个简单的原则:当AI对眼前的互动或媒体内容产生实质性影响时,人们应有足够的信息了解这一点。
2 August 2026 起发生了什么变化
《人工智能法案》于 2024 年生效,但各项义务分阶段开始适用。第50条的透明度规则于 2 August 2026 起开始适用。
对于对话系统,原则很直观。如果系统旨在直接与人互动,提供者通常必须确保用户获知自己正在与AI互动;但如果对一名具备合理认知且留意相关情况的人而言,这一点在当时情境下显而易见,则不在此限。
对于合成媒体,技术要求有所不同。在技术可行且符合法律具体条件的前提下,生成合成音频、图像、视频或文本的AI系统提供者,必须使输出内容能够通过机器可读格式,被识别为人工生成或修改。
这一区别很重要。可见标签是透明度的一部分,技术层面的来源追溯则可能是另一部分。
为什么深度伪造需要特别对待
这类内容带来的信任难题尤为棘手,因为它的影响力来自以假乱真的相似性。观看者可能以为某个真实人物做过某个动作、说过某句话,或出现在某个场景中,而这些画面或声音实际上是生成或修改的结果。
根据第50条,使用AI系统生成或修改图像、音频或视频,且相关内容构成此类伪造的部署者,必须披露内容经过人工生成或修改。法案对艺术、创作、讽刺及类似作品作出了有针对性的安排,使披露能够以适当方式进行,避免不必要地损害作品的体验。
其现实意义并不限于法律定义。随着合成媒体技术进步,仅凭视觉上的逼真程度来判断真实性,已经越来越不可靠。来源信息与披露因此变得更加重要。
公共利益文本有专门规定
《人工智能法案》也对某些由AI生成或修改、旨在向公众提供公共利益事项相关信息的文本作出了规定。
法律包含一项重要例外:如果AI生成的内容经过人工审核或编辑把关,并由个人或组织承担发布的编辑责任,则可适用例外规定。
这一点与新闻编辑部、专业出版机构,以及在人工主导的编辑流程中使用AI的组织尤其相关。监管关注的不只是文本是否经过AI处理,也承认由人承担、且可追责的编辑责任具有重要意义。
对出版机构而言,这构成了记录工作流程的有力动因:AI做了什么、人工检查了什么、谁批准发布,以及事实性陈述是如何核实的。
人工智能透明度也是媒体素养问题
仅靠标签,无法解决错误信息问题。
披露可以告诉人们某段媒体内容是合成的,却不能自动说明其中的主张是否属实、来源是否可信,或内容是否被断章取义。
因此,爱尔兰在媒体素养方面开展的更广泛工作同样重要。爱尔兰媒体委员会 Coimisiún na Meán 已于 2026 年为媒体素养和打击虚假信息项目拨款,并将批判性理解媒体的能力视为应对虚假信息的重要机制。
因此,最有效的防线应当是多层次的:更清晰的技术来源追溯、易于理解的披露、负责任的平台设计、可追责的内容发布,以及懂得质疑所见内容的用户。
除了最低合规要求,平台还应做什么
平台即使在技术上满足了披露要求,也仍可能带来糟糕的使用体验。
如果标签藏在菜单深处、充斥法律术语,或在视觉上与普通界面杂项难以区分,用户可能始终无法理解它们。如果平台在内容上传或转换时移除了来源元数据,有用的识别线索就可能消失。如果举报工具无法区分身份冒用、经修改的媒体内容和一般错误信息,内容审核也会变得更加困难。
更好的产品思路,是在用户需要作出判断的时刻,让AI相关的来源信息变得清楚易懂。这可以包括简明标签、易于获取和理解的说明、对可靠来源线索的保留、针对身份冒用风险的情境提示,以及便于举报具有欺骗性的合成内容的明确渠道。
同时,也应避免走向另一个极端:将所有AI辅助内容都视为可疑。AI可以用于翻译、无障碍支持、编辑、插图和日常效率提升,而不涉及欺骗任何人。
目标是提供有实际意义的透明度,而不是贴上负面标签。
更大的转变:真实性成为基础设施
多年来,互联网在很大程度上把辨别真伪视为一种社会判断。用户根据用户名、头像、蓝色认证标记、写作风格,或图像看起来有多逼真,决定是否信任。
这一模式正面临压力。
生成式AI能够大规模模仿风格、外貌和声音。因此,下一代信任体系需要更有力的判断依据:经过验证的个人与组织、来源信息、透明的AI交互、可追责的出版机构,以及易于理解的安全控制措施。
欧洲的新透明度规则,可以视为这套基础设施的早期形态。
它们不会让欺骗消失,但会改变人们的默认预期。AI不应仅仅因为能够隐身,就总是不露痕迹。
这也是Safegram 身份验证为已验证成员提供可见的 Peacemaker Ring(身份验证标识)的原因。它不能替代个人判断,但能帮助人们在信任一条消息或一项交易提议之前,区分经过身份核验的账户与未经验证的账户。
常见问题
欧盟现在强制要求使用AI标签了吗?
《人工智能法案》第50条规定的部分AI透明度义务已自 2 August 2026 起开始适用。具体义务取决于AI系统、内容和使用场景的类型;并不存在一种要求所有AI辅助输出统一使用的标签。
每张AI生成图片都需要可见标签吗?
不一定。《人工智能法案》对生成式系统提供者规定了技术透明度义务,并对部署者在生成或修改逼真伪造媒体等情形下规定了具体披露义务。适用要求取决于具体情境,以及提供者或部署者在法律上的角色。
聊天机器人必须说明自己是AI吗?
一般而言,旨在直接与人互动的AI系统,其提供者必须确保用户获知自己正在与AI互动;但如果对一名具备合理认知且留意相关情况的人而言,这一点在当时情境下显而易见,则不在此限。
法案如何定义逼真伪造的媒体内容?
法案所界定的这类内容,是指由AI生成或修改的图像、音频或视频,其与现有的人物、物体、地点、实体或事件相似,足以使人误以为内容真实或属实。
法案禁止这类伪造内容吗?
不禁止。法案是在其涵盖的情形下规定透明度义务,而非全面禁止所有合成媒体。
AI撰写的新闻文章如何处理?
某些由AI生成或修改、为向公众提供公共利益事项相关信息而发布的文本,可能触发披露义务。法案设有例外:内容已经过人工审核或编辑把关,且有可明确识别的个人或组织承担编辑责任。
人们如何判断图片是否由AI生成?
没有哪一种单纯依靠视觉判断的技巧能可靠辨别。应查找来源或披露信息、核实原始出处,并将相关主张与可信报道交叉核对。对于情绪冲击强烈或异乎寻常、却没有可追溯来源的媒体内容,应保持谨慎。
Safegram 的AI内容标识系统已经上线了吗?
只有在具体的AI标识或来源追溯功能已完成实施,并在生产环境中得到验证后,Safegram 才应将其描述为已上线。仍处于开发中的AI辅助能力和透明度机制,应注明为开发中或计划中的功能。
参考来源
-
欧盟委员会,《速览:AI系统的透明度规则》,《人工智能法案》第50条——确认透明度义务自 2 August 2026 起适用。
-
Regulation (EU) 2024/1689,《人工智能法案》第50条——某些AI系统提供者和部署者的透明度义务。
-
欧盟委员会,《人工智能法案》透明度指导及实施材料。
-
Coimisiún na Meán,《媒体素养与打击虚假信息小额资助》,3 September 2026——Budget 2026 拨款 €1.1 million,通过研究、媒体素养和事实核查等项目,支持爱尔兰打击虚假信息战略的实施。
更多 Safegram 内容
试用 Safegram
在都柏林打造、以隐私为先的社交平台与已验证交易平台。