您能信任屏幕上的那个人吗？欧盟应对 AI 冒充的新规则

一张熟悉的面孔、一段极具说服力的语音、一段制作精良的视频，已不再能证明屏幕另一端的人是真实的。随着《欧盟人工智能法案》透明度规则的生效，以及爱尔兰加强对在线安全的监管，对于普通用户而言，一个紧迫的务实问题摆在面前：在汇款、披露信息或相信某个数字身份之前，你应该信任什么样的证据？

在 Safegram，我们致力于构建一个隐私优先的社交网络，通过 Safegram 验证 提升信任信号，防止 AI 冒充 导致的在线诈骗，并增强用户的媒体素养。基于欧盟人工智能法案的最新框架，本文将探讨深度伪造检测与数字安全在在线验证中的核心作用。

核心要点

• 欧盟人工智能法案第 50 条规定的透明度义务已于 2026 年 8 月 2 日起适用，涵盖深度伪造、特定 AI 生成的公共利益内容以及与 AI 系统的交互规则。
• 标注有所帮助，但不能取代用户验证：欺骗性内容可以被复制、剥离语境，或被无视规则的犯罪分子传播。
• 在爱尔兰，在线诈骗应向爱尔兰和平卫队 (An Garda Síochána) 举报；平台也设有基于 DSA 的“通知与行动”机制来处理非法内容。
• 面部、声音、粉丝数或蓝色徽章本身永远不足以作为身份的充分证明。
• 应对索要钱财、凭据或敏感信息的意外请求，最安全的反应是通过独立的信任渠道核实对方身份。

互联网旧有的信任信号正在减弱

多年来，人们养成了一套简单的数字本能：寻找熟悉的面孔，倾听熟悉的声音，查看头像，观察账号的建立时间。看视频，然后判断它是否感觉真实。

生成式 AI 削弱了每一个信号。

合成视频可以重现人的外貌；语音克隆可以模仿谈话；AI 生成的图像可以创造从未存在过的人。一个极具说服力的个人资料可以由盗取或虚构的素材拼凑而成。这并不意味着每个不寻常的视频都是假的，而是意味着“视觉上的熟悉感”已不足以确立身份。

这改变了在线信任的内涵。关键问题正在从“这看起来是真的吗？”转向“有什么独立证据告诉我这是真的？”

欧盟人工智能法案透明度规则现已生效

《欧盟人工智能法案》试图使合成媒体更易于识别。第 50 条透明度义务已从 2026 年 8 月 2 日起开始实施。

欧盟委员会的指南确定了四种广泛的透明度情形：人们在与某些 AI 系统交互时必须获得告知。提供者还面临标记 AI 生成或操纵内容的机器可读要求。部署者在发布深度伪造内容或旨在告知公众利益的特定 AI 生成文本时，需承担披露义务（视法案范围和例外情况而定）。

欧盟委员会还发布了关于标记 AI 生成内容的《行为准则》。该准则虽属自愿性质，但旨在帮助提供者和部署者遵守法案中的强制性透明度义务。

这是一个重要的区别：法律规定的透明度义务与帮助组织实施这些义务的自愿性准则并非同一回事。

为什么 AI 标签本身无法解决冒充问题

可见的披露可以帮助诚实的发布者告知受众媒体经过了生成或操纵。机器可读的来源信息可以帮助技术系统识别合成材料。

但犯罪分子不会因为法规的存在而变得值得信赖。

诈骗者可能会故意省略披露信息。带有标签的视频剪辑可能会在没有原始语境的情况下被复制、剪裁或重新发布。真实的视频也可能被置于虚假陈述旁边。而且，如果紧迫感、恐惧或权威感能诱导受骗者在核实前采取行动，诈骗并不需要技术上完美的深度伪造。

这就是为什么 AI 透明度和身份验证解决的是不同层面的问题。

透明度问的是： 这段内容是否使用 AI 生成或操纵过？

验证问的是： 这个人、企业或账号真的是其声称的那个对象吗？

更安全的互联网两者都需要。

每个人都应养成的验证习惯

当数字交互突然涉及到重大利益时，请在行动前切换频道。

如果家人似乎发来紧急语音信息要钱，请拨打你已知的号码。如果企业通过电子邮件或私信要求更改银行账户信息，请通过先前建立的联系渠道进行核实。如果投资推广者、卖家或创作者要求你将对话或支付移出受信任的服务，请将其视为需要额外验证的理由，而非图方便。

原则很简单：不要将可疑交互本身作为证明该交互真实性的唯一方法。

当请求涉及金钱、密码、一次性验证码、银行详情、身份证明文件、私密图像或要求立即行动的压力时，这一点尤为重要。

在爱尔兰遇到疑似诈骗该怎么办

爱尔兰和平卫队建议，认为自己是在线诈骗或欺诈受害者的人应向当地警察局报案，并利用发生诈骗的网站或论坛的举报服务。卫队指南还建议保留相关证据，如电子邮件、账户详情以及广告或在线帖子的副本。

欧盟《数字服务法》(DSA) 增加了另一条路径。欧盟境内的在线平台必须提供“通知与行动”机制，用户可据此举报非法内容。欧盟委员会表示，这些机制应简单到无需技术或法律专长即可使用。

在爱尔兰，媒体委员会 (Coimisiún na Meán) 是数字服务协调员。其在线安全框架涵盖了平台在 DSA 及其他爱尔兰和欧盟在线安全规则下的职责。

举报之所以重要有两个原因：它可以协助个人案件，并能揭露平台和当局可能需要系统性解决的模式。

不要将验证与监控混为一谈

应对 AI 冒充的一个风险是矫枉过正。

如果每次在线交互都要求每个人向每项服务展示护照、家庭住址或完整的法律身份，这种疗法将产生自身的隐私和网络安全问题。

良好的验证应与风险成正比。市场可能需要确信卖家是真实的；受年龄限制的服务可能需要知道用户已达标；支付提供商可能有法律身份要求。但公众个人资料或交易对手并不一定需要访问用于建立信任的所有底层个人数据。

爱尔兰的“政府数字钱包”项目反映了这一更广泛的隐私原则。政府资料显示，该钱包的设计旨在让用户保持对分享内容的控制，仅披露服务所需的细节。

方向很明确：在不暴露多余信息的情况下证明相关事实。

这对 Safegram 意味着什么 —— 现状、开发与计划

Safegram 的产品方向基于让信任更加显性化，而不是要求用户仅凭外观进行推断。

Safegram 目前已上线或实施的功能包括针对用户和企业的验证层、隐私导向的社交和市场功能、Safegram Exchange、创作者/商业工具以及加密通信功能。具体可用性因版本、账户类型和推广阶段而异。

Safegram 还在开发或准备其他信任与安全功能，包括更强的青少年/家庭保护、年龄感知型账户隔离和安全通知。在正式版确认上线前，这些元素不应被视为普遍可用。

计划中或依赖集成的功能应作相应标注。Safegram 不应声称政府钱包验证、欧盟 AI 内容溯源基础设施、通用深度伪造检测或任何监管机构支持的身份凭证已经上线，除非该特定集成确实已实施并经过验证。目前，所有身份验证均由 Didit 处理，Safegram 绝不存储身份证件或生物识别信息。

有用的设计原则更简单且已具相关性：信任标记应代表一种验证过程，而非流行程度。验证应在使冒充变得困难的同时，尽量减少不必要的个人信息披露。

验证正在成为媒体素养的一部分

过去的媒体素养主要关注来源：谁发布的，有什么证据支持，是否有其他可靠来源在报道同一件事？

AI 增加了另一个维度：说话的人是谁，他们的身份能否被独立确立？

爱尔兰正在投资于这种更广泛的韧性。媒体委员会开启了 2026 年媒体素养和反虚假信息项目的资助征集，指出 2026 年预算中拨划了 110 万欧元，用于支持通过研究、媒体素养和事实核查等倡议实施国家反虚假信息战略。

最有价值的技能可能不是学习在视觉上“识破深度伪造”。随着生成技术的进步，检测技术会不断变化。更持久的技能是学会辨别交互何时变得高风险，并知道如何独立验证。

信任的未来在于证据，而非表象

互联网并没有因为 AI 能生成逼真的媒体而变得不可用。但我们过去依赖的一些捷径正变得不再可靠。

熟悉的面孔是证据，但不是证明。熟悉的声音是证据，但不是证明。精美的个人资料是证据，但不是证明。甚至 AI 标签也只能回答关于内容如何制作的一个问题。

信任越来越需要来自多个信号：溯源、独立验证、平台防护、交易保护、举报系统和人类判断。

最安全的数字社区不会是那个没人能创建合成媒体的社区，而是那个冒充他人变得极其困难、关键行动需要更强证据、且用户知道在行动前停下来核实的社区。

常见问题解答

AI 深度伪造在欧盟是非法的吗？

并非自动非法。合法性取决于语境、内容和用途。《人工智能法案》引入了深度伪造的透明度义务，而其他法律适用于合成媒体被用于诈骗、骚扰、非自愿性私密图像、诽谤或其他违法行为的情况。

在欧洲，AI 生成的视频必须贴标签吗？

《欧盟人工智能法案》第 50 条规定了特定 AI 生成或操纵内容（包括深度伪造）的透明度义务，但受其范围和例外情况限制。这些规则自 2026 年 8 月 2 日起适用。

AI 标签能证明视频是安全或真实的吗？

不能。标签仅表明 AI 参与了内容的创建或操纵。它并不证明所作陈述是准确、合法或值得信赖的。

我该如何验证在线联系我的人？

使用独立的信任渠道。拨打你已有的号码，独立访问机构的官网，或通过已建立的联系方式核实，而不是使用可疑信息中提供的链接或详情。

如果我在爱尔兰遭遇在线诈骗该怎么办？

爱尔兰和平卫队建议受害者向当地警察局及事发平台举报，同时保留相关证据。

我可以直接向平台举报诈骗内容吗？

可以。根据《数字服务法》，欧盟境内的在线平台必须提供用于举报非法内容的“通知与行动”机制。

Safegram 能检测出所有的深度伪造吗？

Safegram 不应做出此类承诺。其信任方向强调经验证的参与和更安全的交互，但只有在特定生产能力实施并验证后，才应将通用深度伪造检测描述为已上线。

验证是否等同于公开某人的身份？

不等同。良好的验证可以确立相关事实或信任水平，而无需公开披露用于验证过程的所有底层个人信息。身份验证由 Didit 处理，Safegram 不存储私密凭据。

参考资料

1. 欧盟委员会，“简报：AI 系统透明度规则”，第 50 条透明度义务自 2026 年 8 月 2 日起适用。
2. 欧盟委员会，“AI 生成内容透明度行为准则”，当前支持第 50 条合规性的指南。
3. 欧盟委员会，“委员会发布 AI 生成内容标记与标注行为准则”，2026 年 6 月 10 日。
4. 爱尔兰和平卫队 (An Garda Síochána)，“网络犯罪意识”，关于举报在线诈骗及保留证据的指南。
5. 欧盟委员会，“利用 DSA 打击在线诈骗”，通知与行动指南。
6. 媒体委员会 (Coimisiún na Meán)，“数字服务法”，爱尔兰数字服务协调员及平台义务。
7. 媒体委员会，“媒体素养与反虚假信息微型基金”，2026 年 9 月 3 日。
8. 爱尔兰政府，“Chambers 部长启动爱尔兰新政府数字钱包的公众咨询与测试阶段”，2026 年。