屏幕上的人可信吗?欧洲新规应对AI冒充

熟悉的面孔和声音已不足以证明身份,欧洲新规要求提高AI内容透明度,用户仍需学会独立核实。

作者:Safegram Editorial Team发布于 更新于 · 🇨🇳 中文
都柏林一名女子警惕地看着视频通话中的男子

熟悉的面孔、逼真的声音、制作精良的视频,都已不足以证明屏幕上的人是真实的。随着欧洲AI透明度规则生效、爱尔兰加强网络安全监管执法,一个实际问题对普通用户而言变得愈发紧迫:在转账、透露信息或相信某个数字身份之前,究竟应该信任哪些证据?

要点速览

  • 《欧盟人工智能法案》第50条规定的透明度义务自2 August 2026起适用,涵盖深度伪造、某些涉及公共利益的AI生成内容,以及与AI系统的交互。
  • 标识有帮助,但不能代替用户自行核实:欺骗性内容可能被复制、脱离原有语境,或由无视规则的犯罪分子传播。
  • 在爱尔兰,遇到在线诈骗应向爱尔兰警察局(An Garda Síochána)报案;平台也设有《数字服务法》(DSA)规定的通知与行动机制,供用户举报违法内容。
  • 面孔、声音、粉丝数量或类似蓝色认证标记的徽章,都不应被单独视为充分的身份证明。
  • 面对突如其来的索款、索要登录凭据或敏感信息的请求,最安全的做法是通过另一条可信渠道核实对方身份。

互联网上的传统信任信号正在减弱

多年来,人们形成了一套简单的上网判断习惯:找熟悉的面孔,听熟悉的声音,查看头像,看看账号是否像是经营已久,再看一段视频,凭感觉判断是否真实。

生成式AI削弱了这些线索的可信度,无一例外。

合成视频可以复现一个人的外貌,声音克隆可以模仿其说话方式,AI生成图像可以创造从未存在过的人。盗取或编造的素材,也能拼出一个令人信服的个人主页。这并不意味着每段看起来不寻常的视频都是假的,而是说,仅凭视觉上的熟悉感,已不足以确认身份。

这改变了网络信任的含义。关键问题正从“这看起来是真的吗?”转向“有什么独立证据能说明这是真的?”

欧洲AI透明度规则现已生效

《欧盟人工智能法案》试图让合成媒体更容易被识别。第50条规定的透明度义务自2 August 2026起适用。

欧盟委员会的指引将相关透明度要求概括为四类情形。人们在与某些AI系统交互时,必须被告知这一点。提供者还须遵守有关为AI生成或经AI修改的内容添加机器可读标记的要求。部署者则须对深度伪造内容履行披露义务;对于某些为向公众提供公共利益事项相关信息而发布的AI生成或经AI修改的文本,也须履行披露义务。具体须以该法案的适用范围和例外规定为准。

欧盟委员会还发布了一份关于AI生成内容标记与标识的行为准则。该准则属自愿性质,旨在帮助提供者和部署者履行法案中具有约束力的透明度义务。

这一区别很重要:法定的透明度义务,与帮助机构落实这些义务的自愿性准则,并不是一回事。

为什么仅靠AI标识无法解决冒充问题

可见的披露标识,能帮助诚实的发布者告诉受众,相关媒体内容经过生成或修改。机器可读的来源信息,则能帮助技术系统识别合成素材。

但法规的存在,不会让犯罪分子变得可信。

诈骗者可能故意不作披露。带有标识的视频片段可能被复制、裁剪,或在脱离原始语境后被转发。真实视频也可能被配上虚假说法。而且,只要紧迫感、恐惧或权威足以促使受害者在核实前行动,诈骗就不需要技术上完美的深度伪造。

因此,AI透明度与身份验证解决的是不同的问题。

透明度要回答的是:这段内容是否由AI生成或修改?

身份验证要回答的是:这个人、这家企业或这个账号,是否确实如其所声称的那样?

更安全的互联网,两者都需要。

每个人都应养成的核实习惯

当一次网络互动突然涉及重大后果时,先换一条渠道核实,再行动。

如果你似乎收到家人发来的紧急语音消息,向你要钱,请拨打你原本就知道的号码。如果一家企业通过邮件或消息通知你更换银行账户信息,请使用此前已建立的联系渠道核实。如果投资推广者、卖家或创作者要求你把对话或付款转移到可信服务之外,不要只把它当作图方便,而应将其视为需要进一步核实的信号。

原则很简单:不要只靠那次可疑互动本身,来证明这次互动是真实的。

当请求涉及金钱、密码、一次性验证码、银行账户信息、身份证件、私密影像,或对方施压要求立即行动时,这一点尤其重要。

在爱尔兰遇到疑似诈骗怎么办

爱尔兰警察局建议,认为自己遭遇网络骗局或欺诈的人,应向当地警察局报案,并使用诈骗发生所在网站或论坛的举报服务。警方指引还建议保留相关证据,例如电子邮件、账户信息,以及广告或网络帖子的副本。

欧盟《数字服务法》提供了另一条途径。欧盟境内的网络平台必须设立通知与行动机制,让用户能够举报违法内容。欧盟委员会表示,这些机制应足够简便,让没有技术或法律专业知识的人也能使用。

在爱尔兰,媒体委员会(Coimisiún na Meán)担任数字服务协调机构。其《网络安全框架》涵盖平台在DSA及爱尔兰和欧盟其他网络安全规则下承担的义务。

举报的重要性体现在两个方面:既可能帮助处理个案,也可能揭示平台和主管部门需要从系统层面应对的问题模式。

不要把身份验证与监控混为一谈

应对AI冒充时,一个风险是矫枉过正。

如果每一次网络互动,都要求每个人向每项服务出示护照、家庭住址或完整的法定身份信息,那么解决问题的手段本身,就会带来新的隐私和网络安全问题。

合理的验证应与风险相称。交易市场可能需要确认卖家的身份是否真实;有年龄限制的服务可能需要确认用户是否达到年龄门槛;支付服务提供商可能有法定的身份核验要求。但用于建立这种信任的底层个人数据,并不一定都需要公开在个人主页上,或向交易对方披露。

爱尔兰政府数字钱包项目体现了这一更广泛的隐私原则。政府资料称,该钱包的设计旨在让用户自主掌控分享哪些信息,并仅披露使用某项服务所必需的资料。

这一方向很重要:证明相关事实,而不暴露超出必要范围的信息。

身份核实正成为媒体素养的一部分

过去,媒体素养教育很大程度上聚焦于信息来源:是谁发布的,有什么证据支持,是否有另一家可信来源报道同一件事?

AI又增加了一层问题:说话的人是谁,其身份能否得到独立核实?

爱尔兰正在投入资源,提升社会在这些方面的应对能力。媒体委员会启动了2026年媒体素养与反虚假信息项目的资助申请,并指出,2026年预算拨款€1.1 million,用于通过研究、媒体素养教育和事实核查等举措,支持《国家反虚假信息战略》的实施。

最有价值的技能,或许并不是学会用肉眼“识破深度伪造”。随着生成技术进步,检测手段也会变化。更经得起时间考验的能力,是学会判断一次互动何时变得高风险,并知道如何独立核实。

未来的信任靠证据,而非表象

互联网不会因为AI能够生成逼真的媒体内容,就变得无法使用。但我们过去依赖的一些判断捷径,正在变得不可靠。

熟悉的面孔是线索,却不是确证。熟悉的声音是线索,却不是确证。精心打造的个人主页是线索,却不是确证。即使有AI标识,也只回答了内容如何制作这一个问题。

信任越来越需要建立在多重依据之上:来源信息、独立核实、平台防护措施、交易保障、举报机制,以及人的判断。

最安全的数字社区,不会是那些无人能够制作合成媒体的社区,而是那些让冒充他人变得困难、在采取涉及重大后果的行动前要求更充分证据,并让用户懂得在行动前停下来核实的社区。

参考来源

  1. 欧盟委员会,《速览:AI系统的透明度规则》,第50条透明度义务自2 August 2026起适用。

  2. 欧盟委员会,《AI生成内容透明度行为准则》,支持遵守第50条的现行指引。

  3. 欧盟委员会,《委员会发布AI生成内容标记与标识行为准则》,10 June 2026。

  4. 爱尔兰警察局,《网络犯罪防范意识》,关于举报网络诈骗和保留证据的指引。

  5. 欧盟委员会,《利用DSA打击网络诈骗》,通知与行动机制指引。

  6. 媒体委员会,《数字服务法》,关于爱尔兰数字服务协调机构及平台义务。

  7. 媒体委员会,《媒体素养与反虚假信息小额资助》,3 September 2026。

  8. 爱尔兰政府,《钱伯斯部长宣布爱尔兰全新政府数字钱包进入公众咨询与测试阶段》,2026。

这也是Safegram 验证为已验证成员提供可见的 Peacemaker Ring(身份已验证标识)的原因。它不能代替个人判断,但能帮助人们在相信一条消息或一项交易提议之前,区分经过身份核验的账号与未经验证的账号。

更多 Safegram 内容

试用 Safegram

在都柏林打造、以隐私为先的社交平台与已验证交易平台。