屏幕上的人可信吗?欧洲新规应对AI冒充
熟悉的面孔和声音已不足以证明身份,欧洲新规要求提高AI内容透明度,用户仍需学会独立核实。

熟悉的面孔、逼真的声音、制作精良的视频,都已不足以证明屏幕上的人是真实的。随着欧洲AI透明度规则生效、爱尔兰加强网络安全监管执法,一个实际问题对普通用户而言变得愈发紧迫:在转账、透露信息或相信某个数字身份之前,究竟应该信任哪些证据?
要点速览
- 《欧盟人工智能法案》第50条规定的透明度义务自2 August 2026起适用,涵盖深度伪造、某些涉及公共利益的AI生成内容,以及与AI系统的交互。
- 标识有帮助,但不能代替用户自行核实:欺骗性内容可能被复制、脱离原有语境,或由无视规则的犯罪分子传播。
- 在爱尔兰,遇到在线诈骗应向爱尔兰警察局(An Garda Síochána)报案;平台也设有《数字服务法》(DSA)规定的通知与行动机制,供用户举报违法内容。
- 面孔、声音、粉丝数量或类似蓝色认证标记的徽章,都不应被单独视为充分的身份证明。
- 面对突如其来的索款、索要登录凭据或敏感信息的请求,最安全的做法是通过另一条可信渠道核实对方身份。
互联网上的传统信任信号正在减弱
多年来,人们形成了一套简单的上网判断习惯:找熟悉的面孔,听熟悉的声音,查看头像,看看账号是否像是经营已久,再看一段视频,凭感觉判断是否真实。
生成式AI削弱了这些线索的可信度,无一例外。
合成视频可以复现一个人的外貌,声音克隆可以模仿其说话方式,AI生成图像可以创造从未存在过的人。盗取或编造的素材,也能拼出一个令人信服的个人主页。这并不意味着每段看起来不寻常的视频都是假的,而是说,仅凭视觉上的熟悉感,已不足以确认身份。
这改变了网络信任的含义。关键问题正从“这看起来是真的吗?”转向“有什么独立证据能说明这是真的?”
欧洲AI透明度规则现已生效
《欧盟人工智能法案》试图让合成媒体更容易被识别。第50条规定的透明度义务自2 August 2026起适用。
欧盟委员会的指引将相关透明度要求概括为四类情形。人们在与某些AI系统交互时,必须被告知这一点。提供者还须遵守有关为AI生成或经AI修改的内容添加机器可读标记的要求。部署者则须对深度伪造内容履行披露义务;对于某些为向公众提供公共利益事项相关信息而发布的AI生成或经AI修改的文本,也须履行披露义务。具体须以该法案的适用范围和例外规定为准。
欧盟委员会还发布了一份关于AI生成内容标记与标识的行为准则。该准则属自愿性质,旨在帮助提供者和部署者履行法案中具有约束力的透明度义务。
这一区别很重要:法定的透明度义务,与帮助机构落实这些义务的自愿性准则,并不是一回事。
为什么仅靠AI标识无法解决冒充问题
可见的披露标识,能帮助诚实的发布者告诉受众,相关媒体内容经过生成或修改。机器可读的来源信息,则能帮助技术系统识别合成素材。
但法规的存在,不会让犯罪分子变得可信。
诈骗者可能故意不作披露。带有标识的视频片段可能被复制、裁剪,或在脱离原始语境后被转发。真实视频也可能被配上虚假说法。而且,只要紧迫感、恐惧或权威足以促使受害者在核实前行动,诈骗就不需要技术上完美的深度伪造。
因此,AI透明度与身份验证解决的是不同的问题。
透明度要回答的是:这段内容是否由AI生成或修改?
身份验证要回答的是:这个人、这家企业或这个账号,是否确实如其所声称的那样?
更安全的互联网,两者都需要。
每个人都应养成的核实习惯
当一次网络互动突然涉及重大后果时,先换一条渠道核实,再行动。
如果你似乎收到家人发来的紧急语音消息,向你要钱,请拨打你原本就知道的号码。如果一家企业通过邮件或消息通知你更换银行账户信息,请使用此前已建立的联系渠道核实。如果投资推广者、卖家或创作者要求你把对话或付款转移到可信服务之外,不要只把它当作图方便,而应将其视为需要进一步核实的信号。
原则很简单:不要只靠那次可疑互动本身,来证明这次互动是真实的。
当请求涉及金钱、密码、一次性验证码、银行账户信息、身份证件、私密影像,或对方施压要求立即行动时,这一点尤其重要。
在爱尔兰遇到疑似诈骗怎么办
爱尔兰警察局建议,认为自己遭遇网络骗局或欺诈的人,应向当地警察局报案,并使用诈骗发生所在网站或论坛的举报服务。警方指引还建议保留相关证据,例如电子邮件、账户信息,以及广告或网络帖子的副本。
欧盟《数字服务法》提供了另一条途径。欧盟境内的网络平台必须设立通知与行动机制,让用户能够举报违法内容。欧盟委员会表示,这些机制应足够简便,让没有技术或法律专业知识的人也能使用。
在爱尔兰,媒体委员会(Coimisiún na Meán)担任数字服务协调机构。其《网络安全框架》涵盖平台在DSA及爱尔兰和欧盟其他网络安全规则下承担的义务。
举报的重要性体现在两个方面:既可能帮助处理个案,也可能揭示平台和主管部门需要从系统层面应对的问题模式。
不要把身份验证与监控混为一谈
应对AI冒充时,一个风险是矫枉过正。
如果每一次网络互动,都要求每个人向每项服务出示护照、家庭住址或完整的法定身份信息,那么解决问题的手段本身,就会带来新的隐私和网络安全问题。
合理的验证应与风险相称。交易市场可能需要确认卖家的身份是否真实;有年龄限制的服务可能需要确认用户是否达到年龄门槛;支付服务提供商可能有法定的身份核验要求。但用于建立这种信任的底层个人数据,并不一定都需要公开在个人主页上,或向交易对方披露。
爱尔兰政府数字钱包项目体现了这一更广泛的隐私原则。政府资料称,该钱包的设计旨在让用户自主掌控分享哪些信息,并仅披露使用某项服务所必需的资料。
这一方向很重要:证明相关事实,而不暴露超出必要范围的信息。
身份核实正成为媒体素养的一部分
过去,媒体素养教育很大程度上聚焦于信息来源:是谁发布的,有什么证据支持,是否有另一家可信来源报道同一件事?
AI又增加了一层问题:说话的人是谁,其身份能否得到独立核实?
爱尔兰正在投入资源,提升社会在这些方面的应对能力。媒体委员会启动了2026年媒体素养与反虚假信息项目的资助申请,并指出,2026年预算拨款€1.1 million,用于通过研究、媒体素养教育和事实核查等举措,支持《国家反虚假信息战略》的实施。
最有价值的技能,或许并不是学会用肉眼“识破深度伪造”。随着生成技术进步,检测手段也会变化。更经得起时间考验的能力,是学会判断一次互动何时变得高风险,并知道如何独立核实。
未来的信任靠证据,而非表象
互联网不会因为AI能够生成逼真的媒体内容,就变得无法使用。但我们过去依赖的一些判断捷径,正在变得不可靠。
熟悉的面孔是线索,却不是确证。熟悉的声音是线索,却不是确证。精心打造的个人主页是线索,却不是确证。即使有AI标识,也只回答了内容如何制作这一个问题。
信任越来越需要建立在多重依据之上:来源信息、独立核实、平台防护措施、交易保障、举报机制,以及人的判断。
最安全的数字社区,不会是那些无人能够制作合成媒体的社区,而是那些让冒充他人变得困难、在采取涉及重大后果的行动前要求更充分证据,并让用户懂得在行动前停下来核实的社区。
参考来源
-
欧盟委员会,《速览:AI系统的透明度规则》,第50条透明度义务自2 August 2026起适用。
-
欧盟委员会,《AI生成内容透明度行为准则》,支持遵守第50条的现行指引。
-
欧盟委员会,《委员会发布AI生成内容标记与标识行为准则》,10 June 2026。
-
爱尔兰警察局,《网络犯罪防范意识》,关于举报网络诈骗和保留证据的指引。
-
欧盟委员会,《利用DSA打击网络诈骗》,通知与行动机制指引。
-
媒体委员会,《数字服务法》,关于爱尔兰数字服务协调机构及平台义务。
-
媒体委员会,《媒体素养与反虚假信息小额资助》,3 September 2026。
-
爱尔兰政府,《钱伯斯部长宣布爱尔兰全新政府数字钱包进入公众咨询与测试阶段》,2026。
这也是Safegram 验证为已验证成员提供可见的 Peacemaker Ring(身份已验证标识)的原因。它不能代替个人判断,但能帮助人们在相信一条消息或一项交易提议之前,区分经过身份核验的账号与未经验证的账号。
更多 Safegram 内容
试用 Safegram
在都柏林打造、以隐私为先的社交平台与已验证交易平台。