AI聊天机器人走进童年,欧洲追问谁来保障安全
AI已融入儿童的学习与交流,欧洲面临的挑战是提升安全,而不把童年变成身份监控系统。

导语
对儿童而言,AI已不再是未来的技术。它已经融入作业、娱乐、探索求知和日常交流。本月发布的爱尔兰研究发现,儿童使用生成式人工智能的比例大幅上升;与此同时,欧洲提出的《EU KIDS Act》明确将存在风险的数字服务和AI系统纳入监管目标。因此,下一阶段的在线安全挑战已不止于社交媒体:如何让对话式AI更安全,同时避免把童年变成一套身份监控系统?
核心要点
- 据RTÉ报道,CyberSafeKids的2026年研究发现,受访儿童使用生成式AI的比例显著上升:8–12岁儿童中有55%使用AI,12–15岁儿童中则有76%。
- 欧盟委员会于17 September 2026发布的《EU KIDS Act》提案,旨在保护未成年人免受存在风险的数字服务和AI系统影响,而不仅仅针对传统社交媒体。
- 欧洲的年龄验证方案越来越注重保护隐私:欧盟委员会表示,其方案能够证明用户是否达到某一年龄门槛,而不披露用户的确切年龄、身份或其他个人信息。
- 爱尔兰的最新研究也说明了教育的重要性:在Coimisiún na Meán开展的全国性研究中,69%的儿童更希望学习如何安全上网,而不是被禁止使用社交媒体。
- 年龄核验有助于提供适龄体验,但不能替代安全的产品设计、数字素养、有效的举报机制和执法。
AI已悄然成为童年的一部分
多年来,关于儿童上网安全的主流讨论一直围绕社交媒体展开。如今,这一讨论框架已经显得过于狭窄。
CyberSafeKids的第十份年度报告《变化甚微的一年》(The Year Little Changed)在2025–26学年调查了超过7,000名儿童。RTÉ报道称,受访的8–12岁儿童中有55%使用生成式AI,12–15岁儿童中这一比例为76%。年龄较大的儿童更倾向于用它查找信息和完成学业,年龄较小的儿童则更常出于尝试或娱乐目的向它提问。
这些数字值得重视,因为对话式AI不同于传统的信息流。聊天机器人可以即时、反复地作出针对个人的回应。它能讲解作业、编故事、回答让人难以启齿的问题,也能模拟人与人之间的交谈。让它有用的这些特性,也可能使错误、不当回应或过度信任对年幼用户产生更大的影响。
这并不意味着AI天生对儿童有害,而是说,不能等产品已经进入日常生活之后,才补上儿童保护措施。
欧盟正在拓宽对网络安全保护的界定
17 September 2026,欧盟委员会发布了《欧盟互联网数字空间问责与可信法案》(EU Keeping Internet Digital Spaces Accountable and Trustworthy Act),简称《EU KIDS Act》的提案。
该提案因社交媒体年龄规则受到关注,包括分阶段开放账户使用,以及拟在欧盟范围内将特定社交网络服务和视频分享平台自主注册账户的年龄统一设为15岁。但它最重要的特点之一是覆盖范围更广:欧盟委员会表示,提案旨在保护未成年人免受存在风险的数字服务和AI系统影响。
这标志着监管思路的转变。儿童的数字生活不会止步于社交网络、游戏、搜索引擎与AI助手之间的边界。政策也开始承认这一现实。
从设计源头保障安全,比警告页面更重要
欧盟委员会将“从设计源头保障安全”列为新方针的核心支柱之一。这一原则对AI尤其重要。
对于面向儿童或儿童可以使用的AI系统,从设计源头保障安全,可能意味着在对话开始前就考虑可预见的风险:默认设置是否适龄,系统如何处理涉及性或暴力的请求,是否会鼓励用户形成依赖,如何回应情绪困扰的迹象,保留哪些数据,举报工具是否易于理解,以及年轻用户能否方便地联系可信赖的成年人或获得适当帮助。
没有哪一种防护措施能解决所有这些问题。一个出生日期填写框不等于一套安全架构,年龄验证页面也一样。有效的保护需要多层措施共同发挥作用。
年龄核验正变得更注重隐私——前提是落实得当
人们对线上年龄检查最强烈的反对意见之一不难理解:使用普通数字服务,不应每次都要交出护照或暴露自己的身份。
欧洲正在尝试将年龄证明与身份证明分开。欧盟委员会表示,其年龄核验蓝图允许用户证明自己符合所要求的年龄门槛,而无需披露确切年龄、身份或其他个人信息。一套功能已就绪的方案于April 2026推出,委员会也已敦促成员国在2026年底前提供年龄核验工具。
这类架构的意义可能远不止于限制成人内容的访问。如果某项服务需要知道用户高于还是低于某个年龄门槛,保护隐私的目标就应是只披露必要的最少事实,而不是新建一个收集身份与浏览行为的数据库。
隐私与安全并不对立。落实不当可能同时损害两者;审慎落实则可以同时加强两者。
爱尔兰儿童既希望有规则,也希望掌握技能
本月,Coimisiún na Meán发布了另一项重要研究结果。
其《网络安全与儿童数字生活》(Online Safety & Children’s Digital Lives)报告基于对9–17岁儿童及其父母或照护者的全国性调查。报告发现,69%的受访儿童认为,教会儿童如何安全上网,比禁止使用社交媒体更好。百分之六十七的儿童认为,禁令不会有效,因为儿童会找到绕过限制的办法。
不应将这一结果解读为儿童需要更少保护的证据。同一项研究也记录了有害及令人不安的上网经历。它所提示的是,不应把监管和教育视为彼此竞争的选择。
儿童可以受到更安全的默认设置保护,同时仍需要具备识别操纵、错误信息和不可靠AI输出的能力。家长可以拥有真正有用的管理权限,同时仍需要易于理解的说明,了解服务究竟如何运作。平台即便核实了用户是否符合年龄门槛,如果门槛之后的体验设计不佳,仍可能无法提供有效保护。
聊天机器人的问题,也是信任问题
生成式AI能够输出流畅的语言。流畅容易给人一种权威感,尤其是对那些尚缺乏经验、未必能区分自信表达与准确事实的年轻人而言。
这带来的数字素养挑战,不只是识别假新闻。年轻用户需要明白:AI的回答听起来很肯定,却仍可能是错的;聊天机器人未必是能为你保密的朋友、医生、老师或心理咨询师;对话中分享的个人信息,可能会按照该服务的政策被处理;涉及重大后果的建议,应向可信赖的人或权威来源核实。
这些技能可以通过学习获得。学校、家长、科技公司和公共机构都有责任参与相关教育。
爱尔兰已开始检验网络保护规则是否真正有效
监管正在从制定规则走向执法。
8 September 2026,Coimisiún na Meán依据爱尔兰《网络安全守则》(Online Safety Code)启动了首项正式调查,审查X的年龄核验机制和家长控制功能落实情况。启动调查并不等于认定X违反了该守则,但这表明,监管机构越来越关注防护措施是否真正有效,而不只是是否写在纸面上。
2026年早些时候,欧盟委员会也依据《数字服务法》(Digital Services Act)对Snapchat启动了正式程序,审查内容包括年龄核验和儿童保护风险。同样,这些程序属于调查,并不代表已认定其承担法律责任。
对AI服务提供方而言,这一方向应当已经十分清晰:一项安全功能即便存在,如果无效、难以使用或未能妥善融入产品,也可能无法满足监管机构或家庭的要求。
这对Safegram意味着什么
Safegram的发展方向建立在一个简单原则之上:应当在服务设计中就让用户能够更安全地参与,而不是等到出事后才追加措施。
Safegram目前已上线的功能包括端到端加密聊天、用户身份验证和商家验证、社交功能及通过Safegram Exchange(经过验证的本地交易市场)提供的交易功能、创作者与商家工具,以及账户层面的安全控制。
Safegram的青少年与家庭安全架构,旨在加强青少年与成年人之间在用户发现和消息往来方面的隔离,依据年龄提供访问权限,并向家庭成员发送安全通知,同时不让家庭成员查看私人对话内容。随着实施、测试及欧洲相关要求的发展,这一架构的具体组成部分可能会调整。
Safegram更广泛的AI能力,包括助手和面向商家的AI功能,应逐项评估。路线图中的构想、测试版功能或计划中的防护措施,在确认已进入正式产品之前,不应被描述为已全面上线。Safegram希望在扩展AI功能的同时,继续贯彻隐私优先和从设计源头保障安全的原则。
更大的问题已不再是儿童会不会使用AI
他们已经在用了。
真正有意义的问题是:他们在怎样的数字环境中使用AI?
欧洲正朝着一种结合适龄访问、注重隐私的年龄核验、安全设计与执法的模式迈进。与此同时,爱尔兰儿童也在告诉政策制定者,他们希望获得安全探索数字空间所需的知识。
这些思路应当相互结合。
更安全的数字童年,不会仅靠一道年龄门槛、一项禁令或一个AI过滤器实现。它需要产品设计考虑儿童的发展需求,在必要时以尊重隐私的方式确认年龄,需要切实可信的执法、家长能够用得起来的工具,以及了解自己所用系统的年轻人。
常见问题
爱尔兰儿童已经在使用AI聊天机器人了吗?
是的。据RTÉ报道,CyberSafeKids的2026年研究发现,受访的8–12岁儿童中有55%使用生成式AI,12–15岁儿童中则有76%。这些数字描述的是受访群体,不应直接视为对爱尔兰所有儿童情况的估计。
《EU KIDS Act》提案涵盖AI吗?
是的。欧盟委员会表示,该提案旨在通过统一协调的欧盟儿童网络保护框架,保护未成年人免受存在风险的数字服务和AI系统影响。
《EU KIDS Act》已经成为法律了吗?
没有。这是欧盟委员会于17 September 2026发布的提案,仍须经过欧盟立法程序,最终文本可能会有变化。
核验年龄是否意味着儿童必须向每个平台上传护照?
不一定。欧盟委员会注重隐私的方案,旨在证明用户是否符合年龄门槛,而不披露其确切年龄、身份或其他不必要的个人信息。
仅靠年龄核验,就能让人工智能聊天机器人安全吗?
不能。年龄核验有助于提供适龄体验,但安全还取决于产品设计、模型行为、数据处理方式、举报系统、家长工具、教育和执法。
为什么使用AI时需要具备相关判断能力?
AI系统能够生成令人信服但并不准确的信息。儿童需要学会核实说法、保护个人信息、识别不当互动,并知道何时应向可信赖的人寻求帮助或建议。
Safegram的做法有什么不同?
Safegram围绕验证、隐私和更安全的参与方式构建服务。其青少年与家庭架构旨在限制成年人不当地发现和联系青少年,同时保护私人对话内容。Safegram区分已上线功能与仍在开发中的功能或防护措施。
持续关注
AI融入日常数字生活的速度,正在超过规则、学校和家庭的适应速度。Safegram News将继续追踪爱尔兰与欧洲的变化,以及这些变化对年轻人、家长、企业和技术平台的实际意义。
关注Safegram News,获取以证据为依据的报道,了解网络保护、数字信任、隐私、验证以及更安全的网络社区。
参考来源
-
欧盟委员会,《EU KIDS Act提案——欧盟互联网数字空间问责与可信法案》,17 September 2026;更新于21 September 2026。
-
欧盟委员会,《EU KIDS Act拟限制社交媒体平台向欧盟儿童提供访问》,17 September 2026;更新于22 September 2026。
-
欧盟委员会,《欧盟的年龄核验方案》,更新于22 September 2026。
-
欧盟委员会,《委员会敦促成员国推广欧盟年龄核验应用》,29 April 2026。
-
Coimisiún na Meán,《网络安全与儿童数字生活——研究报告发布》,10 September 2026。
-
Coimisiún na Meán,《依据〈网络安全守则〉对X启动调查》,8 September 2026。
-
RTÉ News,《报告:年龄核验措施未能阻止未达规定年龄者使用社交媒体》,2 September 2026,报道CyberSafeKids的《变化甚微的一年》(The Year Little Changed)。
-
欧盟委员会,《委员会调查Snapchat是否遵守〈数字服务法〉中的儿童保护规则》,26 March 2026。
图片素材包
主图文件名:Article21_AI_Childhood_Hero_4K.jpg
替代文本:在都柏林明亮的厨房里,一位爱尔兰家长与十几岁的孩子坐在餐桌旁,讨论智能手机上的AI聊天机器人。
图片说明:AI已经成为儿童日常数字生活的一部分。政策面临的挑战,越来越在于如何从设计源头让这些体验更安全。
配图1文件名:Article21_AI_Digital_Literacy_Dublin_4K.jpg
替代文本:在都柏林一处现代化学习空间中,来自不同背景的爱尔兰中学生一起使用笔记本电脑和智能手机学习。
图片说明:AI素养正成为安全上网的一项核心技能:年轻用户需要明白,流畅的回答并不总是准确的回答。
配图2文件名:Article21_Privacy_Preserving_Age_Assurance_4K.jpg
替代文本:在真实的爱尔兰居家环境中,家长与青少年一起使用手机,画面带有含蓄的抽象年龄检查盾牌图案,没有身份证件。
图片说明:欧洲正在形成的年龄核验模式,旨在证明用户是否符合年龄门槛,同时尽可能少地披露个人信息。
配图3文件名:Article21_Safety_By_Design_AI_4K.jpg
替代文本:都柏林利菲河畔,青少年正在使用数字设备;这是一张以AI与安全上网为主题的高品质编辑配图。
图片说明:从设计源头保障安全,提出了一个不同的问题:不仅要问年轻人应避免什么,也要问技术提供方从一开始就应如何改变设计。
更多 Safegram 内容
试用 Safegram
在都柏林打造、以隐私为先的社交平台与已验证交易平台。