人工智能聊天机器人与儿童安全：欧盟儿童法案解析

前言

人工智能已不再是孩子们的未来技术，它早已融入他们的作业、娱乐、好奇心与日常对话中。本月发布的爱尔兰研究显示，儿童对生成式人工智能的使用率急剧上升，而欧洲提出的《欧盟儿童法案》（EU KIDS Act）则明确针对高风险数字服务和 AI 系统。因此，下一个在线安全挑战将比社交媒体更严峻：我们如何在不将童年变成身份监视系统的前提下，让对话式 AI 变得更安全？

关键要点

• CyberSafeKids 的 2026 年研究（据 RTÉ 报道）发现，受访儿童中生成式人工智能的使用率显著增长：8-12 岁儿童中有 55%，12-15 岁青少年中有 76% 正在使用 AI。
• 2026 年 9 月 17 日发布的《欧盟儿童法案》提案，旨在保护未成年人免受高风险数字服务和 AI 系统的侵害，而不止于传统的社交媒体。
• 欧洲的年龄验证方向日益趋向隐私保护：委员会表示，其解决方案可以在不泄露个人确切年龄、身份或其他个人详细信息的情况下，证明其达到了年龄门槛。
• 爱尔兰的最新证据也说明了教育的重要性：在 Coimisiún na Meán 的全国研究中，69% 的儿童更希望被教授如何保持在线安全，而不是被禁止使用社交媒体。
• 年龄保障有助于建立适合年龄的体验，但它不能取代安全的产品设计、数字素养、有效的举报机制和法律执行。

AI 已悄然成为童年的一部分

多年来，关于儿童在线安全的主要辩论一直围绕着社交媒体展开。但现在这种框架已显得过于狭隘。

CyberSafeKids 的第十份年度报告《变化微小的一年》（The Year Little Changed）在 2025-26 学年调查了 7,000 多名儿童。RTÉ 报道称，受访的 8-12 岁儿童中有 55%，12-15 岁青少年中有 76% 正在使用生成式人工智能。大孩子更有可能将其用于获取信息和完成学业，而较小的孩子则更有可能进行尝试或询问娱乐性问题。

这些数字至关重要，因为对话式 AI 不同于传统的信源流。聊天机器人可以进行个性化、即时且重复的响应。它可以解释家庭作业、编造故事、回答令人尴尬的问题并模拟对话。正是这些使其变得有用的特性，也可能导致错误信息、不当回复或过度信任，从而对年轻用户产生更严重的影响。

这并不意味着 AI 对儿童天生有害，它意味着儿童安全不能在产品已经成为日常生活一部分之后才补救性地加上去。

欧洲正在扩大在线安全的定义

2026 年 9 月 17 日，欧盟委员会公布了《欧盟互联网数字空间问责与诚信法案》（简称欧盟儿童法案，EU KIDS Act）的提案。

该提案因其针对社交媒体的年龄规则而备受关注，包括逐步开放账户访问权限，并建议在全欧盟范围内将自主创建特定社交网络和视频分享平台账户的年龄定为 15 岁。但其最重要的特征之一是涵盖范围更广：委员会表示，该提案旨在保护未成年人免受高风险数字服务和 AI 系统的侵害。

这标志着监管重心的转变。儿童的数字生活并不会止步于社交网络、游戏、搜索引擎和 AI 助手之间的界限。政策制定正开始承认这一现实。

安全设计比警告弹窗更重要

委员会将“安全设计”（Safety by Design）描述为其新方案的核心支柱。这一原则对于 AI 尤为重要。

对于面向儿童或儿童可接触的 AI 系统，安全设计意味着在对话开始前就考虑可预见的风险：符合年龄的默认设置、系统如何处理性或暴力请求、是否鼓励产生依赖、如何响应求救信号、保留哪些数据、举报工具是否易于理解，以及年轻用户联系到可信成年人或适当帮助的简便程度。

没有任何单一的保障措施能解决所有问题。一个出生日期输入框并不是安全架构，年龄验证屏幕也不是。有效的保护应该是多层次的。

如果实施得当，年龄保障将更加保护隐私

对在线年龄检查最强烈的反对意见之一是可以理解的：人们不应该在每次使用普通数字服务时都必须交出护照或暴露身份。

欧洲正试图将“年龄证明”与“身份证明”分开。欧盟委员会表示，其年龄验证蓝图允许用户证明自己达到了要求的年龄门槛，而无需透露确切的出生日期、身份或其他个人隐私信息。功能就绪的解决方案已于 2026 年 4 月推出，委员会已敦促成员国在 2026 年底前提供年龄验证工具。

这种架构的意义可能远超成人内容限制。如果一项服务需要知道某人是否处于某个年龄门槛之上或之下，那么以隐私保护为目标，应该只披露所需的最低限度事实，而不是建立一个新的身份和浏览行为数据库。

隐私与安全并非对立面。糟糕的实施会破坏两者；谨慎的实施则会强化两者。

爱尔兰儿童正在寻求技能与规则的结合

本月来自 Coimisiún na Meán 的另一项重要证据显示了这一趋势。

其《在线安全与儿童数字生活》报告基于对 9-17 岁儿童及其家长的全国性调查。结果发现，69% 的受访儿童认为，教导儿童如何保持在线安全比禁止社交媒体更好。67% 的人认为禁令将是无效的，因为孩子们总能找到绕过的方法。

这不应被解释为儿童需要较少的保护。同一项研究记录了有害且令人不安的在线体验。相反，它表明监管和数字素养教育不应被视为相互竞争的理念。

一名儿童可以在更安全的默认设置保护下，依然需要具备识别操纵、虚假信息和不可靠 AI 输出的技能。家长可以拥有有效的控制权，但依然需要关于服务功能的易懂信息。平台可以验证年龄门槛，但如果门槛后的体验设计拙劣，平台依然会失败。

聊天机器人问题也是信任问题

生成式 AI 能产生流利的语言。流利感可能会被视为权威，尤其是对于可能尚未具备区分“自信”与“准确性”经验的年轻人来说。

这带来了一个超越简单识别假新闻的数字素养挑战。年轻用户需要理解：AI 的回答听起来很肯定但仍可能是错的；聊天机器人不一定是机密的朋友、医生、老师或顾问；对话中分享的个人信息可能会根据服务政策被处理；高风险的建议应该向可信的人或权威来源核实。

这些都是可以学习的技能。学校、家长、科技公司和公共机构在传授这些技能方面都扮演着重要角色。

爱尔兰已在测试在线安全规则的实践效果

监管环境正在从制定规则转向执行规则。

2026 年 9 月 8 日，Coimisiún na Meán 根据爱尔兰《在线安全法典》启动了首个正式调查，审查 X 平台对年龄保障机制和家长控制的实施情况。启动调查并不意味着 X 违反了法典，但它表明监管机构正越来越多地审查保障措施是否真的有效，而不仅仅是看它们是否在书面上存在。

2026 年初，欧盟委员会还根据《数字服务法案》（DSA）启动了针对 Snapchat 的正式程序，包括审查年龄验证和儿童保护风险。同样，诉讼是调查行为，而非最终的法律定责。

对于 AI 提供商来说，趋势已经很明显：一个存在但无效、难以触及或整合不力的安全功能可能无法令监管机构或家庭满意。

这对 Safegram 意味着什么

Safegram 的发展方向基于一个简单的原则：安全的参与应该是设计在服务之内的，而不是在出问题后才添加的。

目前 Safegram 的功能包括端到端加密聊天、用户和企业验证、通过 Safegram Exchange 实现的社交和市场功能、创作者/商业工具以及账户级别的安全控制。

Safegram 的青少年和家庭安全架构旨在加强青少年与成人之间的发现与沟通隔离，实现感知年龄的访问控制，并在不触及私人对话内容的前提下提供家庭安全通知。随着实施、测试和欧洲要求的演变，该架构的各个元素可能会持续迭代。

Safegram 更广泛的 AI 能力（包括助手和面向业务的 AI 功能）应逐项评估。在正式产品确认之前，路线图概念、测试功能或计划中的保障措施不应被描述为全面上线的。Safegram 的目标是随着 AI 功能的扩展，应用相同的隐私优先和安全设计原则。

核心问题不再是儿童是否会使用 AI

他们已经在使用了。

真正有意义的问题是，这种使用处于什么样的数字环境中。

欧洲正在转向一种结合了适龄访问、隐私保护年龄验证、安全设计和强制执行的模式。与此同时，爱尔兰的孩子们告诉决策者，他们也希望获得安全畅游数字空间的知识。

这些想法应当相辅相成。

一个更安全的数字童年不会仅靠一个年龄门槛、一个禁令或一个 AI 过滤器来实现。它将来自于考虑了儿童发展需求的产品设计、必要时尊重隐私的年龄确定方式、可靠的执法、拥有易用工具的父母，以及理解其所使用系统的年轻人。

FAQ

爱尔兰的儿童已经在应用人工智能聊天机器人了吗？ 是的。据 RTÉ 报道，CyberSafeKids 2026 年的研究发现，55% 的受访 8-12 岁儿童和 76% 的 12-15 岁青少年正在使用生成式 AI。这些数据描述了受访群体，不应自动视为对爱尔兰所有儿童的估算。

拟议的《欧盟儿童法案》涵盖 AI 吗？ 是的。欧盟委员会表示，该提案旨在将保护未成年人免受高风险数字服务和 AI 系统的侵害，作为欧盟儿童在线安全连贯框架的一部分。

《欧盟儿童法案》已经成为法律了吗？ 尚未。这是欧盟委员会于 2026 年 9 月 17 日发布的提案，必须经过欧盟立法程序。其最终条文可能会发生变化。

年龄验证是否意味着儿童必须向每个平台上传护照？ 不一定。委员会的隐私保护方案旨在证明用户满足年龄门槛，而无需透露其确切年龄、身份或其他不必要的个人细节。

年龄保障能独立使人工智能聊天机器人变得安全吗？ 不能。年龄保障可以支持适龄体验，但安全性还取决于产品设计、模型行为、数据实践、举报系统、家长工具、教育和执法。

为什么数字素养在使用 AI 时很重要？ AI 系统可能生成令人信服但并不准确的信息。儿童需要具备核实主张、保护个人信息、识别不当互动以及知道何时寻求可信人员帮助或建议的技能。

Safegram 在做哪些不同的尝试？ Safegram 围绕验证、隐私和以安全为导向的参与进行构建。其青少年/家庭架构旨在限制不当的成人对青少年发现和接触，同时保留私人对话内容的私密性。Safegram 对已上线的功能与仍在开发中的功能或保障措施进行了明确区分。

立即行动

AI 融入数字日常生活的速度超过了规则、学校和家庭的适应速度。Safegram News 将持续关注爱尔兰和欧洲的变化，以及这些变化对年轻人、家长、企业和技术平台的实际意义。

关注 Safegram News，获取关于在线安全、数字信任、隐私、验证和更安全在线社区的证据导向型深度报道。

参考文献

1. 欧盟委员会，"Proposal for EU KIDS Act — EU Keeping Internet Digital Spaces Accountable and Trustworthy"，2026年9月17日；2026年9月21日更新。

2. 欧盟委员会，"EU KIDS Act to restrict social media platforms’ access to children in the EU"，2026年9月17日；2026年9月22日更新。

3. 欧盟委员会，"The EU approach to age verification"，2026年9月22日更新。

4. 欧盟委员会，"Commission urges Member States to rollout EU age verification app"，2026年4月29日。

5. Coimisiún na Meán，"Online Safety & Children’s Digital Lives — research report published"，2026年9月10日。

6. Coimisiún na Meán，"Investigation commenced into X under Online Safety Code"，2026年9月8日。

7. RTÉ News，"Age assurance measures not stopping underage social media access — report"，2026年9月2日，援引 CyberSafeKids 的 《变化微小的一年》。

8. 欧盟委员会，"Commission investigates Snapchat’s compliance with child protection rules under the Digital Services Act"，2026年3月26日。

图像说明

AI 已经成为儿童日常数字生活的一部分。政策挑战日益转向如何通过设计使这些体验更加安全。

AI 素养正在成为核心的在线安全技能：年轻用户需要理解，流利的回答并不总是准确的回答。

欧洲新兴的年龄保障模式旨在证明年龄门槛，同时尽可能减少个人信息的披露。

安全设计提出了一个不同的问题：不仅是年轻人应该避免什么，而是技术提供商从一开始就应该如何进行差异化构建。