谁来审计算法?欧洲要求平台用证据证明安全

欧洲平台监管正从安全承诺转向实际成效,要求企业说明系统如何识别风险、采取措施,并接受外部检验。

作者:Safegram Editorial Team发布于 更新于 · 🇨🇳 中文
分析师在办公室显示器上查看算法数据与代码

欧洲的数字监管正在进入更严格的阶段。平台仅仅公布安全政策,或声称已减少有害推荐,已不再足够。监管机构、研究人员和公民社会组织越来越希望看到证据:风险评估、数据访问、可衡量的缓解措施,以及对推荐系统运行方式的解释。欧盟委员会于 23 September 2026 举行的圆桌会议,将这一证据问题置于 DSA执法的核心位置,同时讨论了未成年人保护、网络交易市场、人工智能相关风险,以及新提出的 KIDS法案。

要点速览

  • 23 September 2026,欧盟委员会与约 60 家公民社会组织及研究人员举行第五次 DSA 圆桌会议,重点讨论系统性风险及其缓解措施。
  • 讨论涉及平台的风险分析报告、独立研究、数据访问,以及审查大型网络服务时面临的实际障碍。
  • 根据 DSA,未成年人能够访问的平台必须采取适当措施,为年轻用户提供高水平的隐私与安全保障。
  • 欧盟提出的 KIDS 立法提案将进一步推进这一模式,要求相关服务证明其适合相应年龄的用户,并从设计之初就考虑安全。
  • 对用户而言,关键问题正从“这个平台有没有安全政策?”转向“平台能否证明,其产品确实降低了风险?”

欧洲正推动在线安全从承诺走向证据,要求平台展示其系统如何识别和降低风险。

从安全承诺到安全证据

多年来,围绕社交平台的公共讨论主要聚焦于规则:社区准则、举报按钮、家长控制,以及有关有害内容的声明。

这些仍然重要。但欧洲的监管模式越来越关注这些安排背后的实际运行情况。

25 September,欧盟委员会发布了第五次公民社会组织及研究人员圆桌会议的纪要,主题是《数字服务法》的实施。会议于 23 September 举行,约有 60 家组织参与。

会议重点是系统性风险及其缓解:平台如何识别自身服务带来的风险,如何应对,以及外部人员如何检验这些措施是否有效。

与会者讨论了对平台风险报告的分析、独立研究、研究方法、数据访问,以及研究人员遇到的实际困难。委员会还强调了近期的执法重点,包括未成年人保护、网络交易市场、人工智能相关风险及 KIDS 立法提案。

这些听起来或许很技术化,但实际上,它们指向当代科技政策中一个极其重要的问题:谁有机会核查,算法是否真的像企业所说的那样运行?

安全设计关注的是产品架构本身能否降低可预见的风险,而不只是有没有一份政策。

为什么算法需要接受审查

社交平台并不只是帖子的集合。排序系统决定什么先出现,推荐系统决定接下来看到什么,通知机制决定何时把用户吸引回来。搜索、推荐关注账号、自动播放和互动预测,都可能塑造用户体验。

对于儿童而言,这些系统可能与内容规则本身同样重要。

平台可能禁止有害内容,却仍在运行一套推荐系统,不断把处于脆弱状态的用户引向游走于规则边缘或越来越极端的内容。平台可能提供了家长控制,但设置入口难以找到。它也可能设有举报功能,却让整个操作过程令人困惑或耗时过长。

因此,将安全融入设计的理念越来越关注产品实际上如何运作,而不只是政策是否存在。

爱尔兰已开始检验落实情况

爱尔兰监管机构 Coimisiún na Meán 是该国的数字服务协调机构,在爱尔兰网络安全框架中发挥核心作用。

该机构指出,根据 DSA,未成年人能够访问的网络平台,其提供方必须采取适当措施,为未成年人提供高水平的隐私与安全保障。

爱尔兰《网络安全守则》对指定的视频分享平台另有具体要求。8 September 2026,Coimisiún na Meán 启动了该守则下的首次正式调查,审查 X 在年龄保障机制和家长控制方面的落实情况。

启动调查并不等于认定存在违规。这一区别很重要。但这一案例体现了监管方向:监管机构审查的不仅是保障措施是否写在纸上,还包括这些措施落实后是否可能有效、是否容易找到,以及是否便于使用。

KIDS 立法提案进一步提高要求

欧盟委员会于 17 September 2026 提出欧盟 KIDS 立法提案。它目前是提案,而非最终法律,文本仍可能在立法过程中发生变化。

不过,其核心方向仍值得关注。委员会表示,该提案将要求网络服务从设计之初就纳入安全考量,并倒置举证责任,由服务提供方证明服务适合相应年龄的用户且足够安全。

提案还将欧盟范围内可自主开设社交媒体账号的年龄统一设为 15 岁,同时为更年幼的用户设置分阶段使用模式,并纳入年龄保障、家长责任和更有力的执法安排。

将其与 DSA 放在一起看,正在形成的监管理念就更加清晰。欧洲不希望儿童安全完全依赖于儿童自己识别危险、家长找到隐藏的设置,或监管机构在伤害发生后才发现问题。它越来越期待服务本身识别可预见的风险,并通过技术设计加以防范。

研究人员和公民社会组织在独立审查网络系统性风险方面,正发挥越来越重要的作用。

算法审计究竟需要什么?

没有哪一种单独的测试,能神奇地完成对推荐系统的检验。

有意义的审查可能需要多个层面的证据。研究人员可能需要了解:哪些信号影响排序,不同用户群体的推荐路径有何差异,安全干预是否改变了结果,以及某些群体是否承受了不成比例的风险暴露。

数据访问之所以重要,是因为外部人员无法仅凭公开截图可靠地评估一个复杂平台。但这种访问也必须尊重用户隐私、安全,以及对保密信息的正当保护。

这形成了一个艰难的平衡:透明度必须足以支持严肃审查,同时不能为个人数据泄露开辟新路径,也不能让系统更容易被滥用。

委员会的 9 月圆桌会议之所以重要,恰恰是因为研究人员和公民社会也是这一平衡中的参与方。监管机构不可能独立复现每个大型平台上的每一种用户使用路径。独立专业力量可以帮助识别规律、质疑假设,并检验有关缓解效果的说法能否经得起真实使用行为的考验。

平台应当能够回答的问题

有价值的安全主张,应当越来越能够接受检验。

如果企业表示,它减少了成年人主动对未成年人发起的不受欢迎的联系,那么究竟改变了什么,又有什么证据表明这类联系确实减少了?

如果它表示推荐系统对青少年更安全,如何衡量“更安全”?

如果它表示年龄保障措施能阻止年龄未达要求的用户访问受限内容,那么流程有多可靠,又需要哪些个人信息?

如果提供了家长控制,普通家长是否真的能找到并理解这些功能?

这些问题让讨论从口号转向实际结果。

一项安全功能,只有在人们能找到、能理解并能有效使用时,才有意义。

这对 Safegram 意味着什么——已上线、开发中与计划中的工作

Safegram 的编辑立场是:信任应融入平台设计,并有证据支撑,而不应被当作营销说辞。

Safegram 已上线的功能包括面向相关账号类型的身份验证参与机制、注重隐私的通信、Safegram Exchange(经过验证的本地交易市场)相关功能,以及面向企业和创作者的工具。Safegram 也一直在开发按年龄区分的青少年与家庭安全架构,旨在加强青少年与成年人在用户发现和消息往来中的隔离,同时保护对话隐私。

除非某项功能已确认存在于当前正式运行的版本中,否则这些青少年及家庭相关功能应被描述为开发中、测试中或分阶段推出。同样,除非相关机制确已建立并得到核实,Safegram 不应声称自己拥有正式的 DSA 算法审计计划、KIDS 法规合规认证、获监管机构认可的风险审查,或面向研究人员的公开数据访问计划。

机会在于,从一开始就朝着可衡量的安全目标建设:明确安全功能应达到什么目的,记录它是否取得相应结果,尽量减少不必要的个人数据,并让使用者能够理解重要的保护措施。

这比说一句“相信我们”更有说服力。它让平台有可能展示,为什么自己值得信任。

为什么这不只是科技巨头的问题

最大的平台吸引了大部分监管关注,但其中的基本启示也适用于规模较小的服务。

初创企业往往有一项优势:它们可以在旧有系统、广告激励机制以及数十亿次既有互动让改动变得昂贵之前,就作出架构选择。

一家新兴平台可以尽早决定,未成年人和成年人是否应以相同方式互动。它可以决定身份核验只是表面装饰,还是与责任追溯相衔接。它也可以在有害模式固化之前,设计好举报、用户发现和消息往来的规则。

但规模更小并不自动意味着更安全。良好意愿不是证据。同样严谨的方法也应适用:明确风险、测试控制措施、记录决策,并在证据显示存在薄弱环节时作出改进。

网络安全治理的下一阶段

欧洲围绕网络服务安全的讨论正变得更具体。

DSA 确立了与系统性风险有关的义务。爱尔兰已开始依据《网络安全守则》开展调查。拟议中的 KIDS 立法将为儿童保护增加一套更明确的、从设计源头纳入安全的制度。研究人员和公民社会组织正在争取必要的数据访问条件和研究方法,以审查平台在实践中如何运作。

这些变化带来了一套新的可信度标准。

网站上的安全页面有用,设置有用,政策也有用。但越来越具有决定性的问题是:平台能否证明,其系统带来了更安全的结果?

对于下一代社交技术而言,这可能成为一条格外清晰的分界线:安全究竟只是品牌宣传,还是扎实的工程实践。

常见问题

什么是《数字服务法》?

这是一部适用于整个欧盟的法律,监管包括网络平台在内的在线中介服务。除其他要求外,它规定了涉及非法内容、透明度、系统性风险和基本权利保护的义务。未成年人能够访问的平台必须采取适当措施,为未成年人提供高水平的隐私与安全保障。

什么是系统性风险?

在 DSA 语境下,系统性风险是指与超大型平台和搜索引擎的设计、运行或使用相关的大规模风险。视具体服务和法律条款而定,风险评估及缓解工作可能涉及非法内容、基本权利、公共安全、公共讨论,以及对未成年人的影响等问题。

研究人员可以审查平台算法吗?

DSA 设有相关机制,允许经审核的研究人员访问超大型网络平台和搜索引擎的特定数据,但须遵守法律要求和保障措施。实际的数据访问安排和研究方法,仍是持续讨论的议题。

欧盟委员会为什么在 September 2026 与研究人员会面?

委员会于 23 September 举行的第五次 DSA 公民社会及研究人员圆桌会议,重点讨论了系统性风险、缓解措施、对平台风险报告的分析、数据访问,以及研究中的实际挑战。

欧盟 KIDS 立法提案已经成为法律了吗?

没有。欧盟委员会于 17 September 2026 提出该提案。它仍须经过欧盟立法程序,最终规则可能发生变化。

爱尔兰已经开始执行网络安全规则了吗?

是的。Coimisiún na Meán 负责监督爱尔兰网络安全框架,也是爱尔兰的数字服务协调机构。8 September 2026,该机构启动了《网络安全守则》下的首次正式调查。调查本身并不构成对违规的认定。

Safegram 目前是否有独立算法审计计划?

除非此类计划已正式实施并得到核实,否则 Safegram 不应声称该计划已经运行。其安全工作方向可以围绕可衡量的控制措施展开,但处于计划或开发阶段的治理安排,仍应清楚标明其状态。

参考来源

  1. 欧盟委员会,《关于〈数字服务法〉实施的第五次公民社会组织及研究人员圆桌会议》,发布于 25 September 2026;会议举行于 23 September 2026。

  2. 欧盟委员会,《欧盟 KIDS 立法将限制社交媒体平台触达欧盟儿童》,17 September 2026,更新于 22 September 2026。

  3. 欧盟委员会,《欧盟 KIDS 立法提案——让欧盟互联网数字空间可问责、可信赖》,17 September 2026。

  4. 欧盟委员会,《KIDS 立法》,塑造欧洲数字未来,更新于 18 September 2026。

  5. Coimisiún na Meán,《数字服务法》,网络安全框架。

  6. Coimisiún na Meán,《依据〈网络安全守则〉启动对 X 的调查》,8 September 2026。

更多 Safegram 内容

试用 Safegram

在都柏林打造、以隐私为先的社交平台与已验证交易平台。