Quem Audita o Algoritmo? A Europa está a Transformar a Segurança Online num Teste de Provas

O livro de regras digitais da Europa está a entrar numa fase mais rigorosa. Já não basta que uma plataforma publique políticas de segurança ou afirme que as recomendações prejudiciais foram reduzidas. Reguladores, investigadores e grupos da sociedade civil exigem, cada vez mais, provas: avaliação de riscos, acesso a dados, atenuações mensuráveis e explicações sobre o comportamento dos sistemas de recomendação. Uma mesa-redonda da Comissão Europeia, realizada a 23 de setembro de 2026, colocou este problema da evidência no centro da aplicação DSA (Lei dos Serviços Digitais) — a par da proteção de menores, dos mercados online, dos riscos de IA e da recém-proposta Lei KIDS. A segurança online depende agora da transparência algorítmica e da responsabilidade da plataforma em demonstrar uma verdadeira segurança desde a concepção.

Principais conclusões

• Em 23 de setembro de 2026, a Comissão Europeia realizou a sua quinta mesa-redonda sobre o DSA com cerca de 60 organizações da sociedade civil e investigadores, focada em riscos sistémicos e medidas de mitigação.
• A discussão analisou relatórios de avaliação de risco das plataformas, investigação independente, acesso a dados e barreiras práticas à fiscalização de grandes serviços online.
• Ao abrigo da DSA, as plataformas acessíveis a menores devem adotar medidas adequadas para garantir um elevado nível de privacidade e segurança para os utilizadores mais jovens.
• A proposta de Lei KIDS da UE pretende reforçar este modelo, exigindo que os serviços demonstrem ser adequados à idade e seguros desde a conceção.
• Para os utilizadores, a questão central está a mudar de "Esta plataforma tem uma política de segurança?" para "Pode a plataforma demonstrar que o seu produto reduz realmente o risco?"

A Europa está a passar das promessas para as provas na segurança online, exigindo que as plataformas demonstrem como os seus sistemas identificam e mitigam riscos.

Das promessas de segurança às provas de segurança

Durante anos, a conversa pública sobre plataformas sociais girou em torno de regras: normas da comunidade, botões de denúncia, controlos parentais e declarações sobre conteúdos prejudiciais.

Estes elementos continuam a ser importantes. Contudo, o modelo regulatório europeu está cada vez mais interessado no que acontece "debaixo do capô".

A 25 de setembro, a Comissão Europeia publicou o relatório da sua quinta mesa-redonda com a sociedade civil e investigadores sobre a implementação da Lei dos Serviços Digitais. O encontro, ocorrido a 23 de setembro, reuniu cerca de 60 organizações.

O foco foi o risco sistémico e a mitigação: como as plataformas identificam riscos criados pelos seus serviços, o que fazem para os combater e como entidades externas podem testar se essas medidas funcionam.

Os participantes discutiram a análise dos relatórios de avaliação de risco das plataformas, métodos de investigação independente, acesso a dados e as dificuldades práticas que os investigadores enfrentam. A Comissão destacou também prioridades recentes de fiscalização, incluindo a proteção de menores, marketplaces online, riscos associados à IA e a proposta da Lei KIDS.

Isto pode parecer técnico, mas, na prática, levanta uma das questões mais vitais da política tecnológica moderna: quem pode verificar se um algoritmo está a fazer o que a empresa diz que está a fazer?

A segurança desde a conceção questiona se a própria arquitetura do produto reduz riscos previsíveis — e não meramente se existe uma política escrita.

Por que motivo os algoritmos precisam de fiscalização

Uma plataforma social não é apenas uma coleção de publicações. Os sistemas de classificação decidem o que aparece primeiro. Os sistemas de recomendação decidem o que vem a seguir. As notificações decidem quando as pessoas são atraídas de volta. A pesquisa, sugestões de contas, reprodução automática e previsões de interação moldam a experiência do utilizador.

Para uma criança, estes sistemas podem ser tão importantes quanto as próprias regras de conteúdo.

Uma plataforma pode proibir material prejudicial, mas operar um sistema de recomendação que direciona repetidamente um utilizador vulnerável para conteúdos limítrofes ou cada vez mais extremos. Pode oferecer controlos parentais tecnicamente presentes, mas difíceis de encontrar. Pode fornecer uma função de denúncia, mas tornar a experiência envolvente confusa ou lenta.

É por isso que a segurança desde a conceção se foca cada vez mais no comportamento do produto, e não apenas na existência de uma política.

Irlanda já está a testar a implementação

O regulador da Irlanda, a Coimisiún na Meán, é o Coordenador de Serviços Digitais do país e desempenha um papel central no Quadro de Segurança Online irlandês.

O regulador afirma que, ao abrigo da DSA, os fornecedores de plataformas online acessíveis a menores devem implementar medidas adequadas para garantir um elevado nível de privacidade e segurança para os mesmos.

O Código de Segurança Online da Irlanda acrescenta obrigações específicas para plataformas de partilha de vídeos designadas. Em 8 de setembro de 2026, a Coimisiún na Meán abriu a sua primeira investigação formal ao abrigo deste Código, examinando a implementação de mecanismos de garantia de idade e controlos parentais no X.

A abertura de uma investigação não constitui uma conclusão de irregularidade. Esta distinção é importante. Contudo, o caso ilustra o rumo dos acontecimentos: os reguladores estão a examinar não apenas se uma salvaguarda existe no papel, mas se a sua implementação é eficaz, visível e utilizável.

A Lei KIDS eleva a fasquia novamente

A Comissão Europeia propôs a Lei KIDS da UE em 17 de setembro de 2026. Trata-se de uma proposta, não de uma lei final, e o seu texto pode sofrer alterações durante o processo legislativo.

No entanto, a sua direção central é significativa. A Comissão afirma que a proposta exigirá que os serviços online sejam seguros desde a conceção e inverterá o ónus da prova, obrigando os fornecedores a demonstrar que os serviços são adequados à idade e seguros.

A proposta estabelece também uma idade mínima de 15 anos a nível da UE para contas autónomas em redes sociais, a par de um modelo gradual para utilizadores mais jovens, garantia de idade, responsabilidade parental e uma fiscalização mais robusta.

Ao lado da DSA, a filosofia emergente torna-se clara. A Europa não quer que a segurança infantil dependa inteiramente de uma criança reconhecer o perigo, de um progenitor encontrar uma definição oculta ou de um regulador descobrir um problema após o dano ocorrer. Espera-se cada vez mais que o próprio serviço identifique riscos previsíveis e seja projetado para os evitar.

Os investigadores e as organizações da sociedade civil são cada vez mais importantes para a fiscalização independente dos riscos sistémicos online.

O que é realmente necessário para uma auditoria algorítmica?

Não existe um teste mágico único para um sistema de recomendação.

Uma fiscalização significativa pode exigir várias camadas de provas. Os investigadores podem precisar de compreender que sinais influenciam a classificação, como os percursos de recomendação diferem entre grupos de utilizadores, se as intervenções de segurança alteram os resultados e se certos grupos sofrem uma exposição desproporcional a riscos.

O acesso é fundamental porque entidades externas não podem avaliar fiavelmente uma plataforma complexa apenas através de capturas de ecrã públicas. No entanto, o acesso deve também respeitar a privacidade dos utilizadores, a segurança e as proteções legítimas de informações confidenciais.

Isto cria um equilíbrio difícil: transparência suficiente para permitir uma fiscalização séria, sem criar uma nova via para expor dados pessoais ou facilitar o abuso dos sistemas.

A mesa-redonda de setembro da Comissão é importante precisamente porque investigadores e sociedade civil fazem parte dessa equação. Os reguladores não podem reproduzir independentemente cada jornada de utilizador em todas as grandes plataformas. A perícia independente ajuda a identificar padrões, desafiar pressupostos e testar se as alegações de mitigação sobrevivem ao contacto com o comportamento no mundo real.

A pergunta que as plataformas devem ser capazes de responder

Uma alegação de segurança útil deve ser, cada vez mais, testável.

Se uma empresa diz ter reduzido o contacto não solicitado de adultos com menores, o que mudou e que provas demonstram essa redução?

Se diz que um sistema de recomendação é mais seguro para adolescentes, como é medida essa "maior segurança"?

Se diz que a garantia de idade impede utilizadores mais jovens de aceder a material restrito, quão robusto é o processo — e que informações pessoais exige?

Se existe um controlo parental, podem os pais comuns encontrá-lo e compreendê-lo?

Estas perguntas afastam o debate dos slogans e aproximam-no dos resultados.

Uma funcionalidade de segurança só importa se as pessoas a conseguirem encontrar, compreender e utilizar eficazmente.

O que isto significa para a Safegram — atual, em desenvolvimento e planeado

A posição editorial da Safegram é que a confiança deve ser projetada na plataforma e apoiada por provas, em vez de ser tratada como uma afirmação de marketing.

As funcionalidades atuais da Safegram incluem participação verificada para tipos de conta relevantes, comunicação orientada para a privacidade, funcionalidades da Safegram Exchange e ferramentas para empresas e criadores. A Safegram tem também estado a desenvolver uma arquitetura de segurança para adolescentes e famílias consciente da idade, destinada a criar uma separação mais forte entre adolescentes e adultos na descoberta e mensagens, preservando a privacidade das conversas.

Estes elementos para adolescentes/famílias devem ser descritos como estando em desenvolvimento, em teste ou em fase de implementação gradual, a menos que uma funcionalidade específica tenha sido confirmada na versão de produção atual. Da mesma forma, a Safegram não deve afirmar possuir um programa formal de auditoria algorítmica da DSA, uma certificação de conformidade com a Lei KIDS, avaliações de risco aprovadas pelo regulador ou um programa público de acesso a dados para investigadores, a menos que tais sistemas estejam efetivamente estabelecidos e verificados.

A oportunidade reside em construir com vista a uma segurança mensurável desde o início: definir o que uma funcionalidade de segurança deve alcançar, registar se atinge esse resultado, minimizar dados pessoais desnecessários e tornar as proteções importantes compreensíveis para quem as utiliza.

Isto é mais forte do que dizer "confiem em nós". Cria a possibilidade de mostrar por que razão a confiança é merecida.

Por que razão isto importa além da Big Tech

As maiores plataformas atraem a maior parte da atenção regulatória, mas a lição subjacente é relevante também para serviços mais pequenos.

As startups têm muitas vezes uma vantagem: podem tomar decisões de arquitetura antes que sistemas legados, incentivos publicitários e milhares de milhões de interações tornem as mudanças dispendiosas.

Uma plataforma jovem pode decidir cedo se menores e adultos devem interagir da mesma forma. Pode decidir se a verificação é meramente cosmética ou associada à responsabilidade. Pode desenhar regras de denúncia, descoberta e mensagens antes que padrões prejudiciais se enraízem.

Mas ser mais pequeno não significa automaticamente ser mais seguro. Boas intenções não são provas. A mesma disciplina deve aplicar-se: definir riscos, testar controlos, documentar decisões e melhorar quando as provas mostram uma falha.

A próxima fase da segurança online

O debate sobre a segurança online na Europa está a tornar-se menos abstrato.

A DSA criou obrigações em torno do risco sistémico. A Irlanda está a avançar com investigações ao abrigo do seu Código de Segurança Online. A proposta de Lei KIDS acrescentaria um regime de segurança desde a conceção mais explícito para crianças. Investigadores e organizações da sociedade civil pressionam pelo acesso e métodos necessários para examinar como as plataformas se comportam na prática.

O resultado é um novo padrão de credibilidade.

Uma página de segurança num website é útil. Uma definição é útil. Uma política é útil. Mas, cada vez mais, a questão decisiva será se uma plataforma pode demonstrar que os seus sistemas produzem resultados mais seguros.

Para a próxima geração de tecnologia social, esta poderá tornar-se uma das linhas divisórias mais claras entre a segurança como marketing e a segurança como engenharia.

Perguntas frequentes (FAQ)

O que é a Lei dos Serviços Digitais (DSA)?

A Lei dos Serviços Digitais é uma legislação a nível da UE que regula os serviços intermediários online, incluindo plataformas. Entre outras obrigações, cria deveres em torno de conteúdos ilegais, transparência, riscos sistémicos e proteção de direitos fundamentais. As plataformas acessíveis a menores devem garantir um elevado nível de privacidade e segurança.

O que é um risco sistémico?

No contexto da DSA, os riscos sistémicos são riscos em grande escala ligados ao design, funcionamento ou utilização de plataformas e motores de pesquisa muito grandes. Podem envolver temas como conteúdos ilegais, direitos fundamentais, segurança pública e efeitos sobre menores.

Podem os investigadores inspecionar os algoritmos das plataformas?

Existem mecanismos na DSA para que investigadores credenciados acedam a certos dados de plataformas muito grandes, sujeitos a requisitos legais e salvaguardas. O acesso prático a dados e a metodologia de investigação continuam a ser áreas de discussão ativa.

Porque é que a Comissão Europeia se reuniu com investigadores em setembro de 2026?

A quinta mesa-redonda da Comissão sobre a DSA focou-se nos riscos sistémicos, mitigação, análise das avaliações de risco das plataformas, acesso a dados e desafios práticos da investigação independente.

A Lei KIDS da UE já é lei?

Não. A Comissão Europeia propôs a Lei KIDS em 17 de setembro de 2026. Tem de seguir o processo legislativo da UE e as regras finais podem sofrer alterações.

A Irlanda já está a aplicar regras de segurança online?

Sim. A Coimisiún na Meán supervisiona o Quadro de Segurança Online da Irlanda e é o Coordenador de Serviços Digitais do país. Em 8 de setembro de 2026, abriu a sua primeira investigação formal ao abrigo do Código de Segurança Online.

A Safegram tem atualmente um programa independente de auditoria algorítmica?

A Safegram não deve afirmar que tal programa está ativo a menos que tenha sido formalmente implementado e verificado. A sua direção de segurança baseia-se em controlos mensuráveis, mas governança em fase planeada deve ser claramente rotulada como tal.

Referências de fontes

1. Comissão Europeia, "Fifth Roundtable with Civil Society Organisations and Researchers on the implementation of the Digital Services Act", publicado a 25 de setembro de 2026; reunião realizada a 23 de setembro de 2026.

2. Comissão Europeia, "EU KIDS Act to restrict social media platforms’ access to children in the EU", 17 de setembro de 2026, atualizado a 22 de setembro de 2026.

3. Comissão Europeia, "Proposal for EU KIDS Act — EU Keeping Internet Digital Spaces Accountable and Trustworthy", 17 de setembro de 2026.

4. Comissão Europeia, "KIDS Act", Shaping Europe’s Digital Future, atualizado a 18 de setembro de 2026.

5. Coimisiún na Meán, "Digital Services Act", Online Safety Framework.

6. Coimisiún na Meán, "Investigation commenced into X under Online Safety Code", 8 de setembro de 2026.