AI-chatbots en kinderveiligheid: de rol van de EU KIDS Act

Standfirst

AI is voor kinderen geen toekomstmuziek meer; het is al onderdeel van hun huiswerk, entertainment en dagelijkse gesprekken. Recent Iers onderzoek toont aan dat het gebruik van generatieve AI onder jongeren razendsnel stijgt, terwijl de voorgestelde EU KIDS Act zich specifiek richt op risicovolle digitale diensten en AI-chatbots. De uitdaging voor online veiligheid in Europa is daarmee groter dan alleen sociale media: hoe maken we AI veilig voor kinderen online zonder van de kindertijd een systeem van identiteitssurveillance te maken? Safegram onderzoekt hoe privacybehoud en leeftijdsverificatie hierbij samenkomen.

Belangrijkste inzichten

• Onderzoek van CyberSafeKids uit 2026, gerapporteerd door RTÉ, toont aan dat het gebruik van generatieve AI onder kinderen aanzienlijk is gegroeid: 55% van de 8-12-jarigen en 76% van de 12-15-jarigen maakt er gebruik van.
• De voorgestelde EU KIDS Act (gepubliceerd op 17 september 2026) is ontworpen om minderjarigen te beschermen tegen risicovolle digitale diensten en AI-systemen, verder reikend dan traditionele sociale media.
• De koers van Europa voor leeftijdsverificatie is steeds meer gericht op privacybehoud: de Commissie stelt dat oplossingen een leeftijdsgrens kunnen aantonen zonder de exacte leeftijd, identiteit of persoonlijke gegevens te onthullen.
• Uit recent bewijs blijkt dat educatie cruciaal is: 69% van de kinderen in nationaal onderzoek van Coimisiún na Meán geeft de voorkeur aan lessen over online veiligheid boven een verbod op sociale media.
• Leeftijdsgarantie helpt bij het creëren van leeftijdsadequate ervaringen, maar vervangt nooit een veilig productontwerp, digitale geletterdheid en effectieve handhaving.

AI is stilletjes onderdeel geworden van de kindertijd

Jarenlang draaide het debat over online veiligheid voor kinderen hoofdzakelijk om sociale media. Die inkadering is inmiddels te beperkt.

Het tiende jaarverslag van CyberSafeKids, The Year Little Changed, ondervroeg meer dan 7.000 kinderen tijdens het schooljaar 2025–2026. RTÉ meldde dat 55% van de ondervraagde 8-12-jarigen en 76% van de 12-15-jarigen generatieve AI gebruikten. Oudere kinderen gebruiken het vaker voor informatie en schoolwerk, terwijl jongere kinderen er eerder mee experimenteren voor vermaak.

Deze cijfers zijn van belang omdat conversationele AI verschilt van een conventionele tijdlijn. Een chatbot reageert persoonlijk, direct en herhaaldelijk. Het kan huiswerk uitleggen, verhalen verzinnen en gênante vragen beantwoorden. Dezelfde kwaliteiten die het nuttig maken, kunnen er ook voor zorgen dat fouten, ongepaste reacties of blind vertrouwen grotere gevolgen hebben voor jonge gebruikers.

Dit betekent niet dat AI inherent schadelijk is voor kinderen. Het betekent wel dat veiligheid voor kinderen niet achteraf kan worden toegevoegd wanneer het product al volledig verweven is met het dagelijks leven.

De EU verbreedt de definitie van online veiligheid

Op 17 september 2026 publiceerde de Europese Commissie haar voorstel voor de EU Keeping Internet Digital Spaces Accountable and Trustworthy Act — de EU KIDS Act.

Het voorstel trok veel aandacht vanwege de leeftijdsregels voor sociale media, inclusief een stapsgewijze benadering voor accounttoegang en een voorgestelde EU-brede leeftijd van 15 jaar voor het zelfstandig aanmaken van accounts. Maar een van de belangrijkste kenmerken is breder: de Commissie stelt dat het voorstel minderjarigen wil beschermen tegen risicovolle digitale diensten en AI-systemen.

Dit signaleert een verschuiving in regelgeving. Het digitale leven van een kind stopt niet bij de grens tussen een sociaal netwerk, een game, een zoekmachine en een AI-assistent. Het beleid begint deze realiteit nu eindelijk te erkennen.

Veiligheid door ontwerp is belangrijker dan een waarschuwingsscherm

De Commissie beschrijft 'safety by design' (veiligheid door ontwerp) als een centrale pijler van de nieuwe aanpak. Dit principe is essentieel voor AI.

Voor een AI-systeem dat toegankelijk is voor kinderen, betekent veiligheid door ontwerp dat er wordt nagedacht over risico's voordat het gesprek begint: leeftijdsadequate standaardinstellingen, de manier waarop het systeem omgaat met seksuele of gewelddadige verzoeken, of het afhankelijkheid aanmoedigt, hoe het reageert op signalen van mentale nood, welke data het bewaart en hoe gemakkelijk een jonge gebruiker hulp kan inschakelen.

Geen enkele afzonderlijke maatregel lost alles op. Een invulveld voor de geboortedatum is geen veiligheidsarchitectuur. Effectieve bescherming is gelaagd.

Leeftijdsverificatie wordt privacyvriendelijker — mits goed uitgevoerd

Een van de grootste bezwaren tegen online leeftijdscontroles is begrijpelijk: mensen zouden hun paspoort niet hoeven afstaan of hun volledige identiteit blootgeven voor elke digitale dienst.

Europa probeert het bewijs van leeftijd te scheiden van het bewijs van identiteit. De Europese Commissie stelt dat hun blauwdruk voor leeftijdsverificatie iemand in staat stelt aan te tonen dat ze aan een leeftijdsgrens voldoen zonder hun exacte leeftijd of identiteit te onthullen. Een functionele oplossing kwam beschikbaar in april 2026.

Deze architectuur is van groot belang. Als een dienst moet weten of iemand boven of onder een leeftijdsgrens zit, moet het doel zijn om het minimale vereiste feit te delen — niet om een nieuwe database van identiteiten en surfgedrag op te bouwen.

Privacy en veiligheid zijn geen tegenpolen. Een zorgvuldige implementatie kan beide versterken.

AI is al onderdeel van het dagelijkse digitale leven van kinderen. De beleidsuitdaging ligt in het veiliger maken van die ervaringen door ontwerp.

Ierse kinderen vragen om vaardigheden, niet alleen om regels

Een ander belangrijk bewijsstuk kwam deze maand van Coimisiún na Meán.

Uit het rapport Online Safety & Children’s Digital Lives bleek dat 69% van de ondervraagde kinderen vond dat het aanleren van online veiligheid beter zou werken dan een verbod op sociale media. 67% dacht dat een verbod ineffectief zou zijn omdat kinderen toch wel een weg eromheen vinden.

Dit betekent niet dat kinderen minder bescherming nodig hebben. Hetzelfde onderzoek registreert immers schadelijke online ervaringen. Het suggereert eerder dat regelgeving en educatie hand in hand moeten gaan.

Een kind kan worden beschermd door veiligere instellingen en toch de vaardigheden nodig hebben om manipulatie en onbetrouwbare AI-output te herkennen.

Het chatbot-probleem is ook een vertrouwensprobleem

Generatieve AI produceert vloeiende taal. Die vloeiendheid kan overkomen als autoriteit, zeker bij jongeren die nog niet de ervaring hebben om zelfverzekerdheid van nauwkeurigheid te onderscheiden.

Dit creëert een uitdaging voor digitale geletterdheid. Jonge gebruikers moeten begrijpen dat een AI-antwoord stellig kan klinken maar toch fout kan zijn; dat een chatbot geen vertrouwelijke vriend of dokter is; en dat persoonlijke informatie in een gesprek wordt verwerkt volgens het beleid van de dienst.

Dit zijn aanleerbare vaardigheden waarbij scholen, ouders en technologiebedrijven allemaal een rol spelen.

AI-geletterdheid wordt een kernvaardigheid voor online veiligheid: jonge gebruikers moeten begrijpen dat vloeiende antwoorden niet altijd correcte antwoorden zijn.

Europa test al of de regels in de praktijk werken

De regelgeving verschuift van het schrijven van regels naar handhaving.

Op 8 september 2026 startte Coimisiún na Meán het eerste formele onderzoek onder de Ierse Online Safety Code naar de implementatie van leeftijdsgaranties bij X. Eerder in 2026 startte de Europese Commissie ook een procedure tegen Snapchat onder de Digital Services Act.

Voor AI-aanbieders is de boodschap helder: een veiligheidsfunctie die wel bestaat maar niet effectief of toegankelijk is, zal waarschijnlijk niet voldoen aan de eisen van toezichthouders — of families.

Wat dit betekent voor Safegram

De koers van Safegram is gebaseerd op een simpel principe: veiligere deelname moet in de dienst worden ontworpen in plaats van achteraf toegevoegd.

De huidige functionaliteit van Safegram omvat end-to-end versleutelde chat, gebruikersverificatie via Didit, en marktplaatsfuncties via Safegram Exchange. Onze architectuur voor tieners is ontworpen rond striktere scheiding tussen jongeren en volwassenen en gezinsmeldingen zonder de inhoud van privégesprekken in te zien.

Safegram streeft ernaar dezelfde principes van privacy en veiligheid toe te passen naarmate onze AI-functionaliteiten, zoals binnen Safegram Select, zich verder ontwikkelen.

Het opkomende Europese model voor leeftijdsgarantie streeft ernaar een leeftijdsgrens te bewijzen met zo min mogelijk persoonlijke informatie.

De vraag is niet langer óf kinderen AI gebruiken

Dat doen ze al.

De relevante vraag is welk soort digitale omgeving dat gebruik omringt. Een veiligere digitale kindertijd komt niet voort uit één verbod of één AI-filter. Het komt voort uit producten die zijn ontworpen met de behoeften van kinderen in gedachten, privacyvriendelijke manieren om leeftijd vast te stellen, en jonge mensen die begrijpen hoe de systemen die ze gebruiken werken.

Veiligheid door ontwerp stelt een andere vraag: niet alleen wat jongeren moeten vermijden, maar wat technologiebedrijven vanaf het begin anders moeten bouwen.

FAQ

Gebruiken kinderen in Ierland en Europa nu al AI-chatbots?
Ja. Onderzoek van CyberSafeKids uit 2026 toont aan dat 55% van de 8-12-jarigen en 76% van de 12-15-jarigen gebruikmaakt van generatieve AI.

Valt AI onder de voorgestelde EU KIDS Act?
Ja. De Europese Commissie stelt dat het voorstel bedoeld is om minderjarigen te beschermen tegen zowel risicovolle digitale diensten als AI-systemen.

Is de EU KIDS Act al wetgeving?
Nee. Het is een voorstel van de Europese Commissie van 17 september 2026 en moet nog het volledige wetgevingsproces van de EU doorlopen.

Betekent leeftijdsverificatie dat kinderen overal hun paspoort moeten uploaden?
Niet noodzakelijkerwijs. De privacyvriendelijke aanpak van de EU is ontworpen om een leeftijdsgrens aan te tonen zonder de exacte identiteit of onnodige persoonlijke gegevens vrij te geven. Bij Safegram verloopt verificatie via Didit, dat nooit ID-documenten of biometrie opslaat.

Kan leeftijdsgarantie een AI-chatbot op zichzelf veilig maken?
Nee. Het ondersteunt een leeftijdsadequate ervaring, maar veiligheid hangt ook af van productontwerp, het gedrag van het AI-model, datagebruik en digitale geletterdheid.

Waarom is digitale geletterdheid belangrijk bij AI?
AI kan overtuigende maar onjuiste informatie genereren. Kinderen moeten leren claims te verifiëren, hun privacy te beschermen en te herkennen wanneer interacties ongepast zijn.

Wat doet Safegram anders?
Safegram bouwt op basis van verificatie en privacy. Onze architectuur beperkt ongewenst contact tussen volwassenen en tieners, terwijl de privacy van gesprekken behouden blijft.

CTA

AI wordt sneller onderdeel van het digitale leven dan regels en scholen zich kunnen aanpassen. Safegram News blijft volgen wat er verandert in Europa en wat dit betekent voor de online veiligheid van de volgende generatie.

Volg Safegram News voor op feiten gebaseerde verslaglegging over digitale geletterdheid, privacy en veiligere online gemeenschappen.

Bronverwijzingen

1. Europese Commissie, "Proposal for EU KIDS Act", 17 september 2026.
2. Europese Commissie, "EU KIDS Act to restrict social media platforms’ access to children", 17 september 2026.
3. Europese Commissie, "The EU approach to age verification", update 22 september 2026.
4. Europese Commissie, "Commission urges Member States to rollout EU age verification app", 29 april 2026.
5. Coimisiún na Meán, "Online Safety & Children’s Digital Lives — research report", 10 september 2026.
6. Coimisiún na Meán, "Investigation commenced into X under Online Safety Code", 8 september 2026.
7. RTÉ News, "Age assurance measures not stopping underage social media access", 2 september 2026.
8. Europese Commissie, "Commission investigates Snapchat’s compliance with child protection rules under the Digital Services Act", 26 maart 2026.