Kun je de persoon op het scherm vertrouwen? Europa's nieuwe regels tegen AI-imitatie

Een bekend gezicht, een overtuigende stem en een gepolijste video zijn niet langer het bewijs dat de persoon op het scherm echt is. Nu de transparantieregels van de EU AI Act van kracht worden en Ierland de handhaving van online veiligheid aanscherpt, wordt de praktische vraag voor gewone gebruikers dringend: welk bewijs kun je nog vertrouwen voordat je geld overmaakt, informatie deelt of een digitale identiteit gelooft? Bij Safegram staat digitale veiligheid voorop; wij geloven dat robuuste vertrouwenssignalen en online verificatie essentieel zijn om online oplichting en frauduleuze AI-imitatie te bestrijden, terwijl we voldoen aan de strengste normen voor mediawijsheid en deepfake-detectie.

Belangrijkste punten

• De transparantieverplichtingen van de EU AI Act onder Artikel 50 zijn van toepassing sinds 2 augustus 2026, inclusief regels voor deepfakes, AI-gegenereerde inhoud van algemeen belang en interacties met AI-systemen.
• Labels helpen, maar vervangen de verificatie door de gebruiker niet: misleidende inhoud kan worden gekopieerd, van context worden ontdaan of worden verspreid door criminelen die de regels negeren.
• In Ierland moet online oplichting worden gemeld bij An Garda Síochána; platforms hebben onder de DSA ook mechanismen voor melding en actie tegen illegale inhoud.
• Een gezicht, stem, aantal volgers of een blauw vinkje mag nooit op zichzelf als voldoende bewijs van identiteit worden beschouwd.
• De veiligste reactie op een onverwacht verzoek om geld, inloggegevens of gevoelige informatie is de persoon te verifiëren via een apart, vertrouwd kanaal.

De oude vertrouwenssignalen van het internet worden zwakker

Jarenlang hebben mensen een eenvoudige set digitale instincten aangeleerd. Zoek naar het bekende gezicht. Luister naar de vertrouwde stem. Controleer de profielfoto. Kijk of het account al lang bestaat. Bekijk de video en beslis of deze authentiek aanvoelt.

Generatieve AI heeft elk van die signalen verzwakt.

Synthetische video kan iemands uiterlijk reproduceren. Stemklonen kan spraak imiteren. AI-gegenereerde beelden kunnen mensen creëren die nooit hebben bestaan. Een overtuigend profiel kan worden samengesteld uit gestolen of gefabriceerd materiaal. Dit betekent niet dat elke ongebruikelijke video nep is. Het betekent dat visuele bekendheid niet langer genoeg is om iemands identiteit vast te stellen.

Dat verandert de betekenis van online vertrouwen. De belangrijke vraag verschuift van "Ziet dit er echt uit?" naar "Welk onafhankelijk bewijs vertelt me dat dit echt is?"

Europa's AI-transparantieregels zijn nu live

De EU AI Act probeert synthetische media makkelijker herkenbaar te maken. De transparantieverplichtingen van Artikel 50 zijn van kracht sinds 2 augustus 2026.

De richtlijnen van de Europese Commissie identificeren vier brede transparantiesituaties. Mensen moeten worden geïnformeerd wanneer ze interactie hebben met bepaalde AI-systemen. Aanbieders worden ook geconfronteerd met vereisten rond machineleesbare markering van AI-gegenereerde of gemanipuleerde inhoud. Gebruikers (deployers) hebben openbaarmakingsverplichtingen voor deepfakes en voor bepaalde AI-gegenereerde of gemanipuleerde tekst die is gepubliceerd om het publiek te informeren over zaken van algemeen belang, onderhevig aan de reikwijdte en uitzonderingen van de wet.

De Europese Commissie heeft ook een Gedragscode gepubliceerd over het markeren en labelen van AI-gegenereerde inhoud. De code is vrijwillig, maar is ontworpen om aanbieders en gebruikers te helpen voldoen aan de bindende transparantieverplichtingen in de AI Act.

Dat is een belangrijk onderscheid: de wettelijke transparantieverplichtingen zijn niet hetzelfde als de vrijwillige code die organisaties helpt deze te implementeren.

Waarom een AI-label alleen AI-imitatie niet kan oplossen

Een zichtbare melding kan een eerlijke uitgever helpen om een publiek te vertellen dat media zijn gegenereerd of gemanipuleerd. Machineleesbare herkomstgegevens kunnen technische systemen helpen synthetisch materiaal te identificeren.

Maar criminelen worden niet betrouwbaar omdat er een regelgeving bestaat.

Een fraudeur kan opzettelijk een melding achterwege laten. Een gelabeld fragment kan worden gekopieerd, bijgesneden of opnieuw gepost zonder de oorspronkelijke context. Een echte video kan ook naast een valse bewering worden geplaatst. En een scam heeft geen technisch perfecte deepfake nodig als urgentie, angst of autoriteit het slachtoffer overtuigt om te handelen voordat hij het controleert.

Dit is de reden waarom AI-transparantie en identiteitsverificatie verschillende problemen oplossen.

Transparantie vraagt: is deze inhoud gegenereerd of gemanipuleerd met AI?

Verificatie vraagt: is de persoon, het bedrijf of het account daadwerkelijk wie hij beweert te zijn?

Een veiliger internet heeft beide nodig.

De verificatiegewoonte die iedereen zou moeten leren

Wanneer een digitale interactie plotseling consequenties krijgt, verander dan van kanaal voordat je handelt.

Als een familielid een dringend spraakbericht lijkt te sturen met een verzoek om geld, bel dan het nummer dat je al kent. Als een bedrijf bankgegevens wijzigt via e-mail of chat, verifieer de wijziging dan via een eerder vastgestelde contactroute. Als een beleggingspromotor, verkoper of maker je vraagt om het gesprek of de betaling buiten een vertrouwde dienst te verplaatsen, beschouw dat dan als een reden voor extra verificatie, niet als gemak.

Het principe is simpel: gebruik de verdachte interactie zelf niet als de enige methode om te bewijzen dat de interactie echt is.

Dit is vooral belangrijk wanneer het verzoek betrekking heeft op geld, wachtwoorden, eenmalige codes, bankgegevens, identiteitsdocumenten, intieme beelden of druk om onmiddellijk te handelen.

Wat te doen bij een vermoedelijke scam in Ierland

An Garda Síochána adviseert mensen die denken slachtoffer te zijn geworden van een online scam of fraude, dit te melden bij hun lokale Garda-station en gebruik te maken van de meldingsdienst van de website of het forum waar de scam plaatsvond. De richtlijnen van de Garda raden ook aan om relevant bewijsmateriaal te bewaren, zoals e-mails, accountgegevens en kopieën van advertenties of online berichten.

De EU Digital Services Act (DSA) voegt hier een route aan toe. Online platforms in de EU moeten een meldings- en actiemechanisme bieden dat gebruikers kunnen gebruiken om illegale inhoud te rapporteren. De Europese Commissie stelt dat deze mechanismen eenvoudig genoeg moeten zijn om te gebruiken zonder technische of juridische expertise.

In Ierland is Coimisiún na Meán de Digital Services Coordinator. Het Online Safety Framework hiervan omvat de plichten van platforms onder de DSA en andere Ierse en EU-regels voor online veiligheid.

Melden is belangrijk om twee redenen. Het kan een individuele zaak helpen, en het kan patronen blootleggen die platforms en autoriteiten systemisch moeten aanpakken.

Verwar verificatie niet met surveillance

Een risico bij het reageren op AI-imitatie is overcorrectie.

Als voor elke online interactie vereist zou zijn dat elke persoon een paspoort, huisadres of volledige juridische identiteit aan elke dienst onthult, zou de remedie eigen privacy- en cybersecurityproblemen creëren.

Goede verificatie moet in verhouding staan tot het risico. Een marktplaats moet er misschien op kunnen vertrouwen dat een verkoper echt is. Een dienst met leeftijdsbeperking moet weten dat aan een grens is voldaan. Een betalingsprovider kan wettelijke identiteitsvereisten hebben. Maar het openbare profiel of de tegenpartij hoeft niet noodzakelijkerwijs toegang te hebben tot alle onderliggende persoonlijke gegevens die zijn gebruikt om dat vertrouwen te vestigen.

Het Government Digital Wallet-project van Ierland weerspiegelt dit bredere privacyprincipe. Overheidsdocumenten stellen dat de wallet zo wordt ontworpen dat gebruikers de controle behouden over wat ze delen en alleen de details worden onthuld die nodig zijn voor een dienst.

De richting is van belang: bewijs het relevante feit zonder meer informatie vrij te geven dan nodig is.

Wat dit betekent voor Safegram — live, in ontwikkeling en gepland

De bredere productrichting van Safegram is gebaseerd op het explicieter maken van vertrouwen, in plaats van gebruikers te vragen het af te leiden uit uiterlijk alleen.

Live of reeds geïmplementeerde Safegram-functionaliteit omvat verificatielagen voor gebruikers en bedrijven, privacygerichte sociale en marktplaatsfunctionaliteit, Safegram Exchange, creator/business tools en versleutelde communicatiefuncties in de huidige productrichting. De exacte beschikbaarheid kan variëren per build, accounttype en uitrolfase.

Safegram ontwikkelt of test ook aanvullende trust & safety-functionaliteit, waaronder sterkere tiener-/familiebescherming, leeftijdsbewuste accountscheiding en veiligheidsmeldingen. Deze elementen mogen niet als universeel 'live' worden beschreven totdat ze in de productiebuild zijn bevestigd.

Geplande of integratie-afhankelijke functionaliteit moet als zodanig worden gelabeld. Safegram mag niet beweren dat verificatie via overheids-wallets, EU-infrastructuur voor AI-contentherkomst, universele deepfake-detectie of enig door de toezichthouder gesteund identiteitsbewijs live is, tenzij die specifieke integratie daadwerkelijk is geïmplementeerd en geverifieerd. Identiteitsverificatie bij Safegram wordt afgehandeld door Didit; Safegram slaat zelf nooit ID-documenten of biometrische gegevens op.

Het nuttige ontwerpprincipe is eenvoudiger en nu al relevant: een keurmerk moet staan voor een verificatieproces, niet voor populariteit. Verificatie moet imitatie bemoeilijken terwijl het onnodig delen van persoonlijke informatie tot een minimum wordt beperkt.

Verificatie wordt onderdeel van mediawijsheid

Mediawijsheid richtte zich vroeger sterk op bronnen: wie heeft dit gepubliceerd, welk bewijs ondersteunt het en rapporteert een andere geloofwaardige bron hetzelfde?

AI voegt daar een nieuwe laag aan toe: wie is de persoon die spreekt, en kan zijn of haar identiteit onafhankelijk worden vastgesteld?

Ierland investeert in die bredere veerkracht. Coimisiún na Meán heeft voor 2026 financieringsoproepen geopend voor projecten op het gebied van mediawijsheid en de bestrijding van desinformatie, waarbij werd opgemerkt dat er in Budget 2026 € 1,1 miljoen is uitgetrokken ter ondersteuning van de implementatie van de Nationale Strategie tegen Desinformatie via initiatieven zoals onderzoek, mediawijsheid en factchecking.

De meest waardevolle vaardigheid is misschien niet het leren om visueel een "deepfake te spotten". Detectietechnieken zullen veranderen naarmate de generatie verbetert. De duurzamere vaardigheid is leren wanneer een interactie een hoog risico wordt en weten hoe je deze onafhankelijk kunt verifiëren.

De toekomst van vertrouwen is bewijs, niet uiterlijk

Het internet wordt niet onbruikbaar omdat AI overtuigende media kan genereren. Maar sommige kortere wegen waar we vroeger op vertrouwden, worden onbetrouwbaar.

Een bekend gezicht is een aanwijzing, maar geen bewijs. Een bekende stem is een aanwijzing, maar geen bewijs. Een gepolijst profiel is een aanwijzing, maar geen bewijs. Zelfs een AI-label beantwoordt slechts één vraag over hoe inhoud is gemaakt.

Vertrouwen moet steeds meer komen van meerdere signalen: herkomst, onafhankelijke verificatie, platformwaarborgen, transactiebescherming, rapportagesystemen en menselijk oordeel.

De veiligste digitale gemeenschappen zullen niet die zijn waar niemand synthetische media kan maken. Het zullen die zijn waar het moeilijk is om je als iemand anders voor te doen, waar acties met grote gevolgen sterker bewijs vereisen en waar gebruikers weten hoe ze moeten stoppen en verifiëren voordat ze handelen.

Veelgestelde vragen

Zijn AI-deepfakes illegaal in de EU?

Niet automatisch. De legaliteit hangt af van de context, de inhoud en het gebruik. De AI Act introduceert transparantieverplichtingen voor deepfakes, terwijl andere wetten van toepassing kunnen zijn wanneer synthetische media worden gebruikt voor fraude, intimidatie, niet-consensuele intieme beelden, laster of ander onwettig gedrag.

Moeten AI-gegenereerde video's in Europa worden gelabeld?

Artikel 50 van de EU AI Act creëert transparantieverplichtingen voor gespecificeerde AI-gegenereerde of gemanipuleerde inhoud, waaronder deepfakes, onderhevig aan de reikwijdte en uitzonderingen. De regels zijn van toepassing sinds 2 augustus 2026.

Bewijst een AI-label dat een video veilig of waarheidsgetrouw is?

Nee. Een label kan aangeven dat AI betrokken was bij het maken of manipuleren van inhoud. Het bewijst niet dat de bewering die wordt gedaan juist, rechtmatig of betrouwbaar is.

Hoe kan ik iemand verifiëren die online contact met mij opneemt?

Gebruik een apart vertrouwd kanaal. Bel een nummer dat je al hebt, bezoek onafhankelijk de officiële site van de organisatie of bevestig via een bestaand contactpersoon in plaats van via links of details die in het verdachte bericht worden verstrekt.

Wat moet ik doen als ik online ben opgelicht in Ierland?

An Garda Síochána adviseert slachtoffers om online oplichting of fraude te melden bij hun lokale Garda-station en bij het platform waar het incident plaatsvond, terwijl relevant bewijsmateriaal wordt bewaard.

Kan ik scam-content rechtstreeks bij een platform melden?

Ja. Onder de Digital Services Act moeten online platforms in de EU een meldings- en actiemechanisme bieden voor het rapporteren van illegale inhoud.

Detecteert Safegram elke deepfake?

Safegram claimt dit niet. De focus ligt op geverifieerde deelname en veiligere interacties. Universele deepfake-detectie wordt pas als live beschreven als een specifieke productiecapaciteit is geïmplementeerd en gevalideerd.

Is verificatie hetzelfde als het openbaar maken van iemands identiteit?

Nee. Goede verificatie, zoals via Didit, kan een relevant feit of vertrouwensniveau vaststellen zonder alle onderliggende persoonlijke informatie die in het verificatieproces wordt gebruikt, publiekelijk bloot te stellen.

Bronverwijzingen

1. Europese Commissie, "Quick Facts: Transparency rules for AI systems", Artikel 50 transparantieverplichtingen van toepassing vanaf 2 augustus 2026.

2. Europese Commissie, "Code of Practice on Transparency of AI-generated Content", huidige richtlijnen ter ondersteuning van de naleving van Artikel 50.

3. Europese Commissie, "Commission publishes Code of Practice on marking and labelling AI-generated content", 10 juni 2026.

4. An Garda Síochána, "Cyber Crime Awareness", richtlijnen voor het melden van online scams en het bewaren van bewijsmateriaal.

5. Europese Commissie, "Fighting online scams with the DSA", richtlijnen voor melding en actie.

6. Coimisiún na Meán, "Digital Services Act", Ierse Digital Services Coordinator en platformverplichtingen.

7. Coimisiún na Meán, "Media Literacy & Countering Disinformation Micro Funds", 3 september 2026.

8. Overheid van Ierland, "Minister Chambers launches public consultation and testing phase for Ireland’s new Government Digital Wallet", 2026.