KI-Impersonation und Deepfake-Erkennung: Neue EU-Regeln

Ein vertrautes Gesicht, eine überzeugende Stimme und ein professionelles Video sind kein Beweis mehr dafür, dass die Person auf dem Bildschirm echt ist. Da die Transparenzregeln des EU-KI-Gesetzes nun greifen und Irland die Durchsetzung der Online-Sicherheit verschärft, wird die praktische Frage für Nutzer immer dringlicher: Welchen Beweisen kann man trauen, bevor man Geld sendet, Informationen preisgibt oder einer digitalen Identität glaubt? Im Kampf gegen KI-Impersonation und Online-Betrug reicht visuelle Ähnlichkeit allein nicht mehr aus – eine zuverlässige Deepfake-Erkennung und verifizierte digitale Identität sind heute entscheidende Vertrauenssignale für die digitale Sicherheit.

Key Takeaways (Wichtigste Erkenntnisse)

Die Transparenzpflichten gemäß Artikel 50 des EU-KI-Gesetz gelten seit dem 2. August 2026. Dies umfasst Regeln für Deepfakes, bestimmte KI-generierte Inhalte von öffentlichem Interesse und Interaktionen mit KI-Systemen.
Kennzeichnungen helfen, können aber die Online-Verifizierung durch den Nutzer nicht ersetzen: Täuschende Inhalte können kopiert, aus dem Kontext gerissen oder von Kriminellen verbreitet werden, die sich nicht an Regeln halten.
In Irland sollten Online-Betrugsfälle bei der An Garda Síochána gemeldet werden; Plattformen bieten zudem Melde- und Abhilfeverfahren (Notice-and-Action) gemäß DSA für rechtswidrige Inhalte an.
Ein Gesicht, eine Stimme, die Anzahl der Follower oder ein blauer Haken sollten niemals als alleiniger Identitätsnachweis betrachtet werden.
Die sicherste Reaktion auf unerwartete Aufforderungen zur Zahlung oder Preisgabe sensibler Daten ist die Überprüfung der Person über einen separaten, vertrauenswürdigen Kanal.

Die alten Vertrauenssignale des Internets werden schwächer

Jahrelang haben wir uns auf einfache digitale Instinkte verlassen. Man achtet auf das bekannte Gesicht, hört auf die vertraute Stimme. Man prüft das Profilbild und schaut, ob der Account etabliert wirkt. Man sieht sich ein Video an und entscheidet nach Gefühl, ob es authentisch ist.

Generative KI hat jedes dieser Signale geschwächt.

Synthetische Videos können das Aussehen einer Person perfekt reproduzieren. Voice-Cloning imitiert die Sprache täuschend echt. KI-generierte Bilder erschaffen Menschen, die nie existiert haben. Ein überzeugendes Profil kann aus gestohlenen oder erfundenen Materialien zusammengebaut werden. Das bedeutet nicht, dass jedes ungewöhnliche Video ein Fake ist. Es bedeutet aber, dass visuelle Vertrautheit nicht mehr ausreicht, um Identität festzustellen.

Das verändert die Bedeutung von Vertrauen im Netz. Die entscheidende Frage verschiebt sich von „Sieht das echt aus?“ hin zu „Welche unabhängigen Beweise belegen mir, dass dies echt ist?“

Das EU-KI-Gesetz: Transparenzregeln sind nun in Kraft

Das EU-KI-Gesetz zielt darauf ab, synthetische Medien leichter erkennbar zu machen. Die Transparenzpflichten nach Artikel 50 finden seit dem 2. August 2026 Anwendung.

Die Leitlinien der Europäischen Kommission nennen vier allgemeine Transparenzszenarien. Menschen müssen informiert werden, wenn sie mit bestimmten KI-Systemen interagieren. Anbieter müssen zudem Anforderungen an die maschinenlesbare Kennzeichnung von KI-generierten oder manipulierten Inhalten erfüllen. Wer KI-Systeme einsetzt (Deployer), unterliegt Offenlegungspflichten bei Deepfakes und bestimmten KI-generierten Texten, die die Öffentlichkeit über Themen von allgemeinem Interesse informieren sollen – vorbehaltlich des Anwendungsbereichs und der Ausnahmen des Gesetzes.

Zudem hat die Europäische Kommission einen Verhaltenskodex zur Kennzeichnung von KI-Inhalten veröffentlicht. Dieser Kodex ist freiwillig, soll aber Anbietern und Nutzern helfen, die verbindlichen Transparenzpflichten des KI-Gesetzes einzuhalten.

Dies ist eine wichtige Unterscheidung: Die gesetzlichen Transparenzpflichten sind nicht identisch mit dem freiwilligen Kodex, der lediglich bei der Umsetzung hilft.

Warum ein KI-Label allein das Problem der Impersonation nicht löst

Eine sichtbare Kennzeichnung hilft ehrlichen Publishern, ihrem Publikum mitzuteilen, dass Medien generiert oder manipuliert wurden. Maschinenlesbare Herkunftsnachweise helfen technischen Systemen, synthetisches Material zu identifizieren.

Aber Kriminelle werden nicht plötzlich vertrauenswürdig, nur weil es eine Verordnung gibt.

Ein Betrüger kann eine Kennzeichnung bewusst weglassen. Ein markierter Clip kann kopiert, beschnitten oder ohne seinen ursprünglichen Kontext neu gepostet werden. Ein echtes Video kann zudem neben einer falschen Behauptung platziert werden. Und ein Betrug benötigt keinen technisch perfekten Deepfake, wenn Dringlichkeit, Angst oder Autorität das Opfer dazu bewegen, zu handeln, bevor es prüft.

Deshalb lösen KI-Transparenz und Identitätsverifizierung unterschiedliche Probleme.

Transparenz fragt: Wurde dieser Inhalt mittels KI erstellt oder manipuliert?

Verifizierung fragt: Ist die Person, das Unternehmen oder das Konto tatsächlich die Instanz, die sie vorgeben zu sein?

Ein sichereres Internet braucht beides.

Die Verifizierungsgewohnheit, die jeder lernen sollte

Sobald eine digitale Interaktion plötzlich folgenreich wird (z. B. finanzielle Transaktionen), sollten Sie den Kanal wechseln, bevor Sie handeln.

Wenn ein Familienmitglied scheinbar eine dringende Sprachnachricht sendet und um Geld bittet, rufen Sie die Nummer an, die Sie bereits von ihm haben. Wenn ein Unternehmen Bankverbindungen per E-Mail oder Messenger ändert, verifizieren Sie dies über einen bereits etablierten Kontaktweg. Wenn ein Investment-Promoter oder Verkäufer Sie auffordert, das Gespräch oder die Zahlung außerhalb eines vertrauenswürdigen Dienstes fortzusetzen, betrachten Sie dies als Grund für zusätzliche Skepsis.

Das Prinzip ist einfach: Nutzen Sie niemals die verdächtige Interaktion selbst als einzige Methode, um zu beweisen, dass die Interaktion echt ist.

Dies ist besonders wichtig, wenn es um Geld, Passwörter, Einmal-Codes, Bankdaten, Ausweisdokumente, intime Fotos oder Zeitdruck geht.

Was tun bei Betrugsverdacht in Irland?

Die An Garda Síochána rät Opfern von Online-Betrug, diesen bei ihrer örtlichen Garda-Station zu melden und den Meldedienst der Website oder des Forums zu nutzen, auf dem der Betrug stattgefunden hat. Die Garda empfiehlt zudem, Beweise wie E-Mails, Kontodaten und Kopien von Anzeigen oder Posts zu sichern.

Das EU-Gesetz über digitale Dienste (Digital Services Act, DSA) bietet einen weiteren Weg. Online-Plattformen in der EU müssen ein Melde- und Abhilfeverfahren bereitstellen, über das Nutzer rechtswidrige Inhalte melden können. Laut EU-Kommission sollten diese Mechanismen einfach genug sein, um sie ohne technisches oder juristisches Fachwissen zu bedienen.

In Irland fungiert die Coimisiún na Meán als Koordinator für digitale Dienste. Ihr Online-Sicherheitsrahmen umfasst die Pflichten der Plattformen gemäß DSA sowie weitere irische und EU-weite Sicherheitsregeln.

Meldungen sind aus zwei Gründen wichtig: Sie können im Einzelfall helfen und sie decken Muster auf, die Plattformen und Behörden systemisch angehen müssen.

Verifizierung nicht mit Überwachung verwechseln

Ein Risiko bei der Reaktion auf KI-Impersonation besteht in der Überreaktion.

Müsste bei jeder Interaktion jeder Nutzer seinen Pass, seine Adresse oder seine vollständige Identität jedem Dienst preisgeben, würde die Lösung eigene Datenschutz- und Cybersicherheitsprobleme schaffen.

Eine gute Verifizierung sollte verhältnismäßig zum Risiko sein. Ein Marktplatz muss sicher sein, dass ein Verkäufer echt ist. Ein Dienst mit Altersbeschränkung muss wissen, dass eine Grenze erreicht ist. Ein Zahlungsanbieter hat gesetzliche Identitätsanforderungen. Aber das öffentliche Profil oder der Vertragspartner benötigt nicht zwingend Zugriff auf alle zugrunde liegenden persönlichen Daten, die zur Etablierung dieses Vertrauens verwendet wurden.

Das Projekt der digitalen Identitätstasche (Digital Wallet) der irischen Regierung spiegelt diesen Datenschutzgrundsatz wider. Nutzer sollen die Kontrolle darüber behalten, was sie teilen, sodass nur die für einen Dienst erforderlichen Details offengelegt werden.

Die Richtung ist klar: Belegen Sie die relevante Tatsache, ohne mehr Informationen als nötig preiszugeben.

Was das für Safegram bedeutet – live, in Entwicklung und geplant

Die Produktstrategie von Safegram basiert darauf, Vertrauen explizit zu machen, anstatt von Nutzern zu verlangen, es allein aus dem äußeren Schein abzuleiten.

Zu den bereits verfügbaren oder implementierten Funktionen von Safegram gehören Verifizierungsebenen für Nutzer und Unternehmen, datenschutzorientierte Social- und Marketplace-Funktionen, Safegram Exchange, Creator-Tools sowie verschlüsselte Kommunikation. Die genaue Verfügbarkeit kann je nach Build, Kontotyp und Rollout-Phase variieren.

Safegram entwickelt zudem weitere Funktionen für Vertrauen und Sicherheit, darunter stärkere Schutzmaßnahmen für Jugendliche, altersgerechte Kontentrennung und Sicherheitsbenachrichtigungen. Diese Elemente gelten erst dann als „live“, wenn sie im Produktions-Build bestätigt sind.

Geplante oder integrationsabhängige Funktionen werden entsprechend gekennzeichnet. Safegram wird nicht behaupten, dass eine Verifizierung über staatliche Wallets, EU-KI-Infrastrukturen zur Herkunftssicherung oder eine universelle Deepfake-Erkennung live ist, sofern diese spezifische Integration nicht tatsächlich umgesetzt und verifiziert wurde.

Das Designprinzip ist simpel: Ein Vertrauenssiegel sollte für einen Verifizierungsprozess stehen, nicht für Popularität. Die Safegram-Verifizierung soll Impersonation erschweren und gleichzeitig die unnötige Offenlegung privater Daten minimieren.

Verifizierung wird Teil der Medienkompetenz

Früher lag der Fokus der Medienkompetenz stark auf den Quellen: Wer hat das veröffentlicht, welche Beweise stützen es und berichten andere glaubwürdige Quellen dasselbe?

KI fügt eine weitere Ebene hinzu: Wer ist die sprechende Person und kann deren Identität unabhängig bestätigt werden?

Irland investiert in diese Resilienz. Die Coimisiún na Meán hat für 2026 Fördergelder für Projekte zur Medienkompetenz und zur Bekämpfung von Desinformation ausgeschrieben. Im Budget 2026 wurden 1,1 Millionen Euro bereitgestellt, um die nationale Strategie gegen Desinformation durch Forschung und Faktenchecks zu unterstützen.

Die wertvollste Fähigkeit wird künftig nicht darin bestehen, einen Deepfake visuell „zu erkennen“. Erkennungstechniken werden sich ändern, da die Generierung immer besser wird. Die beständigere Fähigkeit ist es, zu wissen, wann eine Interaktion riskant wird und wie man sie unabhängig verifiziert.

Die Zukunft des Vertrauens: Beweise statt Schein

Das Internet wird nicht unbrauchbar, nur weil KI überzeugende Medien generieren kann. Aber einige Abkürzungen, auf die wir uns verlassen haben, werden unzuverlässig.

Ein bekanntes Gesicht ist ein Indiz, aber kein Beweis. Eine vertraute Stimme ist ein Indiz, aber kein Beweis. Ein poliertes Profil ist ein Indiz, aber kein Beweis. Selbst ein KI-Label beantwortet nur eine Frage darüber, wie ein Inhalt erstellt wurde.

Vertrauen muss zunehmend aus mehreren Signalen resultieren: Herkunftsnachweise, unabhängige Verifizierung, Schutzmaßnahmen der Plattformen, Transaktionsschutz und menschliches Urteilsvermögen.

Die sichersten digitalen Gemeinschaften werden nicht die sein, in denen niemand synthetische Medien erstellen kann. Es werden die sein, in denen es schwierig ist, sich als jemand anderes auszugeben, in denen folgenschwere Handlungen stärkere Beweise erfordern und in denen Nutzer wissen, wie sie innehalten und verifizieren, bevor sie handeln.

Häufig gestellte Fragen (FAQ)

Sind KI-Deepfakes in der EU illegal?

Nicht automatisch. Die Rechtmäßigkeit hängt vom Kontext, dem Inhalt und der Verwendung ab. Das EU-KI-Gesetz führt Transparenzpflichten für Deepfakes ein, während andere Gesetze greifen können, wenn synthetische Medien für Betrug, Belästigung, nicht einvernehmliche intime Bilder oder Verleumdung genutzt werden.

Müssen KI-generierte Videos in Europa gekennzeichnet werden?

Artikel 50 des EU-KI-Gesetzes sieht Transparenzpflichten für spezifizierte KI-generierte oder manipulierte Inhalte vor, einschließlich Deepfakes. Diese Regeln gelten seit dem 2. August 2026.

Beweist ein KI-Label, dass ein Video sicher oder wahrheitsgemäß ist?

Nein. Ein Label zeigt lediglich an, dass KI an der Erstellung oder Manipulation beteiligt war. Es ist kein Beleg dafür, dass der Inhalt korrekt, rechtmäßig oder vertrauenswürdig ist.

Wie kann ich jemanden verifizieren, der mich online kontaktiert?

Nutzen Sie einen separaten, vertrauenswürdigen Kanal. Rufen Sie eine bekannte Nummer an, besuchen Sie die offizielle Website der Organisation unabhängig oder bestätigen Sie die Anfrage über einen bestehenden Kontakt statt über Links in der verdächtigen Nachricht.

Was soll ich tun, wenn ich in Irland online betrogen wurde?

Die An Garda Síochána rät, den Betrug bei der örtlichen Garda-Station sowie auf der jeweiligen Plattform zu melden und dabei Beweise zu sichern.

Kann ich Betrugsinhalte direkt bei einer Plattform melden?

Ja. Gemäß dem Gesetz über digitale Dienste (DSA) müssen Online-Plattformen in der EU einen Meldemechanismus für rechtswidrige Inhalte bereitstellen.

Erkennt Safegram jeden Deepfake?

Safegram erhebt diesen Anspruch nicht. Die Strategie setzt auf verifizierte Teilnahme und sicherere Interaktionen. Eine universelle Deepfake-Erkennung wird erst dann als aktiv beschrieben, wenn eine spezifische Produktionskapazität validiert wurde.

Ist Verifizierung dasselbe wie die Veröffentlichung der Identität?

Nein. Eine gute Verifizierung kann eine Tatsache oder ein Vertrauensniveau bestätigen, ohne alle zugrunde liegenden persönlichen Daten öffentlich preiszugeben.

Quellenverweise

Europäische Kommission, „Quick Facts: Transparenzregeln für KI-Systeme“, Transparenzpflichten nach Artikel 50 ab 2. August 2026.
Europäische Kommission, „Code of Practice on Transparency of AI-generated Content“, Leitfaden zur Einhaltung von Artikel 50.
Europäische Kommission, „Commission publishes Code of Practice on marking and labelling AI-generated content“, 10. Juni 2026.
An Garda Síochána, „Cyber Crime Awareness“, Leitfaden zur Meldung von Online-Betrug.
Europäische Kommission, „Bekämpfung von Online-Betrug mit dem DSA“, Leitfaden zu Notice-and-Action.
Coimisiún na Meán, „Digital Services Act“, Irlands Koordinator für digitale Dienste.
Coimisiún na Meán, „Media Literacy & Countering Disinformation Micro Funds“, 3. September 2026.
Regierung von Irland, „Minister Chambers launches public consultation and testing phase for Ireland’s new Government Digital Wallet“, 2026.