Wenn die Stimme am Telefon KI ist: Was Europa offenzulegen verlangt

Written by Safegram Editorial Team

Ein kleiner Betrieb kann einen KI-Assistenten außerhalb der Öffnungszeiten Anfragen entgegennehmen lassen. Eine Creatorin kann ein Produkt mit einer virtuellen Figur erklären. Beide Anwendungen können sinnvoll sein. Die entscheidende Frage lautet aber: Erkennt das Gegenüber, wann eine Stimme, ein Gesicht oder eine Nachricht künstlich ist?

Die Transparenzpflichten aus Artikel 50 der EU-KI-Verordnung gelten seit dem 2. August 2026. Ein weiterer Termin rückt näher: 2. Dezember 2026. Er ist jedoch kein allgemeiner Starttermin. Nur für bestimmte bereits vor August auf den Markt gebrachte generative KI-Systeme läuft dann die Übergangsfrist zur maschinenlesbaren Kennzeichnung und Erkennung von Ausgaben ab. [1][3]

Drei Dinge müssen getrennt werden

• Anbieter direkt interaktiver KI müssen Systeme so gestalten, dass Menschen über die KI-Interaktion informiert werden, sofern sie nicht ohnehin offensichtlich ist. [1]
• Anbieter generativer Systeme müssen im jeweiligen Anwendungsbereich Ausgaben technisch erkennbar markieren; dabei gibt es Ausnahmen und Verhältnismäßigkeitsregeln. [1][5]
• Wer beruflich Deepfakes veröffentlicht, muss diese gegebenenfalls für Menschen erkennbar offenlegen. Eine verborgene Markierung ersetzt den Hinweis nicht. [1]

Die Dezemberfrist betrifft nicht jede KI-Anwendung

Der EU-Rat nahm am 29. Juni 2026 vereinfachende KI-Regeln an und bestätigte den 2. Dezember als Ende einer engen Übergangsfrist. Bereits am 20. Juli erläuterte die Kommission ihre Transparenzleitlinien; Artikel 50 trat am 2. August in Anwendung. Wer nach diesem Datum ein neues generatives System auf den Markt bringt, darf aus der Dezemberfrist keinen generellen Aufschub ableiten. [2][3]

Außerdem kommt es auf die Rolle an. Anbieter entwickeln ein System oder vermarkten es unter eigenem Namen. Betreiber setzen es unter eigener Verantwortung beruflich ein. Ein Salon, der Software eines Dritten nutzt, muss nicht automatisch sämtliche technischen Pflichten des Softwareentwicklers erfüllen, kann aber eigene Offenlegungspflichten für veröffentlichte Inhalte haben. Ein Unternehmen kann auch beide Rollen innehaben. [1]

Eine Content-Creatorin prüft Videomaterial am Laptop. KI-generierte redaktionelle Illustration.

Eine hilfreiche KI-Stimme stellt sich vor

Man stelle sich einen ausdrücklich fiktiven Friseursalon in Dublin vor, der mit einem Assistenten telefonisch Termine erfasst. Das kann den Alltag erleichtern, solange die Anrufer nicht glauben müssen, mit einer echten Mitarbeiterin zu sprechen. Die Kommission verlangt die klare Information zu Beginn einer direkten Interaktion, es sei denn, die KI-Eigenschaft ist offensichtlich. [1]

„Sie sprechen mit unserem KI-Assistenten“ wäre ein verständlicher Gestaltungsansatz, keine gesetzlich garantierte Standardformel. Verantwortliche sollten prüfen, ob Kunden den Hinweis wahrnehmen, welche Daten abgefragt werden und wie nötigenfalls ein Kontakt zu einem Menschen möglich ist.

Virtuelle Figuren sind nicht automatisch Deepfakes

Ein gewöhnlich nachbearbeitetes Foto, eine offenkundig erfundene Illustration und ein täuschend echtes Video einer existierenden Person unterscheiden sich. Für die europäische Deepfake-Definition zählt die Ähnlichkeit zu echten oder plausiblen Personen, Gegenständen, Orten oder Ereignissen und der falsche Eindruck von Authentizität. Der Kontext und die erwartete Wahrnehmung des Publikums sind relevant. [1]

Bei erfassten Deepfakes muss die beruflich veröffentlichende Stelle einen sicht- oder hörbaren Hinweis geben. Das maschinenlesbare Kennzeichen des Anbieters allein genügt nicht. Kunst, Satire und fiktionale Werke unterliegen angepassten Anforderungen; normale Bearbeitungen können von speziellen technischen Kennzeichnungspflichten ausgenommen sein. Creator sollten Originalaufnahmen, KI-Anteile und Änderungen nachvollziehbar dokumentieren. [1][5]

Zwei Gäste sehen eine abstrakte Sprachwelle auf dem Handy. KI-generierte redaktionelle Illustration.

Ein Werbehinweis beantwortet eine andere Frage

Die irische Verbraucherbehörde CCPC betont, dass geschäftliche Influencer-Beiträge unter den einschlägigen Umständen klar als Werbung erkennbar sein müssen. Ein Hinweis auf KI sagt noch nichts über eine bezahlte Kooperation aus. Umgekehrt erklärt #Ad nicht automatisch, ob eine scheinbar echte Person künstlich erzeugt wurde. Eine korrekte Kennzeichnung entschuldigt auch keine falschen Produktbehauptungen. [4]

Ein fiktiver Creator, der eine Dienstleistung durch einen virtuellen Avatar bewirbt, sollte deshalb KI-Offenlegung, kommerzielle Beziehung und die Wahrheit der Aussagen gesondert prüfen. Die Figur darf nicht so auftreten, als habe sie persönlich eine reale Dienstleistung getestet. Dieses Beispiel beschreibt keine tatsächliche Safegram-Werbung.

Auch öffentliche Sachtexte sind betroffen

Artikel 50 erfasst bestimmte mit KI erzeugte oder veränderte Veröffentlichungen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Nach den Leitlinien ist eine Ausnahme bei substanzieller menschlicher Prüfung oder redaktioneller Kontrolle mit Verantwortung möglich. Rechtschreibung allein zu kontrollieren genügt nicht. Gerade bei Verbraucherrecht, Gesundheit, Politik und Finanzen zählt diese Unterscheidung. [1][6]

Redaktionen sollten maschinelle Unterstützung benennen und die Sache fachkundig prüfen. Ein automatisierter Qualitätscheck darf nicht als menschliche Schlussredaktion ausgegeben werden. Die Art der Verantwortung muss zur tatsächlichen Arbeitsweise passen.

Ein Kreativteam beurteilt eine fiktive digitale Moderatorin. KI-generierte redaktionelle Illustration.

Vier konkrete Prüfungen für Unternehmen

Zuerst alle KI-Systeme erfassen, die direkt kommunizieren oder Inhalte erzeugen. Dann Anbieter- und Betreiberpflichten unterscheiden. Danach die Werbe- und Verbraucherregeln separat prüfen. Schließlich dokumentieren, wer eine Aussage freigab und ob Stimmen oder Bilder einen falschen Eindruck erzeugen könnten. Der freiwillige Transparenzkodex der Kommission unterstützt Nachweise, ersetzt jedoch keine gesetzlichen Pflichten. [1][4][5]

Safegrams Schwerpunkt auf verifizierten Personen und Nutzerkontrolle knüpft an dieselbe Frage an: Ein geprüftes Profil beweist nicht, dass jeder Text von einem Menschen verfasst wurde. Ein KI-Hinweis beweist nicht, dass ein Angebot wahr ist. Informationen zur Plattform stehen auf safegram.com. Dies ist allgemeine redaktionelle Einordnung und keine individuelle Rechtsberatung.

Häufig gestellte Fragen

Beginnen alle Kennzeichnungspflichten erst am 2. Dezember 2026?

Nein. Artikel 50 gilt seit 2. August. Der Dezembertermin betrifft nur eine Übergangsfrist für technische Markierungen bestimmter früherer generativer Systeme. [1][3]

Muss ein KI-Telefonassistent auf sich hinweisen?

Anbieter direkt interaktiver Systeme müssen die Information von Beginn an ermöglichen, sofern die KI-Natur nicht offensichtlich ist. [1]

Ist jedes bearbeitete Bild ein Deepfake?

Nein. Ähnlichkeit, täuschende Echtheitswirkung und Kontext sind maßgeblich; gewöhnliche Bearbeitung kann ausgenommen sein. [1]

Genügt ein unsichtbares Wasserzeichen?

Nein. Für einschlägige Deepfakes braucht der berufliche Verwender zusätzlich einen für Menschen wahrnehmbaren Hinweis. [1]

Reicht für KI-Werbung die Kennzeichnung #Ad?

Nein. Werbung, KI-Offenlegung und sachlich richtige Aussagen werden getrennt bewertet. [1][4]

Quellen

[1] European Commission — Article 50 transparency FAQ, checked 5 November 2026 https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act

[2] European Commission — Article 50 guidelines, published 20 July 2026 https://digital-strategy.ec.europa.eu/en/news/commission-publishes-guidelines-transparency-obligations-providers-and-deployers-certain-ai-systems

[3] Council of the EU — AI rules simplification adopted 29 June 2026 https://www.consilium.europa.eu/en/press/press-releases/2026/06/29/artificial-intelligence-council-gives-final-green-light-to-simplify-and-streamline-rules/

[4] Irish CCPC — Influencer advertising and marketing guidance, checked 5 November 2026 https://www.ccpc.ie/information-for-businesses/guidance-for-businesses/consumer-protection-guidance/influencer-advertising-and-marketing

[5] European Commission — Code of Practice on AI-generated-content transparency https://digital-strategy.ec.europa.eu/en/faqs/code-practice-transparency-ai-generated-content

[6] EU AI Act Service Desk — Article 50 consolidated legal text https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50

[7] European Commission — Guidelines policy overview, updated 6 August 2026 https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-transparency-obligations