Online-Sicherheit & DSA-Durchsetzung: Algorithmen-Check

Europas digitales Regelwerk tritt in eine entscheidende Phase ein. Es reicht für eine Plattform nicht mehr aus, bloß Sicherheitsrichtlinien zu veröffentlichen oder zu behaupten, schädliche Empfehlungen seien reduziert worden. Regulierungsbehörden, Forscher und zivilgesellschaftliche Gruppen fordern zunehmend handfeste Beweise: Risikobewertungen, Datenzugang, messbare Abhilfemaßnahmen und Erklärungen dazu, wie Empfehlungssysteme funktionieren. Ein Runder Tisch der Europäischen Kommission am 23. September 2026 rückte dieses Beweisproblem ins Zentrum der DSA-Durchsetzung – flankiert vom Schutz Minderjähriger, Online-Marktplätzen, KI-Risiken und dem neu vorgeschlagenen KIDS-Gesetz. Für echte Online-Sicherheit sind heute algorithmische Transparenz, strikte Plattformverantwortung und Sicherheit durch Design im Rahmen vom Gesetz über digitale Dienste unerlässlich.

Die wichtigsten Erkenntnisse

• Am 23. September 2026 hielt die Europäische Kommission ihren fünften DSA-Runden Tisch mit rund 60 zivilgesellschaftlichen Organisationen und Forschern ab, wobei der Fokus auf systemischen Risiken und Minderungsmaßnahmen lag.
• Diskutiert wurden Risikobewertungsberichte von Plattformen, unabhängige Forschung, Datenzugang und praktische Hürden bei der Überprüfung großer Online-Dienste.
• Gemäß dem DSA müssen Plattformen, die für Minderjährige zugänglich sind, angemessene Maßnahmen ergreifen, um ein hohes Maß an Privatsphäre und Sicherheit zu gewährleisten.
• Das vorgeschlagene EU KIDS-Gesetz würde dieses Modell verschärfen, indem es Dienste dazu verpflichtet, nachzuweisen, dass sie altersgerecht und „Safe by Design“ sind.
• Für Nutzer verschiebt sich die Kernfrage: Nicht mehr „Hat diese Plattform eine Richtlinie?“, sondern „Kann sie beweisen, dass ihr Produkt Risiken tatsächlich reduziert?“

Europa bewegt sich bei der Online-Sicherheit von Versprechen hin zu Beweisen und fordert Plattformen auf, zu zeigen, wie ihre Systeme Risiken identifizieren und verringern.

Von Sicherheitsversprechen zu Sicherheitsnachweisen

Jahrelang drehte sich die öffentliche Debatte über soziale Plattformen um Regeln: Gemeinschaftsstandards, Melde-Buttons, Kindersicherung und Statements gegen schädliche Inhalte.

Diese Aspekte sind nach wie vor wichtig. Doch das europäische Regulierungsmodell interessiert sich zunehmend für das, was unter der Oberfläche passiert.

Am 25. September veröffentlichte die Europäische Kommission einen Bericht über den fünften Runden Tisch mit zivilgesellschaftlichen Organisationen und Forschern zur Umsetzung des Gesetzes über digitale Dienste. Das Treffen fand am 23. September statt und brachte rund 60 Organisationen zusammen.

Der Schwerpunkt lag auf systemischen Risiken und deren Eindämmung: Wie identifizieren Plattformen Risiken, die durch ihre Dienste entstehen, was unternehmen sie dagegen und wie können Außenstehende prüfen, ob diese Maßnahmen wirken?

Die Teilnehmer erörterten die Analyse von Risikoberichten, Forschungsmethoden, den Datenzugang und die praktischen Schwierigkeiten, auf die Experten stoßen. Die Kommission betonte zudem aktuelle Prioritäten wie den Jugendschutz, Online-Marktplätze, KI-Risiken und den Vorschlag für das KIDS-Gesetz.

Das mag technisch klingen, trifft aber den Kern moderner Technologiepolitik: Wer darf überprüfen, ob ein Algorithmus wirklich das tut, was das Unternehmen behauptet?

„Sicherheit durch Design“ (Safety by Design) fragt, ob die Produktarchitektur selbst vorhersehbare Risiken reduziert – und nicht nur, ob ein entsprechendes Dokument existiert.

Warum Algorithmen Kontrolle brauchen

Eine soziale Plattform ist nicht bloß eine Ansammlung von Beiträgen. Ranking-Systeme entscheiden, was zuerst erscheint. Empfehlungssysteme bestimmen, was als Nächstes kommt. Benachrichtigungen steuern, wann Nutzer zurückgeholt werden. Suche, Profilvorschläge, Autoplay und Engagement-Prognosen prägen die gesamte Nutzererfahrung.

Für Kinder können diese Systeme genauso entscheidend sein wie die Inhaltsregeln selbst.

Eine Plattform mag schädliches Material verbieten, aber gleichzeitig ein Empfehlungssystem betreiben, das einen gefährdeten Nutzer immer wieder zu grenzwertigen oder extremen Inhalten lenkt. Sie bietet vielleicht eine Kindersicherung an, die jedoch tief in Menüs versteckt ist. Oder eine Meldefunktion, die durch ein verwirrendes Design kaum nutzbar ist.

Deshalb konzentriert sich „Safety by Design“ zunehmend auf das Verhalten des Produkts, nicht nur auf das Vorhandensein von Richtlinien.

Irland testet bereits die Umsetzung

Die irische Regulierungsbehörde, Coimisiún na Meán, fungiert als nationaler Koordinator für digitale Dienste und spielt eine zentrale Rolle im irischen Online-Sicherheitsrahmen.

Die Behörde stellt klar, dass Anbieter von Online-Plattformen, die für Minderjährige offenstehen, gemäß dem DSA angemessene Maßnahmen für ein hohes Maß an Datenschutz und Sicherheit ergreifen müssen.

Irlands Online-Sicherheitskodex legt zudem spezifische Pflichten für benannte Video-Sharing-Plattformen fest. Am 8. September 2026 leitete Coimisiún na Meán die erste formale Untersuchung unter diesem Kodex ein und prüfte die Altersverifizierung und Kindersicherung bei X.

Die Einleitung einer Untersuchung ist noch keine Feststellung eines Fehlverhaltens. Diese Unterscheidung ist wichtig. Aber der Fall verdeutlicht den Trend: Regulatoren prüfen nicht mehr nur, ob eine Schutzmaßnahme auf dem Papier existiert, sondern ob ihre Umsetzung effektiv, sichtbar und intuitiv nutzbar ist.

Das KIDS-Gesetz legt die Messlatte höher

Die Europäische Kommission hat das EU KIDS-Gesetz am 17. September 2026 vorgeschlagen. Es handelt sich um einen Entwurf, dessen Text sich im Gesetzgebungsprozess noch ändern kann.

Die Stoßrichtung ist dennoch wegweisend. Die Kommission erklärt, dass der Vorschlag Online-Dienste dazu verpflichten würde, „Safe by Design“ zu sein und die Beweislast umkehren würde: Anbieter müssten dann nachweisen, dass ihre Dienste altersgerecht und sicher sind.

Der Entwurf sieht zudem ein EU-weites Mindestalter von 15 Jahren für eigenständige Social-Media-Konten vor, kombiniert mit einem Stufenmodell für jüngere Nutzer, Altersprüfung, elterlicher Verantwortung und strengerer Durchsetzung.

Zusammen mit dem DSA wird die Philosophie deutlich: Europa will nicht, dass Kindersicherheit allein davon abhängt, dass ein Kind eine Gefahr erkennt, ein Elternteil versteckte Einstellungen findet oder ein Regulator erst aktiv wird, wenn der Schaden bereits eingetreten ist. Es wird erwartet, dass der Dienst selbst Risiken antizipiert und technisch ausschließt.

Forscher und zivilgesellschaftliche Organisationen spielen eine immer wichtigere Rolle bei der unabhängigen Überprüfung systemischer Online-Risiken.

Was erfordert ein Algorithmus-Audit wirklich?

Es gibt keinen einzelnen „Zaubertest“ für Empfehlungssysteme. Eine aussagekräftige Prüfung erfordert mehrere Beweisebenen. Forscher müssen verstehen, welche Signale das Ranking beeinflussen, wie sich Empfehlungswege zwischen Nutzergruppen unterscheiden und ob Sicherheitsinterventionen die Ergebnisse tatsächlich verbessern.

Der Zugang ist entscheidend, da Außenstehende eine komplexe Plattform nicht allein anhand öffentlicher Screenshots bewerten können. Dennoch muss dieser Zugang die Privatsphäre der Nutzer und Geschäftsgeheimnisse wahren.

Dies erfordert eine schwierige Balance: Genug Transparenz für eine ernsthafte Prüfung, ohne neue Wege für Datenmissbrauch zu schaffen.

Der Runde Tisch der Kommission im September ist deshalb so bedeutend, weil Forscher Teil dieser Gleichung sind. Regulierungsbehörden können nicht jeden Nutzungspfad auf jeder Plattform selbst reproduzieren. Unabhängige Experten helfen dabei, Muster zu erkennen und Behauptungen der Unternehmen am realen Nutzerverhalten zu messen.

Fragen, die Plattformen beantworten können sollten

Ein Sicherheitsversprechen sollte zunehmend überprüfbar sein.

• Wenn ein Unternehmen sagt, es habe unerwünschte Kontakte zwischen Erwachsenen und Minderjährigen reduziert: Was wurde geändert und welche Belege gibt es für den Rückgang?
• Wenn es heißt, ein Empfehlungssystem sei „sicherer“ für Teenager: Wie wird „sicherer“ gemessen?
• Wenn Altersprüfungen den Zugriff auf jugendgefährdende Inhalte verhindern sollen: Wie robust ist der Prozess und welche persönlichen Daten werden verlangt?
• Wenn eine Kindersicherung existiert: Finden und verstehen normale Eltern diese auch?

Diese Fragen führen weg von Werbeslogans hin zu messbaren Ergebnissen.

Ein Sicherheitsfeature ist nur dann wertvoll, wenn Menschen es finden, verstehen und effektiv nutzen können.

Was das für Safegram bedeutet – Live, in Entwicklung und geplant

Die redaktionelle Position von Safegram ist, dass Vertrauen durch Design in eine Plattform eingebaut und durch Beweise gestützt werden sollte, anstatt es als reines Marketingversprechen zu behandeln.

Aktive Safegram-Funktionen umfassen die verifizierte Teilnahme für relevante Kontotypen, privatsphäreorientierte Kommunikation, Funktionen von Safegram Exchange sowie Tools für Unternehmen und Creator. Safegram entwickelt zudem eine altersgerechte Sicherheitsarchitektur für Teenager und Familien, die eine stärkere Trennung zwischen Jugendlichen und Erwachsenen bei der Suche und im Messaging vorsieht, während die Vertraulichkeit der Gespräche gewahrt bleibt.

Diese Elemente für Teenager/Familien sollten als „in Entwicklung“, „in Testphase“ oder „schrittweiser Rollout“ bezeichnet werden, sofern ein Feature nicht ausdrücklich in der aktuellen Version bestätigt ist. Safegram wird nicht behaupten, über ein formales DSA-Algorithmus-Audit-Programm, eine KIDS-Gesetz-Konformitätszertifizierung oder behördlich genehmigte Risikobewertungen zu verfügen, solange diese Systeme nicht tatsächlich etabliert und verifiziert sind.

Die Chance liegt darin, von Beginn an auf messbare Sicherheit zu setzen: Definieren, was ein Sicherheitsfeature erreichen soll, dokumentieren, ob es dies tut, unnötige Daten minimieren und Schutzmaßnahmen verständlich machen.

Das ist überzeugender als ein simples „Vertrauen Sie uns“. Es schafft die Grundlage, um zu zeigen, warum Vertrauen verdient ist.

Warum dies über Big Tech hinaus wichtig ist

Große Plattformen stehen im Fokus der Regulierer, aber die Lektion gilt auch für kleinere Dienste.

Startups haben oft einen Vorteil: Sie können architektonische Entscheidungen treffen, bevor gewachsene Systeme, Werbeanreize und Milliarden von Interaktionen Änderungen teuer machen.

Eine junge Plattform kann früh entscheiden, ob Minderjährige und Erwachsene auf dieselbe Weise interagieren sollten. Sie kann festlegen, ob Verifizierungen (etwa über Didit) nur kosmetisch sind oder mit Rechenschaftspflicht verknüpft werden. Sie kann Regeln für Meldungen und Messaging designen, bevor sich schädliche Muster festsetzen.

Aber „kleiner“ bedeutet nicht automatisch „sicherer“. Gute Absichten sind kein Beweis. Die gleiche Disziplin sollte gelten: Risiken definieren, Kontrollen testen, Entscheidungen dokumentieren und nachbessern, wenn die Beweise Schwachstellen zeigen.

Die nächste Phase der Online-Sicherheit

Die Debatte wird weniger abstrakt.

Der DSA schuf Verpflichtungen zu systemischen Risiken. Irland geht mit Untersuchungen unter seinem Online-Sicherheitskodex voran. Das geplante KIDS-Gesetz würde ein explizites „Safety by Design“-Regime für Kinder hinzufügen. Forscher drängen auf den Zugang, um das tatsächliche Verhalten von Plattformen zu prüfen.

Das Ergebnis ist ein neuer Standard für Glaubwürdigkeit.

Eine Sicherheitsseite im Web ist nützlich. Eine Einstellung ist nützlich. Eine Richtlinie ist nützlich. Aber zunehmend wird die entscheidende Frage sein, ob eine Plattform beweisen kann, dass ihre Systeme sicherere Ergebnisse liefern.

Für die nächste Generation sozialer Technologien könnte dies die Trennlinie zwischen Sicherheit als Branding und Sicherheit als echtes Engineering werden.

Häufig gestellte Fragen (FAQ)

Was ist das Gesetz über digitale Dienste (Digital Services Act)?

Das Gesetz über digitale Dienste (DSA) ist eine EU-weite Gesetzgebung für Online-Vermittlungsdienste und Plattformen. Es schafft Pflichten in Bezug auf illegale Inhalte, Transparenz, systemische Risiken und den Schutz von Grundrechten. Plattformen für Minderjährige müssen hohe Standards für Privatsphäre und Sicherheit gewährleisten.

Was versteht man unter einem systemischen Risiko?

Im Kontext des DSA sind systemische Risiken großflächige Gefahren, die mit dem Design oder Betrieb sehr großer Plattformen verbunden sind. Dies betrifft Themen wie illegale Inhalte, öffentliche Sicherheit, den zivilen Diskurs und Auswirkungen auf Minderjährige.

Können Forscher Plattform-Algorithmen überprüfen?

Unter dem DSA gibt es Mechanismen für den Zugang geprüfter Forscher zu Daten sehr großer Online-Plattformen, sofern rechtliche Anforderungen und Schutzmaßnahmen erfüllt sind. Die praktischen Details des Datenzugangs werden derzeit noch aktiv diskutiert.

Warum traf sich die EU-Kommission im September 2026 mit Forschern?

Der fünfte DSA-Runde Tisch am 23. September konzentrierte sich auf die Analyse von Risikobewertungen, die Wirksamkeit von Minderungsmaßnahmen und den praktischen Zugang zu Forschungsdaten.

Ist das EU KIDS-Gesetz bereits in Kraft?

Nein. Die Europäische Kommission hat es am 17. September 2026 vorgeschlagen. Es muss den EU-Gesetzgebungsprozess durchlaufen, wobei sich die endgültigen Regeln noch ändern können.

Setzt Irland bereits Online-Sicherheitsregeln durch?

Ja. Die Coimisiún na Meán überwacht den irischen Sicherheitsrahmen. Am 8. September 2026 wurde die erste formale Untersuchung unter dem Online-Sicherheitskodex eingeleitet.

Verfügt Safegram aktuell über ein unabhängiges Algorithmus-Audit-Programm?

Safegram erhebt diesen Anspruch nicht, solange ein solches Programm nicht formal implementiert und verifiziert wurde. Die Sicherheitsstrategie basiert auf messbaren Kontrollen, geplante Entwicklungen werden jedoch klar als solche gekennzeichnet.

Quellenverzeichnis

1. Europäische Kommission, „Fünfter Runder Tisch mit Organisationen der Zivilgesellschaft und Forschern zur Umsetzung des Gesetzes über digitale Dienste“, veröffentlicht am 25. September 2026; Treffen am 23. September 2026.

2. Europäische Kommission, „EU KIDS Act zur Beschränkung des Zugangs von Social-Media-Plattformen zu Kindern in der EU“, 17. September 2026, aktualisiert am 22. September 2026.

3. Europäische Kommission, „Vorschlag für das EU KIDS-Gesetz – EU Keeping Internet Digital Spaces Accountable and Trustworthy“, 17. September 2026.

4. Europäische Kommission, „KIDS Act“, Gestaltung der digitalen Zukunft Europas, aktualisiert am 18. September 2026.

5. Coimisiún na Meán, „Digital Services Act“, Online Safety Framework.

6. Coimisiún na Meán, „Untersuchung gegen X unter dem Online-Sicherheitskodex eingeleitet“, 8. September 2026.