EU-„Chatkontrolle“: Zwischen Kinderschutz und digitaler Massenüberwachung

Die Europäische Kommission hat bereits im Mai 2022 einen weitreichenden Gesetzesvorschlag vorgelegt, mit dem der Schutz von Kindern im Internet verbessert werden soll. Die damalige EU-Innenkommissarin Ylva Johansson präsentierte den Entwurf für eine Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern. Kernstück des Vorschlags ist die sogenannte „Chatkontrolle“ – ein Instrument, das Anbieter von Online-Kommunikationsdiensten verpflichten könnte, private Nachrichten und Chats automatisiert auf Hinweise zu sexualisierter Gewalt gegen Kinder zu durchsuchen.

Die Kommission begründet den Plan mit der stark steigenden Zahl von Missbrauchsdarstellungen im Netz und dem Ziel, Täter frühzeitig zu erkennen und Kinder besser zu schützen. Doch der Vorstoß spaltet Politik und Öffentlichkeit: Während Befürworter darin einen wichtigen Schritt zum besseren Schutz von Minderjährigen sehen, warnen Kritikerinnen und Kritiker vor einem massiven Eingriff in die Privatsphäre und einer möglichen Massenüberwachung.

Die EU-Staaten konnten sich am 08. Oktober 2025 erneut nicht auf die umstrittene „Chatkontrolle“ zur Bekämpfung von Kinderpornografie einigen, ein Kompromissvorschlag der dänischen Ratspräsidentschaft fand keine ausreichende Unterstützung. Deutschland blockierte den Vorschlag aktiv, da eine anlasslose Überwachung privater Nachrichten nach Ansicht von Bundesjustizministerin Stefanie Hubig in einem Rechtsstaat inakzeptabel sei. Das Thema ist jedoch nicht endgültig vom Tisch, kommende Ratspräsidentschaften könnten einen überarbeiteten Vorschlag erneut zur Diskussion stellen. Eine erneute Abstimmung auf europäischer Ebene ist für den 6. und 7. Dezember 2025 vorgesehen. Sollte bis dahin ein überarbeiteter Kompromiss vorliegen und Deutschland seine Position ändern, könnte die Verordnung doch noch verabschiedet werden. Bevor sie jedoch in Kraft treten kann, müsste sie noch das sogenannte Trilog-Verfahren zwischen EU-Kommission, Rat und Europäischem Parlament durchlaufen.

Ziel und Inhalt der Verordnung

Ziel des Verordnungsentwurfs ist es, die Verbreitung von Darstellungen sexueller Gewalt an Kindern zu bekämpfen sowie Kinder im Internet vor Missbrauch zu schützen. 

Dazu sollen Anbieter von Kommunikationsdiensten verpflichtet werden, Nachrichten, E-Mails und Cloud-Inhalte automatisch auf mögliche Missbrauchsdarstellungen oder Grooming-Versuche zu durchsuchen. Nach dem aktuellen Vorschlag könnten Behörden sogenannte „Detection Orders“ (Aufdeckungsanordnungen) erlassen, die Diensteanbieter verpflichten, ihre Systeme technisch so umzugestalten, dass verdächtige Inhalte erkannt und gemeldet werden – auch ohne konkreten Verdacht. Als Grundlage für eine solche Anordnung genügt nach Art. 7 des Verordnungsentwurfs bereits die bloße Möglichkeit, dass über den betreffenden Kommunikationsdienst kinderpornografische Inhalte verbreitet werden könnten. Da sich Missbrauchsinhalte theoretisch über jeden Kommunikationsdienst verbreiten lassen, wären praktisch alle Nutzer betroffen. Besonders umstritten ist, dass auch Dienste mit Ende-zu-Ende-Verschlüsselung – wie WhatsApp, Signal, Threema, o.Ä. – einbezogen werden sollen. Um verschlüsselte Nachrichten prüfen zu können, müssten sie vor der Verschlüsselung auf dem Gerät selbst analysiert werden. Dieses sogenannte ,,Client-Side-Scanning‘‘ würde die Sicherheit verschlüsselter Kommunikation faktisch aushebeln.

Zudem verpflichtet die Verordnung Anbieter von Apps, Webseiten und sozialen Netzwerken, die zur Kontaktaufnahme mit Kindern genutzt werden können, zur Einführung einer Altersverifikation gemäß Art. 4 III, Art. 6 I lit. c. Dadurch sollen minderjährige Nutzer identifiziert und durch noch festzulegende Risikominderungsmaßnahmen besser geschützt werden. Nutzer müssten ihr Alter künftig nachweisen – etwa mittels Ausweisdokumenten oder biometrischer Verfahren.

Technische Umsetzbarkeit und Risiken

Ob die geplante Chatkontrolle technisch überhaupt realisierbar ist, erscheint äußerst zweifelhaft. Das Vorhaben steht im direkten Widerspruch zu den Grundlagen sicherer digitaler Kommunikation. Ende-zu-Ende-Verschlüsselung garantiert, dass ausschließlich Sender und Empfänger eine Nachricht lesen können – nicht einmal der Anbieter selbst hat Zugriff auf die Inhalte. Würde jedoch ein automatisiertes Erkennungssystem bereits auf dem Gerät der Nutzerinnen und Nutzer aktiv werden, würde dieser Schutzmechanismus zwangsläufig ausgehebelt. Eine solche Lösung käme einem tiefen Eingriff in sämtliche Endgeräte gleich – faktisch einer permanenten Überwachungssoftware.

Hinzu kommt die Frage der technischen Zuverlässigkeit. Selbst eine sehr geringe Fehlerquote hätte gravierende Folgen: Bei nur ein Prozent falscher Erkennungen kämen angesichts von rund 2,8 Milliarden täglich versendeten Nachrichten in Deutschland etwa 28 Millionen Fehlalarme pro Tag zustande. Jede dieser Meldungen müsste überprüft werden – was einen enormen Personalaufwand und die kurzfristige Speicherung dieser Kommunikationsinhalte voraussetzen würde. Selbst bei minimalem Zeitaufwand pro Fall wäre eine solche Überprüfung praktisch nicht durchführbar.

Auch die vorgesehene Altersverifikation wirft datenschutzrechtliche Fragen auf. Damit Minderjährige zuverlässig erkannt und geschützt werden könnten, müssten Anbieter von Kommunikationsdiensten und App-Stores Altersdaten dauerhaft speichern und mit dem Online-Verhalten ihrer Nutzerinnen und Nutzer verknüpfen. Das würde eine umfassende Erfassung von besuchten Websites und genutzten Diensten erfordern – und damit eine neue Form der digitalen Überwachung schaffen.

Nicht zuletzt birgt eine derartige Infrastruktur erhebliche IT-Sicherheitsrisiken. Jede technische Hintertür, die geschaffen wird, schwächt zwangsläufig das gesamte Sicherheitsniveau digitaler Kommunikation. Was ursprünglich zum Schutz gedacht ist, könnte selbst zum Einfallstor werden – für Cyberkriminelle, staatliche Akteure oder andere, die Sicherheitslücken gezielt ausnutzen. Damit würde ein System entstehen, das nicht nur Überwachung ermöglicht, sondern auch das Vertrauen in digitale Dienste und Verschlüsselungstechnologien nachhaltig untergräbt.

Rechtliche Bewertung

Auch aus rechtlicher Sicht steht die geplante Verordnung auf wackligem Fundament. Sie würde tief in zentrale Grundrechte der Europäischen Union eingreifen – insbesondere in das Recht auf Achtung des Privatlebens und der Kommunikation (Art. 7 GRCh – EU-Grundrechtecharta), das Recht auf Datenschutz (Art. 8 GRCh) sowie die Meinungsfreiheit (Art. 11 GRCh).

Kernstück des Entwurfs ist die sogenannte „Aufdeckungsanordnung“, die es nationalen Behörden ermöglichen soll, Anbieter digitaler Dienste – etwa Messenger, Plattformen oder Cloud-Dienste – zur aktiven Durchsuchung von Nutzerinhalten zu verpflichten, wenn der Verdacht besteht, dass darüber Missbrauchsmaterial verbreitet wird. Der Antrag auf eine solche Maßnahme wird von der Koordinierungsbehörde des Landes gestellt, in dem der jeweilige Anbieter seinen Sitz hat. Über die tatsächliche Anordnung entscheidet anschließend eine Justiz- oder unabhängige Verwaltungsbehörde.

Zwar sieht der Entwurf vor, dass eine Aufdeckungsanordnung nur bei konkreten Beweisen für ein erhebliches Risiko und nach einer umfassenden Verhältnismäßigkeitsprüfung erlassen werden darf. Dabei sollen unter anderem die Risikobewertungen des Anbieters, seine technischen und organisatorischen Möglichkeiten sowie die Stellungnahmen der Datenschutzbehörden und des geplanten EU-Zentrums zur Bekämpfung sexuellen Missbrauchs berücksichtigt werden. Weicht eine nationale Behörde von der Einschätzung dieses EU-Zentrums ab, muss sie dies gegenüber der EU-Kommission und dem Zentrum begründen.

Trotz dieser formalen Prüfmechanismen bleibt der Eingriff in die private Kommunikation letztlich eine behördliche Ermessensentscheidung, die in der Praxis häufig zugunsten der öffentlichen Sicherheit ausfallen dürfte. Eine flächendeckende Überwachung aller Nutzerinnen und Nutzer wäre jedoch mit den Grundsätzen der Verhältnismäßigkeit kaum vereinbar. Denn selbst bei einem legitimen Ziel – dem Schutz von Kindern – muss jede Maßnahme geeignet, erforderlich und angemessen sein. Eine Überwachung, die Millionen unbescholtener Bürger betrifft, erfüllt diese Kriterien kaum.

Zudem besteht die Gefahr einer Zweckausweitung. Einmal geschaffene Überwachungsinfrastrukturen lassen sich nur schwer auf ihren ursprünglichen Zweck beschränken. Was heute dem Kampf gegen Kindesmissbrauch dient, könnte morgen zur Terrorismusbekämpfung, zur Durchsetzung von Urheberrechten oder gar zur politischen Kontrolle genutzt werden. Wie oben bereits dargelegt, kann das, was ursprünglich dem Schutz dienen sollte, selbst zum Einfallstor für Missbrauch werden. Der eigentliche Gedanke der Prävention ließe sich leicht in eine Sanktionslogik umkehren – aus vorbeugender Kontrolle würde schnell eine strafende Überwachung. Mit der geplanten Verordnung würden dafür nun die technischen und rechtlichen Grundlagen geschaffen, die sich später kaum wieder rückgängig machen ließen. 

Auch der rechtsstaatliche Rahmen des Entwurfs wirft Fragen auf. Die vorgesehenen Aufdeckungsanordnungen sind präventive Maßnahmen, die laut Artikel 7 des Entwurfs von einer nationalen Koordinierungsbehörde beantragt und von einer Justiz- oder Verwaltungsbehörde genehmigt werden können – ein richterlicher Vorbehalt ist nicht zwingend vorgesehen. Damit droht eine Verlagerung von Entscheidungen über Grundrechtseingriffe auf die Verwaltungsebene, was den etablierten rechtsstaatlichen Standards widerspricht. 

Hinzu kommt, dass auch die vorgesehene Überwachung des Surfverhaltens zur Altersverifikation die Anbieter von Internetdiensten zu „Überwachern“ ihrer eigenen Nutzer machen würde – ein Vorgehen, das sich kaum mit dem Grundrecht auf Privatsphäre vereinbaren lässt. Private Anbieter würden in eine quasi-polizeiliche Rolle gedrängt, indem sie aktiv an der Überwachung mitwirken müssten.

Gesellschaftliche Folgen und Alternativen

Ein solches System hätte gravierende gesellschaftliche Folgen. Wenn Bürgerinnen und Bürger davon ausgehen müssen, dass jede Nachricht mitgelesen oder analysiert wird, verändert sich ihr Kommunikationsverhalten. Dieser „Chilling Effect“ trifft besonders Menschen, die auf Vertraulichkeit angewiesen sind – Journalistinnen, Anwälte, Ärztinnen oder Whistleblower. Die vorgeschlagen Alterskontrolle zwingen Nutzer, persönliche oder biometrische Daten preiszugeben und dies im Endeffekt an jede Kommunikationsplattform. Menschen ohne Ausweise oder mit Datenschutzbedenken könnten faktisch vom digitalen Raum ausgeschlossen werden. Die Überwachung des Surfverhaltens könnte dazu führen, dass Bürger vermehrt ins Darknet abwandern oder sich über andere Länder, die eine solche Überwachung nicht planen, ins Internet einwählen. Zudem würde die Kombination aus Altersnachweis, Surfverhalten und Kommunikationsanalyse die Grundlage für ein umfassendes Profiling schaffen – Interessen, Kontakte, sexuelle Vorlieben – alles könnte erfasst werden. De facto käme das einem Lesen des digitalen Tagebuchs jedes Bürgers gleich.

Datenschutzorganisationen und Verfassungsrechtler fordern daher einen Kurswechsel. Statt in flächendeckende Überwachung zu investieren, sollten gezielte Ermittlungsmaßnahmen, schnellere Löschverfahren für bekannte Missbrauchsinhalte, bessere internationale Zusammenarbeit sowie Präventions- und Hilfsangebote für Opfer im Vordergrund stehen.

Fazit und Ausblick

Die Diskussion um die EU-Chatkontrolle zeigt, wie schwierig der Balanceakt zwischen Kinderschutz und Grundrechten geworden ist. Ein wirksamer Schutz von Kindern darf nicht auf Kosten der Freiheit und Privatsphäre aller gehen. Der Entwurf zur Chatkontrolle steht exemplarisch für die Spannung zwischen digitalem Kinderschutz und den fundamentalen Prinzipien einer freien Gesellschaft. Während das Ziel des Schutzes von Kindern unbestritten legitim und notwendig ist, wäre der gewählte Weg ein Dammbruch in Richtung digitaler Massenüberwachung. Weder technisch noch rechtlich überzeugt der Vorschlag – er gefährdet die Sicherheit verschlüsselter Kommunikation, untergräbt zentrale Grundrechte und schafft Präzedenzfälle, die weit über den ursprünglichen Zweck hinausreichen könnten. 

Eine sinnvolle Regulierung muss den Schutz von Kindern gewährleisten, ohne die Grundfesten der Privatsphäre und der Rechtsstaatlichkeit zu opfern.  Statt auf anlasslose Überwachung und technisch fragwürdige Kontrollmechanismen zu setzen, sollte die Politik auf zielgerichtete Ermittlungen, digitale Aufklärung und die Stärkung der Verantwortung von Eltern und Erziehenden setzen. Denn die wirksamste Prävention beginnt nicht auf den Servern großer Plattformen, sondern in den Familien selbst – bei den Menschen, die Kinder begleiten, aufklären und schützen.