Chatkontrolle: Risikominderung als Schlupfloch

Nachdem die dänische Ratspräsidentschaft eine verpflichtende Chatkontrolle vorerst auf Eis gelegt hatte, nimmt die EU nun einen neuen Anlauf. Der neue Entwurf verzichtet zwar offiziell auf eine Scan-Pflicht, soll jedoch über Umwege eine inhaltliche Überwachung ermöglichen – selbst bei Ende-zu-Ende-verschlüsselter Kommunikation.

Davor warnt der Digitalrechtsexperte und ehemalige Abgeordnete des Europäischen Parlaments für die Piratenpartei Patrick Breyer kurz vor der entscheidenden Sitzung der EU-Arbeitsgruppensitzung in Brüssel. Mit einem „durchsichtigen Taschenspielertrick“ soll eine verpflichtende Chatkontrolle durch die Hintertür durchgesetzt werden, die seiner Auffassung nach sogar noch „übergriffiger ist als der ursprünglich abgelehnte Plan“.

Risikominderung als Zwang

Zwar verzichtet der aktuelle Entwurf offiziell auf die bisher vorgesehenen Scan-Pflichten, doch Artikel 4 enthalte laut Breyer ein entscheidendes „Schlupfloch“: Anbieter wie WhatsApp, Signal oder andere Messenger-Dienste sollen verpflichtet werden, „alle angemessenen Risikominderungsmaßnahmen“ umzusetzen – eine Formulierung, die in der Praxis einem Zwang zur Inhaltsüberprüfung gleichkomme und selbst verschlüsselte Kommunikation erfasst. Für den ehemaligen Europa-Abgeordneten würde durch diese Umsetzung die vermeintliche Freiwilligkeit des Vorschlags ausgehöhlt und die Streichung der früheren Aufdeckungspflichten ins Gegenteil verkehrt. Selbst Client-seitiges Scannen (CSS) auf Smartphones könnte zur Vorgabe werden – für Breyer das faktische Ende sicherer Verschlüsselung.

„Was hier passiert, ist eine politische Täuschung ersten Ranges“, erklärt Breyer in einer Pressemitteilung. „Deutschland hat nach lautstarken Bürgerprotesten Nein zur anlasslosen Chatkontrolle gesagt. Jetzt kehrt sie durch die Hintertür zurück – getarnt, gefährlicher und umfassender als je zuvor. Deutschland soll für dumm verkauft werden“, so der Digitalexperte weiter.

Auch hier künstliche Intelligenz nicht das Allheilmittel

Auch die geplante Einbindung von KI-Systemen zur Erkennung verdächtiger Inhalte bewertet Breyer kritisch. Die derzeit diskutierten Kontrollmechanismen gingen weit über die Konzepte früherer Ratspräsidentschaften hinaus. Vorgesehen sei, dass Algorithmen und künstliche Intelligenz künftig massenhaft private Chat-Texte und Metadaten aller Bürger nach auffälligen Begriffen und Mustern durchsuchen. Nach Breyers Einschätzung könne jedoch keine KI zuverlässig zwischen „einem Flirt, Sarkasmus und kriminellem Grooming“ unterscheiden. „Stellen Sie sich vor, Ihr Handy scannt jedes Gespräch mit Ihrem Partner, Ihrer Tochter oder Ihrem Therapeuten und leakt es, nur weil irgendwo das Wort ‚Liebe‘ oder ‚Treffen‘ vorkommt. Das ist kein Kinderschutz – das ist digitale Hexenjagd“, steht für Breyer fest.

Falschmeldungen ein großes Problem

Der ehemalige Europa-Abgeordnete verweist zudem auf ein bei allen bisherigen Plänen zur Chatkontrolle immer wieder genanntes Problem: Die massiv hohe Zahl von Falschmeldungen, vor denen selbst Ermittlungsbehörden gewarnt haben. Bereits im Februar 2023 zeigte eine unabhängige Untersuchung von REPHRAIN (National Research Centre on Privacy, Harm Reduction and Adversarial Influence Online) die Risiken auf, die entstehen, wenn bei der Suche nach einschlägigem Material auf Algorithmen gesetzt wird. Dabei wurden fünf gängige Systeme getestet, von denen keines fundamentale Grundrechtsstandards einhielt. Die Rate falscher Meldungen konnte entweder nicht beziffert werden oder war untragbar hoch.

Ermittlungsbehörden am Limit

Im Ergebnis würde dies bedeuten, dass das schnelle Anschlagen bei den Kontrollen für die Verfolgungsbehörden enorme Auswirkungen hätte. Bei den rund zehn Milliarden täglich innerhalb der EU verschickten Nachrichten würde schon eine Meldungsrate von 0,001 Prozent dazu führen, dass die Behörden täglich 100.000 Nachrichten überprüfen müssten. Dadurch würden erhebliche Kapazitäten bei der Polizei gebunden, die dann für andere Aufgaben nicht mehr zur Verfügung stünden. Laut Breyer seien dem BKA zufolge bereits heute rund 50 Prozent aller im Rahmen der freiwilligen „Chatkontrolle 1.0“ gemeldeten Fälle strafrechtlich irrelevant – was zehntausende unbedenkliche Chats pro Jahr bedeute. Eine Flut von Falschmeldungen wäre somit unvermeidlich, die „unschuldige Bürger unter Generalverdacht stellt und massenhaft private, sogar intime Chats, Fotos und Videos Fremden preisgibt“.

Verdecktes Vorhaben

Im Windschatten der Debatte sollen zudem zwei weitere folgenschwere Maßnahmen durchgesetzt werden. So würde mit dem neuen Maßnahmenkatalog über Umwege das Recht auf anonyme Kommunikation de facto abgeschafft werden, indem künftig jeder Bürger zur Eröffnung eines E-Mail- oder Messenger-Kontos seinen Ausweis vorlegen oder sein Gesicht scannen lassen müsse. „Das ist das faktische Ende der anonymen Kommunikation im Netz – ein Desaster für Whistleblower, Journalisten, politische Aktivisten und Hilfesuchende, die auf den Schutz der Anonymität angewiesen sind“, warnt Breyer.

Darüber hinaus drohe Jugendlichen unter 16 Jahren der pauschale Ausschluss von WhatsApp, Instagram, Online-Spielen und zahlreichen anderen Apps mit Chatfunktion – unabhängig davon, was Eltern dazu denken. Für Breyer sei das eine „digitale Isolation statt Aufklärung“ und „Schutz durch Ausschluss statt Stärkung“. Dies sei für ihn lebensfremd und pädagogisch vollkommener Unsinn.

Erneut Veto von CDU und SPD gefordert

Breyer appelliert daher erneut an die Bundesregierung, sich klar gegen die anlasslose Überwachung von Millionen Bundesbürgern zu positionieren. „Man verkauft uns Sicherheit, aber liefert eine Totalüberwachungsmaschine“, fasst dieser zusammen. Ein „Nein“ zur Chatkontrolle hatte ebenso die Konferenz der unabhängigen Datenschutzbehörden von Bund und Ländern (DSK) in einem Anfang Oktober 2025 veröffentlichten Positionspapier gefordert.