Das Problem mit der Chatkontrolle, einfach erklärt

Die EU-Kommission will gegen Kindesmissbrauch im Netz und Chats vorgehen. Die Methode? Kontrolle von verschlüsselten Chats mittels Algorithmen. Wir haben den Datenschutz-Experten Dominik Polakovics von epicenter.works gefragt, was für unerwünschte Nebenwirkungen die Chatkontrolle bringt.

#1 Was ist die Chatkontrolle und was will die EU damit erreichen?

Dominik Polakovics: Die EU will verhindern, dass Material zu sexuellem Kindesmissbrauch über Online-Dienste geteilt wird. Die Chatkontrolle soll das unterbinden. Dafür setzen Chat-Anbieter*innen Algorithmen ein, die erkennen sollen, wann es sich um solches Material handelt.

#2 Liest die Behörde dann bei all meinen Nachrichten mit?

Dominik Polakovics: Die Behörden gelangen nur an die Nachrichten und Bilder, wenn der Algorithmus anschlägt. Dieser erkennt schon bekanntes Material anhand von Hashes. Das sind – grob gesagt – einzigartige Werte, die den Inhalt einer Datei beschreiben. Das bedeutet: Ist den Behörden ein Bild bekannt, das Kindesmissbrauch zeigt, kann der Algorithmus alle Bilder darauf abgleichen. In der Praxis würde das bedeuten, dass jedes geschickte Foto automatisch überprüft und kontrolliert wird.

Um „neues“ Material zu erkennen, soll Machine Learning eingesetzt werden. Das heißt, die Algorithmen lernen mit. Gerade hier kann es aber zu großen Problemen kommen.

#3 Was ist die Kritik an der Chatkontrolle?

Dominik Polakovics: Ob es sich bei einem Foto um Darstellungen von Kindesmissbrauch handelt, ist für einen Algorithmus nicht leicht zu erkennen. Da geht es einerseits darum, das Alter richtig einzuschätzen. Wenn da ein Fehler passiert, gehen intime Bilder, die zwei Erwachsene austauschen, an die Behörden.

Auch der Kontext ist wichtig. Verschickt eine Mutter Fotos von ihrem Kind beim Schwimmen an Verwandte, dann handelt es sich in diesem Zusammenhang nicht um Material, das gemeldet werden muss. In einem anderen Kontext kann es sich bei solchen Fotos aber durchaus um Kindesmissbrauch handeln.

Nicht nur Bilder, sondern auch Text soll kontrolliert werden. Hier stellt sich die Frage, wie ein Algorithmus überhaupt erkennen soll, wenn jemand versucht, etwas mit Minderjährigen anzubahnen.

Wenn der Algorithmus falsch ausschlägt, kommt es zu „Overblocking“. So landen jede Menge sensible Daten bei Behörden, die dort gar nicht hingehören. Jeden Tag werden Milliarden an Chatnachrichten in der EU versandt. Wenn der Algorithmus auch nur bei einem winzigen Prozentsatz falsch anschlägt, sind das extrem viele Nachrichten.

Dann stellt sich auch die Frage: Wie sicher sind diese bei Behörden? Gibt es Leaks oder Hacks, können sensible Daten schnell im Internet landen.

#4 Was ist die langfristige Gefahr bei der Technologie?

Dominik Polakovics: Ist die Voraussetzung der Chatkontrolle erstmal auf jedem Gerät vorhanden, ist die Gefahr groß, dass zukünftige Regierungen diese ausweiten wollen. Wer weiß, auf welche Inhalte die Chatnachrichten in der Zukunft kontrolliert werden sollen? Solche Technologien können Begehrlichkeiten wecken.

#5 Ist das alles nur ein Vorwand, um an meine Daten zu kommen?

Dominik Polakovics: Das möchte ich der EU nicht vorwerfen. Ich denke, bei der Chatkontrolle stehen gute Absichten dahinter. Die Methode, um diese Ziele zu erreichen, ist aber falsch und unverhältnismäßig, da es alle EU-weiten Nachrichten betreffen wird. Die Risiken übersteigen den möglichen Nutzen. Denn wer wirklich Material von Kindesmissbrauch verbreiten will, kann die Chatkontrolle leicht umgehen.

Dominik Polakovics analysiert für den Verein epicenter.works Themen rund um Datensicherheit und Datenschutz.