Vollständiger Skript:

Das ein Filter bald den Upload der eigenen Datei abbricht, könnte Realität werden. In den letzten Monaten ist schon immer häufiger in den Nachrichten das Thema „Uploadfilter“ aufgetaucht. Dabei geht es um etwas ganz einfaches: Algorithmen sollen, wenn es nach der EU-Kommission geht, gewisse Inhalte daran hindern überhaupt ins Internet gestellt zu werden. Nun debattiert das EU-Parlament darüber, ob solche Filter für „terroristische Inhalte“ eingeführt werden sollen, nachdem es diese schon für urheberrechtlich geschützte Inhalte eingeführt hat.

Mit Uploadfiltern, kurze Löschfristen und hohe Strafen will die EU-Kommission, so die Rechtfertigung, die Ausbreitung von Propaganda von terroristischen Gruppen verhindern. Doch viel mehr wird, sollte dieses Vorhaben gelingen, die freie Meinungsäußerung eingeschränkt, kleine Blogs bestraft und vor allem die Instrumente für eine massenhafte Zensur des Internets im europäischen Raum bereit gestellt.

Dass die Debatte schon so lange läuft, dass niemand mehr weiß wann jetzt eigentlich was wie passiert, liegt daran, das schon Mitte 2017 mit diesen Mitteln gedroht wurde, doch ein konkreter Gesetzesentwurf steht erst seit dem 12. September 2018 im Raum. Er trägt den langen und vagen Titel: „Vorschlag für eine Regulierung von dem europäischen Parlament und des Rates über die Prävention der Verbreitung von terroristischen Inhalten im Internet". Nach einigem Hin und Her ist der Gesetzesentwurf nun beim europäischen Parlament angekommen, dort ist er in allen möglichen Ausschüssen unterwegs. Eine erste Plenumsdebatte ist für Anfang April angesetzt, eine Verabschiedung des Gesetzesentwurfs ist jedoch erst nach den Europawahlen am 26. Mai zu erwarten, denn nachdem das Parlament sich auf eine Position geeinigt hat, muss diese erst noch mit dem Rat und der EU-Kommission abgestimmt werden. Kurz dürften die Verhandlungen, in Anbetracht der vehementen Kritik, nicht ausfallen.

Die Tragweite des Gesetzes ist nicht unbeträchtlich, so zielt es auf alle Dienstanbieter ab, die ihre Dienste in der EU anbieten, völlig unabhängig ihres tatsächlichen Sitzes oder ihrer Größe. Um „terroristische“ Inhalte zu entfernen, werden mehrere Mechanismen vorgeschlagen. Ein Löschantrag soll als administrative oder judikative Entscheidung einer „kompetenten Behörde“ eines Mitgliedstaates möglich sein. Die Dienstanbieter seien dann verpflichtet den Inhalt innerhalb einer Stunde unzugänglich zu machen. Viel gravierender ist, dass Dienstanbieter zusätzlich proaktive Maßnahmen „angemessen dem Risiko“ ergreifen sollen. Ziel ist es „terroristische Inhalte“ von ihren Internetseiten zu entfernen oder gar automatisierte Verfahren einzusetzen, welche diese entdecken. Dazu werden Algorithmen verwendet, die zum Beispiel beim Hochladen eines Bildes auf Facebook oder Twitter dieses automatisch abgleichen um dann, bei positiver Erkennung, den Vorgang abzubrechen und das Hochladen zu unterbrechen. Dazu verwenden die Algorithmen eine Datenbank an „terroristischen Inhalten“ und Bilderkennungsverfahren, um Motive und Symbole zu erkennen.

Natürlich muss auch auf den Erhalt von Grundrechten geachtet werden, und so sieht der Vorschlag vor, dass es ein Beschwerdeverfahren geben soll, wenn Inhalte unrechtmäßig geblockt werden, als auch Transparenz schaffen über wie Inhalte zensiert werden.

Für die Durchsetzung der Uploadfilter und Löschanträge sollen die Mitgliedstaaten über entsprechende Kanäle zusammenarbeiten, auch über Europol, und die Dienstanbieter sollen sowohl gelöschte Inhalte speichern um Beweise zu sichern sowie bei „Bedrohung von Leben und Sicherheit“ diese aktiv den Strafverfolgungsbehörden melden.

Gerade die proaktiven Maßnahmen, also die Uploadfilter zur Zensur, stehen seit Beginn der Debatte in der Kritik. Die European Digital Rights Assoziation kritisiert, dass Zensurfilter eingeführt werden sollen, obwohl es ein generelles Verbot von Überwachungspflichten in der EU gibt. Mozilla bezeichnet den Vorschlag als Gefahr für das Ökosystem und die Rechte ihrer Nutzer*innen, in einem Text dazu kritisiert Mozilla, die unter anderem den Internet-Browser Firefox entwickeln, die Breite und ungenaue Definition von „Terrorismus“ sowie die kurze Löschfrist die für viele kleinere Dienstanbieter unmöglich umzusetzen sei. In einem Brief an den französischen Präsidenten Macron, der von über 60 Organisationen unterstützt wird, ruft La Quadrature du Net ihn und seine Regierung dazu auf sich gegen den Vorschlag einzusetzen. Sie schreiben darin:

„Die automatische Zensur, die nationale Behörden aufzwingen können, werden nicht praktisch umsetzbar sein. Deswegen werden kleine und mittelgroße Dienstanbieter die Ausführung dieser Aufgabe an einige wenige große Internetriesen delegieren, welche auf Grund ihrer finanziellen Macht dies umsetzen können, allen Voran Google und Facebook. […] Non-Profit und kollaborative Organisationen werden keine Wahl haben, als ihre eigenen Tätigkeiten einzustellen. Diese Regulierung wird deswegen Europas digitale Diversität drastisch reduzieren und den Rest an eine handvoll Konzerne ausliefern, die jetzt schon quasi-monopole haben und deren Hegemonie gestört werden müsste statt gestärkt.“

Die Kritik zeigt, dass die Gefahr einer weitreichenden Zensur und Überwachungsmaschinerie existiert, obwohl dies der bisherigen Rechtsprechung des Europäischen Gerichtshofs widerspricht.

Dabei existiert schon eine freiwillige Selbstregulierung, welche Facebook, Google und Twitter mit einer gemeinsamen Datenbank umsetzen, in deren Funktion niemand Einblick hat. So arbeitet dieser Datenbank Europol zu, und die EU-Kommission soll sie kontrollieren, doch Einblick haben beide nicht. Auf Presseanfragen antworten die Betreibenden nicht, so bleibt unklar wie viel des gespeicherten Inhalts tatsächlich illegal ist. Der jetzige Gesetzesvorschlag soll diesen Mechanismus verpflichtend machen, unter anderem auf Drängen des Bundesinnenministers Horst Seehofer, was wahrscheinlich zur Nutzung der selben Datenbank durch viele kleinere Dienstanbieter führen würde und die Strafverfolgung somit de facto in die Hände privater Anbieter legt.

Doch die Zensur von online Inhalten sei notwendig. Der Entwurf begründet die Notwendigkeit wie folgt: „die Möglichkeit ein so großes Publikum mit minimalen Kosten zu erreichen zieht auch Kriminelle an, welche das Internet für illegale Zwecke missbrauchen wollen. Vergangene terroristische Angriffe auf EU Boden haben gezeigt wie Terrorist*innen das Internet missbrauchen um Unterstützer*innen zu rekrutieren und heran zu ziehen, terroristische Aktivitäten vorzubereiten und zu erleichtern, ihre Gräueltaten zu glorifizieren, andere zur Nachahmung anstiften und Angst in der Öffentlichkeit zu verbreiten.“

Gleich drei UN-Sonderberichterstatter haben zu dem Vorschlag in einem längeren Papier Stellung bezogen und kritisieren den Vorschlag: „Mit schwerer Sorge merken wir an, was wir als eine mangelnde Beachtung zu erkennen glauben bezüglich dem Schutz von Menschenrechten im Kontext der vorgeschlagenen Regeln, welche die Moderation von Inhalten reglementieren. Wir rufen in Erinnerung, dass die Mechanismen die in den Artikeln vier bis sechs dargestellt werden, potenziell zu Beeinträchtigungen des Rechts auf Zugriff zu Informationen, der Meinungsfreiheit, der Freiheit sich auszudrücken und der Organisationsfreiheit führen und damit verschränkte politische und öffentliche Interessenprozesse beeinflussen.“

Wie dabei mit Terrorismus falsch umgegangen wird, zeigt Elisabeth Niekrenz von der NGO „Digitale Gesellschaft“. Ziel terroristischer Handlungen sei es, durch die Verbreitung von Schrecken, das Vertrauen in die offene Gesellschaft zu zerstören und so Meinungsfreiheit und Demokratie aufzuweichen. Mit dem vorgeschlagenen Maßnahmen würde die EU den Terrorist*innen in die Hände spielen.

In der Begründung des Vorschlags wird außerdem die Beeinflussung von „Sympathisant*innen“ über das Internet eingegangen, dabei ist diese These der „Lone Wolf“ Angriffe, dass einzelne Personen indirekt radikalisiert werden und dann Terroranschläge begehen würden, mit an Sicherheit grenzender Wahrscheinlichkeit widerlegt. Nahezu alle Terrorangriffe der letzten Jahre in der Europäischen Union waren von Personen begangen worden, die direkte Kontakte zu anderen Terrorist*innen hatten und mit diesen im Austausch standen. Die schwammige Definition von Terrorismus macht die Umsetzung umso schwieriger, den auch die „Anstiftung“ oder „Glorifizierung“ sind strafbar, was darunter jedoch zählt ist weit auslegbar, weswegen diese auch als „Gummiparagraph“, als beliebig einsetzbar und nach eigenen Zwecken missbrauchbar, bezeichnet werden. Problematisch ist dabei, dass unter den Begriff auch Aktionen des zivilen Ungehorsams fallen können, genauso wie journalistische Berichte zum Thema.

Der Vorstoß der Uploadfilter der gerade debattiert wird reiht sich ein in den Aufbau eines Zensurapparates, denn er folgt auf die Urheberrechtsreform welche genau solch einen Mechanismus auch schon für Urheberrechtsverletzungen vorsieht und, schon vom Parlament abgestimmt, gerade beim Ministerrat vorliegt. Sollte dieser Gesetzesentwurf unverändert beschlossen werden, wofür sich die Sozialdemokraten und Konservativen Fraktionen im Europaparlament einsetzen, wird eine Zensurmaschinerie eingerichtet deren Umfang schwierig zu kontrollieren ist, deren Anwendung sämtlichen öffentlichen Diskurs im Internet betrifft und die Unterdrückung von Meinungen aktiv unterstützt. Die Gefahr des Missbrauchs durch Behörden von EU-Mitgliedsstaaten, die schon längst nicht mehr alle funktionierende Demokratien sind, ist genauso beachtlich wie das Monopol der Zensurmechanismen selbst durch die großen Technologiekonzerne.