//Rechtsraum Internet, Extremismus 

Warum der Kampf gegen radikale Strömungen im Netz so schwierig ist

Viel wurde in den vergangenen Tagen darüber diskutiert, warum Facebook einerseits so vehement gegen die Darstellung von Nacktheit vorgeht, sich aber andererseits dermaßen schwer tut, rechtsradikale Hassparolen von den eigenen Seiten zu entfernen. Zumindest auf den ersten Blick zeichnet sich das Unternehmen mit einer solchen Verhaltensweise eher durch politische Korrektheit als durch entschlossenes politisches Handeln aus. Doch so unverständlich dies auf den ersten Blick erscheinen mag, so ist der Sachverhalt beim genaueren Hinsehen doch deutlich diffiziler.

Facebook weist in seinen Gemeinschaftsstandards an mehreren Stellen darauf hin, dass es sich bei Facebook um eine globale Community handelt.  Unter dem Punkt „Nacktheit“ heißt es beispielsweise: „Facebook schränkt die Darstellung von Nacktheit ein, da einige Zielgruppen innerhalb unserer globalen Gemeinschaft auf diese Arten von Inhalten unter Umständen sensibel reagieren können, insbesondere aufgrund ihres kulturellen Hintergrunds oder Alters. Um alle Menschen fair zu behandeln und auf Meldungen schnell zu reagieren, ist es absolut notwendig, Richtlinien in Kraft zu setzen, die unsere globale Gemeinschaft beim Prüfen von Inhalten einheitlich und problemlos anwenden kann. Deshalb sind unsere Richtlinien manchmal breiter gefasst als uns lieb wäre und beschränken unter Umständen Inhalte, die aus legitimen Gründen geteilt wurden.“

Die Tatsache, dass der Verhaltenskodex „Gemeinschaftsstandards“  lediglich als kleinster gemeinsamer Nenner der  Regeln, Normen und Rechtsauffassungen verschiedener Kulturen ausgelegt ist, schafft jedoch Probleme auf nationaler Ebene und eröffnet z. B. neue Räume der ungeregelten Kommunikation, mit der Folge, dass rechter Hass und terroristische Propaganda auf der Plattform florieren, ohne dass dies entsprechende Konsequenzen seitens des Unternehmens oder der nationalen Rechtssprechung nach sich zieht.

Doch Facebook - als privatwirtschaftliches und damit in erster Linie gewinnorientiertes Unternehmen angelegt - möchte nur ungern in die Rolle des Zensors schlüpfen, der mit einem Mal hoheitliche Aufgaben übernimmt. Nichtsdestotrotz  ist das „Produkt“ Facebook zu einem integralen Bestandteil des öffentlichen Raums geworden und bedarf entsprechender Regelung, was auch Bundesjustizminister Heiko Maas dazu bewegt hat, in dieser Frage aktiv auf das Unternehmen zuzugehen.

Für den Moment setzt Facebook für das Auffinden von Hasskommentaren in erster Linie auf die Mithilfe seiner Mitglieder und bittet diese „unangemessene oder missbräuchliche Inhalte“ zu melden. Facebook hat zudem eine Task Force angekündigt und ist in diesen Tagen der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter beigetreten, wobei der FSM in erster Linie eine Beraterfunktion zukommen soll. Es ist jedoch nicht bekannt, dass Facebook tatsächlich - wie von Justizminister Heiko Mass gefordert - neue deutsche Mitarbeiter eingestellt hat, um das Netzwerk aktiv nach Hasskommentaren zu durchkämmen. Facebook fürchtet wohl, auch in anderen Ländern Begehrlichkeiten zu wecken und präsentiert sich lieber als „neutrale“ Plattform (und verschweigt an dieser Stelle ganz gerne, dass das Unternehmen, z. B. durch die Inanspruchnahme der Datenhoheit als Kernelement des eigenen Geschäftsmodells an anderer Stelle durchaus vehement in den Informationsfluss seiner Benutzer eingreift). Die wirtschaftliche Interessenssphäre von Facebook kollidiert also an diesem Punkt mit allgemeinen freiheitlichen Grundrechten, für deren Sicherung früher ausschließlich der Staat zuständig war und die - zumindest nach dem Wunsch von Heiko Maas - jetzt von Facebook abgesichert werden sollen.

Andersherum gefragt käme von behördlicher Seite die Einrichtung spezifischer Beschwerdestellen in Betracht, wobei die finanziellen Mittel dafür relativ eingeschränkt sein dürften. Eine rein technologische bzw. eine technologiegestützte Lösung scheint noch nicht realisierbar - zumal schon Nicht-Muttersprachler oft Probleme haben, den Kontext bestimmter Botschaften richtig einzuordnen. Im Kampf gegen den Hass im Netz ist im Moment also in erster Linie die Zivilgesellschaft gefragt, die z. B. - wie von Facebook auch des Öfteren gefordert - durch „Gegenrede“ positiv auf die Agitatoren einwirken soll, auch wenn dies auf Dauer eigentlich keine tragfähige Lösung sein kann.

Von diesem Problem sind jedoch nicht nur Facebook, sondern auch alle anderen Kommunikationsplattformen im Netz betroffen. Dazu zählen Twitter, YouTube, Instagram oder auch diverse Messaging-Dienste wie WhatsApp und Telegram Messenger. Twitter ist im vergangenen Jahr bereits massive gegen die Propagandakanäle des IS vorgegangen und löschte zahlreiche Accounts, woraufhin das Terrornetzwerk schlichtweg den Kanal wechselte und auf das dezentrale soziale Netzwerk „Diaspora“ umstieg. Dass eigentlich zum Schutz der Privatsphäre seiner Benutzer konzipierte Diaspora dient nun fatalerweise der Verschleierung terroristischer Propaganda. Auch der stark auf Ende-zu-Ende-Verschlüsselung setzende Telegram Messenger hat in den vergangenen Tagen die Löschung zahlreicher IS-Konten bekannt gegeben. Und spätestens mit der Veröffentlichung des Videos der Enthauptung der amerikanischen Journalisten James Foley und Steven Sotlof am 19. August 2014 auf YouTube musste sich auch die Videoplattform von Google einige schwierige Fragen stellen. 

Wie bei Facebook dienen bei YouTube sog. Community-Richtlinien als Entscheidungsgrundlage für das Entfernen problematischer Inhalte. Ein „enforcement team“ wurde zur Überwachung und Einhaltung der Standards und für das Entfernen anstößiger Inhalte eingesetzt. Eine vollständige „Vorzensur“ kann das Team jedoch unmöglich leisten, d. h. YouTube ist ebenfalls auf die Mithilfe seiner Nutzer angewiesen, um die entsprechenden Inhalte aufzuspüren und (nachträglich) zu entfernen. Damit ereilt YouTube das gleiche Schicksal wie alle anderen offenen Kommunikations-Plattformen, nämlich das ihr Angebot grundsätzlich immer für radikale Zwecke missbraucht werden kann - zumindest vorübergehend. Eine lückenlose Absicherung oder gar Abschottung ist so gut wie unmöglich, die Verbreitung radikaler Inhalte kann also immer nur eingedämmt werden.

In den vergangenen Monaten ist der Druck auf die sozialen Plattformen von Behördenseite  durch entsprechende Anfragen weiter gestiegen, z. B. bei Twitter oder Google. Die Unternehmen müssen dabei prüfen, inwieweit die Anfragen, z. B. zur Herausgabe von Nutzerdaten oder zur Löschung spezifischer Inhalte, rechtlich begründet sind, also der jeweiligen lokalen Gesetzgebung entsprechen. Dabei kann es jedoch zu Konflikten zwischen den Rechtssprechungen verschiedener Länder kommen. YouTube kann z. B. das Löschen von Inhalten verweigern, die nach deutschem Gesetz nicht gezeigt werden dürfen, in anderen Ländern hingegen schon. So herrscht in Deutschland z. B. eine verschärfte Rechtslage im Hinblick auf das Zeigen von Nazisymbolen. Der Nutzer, der diese Inhalte in Deutschland hochlädt, kann nach deutschem Recht strafrechtlich dafür belangt werden, was YouTube aber nicht dazu veranlassen muss, diese Inhalte von seiner Plattform zu entfernen. Die Zahlen zu diesen Behördenanfragen werden von Google und Facebook in entsprechenden Transparenzberichten veröffentlicht.

Bei allen Fragen der Zuständigkeit muss auch die Frage der Wirksamkeit dieser Maßnahmen gestellt werden. Es scheint unzweifelhaft, dass das Kappen von Informationskanälen die Verbreitung extremen Gedankenguts eindämmt oder die Vorbereitung terroristischer Aktivitäten erschwert. Zumindest für den Moment. Doch dies allein ist nicht ausreichend. Die Terroristen verlagern ihre Aktivitäten oftmals schlichtweg in abgelegenere Gefilde, z. B. in das Darknet. In dieser Hinsicht unterscheidet sich die virtuelle Welt wenig von bereits hinlänglich gemachten Erfahrungen im realpolitischen Alltag: wer die Junkies aus der Bahnhofshalle vertreibt hat noch lange nicht das Problem der Drogenkriminalität gelöst. Antiterror-Experten sind oftmals sogar auf die Daten und Informationen angewiesen, die aus sozialen Netzwerken oder über Twitter gewonnen werden können, um mehr über die Zielgruppe zu erfahren. Alternativen bzw. Ergänzungen zum Schließen der Kommunikationskanäle sind z. B. die direkte Ansprache Gefährdeter. Welche Personen für eine Radikalisierung anfällig sind, ließe sich z. B. mittels intelligenter Software über die sozialen Netzwerke ermitteln. Eine absolute Verdrängung aus der öffentlichen digitalen Sphäre kann zudem zu einer weiteren Radikalisierung der Gruppierungen beitragen. Unter diesen Gesichtspunkten sind auch die kürzlich erfolgten Rache-Aktionen des Hacker-Kollektivs Anonymous mit kritischer Distanz zu betrachten.