Confessio Digitalis

Hanno Terbuyken, Leiter Digitale Kommunikation im GEP, notiert im Blog "Confessio Digitalis" seine Gedanken, Beobachtungen, Links und Interviews rund um Digitalisierung, digitale Kirche und die vernetzte Gegenwart.

Ein Massenmord im eigenen Wohnzimmer

Ein Massenmord im eigenen Wohnzimmer
Nach den Morden von Christchurch: Die Reaktionen von Facebook und YouTube und was wir jetzt tun können.

Nach dem Massenmord von Christchurch ist deutlicher geworden, welche Rolle die Social-Media-Plattformen neben der üblichen Verbreitung der Nachricht durch die Massenmedien gespielt haben. In einem offiziellen Statement hat Facebook verkündet, dass das Video auf Facebook nur rund 4.000 Mal gesehen wurde, bevor es dort entfernt wurde. Es hat eine halbe Stunde vom Start des Livestreams gedauert, bevor auch nur eine Person das Video an Facebook gemeldet hat. Da hatte es aber schon jemand kopiert und auf 8chan zur Verfügung gestellt.

Und dann, sagt Facebook, haben sie in den ersten 24 Stunden 1,2 Millionen Uploads beim Hochladen schon blockiert und 300.000 Versionen des Mordvideos nach dem Upload von der Seite entfernt. Wie viele Menschen es dann noch gesehen haben, verrät Facebook bisher nicht.

Das bedeutet rund 1.000 Uploads pro Minute, von einem Video, das einen rassistischen Massenmord zeigt!

YouTube stand vor der gleichen Herausforderung. Im Gespräch mit der Washington Post sagte Chief Product Officer Neal Mohan, YouTube habe das Video direkt "gehasht", also eine digitale Signatur zum Abgleich mit den bestehenden Inhaltsfiltern erstellt. So verhindert YouTube auch jetzt schon weitgehend den Upload von anderen terroristischen Videos. Für das Mordvideo von Christchurch war das nicht ausreichend, weil auch auf YouTube unzählige leicht abgeänderte Varianten hochgeladen wurden. In den Stunden direkt nach dem Attentat rauschte ein Video pro Sekunde auf die Videoplattform.

Mit dem Ziel, das zu verhindern, nahmen Mohan und sein Team die menschlichen Moderatoren aus der Schleife, weil der Prozess der menschlichen Überprüfung die Videos zu lange online gelassen hätte. YouTube hat außerdem für alle Nutzer die Suche nach "neuesten Uploads" abgeschaltet.

Es gibt zu viele Menschen, die Mordvideos verbreiten wollen

Ich glaube immer noch, dass beide Plattformen bessere Schranken brauchen, solche Videos zu verhindern, im Zweifel den Upload von Videos kurzfristig komplett aussetzen. Allerdings wird in der Nachbetrachtung auch deutlich, dass nicht Facebook und YouTube die Ursache für das Problem sind. Sie sind die letzten Verstärker in der Kette zwischen Terrorist, Sympathisanten und unbedarften Nutzer*innen. Sie sind da in der gleichen Rolle wie die Massenmedien, mit einem wesentlichen Unterschied: Redaktionelle Massenmedien können sehr einfach über eine redaktionelle Entscheidung verhindern, dass sich über ihre Plattformen ein solches Mordvideo weiterverbreitet. Sie können die Bilder einfach nicht verwenden. An diese simple journalistische Regel haben sich die üblichen Verdächtigen auch wieder nicht gehalten.

Facebook und YouTube haben es aber nicht mit einem klickgeilen Chefredakteur zu tun, sondern mit dutzenden, hunderten oder vielleicht tausenden Menschen, die aktiv versuchen, die Abwehrmaßnahmen zu überlasten oder zu überlisten. Je mehr Menschen ein Video, das eigentlich gesperrt sein sollte, leicht verändern und hochladen, umso höher ist die Wahrscheinlichkeit, dass Facebook und YouTube nicht hinterherkommen.

Das Erschreckende ist, dass es so viele Menschen gibt, die ein Mordvideo aktiv weiterverbreiten. Wer heute auf 8chan schaut, findet diverse Threads, die den Attentäter feiern. Auch das Bekennerschreiben wird dort nach wie vor verbreitet, inzwischen auch in französischer, russischer und bulgarischer Übersetzung, weitere Sprachen sind geplant. Wenn sich so viele Rassisten in Nischencommunities organisieren, können Facebook und YouTube das Ergebnis auch nicht verhindern.

Was beide Plattformen aber können: den Nährboden für diese Entwicklung noch stärker einzuschränken. Wo Ethno-Nationalisten und Rassisten ihre Ideen in Empfehlungen finden und in geschlossenen Gruppen frei austauschen können, sind die Plattformbetreiber zum Handeln aufgerufen.

Dazu kommt noch etwas, das mit dem Internet erstmal nichts zu tun hat. Durch das Bekennerschreiben des Mörders zieht sich eine grundlegende Skepsis gegen alle Organisationen der Zivilgesellschaft, von Politik und Kirchen bis zu Vereinen. Der Christchurch-Attentäter kommt aus einer stark individualisierten Welt, in der man(n) sich immer gegen alles wehren muss. Solidarität mit Schwachen, Empathie, Kompromiss sind Konzepte, die er nicht kennt oder akzeptiert. Deswegen, liebe Eltern: Schickt eure Kinder zu den Pfadfindern, zur Jugendarbeit der Gemeinde, in den Sportverein oder in eine E-Sports-Gruppe! Überall dort, wo Regeln des gemeinschaftlichen Zusammenseins geübt, gelernt, auch hinterfragt und begründet werden können, wird der Schutz gegen eine späterere Radikalisierung ein bisschen stärker.

Ein Massenmord im eigenen Wohnzimmer

Ich habe mich in der Woche seit der Tat immer wieder gefragt, warum mir ausgerechnet dieser Massenmord näher geht als viele andere, die auch in der Welt passieren (zum Beispiel die an Christen in Nigeria, auf die vergangene Woche ein Nutzer in den Kommentaren hinwies und über die nicht so viel berichtet wurde wie über Christchurch). Ich glaube, es liegt daran, dass das Internet ein Teil des Tatorts geworden ist. So wie Amokläufe in der eigenen Heimatstadt den Menschen näher gehen, war das in diesem Fall auch für das Internet.

Denn was Axel Voss (CDU), Verfechter der Uploadfilter im geplanten EU-Urheberrecht, im Interview mit "Vice" offenbar für abwegig hielt, ist für mich und viele andere eben Wirklichkeit. "Mir scheint, viele betrachten die Möglichkeiten des Digitalen als Lebensinhalt", hat Voss da gesagt. Richtig! Mein Leben wäre anders, wenn es die Möglichkeiten des Digitalen nicht gäbe. Digitales ist nicht mein einziger Lebensinhalt, aber ein wesentlicher Teil davon. Und das geht offensichtlich auch den mehr als 5 Millionen so, die die Petition gegen Artikel 13 (in der aktuellsten Gesetzesvorlage umnummeriert in Artikel 17) unterschrieben haben.

Die Filter, die in der Verschärfung des Urheberrechts vorgesehen sind, hätten den Livestream des Mörders von Christchurch übrigens auch nicht verhindert. Denn der Täter hatte ja das Urheberrecht an dem von ihm erstellten Livestream.

Also: Geht demonstrieren! Heute (Samstag, 23. März) sind die großen Demonstrationen gegen die fehlgeleitete EU-Urheberrechtsreform, die weder den Urhebern noch dem Recht genüge tut.

Vielen Dank für's Lesen und Mitdenken!


Im Blog Confessio Digitalis schreibe ich meine Beobachtungen, Links und Interviews zu den Themen Digitalisierung, Digitale Kirche und digitalisierte Welt auf. Ich bin erreichbar auf Twitter als @dailybug.

P.S.: Leser*innen haben mich darauf hingewiesen, dass "Digitalis" auch der Name der Fingerhut-Pflanzen ist, die zu Gift verarbeitet werden können. Das lässt den Blogtitel "Confessio Digitalis" natürlich ein bisschen fies klingen. Andererseits behandelt man mit Digitalis-Präparaten auch Herzprobleme. Und dass das digitale Herz der Kirche besser schlägt, ist mir ein Anliegen. Deswegen lasse ich den Namen des Blogs so - nehmt es als Präparat!

weitere Blogs

brennende Notre Dame
Sollte man statt für den Wiederaufbau von Notre Dame nicht lieber für humanitäre Zwecke spenden?
Die "taz" feiert nun aber wirklich ihren 40. Geburtstag. Dazu ein kleiner Rückblick mit legendären Titelseiten, Olaf Scholz am Telefon, dem verwechselbaren Ur-Markenzeichen "Tazze" und der taufrischen "U24"-Ausgabe.
Blog kreuz und quer 17.4.
Ende März hat mich Julie Esse (Pseudonym) in Deutschland besucht. Sie ist lesbische Aktivistin und Mitglied in der ökumenischen queeren Regenbogengemeinde „Light of  the World“ in Moskau.