Was Soziale Medien und Künstliche Intelligenz gemeinsam haben

Dass sie öfter "sogenannt" werden sollten. In der Medienkolumne geht's heute ums NetzDG (gilt inzwischen!), um "Predictive Policing" und einen Kino-Dokumentarfilm zu diesem Thema, sowie um dank ebenfalls algorithmischem "Mathwashing" weiße Westen.

Das umstrittenste Gesetz des Jahres ist seit anderthalb Wochen in Kraft. Es trägt die drei Namen "Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken" bzw. etwas kürzer: "Netzwerkdurchsetzungsgesetz" bzw. schlicht: "NetzDG" und wurde heftig diskutiert, solange Bundesjustizminister Heiko Maas es durchsetzen wollte. Mit einigen Abstrichen bzw. – je nach Blickwinkel – Nachbesserungen gelang ihm das kurz vor der Bundestags-Sommerpause dann.

Was man seitdem davon gehört hat: wenig, nach dem man auch länger suchen muss. Fairerweise muss hinzugefügt werden: Sehr viel lässt sich auch noch nicht sagen. "Das Gesetz ... tritt zwar am 1. Oktober 2017 in Kraft. Für die betroffenen sozialen Netzwerke gilt aber zunächst eine dreimonatige Übergangsregelung, damit diese ein wirk­sames und transparentes Beschwerdemanagement aufbauen oder ein bestehendes verbessern können", hat das Bundesamt für Justiz in seinem Internetauftritt in alarmrot über den ansonsten in schwarzer Schrift gehaltenen Text geschrieben. Dieses in Bonn ansässige BdJ soll "in Zukunft bestimmen ..., wer unter das Gesetz fällt", hat sich netzpolitik.org sagen lassen, das nun noch mal die "Grundprobleme" des NetzDG ("Overblocking durch die Plattformen und ... Privatisierung der Rechtsdurchsetzung") skizziert.

Es läuft also eine Übergangsphase, in der sich vorbereiten. Das Portal onlinecensorship.org hat schon mal ein "Resource Kit" ins Netz gestellt, mit dem Journalisten Löschungen ihrer Beiträge dokumentieren können, was quasi einer Forderung der Journalistengewerkschaft DJV entspricht. Und das BdJ stellt neue Mitarbeiter ein. Bloß beim Bonner Amtsgericht, das den umstrittenen Gesetzes-Wortlaut in Klagefällen mit der Internetrealität vergleichen müssen wird, sei "man weit entfernt davon, gerüstet zu sein", berichtet handelsblatt.com im selben Zusammenhang.

Wobei das Amtsgericht vielleicht Recht behält. Schließlich läuft außer der Übergangsregelung auch noch eine bundespolitische Warteschleife: Über die Zusammensetzung der nächsten Bundesregierung wird erst in Kürze zu verhandeln begonnen. Dass Heiko Maas nicht Minister bleibt, ist einstweilen ziemlich sicher. Und den vier Parteien, die mutmaßlich die nächste Regierung bilden, ist das NetzDG entweder egal, oder sie hatten sich während der Diskussionen dagegen positioniert. Vielleicht wird das NetzDG in seiner aktuellen Form doch kaum angewandt.

Türkisch und Kurdisch löschen in Essen

Facebook jedenfalls, auf das das Gesetz am ehesten zielte, ist gerüstet und arbeitet in Essen sein"500-köpfiges Lösch-Team" ("WAZ") ein, das justiziable deutsche Hasskommentare so schnell löschen soll, wie es das Gesetz fordert. Die Schaffung dieses "zweiten deutschen Löschzentrums" ist bislang die sichtbarste NetzDG-Folge. Wie euphorisch der neu gewählte Ministerpräsident Armin Laschet die Ansiedlung dieser Filiale eines österreichischen Facebook-Dienstleisters in seinem Land begrüßt hatte, als "wesentlichen Beitrag ... zur Kommunikationskultur im Internet" "jetzt auch aus Nordrhein-Westfalen", deutete schon an, aus welch unterschiedlicher Brillen sich die Sache betrachten lässt: aus schlicht wirtschaftspolitischer, die mit dem Datenkraken als "Weltkonzern" renommiert, genauso gut wie aus zensurkritischen.

Dabei ist noch spannender als die Frage, welche Inhalte Facebook in Essen wegen des deutschen NetzDG löschen lässt, nach welchen Kritierien die ebenfalls dort arbeitenden persisch-, türkisch-, kurdisch- und arabischsprachigen Löschkräfte Facebook-Inhalte löschen. Nach Gesetzen, die in Staaten gelten, in denen vor allem Arabisch und Türkisch gesprochen wird, Kurdisch dagegen teilweise nur eingeschränkt verwendet werden darf?..

Im Internet und den sozialen Medien entwickelt sich alles dynamisch weiter und wird auch von global agierenden Konzernen, die sich am ehesten nach US-amerikanischen (und in der EU: irischen) Gesetzen richten, aktiv weiterentwickelt. Vor diesen Hintergründen muss längst nicht alles, was das viel kritisierte Gesetz voraussichtlich bewirken wird, schlecht sein. Dass es zum Beispiel soziale Netzwerke verpflichtet, "inländische Zustellungsbevollmächtigte" zu nennen, an die sich Ermittler wie auch Nutzer wenden können, ist marginal, aber eine gute Sache. Twitter etwa hatte solche Ansprechpartner in Deutschland nicht mehr, brachte im August (Altpapier) Shahak Shapira am Rande einer seiner Aktionen in Erfahrung.

Überwachungskameras zurückfilmen

"Sie sind männlich, Sie liken Britney Spears oder 'Desperate Housewives'? Sie sind sind mit 73 Prozent Wahrscheinlichkeit homosexuell". Da geht es darum, wie Facebook die Roh-Daten der "Likes", also der Daumen-rauf-Symbole, die Facebook-Nutzer immerzu überall zu klicken aufgefordert werden, auswertet. Wo dieser Satz fällt: im Dokumentarfilm "Pre-Crime", der am heutigen Donnerstag in Kinos kommt.

Die deutsche Expertin Yvonne Hofstetter sagt ihn und spricht von einer "Vorstufe einer kybernetischen Kontrollstrategie". Es geht ums Thema "Predictive Policing" und die "Versicherheitlichung der Gesellschaft" mit Hilfe von Algorithmen und Daten, die private Firmen liefern, also verkaufen. Aus der Häufigkeit von gemeldeten Verbrechen in bestimmten Gegenden wird die Wahrscheinlichkeit künftiger Verbrechen abgeleitet. In US-amerikanischen Städten führt die Polizei "Heat Lists" mit Menschen, die auf bereits stattgefundenen Begegnungen mit der Polizei basieren. Dass solche "Interaktionen" keineswegs grundsätzlich auf bewiesene Schuld oder objektive Verdachtsmomente deuten, sondern auch einfach mit Wohnorten und weiteren sozialen Faktoren zuammenhängen, liegt auf der Hand. Ist das Diskriminierung?

Leider verwischt und vermischt der Film viele Themen und Systeme, anstatt sich auf spannende wie das Geschäft des Datamining (zu dem Nutzer sozialer Medien großenteils unbewusst ständig neue Daten zuliefern) zu fokussieren. Die Regisseure Monika Hielscher und Matthias Heeder  "unterlassen ... es, die Unterschiede zu verdeutlichen" zwischen US-amerikanischen Rechtslagen und der deutschen. Ihr Film "versucht gar nicht erst, ein sachliches Bild vom Thema zu zeichnen", schreibt Patrick Beuth in seiner zeit.de-Filmkritik. Ob zum Beispiel Videoüberwachung an Gewaltkriminalitäts-Schwerpunkten, wie sie in Berlin gerade von einer Initiative gegen die rot-rot-grüne Regierung gefordert wird, lässt sich kontrovers diskutieren. Es müsste aber zumindest an-diskutiert werden, bevor man voraussetzt, dass Überwachungskameras nirgends nützen. Hielscher und Heeder wollen die ohnehin Überzeugten bestärken. Und dass zwischendurch auf einer Autorenebene jemand am rauschenden Meer Sätze wie "Hollywood ist endgültig mit dem wirklichen Leben verschmolzen" spricht, hilft beim präzisen Analysieren auch wenig. Vielleicht hilft's im Kino, in dem ja jede Woche eine Menge neuer Filme miteinander konkurrieren muss (wie letzte Woche hier Thema war).

Insofern mag es "Pre-Crime" auch visuell knallig und bebildert die Aussagen vieler Experten mit Bildern, die wie Überwachungskamera-Aufnahmen voller Textinserts und Fadenkreuz-artiger Grafikelementen anmuten. Dabei haben sie eigentlich bessere Bebilderungs-Ideen: zum Beispiel einfach mal die im öffentlichen Raum bereits installierten, unauffälligen Überwachungskameras zu suchen und sozusagen zurückzufilmen. Doch setzt "Pre-Crime" bei der Werbung auf Parallelen zum Steven-Spielberg-Spielfilm "Minority Report" und braucht dazu spektakulärere Bilder.

Haben Algorithmen immer recht?

Fragen wie "Wie viel Freiheit sind wir bereit aufzugeben für das Versprechen absoluter Sicherheit? Und können wir uns auf das Urteil von Computern und Algorithmen wirklich verlassen?" sind dennoch richtig und müssen öfter und lauter gestellt.

Eine erste Antwort hat sozusagen Konrad Lischka, der früher bei Spiegel Online im Netzwelt-Ressort arbeitete und sich inzwischen für die Bertelsmann-Stiftung mit der "Ethik der Algorithmen" beschäftigt (und dazu den Blog algorithmenethik.de gestartet hat):

"Wenn Software die Relevanz von Nachrichten, die Karrierechancen von Bewerbern oder die Kreditwürdigkeit von Kunden bewertet, heißt es oft: Der Computer, der Algorithmus oder gar die künstliche Intelligenz hat das ausgerechnet. Dabei gerät leicht in Vergessenheit, dass in jedem Fall ein spezielles Programm am Werk ist, das Menschen für diesen einen Zweck entwickelt und trainiert haben. Menschen entscheiden, welche Daten das System nutzt und woraufhin es optimiert. Und Menschen können irren, haben Vorurteile und verfolgen manchmal ganz eigene Interessen. Für diesen Irrglauben an die Objektivität algorithmischer Entscheidungssysteme hat Data Scientist Fred Benenson ... den Begriff Mathwashing geprägt",

den Lischkas Blog dann auch visualisiert.

Womöglich ist "Künstliche Intelligenz" so wie "soziale Medien" ein Begriff, der ursprünglich, als die Phänomene entstanden, zutraf, den inzwischen aber milliardenschwere Konzerne besetzt haben und in ihrem eigenen, werblichen Sinne in die Umgangssprache drücken, um ihre Geschäftsmodelle sozialer beziehungsweise intelligenter erscheinen zu lassen als sie sind. Weshalb im kritischen Sprachgebrauch öfter ein "sogenannt" davor gehört. Von "künstlicher Intelligenz" spricht Amazon gerne (wie der deutsche SAP-Konzern). Wie intelligent es aus Sicht individueller Nutzer oder auch lokaler Händler jedoch tatsächlich ist, wenn etwa "Echo-Besitzer im Schnitt dreimal so viele Produkte auf Amazon kaufen wie der Durchschnittskunde", ist eine völlig andere Frage. Eine, die niemand seiner Alexa stellen sollte.