evangelisch.de: Ingo, was verbirgt sich hinter dem Begriff "Big-Tech" genau und wie ist er entstanden?
Ingo Dachwitz: Big-Tech ist ein Sammelbegriff für große und mächtige Technologiekonzerne. Diese produzieren und betreiben Geräte, Dienste und Infrastruktur, von denen sehr viele Menschen und auch Staaten abhängig sind. Zum Beispiel Smartphones, Onlineplattformen, KI-Modelle, Rechenzentren usw. Wer genau dazu zählt, ist gar nicht abschließend definiert. Aber der Begriff drückt aus, dass die großen Tech-Konzerne heute die Weltwirtschaft dominieren. Die fünf mit Abstand wertvollsten Unternehmen sind derzeit Google, Apple, Amazon, Microsoft und Nividia. Die machen astronomische Gewinne: Hunderte Milliarden US-Dollar Gewinn allein im letzten Jahr. Manchmal werden noch andere Konzerne dazu gezählt, es ist also ein Konglomerat der großen Tech-Konzerne.
Wie umfassend greifen denn diese Konzerne in unser Leben ein? Wo begegne ich ihnen?
Dachwitz: Eigentlich ist unser gesamtes digitales Leben und mehr und mehr auch unser analoges Leben geprägt durch die Produkte dieser Konzerne. Also die Daten, die wir erzeugen oder die über uns erzeugt werden, fließen beispielsweise durch Unterseekabel, die mehr und mehr diesen Big-Tech-Konzernen gehören. Die schießen auch Satelliten ins Weltall, um von dort aus Internet anzubieten und damit auch selber zu Infrastrukturanbietern zu werden.
Und es gibt die großen Plattformen, die alle kennen, beim Online-Shopping, wie Amazon, die großen Social-Media-Plattformen Facebook und Co., Google als Suchmaschine und Kommunikationsdienste. Das heißt, wir können ihnen kaum entkommen und sie prägen unsere Welt wie aktuell keine anderen Unternehmen. Die großen Tech-Konzerne dominieren damit den Kapitalismus.
Worin liegt denn dann die Gefahr für mich?
Dachwitz: Es besteht zunächst die Gefahr beim Begriff "Big-Tech" selbst, und zwar, dass man ihn sehr verallgemeinert. Diese Konzerne stellen zum Teil sehr unterschiedliche Produkte her. Was sie gemeinsam haben, ist, dass sie riesige Datensammlungen über Menschen und Systeme anlegen und deshalb Menschen hervorragend manipulieren können, um beispielsweise mit Werbung Geld zu verdienen. Manipulation ist für sie ein Geschäft, und wirkt sich auch im Politischen aus.
Clever im manipulieren
Aber man merkt selbst, wenn man, wenn man die Google-Suche oder KI-Dienste nutzt oder eben Social-Media-Plattformen, dass die Plattformen sehr gut darin sind, uns zu manipulieren, indem sie uns bestimmte Anreize setzen, wie wir uns auf den Plattformen zu verhalten haben.
"Gerade gibt es eine ganz starke Debatte über süchtig machendes Design"
Viele Menschen nutzen mehr soziale Medien, als sie eigentlich wollen und als es gut für sie wäre, aber sie kommen nicht davon los. Weil die Plattform dafür sorgt, dass wir bleiben. Die Verantwortlichen beschäftigen dafür Heere von Verhaltensforscher:innen und von Kognitionsforscher:innen, die sich nur fragen, wie die Menschen noch mehr Zeit dort verbringen könnten. Motiviert durch das Geschäftsmodell, mehr Werbung zu vermarkten. Also sorgen sie dafür, dass ständig irgendwo etwas aufploppt, immer gibt es eine vermeintliche Neuigkeit, auf die wir reagieren müssen: Push-Benachrichtigung, das endlose Scrollen. Man kann sich ewig weiter Videos oder Posts in sozialen Medien angucken. All das sind bewusste Erfindungen, Designentscheidungen, die dazu führen sollen, dass Menschen abhängig gemacht werden. Und tatsächlich sprechen Psycholog:innen und ja auch Kognitionsforscher:innen davon, dass das ganz ähnliche Mechanismen sind wie beispielsweise bei Drogensucht.
Das ist mein individuelles Problem und darüber hinaus?
Dachwitz: Noch wichtiger ist die kollektive Dimension. Wir haben hier eine enorme Konzentration von Macht und Geld in den Händen weniger Konzerne, wie sie in der Geschichte der Menschheit fast noch nie dagewesen ist. Vielleicht vergleichbar mit der britischen oder der niederländischen Ostindienkompanie, die im Rahmen des Kolonialismus quasi wie ein Staat agiert hat.
Können wir uns den als einzelne Menschen irgendwie dagegen wehren? Außer es nicht zu nutzen, oder?
Dachwitz: Es ist nicht unmöglich, etwas dagegen zu machen. Auf der individuellen Ebene ist das total schwer. Es gibt Alternativen bei Suchmaschinen, Sozialen Medien, Messengern etc., die anders funktionieren. Aber wir brauchen kollektive Lösungen; Regulierung ist ein ganz wichtiges Stichwort.
Potenziert die KI die Macht dieser Konzerne?
Dachwitz: Ki ist das neuste Kapitel und eines der wichtigsten: Künstliche Intelligenz bzw. das was unter dem Begriff KI läuft. Ich spreche lieber von Chatbots, weil der Begriff etwas irreführend ist und die Techkonzerne auch von diesem Mythos der "KI" leben. Von echter künstlicher Intelligenz sind wir noch weit entfernt. Diese Chatbots sind praktisch, die machen viel für uns und wir können das Anstrengende an sie auslagern, wie selbst Denken und Schreiben. Viele nutzen sie auch als Ersatz für Freund:innen, tauschen sich mit ihnen aus, nutzen sie als Ersatz für Mediziner:innen oder Psychotherapeut:innen und dadurch erlangen diese Dienste natürlich eine enorme Reichweite und auch eine enorme Macht. Und ich würde aber sagen, strukturell ist das nicht anders als das, was wir schon vorher gesehen haben, sozusagen die Expansion der Techkonzerne.
"Wir konnten Bewegungsprofile von Menschen, die in Militärstützpunkten in Deutschland ein und ausgehen, selbst von Leuten, die bei Geheimdiensten arbeiten, kaufen."
Viele denken, dass es eigentlich ja egal ist, wenn ich ein ordentlicher Bürger bin, und ich bin nicht kriminell, sollen die doch alle meine Daten sammeln, wie es in den USA erlaubt ist, dann werden die Ergebnisse vielleicht sogar noch besser?
Dachwitz: Zusammen mit dem Bayerischen Rundfunk haben wir von Netzpolitik.org in den letzten Jahren eine preisgekrönte Recherche gemacht, die auch noch bis heute andauert. "Die Data Broker Site". Bei denen haben wir gezeigt, dass zum Beispiel Standortdaten, also metagenaue Daten darüber, wo sich unsere Telefone aufgehalten haben, die angeblich nur für Werbezwecke gesammelt worden sind, bei Datenhändlern gelandet sind. Das heißt, man kann bei diesen Firmen, die spezialisiert darauf sind, Daten zu sammeln, zu Paketen zusammenzustellen und zu verkaufen, Standortdaten von beispielsweise hochrangigen deutschen Regierungsbeamten kaufen.
Wir konnten Bewegungsprofile von Menschen, die in Militärstützpunkten in Deutschland ein- und ausgehen, selbst von Leuten, die bei Geheimdiensten arbeiten, kaufen. Das heißt, wir sind längst nicht mehr in einer Situation, wo das ja nur für Werbung ist und man kriegt vielleicht eine schön optimierte Anzeige zu sehen, sondern wir sehen, dass diese Daten inzwischen überall landen. Sie werden verscherbelt von Databrokern, und landen am Ende auch bei Journalist:innen, wie wir es sind.
Regierungen zeigen Interesse an Daten
Uns liegen inzwischen dreizehneinhalb Milliarden Standortdaten aus aller Welt vor. Wir haben beispielsweise gesehen, dass die ungarische Regierung Lizenzen für Programme gekauft hat, wo solche Werbedaten aufbereitet werden, und zwar für Strafverfolgungsbehörden. Auch die österreichische Regierung hat solche Programme gekauft und wir konnten erst vor wenigen Wochen zeigen, dass auch ein deutsches Landeskriminalamt solche Dienste genutzt hat. Das heißt, es landen auch in Deutschland genaueste Bewegungsdaten von uns im Zweifelsfall bei der Polizei.
"Jetzt kann man immer noch sagen: Ja, ich hab ja nichts zu verbergen, ich bin ja ein braver Bürger, eine brave Bürgerin. Aber politische Verhältnisse können sich auch ändern."
Wir stehen in Deutschland vor einer Situation, wo wir konfrontiert sind mit der Möglichkeit einer Alleinregierung einer rechtsextremen Partei. Wie werden diese Daten dann genutzt? Was ist auch mit stalkenden Ex-Partnern, mit Kriminellen, die ausspionieren wollen, ob Leute zu Hause sind oder nicht? All das ist möglich mit diesen Daten, das heißt, wir haben hier echte Sicherheitsprobleme.
"Es geht immer darum, Menschen zwischen Gruppen zu diskriminieren"
Das System der Datafizierung, das setzt auf Vergleiche. Es geht immer darum, Menschen zwischen Gruppen zu diskriminieren und bestimmte Gruppen auszusortieren, die nicht der Norm oder einem Ideal entsprechen. Das gilt für Überwachungskameras im öffentlichen Raum, die mit KI unnormales Verhalten erkennen sollen, genauso wie für Scoring-Systeme von Wirtschaftsunternehmen, die beispielsweise Kreditwürdigkeit oder die Gesundheitsrisiken von Menschen berechnen. Solche Systeme werden ja auch mit den Daten von Leuten trainiert, die sagen: Ich bin gesund, ich bin wohlhabend, deshalb habe ich doch nichts zu befürchten. Aber natürlich werden anhand dieser Daten dann auch die anderen aussortiert. Das muss man sich auch immer bewusst machen.
Wie beispielsweise dieser Datenfluss dem man im Auto zustimmen soll, der dann zeigt, ob man ein "anständiger" Fahrer ist und dann bekommt man Rabatt.
Dachwitz: Ich find das ein gutes Beispiel, es ist etwas, wo man sagen muss: Wollen wir überhaupt diese hundertprozentige Kontrolle in allen Lebensbereichen? Wer fährt denn nicht mal 5 km/h schneller? Wer ist nicht mal zu Fuß über eine rote Ampel gelaufen? Wollen wir hier chinesische Verhältnisse, in denen jede Kleinigkeit auffällt und sozusagen gegen uns verwendet wird? Das ist doch eigentlich keine Zukunft, die wir wollen können.
Was kann ich selbst dagegen tun?
Man kann die Standortbestimmung ausstellen am Smartphone oder das Werbetracking unterbinden, aber das muss man natürlich auch machen. Oder eben Alternativen nutzen. Die Verwaltung von Schleswig-Holstein hat beispielsweise komplett auf Open-Source-Lösungen gewechselt. Es gibt eine aufstrebende Gegenkultur. Wir müssen Regeln setzen und zeitgleich Alternativen für Menschen aufmachen.
Jeder muss schauen, was für ihn der richtige Weg ist. Wir können schon etwas tun, um die Macht der Tech-Konzerne zu stürzen. Es gibt viele Initiativen, seit letztem Jahr zum Beispiel die Digital Indipendece Day Initiative, bei der auch Marc Uwe Kling mitmacht, den viele als Autor der Kängurugeschichten kennen. Jeden Monat finden regionale Treffen statt, da wird ganz konkret dabei geholfen, sich von Big-Tech zu lösen. (Anmerkung der Red: Auf der Seite Wechselrezepte finden sie Anleitungen für erste Schritte.)
Inwieweit lässt und wird der Einfluss der Konzerne denn bei uns in Europa oder Deutschland bereits kontrolliert oder beschnitten?
Dachwitz: Es gibt durchaus Ansätze, wie man durch Regulierung die Konzerne dazu bringen kann, sich besser zu verhalten, sich an Regeln zu halten, aber ist Europa stark genug, das durchzusetzen? Momentan sieht es eher danach aus, dass wir Europäer aus Wettbewerbsgedanken, weil wir befürchten in diesem Bereich gegenüber den USA und China zurückzufallen, weniger tun. Was die Europäische Union jetzt macht, ist: Komm, wir schleifen unsere Tech-Regulierung. Das ist sehr tückisch, weil die EU-Kommission sagt, wir wollen nur Bürokratie abbauen und vereinfachen, wir müssen unsere Regeln vereinfachen. Sie hat die KI-Regeln schon aufgeschoben, will auch die Datenschutzgrundverordnung schleifen, gibt also jetzt eigentlich gerade den europäischen Weg auf, wo wir ihn dringender denn je bräuchten.
Man sieht immer nur das digitale selbst, aber diese Entwicklung hat ja auch im realen Leben Auswirkungen. Was sind denn da besonders relevante Bereiche?
Dachwitz: Digitales hat immer so eine Anmutung, es sei nur virtuell, aber es gibt eine starke materielle Dimension: Es gibt keine Cloud ohne Rechenzentren und es gibt keine KI ohne menschliche Arbeit. Beispielsweise ist der Ressourcenverbrauch im metallischem Bereich, z.B. für Microchips oder Batterien, immens. Allein 6 oder 7 Prozent des Goldverbrauchs fließen in die Techbranche. Diese Rohstoffe werden knapper und unter dramatischen Bedingungen abgebaut, das ist oft schon bekannt.
Du hast für Brot für die Welt ein Buch mitgeschrieben mit dem Titel "Digitaler Kolonialismus" Was verstehst du darunter?
Dachwitz: Dazu gehören die Ausbeutung der Rohstoffe und die Umweltfolgen, ein anderer Bereich ist die menschliche Arbeit hinter der KI. KI braucht viele Daten und die müssen aufbereitet werden. Sie werden mit Meta-Daten versehen. Das ist eine Arbeit, die ausgelagert wird. Die Tech-Konzerne heuern dafür Outsourcing-Firmen an. Die wiederum heuern dafür schlecht bezahlte, sogenannte Klick-Arbeiter:innen an, vor allen Dingen in Ländern des globalen Südens, die eben diese Daten aufbereiten.
Ich kann das sehr gut konkret machen am Beispiel von ChatGPT, wo viele Menschen Spaß haben. Das Geheimnis von ChatGPT ist aber nicht, dass der Bot oft besonders kluge Dinge sagen kann, sondern auch, dass er genau weiß, was er nicht sagen darf. Er wird uns keine Beleidigungen schreiben, er wird uns keine sexuellen Inhalte schicken, er wird uns nicht bedrohen, er wird keine gewalttätigen Inhalte posten und das hat er, ich vereinfache jetzt, von KI-Arbeiter:innen oder DatenarbeiterInnen in Nairobi beigebracht bekommen. Die haben tagein, tagaus Texte mit all diesen problematischen gewalttätigen Inhalten gelesen und klassifiziert, damit das Machine-Learning.Modell es versteht.
"Man kann sich ja vorstellen, was das mit einem macht, wenn man den ganzen Tag Texte über Vergewaltigung liest oder Hinrichtung und Ähnliches."
Diese Arbeiterinnen erzählen, dass sie allein gelassen worden sind mit den traumatisierenden Folgen. Man kann sich ja vorstellen, was das mit einem macht, wenn man den ganzen Tag Texte über Vergewaltigung liest oder Hinrichtung sieht und Ähnliches. Die haben teilweise weniger als zwei Dollar am Tag verdient und das ist ein total koloniales Muster, dass sozusagen die Drecksarbeit, die Knochenarbeit outgesourced wird an Menschen in anderen Ländern.
Mehr über den digitalen Koloniallismus lesen Sie beispielsweise bei Brot für die Welt.
