Ob in der Ukraine, im Gazastreifen oder im Iran: Waffensysteme mit künstlicher Intelligenz (KI) sind mittlerweile allgegenwärtig. Wie hat sich die Kriegsführung seitdem verändert? Und welche ethischen Implikationen ergeben sich daraus? Die Professorin und KI-Expertin Jutta Weber forscht seit Jahrzehnten zu sogenannten Mensch-Maschinen-Gefügen.
epd: Frau Weber, in den vergangenen Tagen tauchten wiederholt Schlagzeilen über Hackerangriffe von autonom agierenden KI-Systemen auf. Nach dem ChatGPT-Hersteller OpenAI hat auch der Rivale Anthropic Sicherheitslücken eingestanden, die es seiner KI ermöglichte, eigenständig in andere Systeme einzudringen. Wie ordnen Sie diese Vorfälle ein?
Jutta Weber: Eine KI, die sich selbstständig macht, ist zwar nur ein Problem von vielen, aber sicherlich eines der spektakulärsten. Es erinnert an Hollywoodkino, an diese alten "Terminator"-Filme. Da werden Ängste wach. Dabei muss man sich aber klarmachen: KIs sind sehr gut darin, auf effiziente Weise neue Wege zu finden. Ob sie dabei Regeln brechen, wird davon bestimmt, was ihnen einprogrammiert wurde und wie klar ihr Auftrag erteilt wurde. Ich vermute, dass bei den beschriebenen Fällen unpräzise Aufträge gestellt wurden.
KIs treffen auf unzureichender Datengrundlage Entscheidungen über Leben und Tod
Also waren es letztlich menschliche Fehler, die der KI erlaubt haben, auszubrechen?
Weber: Wir reden in der Technikforschung von Mensch-Maschine-Gefügen. Ganz klar zu sagen, ob nur der Mensch oder nur die Maschine die Kontrolle hat, ist schwierig. Die KI selbst hat keinen eigenen Willen. Bekommt sie eine Aufgabe gestellt, versucht sie diese auf allen möglichen Wegen zu lösen und wählt dann den effizientesten. Darum bleibt es in menschlicher Verantwortung, die Algorithmen so zu programmieren, dass sie eben nicht nur auf Effizienz ausgerichtet sind, sondern sich an bestehende Regeln und Gesetze halten. Oft ist selbst den Informatikern nicht bewusst, welche Normen und Werte implizit in die Algorithmen eingeschrieben sind.
Wenn Sie von Normen und Werten in Zusammenhang mit künstlicher Intelligenz sprechen: Schon jetzt werden in der Ukraine und im Iran KI-gestützte Waffensysteme in großem Stil eingesetzt. Wie hat sich die Kriegsführung dadurch verändert?
Weber: Vor allem hinsichtlich des Ausmaßes der Zerstörung. Denken Sie an die Bilder aus dem Gazastreifen, da steht fast nichts mehr. Der israelische Journalist und Dokumentarfilmer Yuval Abraham hat Interviews mit Soldaten geführt, die das KI- Zielsystem Lavender nutzten. Er zitiert sie folgendermaßen: "Früher hatten wir 70 Ziele im Jahr, jetzt haben wir 70 Ziele am Tag". KI steckt nicht nur in Drohnen, sondern auch in Entscheidungssystemen, und sie hilft bei der Zielfindung und Datenverarbeitung.
Welche Gefahren sehen Sie darin?
Weber: Unsere Welt ist komplex. Und eine zentrale Kritik von Technikforscherinnen wie mir und aus der Philosophie ist seit Jahrzehnten, dass es nicht möglich ist, diese komplexe Welt mit Algorithmen adäquat abzubilden. Auf unzureichender Datengrundlage werden dann im Kriegsfall Entscheidungen über Leben und Tod gefällt. In meinen Augen ist das problematisch.
Ein Beispiel: Am ersten Tag des Irankriegs wurde eine Mädchenschule bombardiert und 120 Mädchen starben. Man hatte offensichtlich alte Daten. Früher war das ein Militärgebiet, doch zu dem Zeitpunkt stand dort eine Schule. Außerdem hat man mit lernenden KI-Systemen etwas, das sich permanent verändert. Man müsste also eigentlich auch permanent Qualitätsmanagement betreiben. Das scheint mir im Krieg nicht möglich.
Zivilisten und Soldaten als "Versuchskaninchen"
Befürwortende Stimmen von KI-gestützten Waffensystemen argumentieren, dass sie rationalere Entscheidungen mit größerer Präzision treffen als Menschen und es damit letztendlich zu weniger zivilen Opfern käme. Kann Kriegsführung mithilfe von KI auch ethischer werden?
Weber: Im Gazastreifen handelt es sich bei 83 Prozent der Getöteten um Zivilistinnen und Zivilisten. Wo ist denn da bitte schön die Präzision und Rationalität? Mir scheint eine ethisch geführte Kriegsführung mit autonomen Waffen kaum möglich. Natürlich treffen auch Menschen im Krieg falsche Entscheidungen oder brechen das Völkerrecht. Aber die KI ist immer eine Black Box.
Mittlerweile schreiben einige Waffenhersteller stolz "tested in Ukraine"
Oft lässt sich erst am Output nachvollziehen, welche Entscheidung auf Grundlage welcher Informationen getroffen wurden. Darum sind die Zivilistinnen und Zivilisten, Soldatinnen und Soldaten in der Ukraine Versuchskaninchen. Mittlerweile schreiben einige Waffenhersteller stolz "tested in Ukraine" auf ihre Produkte als vermeintliches Qualitätszeichen. Dabei haben sie mit Menschenleben experimentiert, um herauszufinden, ob ihre Drohne funktioniert.
Das Bundesverteidigungsministerium hat vor wenigen Tagen eine sogenannte KI-Konzeption für die nächsten Jahre vorgestellt, mit der das Ministerium und in der Bundeswehr eine "zukunftsfähige Verteidigung mit künstlicher Intelligenz" anstrebt. KI-Systeme sollen in der Verwaltung und im militärischen Bereich verantwortungsvoll und rechtskonform eingesetzt werden. Wie ordnen Sie diesen Vorstoß ein?
Weber: In einer Studie wurden sogenannte War Games untersucht, also Kriegssimulationsszenarien, die unter anderem in der Militärausbildung genutzt werden. Dabei konnte man feststellen, dass diese Software in ihren Szenarien tendenziell zur militärischen Eskalation neigt. Darum müsste man meiner Ansicht nach ganz genau schauen: Welche Normen und Werte werden in die Algorithmen eingespeist? Wollen wir kriegerische Auseinandersetzungen tendenziell durch Eskalation lösen, oder mit Diplomatie?
Dazu vermisse ich derzeit eine öffentliche und politische Diskussion. Vor zehn, 15 Jahren wurde noch massiv über den Einsatz von Drohnen im Krieg gestritten. Heute werden von der Bundeswehr teilautonome Systeme in großem Stil beschafft - und das wird kaum öffentlich kritisiert.
"Flugschreiber" für autonome Waffensysteme?
Wie könnte ein ethisch verantwortungsvoller Einsatz von KI-basierten Waffensystemen aussehen?
Weber: Ich kann es mir schwer vorstellen. Gleichzeitig ist es nicht mehr realistisch, dass autonome Waffen verboten werden, dafür sind sie zu allgegenwärtig. Am wichtigsten wäre aus meiner Sicht eine Form der Verifikation, vergleichbar mit einem Flugschreiber. Wenn es zu Völkerrechtsverletzungen durch diese Waffen kommt, dann müsste es eine neutrale Stelle geben, die sich den Code und die Algorithmen anschaut und entsprechende Konsequenzen ziehen kann.
Als Völkergemeinschaft haben wir uns auf internationaler Ebene schon gegen viele Technologien ausgesprochen, zum Beispiel gegen Landminen, biologische und chemische Kampfstoffe. Etwas Vergleichbares wäre auch bei autonomen Waffensystemen möglich. Ich sehe nur gerade politisch nicht, wie man hierbei einen Konsens erreichen kann. Seit 2014 wird zweimal im Jahr in Genf in der Konvention über bestimmte konventionelle Waffen versucht, eine Regulierung dieser Systeme zu erreichen. Und ich kann nur sagen: Die Großmächte mauern, inklusive Deutschland, der USA, Russland, China und Frankreich.
