Auf dem Schwarzen Meer hat letztes Wochenende zum ersten Mal ein unbemanntes Drohnenboot ein anderes zerstört, nämlich ein ukrainisches ein russisches. Zu Land planen die ukrainischen Streitkräfte, dass bis Jahresende etwa ein Drittel der Fronttruppen aus unbemannten Kampffahrzeugen besteht. Über die entscheidende Rolle, die Drohnen in der Luft bereits jetzt in der Ukraine spielen – auf ukrainischer wie auf russischer Seite –, ist seit Monaten zu lesen. Solches Kriegsgerät ist oft mit Künstlicher Intelligenz ausgerüstet.
Alexander Maßmann wurde im Bereich evangelische Ethik und Dogmatik an der Universität Heidelberg promoviert. Seine Doktorarbeit wurde mit dem Lautenschlaeger Award for Theological Promise ausgezeichnet. Publikationen in den Bereichen theologische Ethik (zum Beispiel Bioethik) und Theologie und Naturwissenschaften, Lehre an den Universitäten Heidelberg und Cambridge (GB).
Das US-Verteidigungsministerium wird im kommenden Jahr voraussichtlich etwa 65 Milliarden Euro für militärische Drohnenprogramme bereitstellen. Der "Kriegsminister" Pete Hegseth hat jüngst dem internationalen Recht das Adieu gegeben: Moralische und rechtliche Frage halten die tödliche Gewalt auf, auf die es ihm ankommt ("maximale Lethalität, nicht lauwarme Legalität"). Mit der KI-Firma Anthropic liegt er im Streit, weil die sich weigert, ihre Technologie zur Waffenentwicklung bereitzustellen.
In Diskussionen um KI sind Kampfroboter ein rotes Tuch. Kostengünstige Drohnen, die teils KI-getrieben sind, heizen die Eskalation des Ukrainekriegs an, und automatisierte Zombiesoldaten sind ein echtes Alptraumszenario. Doch welche Gefahren genau gehen von dieser Technik aus? Oft heißt es, Europa hinke diesen Entwicklungen hinterher. Sollen Deutschland und die NATO verstärkt in KI-betriebene Waffensysteme investieren?
Echte Autonomie nur für wirklich intelligente Wesen
Ein Kampfroboter muss intelligent genug sein, dass er nicht selbständig agiert und die eigenen Leute umbringt. Damit das nicht passiert, muss ein Soldat oder eine Soldatin aus der Entfernung der unbemannten Drohne den Auftrag geben, jeweils ein bestimmtes Ziel zur Explosion zu bringen. Also wird es hier fast nur um teilautonome Waffensysteme gehen, nicht um vollautonome. Denn für vollautonome Waffen bräuchte es eine KI, die im starken Sinne intelligent ist. Sie würde im vollen Sinn eigenständig lernen, verstehen und kreative Leistungen erbringen.
Wir wissen zwar, dass KIs in einem bestimmten Sinne durchaus Neues hervorbringen können und zu intelligenten Leistungen fähig sind. Zum Beispiel hat die Software AlphaGo 2016 mehrere Runden im Brettspiel Go gegen einen führenden menschlichen Spieler gewonnen. Dabei tat AlphaGo einen vielbeachteten Zug, den Experten als besonders kreativ und als einzigartig bezeichneten. Dennoch ist "starke KI" unrealistisch: AlphaGo versteht weder, was überhaupt ein Spiel ist, noch kann sich die Software eigenständig entscheiden, etwa anstelle von Go lieber ein anderes Spiel zu lernen.
Moralische Anforderungen an die Kämpfenden
Gleichfalls werden Maschinen nicht eigenständig moralisch handeln können. Wenn Roboter selbständig in Kampfeinsätzen agieren, werden sie sich nicht so intelligent verhalten können, dass sie dabei die moralische Integrität eines aufrichtigen Soldatenethos wahren würden. Dass menschliche Soldatinnen und Soldaten im Kampf mit moralischer Integrität handeln können, meine ich schon. Im Extremfall kann das bedeuten, dass sie den Gehorsam verweigern. Doch solche Moral erfordert "starke" Intelligenz, die für Maschinen unrealistisch ist. Maschinen können ein militärisches Ziel auswählen und abdrücken, aber was es heißt, ein menschliches Leben auszulöschen, können Maschinen gar nicht ermessen. Eigentliche Moral wird Maschinen fremd bleiben.
Wäre Maschinenmoral vielleicht im "schwachen" Sinne denkbar? Kann man Maschinen nicht so programmieren, dass sie sich verhalten, "als ob" sie moralisch wären? Dazu müsste man Moral auf ein paar Regeln reduzieren, die man dem Roboter so einprogrammiert, dass er sich nur innerhalb eines engen Korsetts bewegen kann. Schon uns Menschen kann das bloße Nachdenken über moralische Fragen nicht vollständig auf das praktische Leben vorbereiten: Es wird irgendwann zu einer neuen Situation kommen, in der sich das moralische Handeln nicht eindeutig aus Lehrbuchregeln ableiten lässt. Eine unvorhergesehene Lage wird zu einer neuen Form des Handelns herausfordern, das das soldatische Ethos unter ungewöhnlichen Umständen wahrt.
Angenommen, man hat eine KI-Drohne programmiert, selbständig auf Menschen zu feuern, die mit Waffen kämpfen, aber nur auf solche, die die Uniform der gegnerischen Seite tragen. In der Ukraine tarnen sich aber russische Soldaten teils als Zivilisten und töten unterschiedslos Zivilisten wie Soldaten. Einen pauschalen Tötungsbefehl kann man der KI nicht geben, und doch zählen Ukrainische Soldaten darauf, dass die Drohne sie im Kampf unterstützt. Es muss also ein menschlicher Drohnenpilot das Verhalten der Drohne steuern, weil nur er oder sie das neue Verhalten des Feinds verstehen und einordnen kann.
Halbautonome Kampfroboter
So ist es bei der Frage der Kampfroboter am sinnvollsten, zunächst nur halbautonome Systeme zu betrachten. Eine Kamikazedrohne wird sich nur auf einen gegnerischen Panzer stürzen, wenn eine menschliche Pilotin oder ein Pilot aus der Entfernung jeweils einen konkreten Panzer als Ziel festlegt. Daraufhin erst wird die Drohne das Ziel autonom verfolgen, und nun wird sich auch ein feindlicher Störsender als nutzlos erweisen, der die Verbindung Pilot – Drohne unterbindet. Aber bevor ein Mensch den Auftrag gibt, geht die Drohne keine Kampfhandlung ein. Ein KI-gesteuertes Maschinengewehr wiederum erkennt autonom Ziele und richtet sich automatisch aus, aber es löst sich kein Schuss, wenn der Soldat nicht selbst den Knopf drückt. Das System kann teilweise autonom agieren, aber für den entscheidenden Schritt bedarf es des Menschen.
Der Grund für die Konzentration auf semiautonome Systeme ist nicht die Furcht, dass sich Kampfroboter selbständig machen könnten. Dass sie gegen die menschlichen Befehlshaber rebellieren und die allgemeine Herrschaft der Roboter über die Menschheit errichten könnten, halte ich für weit hergeholt. Gegen vollautonome Kampfroboter bin ich vielmehr, weil es nicht gelingen wird, ihnen Moral beizubringen und sie nicht intelligent genug sind. Eine Lizenz zum Töten kann eine demokratische Gesellschaft nur in Extremsituationen und unter strikten Auflagen erteilen, aber dass sich Roboter an die Auflagen halten, ist zweifelhaft.
Investieren in Kampfroboter?
Der zunehmende Einsatz von KI-Kampfdrohnen in der Ukraine ist eine bedenkliche Entwicklung. So auch der Einsatz von KI im Gazakrieg durch Israel – dazu unten mehr. Doch Drohnen sind relativ günstig, und der Angreifer bringt bei ihrem Einsatz weniger eigene Menschenleben in Gefahr. Das birgt das Potential einer Eskalation des Rüstens und der heißen Konflikte. Tatsache ist aber auch, dass Russland und die Ukraine, teilweise auch andere Länder, diese Entwicklung bereits massiv vorantreiben. Die Waffenhilfe für Russland lassen sich China und der Iran vermutlich auch durch das Teilen von militärischem Fachwissen auf diesem Gebiet entlohnen. Die USA investieren stark sowohl in Drohnen als auch in die KI, und China eifert dem nach.
Nun liest man immer wieder in privaten Kommentaren in den sozialen Medien, Russland könne kaum mehr eine Bedrohung für Europa darstellen angesichts der massiven Verluste, die das Land in der Ukraine erleide. Dieser Eindruck dürfte aber trügen: Der Einsatz von Drohnen ermöglicht es ja gerade, militärische Gewalt anzuwenden und dabei weniger eigene Soldaten in Gefahr zu bringen. Außerdem bewegt sich Russland auf staatsterroristischem Konfrontationskurs mit Europa, gerade während es in der Ukraine Rückschläge hinnimmt. Und schließlich ist eine Deeskalation für Putin kaum eine realistische Möglichkeit.
Viele Tausende kriegstraumatisierter Veteranen, die in die Zivilgesellschaft zurückkehren, würden eine starke Destabilisierung bedeuten. Die russische Wirtschaft hat sich außerdem längst auf die Rüstungsproduktion spezialisiert, so dass eine Umstellung auf eine Friedenswirtschaft erhebliche Unsicherheiten bedeuten würde. Laut dem Militärexperten Carlo Masala verfolgt Putin ein Wachstum der russischen Armee auf 1,5 Millionen Mann, und das Land produziert jährlich 600 ballistische Raketen und Marschflugkörper sowie 300 Panzer. Es wäre leichtsinnig zu meinen, wir bräuchten nicht verstärkt in die Drohnentechnologie investieren.
Zielauswahl durch KI-Systeme
Allerdings bedeutet eine Investition in KI-Waffensysteme auch eine erhebliche moralische Gefahr. Israel ist das warnende Beispiel dafür, wie sich der Einsatz von semiautonomen KI-Systemen schleichend zu einem Einsatz faktisch autonomer KI-Systeme entwickeln kann. Während des Gazakrieges hat Israel 37.000 spezifische, potentielle Ziele für militärische Luftschläge mit einem KI-Dienst namens Lavender ("Lavendel") identifiziert. Lavenders Zielauswahl bedurfte noch der Kontrolle durch Menschen, aber ein involvierter Offizier meinte, während der ersten Monate habe er die ausgewählten Ziele typischerweise in bloß 20 Sekunden geprüft. Offiziere fühlten sich unter Druck, der drängenden Einsatzleitung zügig ausreichend Ziele zum Bombardieren zu liefern, und so haben sie durchgewunken und abgenickt.
Am Anfang des Krieges habe es geheißen, 15 bis 20 zivile Todesfälle seien vertretbar, wenn ein Luftschlag zugleich einen rangniederen Hamas-Funktionär umbringen würde. Durch den wichtigen Schritt der Zielauswahl hat die KI ein außerordentliches Bombardement ermöglicht. Die israelische Armee bestreitet jedoch fragwürdige Methoden. Laut internen Stichproben haben sich die KI-Vorhersagen in 90% der Fälle als korrekt erwiesen, die jeweilige Zielauswahl würde tatsächlich ein Hamasmitglied treffen. Dem widerspricht aber die Aussage von Offizieren, die KI "verschwende" kostbare Bomben auf relativ harmlose Hamas-Mitläufer.
Die Hierarchie von Mensch und Maschine kehrt sich um
Während der ersten beiden Jahre des Gazakrieges hat Israel außerdem ein System namens Zayad ("Jäger") verwendet, das anscheinend jeden Tag etwa 1.000 potentielle Ziele im Gazastreifen identifiziert hat, insgesamt 850.000 Zielvorschläge. Das können Militäroffiziere nicht eigenhändig und kritisch auswerten. Das heißt, zu einem bedeutenden Teil hat das israelische Militär die Zielauswahl der KI überlassen. Mit dem Abfeuern der Bomben folgten die menschlichen Piloten dann der Zielauswahl, die die KI ihnen vorgegeben hat. Damit hatte nicht mehr der Mensch die Kontrolle über ein beschränktes KI-System. Vielmehr hat sich die Hierarchie umgekehrt: Offiziere wie Soldaten wurden zu ausführenden Instrumenten, die die Entscheidung der KI-Zielauswahl ausgeführt haben.
Das warnende Beispiel Israels zeigt, wie leicht die Hemmschwelle sinkt, der KI immer weiterreichende Kompetenzen einzuräumen. Dieser Entwicklung zu widerstehen, darin liegt die Herausforderung, wenn Europa und die NATO zunehmend in KI-Systeme der Kriegsführung investieren.
