Berlin (epd). Die Technikforscherin und KI-Expertin Jutta Weber warnt vor den Risiken unregulierter künstlicher Intelligenz (KI) - insbesondere in Waffensystemen. Dass es KI-Systemen der Tech-Unternehmen OpenAI und Anthropic jüngst gelang, sich eigenständig in andere Computersysteme einzuhacken, sei „sicherlich eines der spektakulärsten“ Probleme, sagte die Professorin im Gespräch mit dem Evangelischen Pressedienst (epd). Die Fälle weckten bei vielen Menschen Ängste vor eigenmächtig agierender Technik und erinnerten an Hollywood und die „Terminator“-Filme. Entscheidend seien aber die technischen und menschlichen Ursachen, die solche Ausbrüche möglich machten.
„Die KI hat keinen eigenen Willen“, sagte Weber. Die Systeme versuchten, eine gestellte Aufgabe auf „allen möglichen Wegen“ zu lösen und wählten den effizientesten. Ob sie dabei Regeln brächen, hänge davon ab, „was ihnen einprogrammiert wurde und wie klar der erteilte Auftrag ist“. Darum bleibe es „in menschlicher Verantwortung“, Algorithmen so zu programmieren, dass sie Regeln und Gesetze einhalten.
„Entscheidungen über Leben und Tod“
Mit Blick auf eine im August vom Bundesverteidigungsministerium vorgestellte KI-Konzeption, die eine „zukunftsfähige Verteidigung“ der Bundeswehr gewährleisten soll, warnte die Technikforscherin vor den Folgen des weitverbreiteten Einsatzes von künstlicher Intelligenz in militärischen Bereichen: Eine ethisch verantwortbare Kriegsführung mit autonomen Waffensystemen sei „kaum möglich“, sagte Weber. „Unsere Welt ist komplex“, betonte die Professorin. Diese Komplexität lasse sich mit Algorithmen nicht adäquat abbilden. „Auf unzureichender Datengrundlage werden dann im Kriegsfall Entscheidungen über Leben und Tod gefällt.“
„Früher hatten wir 70 Ziele im Jahr, jetzt 70 Ziele am Tag“
Ob in der Ukraine, im Nahen Osten, oder dem Iran: KI-gestützte Waffensysteme seien mittlerweile in der Kriegsführung allgegenwärtig. Weber zufolge werden sie nicht nur in Drohnen, sondern auch in Entscheidungssystemen zur Zielfindung und Datenverarbeitung eingesetzt. Die Folgen zeigten sich im Ausmaß der Zerstörung. Mit Blick auf den Gazastreifen verwies sie auf Aussagen israelischer Soldaten zum KI-Zielsystem Lavender: „Früher hatten wir 70 Ziele im Jahr, jetzt haben wir 70 Ziele am Tag.“ Soldaten und Zivilisten fungierten letztlich als „Versuchskaninchen“, kritisierte die Forscherin.
Für die Zukunft fordert die Wissenschaftlerin eine stärkere Kontrolle und internationale Regulierung. Denkbar sei eine Art „Flugschreiber“ für autonome Waffen: Bei Völkerrechtsverletzungen müsse eine neutrale Stelle den Code und die Algorithmen überprüfen können. „Als Völkergemeinschaft haben wir uns auf internationaler Ebene schon gegen viele Technologien ausgesprochen“, sagte Weber und nannte Landminen und chemische Kampfstoffe als Beispiele. Bei autonomen Waffensystemen sei ein vergleichbarer Prozess grundsätzlich möglich - auch wenn der politische Wille derzeit fehle. International werde seit Jahren über eine Regulierung autonomer Waffensysteme verhandelt, auch wenn „die Großmächte derzeit mauern“, sagte Weber.
