Der sogenannte "Bikini-jetzt"-Trend auf der Plattform X hat international Rufe nach einer strengeren Regulierung von sexualisierten Bildfälschungen ausgelöst. Auch Bundesjustizministerin Stefanie Hubig (SPD) will das Erstellen und Verbreiten von mit Künstlicher Intelligenz erzeugten sexualisierten Bildern eindämmen. "Wir müssen Betroffene noch besser vor solchen KI-Bildmanipulationen schützen", sagte Hubig kürzlich der "Neuen Osnabrücker Zeitung", und kündigte einen entsprechenden Gesetzesentwurf an.
Mithilfe des Chatbots "Grok" erzeugen und verbreiten X-Nutzer manipulierte Bilder, die insbesondere Frauen und mitunter auch Kinder in knapper Kleidung zeigen. Dazu genügt es etwa, einen entsprechenden Textbefehl unter einem hochgeladenen Foto zu kommentieren. Wie die Plattform gehört auch "Grok" zum Unternehmen xAI des US-Milliardärs Elon Musk. Inzwischen will das Unternehmen eine technische Schranke eingezogen haben, die Nutzer daran hindern soll, die Auszieh-Funktion auf echte Menschen anzuwenden. Nach Recherchen der US-Zeitschrift "Wired" ist diese Schranke aber lückenhaft.
Porno-Deepfakes weit verbreitet
Chatbots wie "Grok" können aus eingegebenen Texten, Bildern, Stimmen oder Videos neue Inhalte erstellen, die authentischen Aufzeichnungen mitunter täuschend ähneln. Dann ist von Deepfakes die Rede. Davon zeigen 98 Prozent laut einer Studie aus dem Jahr 2023 pornografische Bilder. Die Beliebtheit dieser Funktionen wollen sich inzwischen auch andere KI-Chatbots zunutze machen: Nach Angaben des Tech-Unternehmens OpenAI vom Oktober 2025 soll auch der Platzhirsch ChatGPT demnächst mit Erotik-Funktionen ausgestattet werden.
Bundesjustizministerin Hubig zielt mit ihrer Gesetzesinitiative auf das Verbreiten, aber auch das Erzeugen solcher Bilder. "Es geht uns vor allem um sexualisierte Deepfakes und um Manipulationen, die Betroffene verächtlich machen und herabwürdigen", sagte sie der "Neuen Osnabrücker Zeitung". Demnach ist ein digitales Gewaltschutzgesetz bereits in Arbeit.
Rechtliche Lage
Die Organisation HateAid hilft Betroffenen, sich gegen die Verbreitung solcher Bilder zu wehren. Laut der HateAid-Geschäftsführerin Josephine Ballon bietet das deutsche Recht gegenwärtig noch "keinen Straftatbestand, der explizit die Herstellung von sexualisierten Deepfakes unter Strafe stellt". Eine entsprechende Erweiterung des Strafrechts würde es ihr zufolge erleichtern, gegen die einzelnen Hersteller und Verbreiter vorzugehen. Auch könne dies helfen, den sexualisierenden Funktionen von Bild-Generatoren einen Riegel vorzuschieben. Im Europarecht verstoße die Bikini-Funktion bei "Grok" aber bereits gegen den "Digital Services Act" (DSA), sagte Ballon dem Evangelischen Pressedienst (epd).
Hubig zufolge soll es Betroffenen mit der Novellierung auch leichter gemacht werden, ihre Persönlichkeitsrechte durchzusetzen. Laut Josephine Ballon werden zwar das Recht am eigenen Bild und besonders der "höchstpersönliche Lebensbereich" bereits geschützt. Von sexualisierenden Deepfakes betroffene Klägerinnen und Kläger stünden aber vor so großen Hürden, dass die entsprechenden Straftatbestände in der Rechtspraxis kaum eine Rolle spielten. Zivilrechtliche Ansprüche auf Unterlassung oder Schadensersatz hätten dagegen bessere Chancen. Der schnellen Verbreitung der Inhalte im Netz seien sie jedoch oft nicht gewachsen.
Gefühle von Ohnmacht und Schuld
Für Betroffene können die sexualisierenden Bilder zur psychischen Belastung werden, sagte der Medienpsychologe Jörg Matthes, der an der Universität Wien zu den Folgen von Hass im Netz forscht, dem epd: "Die erleben solche Veröffentlichungen regelmäßig mit einem Gefühl verlorener Kontrolle." Außerdem gäben sich Betroffene immer wieder selbst die Schuld an den Bildern, auch weil ihr Umfeld ihnen das mitunter nahelege. Solche Mechanismen könnten sich letztlich gesellschaftlich niederschlagen: "Wenn sich beispielsweise Frauen aus Sorge vor sexualisierten Bildern aus der Öffentlichkeit zurückziehen, dann verzerrt das den öffentlichen Diskurs", sagte Matthes.
