Bikini-Bilder von X-KI Grok: Bundesjustizministerin will Strafrecht nachschärfen

Bundesjustizministerin Stefanie Hubig (SPD) will das Erstellen und Verbreiten von mit Künstlicher Intelligenz erzeugten sexualisierten Bildern eindämmen. "Wir brauchen Straftatbestände, die das Problem der digitalen Bildmanipulationen gezielt adressieren", sagte Hubig der "Neuen Osnabrücker Zeitung" (NOZ, Mittwochsausgabe). Zudem müssten Betroffene besser vor KI-Bildmanipulationen geschützt werden. "Es muss einfacher werden, sich gegen Verletzungen von Persönlichkeitsrechten zu wehren", sagte Hubig.

Die SPD-Ministerin zeigte sich bestürzt über den sogenannten "Bikini-jetzt"-Trend: "Ich finde es fürchterlich, wenn mit KI-Tools wie Grok massenhaft anzügliche Bilder von Frauen erzeugt werden – etwa indem ihnen ohne jede Einwilligung aufreizende Bikinis angezogen werden", sagte Hubig. Persönlichkeitsrechte würden dabei systematisch verletzt und Frauen zu Objekten herabgesetzt. Besonders verwerflich sei die Erstellung sexualisierter KI-Bilder von Kindern und Jugendlichen, betonte die Justizministerin. "Das dürfen wir nicht hinnehmen."

Zwar gibt es Hubig zufolge bereits Wege, rechtlich gegen die Verbreitung von KI-manipulierten Bildern vorzugehen. Das reiche jedoch nicht, weshalb das Justizministerium derzeit an einem Entwurf für ein digitales Gewaltschutzgesetz arbeite. "Wir wollen angemessene Strafen für Deepfakes, die die Persönlichkeitsrechte von Betroffenen verletzen", sagte Hubig. Zudem werde an nationalen Regelungen gearbeitet, um die Verbreitung entsprechender Bilder schnell zu stoppen und sie von den Plattformen zu entfernen.

Klagen, etwa von X-Eigentümer Elon Musk, die Meinungsfreiheit werden beschränkt, wies Hubig zurück. "Mit Zensur hat das nichts zu tun", sagte sie. Die Kunst- und Meinungsfreiheit sei ein hohes Gut, habe ihre Grenze jedoch dort, wo Persönlichkeitsrechte verletzt werden. Zugleich betonte die Justizministerin: "Es geht nicht darum, Tools zu verbieten und Plattformen abzuschalten. Es geht auch nicht um eine Kontrolle von Meinungen, sondern darum, Persönlichkeitsrechte durchzusetzen und zu schützen."

Ende Dezember war auf X eine Schaltfläche "Bild bearbeiten" für das generative KI-Werkzeug eingeführt worden. Seitdem häufen sich Beschwerden über den "spicy mode" (doppeldeutig: scharfer Modus), der laut X "rohe" und "ungefilterte" Anfragen zulässt, bei denen "kein Thema" tabu sei. Musks für Grok zuständige KI-Firma xAI erklärte Anfang Januar, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben.

Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über Grok wegen kinderpornografischer Bilder. Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Anderswo wurde die Nutzung des Tools auf zahlende Kunden beschränkt.