EU prüft Musks KI Grok wegen mutmaßlicher Kinderpornografie

Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über den KI-Chatbot Grok von US-Milliardär Elon Musk wegen der Erstellung und Verbreitung kinderpornografischer Bilder. Die Kommission nehme die Beschwerden "sehr ernst", sagte ein Sprecher am Montag in Brüssel. Für derartige Bilder gebe es "in Europa keinen Platz".

Ende Dezember hatte Musks Onlinedienst X, über den Grok genutzt werden kann, eine Schaltfläche "Bild bearbeiten" für das generative KI-Werkzeug eingeführt. Seitdem häufen sich Beschwerden über den sogenannten "spicy mode" (doppeldeutig: scharfer Modus), der laut X "rohe" und "ungefilterte" Anfragen zulässt, bei denen "kein Thema" tabu sei. 

Einige der im "spicy"-Modus erzeugten Sex-Inhalte zeigten "kindliche Bilder", sagte der Sprecher: "Das ist nicht scharf. Das ist illegal. Das ist scheußlich."

Die Pariser Staatsanwaltschaft hatte ein laufendes Ermittlungverfahren gegen X wegen der jüngsten Beschwerden bereits auf die Erstellung und Verbreitung kinderpornografischer Inhalte ausgeweitet. 

Musks für Grok zuständige KI-Firma xAI hatte Anfang Januar erklärt, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben.