Indonesien sperrt Musks KI Grok wegen pornografischer Inhalte

Als weltweit erstes Land hat Indonesien den KI-Chatbot Grok des US-Multimilliardärs Elon Musk wegen der Erstellung und Verbreitung pornografischer Bilder gesperrt. Der Zugang zu Grok werde vorläufig geblockt, "um Frauen, Kinder und die Öffentlichkeit vor den Risiken gefälschter pornografischer Inhalte" zu schützen, erklärte am Samstag Digitalministerin Meutya Hafid.

Die Regierung sehe "nicht einvernehmliche" Deepfakes - KI-generierte, täuschend echte Bilder und Videos - als "schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum", hieß es in der Erklärung der Ministerin weiter. Ihr Ministerium bestellte demnach Vertreter von Musks Onlinedienst X ein, über den Grok genutzt werden kann. 

Ende Dezember war auf X eine Schaltfläche "Bild bearbeiten" für das generative KI-Werkzeug eingeführt worden. Seitdem häufen sich Beschwerden über den "spicy mode" (doppeldeutig: scharfer Modus), der laut X "rohe" und "ungefilterte" Anfragen zulässt, bei denen "kein Thema" tabu sei.

Musks für Grok zuständige KI-Firma xAI erklärte Anfang Januar, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben. Zu der Sperrung von Grok in Indonesien äußerte sich xAI auf Anfrage der Nachrichtenagentur AFP zunächst nicht.

Das mehrheitlich muslimische Indonesien ist das erste Land, das Grok vollständig sperrt. Zuvor war die Nutzung des Tools anderswo auf zahlende Kunden beschränkt worden. EU-Vertreter sowie Aktivisten kritisierten die Entscheidung, die Nutzung von Grok auf zahlende Abonnenten zu begrenzen, jedoch scharf und erklärten, dass damit die Bedenken hinsichtlich sexueller Deepfake-Inhalte nicht ausgeräumt würden. 

Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über Grok wegen  kinderpornografischer Bilder. Die Kommission nehme die Beschwerden "sehr ernst", hatte ein Sprecher am Montag in Brüssel gesagt. Für derartige Bilder gebe es "in Europa keinen Platz".