Eltern verklagen Google nach KI-Suizid-Chats von 13-Jähriger in den USA

Ein Elternpaar aus den USA hat den Softwareriesen Google verklagt, weil seine 13 Jahre alte Tochter auf einem Schul-Laptop mit Hilfe von Künstlicher Intelligenz (KI) einen Suizid und ihre Beerdigung geplant haben soll. "Schulen sollten die Google-Suche abschalten und sie blockiert lassen, bis Google den KI-Modus aus seiner Suchmaschine entfernt", sagte der Anwalt Andrew Liddell, der die Familie vertritt, am Donnerstag (Ortszeit) der Nachrichtenagentur AFP.

Das Unternehmen müsse sicherstellen, "dass jeder Schüler jederzeit sicher ist, wenn er mit KI interagiert", betonte der Anwalt. Die am Montag im US-Bundesstaat Kalifornien eingereichte Klage wirft Google Nachlässigkeit bei der Integration von KI in seine Chromebooks vor, die von Millionen Schülern in den USA und aller Welt genutzt werden.

Der Klage zufolge hatte die Schülerin namens Emma keinen Zugriff auf Googles KI-Chatbot Gemini oder auf die KI ChatGPT des Unternehmens OpenAI, weil diese durch ihre Schule blockiert worden waren. Das Mädchen habe mit ihrem Schul-Chromebook jedoch die Google-Suchmaschine nutzen können, die ebenfalls KI-Funktionen enthält.

Emma sei "eine glückliche 13-Jährige" gewesen, die gute Noten hatte, musikalisch war und bei den Pfadfinderinnen war, heißt es in der Klage. Obwohl sie keinerlei Vorgeschichte psychischer Probleme hatte, sei sie innerhalb weniger Monate der Nutzung von Googles KI-gestützter Suchmaschine auf ihrem Schul-Laptop in eine "ernste psychische Krise" geraten.

Eine Sicherheits-Software von Emmas Schule stieß im März auf ein von dem Mädchen verfasstes Dokument mit dem Titel "Begräbnis". Die Schule alarmierte daraufhin die Eltern des Kindes. Nachdem sich die Mutter in Emmas Account einloggte, konnte sie in Echtzeit verfolgen, wie ihre Tochter auf dem Laptop einen Abschiedsbrief verfasste. Der alarmierte Vater konnte das Mädchen dann von möglichen weiteren Schritten abhalten.

Ein Google-Sprecher sagte AFP, das Unternehmen prüfe die in der Klage vorgelegten Beschwerden und nehme den Fall "sehr ernst." Google zufolge sind in seinem KI-Modus Sicherheitsmaßnahmen gegen mögliche selbstverletzende Schritte eingebaut, ebenso gegen Versuche, diese Sicherheitsmaßnahmen zu umgehen.

Dennoch sei es Emma möglich gewesen, "immer und immer wieder" entsprechende Inhalte suchen zu können, betonte Anwalt Liddell. "Welche Sicherheitsvorkehrungen auch immer sie ihrer Meinung nach eingebaut haben - sie sind offensichtlich ungenügend", kritisierte er.

In den USA laufen bereits zahlreiche Klagen gegen KI-Unternehmen. Unter anderem verklagten die Eltern eines durch Suizid gestorbenen 16-Jährigen das Unternehmen OpenAI, weil der Junge sich bei dessen KI-Chatbot ChatGPT Ratschläge zu Suizidmethoden geholt hatte.