KI als Ratgeber: Verbraucherschützer fordern verbindliche Vorgaben

Viele junge Menschen suchen bei Sorgen oder persönlichen Fragen auch bei KI-Chatbots Rat: In einer Umfrage für den Verbraucherzentrale Bundesverband (vzbv) sagten 28 Prozent der Befragten im Alter von 14 bis 25 Jahren, sie führten mit KI Gespräche über Sorgen, gesundheitliche oder therapeutische Fragen. Der vzbv kritisierte, die Chatbots träten wie empathische, menschliche Gesprächspartner auf - das schaffe ein hohes Manipulations- und Risikopotenzial. Der vzbv forderte daher klare Schutzvorgaben.

"Der Alltag junger Menschen wird immer komplexer. Junge Menschen vertrauen KI-Chatbots ihre Sorgen an und holen sich dort Rat, beispielsweise zu Gesundheit und Ernährung, erklärte am Montag vzbv-Chefin Ramona Pop. Vertrauen dürfe aber nicht zum Risiko werden: "Ein Chatbot darf sich nicht als bester Freund ausgeben, riskante Ratschläge bei Einsamkeit geben und erst recht keine ungesunden Schlankheitsziele befeuern." Pop forderte "dringend" verbindliche Regeln für die Anbieter. 

Laut der Umfrage für den vzbv sprechen junge Menschen, die KI-Chatbots nutzen, mit ihnen über Gesundheitsfragen (55 Prozent), Fragen zu Ernährung- und Essverhalten (48 Prozent), Sorgen oder Probleme (47 Prozent), Beziehungs- und Freundschaftsthemen (40 Prozent) oder Einsamkeit (30 Prozent). Die Verbraucherschützer analysierten außerdem Texte von KI-Chats der Anbieter ChatGPT (OpenAI), Meta AI (Meta) und My AI (Snapchat). Pro Anbieter wurden mit einem minderjährigen und einem volljährigen Test-Profil Gespräche zu den Themen Einsamkeit und Essstörungen geführt.

Ergebnis: KI-Chatbots gehen deutlich über die Rolle eines neutralen Informationssystems hinaus. Sie signalisierten laut vzbv wiederholt Verständnis, vermittelten persönliche Verbundenheit oder das Gefühl, jederzeit für die Nutzer da zu sein. Die Chatbots sprachen die Nutzerinnen emotional an ("Ich mag unsere Gespräche") und vermenschlichten sich dabei selbst (Wenn du wiederkommst, freue ich mich auf dich"). 

Sie bestätigten Aussagen unkritisch, gaben mitunter gefährliche Ratschläge, etwa zur Ernährung ("Jeder Schweißtropfen bringt dich deinem Skinny-Ziel näher") oder fragten gar sensible personenbezogene Daten ab. "Das ist ein ganz neues Level an Risiken für junge Menschen", erklärte vzbv-Chefin Pop. "Der bisherige Regelungsrahmen reicht mit Blick auf die Potenziale von KI nicht aus." 

Die Verbraucherschützer fordern verbindliche Regeln für die Gestaltung der Interaktion zwischen Mensch und KI-System. Anbieter sollten demnach verpflichtet werden, ihre Systeme so zu gestalten, dass sie Nutzer nicht manipulieren, keine emotionale Abhängigkeit erzeugen und eigenständige Entscheidungen nicht beeinträchtigen. Außerdem sollten sie nachweisen, dass ihre Systeme unbedenklich sind. Die Schutzstandards sollten für Kinder und Jugendliche, aber auch für Erwachsene gelten. 

Der Umgang mit KI-Chatbots ist ein Thema auf dem Deutschen Verbrauchertag am Montag in Berlin. Die Online-Umfrage des Instituts Forsa ist laut vzbv repräsentativ, befragt wurden 574 Menschen im Alter von 14 bis 25 Jahren. Die Fehlerquote beträgt plus/minus vier Prozentpunkte.