TÜV will Pflichtprüfung für KI-Sprachmodelle

Berlin (dts Nachrichtenagentur) - Der TÜV fordert unabhängige Sicherheitsprüfungen für Sprachmodelle wie ChatGPT, bevor sie auf den Markt kommen. Es reiche nicht, Prüfer nur während des Entwicklungsprozesses einzubeziehen, sagte Franziska Weindauer, Chefin des TÜV AI Lab, dem "Focus". Stattdessen sollte ihrer Meinung nach etwa ein neu entwickelter Chatbot vor der Veröffentlichung eine verpflichtende Abnahme durchlaufen.

Auch die Bundesregierung beschäftigt sich mit dem Thema. Seit Ende August baut sie dafür das KI-Sicherheitsinstitut (AISI) in Berlin auf. Weindauer hält eigene deutsche Fähigkeiten für nötig. Entscheidend sei, ob es gelinge, das AISI pragmatisch und schnell aufzubauen, die richtigen Leute zu gewinnen und seinen Auftrag klar zu definieren. Der Aufbau des AISI werde nicht ganz leicht, das wisse man aus Erfahrungen des Aufbaus anderer Institutionen. Die bislang unklare Organisationsstruktur müsse so schnell wie möglich geklärt werden.

Digitalminister Karsten Wildberger (CDU) appellierte trotz Sicherheitsbedenken daran, die KI-Entwicklung in Europa weiter voranzutreiben. "Wenn wir KI-Modelle selber bauen, haben wir auch die Fragen nach Werten und Sicherheit selbst in der Hand", sagte er dem Nachrichtenmagazin. Deutschland müsse dabei in Zukunft eine viel aktivere Rolle einnehmen. Denn das sei die Chance, Wohlstand und Wettbewerbsfähigkeit für die nächsten Jahrzehnte zu sichern.