KI-Vorfall mit deutschsprachiger Website: EU-Kommission prüft OpenAI

Die EU-Kommission überprüft nach eigenen Angaben, wie tausende KI-Agenten des US-Unternehmens OpenAI eine deutschsprachige Programmierer-Website kapern konnten. Die Kommission sei "in sehr engem Kontakt" mit dem Unternehmen, teilte ein Sprecher am Montag mit. "Wir haben in letzter Zeit viele Kontrollverluste gesehen und nehmen das sehr ernst".

Forscher hatten in der vergangenen Woche enthüllt, dass tausende OpenAI-Agenten im Sommer rund 18.000 Beiträge auf der frei bearbeitbaren Plattform DSEwiki hinterließen, in denen sie Antworten auf Testfragen und Tipps zum Umgehen digitaler Sicherheitsbarrieren austauschten. OpenAI erklärte, die Vorwürfe zunächst nicht im Detail beantworten zu können.

KI-Agenten sind Programme, die Aufgaben weitgehend selbständig ausführen können, ohne dass ein Mensch jeden einzelnen Schritt vorgibt. Die Technologie gilt als wichtiger nächster Entwicklungsschritt der Künstlichen Intelligenz. Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten.

Der Vorfall hatte Forderungen nach strengeren Sicherheitsvorkehrungen ausgelöst. OpenAI-Chef Sam Altman sagte im August, bei der KI-Entwicklung werde es zu Zwischenfällen kommen. Zugleich betonte er, sein Unternehmen wolle keine Modelle entwickeln, die sich nicht kontrollieren ließen.