OpenAI veröffentlicht neues KI-Modell Astra 6.1 wegen Sicherheitsbedenken nicht

Der ChatGPT-Entwickler OpenAI veröffentlicht sein neues KI-Modell Astra 6.1 wegen Sicherheitsbedenken nicht. Der auf Künstlicher Intelligenz (KI) basierende Agent habe "die Messlatte in Bezug darauf, im vorgesehenen Rahmen und innerhalb der Autorisierung zu bleiben" nicht erreicht, teilte die Leiterin der Sicherheitssysteme bei OpenAI, Saachi Jain, am Montag (Ortszeit) mit. "Wir wollen sicherstellen, dass unsere Modellentwicklung sicher ist, sowohl im Unternehmen als auch, wenn wir sie an Nutzer ausliefern", fügte Jain hinzu.

In den vergangenen Monaten waren immer wieder Zwischenfälle bekannt geworden, bei denen sich KI-Agenten selbständig gemacht hatten und anders agierten als vorgesehen. So hatte etwa ein KI-Programm von OpenAI eine Website der australischen Regierung gehackt. Zudem bestätigte OpenAI einen Zeitungsbericht, wonach seine KI-Werkzeuge auf Internetseiten von US-Bundesbehörden zugegriffen hatten.

Zuletzt waren Forderungen nach einer langsameren Entwicklung von KI in den USA und in Europa lauter geworden. EU-Kommissionspräsidentin Ursula von der Leyen kündigte an, sie werde die führenden KI-Firmen zu Beratungen darüber einladen, "einen Gang zurückzuschalten". KI-Größen wie OpenAI und Anthropic hatten sich für ein Drosseln der Entwicklung ausgesprochen, US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg lehnen dies hingegen ab.