OpenAI entlässt drei Sicherheitsforscher wegen Weitergabe sensibler Daten

Der ChatGPT-Entwickler OpenAI hat drei Sicherheitsforscher wegen der Weitergabe sensibler Informationen entlassen - offenbar waren sie mit der Aufarbeitung der jüngsten Sicherheitsvorfälle rund um ausgebrochene KI-Systeme beschäftigt. Ein OpenAI-Sprecher sagte am Donnerstag: "Wir haben uns von drei Mitarbeitern getrennt, weil sie gegen unsere Regeln zum Zugriff auf und zur Verarbeitung sensibler Unternehmensdaten verstoßen haben."

Eine interne Untersuchung habe bestätigt, dass die Beschäftigten sensible Informationen außerhalb der festgelegten Verfahren verarbeitet und damit "das für unsere Arbeit unverzichtbare Vertrauen missbraucht" hätten, teilte der Sprecher mit. Das "Wall Street Journal" ("WSJ") nannte die Namen der drei Beschäftigten. Alle drei sprachen sich in Onlinenetzwerken für eine Verlangsamung der Entwicklung der Künstlichen Intelligenz (KI) aus. 

Einer von ihnen war dem Blatt zufolge ein Ansprechpartner bei OpenAI bei der externen Untersuchung des Angriffs auf die Plattform Hugging Face. Im Juli hatte OpenAI bekannt gemacht, dass sich eigene KI-Agenten während eines Sicherheitstests selbstständig mit dem Internet verbunden und interne Systeme der Programmierplattform Hugging Face angegriffen hatten. Dies war die erste in einer langen Reihe von Enthüllungen über Fehlentwicklungen bei KI-Tests bei OpenAI und anderen KI-Unternehmen. 

Anfang September warf der KI-Experte Jacob Coxon, der früher erst bei OpenAI und dann beim Konkurrenten Anthropic gearbeitet hatte, beiden Unternehmen öffentlich laxe Sicherheitsstandards vor. Die beiden KI-Riesen spielten "mit unserem Leben", warnte er. Die drei nun entlassenen Forscher von OpenAI - laut "WSJ" handelt es sich um Tomek Korbak, Jasmine Wang und Mikita Balesni - unterstützten Coxon in Botschaften im Onlinedienst X. 

Balesni schrieb: "Ich arbeite bei OpenAI und glaube, dass die KI eine Wahrscheinlichkeit von mehr als zehn Prozent hat, alle Menschen zu töten." Korbak fügte später hinzu: "Ich bin mit einem Großteil dessen, was OpenAI tut, sehr unzufrieden" und "sehr froh, das Recht zu haben, dies zu sagen". Wang schrieb: "Ich möchte meine Bedenken äußern, damit wir handeln - nicht, um Angst zu schüren."