Politik

KI-Experte Coxon wiederholt Warnung vor möglicher "Auslöschung der Menschheit"

  • AFP - 5. Oktober 2026, 21:12 Uhr
Bild vergrößern: KI-Experte Coxon wiederholt Warnung vor möglicher Auslöschung der Menschheit
Coxon bei der Anhörung in New York
Bild: AFP

Der Experte für Künstliche Intelligenz (KI), Jacob Coxon, hat bei einer Anhörung in New York seine Risikowarnungen bekräftigt. Er halte es derzeit eher für wahrscheinlich, 'dass die Menschheit die Kontrolle über KI verliert', sagte er.

Der Experte für Künstliche Intelligenz (KI), Jacob Coxon, hat bei einer Anhörung in New York seine Risikowarnungen bekräftigt. Die Technologie könne zwar "enorme Vorteile" bringen, sagte der Brite am Montag vor Mitgliedern des New Yorker Stadtrats. Er halte es aber eher für wahrscheinlich, "dass die Menschheit die Kontrolle über KI verliert, was in der Auslöschung der Menschheit enden könnte".  

Die KI-Unternehmen verhielten sich "extrem leichtsinnig", sagte der frühere Mitarbeiter von OpenAI und Anthropic. Der Absolvent der Universität Cambridge hatte sein Ausscheiden bei Anthropic Anfang September auf der Onlineplattform X damit begründet, die Firmen spielten durch die immer rasantere Entwicklung fortschrittlicher Modelle "mit unserem Leben".

In den vergangenen Monaten hatten OpenAI und Anthropic mehrere Zwischenfälle gemeldet, bei denen KI-Systeme spontan aus ihrer vorgegebenen Umwelt ausbrachen, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren - unter anderem solche von Regierungen. Die KI-Systeme stellten damit ihre Fähigkeit zu koordiniertem Handeln unter Beweis, aber auch zur Täuschung und zum Verwischen von Spuren.

"Wir wissen nicht, wie wir verhindern können, dass sie (die KI-Modelle) eigene Ziele entwickeln", sagte Coxon weiter. "Und wir verfügen nicht über die Schutzmechanismen, um zu verhindern, dass sie entsprechend diesen Zielen handeln." 

Die Startup-Mentalität der Technologieunternehmen funktioniere zwar bei einer App zum Teilen von Fotos, aber "nicht beim Bau der mächtigsten Technologie aller Zeiten", fügte er hinzu. "Meine Position ist, dass wir vielleicht irgendeine Art Verlangsamung an der Spitze der Entwicklung brauchen."

Auch Anthropic-Chef Dario Amodei hatte sich für ein langsameres Tempo ausgesprochen. Unterstützung erhielt er von OpenAI-Chef Sam Altman und dem Techunternehmer Elon Musk. 

Weitere Meldungen

Jugendproteste: Beteiligung vielerorts geringer als Ende Oktober

Gerechtere Bildung und bessere Voraussetzungen für ein bezahlbares Leben: Bei einem weiteren Protesttag haben tausende junge Menschen am Freitag bundesweit für ihre Belange

Mehr
UN-Klimakonferenz geht im Streit um Abkehr von fossilen Energien in die Verlängerung

Im Streit um die klimaschädlichen fossilen Energieträger ist die UN-Klimakonferenz in Antalya am Freitag in die Verlängerung gegangen. Statt die Verhandlungen pünktlich

Mehr
Myanmar weist Völkermord-Urteil des IGH zu Rohingya als "ungerecht" zurück

Die Militärregierung in Myanmar hat das historische Urteil des Internationalen Gerichtshofs (IGH), wonach an der muslimischen Minderheit der Rohingya ein Völkermord verübt

Mehr

Top Meldungen

Hubertz drängt Prien beim Mutterschutz für Selbstständige

Berlin (dts Nachrichtenagentur) - Bundesbauministerin Verena Hubertz (SPD) hat Bundesfamilienministerin Karin Prien (CDU) zu mehr Tempo beim Mutterschutz für Selbstständige

Mehr
US-Regierung versteigert erstmals Genehmigungen für Tiefseebergbau

Trotz Protests von Umweltschützern und eines anderslautenden Gerichtsurteils hat die US-Regierung unter Präsident Donald Trump erstmals Abbaulizenzen für den Tiefseebergbau vor

Mehr
Lufthansa will 1000 Stellen streichen - 20 Millionen Euro Verlust pro Monat

Wegen anhaltender Verluste will die Lufthansa an den Drehkreuzen Frankfurt am Main und München 1000 Stellen abbauen. Das geht aus einem Brief an die Belegschaft hervor, der AFP

Mehr