USA und China richten Kommunikationskanal für KI-Zwischenfälle ein

Angesichts zunehmender Forderungen nach einer Regulierung und mehr internationaler Zusammenarbeit bei Künstlicher Intelligenz (KI) richten die USA und China einen direkten Kommunikationskanal für Zwischenfälle mit der rasant voranschreitenden Technologie ein. Darüber hinaus vereinbarten beide Länder nach Angaben des Weißen Hauses beim Besuch des chinesischen Präsidenten Xi Jinping in Washington ein Dialogformat zum Austausch über Chancen und Risiken der Technologie. Außenminister Johann Wadephul (CDU) mahnte am Samstag vor der UNO eine Entwicklung von KI an, die "der Menschenwürde dient".

Das chinesische Staatsfernsehen bestätigte am Samstag die Einrichtung der KI-Hotline. Die Vereinbarung folgt auf Forderungen nach einem engeren Austausch der beiden international führenden KI-Mächte. UN-Generalsekretär António Guterres hatte die USA und China zu einem Dialog über die Zukunft der Technologie aufgerufen und dabei auf Kommunikationskanäle zwischen Washington und Moskau während des Kalten Krieges verwiesen.

Vor dem Treffen hatte der US-Präsident Donald Trump erklärt, "Superintelligenz" werde "ein großes Diskussionsthema sein, aber ich möchte, dass alles genau so bleibt, wie es ist". Das sei auch Chinas Position, fügte er hinzu. Chinas Präsident Xi Jinping hatte erklärt, die USA und China hätten "die Verantwortung, KI zum Wohle der Allgemeinheit zu entwickeln und zu verwalten und dafür zu sorgen, dass ihre Entwicklung stets unter menschlicher Kontrolle bleibt".

In der Erklärung des Weißen Hauses hieß es weiter, beide Seiten würden den Begriff "Superintelligenz" anstelle von Künstlicher Intelligenz nutzen. Trump hatte diesen Begriff am Dienstag bei der UN-Generaldebatte ins Spiel gebracht, da dies "viel besser" klinge und angesichts der großen Chancen durch diese Technologie "viel passender" sei.

Der US-Präsident, der staatliche KI-Regulierung ablehnt, will den positiv besetzten Begriff den Warnungen vor den womöglich katastrophalen Folgen einer ungesteuerten KI-Entwicklung entgegen setzen. Das chinesische Außenministerium erklärte dazu am Samstag, Peking "respektiere" diese Wortwahl. Alle Parteien sollten im KI-Bereich den "Austausch verstärken" und "nach einem Konsens suchen". 

In den vergangenen Monaten wurden immer wieder Zwischenfälle bekannt, bei denen sich KI-Agenten selbständig gemacht hatten und anders agierten als vorgesehen. So hatte etwa ein KI-Programm des US-Unternehmens OpenAI eine Website der australischen Regierung gehackt. Zudem bestätigte OpenAI einen Zeitungsbericht, wonach seine KI-Werkzeuge auf Internetseiten von US-Bundesbehörden zugegriffen hatten.

Angesichts der bedenklichen Vorfälle gibt es Forderungen nach einer langsameren Entwicklung von KI. EU-Kommissionspräsidentin Ursula von der Leyen kündigte an, sie werde die führenden KI-Firmen zu Beratungen darüber einladen, "einen Gang zurückzuschalten".

Außenminister Wadephul warnte in seiner Rede vor der UN-Vollversammlung, KI sei "eine Technologie mit scheinbar unbegrenzter Macht. Gerät sie in falsche Hände, kann sie unsere Volkswirtschaften aus den Angeln heben und unsere Existenzgrundlagen gefährden", sagte der Außenminister am Samstag in New York.

KI habe das Potenzial, durch die Verbreitung von Falschinformationen Vertrauen auszuhöhlen, und könne wichtige Infrastruktur gefährden. Im schlimmsten Fall könne sie "Entscheidungen beeinflussen, die über Frieden und Sicherheit auf der Welt bestimmen", warnte er. Gleichzeitig habe die Technologie großes Potenzial, die Wissenschaft und Wirtschaft voranzubringen. 

Gemeinsam müssten die Mitglieder der Vereinten Nationen dafür sorgen, dass die KI "der Menschenwürde dient". Dafür müssten internationale Sicherheitsregeln aufgestellt werden. Statt freiwilliger Selbstverpflichtungen der KI-Unternehmen seien Transparenz und gemeinsame Standards notwendig. 

Bundesdigitalminister Karsten Wildberger (CDU) sprach sich beim Thema KI für eine bessere internationale Zusammenarbeit aus und nannte die Internationale Atomenergiebehörde (IAEA) als Vorbild. Er sehe "gute Chancen für eine internationale Vereinbarung, etwa einen Sicherheitskatalog, der Technologieprodukte und KI-Programme nach neuestem Stand der Technik überprüft", sagte Wildberger den Funke Medien vom Samstag.

Zugleich warnte Wildberger im Sender ntv vor einer "immer größeren Abhängigkeit" von außereuropäischer KI. In Europa gebe es "nicht genug Freiraum zur Entfaltung von Ideen und Technologie", kritisierte er. Es sei ein Irrglaube anzunehmen, "wir könnten die Technologiegeschwindigkeit runterregulieren und uns damit schützen", sagte Wildberger. "Dadurch wird Innovation nur woandershin verlagert und unsere Abhängigkeit immer größer." Zugleich sei staatliche Kontrolle aber unerlässlich, betonte der Minister.