Kalifornien prüft "Notschalter" für Künstliche Intelligenz

In der Sicherheitsdebatte über Künstliche Intelligenz (KI) will der US-Bundesstaat Kalifornien eine Art Notschalter prüfen. Der kalifornische Gouverneur Gavin Newsom unterzeichnete am Freitag ein Dekret, das als eine Möglichkeit zur Kontrolle von KI einen solchen "kill switch" vorsieht - also einen Mechanismus, der ein KI-System bei Gefahr stoppt oder isoliert. Eine Reihe von KI-Unternehmen sind im Silicon Valley in Kalifornien angesiedelt.

Mit dem Dekret beruft der Demokraten-Politiker Newsom zunächst "eine Gruppe weltweit führender Experten ein, die innerhalb von zwei Monaten einen Leitfaden für Kalifornien ausarbeiten sollen", um die Gesetze zur Sicherheit im KI-Bereich zu verbessern. Sie sollen unter anderem prüfen, ob unabhängige Instanzen künftig Sicherheitspläne für besonders fortschrittliche KI-Modelle erstellen können und ob KI-Unternehmen ein Notabschaltmechanismus vorgeschrieben werden kann.

Newsom erklärte, während Präsident Donald Trump und der Kongress in Washington schliefen, übernehme er selbst eine Führungsrolle, um "KI-Sicherheit für alle Amerikaner zu stärken". Trump lehnt eine Regulierung der KI-Branche ab. Der 80-Jährige will damit den technologischen Vorsprung der USA gegenüber China sichern. Im Kongress war diese Woche ein Vorstoß für eine KI-Notabschaltung ins Leere gelaufen.

Wegen der Risiken von Künstlicher Intelligenz hatten sich mehrere Chefs großer KI-Unternehmen kürzlich für eine verlangsamte Entwicklung der Technologie aufgerufen. Darunter sind Anthropic-Chef Dario Amodei und OpenAI-Chef Sam Altman. Mehrere ehemalige Mitarbeiter von KI-Firmen warnten sogar vor einer möglichen Auslöschung der Menschheit.

Newsom gibt den Gouverneursposten in Kalifornien im Januar nach zwei Amtszeiten ab. Sein Nachfolger wird am 3. November gewählt. Dabei tritt der Republikaner Steve Hilton gegen den Demokraten Xavier Becerra an. Kalifornien gilt seit rund 20 Jahren als Hochburg der Demokraten.