Technologie

Wichtige KI-Unternehmen verpflichten sich zu Entwicklung sicherer Anwendungen

  • AFP - 21. Mai 2024, 13:58 Uhr
Bild vergrößern: Wichtige KI-Unternehmen verpflichten sich zu Entwicklung sicherer Anwendungen
Logo von ChatGPT
Bild: AFP

Mehr als ein Dutzend der führenden Unternehmen im Bereich Künstlicher Intelligenz haben sich bei einem Gipfel im südkoreanischen Seoul zur Entwicklung sicherer Anwendungen verpflichtet.

Mehr als ein Dutzend der führenden Unternehmen im Bereich Künstlicher Intelligenz haben sich bei einem Gipfel im südkoreanischen Seoul zur Entwicklung sicherer Anwendungen verpflichtet. "Diese Verpflichtungen stellen sicher, dass die weltweit führenden KI-Unternehmen Transparenz und Rechenschaft über ihre Pläne zur Entwicklung sicherer KI ablegen", erklärte der britische Premierminister Rishi Sunak am Dienstag. Demnach müssen die Firmen auch mitteilen, wie sie die Risiken von KI bewerten und wo Grenzen bei der Entwicklung liegen.

Das Treffen in Seoul, an dem neben dem ChatGPT-Hersteller OpenAI auch Google DeepMind und Anthropic teilnahmen, baut auf einen ersten globalen KI-Sicherheitsgipfel im vergangenen Jahr in Großbritannien auf. Auch jetzt ist Großbritannien Mitveranstalter. 

Die Unternehmen verpflichten sich, zu veröffentlichen, welche Risiken künstlicher Intelligenz für sie als "nicht tolerierbar" eingestuft werden und was die Unternehmen tun werden, um diese Schwellenwerte nicht zu überschreiten, hieß es in der vom britischen Wissenschaftsministerium vorgelegten Erklärung. 

Sollten diese Vorgaben nicht gehalten werden können, verpflichteten sich die Hersteller dazu, bestimmte Systeme oder Modelle "nicht einzusetzen oder zu entwickeln". Wie diese Schwellenwerte genau definiert sind, soll beim nächsten Gipfeltreffen in Frankreich im kommenden Jahr festgelegt werden. 

Am Treffen in Seoul, das noch bis Mittwoch läuft, nehmen auch die Technologieriesen Microsoft, Amazon, IBM und die Facebook-Mutter Meta teil. 

Die sogenannte Generative Künstliche Intelligenz wird dafür verwendet, beispielsweise in Programmen wie ChatGPT, um Texte, Bilder oder Videos zu erzeugen. Die Programme können dabei mit unterschiedlichen Datenarten gespeist werden, diese umwandeln, verarbeiten und daraus neue Daten generieren.

Kritiker warnen, dass KI auch dafür genutzt werden könnte, Wahlen zu manipulieren, etwa durch gefälschte Nachrichten oder sogenannte "Deepfakes", also täuschend echte aber manipulierte Bilder oder Videos. Aktivisten und viele Regierungen fordern daher internationale Standards für die Entwicklung und den Einsatz von KI. 

Der Rat der EU verabschiedete am Dienstag ein KI-Gesetz, das die Nutzung der Technologien etwa in der Videoüberwachung, Spracherkennung oder bei der Auswertung von Finanzdaten regelt. Vorgesehen ist etwa eine Kennzeichnungspflicht: Entwickler sollen mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder markieren müssen, um Menschen nicht in die Irre zu führen. Das Gesetz greift allerdings erst ab Frühjahr 2026. Experten halten die Vorgaben wegen der Fülle des Materials allerdings ohnehin für schwer kontrollierbar.

Weitere Meldungen

Apple kündigt neue KI-Funktionen für sein iPhone und Kooperation mit OpenAI an

Der US-Technologieriese Apple will die Künstliche Intelligenz (KI) zu einem wesentlichen Bestandteil seines iPhones und anderer Geräte machen und wird dabei auch mit dem

Mehr
Apple setzt auf KI für sein iPhone und kooperiert mit OpenAI

Apple will die Künstliche Intelligenz (KI) zu einem wesentlichen Bestandteil seines iPhones und anderer Geräte machen und wird dabei auch mit dem KI-Pionier OpenAI

Mehr
Staatshilfen: EU leitet Untersuchung gegen Netzanbieter aus Abu Dhabi ein

Wegen mutmaßlich illegaler staatlicher Hilfen für die Übernahme eines europäischen Unternehmens hat die EU-Kommission Untersuchungen gegen den Netzanbieter Etisalat mit Sitz in

Mehr

Top Meldungen

Fehlerhafte Werte zu Nord Stream 2: Bundesnetzagentur verhängt Bußgeld

Die Bundesnetzagentur hat im Zusammenhang mit der umstrittenen deutsch-russischen Gasleitung Nord Stream 2 ein Bußgeld von 75.000 Euro gegen den Pipeline-Betreiber Gascade

Mehr
Gut 1000 Hafen-Beschäftigte streiken in Hamburg - Tarifpartner verhandeln

In Hamburg haben Beschäftigte verschiedener Seehäfen in Deutschland für höhere Löhne demonstriert und ihre Arbeit niedergelegt. Zur zentralen Kundgebung in der Hansestadt am

Mehr
Tui setzt Hoffnungen auf Tourismus in Afrika

Berlin (dts Nachrichtenagentur) - Der Reisekonzern Tui setzt für den Ausbau seines Hotelportfolios auf Ziele in Afrika. "Im Tourismus sind für mehrere Regionen Afrikas die Chancen

Mehr