EU einigt sich auf Verbot von KI-Anwendungen für Porno-Deepfakes

Nach weltweiter Empörung über die Veröffentlichung von mit Künstlicher Intelligenz hergestellten Nacktbildern haben sich Vertreter der EU-Mitgliedstaaten und des Europäischen Parlaments auf ein Verbot geeinigt. Das Verbot von KI für Porno-Deepfakes und sexualisierte Bilder werde am 2. Dezember in Kraft treten, teilte eine Sprecherin der zyprischen Ratspräsidentschaft nach einer nächtlichen Verhandlungsrunde am frühen Donnerstagmorgen mit. Bundesjustizministerin Stefanie Hubig (SPD) begrüßte die Einigung und forderte als nächsten Schritt, den "Schutz vor digitaler Gewalt auch im Strafrecht zu verbessern".

Parlamentsangaben zufolge zielt das Verbot auf Systeme ab, die Bilder, Videos und Töne mit kinderpornografischem Inhalt erstellen können oder intime Darstellungen eines identifizierbaren Menschen ohne dessen Einwilligung zeigen. Die KI-Systeme müssen nach Ablaufen der Frist mit Sicherheitsvorkehrungen ausgestattet sein, die sie davon abhalten, solche Inhalte zu erzeugen. 

Die EU reagiert damit unter anderem auf Vorfälle vom Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

Das Vorgehen in Brüssel ist das Gegenstück zu einem Gesetzentwurf, den Hubig Anfang des Monats vorgestellt hat: Die EU kann Anwendungen und technische Systeme verbieten, die einzelnen EU-Länder entscheiden über Strafen für Nutzer, die Deepfakes erstellen. Hubigs Vorschlägen zufolge sollen das Erstellen und Verbreiten von pornografischen Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden können. Die Ministerin will damit Gesetzeslücken schließen: Derzeit ist etwa das bloße Herstellen gefälschter pornografischer Aufnahmen hierzulande nicht strafbar. 

"Betroffene von digitaler Gewalt brauchen effektiven Schutz - durch ein besseres Strafrecht und durch klarere Vorgaben für die Tech-Konzerne", erklärte Hubig am Donnerstag.

Das Verbot auf EU-Ebene ist Teil einer Reform eines KI-Gesetzes, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle Lockerungen vor: Parlament und Mitgliedstaaten einigten sich darauf, Regeln für den Einsatz von Künstlicher Intelligenz in "Hochrisiko"-Bereichen wie Sicherheitsbehörden und Gesundheitssystemen zu verschieben. Diese Regeln hätten im August in Kraft treten sollen. 

Der Einigung zufolge sollen die Regeln nun ab dem 2. Dezember 2027 für "autonome" Hochrisiko-KI-Systeme und zum 2. August 2028 für solche gelten, die in andere Programme oder Produkte integriert sind. 

Bei den Regeln für den Einsatz von KI in der Industrie einigten sich EU-Länder und Parlament darauf, dass der Maschinenbau von einer Reihe von Regeln ausgenommen wird. Industrieverbände hatten einen solchen Schritt gefordert, sie verwiesen auf Dopplungen mit bestehenden Industriegesetzen. Diese Dopplungen würden nun entfernt, hieß es in einer Erklärung des Parlaments.

Der Verband Deutscher Maschinen- und Anlagenbau (VDMA) begrüßte die Einigung als "positives Signal für industrielle KI". Der Verband der Elektro- und Digitalindustrie (ZVEI) nannte das Ergebnis der Verhandlungen einen "Teilerfolg". Es sei jedoch "bedenklich", dass es nicht gelungen sei, "die Anpassungen auch auf den Medizinproduktebereich zu übertragen", kritisierte Geschäftsführerin Sarah Bäumchen. Auch hier müssten "Doppelregulierungen abgebaut" werden.

Nach der Einigung in der Unterhändler in der Nacht zum Donnerstag müssen Parlament und EU-Länder den Kompromiss noch absegnen. Dies gilt nach Abschluss der Verhandlungen aber als Formalie.