Sicherheitspolitiker warnen vor Risiken offener KI-Modelle

Berlin (dts Nachrichtenagentur) - Politiker von Union, SPD und Grünen schlagen wegen immer leistungsfähigerer frei verfügbarer KI-Modelle Alarm. Der Vorsitzende des Geheimdienste-Kontrollgremiums des Bundestags, Marc Henrichmann (CDU), sagte dem "Handelsblatt", leistungsfähige, hochentwickelte Open-Source-KI-Modelle könnten die Sicherheitslage grundlegend verändern.

Die Veröffentlichung von Modellgewichten oder anderer zentraler Bestandteile beschleunige Innovationszyklen erheblich, weil Entwickler die Systeme verändern, verbessern und weiterverbreiten könnten, so Henrichmann. Zugleich sinke die Hürde für Cyberkriminelle und staatliche Akteure, solche Systeme für die Automatisierung von Angriffen, Einflusskampagnen oder die Entwicklung neuer Schadsoftware zu nutzen.

Auch der digitalpolitische Sprecher der SPD-Bundestagsfraktion, Johannes Schätzl, rechnet damit, dass sich durch leistungsfähige offene KI-Modelle die Sicherheitsrisiken deutlich erhöhen. Die größte Gefahr gehe von Cyberkriminellen aus, die offene Modelle lokal betreiben, verändern und ohne Kontrolle des ursprünglichen Anbieters einsetzen könnten, sagte er dem "Handelsblatt". Die Hürden für Cyberangriffe könnten dadurch sinken und bekannte Angriffsmethoden schneller und in größerem Umfang eingesetzt werden, warnte Schätzl.

Der stellvertretende Vorsitzende des Geheimdienste-Kontrollgremiums, Konstantin von Notz (Grüne), erwartet durch Open-Source-KI für die IT-Sicherheit eine massive Disruption, also einen tiefgreifenden Umbruch. Zwar stärkten offene Modelle Transparenz und digitale Souveränität. Gleichzeitig ermöglichten sie aber Kriminellen und anderen feindlichen Akteuren einen niedrigschwelligen Zugang zu potenziell sehr mächtigen Werkzeugen, sagte er dem "Handelsblatt". Die IT-Sicherheitslage werde sich dadurch grundlegend verändern und erfordere konsequente Gegenmaßnahmen der Bundesregierung. Besonders wichtig werde es, Sicherheitslücken möglichst schnell zu schließen.