Behörden warnen vor wachsender KI-Cybergefahr

Berlin (dts Nachrichtenagentur) - Das Bundesamt für Verfassungsschutz und das Bundesamt für Sicherheit in der Informationstechnik (BSI) rechnen angesichts immer leistungsfähigerer KI-Modelle mit einer Verschärfung der Bedrohungslage im Cyberraum. Das Risiko liege in einer höheren Skalierbarkeit und niedrigeren Einstiegshürde für Angreifer, teilte der Verfassungsschutz dem "Handelsblatt" mit.

Die abstrakte Bedrohungslage im Cyberraum dürfte sich mit einem verstärkten Einsatz von KI-Modellen, inklusive Open-Source-KI-Modellen, durch fremde Nachrichtendienste weiter erhöhen. KI unterstütze vor allem im Rahmen von Aufklärung, Automatisierung und Skalierung jegliche Arten von Cyberoperationen.

Auch das BSI erwartet einen zunehmenden Missbrauch leistungsfähiger KI-Systeme. Die Modelle führender Entwickler hätten innerhalb des vergangenen Jahres deutlich gezeigt, dass solche Modelle großes Potenzial im Auffinden von Schwachstellen haben, sagte ein BSI-Sprecher dem "Handelsblatt". Zugleich seien sie inzwischen in der Lage, auf Grundlage entdeckter Sicherheitslücken erfolgreiche Angriffsschritte auszuführen. Deshalb sei davon auszugehen, dass Cyberkriminelle versuchen werden, dieses Potenzial auszunutzen. Grundsätzlich gelte das auch für frei verfügbare KI-Modelle.

Nach Einschätzung des BSI begrenzen derzeit allerdings noch der hohe Rechenaufwand und die Kosten den Einsatz besonders leistungsfähiger Modelle durch Kriminelle. Mit sinkenden Hardwarekosten und effizienteren KI-Systemen dürfte diese Hürde jedoch weiter fallen. Unternehmen sollten KI deshalb selbst verstärkt zur Suche nach Schwachstellen in Software einsetzen und Sicherheitsupdates zügig einspielen.

Auch der Verfassungsschutz verweist auf die Chancen der Technologie für die Verteidigung. KI sei nicht nur ein Werkzeug für Angreifer, sondern ebenso ein unverzichtbarer Bestandteil moderner Verteidigungsstrategien, etwa bei der Analyse großer Datenmengen oder der frühzeitigen Erkennung von Anomalien.