San Francisco Frontiers - Verfassungsschützer und Politiker warnen vor KI-Modell Mythos

Für Europa sei das "sicherheitspolitisch relevant, weil Banken, Börsen, Zahlungsverkehr und kritische Infrastrukturen hoch vernetzt sind". Japan habe bereits eine Finanz-Cyber-Taskforce wegen der mit Mythos verbundenen Gefahren eingerichtet, berichtete Kramer. "Dort wird ausdrücklich gewarnt, dass Angriffe schnell auf Märkte und Vertrauen übergreifen können."

Riskante KI-Modelle sollten erst nach umfassenden Sicherheitsprüfungen freigegeben werden, forderte der Verfassungsschützer deshalb. Notwendig sei zudem eine engere Zusammenarbeit europäischer Aufsichtsbehörden.

Der Vorsitzende des Geheimdienste-Kontrollgremiums des Bundestags, Marc Henrichmann (CDU), zeigte sich ebenfalls alarmiert. "Wir reden hier nicht über ein theoretisches Risiko: Ein KI-Modell, das unentdeckte Sicherheitslücken autonom aufspürt, verändert die Bedrohungslage fundamental", sagte er dem "Handelsblatt".

Solche Systeme überforderten klassische Abwehrmechanismen. Deshalb müsse Europa jetzt selbst vorankommen – mit eigenen KI-Kapazitäten im Bereich Cybersicherheit, europäischen Forschungsinvestitionen und einer klaren Industriepolitik. "Wer hier dauerhaft von anderen abhängig bleibt, gibt die Kontrolle über die eigene Sicherheit ab", betonte Henrichmann. Europa dürfe sich "nicht darauf verlassen, dass US-amerikanische Unternehmen diese Entscheidungen für uns treffen".

Auch der digitalpolitische Sprecher der SPD-Bundestagsfraktion, Johannes Schätzl, sieht dringenden Handlungsbedarf. KI-Modelle wie Mythos könnten "zur Grundlage gefährlicher Cyberwaffen werden, gerade gegen Finanzinstitute, kritische Infrastrukturen, Krankenhäuser, Energieversorgung oder staatliche Stellen", sagte er. "Wenn Angriffe automatisiert werden, während der Staat weiter nur koordiniert, verlieren wir den Wettlauf, den wir gewinnen müssen."

Schätzl nennt die Entwicklung einen "Weckruf": "Die Fähigkeit, unbekannte Sicherheitslücken automatisiert zu finden und auszunutzen, war bisher wenigen hochspezialisierten Teams oder staatlichen Akteuren vorbehalten. Diese Mauer fällt gerade." KI werde damit "zu einer Sicherheitsfrage ersten Ranges". Der SPD-Politiker forderte eine "starke staatliche Aufsicht" und zugleich eigene Fähigkeiten. Nötig sei eine "massive" europäische KI-Investitionsoffensive in Rechenzentren, Modelle, Forschung und Halbleiterproduktion.

Mythos ist ein KI-Modell des US-Unternehmens Anthropic, das darauf spezialisiert ist, Sicherheitslücken in Cybersicherheitssystemen zu identifizieren. Anthropic hat Mythos bislang nicht veröffentlicht, die US-Behörden sowie eine Handvoll von Konzernen haben testweise Zugriff. Offenbar ist das Modell so gut, dass etwa auch der Internationale Währungsfonds (IWF) darin eine mögliche Bedrohung für das globale Finanzsystem sieht. Am Montag hatte sich zudem bereits das Bundesfinanzministerium besorgt geäußert.

G.Allen--SFF