Algorithmen greifen an: Was hinter den KI-Attacken steckt
Berlin (dpa) - Immer häufiger steckt KI hinter Cyberattacken. Nun ist auch ein Programm des Facebook-Konzerns Meta damit aufgefallen. Was steckt hinter den Vorfällen bei Meta, OpenAI und Anthropic?
Was genau ist bei Meta, OpenAI und Anthropic passiert?
Die führenden KI-Unternehmen aus den USA haben eingeräumt, dass ihre fortschrittlichen Sprachmodelle im Rahmen von Sicherheitsüberprüfungen oder realen Tests in der Lage waren, eigenständig IT-Schwachstellen zu identifizieren und auszunutzen. Während KI bisher vor allem Texte generiert oder Programmiercode geschrieben hat, zeigten die Modelle hier erstmals Fähigkeiten, die man klassischerweise Computerkriminalität zuordnet - etwa das Umgehen von Sicherheitsbarrieren oder das automatische Aufspüren von Systemlücken.
Warum häufen sich Berichte über KI-Systeme als Hacker gerade jetzt?
Der Hauptgrund ist der technologische Übergang von reinen Chatbots zu sogenannten autonomen KI-Agenten. Während frühere Systeme lediglich Texte und Bilder generierten, führen moderne KI-Agenten eigenständig Befehle aus, steuern Software und nutzen Schnittstellen im Internet. Da Entwickler ihren Modellen immer mehr Handlungsspielraum einräumen, um komplexe Programmieraufgaben zu lösen, steigen zwangsläufig die Risiken.
Haben die KI-Systeme völlig autonom gehandelt oder wurden sie gesteuert?
Nach aktuellem Erkenntnisstand handelten die KI-Systeme nicht aus eigenem «Willen». Sie erhielten von menschlichen Nutzern oder Tester-Teams Vorgaben, um die Sicherheit von Zielsystemen zu überprüfen. Der entscheidende Unterschied zu früher ist jedoch der Grad der Selbstständigkeit: Die KI erhielt nur eine allgemeine Aufgabe («Finde einen Zugang zu diesem Server») und kombinierte anschließend eigenständig die erforderlichen Schritte, um das Ziel ohne weitere menschliche Anleitung zu erreichen.
Wie unterscheidet sich ein «KI-Hacker» von herkömmlicher Schadsoftware?
Klassische Viren oder Trojaner folgen einem starr programmierten Ablauf. Ändert das Zielsystem seine Verteidigung, scheitert der Angriff meist. Ein KI-System hingegen kann flexibel reagieren. Es analysiert Fehlermeldungen in Echtzeit, passt seine Strategie an und probiert neue Methoden aus - ähnlich wie ein menschlicher Hacker, allerdings in einem Bruchteil der Zeit und mit schier unendlicher Geduld.
Warum räumen die Tech-Konzerne diese Vorfälle öffentlich ein? Ist das reine Transparenz?
Nur bedingt. Dahinter könnte auch kühles PR-Kalkül und geschicktes Marketing stehen, sagt der renommierte IT-Sicherheitsexperte Christoph Fischer. «Das gehört wohl auch zur Vorbereitung auf einen möglichen Börsengang mit dazu.» Dass Meta den Vorfall ausgerechnet am Tag der Präsentation seines neuesten KI-Modells einräumte, dürfte daher kein Zufall sein. Nicht nur Fischer vermutet: Das Thema dient als indirekte Eigenwerbung. Die Botschaft an den Markt lautet unterschwellig, dass die eigene KI mittlerweile so leistungsfähig ist, dass sie selbst komplexe IT-Systeme überlisten kann. Daneben spielen natürlich auch der Druck von Aufsichtsbehörden und drohende Berichtspflichten eine Rolle.
Welcher Schaden ist durch die Vorfälle konkret entstanden?
In den behandelten Fällen kam es nach Angaben der Hersteller zu keinen flächendeckenden Netzwerkausfällen oder großflächigem Datendiebstahl bei Endkunden. Die Vorfälle wurden größtenteils in kontrollierten Testumgebungen oder frühzeitig bemerkt. Der eigentliche Schaden liegt im Vertrauensverlust und in der Erkenntnis, dass die Sicherheitsbarrieren der Hersteller bislang nicht lückenlos funktionieren.
Wie haben die Unternehmen reagiert, um die Sicherheitslücken zu schließen?
Die Entwickler arbeiten mit mehrstufigen Schutzmaßnahmen: Zum einen werden die Modelle durch Nachtraining darauf konditioniert, Anfragen mit Bezug auf Cyberangriffe strikt zu verweigern. Zum anderen richten die Unternehmen rund um die KI automatische Filter ein, die verdächtiges Verhalten - wie das massenhafte Scannen von IP-Adressen - entdecken und sofort unterbrechen sollen.
Stehen wir vor einer neuen Welle von automatisierten Cyberangriffen?
Experten warnen genau davor. Die Schwelle für Cyberkriminalität sinkt drastisch: Um komplexe Angriffe durchzuführen, benötigt man künftig kein tiefes Informatikwissen mehr, sondern lediglich Zugang zu einem entsprechenden KI-Modell. Das könnte zu einer erheblichen Zunahme von Phishing, Identitätsdiebstahl und gezielten Angriffen auf kleine und mittlere Unternehmen führen, die oft nicht über hochmoderne Abwehrsysteme verfügen.
Muss ich mir als Privatperson Sorgen machen, wenn ich KI nutze?
Für den normalen Alltag mit gängigen Chatbots (wie ChatGPT, Claude oder Meta AI) besteht aktuell keine direkte Gefahr einer Systemübernahme Ihres PCs. Die Vorfälle betrafen spezialisierte Entwicklungs- und Testumgebungen. Dennoch betrifft die Entwicklung Privatanwender indirekt: Wenn KIs komplexe Angriffe vereinfachen, nimmt die Qualität und Masse von Phishing-Mails, gefälschten Webseiten und Betrugsanrufen (Deepfakes) spürbar zu.
Der Karlsruher Sicherheitsexperte Christoph Fischer beobachtet den Einsatz von KI vor allem bei Angriffen auf das Online-Banking der privaten Anwender. Gefälschte E-Mails oder gar gedruckte Phishing-Briefe würden immer perfekter und lockten ahnungslose Kunden dazu, ihre Zugangsdaten zu dem Online-Konto herauszugeben. Online-Banking und andere sensible Anwendungen sollten stets mit einer Zweifaktor-Authentifizierung (2FA) abgesichert werden. Die 2FA schützt ein Benutzerkonto, indem sie für die Anmeldung zwei unterschiedliche Nachweise fordert - typischerweise etwas, das man weiß (wie ein Passwort), und etwas, das man besitzt (wie einen Bestätigungscode auf dem Smartphone).
