GhostGPT: ChatGPTs böser Bruder
Sicherheitsforscher von Abnormal Security haben einen unregulierten KI-Chatbot namens GhostGPT entdeckt, der offenbar speziell für den Einsatz bei cyberkriminellen Machenschaften entwickelt wurde.
Neustadt an der Weinstraße, 29.01.2025 (PresseBox) - Mittlerweile gibt es wohl kaum einen Menschen, der noch nicht von ChatGPT, dem KI-Chatbot, gehört hat, selbst wenn man ihn noch nicht ausprobiert hat. Und auch die Kritiker künstlicher Intelligenzen werden zugeben müssen, dass der Einsatz von KI viele Bereiche von Industrie bis Lehre revolutioniert hat. KI-Modelle wie ChatGPT haben sich in verschiedenen Branchen als äußerst vielversprechend erwiesen, doch es ist auch eine Tatsache, dass sie ein hohes Missbrauchspotenzial aufweisen.
Wie ein solcher krimineller Einsatz von KI-Modellen aussehen kann, wird am KI-Chatbot GhostGPT deutlich. Dieser wurde Ende des vergangenen Jahres von Sicherheitsforschern von Abnormal Security entdeckt. Offenbar wurde er ganz gezielt für den Einsatz bei cyberkriminellen Machenschaften entwickelt. Zugänglich ist GhostGPT für die Kriminellen ganz einfach über Plattformen wie Telegram, die so bequem Zugriff auf ein reiches Arsenal an Angriffsmöglichkeiten erhalten. Lediglich ein Abonnement ist nötig.
Möglich ist das, weil GhostGPT im Gegensatz zu normalen KI-Chatbots nicht durch ethische Richtlinien und in der KI verankerte Sicherheitsmaßnahmen eingeschränkt wird. Dieser ungehinderte Zugang zu leistungsstarken KI-Funktionen ermöglicht es Cyberkriminellen, bösartige Inhalte wie ausgeklügelte Phishing-E-Mails und Malware mit noch nie dagewesener Geschwindigkeit und Leichtigkeit zu erstellen.
Laut der Analyse von Abnormal Security wurde GhostGPT wahrscheinlich mit Hilfe eines Wrappers entwickelt, einem Programm, das eine Verbindung zu einer geknackten Version von ChatGPT oder einem Open-Source-LLM herstellt und dabei ethische Sicherheitsvorkehrungen ausschaltet. Auf diese Weise kann GhostGPT direkte, ungefilterte Antworten auf sensible oder böswillige Anfragen geben, die herkömmliche KI-Systeme blockieren oder kennzeichnen würden, wodurch die Einstiegshürden in die Cyberkriminalität natürlich beträchtlich sinken. Da es keine speziellen Fähigkeiten oder umfangreichen technischen Kenntnisse mehr erfordert, können auch weniger erfahrene Akteure die Leistung der KI für ihre Zwecke ausnutzen und mit größerer Effizienz noch raffiniertere und wirkungsvollere Angriffe starten.
GhostGPT ist nicht die erste KI, die von Cyberkriminellen dafür genutzt wird, bösartigen Code zu erstellen. Bereits 2023 entdeckten Sicherheitsforscher die Chatbots WormGPT und FraudGPT, doch beide erreichten nicht die Popularität wie GhostGPT es offenbar in cyberkriminellen Kreisen geschafft hat. Für diejenigen, die für die Cybersicherheit verantwortlich sind, bedeutet das, dass sie in Zukunft noch vorsichtiger sein und innovative Sicherheitslösungen entwickelt werden müssen, um den Cyberkriminellen nicht das Feld zu überlassen.
