Anthropic warnt vor missbräuchlicher Nutzung von Claude für Waffenentwicklung und Überwachung
Das Unternehmen Anthropic hat Versuche aufgedeckt, seine KI-Plattform Claude für die Entwicklung von Waffen, Massenüberwachung und potenziell gefährliche biologische Forschung zu nutzen. Diese Fälle sind von Bedeutung, da Künstliche Intelligenz technische Arbeiten komprimieren kann, die früher Teams und längere Zeiträume erforderten.
Anthropic deckt alarmierende Missbrauchsfälle von Claude auf
1. Jemenitische Zelle nutzte Claude für Raketensoftware-Entwicklung
Ein Fall betraf eine Zelle im Norden des Jemen, die an drei Lenkwaffenprogrammen arbeitete. Die Gruppe entwickelte eine gelenkte Rakete mit einem Flugcomputer der Handy-Klasse, eine mehrstufige ballistische Rakete mit einer Reichweite von über 2.000 Kilometern und eine R2000-Raketenfamilie, die eine Hyperschall-Variante umfasste. Claude wurde anstelle menschlicher Software-Ingenieure eingesetzt. Ein Testflug der Rakete schlug fehl, woraufhin die Gruppe Claude zur Fehleranalyse nutzte. Es gibt keine Hinweise darauf, dass die Zelle eine einsatzfähige Waffe entwickelt hat.
2. Russland-basierte Entwickler arbeiteten an autonomen Kamikaze-Drohnen
Ein weiteres Beispiel betrifft ein kleines Team in Russland, das an einem autonomen FPV-Kamikaze-Drohnen-Schwarm arbeitete. Claude wurde zur Entwicklung von Schwarmkoordination und Zielansteuerung genutzt. Das geplante System könnte Ziele autonom auswählen und Detonationsbefehle ohne menschliches Eingreifen erteilen. Die Entwickler nutzten ukrainisches Kampfmaterial zur Schulung der Software.
3. China-basierter Forscher modellierte militärische Ziele in Taiwan
Ein Forscher aus China nutzte Claude, um ein elektronisches Kriegsführungs- und Luftabwehrunterdrückungssystem zu entwickeln. Die Software analysierte Radarabdeckung und Raketenabwehrsysteme. Der Forscher änderte das Szenario auf 12 Ziele in Taiwan, darunter wichtige militärische Einrichtungen. Es handelt sich um eine militärische Zielsimulation und nicht um einen tatsächlichen Invasionsplan.
4. Überwachung von 25 Millionen SIM-Karten in Mali
Ein Abonnent nutzte Claude, um eine Überwachungsplattform für den malischen Geheimdienst zu entwickeln, die 25 Millionen SIM-Karten überwachen sollte. Das System konnte Anrufdaten, Texte und Sprachverkehr sammeln und mit biometrischen Daten verknüpfen. Trotz der Sperrung des Claude-Kontos lief das System lokal weiter.
5. Wissenschaftler nutzten Claude für potenziell gefährliche biologische Forschung
Anthropic beschrieb mehrere Fälle biologischer Forschung, bei denen nicht immer klar war, ob die Wissenschaftler Schaden beabsichtigten. Ein staatlich gefördertes Projekt umfasste Gain-of-Function-Forschung an Chikungunya zur Erhöhung der Übertragbarkeit und Immunflucht. Andere Fälle betrafen die Anpassung von Vogelgrippeviren an Säugetiere und Toxin-Forschung. Die Sorge besteht darin, dass solche Forschungen die Entwicklung biologischer Waffen unterstützen könnten.
Anthropic betont, dass seine Sicherheitsmaßnahmen diese Aktivitäten erkannt oder gestoppt haben. Der Bericht zeigt jedoch, dass diese Maßnahmen weiterentwickelt werden müssen, da KI-Modelle immer leistungsfähiger werden und Nutzer neue Wege finden, sie für operative Zwecke zu nutzen.
