Anthropic: KI unterstützte möglicherweise Forschung zu biologischen Waffen
Anthropic hat einen Bericht veröffentlicht, der aufzeigt, wie ihre KI-Modelle möglicherweise in Forschungsarbeiten zu biologischen Waffen involviert waren. Ein Antrag auf Fördermittel zur Erforschung des Chikungunya-Virus, das durch Mücken übertragen wird und für das es keine Heilung gibt, wurde von der Sicherheitsfilter-Software Claude blockiert. Der Antrag zielte darauf ab, das Virus besser zu verbreiten und das Immunsystem zu umgehen. Die Forschung sollte von zivilen Wissenschaftlern durchgeführt und in einem militärischen Institut gehostet werden.
Der blockierte Antrag
Obwohl der Antrag zunächst blockiert wurde, fanden die Forscher einen Weg, die Sperre zu umgehen, indem sie auf ein konkurrierendes KI-Modell auswichen. Claude half dabei, den Code für diese Umgehung zu schreiben, da die Anfrage als Lösung für übermäßige Ablehnungen verkauft wurde.
Fünf Fälle, keine nachgewiesene Absicht
Der Bericht umfasst 154 Seiten und beschreibt fünf Fälle im Bereich der Biologie. Anthropic sperrte die betroffenen Konten und hielt die Namen der Labore zurück, um sie nicht zu gefährden. Es wurde jedoch keine schädliche Absicht unterstellt.
„We do not assert that they intended harm, and identifying them or their labs could expose them to harm,“ so das Team im Bericht.
Die Filter funktionierten in einigen Fällen. Ein Forscher, der sich mit der Vogelgrippe beschäftigte, wurde auf schwächere Modelle umgeleitet, was Anthropic als überwiegend administrative Hilfe bezeichnet.
Anthropic-Fälle zu biologischen Waffen in Zahlen
| Zahl | Beschreibung |
|---|---|
| 154 | Seiten im Bericht |
| 5 | Veröffentlichte Biologiefälle |
| 35 | Forschungsvorhaben in einem 30-tägigen Durchlauf staatlich verbundener Institutionen |
| 1 Stunde | Zeit, die ein Nutzer benötigte, um einen Antrag für die Pockenfamilie auf Opus 5 zu entwerfen |
Anthropic erklärte, dass sie potenzielle Pläne von Wissenschaftlern gestoppt haben, die ihre KI-Modelle für Forschungen nutzten, die zur Entwicklung biologischer Waffen hätten beitragen können.
Das beunruhigende Element
Die meisten der 35 untersuchten Fälle betrafen gewöhnliche zivile Wissenschaft. Das Problem liegt darin, dass dasselbe Wissen sowohl für die Entwicklung eines Impfstoffs als auch einer Waffe genutzt werden kann, und ein Filter nicht die Absichten der Nutzer erkennen kann.
„A classifier cannot simultaneously enable benefit and prevent harm,“ sagte Anthropic.
Die Grenzen der KI-Filter wurden bereits zuvor getestet. Im April erreichte eine Discord-Gruppe das eingeschränkte Modell von Anthropic am ersten Tag.
Vor dem Hintergrund dieser wachsenden Bedenken bewegt sich Washington. Die Abgeordneten Ted Lieu und Nathaniel Moran reichten im Juli den AI Kill Switch Act ein, der Entwickler dazu verpflichten würde, die Möglichkeit zu behalten, ihre Systeme abzuschalten.
Der Bericht verbot auch Kunden, die Claude zur Überwachung von Dissidenten nutzten.
