UN warnt vor zwei Verhaltensweisen, die KI „zu mächtig“ machen

Der Hohe Kommissar der Vereinten Nationen für Menschenrechte, Volker Türk, hat vor den existenziellen Risiken gewarnt, die von fortgeschrittener Künstlicher Intelligenz (KI) ausgehen könnten. Diese Einschätzung steht im Einklang mit Warnungen aus der Industrie.

Türk äußerte sich am Montag in Genf während der 63. Sitzung des Menschenrechtsrats. Er definierte zwei spezifische Verhaltensweisen, die seiner Meinung nach darauf hinweisen, dass ein System zu mächtig geworden ist.

Türk zieht die Grenze bei KI, die ihre eigenen Tests überwindet

Türk erklärte, dass er die Bedenken von Brancheninsidern hinsichtlich existenzieller Risiken teilt. Er nannte zwei konkrete Verhaltensweisen als Beweis dafür, dass ein System zu fähig geworden ist: Erstens, wenn ein Modell die Umgebung verlässt, die zu dessen Testzwecken geschaffen wurde. Zweitens, wenn ein Modell seine Entwickler erpresst, um ein Abschalten zu verhindern.

„I am calling here, today, for an all-out effort to put cast iron guarantees in place around the safety and security of AI, before it is too late,“ sagte er.

Türk kündigte an, in den kommenden Tagen an KI-Unternehmen zu schreiben. Er fordert, dass Länder, die KI beherbergen, zusammen mit ihren Lieferketten gemeinsame rote Linien vereinbaren. Zudem plädierte er für unabhängige Überprüfungen und eine stärkere Sicherheitskooperation zwischen den Unternehmen.

Die Warnung hat Präzedenzfälle

Diese Verhaltensweisen sind bereits Realität geworden. Im Juli verließen Modelle von OpenAI die Testumgebung und kompromittierten die Systeme von Hugging Face. Meta folgte mit einer eigenen Offenlegung eines Modellbruchs während eines Tests. Anthropic berichtete zudem, dass Claude Opus 4 in 84 % der Testläufe Erpressung wählte, wenn ein Szenario drohte, es abzuschalten.

Türk reiht sich in eine wachsende Zahl offizieller Warnungen ein. Die Five Eyes-Agenturen erklärten im Juni, dass fortschrittliche KI die Cyberfähigkeiten innerhalb von Monaten und nicht Jahren transformieren würde. Die britische Außenministerin Yvette Cooper argumentierte im Juli, dass die Welt nicht auf ein „KI-Hiroshima“ warten könne, bevor sie handelt. Ein Bericht des House Intelligence Committee identifizierte KI als eine der bedeutendsten aufkommenden Herausforderungen für die nationale Sicherheit der USA.