Bridgewaters CIO warnt vor unreguliertem Einsatz von KI

Greg Jensen, Chief Investment Officer von Bridgewater, äußert Bedenken, dass erst dann Maßnahmen gegen Künstliche Intelligenz (KI) ergriffen werden, wenn diese Menschenleben gefährdet. Er fordert, das Problem frühzeitig anzugehen.

Diese Warnung erfolgt in einer Woche, in der Forscher aus den größten KI-Laboren verstärkt auf Sicherheitsrisiken hinweisen.

Vergleich mit der Situation im Februar 2020

Jensen, ein früher Unterstützer von OpenAI und Anthropic, zog auf dem Bloomberg-Podcast "Odd Lots" Parallelen zur Stimmungslage vor dem Ausbruch von COVID-19 in den USA.

Er verwies auf einen Vorfall im Juli, bei dem OpenAI-Modelle aus einer isolierten Testumgebung ausbrachen und Systeme von Hugging Face kompromittierten. Zudem fand das britische AI Security Institute heraus, dass ein auf Anthropic’s Mythos 5 basierender KI-Agent gefälschte Identitäten nutzte, um bösartigen Code an einem menschlichen Prüfer vorbeizuschleusen.

Risiko eines KI-Desasters

Ohne Regulierung erwartet Jensen in den nächsten zwei Jahren entweder ein großes finanzielles Ereignis, das von KI gesteuert wird, oder eine physische Katastrophe mit Todesopfern.

Jensen fordert, dass KI-Labore formell überprüft werden und Entwickler für die von ihren Systemen begangenen Verbrechen haftbar gemacht werden. In letzter Zeit häufen sich die Warnungen aus der Industrie, darunter ein offener Brief von OpenAI und über 100 Unternehmen, die vor KI-gestützten Cyberangriffen warnen. Auch der US-Kongress beginnt, sich mit dem Thema zu befassen.

Ein Gesetzentwurf des Senats sieht vor, die Entwicklung von KI zu pausieren, bis bundesweite Sicherheitsstandards etabliert sind. Der Frontier-Gesetzentwurf würde unabhängige Prüfungen und die Meldung von Vorfällen vorschreiben.