OpenAI-Sicherheitsforscher geht: Ein weiterer Ausstieg enthüllt das echte Risiko – regulatorische Übergriffe, nicht KI

Der Austritt

Ein bei OpenAI im Sicherheitsbereich tätiger Mitarbeiter hat das Unternehmen verlassen und warnt öffentlich, dass führende KI-Unternehmen die strengen Kontrollen nicht anwenden, die er für notwendig erachtet. Dieser Schritt folgt einem Muster: Sicherheitsteams wachsen, Budgets schwellen an, und wenn interne Forderungen nicht erfüllt werden, treten dieselben Personen mit dramatischen Presseerklärungen aus.

Die Anreize hinter der Alarmierung

Diese Abgänge sind mittlerweile ein verlässlicher Karriereschritt. Mitarbeiter, die unter Berufung auf „existenzielle Risiken“ ausscheiden, sichern sich Buchverträge, Stiftungsgelder und Beraterrollen in der Regierung. Die Kosten tragen die Aktionäre, deren Kapital die Forschung finanziert, sowie die Verbraucher, die für die Produkte zahlen. Keine in der Kündigung vorgelegten Beweise zeigen einen konkreten Versagen bestehender Kontrollen; stattdessen wird nach präventiven, weitreichenden Einschränkungen verlangt, deren Kostenfaktor nicht kalkuliert ist.

Die politische Falle

Das Drängen auf „nukleare“ Vorschriften vor der Markteinführung lädt genau das Ergebnis ein, das Regulierungsbehörden lieben: permanente Aufsichtsorgane, die sich unabhängig von den Ergebnissen ausweiten. Jede neue Vorschrift erhöht die Compliance-Kosten, verlangsamt die Iteration und verschafft den größten Marktteilnehmern Vorteile, die sich die Papierkram leisten können. Kleinere Innovatoren und Open-Source-Beitragende, die den schnellsten Fortschritt vorangetrieben haben, werden herausgepreist.

Kapitalallokation, keine Katastrophe

Die eigentliche Knappheit liegt nicht bei Sicherheitsfachkräften, sondern bei disziplinierter Kapitalallokation. Ressourcen, die für spekulative Worst-Case-Modellierungen ausgegeben werden, könnten stattdessen zusätzliches Rechenkapazität, Talente und schnelles Experimentieren finanzieren. Die Geschichte zeigt, dass echte Gefahren am besten durch iterative Markteinführung und Marktfeedback gemanagt werden, nicht durch Vor-Markt-Vetos, die von Gremien verfasst werden, die nichts hervorbringen. Der Markt wird Risiken genau dann preisen, wenn er dazu frei gelassen wird; weitere Schichten von Bürokratie werden nur die Erbauer besteuern und die Verwalter belohnen.