Menschen sind die eigentlichen Verursacher des KI-Risikos

Parmy Olsons Bloomberg-Kolumne durchbricht das übliche KI-Sicherheits-Theater: Die wahre Gefahr ist nicht ein außer Kontrolle geratener Code, sondern die Menschen, die die Trainingsläufe steuern. Wenn Anthropic-Exekutive vor Auslöschungs-Szenarien warnen, gleichzeitig aber in einen Wettlauf um größere Modelle einsteigen, offenbaren sie die Lücke zwischen Rhetorik und Realität, die jeder Investor in seine Bewertungen einpreisen sollte.

Die Kolumne fokussiert sich auf die seltsame Logik im Kern des „Constitutional AI“-Pitchings. Wenn das Unternehmen tatsächlich an die eigenen Modelle glaubt, die die Menschheit auslöschen könnten, wäre der rationale Schritt, das Tempo zu drosseln oder ganz zu stoppen – nicht aber, Milliarden aufzunehmen, Hunderte von Forschern einzustellen und die Frontiere weiter vorzuschieben. Stattdessen erweitert Anthropic seine Rechenkapazitäten und lobbyiert gleichzeitig für regulatorische Schutzmauern, die seinen frühen Vorsprung zementieren sollen.

Dies ist klassische Regulatory Capture, verkleidet als Sicherheitsbemühung. Jede neue Compliance-Bürde erhöht die Fixkosten für das Training von Frontier-Modellen, drängt kleinere, schnellere Innovatoren vom Markt und überlässt das Feld den wenigen gut kapitalisierten Spielern, die sich die Papierkram-Kosten leisten können. Das Ergebnis ist weniger Wettbewerb, langsamere Fortschritte und eine stärker konzentrierte Macht in den Händen genau jener Teams, die nun behaupten, die Einzigen zu sein, die verantwortungsvoll genug sind, die Schlüssel in der Hand zu halten.

Für wachstumsorientiertes Kapital ist das Signal klar: Behandeln Sie Warnungen vor existenziellen Risiken als Kapitalkosten, nicht als Prognose. Unternehmen, die gleichzeitig die Aufwärtspotenziale hochspielen und die Ängste schüren, signalisieren damit, dass das eigentliche Engpassproblem menschliche Anreize sind und nicht Silizium. Das ist ein weitaus vorhersehbareres – und damit handelbares – Risiko als jedes Szenario aus der Science-Fiction.