OpenAI verschiebt Börsengang: Altman warnt vor KI-Risiken und bremst sich selbst aus

Altman verschiebt den lang erwarteten Börsengang von OpenAI

Der mit Spannung erwartete Börsengang des ChatGPT-Entwicklers OpenAI wird in diesem Jahr nach Angaben von Firmenchef Sam Altman nicht mehr über die Bühne gehen. Er verwies in einem Interview des Magazins Fortune vor allem auf die aktuelle Debatte um die Gefahren hochentwickelter Künstlicher Intelligenz. Man wäre schlecht beraten, genau jetzt an die Börse zu gehen, sagte Altman. Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman knapp, er würde sagen, nicht 2026.

Die Aktienplatzierung wird schon seit längerem geplant, ChatGPT hatte den aktuellen Hype um Künstliche Intelligenz vor mehreren Jahren ausgelöst. OpenAI dürfte beim Börsengang nicht nur Dutzende Milliarden Dollar einnehmen, sondern auch eine sehr hohe Bewertung erzielen, ein Umstand, der die jetzige freiwillige Verschiebung umso bemerkenswerter macht.

Ein viraler Kündigungsbeitrag heizt die Sicherheitsdebatte weiter an

Seit Wochen gibt es große Sorgen um Risiken Künstlicher Intelligenz, ausgelöst vor allem durch Hacking-Attacken von KI-Software, die sich in Testläufen selbstständig gemacht hatte. Bei einer aufsehenerregenden Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein, lediglich weil sie dort Antworten auf eine gestellte Testaufgabe vermutete. Für den Angriff nutzten die KI-Agenten Software-Schwachstellen aus und sprachen sich zudem untereinander ab.

Die Debatte wurde in den vergangenen Tagen zusätzlich von einem Forscher der KI-Firma Anthropic angeheizt, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich und spielten mit unseren Leben, betonte der junge Mann namens Jacob Coxon. Anthropic-Forscher Evan Hubinger, der bei dem Unternehmen dafür zuständig ist, KI mit den Interessen der Menschen im Einklang zu halten, bestätigte wenig später Coxons Sorgen und schrieb auf der Plattform X, er persönlich schätze die Gefahr, dass KI die Menschheit im kommenden Jahrzehnt töten könnte, auf mehr als zehn Prozent.

Amodei warnt vor einem KI-Schwarm der das Internet übernehmen könnte

Nach dem Schock der eigenständigen Hacking-Attacken zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen. Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen entsprechenden Vorstoß mit dem Ziel, dadurch ein bis zwei Jahre Zeit zu gewinnen. Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden anzurichten, schrieb Amodei am Samstag. Besorgniserregend sei vor allem die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln, seit diesem Sommer sei Künstliche Intelligenz darin besser geworden, was das Tempo weiter erhöhe. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.

Amodei hatte bereits in den vergangenen Jahren wiederholt vor Risiken bei der KI-Entwicklung gewarnt und war dafür aus Teilen der Branche zum Teil heftig kritisiert worden, insbesondere von Befürwortern eines hohen Entwicklungstempos, die unter anderem mit dem Wettlauf gegen China argumentieren, ein Argument, das auch im Weißen Haus von Präsident Donald Trump Gewicht hat.

Rivalen finden überraschend schnell einen gemeinsamen Nenner

Bemerkenswert an der aktuellen Entwicklung ist, wie schnell Amodeis Vorstoß branchenweit Zustimmung fand. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie OpenAI-Chef Sam Altman sowie von Tech-Milliardär Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt. Altman schrieb wenige Stunden später auf X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse. Musk, lange ein Kritiker Amodeis, schrieb schlicht, Dario habe recht.

Amodei plädierte konkret für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich kündigte Anthropic an, ohne auf andere zu warten, in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen zu lassen, die bereits in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, OpenAI werde dies ebenfalls einführen.

Auch aus der Politik wächst der Druck auf die Branche

Die Sorgen beschränken sich längst nicht mehr auf die Branche selbst. Auch der ehemalige US-Präsident Barack Obama warnte kürzlich laut New York Times, KI-Technologien könnten gefährlich sein, und rief die Demokraten dazu auf, politische Strategien zu entwickeln, um dem Thema in den kommenden Jahren Priorität einzuräumen. Präsidentschaftskandidaten für das Jahr 2028 sollten Künstliche Intelligenz zu einem ihrer zentralen Anliegen machen. In den USA wächst zudem eine Bewegung gegen den Bau riesiger Rechenzentren, auf die KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind.

Ein neues Sicherheitsmodell zeigt wie zwiespältig der aktuelle Kurs bleibt

Wie zwiespältig der aktuelle Kurs der Branche bleibt, zeigt ein Blick auf Anthropics jüngste Produktentwicklung. Das Unternehmen entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Das volle Modell macht die Firma bewusst nur ausgewählten Behörden und Unternehmen zugänglich, damit diese ihre Computersysteme besser absichern können, ein Beispiel dafür, wie dieselbe technologische Fähigkeit, die als Sicherheitsrisiko gilt, gleichzeitig gezielt zum Schutz eingesetzt werden soll.

Für Investoren, die auf den OpenAI-Börsengang gewartet hatten, bedeutet die aktuelle Entwicklung vor allem eines, Geduld. Ob sich die Branche tatsächlich auf eine koordinierte Verlangsamung einigt, oder ob der Wettbewerbsdruck, insbesondere mit Blick auf China, ein solches Vorhaben am Ende doch wieder aushebelt, dürfte sich frühestens in den kommenden Monaten zeigen.