Anthropic möchte weltweite Pause bei KI-Entwicklung: Könnten sonst Kontrolle verlieren

»Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren«: So lautet ein aktueller Blogeintrag des KI-Unternehmens Anthropic, dem Entwickler von Claude. Während sich die künstliche Intelligenz explosionsartig fortentwickelt, bleibt den Menschen kaum Zeit, zu überlegen. Die neuen Systeme werden unsere Welt rasant verändern – sie sind schon dabei! – und keiner weiß genau, wohin die Reise geht.

KI-Systeme fördern ihre eigene, schnelle Evolution

Der Anlass für diesen Vorstoß von Anthropic ist simpel. Er liegt nicht allein in der schnellen Weiterentwicklung von KI-Modellen, sondern auch darin, dass sich die Systeme mittlerweile selbst verbessern und so eine eigene, schnelle Evolution auslösen. Wie lange können die Menschen die Kontrolle behalten? Diese Frage beschäftigt offensichtlich die Unternehmensleitung. Doch bei einer Denkpause müssten alle großen Entwickler rund um die Erde mitmachen, denn niemand möchte im Wettbewerb freiwillig verlieren. Die Branche zeigt nicht wirklich Bereitschaft dazu, eher führt der KI-Hype zu Milliardeninvestitionen in Rechenzentren und Expansionsplänen.

Anthropic bereitet »Denkpause« mit einem Kontrollsystem vor

Auf dem Weltwirtschaftsforum in Davos merkte Anthropic-Chef Dario Amodei an, dass der Konkurrenzkampf mit China zu stark sei, um die Entwicklung einvernehmlich zu verlangsamen. Eine durchsetzbare Vereinbarung sei deshalb nicht in Sicht. Das Forschungsinstitut von Anthropic soll nun trotzdem ein Kontrollsystem für ein eventuelles Moratorium erarbeiten, das heimliche Vorteilsbeschaffung während eines Moratoriums ausschließt. Damit bereitet das Unternehmen die angestrebte Pause technisch vor, ohne zu wissen, ob es je eine Einigung darüber geben wird.

Anthropic ist mittlerweile als recht einsamer Mahner der KI-Welt bekannt. Die Firma wünscht sich offensichtlich eine weitere KI-Entwicklung strikt im Interesse der Menschheit, unter paralleler Anpassung gesellschaftlicher Strukturen. Präsident Donald Trump beschuldigte das Unternehmen hingegen, den globalen Wettbewerb der US-Industrie mit seinen Bedenken auszubremsen. Anthropic machte jüngst von sich Reden, als Claude Mythos Preview Sicherheitslücken in Programmen aufstöberte, die jahrzehntelang von niemandem entdeckt worden waren.

Quelle: futurezone.at