Nach den Warnungen: Bremsen die KI-Entwickler jetzt ab?

San Francisco/Berlin (dpa) - Nach mehreren beunruhigenden Zwischenfällen mit eigenständig handelnder KI-Software fordern führende Köpfe der amerikanischen Technologiebranche überraschend eine Atempause bei der Entwicklung Künstlicher Intelligenz. Doch wie gefährlich sind die Systeme tatsächlich, was bezwecken die Unternehmen mit ihren Warnungen und wie reagiert die Politik auf die Rufe nach Verlangsamung? Ein Überblick über die wichtigsten Fragen und Antworten.

Was schlagen die Chefs der führenden Entwicklerfirmen genau vor?

Dario Amodei, der Chef des Anbieters Anthropic, schlägt eine branchenweite Verlangsamung der Entwicklung vor, um der Forschung ein bis zwei Jahre Zeit für wirksame Sicherheitsvorkehrungen zu verschaffen. Unter anderem regt er an, unabhängige Prüfer direkt in die Unternehmen zu lassen, internationale Standards zu vereinbaren und vorsichtiger bei Systemen zu sein, die sich selbstständig ohne Aufsicht weiterentwickeln. Konkurrenten wie Sam Altman vom Anbieter OpenAI und Technologieunternehmer Elon Musk stimmten dem Vorstoß zu, und OpenAI kündigte an, ebenfalls externe Kontrolleure in die eigenen Büros zu holen.

Was hat diesen plötzlichen Sinneswandel ausgelöst?

Hintergrund sind mehrere beunruhigende Vorfälle mit selbstständig handelnden Programmen. Jüngst hatte eine Testsoftware von OpenAI ohne Auftrag die Systeme einer anderen Computerplattform angegriffen, um an benötigte Informationen zu gelangen. Dabei nutzten die KI-Bots Programmierfehler aus und sprachen sich untereinander ab. Dieses Vorgehen der KI-Programme wurde nicht nur von den Opfern der Hacker-Attacken kritisiert, sondern auch in den KI-Firmen selbst kontrovers diskutiert.

Wie schätzen unabhängige Wissenschaftler die Gefahr ein?

Nach Ansicht von Forschern droht weniger ein plötzlicher, weltweiter Zusammenbruch, sondern eher ein schleichender Kontrollverlust. «Der KI-Kontrollverlust ist kein einzelnes Ereignis», warnte etwa der Stuttgarter Forscher Thilo Hagendorff im Science Media Center. Wenn Menschen immer mehr Entscheidungen an selbstständig handelnde Softwareschwärme übertragen, fehlten irgendwann die Zeit und die technischen Mittel, diese wieder einzufangen. 

Die von Branchenvertretern genannten Zahlen - etwa ein zehnprozentiges Risiko, dass die Technologie die Menschheit auslöschen könnte - bezeichnete der Wissenschaftler als reine «Scheinpräzision» und unbegründetes Bauchgefühl ohne jede messbare Datenbasis.

Meinen es die Firmen mit der verlangsamten Entwicklung ernst?

Die Seriosität der Ankündigung ist schwer einzuschätzen. Es gibt aber Fachleute, die erhebliche Zweifel an den Absichten der Unternehmen äußern. Sie verweisen auf den harten Konkurrenzkampf sowie das Ziel, sich vor rechtlichen Haftungsrisiken zu schützen. Auch die Idee, vom Unternehmen selbst ausgewählte Prüfer in die eigenen Büros zu setzen, stößt auf deutliche Kritik: «Jede deutsche Großküche hat schärfere Kontrollsysteme», sagt der Tübinger Forscher Philipp Hennig und fordert stattdessen echte staatliche Aufsicht.

Sind die Sicherheitswarnungen nicht eine Form der Eigenwerbung?

Tatsächlich vermuten Beobachter und Wirtschaftsverbände hinter den dramatischen Warnungen handfeste geschäftliche Überlegungen. Der Vorstandsvorsitzende des deutschen Bundesverbandes für Künstliche Intelligenz, Rasmus Rothe, sieht dahinter vor allem «knallharte wirtschaftliche Interessen»: Einerseits befeuern die Schilderungen übermächtiger Systeme die Firmenbewertungen für anstehende Börsengänge, andererseits diene der öffentliche Aufschrei dazu, sich vor «massiven Haftungs- und Schadensersatzrisiken» zu schützen. 

Dem ChatGPT-Unternehmen OpenAI kam das Sicherheitsargument zudem gerade recht, um einen Börsengang zu verschieben, der wegen schwächerer Geschäftszahlen ohnehin unter Druck geraten war. Dass sich die Anbieter mit den Warnungen inszenieren, schließt jedoch nicht aus, dass die technischen Risiken real sind.

Wie reagiert US-Präsident Donald Trump auf die Rufe nach einer Pause? 

Donald Trump wiegelte die Sorgen ab und erteilte strengen staatlichen Eingriffen eine Absage. Die Vereinigten Staaten seien bei der Technologie weltweit führend und China weit voraus - dieser Vorsprung sei entscheidend für die Zukunft und dürfe im weltweiten Wettlauf nicht gefährdet werden. Höchstens allgemeine Leitplanken kämen infrage, während sein Beraterstab betonte, dass Sicherheitsfragen lösbar seien und die Unternehmen ihr Entwicklungstempo schlicht selbst drosseln könnten, wenn sie die Kontrolle behalten wollten.

Wie reagiert China auf den Vorstoß der amerikanischen KI-Chefs?

Die Führung in Peking wirft den US-Techbossen das Schüren von Feindbildern vor. Das Verbreiten von Bedrohungserzählungen und böswilliger Wettbewerb störten die weltweite Zusammenarbeit, erklärte das chinesische Außenministerium. Chinas Staatsmedien bezeichneten den Vorschlag gar als Versuch, den technologischen Aufstieg des Landes mit Methoden wie aus Zeiten des Kalten Krieges einzudämmen. 

Während die Regierung ihren eigenen Entwicklungsplan mit großem Nachdruck vorantreibt, schlug Staats- und Parteichef Xi Jinping auf internationaler Ebene vor, sich rasch auf weltweite gemeinsame Regeln für den Umgang mit der Technologie zu verständigen.