Ehemaliger FTC-Kommissar: Warnungen vor KI-Auslöschung übertrieben
Ein ehemaliger Kommissar der US-amerikanischen Federal Trade Commission (FTC) hat die jüngsten Warnungen vor einer durch künstliche Intelligenz (KI) verursachten Auslöschung der Menschheit zurückgewiesen.
Alvaro Bedoya, der von 2022 bis zu seiner umstrittenen Abberufung im Jahr 2025 in der Kommission tätig war, äußerte sich inmitten einer öffentlichen Debatte darüber, wie schnell die Entwicklung von KI voranschreiten sollte.
Die Menschheit hat Schlimmeres überstanden
Bedoya führt an, dass die Menschheit bereits zahlreiche Herausforderungen überstanden hat.
„AI will not eradicate humanity. Humans survived an ice age, the Black Death, two world wars, and (so far) the advent of nuclear weapons. Anyone who is loudly warning of AI-caused human extinction should not be taken seriously,“
Er lehnt die Vorstellung ab, dass er ein Befürworter von KI sei oder dass die Technologie harmlos sei. Sein Ziel ist es, die Verwendung von Begriffen wie „KI-Auslöschung“ zu kritisieren, die seiner Meinung nach als Vorwand für ein Kartell von milliardenschweren KI-Unternehmen dienen.
Bedoya schlägt einen Test für die Ernsthaftigkeit solcher Warnungen vor: Wer wirklich glaubt, dass ein Produkt alle Menschen töten könnte, würde die Produktion einstellen und die Polizei rufen.
Ein Memo von 2014 beantwortet die Frage bereits
Dario Amodei, Chef von Anthropic, forderte in Washington eine enge kartellrechtliche Ausnahmegenehmigung, um Sicherheitsgespräche führen zu können. Dies ist Teil eines dreistufigen Plans, den Sam Altman kürzlich unterstützt hat. Auch Elon Musk befürwortete die Idee.
Bedoya betont, dass eine solche Anfrage nicht nötig sei. Er verweist auf eine gemeinsame Erklärung des Justizministeriums und der FTC vom 10. April 2014, die besagt, dass Kartellrecht kein Hindernis für den legitimen Austausch von Informationen zur Cybersicherheit darstellt.
„I am, rather, explaining that the companies have, right now and yesterday, the ability to coordinate to stop any safety and health risks. Antitrust is no barrier to that,“
Er erklärt, dass Sicherheitskoordination legal ist, während eine Koordination, die günstigere Konkurrenten vom Markt ausschließt, nicht zulässig ist.
Bedoya sieht ein wirtschaftliches Risiko: Die größten Labore verbrennen Geld, ohne profitabel zu sein, während offene Modelle sie preislich unterbieten.
„The panic of individual employees may be sincere if misguided, but the moves by their CEOs to achieve some kind of broad antitrust waiver or exemption should be meet with deep skepticism in light of the economics of the industry and the threat they face from open models,“
Sam Altman von OpenAI hat eine ähnliche Schlussfolgerung gezogen. In einem längeren Beitrag erklärte er, dass OpenAI nicht auf eine kartellrechtliche Ausnahmegenehmigung oder Gesetzgebung warten müsse, um mit der Arbeit zu beginnen.
Altman fordert jedoch einen föderalen Rahmen, der konsistente Sicherheitsanforderungen für führende Labore festlegt. Wo staatliche Unterstützung benötigt wird, sei die internationale Koordination.
Diese Skepsis steht im Gegensatz zu einer Woche voller Warnungen aus den Laboren selbst. Die Debatte geht auf den 9. September zurück, als der Forscher Jacob Coxon von Anthropic zurücktrat. Gesetzgeber begannen, ein Verbot von Superintelligenz zu fordern. Auch Greg Jensen, Investmentchef von Bridgewater, warnte, dass sich nichts ändern werde, bis KI jemanden tötet.
