Buyx warnt vor unkontrollierbaren KI-Risiken

Berlin - Die ehemalige Vorsitzende des Ethikrates, Alena Buyx, blickt mit Sorge auf den weltweiten Wettlauf bei Künstlicher Intelligenz. Aus der Wissenschaft kämen seit vielen Jahren Warnungen vor unkontrollierbaren Risiken, die nicht hysterisch seien, sagte Buyx den Zeitungen der Funke-Mediengruppe.

Wenn selbst die Entwickler vor schwersten Schäden warnten, sei es sehr ernst. Sie bezweifle, dass die großen KI-Unternehmen ihrer Verantwortung aus eigener Kraft gerecht werden könnten, so Buyx. Sie blicke mit "großer Sorge" darauf, wie unverantwortlich einige der großen Technologieunternehmen im globalen Entwicklungswettlauf agierten.

Besonders ernst nehme sie Berichte über KI-Agenten, die vorgesehene Sicherheitsumgebungen verlassen, sich koordinieren und Plattformen angreifen. Künftig könnten davon etwa Krankenhäuser, Energieversorger oder Wasserwerke betroffen sein. Das sei kein abstraktes Zukunftsszenario, das man achselzuckend hinnehmen dürfe, sagte Buyx. Und stellte eine Forderung hinterher: Die Unternehmen müssten unbedingt erst ihre Systeme und die damit verbundenen Risiken zuverlässig unter Kontrolle bringen, bevor weiteres Wettrennen stattfinde. Und offenlegen, was entwickelt wird. Und auf diese Technologien brauche es dann einen wirksamen regulatorischen Zugriff.

Hintergrund sind die Warnungen großer Tech-Unternehmen zur KI-Sicherheit. Er sei besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb etwa Dario Amodei, Chef des KI-Unternehmens Anthropic, am Wochenende. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk.