Müssen KI-Systeme an die kurze Leine genommen werden?

Berlin (dpa) - Wenn Algorithmen Sicherheitsbarrieren überwinden und eigenständig digitale Schwachstellen ausnutzen, ist das längst keine reine Zukunftsmusik mehr. Namhafte US-Tech-Konzerne wie Meta, OpenAI und Anthropic mussten zuletzt einräumen, dass ihre Sprachmodelle in Tests autonome Hacking-Fähigkeiten zeigten. Dies hat Befürchtungen vor unkontrollierten Risiken neuen Auftrieb gegeben. 

In der Politik wie in der Digitalwirtschaft entbrennt daher eine Grundsatzdebatte: Reichen freiwillige Verpflichtungen und der europäische AI Act aus? Oder muss Künstliche Intelligenz noch straffer an die Kette gelegt werden? Ein Pro und Kontra. 

Argumente für eine strengere Regulierung 

Haftung der Hersteller und persönliche Verantwortung 

Aus Sicht von Bürgerrechtlern fehlt bei KI-Systemen bislang eine klare, unmissverständliche Verantwortlichkeit der Entwickler. Markus Beckedahl, Geschäftsführer des Zentrums für Digitalrechte und Demokratie, zieht den Vergleich zu etablierten Industrien: «Bei Autos oder Medikamenten ist die Frage längst entschieden: Wer sie herstellt, haftet für die Schäden. Bei KI-Systemen tun die Anbieter so, als stünde das noch zur Debatte.» 

Es sei unverantwortlich, wenn sich Unternehmen nach Fehlverhalten ihrer Software auf unvorhersehbare Effekte berufen. «Wer komplexe Systeme herstellt, muss sie auch beherrschen», fordert Beckedahl. «Wenn eine KI mangels Sicherheitsvorkehrungen frei dreht, sollten die Verantwortlichen in den Unternehmen auch persönlich geradestehen.» 

Warnungen der eigenen Entwickler 

Sogar aus dem Maschinenraum der führenden KI-Labs kommt mittlerweile lautstarker Ruf nach staatlicher Regulierung. In dem offenen Brief «Pacing the Frontier» warnten über 1.100 Spitzenforscher und Angestellte von OpenAI, Anthropic, Google und Meta, dass das Entwicklungstempo unkontrollierbar zu werden drohe. 

Da der extreme Wettbewerbsdruck kein einzelnes Unternehmen freiwillig bremsen lasse, bitten die Insider den US-Gesetzgeber und die internationale Politik explizit um Hilfe: Es müssten staatliche Werkzeuge geschaffen werden, um die Entwicklung automatisierter KI-Forschung im Ernstfall gezielt drosseln zu können. 

Schutz von Grundrechten 

Auch die deutsche Bürgerrechtsorganisation AlgorithmWatch sieht die Politik in der Pflicht und wirft der EU Untätigkeit vor. Oliver Marsh, Leiter der Technologieforschung bei AlgorithmWatch, kritisiert das Verhalten der Konzerne und den Gesetzgeber: «Es ist ein Skandal, dass Unternehmen für Gefahren und Schäden, die von ihrem Umgang mit ihren KI-Systemen ausgehen, kaum Verantwortung übernehmen und Konsequenzen tragen müssen.» 

Die EU sei viel zu nachgiebig. Regierungen müssten gesetzliche Grundlagen schaffen oder nachschärfen, damit der Einsatz von KI nicht gefährlich werden könne, und sie dürften sich dabei nicht von Tech-CEOs beeinflussen lassen. 

Argumente gegen eine strengere Regulierung 

Systematischen Nachteil für Europa verhindern 

In der Diskussion um eine strenge KI-Regulierung in Deutschland und Europa geht es oft gar nicht um klar definierte Leitplanken für die KI an sich, sondern um eine mögliche Benachteiligung des Standortes Europas. 

Auf europäischer Ebene gehört der französische Präsident zu den profiliertesten Kritikern einer zu frühen und strengen Regulierung. Er warnte wiederholt davor, dass das europäische KI-Gesetz Innovationsführer aus Europa wie das französische Start-up Mistral AI im Vergleich zu US-amerikanischen oder chinesischen Konkurrenten stark ausbremsen könnte. 

Drohende Innovationsbremse 

Der Branchenverband Bitkom warnt eindringlich vor einer Überregulierung des Digitalstandorts. Zu starre bürokratische Hürden und unklare Vorgaben verunsicherten Unternehmen und bremsten die Entwicklung praxistauglicher Anwendungen. Angesichts des Vorsprungs der USA und Chinas drohe Europa bei noch strengeren Regeln endgültig den Anschluss im weltweiten Technologiewettlauf zu verlieren. 

Ruf nach Regulierung nur ein Trick 

Für Skepsis sorgt auch die Rolle prominenter Firmenköpfe, wenn diese sich selbst für eine strenge Regulierung starkmachen. So hatte OpenAI-Chef Sam Altman wiederholt eine staatliche Lizenzierung und Aufsichtsbehörden für extrem leistungsfähige KI-Systeme gefordert. 

Kritiker werten diesen Ruf nach Regulierung jedoch als strategisches Manöver. Enorme Zulassungshürden und teure Sicherheitsprüfungen können sich Branchenriesen problemlos leisten - für kleinere Konkurrenten, den europäischen Mittelstand und Open-Source-Initiativen bedeuten sie hingegen das Aus. Zu viel Gesetzgebung schützt somit womöglich genau die Monopole, die sie eigentlich kontrollieren soll. 

Funktionierende Selbstregulierung 

Die Tech-Unternehmen verweisen darauf, dass Phänomene wie die autonomen Hacking-Versuche erst durch ihre eigenen internen Tests (Red Teaming) aufgedeckt worden seien. Das beweise, dass die Sicherheitsmechanismen der Industrie griffen. Wer die Entwicklung von Modellen pauschal einschränke, nehme IT-Sicherheitsforschern die Werkzeuge, um Abwehrsysteme gegen neuartige digitale Bedrohungen überhaupt entwickeln zu können.