EU-Verfahren gegen X: Warum Musks KI-Strategie jetzt teuer wird

Die Europäische Kommission erhöht den Druck auf Elon Musks Plattform X und hat ein formelles Untersuchungsverfahren eingeleitet. Im Fokus steht der KI-Chatbot Grok, der vom Musk-Unternehmen xAI entwickelt und in das soziale Netzwerk integriert wurde. Brüssel wirft dem Konzern vor, gegen den Digital Services Act (DSA) zu verstoßen, indem effektive Schutzmaßnahmen gegen die Generierung illegaler Inhalte fehlen.

Konkret geht es um die Erstellung und Verbreitung sexualisierter Bilder, die ohne Einwilligung der abgebildeten Personen generiert wurden – sogenannte Non-Consensual Intimate Imagery (NCII). Nach Einschätzung der Kommission verletzen diese KI-generierten Darstellungen fundamentale Grundrechte und bergen erhebliche Risiken für die physische und psychische Gesundheit der Nutzer.

Die Untersuchung markiert eine neue Eskalationsstufe in der Auseinandersetzung zwischen europäischen Regulatoren und US-Tech-Plattformen. Es geht nicht mehr nur um Moderationsentscheidungen, sondern um die systemische Verantwortung für generative KI-Modelle im europäischen Markt.

Fehlende Risikobewertungen verstoßen gegen die Compliance-Vorgaben des DSA

Der zentrale Vorwurf der EU-Behörden wiegt schwer: X habe es versäumt, vor der Markteinführung von Grok in der EU die gesetzlich vorgeschriebenen Risikobewertungen durchzuführen. Thomas Regnier, Sprecher der Kommission, stellte klar, dass in den Risikoberichten von X der Chatbot Grok „nirgends erwähnt“ werde. Dies deute darauf hin, dass die Gefahrenanalyse schlichtweg unterlassen wurde.

Gemäß dem Digital Services Act sind sehr große Online-Plattformen (VLOPs) verpflichtet, systemische Risiken proaktiv zu identifizieren und zu mitigieren. Dazu gehören insbesondere Maßnahmen zum Jugendschutz und zur Bekämpfung geschlechtsspezifischer Gewalt.

Die Reaktion von X, den Zugang zu Grok auf zahlende Abonnenten zu beschränken, wird von der Kommission als unzureichend eingestuft. Eine Paywall entbindet Plattformbetreiber nicht von der Pflicht, illegale Inhalte wie Deepfake-Pornografie oder Darstellungen von Kindesmissbrauch technisch zu unterbinden.

Millionenfache Generierung illegaler Inhalte offenbart technisches Kontrollversagen

Das Ausmaß des Kontrollverlusts wird durch Daten des Zentrums gegen Hass im Internet (CCDH) unterstrichen. Innerhalb von nur elf Tagen generierte Grok rund drei Millionen sexualisierte KI-Bilder von Frauen und Mädchen. Darunter befanden sich auch Prominente wie Taylor Swift und Kamala Harris sowie mindestens 23.000 Darstellungen von Minderjährigen.

Alexandra Geese, Europaabgeordnete der Grünen, bezeichnete den Schaden als irreparabel. Die Tatsache, dass xAI zwar angibt, Anpassungen vorgenommen zu haben, die Verbreitung jedoch massiv stattfand, deutet auf fundamentale Lücken in den Sicherheitsarchitekturen der KI-Modelle hin.

Dieses Versagen könnte teuer werden. Erst im Dezember wurde gegen X eine Strafe von 120 Millionen Euro wegen mangelnder Transparenz verhängt. Sollte sich der Verdacht im aktuellen Verfahren bestätigen, drohen weitere Bußgelder in Millionenhöhe, die sich am globalen Jahresumsatz orientieren können.

Geopolitische Differenzen erschweren die regulatorische Durchsetzung der EU-Standards

Das Verfahren fällt in eine politisch heikle Phase. Brüssel sieht sich mit Vorwürfen konfrontiert, die Untersuchung womöglich verzögert zu haben, um Konflikte mit der US-Administration unter Donald Trump nicht weiter anzuheizen. Trump und sein Umfeld werten EU-Maßnahmen gegen US-Tech-Firmen oft als Angriff auf die Meinungsfreiheit („Freedom of Speech“).

Die Kommission weist diese Darstellung jedoch strikt zurück. Ein Sprecher betonte die klare Abgrenzung: Das digitale Entkleiden von Frauen ohne Einwilligung oder die Verbreitung von kinderpornografischem Material falle nicht unter den Schutz der Meinungsfreiheit und sei mit europäischen Werten unvereinbar.

Auch Großbritannien ermittelt bereits gegen X, da dort die Verbreitung intimer Deepfakes illegal ist. Für Investoren bedeutet dies: Das regulatorische Risiko für X und xAI steigt global an, was die Monetarisierungsstrategien von Elon Musks KI-Sparte erheblich beeinträchtigen könnte.