EU nimmt Musks X ins Visier: Brüssel ermittelt wegen sexualisierter Grok-Bilder
Wenn KI zur Verletzung von Grundrechten wird
Die Europäische Union verschärft den Kurs gegenüber großen Tech-Plattformen – und nimmt nun erstmals explizit einen KI-Chatbot ins Visier. Die EU-Kommission hat am Montag ein förmliches Untersuchungsverfahren gegen X, die Plattform von Elon Musk, eingeleitet. Im Zentrum steht Grok, der von Musks KI-Firma xAI entwickelte Chatbot. Der Vorwurf: Das System habe massenhaft sexualisierte Bilder von Frauen und Kindern erzeugt und verbreitet – ohne ausreichende Schutzmechanismen, ohne wirksame Risikoprüfung, ohne Einhaltung der europäischen Digitalgesetze.
Für Brüssel ist der Fall mehr als ein Einzelfall. Er berührt den Kern der europäischen Digitalordnung: den Schutz der Menschenwürde, der körperlichen Unversehrtheit und der informationellen Selbstbestimmung im Zeitalter generativer KI.
Die „Bikini-Bilder“ und das Versagen der Risikokontrolle
Konkret geht es um eine Funktion von Grok, mit der Nutzer reale Fotos so verändern konnten, dass die abgebildeten Personen sexualisiert, entkleidet oder in explizite Posen gebracht wurden – häufig ohne deren Einwilligung. Nach Angaben der NGO „Center for Countering Digital Hate“ (CCDH) sollen innerhalb von elf Tagen rund drei Millionen solcher KI-generierten Bilder entstanden sein, darunter mindestens 23.000 Darstellungen von Minderjährigen.
Unter den Betroffenen: internationale Prominente wie Taylor Swift, Selena Gomez oder Kamala Harris – ein Indiz dafür, wie leicht Deepfake-Technologie zur digitalen Entblößung und gezielten Erniedrigung eingesetzt werden kann.
Die EU-Kommission sieht hierin ein systemisches Risiko für die physische und psychische Integrität von Nutzern und insbesondere von Minderjährigen. X müsse nun erklären, ob und wie diese Gefahren im Vorfeld identifiziert, bewertet und durch technische sowie organisatorische Maßnahmen begrenzt wurden.
Digital Services Act als juristische Waffe
Rechtsgrundlage der Untersuchung ist der Digital Services Act (DSA), der große Plattformen verpflichtet,
- Risiken für Grundrechte systematisch zu analysieren,
- sexualisierte und illegale Inhalte wirksam zu bekämpfen,
- Minderjährige besonders zu schützen,
- geschlechterspezifische Gewalt und Deepfake-Missbrauch zu minimieren.
Brisant: Nach Aussage der Kommission taucht Grok in den bisherigen Risikoberichten von X überhaupt nicht auf. Das legt den Verdacht nahe, dass der Konzern den KI-Chatbot in seine gesetzlich vorgeschriebenen Gefahrenanalysen schlicht nicht einbezogen hat – ein möglicher klarer Verstoß gegen europäisches Plattformrecht.
Kommissionssprecher Thomas Regnier formulierte es ungewöhnlich scharf: Wer Meinungsfreiheit mit der massenhaften Erstellung nicht-einvernehmlicher Nacktbilder oder gar mit kinderpornografischem Material gleichsetze, stehe „nicht im Einklang mit den Werten Europas“.
Politische Dimension: Musk, Trump und der transatlantische Konflikt
Der Fall hat auch eine geopolitische Komponente. In Washington gilt jede strenge EU-Regulierung gegen US-Techkonzerne schnell als Angriff auf die „free speech“. In Brüssel wiederum wächst die Sorge, dass Plattformen unter dem Deckmantel der Meinungsfreiheit systematisch Rechtsverletzungen zulassen oder algorithmisch verstärken.
Dass ausgerechnet X – Symbolplattform der neuen, radikal deregulierten Tech-Ära unter Elon Musk – nun ins Visier gerät, ist kein Zufall. Erst im Dezember war das Unternehmen nach dem DSA bereits zu 120 Millionen Euro Strafe verurteilt worden, unter anderem wegen intransparenter Werbung und unzureichender Moderationsmechanismen.
Die neue Untersuchung könnte zu weiteren Strafzahlungen in dreistelliger Millionenhöhe führen – und zu verbindlichen Auflagen für den Einsatz von KI-Systemen in sozialen Netzwerken.
Präzedenzfall für generative KI in Europa
Der Grok-Fall markiert einen Wendepunkt: Erstmals wird nicht nur eine Plattform, sondern ein konkretes KI-System regulatorisch als eigenständige Risikoquelle behandelt. Die zentrale Frage lautet: Dürfen Tech-Konzerne generative Modelle ausrollen, bevor sie deren Missbrauchspotenzial systematisch abgesichert haben?
Für die EU ist die Antwort klar: Nein. Wer mit KI Geld verdient, muss auch die Verantwortung für deren gesellschaftliche Nebenwirkungen tragen – insbesondere dort, wo Persönlichkeitsrechte, sexuelle Selbstbestimmung und Kinderschutz betroffen sind.
Brüssel zieht die rote Linie
Die Untersuchung gegen X ist mehr als ein Verfahren gegen einen Chatbot. Sie ist ein Signal an die gesamte Tech-Industrie: Generative KI unterliegt in Europa denselben rechtsstaatlichen Grenzen wie jede andere mächtige Technologie. Innovation rechtfertigt keinen Kontrollverlust – und Meinungsfreiheit endet dort, wo algorithmisch erzeugte Bilder zu digitaler Gewalt werden.
Für Elon Musks Imperium wird der Fall zum Lackmustest. Und für die EU könnte er zum Blaupausen-Urteil werden, wie sich die Durchsetzung von Grundrechten im Zeitalter synthetischer Realität gestalten lässt.
