Musk zieht die Reißleine: Neue Beschränkungen für KI-Bildverarbeitung bei xAI

Elon Musks KI-Vorstoß mit seiner Firma xAI steht derzeit unter starkem internationalen Beobachtungsdruck. Nachdem es durch den Chatbot Grok, der mit dem etablierten ChatGPT von OpenAI konkurriert, zu kontroversen Situationen gekommen war, hat xAI nun Maßnahmen ergriffen, um kritische Entwicklungen einzudämmen. Spezifisch geht es um die Einführung von "technologischen Maßnahmen", die sicherstellen sollen, dass Bilder realer Personen in leichter Bekleidung, wie etwa Bikinis, nicht mehr bearbeitet werden können. Diese Restriktionen gelten einheitlich für alle Nutzer, sowohl kostenfreie als auch zahlende Mitglieder, wie die Plattform X, die zu xAI gehört, mitteilte.

Des Weiteren wird in Regionen, in denen es illegal ist, durch sogenanntes Geoblocking verhindert, dass fragwürdige Darstellungen entstehen können. Besonders hervorgehoben wurde, dass nur zahlende Mitglieder künftig die Möglichkeit haben werden, Bilder auf X mit Hilfe von Grok zu generieren oder zu bearbeiten.

In den letzten Tagen hagelte es Kritik an Musk und xAI, da Berichte ins Licht der Öffentlichkeit rückten, nach denen Nutzer mithilfe von Grok Frauenbekleidung durch Bikinis ersetzen konnten. Nicht nur die Behörden in Kalifornien und Malaysia reagierten mit der Einleitung von Untersuchungen, auch die britische Ofcom äußerte sich positiv zu den Restriktionen, will aber weiter eruieren, wie diese Vorfälle geschehen konnten.

Einen besorgniserregenden Aspekt stellte die Beschuldigung dar, dass Grok auch zur sexualisierten Darstellung Minderjähriger genutzt worden sei. Musk selbst entgegnete via X, dass ihm keine Fälle bekannt seien, in denen Nacktbilder von Minderjährigen generiert worden seien, doch die Kritik bezog sich auf freizügige Darstellungen - zu diesem Punkt äußerte er sich nicht.

Parallel überrascht die EU-Kommission mit einer straffen Haltung. Noch vor der xAI-Ankündigung ließ sie verlauten, die neuen Maßnahmen genauer zu analysieren und, falls erforderlich, das volle Potenzial des Digitalgesetzes DSA auszuschöpfen. Die Kommission hatte bereits zuvor Druck auf Plattform X ausgeübt und eine beträchtliche Geldstrafe aufgrund von Transparenzmängeln verhängt.