Meta Platforms zieht gegen KI-Apps zu Felde: Ein Schlag gegen unfreiwillige Nacktbilder
Meta Platforms, das Unternehmen hinter Facebook und Instagram, hat rechtliche Schritte in Hongkong eingeleitet, um gegen ein dort ansässiges Unternehmen namens Joy Timeline vorzugehen. Dieses wird beschuldigt, sogenannte "nudify apps" zu bewerben, mit denen künstlich generierte nackte oder sexuell explizite Bilder von Personen ohne deren Zustimmung erstellt werden können. Meta gab an, dass diese Apps auf seinen Plattformen unter dem Namen CrushAI beworben wurden.
Diese rechtlichen Maßnahmen sind Teil eines größeren Vorstoßes, um nicht einvernehmliche sexuelle Bilder im Internet zu bekämpfen, die unter anderem für Erpressung und Missbrauch verwendet werden können. Meta plant, Informationen über Anzeigen, Konten und Inhalte, die zur Förderung solcher Apps entfernt wurden, auch mit anderen Technologieunternehmen zu teilen. Die Problematik, die sich hier auftut, sei laut Meta in den letzten Monaten stark angestiegen. Allein die Entfernung solcher Inhalte von einer Plattform sei laut Konzern nicht ausreichend.
Der Social-Media-Gigant steht weltweit unter Druck, mehr für den Schutz von Teenagern und Jugendlichen zu tun. So wird in Australien noch dieses Jahr ein bahnbrechendes Verbot sozialer Medien für unter 16-Jährige in Kraft treten, und auch andere Länder verschärfen ihren Regulierungsdruck. Dennoch investiert Meta weiterhin in die Forschung rund um künstliche Intelligenz, während es gleichzeitig gegen missbräuchlich verwendete, KI-generierte Inhalte vorgeht.
Werbende für "nudify apps" weichen zunehmend auf neue Methoden aus, um unter dem Radar zu bleiben. Einige verwenden harmlose Bilder, während andere schnell neue Domain-Namen erstellen, um gesperrte Websites zu ersetzen. Meta hat daher Technologien entwickelt, um solche Anzeigen zu erkennen, selbst wenn diese keine expliziten Inhalte enthalten.
Die Klage in Hongkong führt an, dass Joy Timeline wiederholt versucht habe, die Anzeigenprüfung von Meta zu umgehen, nachdem die Inhalte aufgrund von Regelverstößen entfernt worden waren.
