Google plant Ausbau digitaler Maßnahmen gegen bildbasierte Missbrauchsfälle
Alphabet's Google geht eine bedeutende Partnerschaft mit StopNCII ein, einem Werkzeug, das die Verbreitung nicht einvernehmlicher Bilder im Internet verhindern soll. Diese Zusammenarbeit wird von Interessenvertretern als bedeutender Fortschritt im langjährigen Engagement des Suchmaschinenriesen gegen bildbasierten Missbrauch gesehen. Die Technologie von StopNCII ermöglicht es Opfern, digitale Fingerabdrücke, sogenannte Hashes, von intimen Bildern zu erstellen. Diese Hashes werden mit Plattformen wie Facebook, Instagram, Reddit und OnlyFans geteilt, um sicherzustellen, dass Bilder nicht erneut hochgeladen werden, ohne dass jemand sie melden muss.
Die Partnerschaft wurde auf dem NCII-Gipfel in Googles Londoner Büro vorgestellt, wo StopNCII’s Betreiber, die Non-Profit-Organisation SWGfL, auch präsent war. David Wright, Geschäftsführer von SWGfL, hob die wichtige Wirkung hervor, die diese Maßnahme für Betroffene hat, deren Inhalte nicht mehr über die Suche auffindbar sind.
Aktuell wird Google jedoch nicht offiziell auf der Partnerliste von StopNCII erscheinen. Ein Google-Sprecher erklärte, dass die Technologie derzeit getestet werde und plane, die Hashes in den kommenden Monaten zu implementieren. Diese Einführung bedeute eine wesentliche Umstellung der Arbeitsprozesse und Infrastruktur des Unternehmens.
Kritik gibt es aufgrund von Googles langsamem Fortschritt bei der Adaptierung dieser Technologie. StopNCII startete bereits Ende 2021, basierend auf Erkennungstools von Meta. Facebook und Instagram waren unter den ersten Partnern, TikTok und Bumble folgten im Dezember 2022, während Microsoft das System bereits im September 2024 in seine Suchmaschine Bing integrierte. Wegen Bedenken zur Interoperabilität der Datenbank zögerte Google jedoch, wie das Unternehmen im April 2024 britischen Gesetzgebern erklärte.
Einige Vertreter meinen, Googles Schritte reichen nicht aus. Adam Dodge, Gründer der Interessenvertretung End Technology-Enabled Abuse, bezeichnet dies als ersten Schritt, sieht aber weiterhin die Verantwortung bei den Opfern, sich selbst zu melden. Dodge argumentiert, dass Google aufgrund seiner Ressourcen weitergehende Maßnahmen ergreifen sollte, um nicht einvernehmliche Bilder zu entfernen.
Google hat in seiner Ankündigung keine Stellung zu KI-generierten, nicht einvernehmlichen Bildern oder Deepfakes genommen. StopNCII basiert auf bekannten Bildern, sodass es keine vorsorgliche Blockierung von Deepfakes ermöglicht. „Wenn es sich um ein synthetisches oder gänzlich anderes Bild handelt, wird der Hash es nicht erfassen können“, erklärte Wright. 2023 fand Bloomberg heraus, dass Google Search die größte Quelle für Traffic zu Websites war, die Deepfakes oder sexuell explizite AI-generierte Inhalte hosten. Seitdem hat Google einige Maßnahmen ergriffen, um diesen Content in der Suche herunterzustufen und dessen Auffindbarkeit zu verringern.
