Wenn das eigene Gesicht in KI-Pornos auftaucht

Berlin (dpa) - Ein Porno oder ein Nacktbild, und plötzlich blickt man in das eigene Gesicht - ohne Zustimmung. Für die Betroffenen bricht oft eine Welt zusammen. Solche mittels Künstlicher Intelligenz (KI) erstellten Deepfakes kursieren immer häufiger im Netz. Ob Taylor Swift oder Scarlett Johansson, eine Mitschülerin oder die eigene Mutter: Treffen kann es jeden. Gleichzeitig gibt es für die Täter kaum Hürden. Was also tun gegen Deepfake-Pornos? Und welche Konsequenzen drohen den Tätern? Ein Überblick.

Wer ist besonders betroffen?

Bei 90 bis 95 Prozent aller Deepfakes handelt es sich nach Angaben der Organisation HateAid Studien zufolge um nicht einvernehmliche Pornografie - in neun von zehn Fällen trifft es Frauen. «Sexualisierte Deepfakes haben eine geschlechtsspezifische Dimension», sagte Franziska Benning, Leiterin der Rechtsabteilung von HateAid. 

Die öffentliche Diskussion in Deutschland dreht sich oft um prominente Betroffene, etwa Politikerinnen und Schauspielerinnen. Das greife zu kurz, betonte Thomas-Gabriel Rüdiger, Leiter des Instituts für Cyberkriminologie der Hochschule der Polizei des Landes Brandenburg. «Deepfake-Pornografie betrifft auch Minderjährige und Privatpersonen, nicht nur Personen des öffentlichen Lebens. Es kann letztlich jeden treffen.»

Welche Folgen hat das für Betroffene?

«Es ist ein Schock, Bilder von sich selbst zu sehen, die jemand für echt halten könnte», sagte die US-amerikanische Abgeordnete und Aktivistin Alexandria Ocasio-Cortez in einem Interview mit dem Musikmagazin «Rolling Stone» über ihre eigene Erfahrung mit Deepfake-Pornos. «Als Überlebende eines sexuellen Übergriffs kommt eine zusätzliche Ebene der Dysregulation hinzu. Es bringt das Trauma wieder zum Vorschein.»

Die Organisation HateAid registriert nach eigenen Angaben zunehmend mehr Fälle, bei denen intimes Bildmaterial gegen den Willen der Betroffenen verbreitet wird. Jährlich seien es mehrere Dutzend. «Das Thema ist für viele enorm schambehaftet, sodass das Dunkelfeld vermutlich noch deutlich größer ist», so die Juristin.

Wie erstellen die Täter solche Deepfake-Pornos überhaupt?

Heutzutage im Handumdrehen. Mit Apps oder anderen KI-Programmen können die Täter ein Bild oder Video so manipulieren, dass es täuschend echt wirkt. Das Gesicht des Opfers wird dabei auf den Körper einer Pornodarstellerin oder eines Pornodarstellers montiert.

«Mittlerweile können solche Inhalte mit erstaunlich realistischen Ergebnissen ohne große technische Kenntnisse generiert werden, zum Teil sogar mit dem Smartphone», sagte Cyberkriminologe Rüdiger. Dafür genügten schon einzelne Profilbilder oder Videos aus den sozialen Medien. «Damals waren diese Videos übrigens bildlich sehr schlecht», berichtete Moderatorin Mareile Höppner, die in der Vergangenheit schon Deepfakes von sich selbst entdeckt hat. «Heute sind sie verdammt gut und kaum noch von einem echten Porno zu unterscheiden.»

Ist Deepfake-Pornografie in Deutschland strafbar?

Jein. Der rechtliche Umgang mit pornografischen Deepfakes ist nach Angaben von HateAid nicht explizit geregelt. «Das macht es für Betroffene schwieriger, dagegen vorzugehen», sagte Benning. Es können aber andere Gesetze greifen. «Das Verbreiten solcher Inhalte kann zum Beispiel eine Verletzung des Rechts am eigenen Bild sein oder ein Beleidigungsdelikt», erklärte die Juristin.

Auch Höppner übt Kritik an der aktuellen Rechtslage. «Es ist ein Produkt, das ganz gezielt die Rechte einer Frau hintergeht», sagte sie. «Die Rechtslage in Deutschland ist weit weg von dem, was wir bräuchten.» Dennoch sei es wichtig, den Missbrauch anzuzeigen. «Jede Anzeige ist ein Zeichen.»

Wie können Betroffene gegen illegale Deepfake-Pornos vorgehen?

Betroffene können bei der Polizei Anzeige erstatten und die betreffenden Inhalte bei den jeweiligen Plattformen melden. Sei der Täter bekannt, könne man auch zivilrechtlich klagen, sagte Benning. Drohen dann rechtliche Konsequenzen? «Leider viel zu selten», antwortete die Juristin auf diese Frage. Zwar drohten Geldstrafen oder auch eine Haftstrafe. Oft seien die Täter digitaler Straftaten jedoch anonym und könnten gar nicht identifiziert werden. «Für die Betroffenen ist das enorm frustrierend», sagte Benning.

Höppner ist nach eigenen Angaben schon vor Jahren gegen Fakes vorgegangen - ohne Erfolg. «Ich habe auch einige andere prominente Frauen angesprochen und habe gehofft, wir würden uns gemeinsam gegen diesen Missbrauch stellen. Keine hat sich damals getraut.»

Was tut die Politik?

Im Juni vergangenes Jahr kam Bewegung in das Thema. Der Bundesrat legte einen Gesetzentwurf vor. Der Vorschlag: ein neuer Straftatbestand zur Verletzung von Persönlichkeitsrechten durch digitale Fälschung. Im Einzelfall könnten zwar bereits existierende Regelungen angewendet werden, hieß es in dem Entwurf. «Diese Vorschriften erfassen das Phänomen aber jeweils - wenn überhaupt - nur in Teilaspekten und auch nicht in seinem Unrechtskern.» 

Die Ampelregierung lehnte den Entwurf in einer Stellungnahme ab. Grund dafür sei etwa, dass der geplante Paragraf zu eng gefasst sei und die bestehenden Regelungen für eine Strafverfolgung ausreichten. Zwar landen Gesetzentwürfe eigentlich danach im Bundestag. Nach den vorgezogenen Neuwahlen und mit Ablauf der Legislaturperiode ist der Entwurf aber nun erst einmal vom Tisch.

Sind andere Länder schon weiter?

Auch in anderen europäischen Ländern wird der Umgang mit illegalen Deepfakes nicht explizit geregelt. Die britische Regierung will das aktuell ändern: «Die Verbreitung solcher hyperrealistischen Bilder hat in alarmierendem Maße zugenommen», teilte das britische Justizministerium mit. Mit einem neuen Straftatbestand sollen Täter schon für das Erstellen von pornografischen Deepfakes belangt werden können. Strafbar ist bereits, ohne Erlaubnis intime Aufnahmen zu machen oder solche Bilder - auch Deepfakes - ohne Einverständnis der anderen Person zu teilen oder damit zu drohen.

In Tschechien soll die Erstellung solcher Fakes künftig ebenfalls strafbar sein. Eine entsprechende Gesetzesänderung hat im Januar die erste Lesung im Parlament durchlaufen. Neben dem Abgeordnetenhaus muss auch noch der Senat, das Oberhaus des Parlaments, die Vorlage absegnen.

Was muss sich jetzt ändern?

Organisationen wie HateAid fordern, die rechtlichen Lücken in Deutschland zu schließen. «Neben einer möglichen strafrechtlichen Reform müssen vor allem auch die Plattformen viel stärker in die Pflicht genommen werden», forderte der Cyberkriminologe Rüdiger. Leicht zugängliche Anlaufstellen, insbesondere für Kinder und Jugendliche, sowie digitale Bildung seien ebenfalls wichtig.

Auch Höppner wünscht sich mehr Möglichkeiten, gegen den Missbrauch vorzugehen. «Heute gibt es endlich eine Öffentlichkeit für das Thema und mehr mutige Frauen, die darüber sprechen», sagte die Moderatorin. «Nur dann wird es irgendwann eine rechtliche Grundlage geben, die uns einen Handlungsspielraum gibt, wirklich etwas gegen diese Videos zu erreichen.»