Die Schauspielerin und Moderatorin Collien Fernandes hat in Spanien Strafanzeige wegen mutmaßlichen Online-Missbrauchs erstattet – gegen ihren Ex-Ehemann Christian Ulmen. Über Jahre hinweg seien Fake-Profile von ihr im Internet erstellt worden. In ihrem Namen seien Männer kontaktiert worden, mit denen gefälschte Stimmen auch Telefonsex hatten. Das berichten der Spiegel [externer Link, möglicherweise Bezahlinhalt] und Collien Fernandes selbst auf ihrem Instagram-Account.
Dabei geht es mutmaßlich um Fälle von Deepfake-Pornos und falschen Identitäten. Deutsche Behörden sind auf solche Fälle kaum vorbereitet. Wie groß ist das Problem und was können Betroffene in Deutschland tun?
Was ist digitale sexualisierte Gewalt?
Digitale sexualisierte Gewalt meint unerwünschte oder schädliche sexuelle Handlungen, die über digitale Technologien ermöglicht oder ausgeführt werden. Dabei werden häufig Identitäten missbraucht, Bilder manipuliert oder intime Inhalte ohne Einwilligung verbreitet.
Im Fall Collien Fernandes sollen jahrelang Social-Media-Profile erstellt worden sein, die ihren Namen trugen und ihr Gesicht zeigten. In Chats sollen pornografische Bilder und Videos von Frauen verschickt worden sein, die Fernandes täuschend ähnlich sehen. Sogar auf Pornoseiten gibt es zahlreiche Treffer, wenn Nutzer nach ihrem Namen suchen. Doch sie sind nicht echt, sondern KI-generiert.
Sexuelle Gewalt nimmt durch KI zu
Dass sich Menschen als jemand anderes im Netz ausgeben, ist kein neues Phänomen. Von Online-Marktplätzen bis Dating-Plattformen: Falsche Identitäten sind zu einer gängigen Betrugsmasche geworden.
Die KI-Revolution verleiht diesem Delikt eine neue Qualität: Jeder kann im Handumdrehen Bilder, Videos und Stimmen erzeugen, die auf den ersten Blick nicht von dem realen Vorbild zu unterscheiden sind. Dabei werden entweder Gesichter auf andere Körper von bestehenden pornografischen Material montiert oder die Inhalte werden völlig mit KI hergestellt.
Wie groß das Problem ist, ist kaum zu beziffern. Laut Schätzungen gab es im Jahr 2023 rund 100.000 KI-generierte Videos im Netz, von denen 96 Prozent pornografisch und überwiegend gegen Frauen gerichtet sind. Doch mit dem Aufkommen neuer Tools, die auch zunehmend einfacher zu bedienen und leichter zugänglich werden, könnte die Zahl mittlerweile höher liegen.
Im Video: Expertin zu KI-Bilder von Fernandes
Anna-Lena von Hodenberg von HateAid, einer Organisation, die sich gegen digitale Gewalt und für Menschenrechte im Netz einsetzt.
Besonders Frauen und Prominente im Fokus
Eine weitere Studie der Universität Maastricht kommt zu dem Schluss, dass besonders Prominente dabei zur Zielscheibe werden. Von ihnen gibt es viel Material, mit dem Täter eine KI füttern können. Ein bekanntes Beispiel sind die Deepfake-Videos der Sängerin Taylor Swift.
Bereits vor zwei Jahren kursierten KI-generierte sexuelle Inhalte des Weltstars auf der Plattform X. Innerhalb kürzester Zeit sollen sie bis zu 47 Millionen Mal aufgerufen worden sein, bis die Suche nach Taylor Swift von X gesperrt wurde.
Wie sind Betroffene geschützt?
Im deutschen Strafrecht ist nicht-einvernehmliche Deepfake-Pornografie bislang nicht ausdrücklich geregelt. Inwieweit bestehende Vorschriften greifen, ist umstritten. Eine Bundesratsinitiative aus Bayern plant mit § 201b StGB einen eigenen Straftatbestand, der Herstellung und Verbreitung mit bis zu fünf Jahren Freiheitsstrafe ahndet.
Digitales Gewaltschutzgesetz soll kommen
Bundesjustizministerin Stefanie Hubig (SPD) will jetzt die Strafbarkeitslücken bei Deepfake-Pornografie und anderer bildbasierter digitaler Gewalt schließen. Dafür wolle sie im Frühjahr ein digitales Gewaltschutzgesetz vorlegen, das Betroffenen besseren Schutz bietet, die Strafverfolgung erleichtert und härtere Maßnahmen gegen Täter ermöglicht – etwa durch klarere Straftatbestände und stärkere Eingriffsmöglichkeiten wie Accountsperren.
Zwar ist es Betroffenen möglich, zivilrechtlich gegen derartige Straftaten vorzugehen – doch laut Hubig müsse es einfacher werden, gegen Verletzungen ihrer Persönlichkeitsrechte im Netz vorzugehen.
Was können Betroffene sofort tun?
Mehrere Hilfsstellen raten Opfern von Deepfake-Pornografie, Anzeige zu erstatten. Außerdem kann man versuchen, die Inhalte entfernen zu lassen. Dafür gibt es auch ein speziell eingerichtetes Google-Formular. Zudem finden Betroffene Unterstützung bei Organisationen wie HateAid, Annanackt oder dem Weißen Ring.
Auf eine BR-Anfrage mit Bitte um Stellungnahme zu den Vorwürfen haben weder die Anwälte von Ulmen noch von Fernandes bis Freitagnachmittag reagiert. Ulmens Anwalt teilte anderen Medien mit, dass er die Berichterstattung des "Spiegel" aus mehreren Gründen für rechtswidrig halte und rechtliche Schritte dagegen einleite. Für Ulmen gilt die Unschuldsvermutung.
Im Video: Fall Collien Fernandes - Härtere Strafen bei digitaler Gewalt?
Die Schauspielerin Collien Fernandes
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!