Als Eva Podgoršek, Projektleiterin bei AlgorithmWatch, von der Geschichte der Schauspielerin Collien Fernandes hörte, die ihrem Ex-Mann vorwirft, er habe Fake-Profile mit pornografischen Inhalten über sie erstellt, war ihr sofort klar, was passieren würde: "Jetzt kommen sicher wieder ganz viele Anfragen. Und so war es dann auch", sagt sie.
Suchmaschine findet "Nudify-Apps"
Denn AlgorithmWatch hat eine spezielle Suchmaschine entwickelt, die zum Beispiel Appstores nach sogenannten "Nudify-Apps" durchsucht – Apps, mit denen man Menschen virtuell ausziehen kann. Besonders häufig stößt die Suchmaschine auf sogenannte Clothes-Changer-Apps: Nutzerinnen und Nutzer können dort Fotos von Personen hochladen und deren Kleidung verändern. "Und schon steht sie im Bikini da", sagt Eva Podgoršek im BR-Podcast "Die Entscheidung" und zeigt auf eine der Apps, die die Suchmaschine gefunden hat, "weil es da offensichtlich auch eine Kleider-Entfernungsfunktion gibt".
Vom Bikini bis ganz nackt ist es oft nur noch ein Klick
Diese Apps sind Teil einer wachsenden Deepfake-Industrie. "Es handelt sich hier um Geschäftsmodelle", sagt Alexandra Geese. Sie sitzt als Digitalpolitikerin für die Grünen im Europaparlament. Die Täter posten die falschen Nacktbilder zum Beispiel in den Sozialen Netzwerken. Deren Algorithmen pushen die skandalösen Bilder. Jeder Klick bringt den Plattformen Reichweite und Werbeeinnahmen. Für die Betroffenen ist jeder Klick ein Alptraum. Er bedeutet Scham, Kontrollverlust und im schlimmsten Fall lebenslange Spuren im Netz.
Mit Gesetzen gegen Big Business
AlgorithmWatch will mit der Suchmaschine sichtbar machen, wie groß das Problem ist. Entdecken sie Apps, die klar das Ziel haben, sexualisierte Deepfakes zu erstellen, melden sie die Apps. Vor allem aber wollen sie durch ihre Arbeit ein Bewusstsein dafür schaffen, was aktuell im Netz passiert. Und Druck für strengere Regeln aufbauen.
Denn eigentlich hat die EU mit dem Digital Services Act (DSA) ein gutes Regelwerk, um gegen digitale Gewalt vorzugehen. Aber der Druck seitens der US-Regierung, die Gesetze nicht anzuwenden, ist hoch. Eine weitere Herausforderung im rechtlichen Umgang mit KI-Tools ist es, einerseits Opfer zu schützen, andererseits kreative und sinnvolle Möglichkeiten der KI nicht zu sehr einzuschränken.
Inzwischen haben sich die EU-Mitgliedsstaaten zum Beispiel darauf geeinigt, KI-Anwendungen zu verbieten, mit denen sexualisierte Deepfakes missbräuchlich erstellt werden können. Die Regelung soll voraussichtlich Ende des Jahres in Kraft treten.
Schärfere Gesetze in Deutschland
Auch in Deutschland plant Justizministerin Stefanie Hubig Gesetzesänderungen. Sie hat einen Gesetzentwurf vorgelegt, der schon das Erstellen von gefakten Sex-Videos unter Strafe stellt. Genauso wie das nicht einvernehmliche Verbreiten von echten Sex-Videos – sogenannten Revenge-Porn. Außerdem sollen Opfer digitaler Gewalt über das Zivilrecht leichter selbst gegen Urheber vorgehen und gerichtlich auch Account-Sperren erwirken können.
AlgorithmWatch fordert, dass alle haftbar gemacht werden sollen, die beim Erstellen und Verbreiten von Deepfakes mitwirken: die Ersteller der Bilder, die Apps und die Plattformen. Und noch etwas ist Eva Podgoršek wichtig: "Wir müssen überhaupt erst einmal ein Bewusstsein dafür schaffen, dass es sich um Straftaten handelt, wenn man solche Bilder ohne Einverständnis erstellt." Denn Nacktbilder per KI zu erzeugen, mag verführerisch einfach sein. Aber sobald die abgebildete Person nicht eingewilligt hat, ist es kein "Spaß mit KI", sondern digitale sexualisierte Gewalt – und sollte auch genauso behandelt werden.
Podcast "Die Entscheidung – Die Deepfake-Porno Hunter"
Mehr zur Frage, wer Deepfakes ermöglicht, wer davon profitiert und wer sich dagegen wehrt, gibt es in der aktuellen Staffel des Podcasts "Die Entscheidung": "Die Deepfake-Porno Hunter".
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht's zur Anmeldung!