KI-Programme, mit denen die Nutzer sexualisierte Deepfakes herstellen können, sollen in der EU verboten werden. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte.
- Zum Artikel: Deepfake-Videos schneller erkennen und entlarven
KI-Programme erstellen sexualisierte Deepfakes von Opfern
Bei Deepfakes wird in ein Video - etwa eine Porno-Sequenz - das Gesicht einer anderen Person eingefügt oder die Stimme künstlich nachgeahmt. Dadurch können täuschend echte lnhalte generiert werden. Das Verbot zielt explizit auch auf das Erstellen von Inhalten ab, die sexuellen Kindesmissbrauch zeigen. Um das Erstellen künstlicher Bilder und Videos nicht zu stark einzuschränken, soll das Gesetz genau definieren, was "sexualisierte Inhalte" sind.
Aufs EU-Tableau war das Thema vor allem durch den KI-Chatbot Grok gerückt, dessen Nutzer millionenfach Nacktbilder und -videos erstellten. Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt zu haben.
Deutschlandweite Debatte seit dem Fall Fernandes
In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Bei diesen Vorwürfen geht es nicht um Deepfakes. Fernandes wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.
Seit Bekanntwerden der Vorwürfe gibt es bundesweit eine große Diskussion über digitale und sexualisierte Gewalt gegen Frauen - und breite Medienberichterstattung darüber. Tausende Menschen zogen für Demonstrationen auf die Straße und forderten mehr Schutz für Opfer. Im Zusammenhang mit dieser Debatte ging es auch immer wieder um sexualisierte Deepfakes und Deepfake-Pornografie. Material dieser Art kursiert schon seit Jahren im Netz.
Bundesjustizministerin Hubig will deutsches Strafrecht verschärfen
Mitte April hat Justizministerin Stefanie Hubig (SPD) einen Gesetzesentwurf mit entsprechende Verschärfungen im Strafrecht und mehr Rechte für Geschädigte vorgelegt. Hubigs Entwurf muss noch im Kabinett abgestimmt und dann ins Gesetzgebungsverfahren eingebracht werden. Vorbereitet wurden die Maßnahmen schon länger.
In der "Münchner Runde" im BR Fernsehen begrüßte zuletzt auch Bayerns Justizminister Georg Eisenreich die Debatte über eine Verschärfung des Strafrechts im Bereich “Deepfakes”. "Ich bin in froh über die Debatte, denn das Problem ist gravierend." Digitale Gewalt sei reale Gewalt und bestehende Gesetze dagegen reichten nicht aus.
Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
Mit Informationen von dpa.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!