Von 100 Kilo auf 52 Kilo Körpergewicht, und das nur in vier Monaten: Den vermeintlich riesigen Abnehmerfolg zeigt eine Frau in einem Instagram Reel – und es geht viral. Das Problem: Das Video ist KI-generiert, die Frau hat ihr Gewicht nicht innerhalb weniger Wochen mehr als halbiert. Aber Millionen Menschen haben es gesehen.
Derartige Vorher-Nachher-Reels werden gerade immer wieder in die Social Media Timelines gespült. Sie täuschen nicht nur ihr Publikum: Oft werden User in der Caption dazu aufgefordert, den gefälschten Accounts zu folgen, per Link in der Bio Abnehm-Pläne herunterzuladen, oder sogar Medikamente zu kaufen.
Fake-Reels schwer zu enttarnen
Was vor Monaten noch als offensichtliche Bildmanipulation zu erkennen war, ist mittlerweile nur schwer zu entlarven. Durch generative KI lassen sich Körperformen realistisch verändern, Gesichter austauschen oder Personen ganz neu erzeugen. Auf den ersten Blick wirken diese Vorher-Nachher-Bilder und Videos authentisch: Personen stehen am selben Ort, tragen dieselbe Kleidung, haben dieselbe Mimik – nur der Körper schrumpft scheinbar drastisch.
Ein Blick in die Kommentarspalte kann noch mehr Verwirrung stiften. Viele User gratulieren zum Erfolg, skeptische Nachfragen gehen in der Flut unter. Doch oft stammen auch die Kommentare von Fake-Accounts.
Schaut man sich das Reel dann genauer an, erkennt man: Die Wohnung im Hintergrund sieht - angeblich vier Monate später - haargenau gleich aus. Alle Gegenstände liegen an der selben Stelle, und auch die Lichtverhältnisse haben sich nicht verändert.
Gefährliches Geschäftsmodell
Hinter den Videos steckt häufig eine gefährliche Masche, bei der die Reels als eine Art Köder funktionieren: Wer dann auf die weiterführenden Links klickt, landet schnell bei kostenpflichtigen Diätprogrammen, unseriösen Webinaren oder Fatburner-Medikamenten auf dubiosen Plattformen, deren Wirksamkeit nicht belegt ist.
Experten warnen: Solche Angebote können nicht nur unnötig teuer sein, sie bergen auch gesundheitliche Risiken. Eine derart radikale Gewichtsabnahme in so kurzer Zeit kann gesundheitsschädlich sein und ist für die meisten Menschen schlicht unrealistisch.
Plattformen reagieren oft zu spät
Zwar verbieten Instagram, TikTok und andere Plattformen irreführende Werbung und manipulierte Inhalte – doch Reels wie dieses werden oft erst entfernt, wenn sie bereits millionenfach geklickt wurden. Außerdem bewegen sich viele dieser KI-Fakes in einer Grauzone: Dass sie etwas verkaufen wollen, ist häufig nicht direkt ersichtlich.
Warum gerade Diät-Inhalte gut laufen
Der Erfolg der Abnehm-Videos ist aber kein Zufall. In sozialen Netzwerken sind Themen rund um Diäten und Körperbilder emotional aufgeladen. Sie treffen auf Unsicherheiten und den gesellschaftlichen Druck nach einem Schönheitsideal. Die KI-Fakes können diesen Effekt verstärken: Sie dienen als angeblicher Beweis, dass ein solches Ideal schnell erreicht werden kann.
Wie man KI-Fakes erkennen kann
- Umgebung beobachten: Wie verändert sich der Hintergrund? Gibt es Schatten? Sieht die Person echt aus, oder wirkt sie "zu perfekt"?
- Skeptisch bleiben: Ist der gezeigte Inhalt wirklich realistisch? Kann man in so kurzer Zeit wirklich so viel Gewicht verlieren?
- Account prüfen: Was wird sonst auf diesem Account gepostet? Handelt es sich wirklich um eine echte Person?
- Kommentare lesen: Sind die Kommentare auffallend ähnlich? Stammen die Kommentare von echten Usern?
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!