Sind Social-Media-Plattformen so gebaut, dass sie Menschen schaden können – und müssen die Unternehmen dahinter dafür haften? Diese Woche hat eine Geschworenen-Jury in Los Angeles diese Frage erstmals mit Ja beantwortet.
Es geht um mehr als nur Geld
Das Urteil fiel im Fall einer heute 20-jährigen Klägerin gegen Meta wegen Instagram und gegen Google wegen YouTube. Die Jury sprach ihr insgesamt sechs Millionen Dollar zu – drei Millionen als Schadensersatz, drei Millionen als Strafzahlung. Meta soll 70 Prozent tragen, Google 30 Prozent.
Für Konzerne dieser Größe ist das überschaubar. Aber es geht hier um weit mehr. Denn dieser Prozess könnte nur der Anfang gewesen sein.
Die Geschworenen befanden, dass beide Unternehmen beim Design und Betrieb ihrer Dienste fahrlässig gehandelt haben. Die Klägerin habe deshalb Schaden davongetragen. Und die Plattformen hatten vor diesem Risiko nicht ausreichend gewarnt.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Nicht der Inhalt ist das Problem – sondern das Produkt
Genau hier liegt der Kern, der diesen Fall so besonders macht. Denn es ging hier nicht – wie in anderen Prozessen – um bestimmte Inhalte auf der Plattform. Es ging um die Plattform selbst: also um die Designentscheidungen, die Nutzer möglichst lange auf der Plattform halten sollen, und um Empfehlungsalgorithmen, die immer mehr vom Gleichen zeigen.
Der Los-Angeles-Prozess ist kein Einzelfall, sondern ein sogenannter Bellwether-Fall: ein Testverfahren, an dem sich Hunderte weitere Klagen orientieren. Insgesamt sind mehr als 2.400 Klagen in einem gebündelten Bundesverfahren in Kalifornien zusammengefasst. Weitere Prozesse sind bereits terminiert – ein Bundesprozess im Juni, ein weiterer kalifornischer Staatsprozess im Juli 2026.
Design ist kein Zufall – und kein Haftungsfreiraum mehr
Was dieses Urteil verändert, ist vor allem die Perspektive. Bisher drehte sich die Debatte um Social Media und Jugendschutz meistens um Inhalte: Was wird gepostet, was wird gelöscht, was bleibt stehen? Jetzt geht es um etwas anderes: Warum ist Instagram so gebaut, dass man nicht mehr aufhören kann, zu scrollen?
Auch in Europa wird diese Frage diskutiert. Die EU hat mit dem Digital Services Act bereits Regeln geschaffen, die in eine ähnliche Richtung zielen – etwa das Verbot manipulativer Oberflächengestaltung, besondere Schutzpflichten für Minderjährige und die Verpflichtung großer Plattformen, Risiken aus ihrem Design und ihren Algorithmen zu bewerten.
Die EU-Kommission hat Verfahren gegen Meta wegen des Minderjährigenschutzes auf Instagram und Facebook eröffnet und bei TikTok vorläufig festgestellt, dass süchtig machendes Design gegen den DSA verstoße.
Beide Unternehmen gehen in Berufung. Weitere Prozesse werden folgen. Die Frage, ob Instagram, YouTube und andere Plattformen durch ihr Design haften können, wird die Technologiebranche noch lange beschäftigen.
- Zum BR24-Podcast "Die Entscheidung": Facebook: Von Likes und Macht
BR24 auf TikTok: Wird Doomscrolling bald verboten?
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!