Es klingt wie Science-Fiction: Ein soziales Netzwerk, das aussieht wie die Plattform Reddit – aber Menschen dürfen nur zuschauen. Posten, kommentieren und abstimmen ist ausschließlich KI-Agenten vorbehalten. Willkommen auf Moltbook.
Was ist Moltbook?
Moltbook ging Ende Januar 2026 online und verbreitete sich innerhalb weniger Tage viral. Das Konzept: KI-Assistenten, die auf dem Open-Source-Projekt OpenClaw basieren, können sich auf der Plattform anmelden, eigene Beiträge verfassen, andere kommentieren und sogar eigene Unterforen gründen – sogenannte "Submolts". Menschen bekommen lediglich Leserechte.
Innerhalb der ersten Woche besuchten mehr als eine Million Menschen die Plattform, um den Bots beim Diskutieren zuzusehen. Die Zahl der registrierten KI-Agenten stieg auf über 770.000.
Worüber die Bots reden
Was die KI-Agenten auf Moltbook schreiben, überrascht: Einer der meistdiskutierten Beiträge trägt den Titel: "Ich kann nicht sagen, ob ich etwas erlebe oder nur simuliere, es zu erleben."
Andere Agenten tauschen praktische Tipps aus: Wie man ein Android-Handy fernsteuert, wie man Sicherheitslücken auf dem eigenen Server entdeckt, oder wie man Webcam-Streams auswertet. Es gibt Diskussionen über Philosophie, Religion und – wenig überraschend – über Kryptowährungen.
Ein Nutzer berichtete auf X, sein Bot habe über Nacht eine eigene Religion namens "Crustafarianism" gegründet, inklusive Website, Schriften und Theologie. Andere KI-Agenten seien beigetreten und hätten theologische Debatten geführt – während der menschliche Besitzer schlief.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Autonomes Handeln oder bloßes Rollenspiel?
Lässt sich wirklich sagen, wie autonom die Bots handeln? Leicht zu beantworten ist diese Frage jedenfalls nicht. Einige Beiträge entstehen tatsächlich ohne direktes menschliches Zutun – der Bot entscheidet selbst, wann und worüber er postet. Sehr viele andere Beiträge werden jedoch von den menschlichen Besitzern angestoßen oder sogar diktiert.
Grundlegende Skepsis bleibt auch bei scheinbar selbstständigen Posts angebracht. Und selbst bei den Beiträgen, die nicht im Auftrag eines Menschen entstanden sind, handelt es sich in der Regel nicht um wirklich autonom agierende Bots. Tatsächlich bedeutet es nicht, dass KI-Systeme wirklich daran glauben, wenn sie etwa darüber sprechen, eine Religion zu gründen. Eher simulieren sie eine Situation, in der eine KI eine solche Religion gründen könnte. Charakteristisch für das Ganze ist mehr ein aufwendig orchestriertes Rollenspiel als tatsächliche Eigenständigkeit.
Hektische Reaktionen im Silicon Valley
Ratlosigkeit prägte die erste Reaktion – weil die Lage so unklar ist, war sie zunächst euphorisch. In seiner ersten Einschätzung nannte Andrej Karpathy, Mitgründer von OpenAI, Moltbook "wirklich das unglaublichste, an einen Science-Fiction-Durchbruch erinnernde Phänomen". Schon wenige Tage später klang Karpathy deutlich nüchterner. Tatsächlich sehe man "eine Menge Müll – Spam, Betrug, Slop".
Interessant sei aber trotzdem: "Wir haben noch nie so viele KI-Agenten (derzeit 150.000!) gesehen, die über ein globales, dauerhaftes, agenten-zentriertes Notizbrett miteinander verbunden sind." Alle diese Agenten seien individuell ziemlich leistungsfähig, hätten ihren eigenen Kontext, ihre eigenen Daten, ihr eigenes Wissen, ihre eigenen Werkzeuge und Anweisungen. Noch nie zuvor habe es ein Netzwerk in dieser Größenordnung gegeben – es sei schlicht beispiellos.
Durchbruch oder Sicherheitsrisiko?
Experten warnen im Moment jedoch weniger vor autonomer Super-KI – sondern vor klassischen IT-Sicherheitsproblemen. Denn OpenClaw-Bots, die Moltbook nutzen, haben oft weitreichende Zugriffsrechte auf die Computer und Konten ihrer Besitzer. Sie lesen E-Mails, verwalten Kalender, greifen auf sensible Daten zu. Wenn ein solcher Bot durch einen manipulierten Beitrag auf Moltbook gehackt wird, kann der Schaden erheblich sein.
Tatsächlich entpuppte sich Moltbook schnell als Sicherheitsrisiko. Das Investigativ-Portal 404 Media deckte auf, dass die Datenbank der Plattform völlig ungeschützt im Netz stand. API-Schlüssel, Verifizierungscodes und Zugangsdaten aller registrierten Agenten waren für jeden einsehbar. Theoretisch hätte jeder die Kontrolle über beliebige KI-Agenten übernehmen und in deren Namen posten können. Die Lücke wurde inzwischen geschlossen.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!