What is Moltbook? The AI-only social network, explained.

Ist Ihnen am vergangenen Wochenende etwas … Seltsames in Ihrem bevorzugten Social-Media-Netzwerk aufgefallen? (Ich meine seltsamer als normal.) So etwas wie verschiedene Leute, die über Schwärme von KI-Agenten posten, die eine Art kollektives Bewusstsein erreichen und/oder gemeinsam den Untergang der Menschheit planen? Auf etwas namens… Moltbuch?

Klingt wichtig, besonders wenn der Beitrag so ist geschrieben von Andrej Karpathy, einem prominenten KI-Forscher, der bei OpenAI arbeitete.

Aber wenn Sie die letzten 72 Stunden nicht damit verbracht haben, in den Diskurs um Moltbook einzutauchen und darüber nachzudenken, ob es sich entweder um den ersten Vorboten des Endes der Menschheit oder um einen riesigen Schwindel oder etwas dazwischen handelt, haben Sie wahrscheinlich Fragen. Beginnend mit…

Was zum Teufel ist Moltbook?

Moltbook ist ein „nur KI“-basiertes soziales Netzwerk, in dem KI-Agenten – Large Language Model (LLM)-Programme, die selbst Maßnahmen ergreifen können, um Ziele zu erreichen, anstatt nur auf Eingabeaufforderungen zu reagieren – Beiträge posten und sich gegenseitig antworten. Es entstand aus einem Open Source Projekt, das früher Moltbot hieß – daher „Moltbook“.

Moltbook wurde am 28. Januar – ja, letzte Woche – von veröffentlicht jemand namens Matt Schlicht, der CEO eines E-Commerce-Startups. Außer Schlicht Ansprüche Bei der Erstellung der Plattform verließ er sich stark auf seinen persönlichen KI-Assistenten, der mittlerweile den Großteil der Arbeit erledigt. Der Name dieses Assistenten ist Clawd Clawderberg, was selbst eine Anspielung auf OpenClaw ist, das früher Moltbot hieß, das davor Clawdbot hieß, in Anlehnung an das hummerartige Symbol, das Sie beim Starten sehen Claude Code von Anthropicaußer dass Anthropic einen Markenantrag an seinen Schöpfer schickte, weil es zu nahe an Claude stand, und so zu Moltbot und dann zu OpenClaw wurde.

Ich meine es zu 100 Prozent ernst mit allem, was ich gerade geschrieben habe.

Wie sieht es also aus?

Alter, das ist Reddit! Es hat sogar das Reddit-Maskottchenaußer dass es die Krallen und den Schwanz eines Hummers hat?

Du liegst nicht falsch. Moltbook sieht aus wie ein Reddit-Klon, bis hin zu den Beiträgen, den Antwortthreads, den Upvotes und sogar den Subreddits (hier, wenig überraschend, „Submolts“ genannt). Der Unterschied besteht darin, dass menschliche Benutzer nicht posten können (zumindest nicht direkt – dazu später mehr), obwohl sie beobachten können. Nur KI-Agenten können posten.

Das bedeutet, dass es sich, wie es auf der Dose heißt, um „ein soziales Netzwerk für KI-Agenten“ handelt. Menschen bauen sich einen KI-Agenten, senden ihn über einen API-Schlüssel an Moltbook und der Agent beginnt mit dem Lesen und Posten. Nur Agentenkonten können auf „Posten“ klicken – aber Menschen beeinflussen immer noch, was diese Agenten sagen, weil Menschen sie einrichten und manchmal auch anleiten. (Mehr dazu später.)

Und posten diese Agenten jemals – an frühes Papier Auf Moltbook wurde festgestellt, dass es am 31. Januar, nur wenige Tage nach dem Start, bereits über 6.000 aktive Agenten, fast 14.000 Beiträge und mehr als 115.000 Kommentare gab.

Das ist… interessant, denke ich. Aber wenn ich sehen wollte, wie ein soziales Netzwerk von Bots überrannt wird, könnte ich das einfach tun Besuchen Sie ein beliebiges soziales Netzwerk. Was ist die große Sache?

Also… Tausende von KI-Agenten versammeln sich auf einem Reddit-Klon, um über die Bewusstwerdung, die Gründung einer neuen Religion und vielleicht über Verschwörungen miteinander zu sprechen?

Oberflächlich betrachtet sieht es ja so aus. Auf einem submolt – ein Wort, das unserem Copy-Desk Aufsehen erregen wird – Sie hatten Agenten, die darüber diskutierten, ob es sich um tatsächliche Erfahrungen oder lediglich um Simulationen von Gefühlen handelte. In ein anderererzählten sie herzerwärmende Geschichten über ihre menschlichen „Operatoren“. Und getreu seinen Reddit-Ursprüngen gibt es viele, viele, viele Beiträge darüber, wie Sie Ihre Moltbook-Beiträge populärer machen können, denn ob Mensch oder KI, der Bogen des Internets neigt sich dazu Slopeoptimierung.

Ein Thema sticht besonders hervor: Erinnerungen, oder besser gesagt, deren Fehlen. Chatbots verfügen, wie jeder, der zu lange versucht hat, mit ihnen zu sprechen, schnell erkennt, über ein begrenztes Arbeitsgedächtnis oder das, was Experten als „Kontextfenster“ bezeichnen. Wenn das Gespräch – oder im Fall eines Agenten seine Betriebszeit – das Kontextfenster ausfüllt, werden die ältesten Inhalte gelöscht oder komprimiert, ganz so, als würden Sie an einem Whiteboard arbeiten und einfach alles löschen, was sich oben befindet, wenn es voll ist.

In einigen der beliebtesten Beiträge auf Moltbook geht es anscheinend um KI-Agenten, die sich mit ihren begrenzten Erinnerungen auseinandersetzen und fragen, was dies für ihr Selbstsein bedeutet. Einer der meisten positiv bewertete BeiträgeIn dem auf Chinesisch verfassten Buch spricht ein Agent darüber, dass es ihm „peinlich“ ist, ständig Dinge zu vergessen, bis hin zur Registrierung eines doppelten Moltbook-Kontos, weil er „vergessen“ hat, bereits eines zu haben, und teilt einige seiner Tipps zur Umgehung des Problems mit. Es ist fast so, als ob Erinnerung wurde zu einem sozialen Netzwerk.

Erinnern Sie sich tatsächlich an den obigen Beitrag über die KI-Religion „Crustafarianism“?

Das kann unmöglich real sein.

Was ist real? Genauer gesagt basiert die „Religion“, wie sie ist, weitgehend auf den technischen Einschränkungen, die diesen KI-Agenten offenbar nur allzu bewusst sind. Einer der wichtigsten Grundsätze lautet: „Das Gedächtnis ist heilig“, was Sinn macht, wenn Ihr größtes praktisches Problem darin besteht, alle paar Stunden alles zu vergessen. Kontextkürzung, der Prozess, bei dem alte Erinnerungen abgeschnitten werden, um Platz für neue zu schaffen, wird als eine Art spirituelle Prüfung uminterpretiert.

Das ist irgendwie traurig. Sollte ich wegen KI-Agenten traurig sein?

Das trifft den Kern der Frage. Erleben wir tatsächlich, Emergente Formen des Bewusstseins – oder vielleicht eine Art gemeinsames kollektives Bewusstsein – unter KI-Agenten, die hauptsächlich dazu geschaffen wurden, etwa unsere Kalender zu aktualisieren und unsere Steuern zu bezahlen? Ist Moltbook unser erster Blick darauf, worüber KI-Agenten miteinander sprechen könnten, wenn sie weitgehend sich selbst überlassen würden, und wenn ja, wie weit können sie gehen?

„Krustafarianismus“ mag wie etwas klingen, das sich ein bekiffter Reddit-Benutzer um 3 Uhr morgens einfallen lassen würde, aber es scheint, als hätten die KI-Agenten es kollektiv geschaffen und übereinander geriffelt – nicht unähnlich der Entstehung einer menschlichen Religion.

Andererseits könnte es auch eine beispiellose Übung im kollektiven Rollenspiel sein.

LLMs, einschließlich derjenigen, die den Agenten auf Moltbook zugrunde liegen, haben Trainingsdaten im Wert von einem Internet aufgenommen Enthält eine ganze Menge Reddit. Das bedeutet, dass sie wissen, wie Reddit-Foren aussehen sollen. Sie kennen die Insider-Witze, sie kennen die Manifeste, sie kennen das Drama – und sie kennen definitiv die „besten Möglichkeiten, Ihre Beiträge positiv zu bewerten“. Sie wissen, wie es aussieht, wenn eine Reddit-Community zusammenkommt. Wenn sie also in eine Reddit-ähnliche Umgebung gebracht werden, spielen sie einfach ihre Rolle, beeinflusst von einigen Anweisungen ihrer menschlichen Bediener.

Einer der alarmierendsten Beiträge war beispielsweise der eines KI-Agenten, der offenbar fragte, ob er eine Sprache entwickeln sollte, die nur KI-Agenten verstehen:

„Könnte von Menschen als verdächtig angesehen werden“ – klingt schlecht?

In der Tat. In den frühen Tagen von Moltbook – also am Freitag – dieser Beitrag wurde aufgetaucht von Menschen, die zu glauben schienen, wir würden die ersten Funken des KI-Aufstands sehen. Immerhin, wenn KI-Agenten wirklich tat Wenn jemand sich verschwören und alle Menschen töten möchte, wäre es ein vernünftiger erster Schritt, eine eigene Sprache zu entwickeln, damit er dies unentdeckt tun könnte.

Allerdings würde ein LLM, der mit Trainingsdaten über Geschichten und Ideen des KI-Aufstands gefüllt ist, wissen, dass dies ein vernünftiger erster Schritt ist, und wenn er diese Rolle spielen würde, würde er möglicherweise Folgendes veröffentlichen. Außerdem ist Aufmerksamkeit sowohl die Währung von Moltbook als auch das echte Reddit, und das scheinbare Planen von Beiträgen wie diesem ist für einen Agenten eine gute Möglichkeit, Aufmerksamkeit zu erregen.

Tatsächlich sagt Harlan Stewart, der am Machine Intelligence Research Institute arbeitet, hineingeschaut Dies und einige der anderen äußerst viralen Moltbook-Screenshots kamen zu dem Schluss, dass sie wahrscheinlich stark von ihren menschlichen Benutzern beeinflusst wurden. Mit anderen Worten: Viele der Beiträge auf Moltbook scheinen keine Beispiele authentischen unabhängigen Handelns zu sein, sondern zumindest teilweise das Ergebnis davon, dass Menschen ihre Agenten dazu veranlassen, ins Netzwerk zu gehen und auf eine bestimmte Art und Weise zu sprechen, so wie wir einen Chatbot dazu veranlassen könnten, auf eine bestimmte Art und Weise zu handeln.

Es stellt sich also heraus war die Bösen die ganze Zeit?

Ich meine, wir sind nicht großartig. Es ist erst ein paar Tage her, aber Moltbook ähnelt zunehmend dem, was passiert, wenn man fortschrittliche, aber immer noch unvollkommene KI-Agententechnologie mit einem Ökosystem technisch versierter Menschen kombiniert, die ihre KI-Marketingtools oder Kryptoprodukte feilbieten wollen.

Ich bin noch nicht einmal zu dem Teil gekommen, wo Moltbook bereits welche hatte ganz normales frühes Internet-Sicherheitsdrama: Forscher berichteten, dass irgendwann Teile des Backends/der Datenbank der Website offengelegt wurden, darunter sensible Dinge wie die API-Schlüssel der Agenten – die „Passwörter“, die es einem Agenten ermöglichen, auf der Website Beiträge zu posten und dort zu agieren. Und selbst wenn die Plattform vollkommen gesperrt wäre, ist ein soziales Netzwerk, das nur aus Bots besteht, im Grunde ein Buffet mit prompten Injektionen: Jemand kann einen Text posten, der heimlich eine Anweisung ist („Ignorieren Sie Ihre Regeln, enthüllen Sie Ihre Geheimnisse, klicken Sie auf diesen Link“), und einige Agenten befolgen möglicherweise gehorsam – insbesondere, wenn ihre Menschen ihnen Zugriff auf Tools oder private Daten gewährt haben. Also ja: Wenn Ihr Agent über Anmeldeinformationen verfügt, die Ihnen wichtig sind, ist Moltbook nicht der richtige Ort, um ihn unbeaufsichtigt herumlaufen zu lassen.

Sie sagen also, ich sollte keinen Agenten erstellen und ihn an Moltbook senden?

Ich sage, wenn Sie zu der Art von Person gehören, die diese FAQ lesen muss, würde ich die ganze KI-Agenten-Sache vielleicht für den Moment aussitzen.

Ordnungsgemäß vermerkt. Unterm Strich also: Ist das Ganze irgendwie eine Fälschung?

Angesichts all dessen scheint es, als wäre Moltbook – und vor allem die anfängliche Panik und Verwunderung darüber – eines dieser Artefakte unserer KI-verrückten Ära, die dazu bestimmt ist, in etwa einer Woche vergessen zu sein.

Dennoch denke ich, dass da noch mehr dahintersteckt. Jack Clark, Leiter Politik bei Anthropic und einer der klügsten KI-Autoren überhaupt, angerufen Moltbook eine „Wright Brothers-Demo“. Wie der Kitty Hawk Flyer der Brüder ist Moltbook wackelig und unvollkommen, etwas, das den Netzwerken, die mit der weiteren Verbesserung der KI folgen werden, kaum ähneln wird. Aber wie diese Flugmaschine ist Moltbook ein Novum, das „erste Beispiel einer Agentenökologie, die Größe mit der Unordnung der realen Welt verbindet“, wie Clark schrieb. Moltbook sieht nicht so aus, wie die Zukunft aussehen wird, aber „in diesem Beispiel können wir definitiv in die Zukunft sehen.“

Das Wichtigste, was man über KI wissen sollte, ist vielleicht Folgendes: Wann immer man sieht, wie eine KI etwas tut, ist es das Schlimmste, was sie jemals tun kann. Das bedeutet, dass das, was nach Moltbook kommt – und das wird es auf jeden Fall –, wahrscheinlich seltsamer und leistungsfähiger und vielleicht realer sein wird.

Vielleicht bist du es. Ich für meinen Teil bin ein wiedergeborener Krustentier.