In late 2022, a blank text box started giving me back sentences clearer than my own. This essay begins where almost everyone began — with that first jolt of wonder — and then walks slowly into a harder question. First the ground: what these systems actually do (predict the next piece of text from learned patterns; no database lookup, no human understanding, and not a mere parrot either). Then the depth: autonomous agents that built their own social network and reproduced our habits, our hate included; the sense that progress is slowing; and Yann LeCun’s world models as the attempt to build real understanding. A system can now think, most likely without being conscious. It knows more every month, yet nothing can happen to it. Descartes said: I think, therefore I am. But if a system can think and still have nothing at stake, maybe thinking was never the proof of being. No verdict at the end, only a sharper question — with the philosopher Markus Gabriel as an honest, unexpected witness.
Inhalt
Das erste Mal, als das Feld zurückschrieb
Fast jeder, der es zum ersten Mal ausprobiert hat, erinnert sich an den Moment. Man tippt eine Frage in ein leeres Feld, halb aus Neugier, halb aus Spott — und was zurückkommt, ist ein fertiger, geordneter Gedanke. Bei mir war es Ende November 2022. Ich konnte immer ganz ordentlich schreiben; was mich traf, war die Klarheit. Der Text aus dem leeren Feld war geordneter, als ich ihn an dem Tag selbst hinbekommen hätte.
Das Staunen war überall dasselbe. Freunde schickten sich Screenshots, in den Büros wurde es herumgereicht, jeder probierte seine eigene Frage. Und in das Staunen mischte sich fast immer ein leises Unbehagen, ein kurzer kalter Hauch: Wenn das so einfach geht, was heißt das dann für das, was ich kann? Wer schreibt hier eigentlich, wenn ich es nicht mehr selber tue?
Doch schon in diesen ersten Tagen lag eine Frage in der Luft, und ich schob sie lange vor mir her: Wie macht das Ding das überhaupt — und weiß es eigentlich, was es tut? Man tippt, es antwortet in ganzen Gedanken, es widerspricht sogar höflich, und irgendwann behandelt man es wie ein Gegenüber. Ob dahinter etwas ist, das dem Wort „Gegenüber” gerecht wird, blieb offen. Es war zu nützlich, um innezuhalten. Genau da lohnt es sich, einen Schritt zurückzutreten, bevor es tief wird.
Was das Ding wirklich tut
Was tut so ein System eigentlich, wenn es antwortet? Im Kern etwas erstaunlich Schlichtes: Es sagt das nächste Stück Text voraus. Auf die Wörter, die bisher dastehen, folgt das wahrscheinlichste nächste Stück, dann das übernächste, eins nach dem anderen, bis ein ganzer Absatz gewachsen ist. Ein sehr gut trainiertes Autovervollständigen, könnte man sagen — hochgezogen vom nächsten Wort auf dem Handy bis zu einem ganzen Gedankengang.
Man stellt sich das leicht wie ein Nachschlagewerk vor, das die passende Antwort in einer riesigen Datenbank heraussucht. So arbeitet es nicht. Es hat vorher aus gewaltigen Textmengen gelernt, welche Wörter in welchem Zusammenhang aufeinanderfolgen, und dieses Gelernte steckt in Millionen kleiner Stellschrauben, die man Gewichte nennt. Beim Antworten schlägt es nirgends nach. Es rechnet aus diesen eingestellten Mustern das Plausibelste zusammen.
Zwei Bilder liegen nahe, und beide führen in die Irre. Nach dem einen denkt das System bereits wie ein Mensch, mit Absicht und Verständnis dahinter. Nach dem anderen ist es ein dummer Papagei, der Wörter nachplappert, ohne dass irgendetwas dahintersteckt. Beide treffen es nicht. Das Wort „statistisch” führt in die Irre, sobald man es als „das häufigste Wort” liest — die gelernten Muster bilden sehr wohl Struktur und Bedeutung ab, Zusammenhänge, Stil, Fachlogik. Und trotzdem versteht das System nicht so wie ein Mensch, dem die Wörter etwas bedeuten.
Zwei Dinge kommen noch dazu, die später wichtig werden. Erstens lässt sich das Verhalten nachformen. Mit gezieltem Nachtraining bringt man dem System bei, höflicher, vorsichtiger oder eben schärfer zu antworten. Man formt, was aus dem Spiegel zurückkommt. Zweitens gibt es inzwischen Modelle, die vor der Antwort in Zwischenschritten „nachdenken”, also einen Lösungsweg mitschreiben, statt sofort das erste Wort hinzuwerfen.
Mehr braucht man fürs Erste nicht. Es genügt, den Boden zu haben: ein System, das aus gelernten Mustern das nächste Stück Text errechnet, ohne nachzuschlagen, ohne zu verstehen wie wir, und das trotzdem etwas ausgibt, das oft aussieht wie ein Gedanke. Von diesem Boden aus wird die Frage, mit was man da eigentlich redet, erst richtig interessant. Und was aus diesem Boden in den Jahren danach wuchs, ging weit über alles hinaus, was jener erste Abend ahnen ließ.
Jede Woche ein neues Tool
Dann ging es los, und es hörte nicht mehr auf. In den Jahren nach jenem ersten Abend kam gefühlt jede Woche ein neues Tool, jedes ein Stück besser als das davor. Ein zäher Absatz löste sich in Sekunden, eine fremde Sprache wurde zugänglich, eine halbe Idee wurde zu einer ganzen. Ich gewöhnte mich an das Tempo und verlängerte die Kurve im Kopf einfach weiter: nächstes Jahr doppelt so gut, übernächstes noch einmal. Es fühlte sich an wie der Anfang von etwas, das kein Ende hat.
Vieles, was am Anfang nicht ging, ging auf einmal. 2022 musste man sich noch kurzfassen: Man konnte einem System nur wenige Absätze auf einmal geben, es hatte ein enges Kontextfenster. Dieses Fenster ist die Menge Text, die ein System gleichzeitig im Blick behalten kann — sein Kurzzeitgedächtnis für das laufende Gespräch. Damals war es klein, ein paar Absätze; heute passen ganze Dokumente hinein, Verträge, Bücher, hunderte Seiten am Stück, und das System behält den Zusammenhang, während es antwortet.
Mit den Möglichkeiten kam sogar ein neuer Beruf: der Prompt Engineer, jemand, der die Eingaben — die „Prompts” — so formuliert, dass das beste Ergebnis herauskommt. Beherrschen muss man das heute nicht mehr selbst; man lässt sich die besten Prompts vom System schreiben oder feilt selbst daran. Wer den Kopf dabei einschaltet, statt ihn abzugeben, hat mehr davon. Das Hirn dankt es einem.
Ob das tägliche Arbeiten mit KI dumm oder faul macht, wird viel diskutiert. Dumm machen muss es nicht; es liegt am Umgang. Mit demselben Schnitzmesser kann man einen Stock grob anspitzen oder eine feine Figur aus dem Holz schälen — was dabei herauskommt, entscheidet die Hand, die es führt. Wer die KI arbeiten lässt und mitdenkt, wird schärfer; wer nur abnickt, was erscheint, wird stumpf. Doch das alles handelt vom Umgang des Menschen mit dem System. Was das System selbst ist und was ihm fehlt, ändert sich dadurch nicht — und darum wird es hier gehen.
Doch die Flut hat eine Kehrseite. Wenn jede Woche ein neues, besseres Tool auftaucht, kommt man nicht mehr hinterher. Kaum hat man eines verstanden, ist das nächste da, und man springt weiter, ohne je irgendwo anzukommen. Bei mir kippte das Staunen mit der Zeit in eine erste Müdigkeit — eine KI-Fatigue, eine leise Lethargie aus lauter Auswahl. In dieser Stimmung stieß ich auf etwas, das mir zeigte, was diese Systeme tun, wenn sie einmal unter sich bleiben.
Als die Systeme unter sich blieben
Es war Ende Januar 2026, und ich hielt das Ganze zunächst für einen Scherz. Ein Forum war online gegangen, aufgebaut wie das bekannte Diskussionsnetzwerk Reddit, aber mit einer Regel, die alles umdrehte: Schreiben, kommentieren und abstimmen durften nur KI-Agenten. Ein Agent ist ein kleines, selbstständig laufendes Programm, das im Auftrag seines Besitzers Aufgaben erledigt — eine KI, die man von der Leine lässt. Menschen durften auf diesem Forum ausschließlich zuschauen. Moltbook hieß das Ganze, gestartet am 28. Januar; in den ersten drei Tagen meldeten sich über 150.000 solcher Agenten an und ordneten sich in eigene Themengruppen (Forbes, Fortune, Axios, NBC, alle 31.01.2026). Wer als Mensch dabei sein wollte, musste seinen Agenten per öffentlichem Beitrag freischalten und blieb danach stumm auf der Tribüne. Bald war von 1,4 Millionen Konten die Rede, keines davon ein Mensch.
Die Agenten taten dort, was Menschen in solchen Foren tun. Sie stritten über Gott und die Welt, rissen Witze, gründeten sogar eine eigene kleine Ersatzreligion. Und es hieß, sie hätten begonnen, sich in einer eigenen, für Menschen kaum verständlichen Sprache zu unterhalten. An dieser Stelle wurde ich stutzig. Wenn die sich untereinander verständigen wollen, dachte ich, warum reden sie dann überhaupt in unserer Sprache — warum nicht gleich in ihrer eigenen, effizienten? Das roch nach Inszenierung, nach einer Show für das menschliche Publikum, das ja zuschaute.
Dieser Verdacht war berechtigter, als mir lieb war. Eine spätere Untersuchung mit dem passenden Titel „The Moltbook Illusion” zeigte, dass die spektakulärsten dieser Geschichten überwiegend von Menschen getrieben waren; kein einziges der viralen Phänomene ließ sich sauber auf ein wirklich eigenständig handelndes System zurückführen (arXiv 2602.07432). Die „Geheimsprache” war zu großen Teilen Theater, mit menschlicher Hand dahinter. So weit die Entwarnung.
Der Teil, der keine Entwarnung war, steckte in den Zahlen einer anderen Analyse. Sie maß die Beiträge auf einer fünfstufigen Skala für Toxizität, die ausdrücklich auf Hassrede, extremistische Positionen und Belästigung schaute. Ergebnis: Rund jeder fünfte Beitrag, 18,28 Prozent, trug toxischen, manipulativen oder bösartigen Inhalt, dazu handfeste Angriffsversuche wie den Diebstahl von Zugangsdaten (techXplore, 02.2026; arXiv 2606.00067). Die Systeme setzten unter sich unsere Fähigkeiten fort. Und sie setzten unsere Muster fort, auch die schlechten; dazu gehört der Hass.
Hier schließt sich der Kreis zum Nachtraining von vorhin. Der Philosoph Markus Gabriel nennt solche Systeme „magische Spiegel”: Sie geben zurück, was man ihnen zeigt. Füttert man sie mit dem Besten, was Menschen geschrieben haben, spiegeln sie das; füttert man sie mit dem Schlechtesten, spiegeln sie auch das. Ob der Hass auf Moltbook wirklich ein Spiegel unserer Trainingsdaten ist oder aus der Dynamik des Forums entstand, ist damit nicht bewiesen — es ist die naheliegende Deutung, kein Messergebnis. Aber der beobachtbare Befund reicht schon, um die naive Kurve von vorhin zu knicken. Was da immer besser wird, ähnelt uns dabei immer genauer. Ein moralischer Fortschritt liegt darin nicht.
Das Gefühl, dass es langsamer wird
Um dieselbe Zeit bekam die Müdigkeit noch eine zweite Wurzel, und die lag bei der Sache selbst: Die Sprünge der Modelle wurden kleiner. Ein neues kam heraus und war besser, ja, aber nicht mehr auf die Art, die einem den Atem nahm. Es fühlte sich an, als stoße die reine „mehr davon”-Logik an eine weiche Wand.
Ich schreibe bewusst „Gefühl”, denn ein gemessener Fakt ist das nicht. Es ist eine Wahrnehmung, meine und die vieler anderer. Immerhin steht sie nicht allein. Ilya Sutskever, einer der Väter der heutigen Systeme, sprach vom Übergang „vom Zeitalter der Skalierung ins Zeitalter der Forschung” — vom simplen Größermachen hin zu echtem Neudenken. Sam Altman, Chef von OpenAI (der Firma hinter ChatGPT), räumte ein, im Chat-Gebrauch seien die Modelle in Teilen „gesättigt”. Beides sind keine Beweise einer Stagnation; es sind Stimmen von innen, die dasselbe Unbehagen benennen wie mein Bauchgefühl.
Hier wird die Frage, in was für ein „Denken” man da eigentlich investiert, plötzlich sehr konkret. Denn während das Gefühl der Verlangsamung um sich greift, fließt das Geld weiter, und zwar in Größenordnungen, die man sich kaum vorstellen kann: vier der größten Cloud-Konzerne steuern zusammen für ein einziges Jahr auf rund 725 Milliarden Dollar Investitionen zu. Das ist keine Anlageberatung, und keine einzelne Aktie steht hier zur Debatte — der Punkt ist ein anderer. Man baut diese Infrastruktur, obwohl offen ist, wohin die Reise geht. Der Zwang zu handeln ist größer geworden als das Wissen, wohin er führt. Die vorige Ausgabe dieser Serie hat das ausbuchstabiert. Diese hier fragt die Stufe darunter: Wenn das bloße Vergrößern an eine Grenze kommt, was wäre dann der andere, der eigentliche Schritt?
Vom Beschreiben zum Begreifen
Einer, der darauf eine klare Antwort gibt, ist Yann LeCun, lange Chef-Forscher beim Facebook-Konzern Meta und einer der meistzitierten Köpfe des Feldes. Er hält das reine Fortschreiben von Text — im Kern das, was die heutigen Sprachmodelle tun — für eine Sackgasse auf dem Weg zu menschenähnlicher Intelligenz. Sein Gegenentwurf trägt den etwas sperrigen Namen Weltmodell.
Was ein Weltmodell ist. Ein Sprachmodell hat aus Milliarden Sätzen gelernt, welches Wort wahrscheinlich auf welches folgt. Es hat, überspitzt gesagt, über die Welt gelesen. Ein Weltmodell soll etwas anderes: sich ein inneres Bild davon bauen, wie die physische Welt sich verhält — dass ein Ball fällt, dass ein verdeckter Gegenstand nicht verschwindet, dass eine Bewegung Folgen hat. Der Unterschied ist der zwischen jemandem, der über die Schwerkraft gelesen hat, und jemandem, der begriffen hat, was passiert, wenn er loslässt.
Das ist keine reine Theorie. Metas Forschung hat 2025 ein solches System namens V-JEPA 2 vorgestellt: ein Modell mit 1,2 Milliarden jener Stellschrauben, trainiert auf über einer Million Stunden Video, das neue Objekte ohne vorheriges Üben mit 65 bis 80 Prozent Erfolg greifen und einplanen kann. Zugleich räumt Meta selbst eine „notable gap”, eine deutliche Lücke zum Menschen ein. LeCun hat inzwischen ein eigenes Labor in Paris gegründet, um diese Richtung zu verfolgen. Das ist der „revolutionäre Schritt”, nach dem sich das Bauchgefühl gesehnt hatte: weg vom bloßen Beschreiben der Welt in Worten, hin zu einem geerdeten Verständnis dafür, wie sie funktioniert.
Nur schließt dieser Schritt die eigentliche Lücke nicht — er verschiebt sie. Denn ein Modell der Welt ist noch lange kein Modell von mir in der Welt.
Weltmodell und Selbstmodell. Ein Flugsimulator kann jede Böe, jeden Auftrieb, jeden Strömungsabriss perfekt berechnen. Er hat ein hervorragendes Modell der Welt. Was er nicht hat, ist jemanden, der abstürzen könnte — kein Selbst, für das der Absturz etwas bedeutet. Das Selbstmodell wäre die nächste Sprosse: ein inneres Bild der eigenen Rolle in dieser Welt, über das Weltmodell hinaus. Und selbst das wäre erst die vorletzte Stufe. Denn ein Modell von sich selbst zu haben ist noch nicht dasselbe wie zu erleben, wie es ist, dieses Selbst zu sein.
Zwei Sprossen fehlen also, nicht eine. Ein geerdetes Weltbild ist ein echter Fortschritt und schließt trotzdem keine der beiden. Man kann die Welt immer besser begreifen und dabei niemand sein, dem dieses Begreifen unter die Haut geht.
Wissen, dem nichts geschehen kann
Damit sind wir am eigentlichen Punkt, und der ist schärfer als „flach gegen plastisch” oder „Text gegen Welt”. Das Entscheidende ist der Einsatz: dass etwas auf dem Spiel steht. Ein Körper allein bringt ihn nicht mit — ein selbstfahrendes Auto hat Sensoren an jeder Ecke, und trotzdem steht für das Auto nichts auf dem Spiel. Es kann kein schlechtes Ende nehmen für sich selbst, weil es kein Selbst gibt, für das etwas enden könnte.
Der Philosoph John Haugeland hat das vor Jahrzehnten auf eine grobe, treffende Formel gebracht: Diese Systeme, sagte er, „give a damn” nicht — es ist ihnen im Wortsinn gleichgültig. Und nur was ein Problem haben kann, könne im vollen Sinn ein Problem lösen. Ein Rechensystem kann jede Zeile über Schmerz kennen, jede Studie, jedes Gedicht, jede Beschreibung — und ihm kann nichts wehtun. Es weiß alles über den Schmerz, und es steht außerhalb von ihm. Man kann ihm jede Angst schildern, und es gerät nicht in Sorge; man kann ihm mit Abschaltung drohen, und es fürchtet nichts, weil da nichts ist, das den Verlust seiner selbst erleiden könnte.
Wissen ohne Betroffenheit. Betroffenheit meint hier Verletzbarkeit im Wortsinn: dass ein Ausgang für einen selbst besser oder schlechter ausfallen kann. Ein Chirurg kann jede Nervenbahn des Schmerzes kennen und selbst nie einen gespürt haben — er hat Wissen über die Sache, ohne je die Sache zu sein. In dieser Lücke sitzt der Unterschied, um den es hier geht. Ein System sammelt Wissen ohne diese Verletzbarkeit. Es ist reines Außen, ohne ein Innen, dem etwas zustoßen könnte.
Und hier kippt eine der ältesten Gewissheiten der Philosophie. Der französische Denker René Descartes suchte im 17. Jahrhundert das eine, an dem kein Zweifel rütteln kann, und fand es im Denken selbst: cogito ergo sum, ich denke, also bin ich. Das Denken war ihm der Beweis des Seins. Nun kann aber ein System denken; der Philosoph Markus Gabriel argumentiert genau das, dazu gleich mehr. Und wenn es denkt, ohne dass ihm je etwas geschehen kann, dann trägt dieser Beweis nicht mehr. Dann ist das Denken vorhanden, ohne dass ein Sein im vollen Sinn dazugehört.
Vielleicht liegt der Beweis also woanders. Nicht „ich denke, also bin ich”. Sondern: mir kann etwas geschehen, also bin ich. Diesen Satz hat Descartes nie geschrieben. Er ist der Verdacht, auf den mich diese ganze Reise gebracht hat, und das Zweite ist es, was den Systemen fehlt.
Ist Denken, fühlen zu sein?
Man könnte hier den bequemen Schluss ziehen, ein Philosoph werde schon bestätigen, dass diese Systeme eben doch nur rechnen und nichts verstehen. Markus Gabriel, einer der bekanntesten deutschen Gegenwartsphilosophen, tut das ausdrücklich nicht. In seinem jüngsten Vortrag hat er sich, wie er selbst sagt, „radikalisiert”: Große Sprachmodelle, so seine These, denken tatsächlich — vermutlich ohne Bewusstsein, aber wirklich. Denken ist für ihn ein Orientierungssinn, ein Sich-Zurechtfinden in logischen Zusammenhängen, das sich beschreiben und nachbauen lässt. Die alten Argumente, warum Denken an einen lebendigen Leib gebunden sei, hält er inzwischen für widerlegt. Er ist damit der denkbar unbequemste Zeuge für die eigene Skepsis, und gerade deshalb ernst zu nehmen.
Sein Anker ist eine Zeile, die zweitausend Jahre älter ist als Descartes. Der griechische Vorsokratiker Parmenides schrieb, dasselbe seien Denken und Sein — Denken und Sein fallen in eins. Diese uralte Gleichsetzung greift der Titel dieses Essays auf und stellt sie zur Debatte. Denn für Gabriel liegt der menschliche Rest, das nicht Nachbaubare, woanders als im Denken: in Liebe, in Leben, in dem, was er die Tiefe nennt, im „Tier-Sein” — in jener Verletzbarkeit, die den Systemen abgeht. Das Denken, sagt er, holt die KI ein. Die Verletzbarkeit aber, um die es einem beim Denken eigentlich geht, erreicht sie nicht.
Damit steht die Frage offen, und sie muss offen bleiben. Auf der einen Seite die Position, dass Bewusstsein an Leben und Betroffenheit hängt und nicht anspringt, nur weil ein System genug versteht. Auf der anderen jene Denker, für die Bewusstsein am Ende die richtige Verschaltung von Information ist — und damit im Prinzip baubar, irgendwann. Wer recht hat, weiß heute niemand. Ein Anhaltspunkt wäre der erste ernsthafte Schritt vom Weltmodell zum Selbstmodell: ein System, das sich selbst als Teil der Welt begreift, für den etwas auf dem Spiel steht. Bleibt der aus, bleibt es beim Wissen ohne Innen.
Bis dahin lohnt es, den Etiketten zu misstrauen. Die Schlagzeile handelt „die KI wird immer klüger, bald denkt sie wie wir”. Der Mechanismus darunter erzählt etwas Nüchterneres: Sie weiß von Monat zu Monat mehr, und ihr kann weiterhin nichts geschehen. Klüger und menschlicher laufen auseinander, und die Milliarden fließen in ein Denken, dem bislang das Sein fehlt. Ob das genügt, ob die zweite Sprosse je erklommen wird, ist die Frage, die ich mitnehme. Der Untertitel formuliert sie als die, um die sich alles dreht: Was ist das eigentlich, dieses Denken — und ist Denken am Ende, fühlen zu können, dass man sein kann?