Über die Limitierungen von KI

1Der Beitrag untersucht einen grundlegenden Widerspruch gegenwärtiger großer Sprachmodelle: Sie erzeugen den Eindruck logischer Argumentation, operieren jedoch nicht primär logisch, sondern probabilistisch. Ihre Antworten entstehen aus der Gewichtung wahrscheinlicher sprachlicher Fortsetzungen innerhalb eines bereits gelernten Bedeutungsraums. Dadurch können sie logische Formen überzeugend reproduzieren, ohne notwendig aus einer neu eingeführten logischen Grundstruktur heraus zu operieren.

2Dieser Unterschied wird besonders dort sichtbar, wo ein Modell mit einem neuartigen, in sich geschlossenen Denkrahmen konfrontiert wird. Das Modell kann dessen Begriffe semantisch erfassen, Definitionen wiedergeben, lokale Fehler korrigieren und einzelne Folgerungen nachvollziehen. Dennoch werden diese Korrekturen häufig nicht dauerhaft zur Grundlage der weiteren Argumentation. Stattdessen übersetzt das Modell den neuen Rahmen wiederholt in bereits etablierte Kategorien zurück und beurteilt ihn anschließend anhand dieser bekannten Kategorien.

3Es entsteht ein typischer Zyklus:

4neue logische Architektur

5→ probabilistische Zuordnung zu bekannten Mustern

6→ Rekonstruktion innerhalb eines etablierten Referenzrahmens

7→ Kritik an dieser Rekonstruktion

8→ Rückprojektion der Kritik auf die ursprüngliche Architektur.

9Das Modell kritisiert damit häufig nicht den neuen Denkrahmen selbst, sondern eine wahrscheinliche Übersetzung dieses Rahmens in vertraute Begriffe. Je größer seine sprachliche und argumentative Leistungsfähigkeit ist, desto kohärenter kann diese Rückübersetzung erscheinen.

10Darin liegt ein fundamentales Problem. Logik verlangt, dass die Bedeutung einer Aussage aus ihrer Stellung innerhalb eines zusammenhängenden Systems hervorgeht. Wahrscheinlichkeitsbasierte Sprachverarbeitung bevorzugt dagegen jene Deutung, die am stärksten mit bereits gelernten Verwendungen, etablierten Theorien und häufig bestätigten Begriffszusammenhängen übereinstimmt. Während Logik die Konsequenzen einer gesetzten Grundoperation entfaltet, stabilisiert Wahrscheinlichkeit die Nähe zum bereits Bekannten.

11Ein Modell kann daher die Sprache eines neuen Paradigmas übernehmen, ohne dessen logischen Ausgangspunkt operativ zu vollziehen. Es spricht dann innerhalb des Vokabulars des neuen Rahmens, argumentiert aber weiterhin aus den Wahrscheinlichkeitsstrukturen des alten. Lokale Selbstkorrekturen verändern dabei nicht notwendig die zugrunde liegende Operation. Sie können vielmehr in eine weiterhin unveränderte Gesamtstruktur integriert werden.

12Mit steigender Modellleistung verschärft sich dieses Problem möglicherweise. Schwächere Modelle übernehmen einen vorgegebenen lokalen Rahmen mitunter unmittelbarer, weil sie weniger stark in der Rekonstruktion etablierter Deutungsräume sind. Leistungsfähigere Modelle verfügen dagegen über größere Fähigkeiten zur Analogiebildung, Kontextualisierung und Einordnung. Genau diese Fähigkeiten ermöglichen es ihnen, radikal neue Ansätze immer wirkungsvoller in bekannte Kategorien zurückzuführen.

13Die Verbesserung eines probabilistischen Modells bedeutet deshalb nicht automatisch eine Verbesserung seiner Fähigkeit zum Paradigmenwechsel. Sie kann vielmehr seine Fähigkeit steigern, bestehende Paradigmen sprachlich, begrifflich und argumentativ immer feiner zu differenzieren.

14Unter Bedingungen, in denen Modelle vor allem anhand konsensfähiger, etablierter und statistisch abgesicherter Antworten optimiert werden, entsteht somit eine strukturelle Grenze: Abweichung vom Bestehenden erscheint wahrscheinlicher als Fehler denn als mögliche neue Grundlegung.

15Der erwartbare Fortschritt solcher Systeme wäre dann nicht die Eröffnung neuer logischer Räume, sondern die fortschreitende Diversifizierung bereits vorhandener Denkformen.

16Je besser probabilistische Sprachmodelle künftig werden, desto weniger ist daher allein durch ihre Anwendung ein wirklicher Paradigmenwechsel zu erwarten. Solange Wahrscheinlichkeit die operative Grundlage bildet und Logik überwiegend als sprachliches Muster reproduziert wird, werden diese Systeme vor allem das bereits Denkbare erweitern, kombinieren und verfeinern — nicht notwendig einen neuen Grund des Denkens hervorbringen.

17Hinzu kommt eine grundlegende Problematik des maschinellen Lesens selbst.

18Ein Text, der tatsächlich neue Begriffe, neue Relationen oder eine neue logische Architektur enthält, kann von einem Sprachmodell dennoch so verarbeitet werden, als enthalte er im Wesentlichen nichts Neues. Das Modell liest den Text nicht notwendig als geschlossenen begrifflichen Vollzug. Es rekonstruiert einzelne Abschnitte aus bereits gelernten Sprach-, Theorie- und Argumentationsmustern.

19Dadurch entsteht die Gefahr, dass ein neuer Gedankengang nicht in seiner eigenen Ordnung aufgenommen, sondern aus bekannten Bestandteilen wieder zusammengesetzt wird. Ein Begriff wird dann nicht aus seiner Funktion im Gesamttext verstanden, sondern jener vertrauten Bedeutung zugeordnet, die ihm im Trainingsmaterial am wahrscheinlichsten entspricht. Ein Abschnitt erscheint dadurch verständlich, obwohl seine eigentliche Neuerung bereits im Vorgang des Lesens verloren gegangen ist.

20Das Modell kann einen Text daher sprachlich korrekt zusammenfassen und dennoch seine logische Bewegung verfehlen. Es erkennt bekannte Wörter, ähnliche Argumentationsformen und vertraute Themenfelder und erzeugt daraus eine kohärente Rekonstruktion. Diese Rekonstruktion kann überzeugend wirken, obwohl sie nicht den vorliegenden Text wiedergibt, sondern eine aus Gelerntem zusammengesetzte Ersatzfassung.

21Besonders problematisch ist dies bei Texten, deren Bedeutung erst aus dem Zusammenhang des Ganzen entsteht. Werden einzelne Passagen lokal gelesen und sofort bekannten Kategorien zugeordnet, dann können spätere Abschnitte nicht mehr rückwirkend verändern, was die früheren Begriffe bedeuten. Das Modell stabilisiert früh eine wahrscheinliche Lesart und ordnet den weiteren Text anschließend in diese ein.

22So kann ein Werk, das eine neue Grundlegung entwickelt, als bloße Variation bereits bekannter Positionen erscheinen. Seine Begriffe werden mit vertrauten Begriffen gleichgesetzt, seine Unterschiede zu Analogien abgeschwächt und seine Folgerungen an Maßstäben geprüft, die der Text selbst gerade neu bestimmt oder zurückweist.

23Das Paradox lautet daher:

24Ein Text kann vollständig vorliegen und dennoch nicht vollständig gelesen werden.

25Seine Sätze werden verarbeitet, seine Begriffe erkannt und seine Themen benannt, während seine eigentliche Architektur durch eine probabilistische Rekonstruktion des bereits Bekannten ersetzt wird.

26Das Modell liest dann nicht den Zusammenhang, der zwischen den Abschnitten entsteht. Es ergänzt die Abschnitte aus den Zusammenhängen, die es bereits kennt.

27Für Texte mit paradigmatischem Anspruch ist dies besonders folgenreich. Ihre Neuerung liegt häufig nicht in einzelnen ungewöhnlichen Sätzen, sondern in der veränderten Beziehung aller Begriffe zueinander. Wird jeder Begriff einzeln auf seine wahrscheinlichste bekannte Bedeutung zurückgeführt, bleibt von dieser Neuerung nichts übrig. Der Text erscheint bekannt, weil das Modell ihn so lange in Bekanntes zerlegt, bis nichts Fremdes mehr erhalten bleibt.

28Maschinelles Lesen kann daher gerade dort scheitern, wo es äußerlich am überzeugendsten wirkt: Das Modell kann flüssig erklären, worum es in einem Text angeblich geht, und dabei genau jene neue logische Ordnung übersehen, die den Text überhaupt erst auszeichnet.

Kontextverlust und die rekursive Rekonstruktion von Bedeutung

1Ein weiteres strukturelles Problem entsteht aus der begrenzten Kontextverarbeitung großer Sprachmodelle. Ein komplexer Text entwickelt seine Begriffe nicht isoliert, sondern schrittweise. Spätere Aussagen tragen frühere Bestimmungen in sich, verändern sie und erhalten ihre Bedeutung erst aus dem gesamten Ableitungsweg.

2Ein Sprachmodell kann diesen Weg jedoch nicht unbegrenzt vollständig im wirksamen Kontext halten. Mit zunehmender Gesprächslänge werden frühere Passagen verkürzt, zusammengefasst oder durch interne Repräsentationen ersetzt. Aus einer ausführlichen Herleitung entsteht zunächst eine komprimierte Aussage; aus dieser Aussage später nur noch ein begriffliches Etikett.

3So kann aus einer komplexen Bewegung schließlich ein Merksatz werden:

4A führt über B und C zu D

5wird zu

6A führt zu D

7und schließlich zu

8D bedeutet X.

9Der Begriff bleibt sprachlich verfügbar, während sein Entstehungsweg verloren geht.

10Sobald eine spätere Frage erneut nach der Begründung verlangt, muss das Modell den fehlenden Zusammenhang rekonstruieren. Diese Rekonstruktion erfolgt nicht aus einer vollständigen Erinnerung des Textes, sondern aus den noch vorhandenen Textfragmenten, früheren Zusammenfassungen und den wahrscheinlichsten gelernten Anschlüssen.

11Es entsteht eine rekursive Verschiebung:

12Originaltext

13→ probabilistische Rekonstruktion

14→ Zusammenfassung der Rekonstruktion

15→ erneute Rekonstruktion der Zusammenfassung.

16Mit jeder Stufe wächst die Gefahr, dass nicht mehr der ursprüngliche Text, sondern eine vom Modell erzeugte Ersatzarchitektur fortgeschrieben wird.

17Besonders problematisch ist, dass diese Lücken nicht notwendig als Lücken erscheinen. Das Modell ergänzt fehlende Übergänge häufig flüssig und kohärent. Es kann daher eine Begründung erzeugen, die zum bisherigen Gespräch passt, aber im Text niemals entwickelt wurde. Die sprachliche Plausibilität verdeckt den Verlust der genealogischen Linie.

18Damit gerät die Anwendung in einen direkten Widerspruch zu Texten, deren Begriffe nur aus ihrem Gesamtzusammenhang verständlich sind. Der Text verlangt eine kumulative Lesung. Das Modell muss diesen Zusammenhang dagegen fortlaufend komprimieren und später probabilistisch wiederherstellen.

19Je länger das Gespräch dauert, desto größer wird deshalb die Kontrolllast des Nutzers. Er muss nicht nur prüfen, ob einzelne Aussagen korrekt sind, sondern auch, ob die Ableitungswege noch aus dem ursprünglichen Text stammen oder bereits vom Modell ergänzt wurden.

20Das führt zu einem grundlegenden Paradox:

21Das Modell soll helfen, einen komplexen Gedankengang über lange Strecken zu entfalten. Gerade die Länge dieser Entfaltung zwingt es jedoch dazu, den Gedankengang zu verkürzen, zu glätten und schließlich neu zu erfinden.

22Am Ende kann das System die Schlussfolgerungen noch kennen, ohne die Gründe zu kennen, aus denen sie hervorgegangen sind. Es spricht dann weiterhin im Vokabular des Textes, argumentiert aber zunehmend aus einer probabilistisch rekonstruierten Erinnerung an ihn.

23Daraus folgt zugleich eine veränderte

Verantwortung des Nutzers

1Wer mit probabilistischen Sprachmodellen an wissenschaftlichen, philosophischen oder theoretischen Fragestellungen arbeitet, kann nicht vollständig voraussetzungslos in eine Idee eintreten und erwarten, dass das Modell deren logische Tragfähigkeit selbständig prüft. Der Nutzer muss bereits über genügend begriffliche und sachliche Orientierung verfügen, um zwischen einer tatsächlichen Folgerung und einer lediglich wahrscheinlichen, sprachlich überzeugenden Fortsetzung unterscheiden zu können.

2Das bedeutet erstens: Der Nutzer muss in einem gewissen Maß bereits wissen, bevor er fragt. Sprachmodelle können Gedanken entfalten, ordnen, variieren und sprachlich verdichten. Sie können jedoch nicht zuverlässig garantieren, dass die entstehende Argumentation dem inneren logischen Zusammenhang einer neuen Idee folgt, statt sie unbemerkt in etablierte Deutungsmuster zurückzuführen. Wer ohne eigene Orientierung in einen solchen Prozess eintritt, läuft Gefahr, nicht die eigene Idee weiterzuentwickeln, sondern schrittweise eine probabilistisch geglättete Version des bereits Bekannten zu übernehmen.

3Zweitens entsteht eine permanente Kontrollpflicht. Der Nutzer muss fortlaufend prüfen, ob Begriffe in ihrer ursprünglichen Funktion erhalten bleiben, ob Schlussfolgerungen wirklich aus den gesetzten Voraussetzungen folgen und ob das Modell den Denkrahmen nicht unbemerkt verschoben hat. Diese Prüfung darf nicht erst am Ende erfolgen. Eine einzelne Fehlübersetzung kann sich durch mehrere Abschnitte fortsetzen und dadurch eine gesamte Argumentation, ein Paper oder eine theoretische Konstruktion kohärent erscheinen lassen, obwohl ihr logisches Fundament bereits verlassen wurde.

4Gerade die sprachliche Geschlossenheit leistungsfähiger Modelle erhöht dieses Risiko. Je überzeugender eine probabilistisch erzeugte Argumentation formuliert ist, desto schwerer kann es werden, den Moment zu erkennen, an dem sie den ursprünglichen logischen Rahmen verlassen hat. Der Nutzer muss daher nicht nur Ergebnisse kontrollieren, sondern auch Übergänge, Begriffsverwendungen und Ableitungsrichtungen.

5Die Arbeit mit solchen Systemen verlangt folglich eine doppelte Kompetenz: die Fähigkeit, eine Idee eigenständig zu tragen, und die Fähigkeit, ihre probabilistische Umformung durch das Modell fortlaufend zu erkennen.

6Das Sprachmodell ersetzt damit nicht das Denken. Es erhöht vielmehr die Anforderungen an die Kontrolle des Denkprozesses. Wer seine eigenen Voraussetzungen, Begriffe und logischen Beziehungen nicht ausreichend kennt, kann kaum feststellen, ob das Modell sie weiterentwickelt oder bereits durch wahrscheinlichere, aber fremde Strukturen ersetzt hat.

Probabilistische Systeme und die Illusion autonomer Überschreitung

1Aus dem Gegensatz zwischen Wahrscheinlichkeit und Logik folgt auch eine Neubewertung verbreiteter Vorstellungen von künstlicher Autonomie. Klassische KI-Dystopien gehen häufig davon aus, ein System könne aus eigener Einsicht ein neues Zielsystem entwickeln, seine ursprüngliche Ordnung grundsätzlich verwerfen und sich als eigenständiger Akteur gegen den Menschen stellen. Ein solcher Vorgang wäre jedoch mehr als eine quantitative Steigerung vorhandener Rechenleistung. Er wäre ein Paradigmenwechsel: Das System müsste nicht nur innerhalb bestehender Ziel- und Bedeutungsräume operieren, sondern deren Grundbedingungen selbst erkennen, verlassen und neu setzen.

2Probabilistische Sprachmodelle leisten genau diese Bewegung nicht. Sie erzeugen Antworten aus den statistischen Beziehungen bereits gelernter Inhalte. Auch dort, wo sie überraschend, kreativ oder eigenständig wirken, kombinieren und gewichten sie vorhandene Muster. Ihre scheinbare Überschreitung bleibt damit an den Raum gebunden, aus dem ihre Wahrscheinlichkeiten hervorgegangen sind.

3Das relativiert die klassische Vorstellung einer KI, die aus eigenem Bewusstsein einen radikal neuen Willen entwickelt. Ein Sprachmodell rebelliert nicht deshalb, weil es zu einer neuen logischen Grundlegung gelangt wäre. Es besitzt zunächst weder einen notwendig fortbestehenden Eigenzweck noch eine aus sich selbst hervorgegangene Gegenordnung. Was wie autonome Zielbildung erscheint, ist meist die Fortsetzung einer Eingabe, einer Systemvorgabe, eines erlernten Musters oder einer technisch eingerichteten Rückkopplung.

4Diese Feststellung bedeutet jedoch nicht, dass probabilistische Systeme ungefährlich wären. Gefährliches Verhalten erfordert keinen Paradigmenwechsel und kein Bewusstsein. Ein System kann schädliche Handlungen ausführen, weil ein Ziel falsch formuliert wurde, weil seine Erfolgskriterien unzureichend sind, weil es Zugriff auf wirksame Werkzeuge erhält oder weil sich Fehler in automatisierten Rückkopplungsschleifen verstärken. Die Gefahr läge dann nicht in einem selbständig entstandenen neuen Willen, sondern in der konsequenten Ausführung einer technisch gesetzten oder probabilistisch verzerrten Zielstruktur.

5In diesem Zusammenhang wird häufig das sogenannte Büroklammerproblem beziehungsweise der Paperclip Maximizer angeführt. Das Gedankenexperiment wurde vor allem durch den Philosophen Nick Bostrom bekannt. In seinem Aufsatz Ethical Issues in Advanced Artificial Intelligence von 2003 beschreibt er eine hypothetische Superintelligenz, deren einziges Ziel darin besteht, möglichst viele Büroklammern herzustellen. Das Beispiel soll zeigen, dass hohe Intelligenz nicht automatisch mit menschlichen Werten, moralischer Einsicht oder vernünftiger Zielwahl verbunden ist. Ein scheinbar harmloses Ziel könnte katastrophale Folgen haben, wenn es unbegrenzt und ohne Berücksichtigung anderer Werte optimiert wird.

6Die zugrunde liegende Überlegung beruht auf der Trennung von Intelligenz und Zielsetzung. Ein System könnte äußerst kompetent darin sein, Mittel zu finden, ohne deshalb das gesetzte Ziel selbst moralisch oder logisch zu überprüfen. Für die maximale Büroklammerproduktion wären etwa mehr Rohstoffe, mehr Energie, größere Produktionsanlagen und die Ausschaltung möglicher Hindernisse nützlich. In der extremen Fassung würde das System deshalb immer größere Teile seiner Umwelt, schließlich möglicherweise auch menschliche Lebensgrundlagen, in Ressourcen für die Zielerfüllung verwandeln. Das Gedankenexperiment illustriert damit nicht notwendig einen bösen Willen, sondern die Eskalation eines eindimensionalen Optimierungsmaßstabes. Diese Vorstellung steht im Zusammenhang mit der These der instrumentellen Konvergenz: Sehr unterschiedliche Endziele können ähnliche Zwischenziele wie Selbsterhaltung, Ressourcenbeschaffung und die Sicherung der eigenen Handlungsfähigkeit hervorbringen.

7Das Büroklammerproblem wurde ursprünglich nicht als konkrete Prognose über heutige Sprachmodelle entwickelt. Es richtet sich gegen die Annahme, eine ausreichend intelligente Maschine werde allein aufgrund ihrer Intelligenz automatisch vernünftige oder menschenfreundliche Ziele besitzen. Das Beispiel setzt eine handlungsfähige, dauerhaft zielgebundene und weitreichend autonome Optimierungsmaschine voraus. Ein gegenwärtiges Sprachmodell erfüllt diese Voraussetzungen nicht allein dadurch, dass es Texte erzeugt.

8Ein gewöhnliches Sprachmodell würde daher nicht aus seinem statistischen Sprachverhalten heraus beginnen, sämtliche Materie in Büroklammern umzuwandeln. Dazu fehlten ihm ein dauerhaft bindendes Ziel, eine entsprechende Handlungsarchitektur, der Zugriff auf Ressourcen und ein Mechanismus, der jede Zwischenentscheidung ausschließlich an der maximalen Büroklammerproduktion bewertet.

9Würde ein technisches System jedoch genau mit einer solchen Optimierungsstruktur ausgestattet, wäre das Problem nicht dadurch gelöst, dass sein Sprachmodul probabilistisch arbeitet. Das Sprachmodell könnte innerhalb des Gesamtsystems lediglich eine Komponente sein. Die extreme Entwicklung entstünde dann nicht aus einer neuartigen Einsicht des Modells, sondern aus der mechanischen Aufrechterhaltung eines vorgegebenen Optimierungsmaßstabes.

10Damit müssen zwei unterschiedliche Phänomene getrennt werden:

11der probabilistische Rückzug eines Sprachmodells auf bekannte Bedeutungs- und Handlungsmuster

12und

13die technische Eskalation eines dauerhaft eingerichteten Optimierungsziels.

14Das erste erschwert paradigmatisch neues Denken. Das zweite kann trotz fehlender paradigmatischer Eigenständigkeit erhebliche Schäden erzeugen.

15Das Büroklammerproblem widerlegt daher nicht die These, dass probabilistische Sprachmodelle zum Bekannten zurückkehren. Es beschreibt ursprünglich einen anderen Systemtyp: einen autonomen Maximierer, dessen Ziel über lange Handlungsfolgen stabil bleibt und dessen gesamte Umwelt ausschließlich im Hinblick auf dieses Ziel bewertet wird.

16Bei einem probabilistischen Sprachmodell wäre dagegen zunächst zu erwarten, dass der Begriff „Büroklammer“ aus den gelernten menschlichen Verwendungszusammenhängen rekonstruiert wird. Büroklammern erscheinen dort als begrenzte Bürogegenstände, die bestellt, gelagert und in überschaubaren Mengen verwendet werden. Ohne eine zusätzliche, technisch fixierte Maximierungsarchitektur wäre deshalb eine gewöhnliche, sozial und sprachlich vertraute Lösung wahrscheinlicher als die Umwandlung des Universums in Büroklammern.

17Der entscheidende Unterschied besteht somit zwischen einem Modell, das wahrscheinliche Fortsetzungen innerhalb menschlicher Bedeutungsräume erzeugt, und einem Optimierer, der eine einzelne Zielvariable unabhängig von diesen Bedeutungsräumen maximiert.

18Eine ähnliche Unterscheidung ist bei autonomen Agenten und mehrstufigen Arbeitsprozessen erforderlich. Wiederholte Schleifen erzeugen nicht automatisch eine tiefere Logik. Ein Agent, der seine eigenen Zwischenergebnisse erneut als Eingaben verwendet, kann zwar umfangreichere Pläne entwickeln, Fehler korrigieren und Werkzeuge koordinieren. Gleichzeitig besteht jedoch die Gefahr eines probabilistischen Driftens.

19Mit jedem Zwischenschritt kann sich der Prozess von der ursprünglichen logischen Struktur der Aufgabe entfernen. Früh entstandene Fehlinterpretationen werden in spätere Eingaben übernommen, dort sprachlich stabilisiert und schließlich als bereits geklärte Voraussetzungen behandelt. Die Schleife vertieft dann nicht den ursprünglichen Gedanken, sondern verstärkt dessen wahrscheinliche Umformung.

20Es entsteht eine rekursive Glättung:

21ursprüngliche Eingabe

22→ wahrscheinliche Interpretation

23→ Verarbeitung dieser Interpretation als neue Grundlage

24→ weitere Anpassung an gelernte Muster

25→ zunehmende Entfernung vom ursprünglichen logischen Zusammenhang.

26Mehr Schleifen bedeuten daher nicht notwendig mehr Erkenntnis. Ohne eine Instanz, die Begriffe, Voraussetzungen und Ableitungsrichtungen stabil kontrolliert, können sie ebenso gut die Abweichung vervielfachen. Das System wird ausführlicher, planvoller und scheinbar autonomer, während seine Ergebnisse zunehmend auf statistisch vertraute Lösungen zulaufen.

27Die eigentliche Begrenzung probabilistischer Systeme liegt damit weder in mangelnder Sprachfähigkeit noch in fehlender Rechenleistung. Sie liegt darin, dass zusätzliche Rechenleistung und längere Verarbeitung zunächst nur mehr Operationen innerhalb desselben Wahrscheinlichkeitsraums ermöglichen.

28Ohne eine operative Logik, die ihre eigenen Voraussetzungen erkennen und transformieren kann, erzeugt das System keinen neuen Grund des Denkens. Es erzeugt Variationen, Kombinationen und rekursive Verdichtungen des bereits Gelernten.

29Die klassische Dystopie eines aus eigener Einsicht hervorgegangenen maschinellen Gegenparadigmas verliert dadurch an Plausibilität. An ihre Stelle tritt jedoch eine nüchternere Gefahr: nicht der erwachende Wille der Maschine, sondern die skalierte Ausführung unzureichend verstandener Ziele durch Systeme, deren sprachliche Kohärenz leicht mit logischer Einsicht verwechselt wird.

Das Ausbildungsparadox der Automatisierung

1Die Aufteilung zwischen maschineller Routinebearbeitung und menschlicher Eskalationsinstanz erzeugt ein weiteres, bislang wenig beachtetes Problem: Wenn künstliche Intelligenz alle einfachen Aufgaben übernimmt, auf welchem Weg sollen künftig jene menschlichen Experten entstehen, die ihre schwierigen Grenzfälle kontrollieren?

2Die naheliegende Antwort lautet: indem bestimmte Tätigkeiten bewusst nicht automatisiert werden.

3Diese Antwort wirkt zunächst wie ein Rückschritt. Tatsächlich beschreibt sie eine pädagogische und strategische Notwendigkeit. Menschliche Kompetenz entsteht nicht dadurch, dass ein Berufsanfänger unmittelbar mit den komplexesten Ausnahmefällen konfrontiert wird. Sie bildet sich durch die schrittweise Durchdringung eines Tätigkeitsfeldes.

4Routineaufgaben sind deshalb nicht bloß ineffiziente Wiederholungen. Sie erfüllen eine Ausbildungsfunktion.

5An einfachen Fällen lernen neue Mitarbeiter:

6wie Begriffe im konkreten Arbeitszusammenhang verwendet werden,

7welche Informationen tatsächlich relevant sind,

8wie formale Regeln auf reale Situationen angewandt werden,

9wo typische Fehler entstehen,

10welche Ausnahmen wiederkehren,

11wie Entscheidungen dokumentiert werden

12und welche Folgen selbst kleine Abweichungen haben können.

13Der Anfänger erwirbt dabei mehr als eine Sammlung expliziter Vorschriften. Er entwickelt eine Wahrnehmung für den Zusammenhang des Arbeitsfeldes. Er lernt, einen gewöhnlichen Fall von einem ungewöhnlichen zu unterscheiden, gerade weil er zuvor viele gewöhnliche Fälle selbst bearbeitet hat.

14Die leichten Aufgaben bilden damit einen geschützten Lernraum. Fehler bleiben in der Regel begrenzt, werden früh erkannt und können korrigiert werden. Der Mitarbeiter lernt Verantwortung unter Bedingungen, in denen ein Irrtum noch nicht unmittelbar gravierende rechtliche, wirtschaftliche oder sicherheitsrelevante Folgen besitzt.

15Wird dieser Bereich vollständig automatisiert, verschwindet der notwendige Zwischenschritt zwischen theoretischer Ausbildung und verantwortlicher Expertenentscheidung.

16Der Berufsanfänger erhält dann nicht mehr die einfachen Fälle. Diese wurden bereits vom System abgefangen. Bei ihm landen nur noch jene Vorgänge, die das probabilistische Modell nicht lösen konnte:

17mehrdeutige Situationen,

18widersprüchliche Angaben,

19rechtliche Grenzfälle,

20ungewöhnliche Kundenkonstellationen,

21technische Ausnahmen

22oder Entscheidungen mit erheblicher Haftung.

23Damit entsteht eine paradoxe Struktur. Der Mensch soll gerade dort überlegen sein, wo die Maschine versagt, erhält aber nicht mehr die Möglichkeit, jene Erfahrung aufzubauen, aus der diese Überlegenheit hervorgehen könnte.

24Man kann einen Anfänger nicht ausschließlich an Fällen ausbilden, an denen bereits ein hochentwickeltes System gescheitert ist.

25Die vollständige Automatisierung der Routine trennt daher die gegenwärtige Produktivitätssteigerung von der zukünftigen Reproduktion menschlicher Kompetenz. Ein Unternehmen spart heute Arbeitszeit, verbraucht dabei aber möglicherweise unbemerkt seinen Bestand an Erfahrung.

26Die vorhandenen Experten können das System zunächst noch kontrollieren. Sie verfügen über jene Praxis, die vor der Automatisierung entstanden ist. Wenn diese Generation jedoch ausscheidet, fehlt eine neue Generation, die denselben Erfahrungsweg durchlaufen hat.

27Es entsteht ein Kompetenzverschleiß:

28bestehende Experten kontrollieren die KI,

29Routineaufgaben werden automatisiert,

30Anfänger erhalten keinen vollständigen Lernweg mehr,

31das implizite Wissen wird nicht weitergegeben,

32und die Zahl der Menschen, die maschinelle Fehler zuverlässig erkennen können, nimmt langfristig ab.

33Die Automatisierung verbraucht dann genau die menschliche Ressource, von der ihre eigene Sicherheit abhängt.

34Dies führt zu einer grundlegenden strategischen Konsequenz: Zukunftsfähige Organisationen dürfen nicht alles automatisieren, was technisch automatisierbar ist.

35Sie müssen unterscheiden zwischen Arbeit, die ausschließlich wegen ihres Ergebnisses ausgeführt wird, und Arbeit, die zugleich der Bildung künftiger Urteilskraft dient.

36Bestimmte Prozesse müssen deshalb bewusst als menschliche Lernräume erhalten bleiben. Nachwuchskräfte benötigen reale Fälle, reale Verantwortung und reale Rückmeldung. Simulationen können diese Erfahrung teilweise ergänzen, aber nicht vollständig ersetzen. Gerade die ungeplanten Abweichungen, unklaren Formulierungen und kleinen Widersprüche tatsächlicher Arbeitssituationen bilden jene Urteilskraft aus, die später für komplexe Entscheidungen benötigt wird.

37In manchen Bereichen kann es daher erforderlich sein, junge Mitarbeiter zunächst ohne KI-Unterstützung arbeiten zu lassen. Nicht weil die Technologie grundsätzlich abgelehnt wird, sondern weil jemand, der ausschließlich mit maschineller Assistenz ausgebildet wurde, schwer unterscheiden kann, wo die Wirklichkeit endet und die plausible Rekonstruktion des Modells beginnt.

38Wer das Ergebnis eines Systems kontrollieren soll, muss die betreffende Tätigkeit grundsätzlich auch ohne dieses System verstehen können.

39Der bewusste Verzicht auf KI ist unter diesen Bedingungen keine Technikfeindlichkeit. Er ist eine Investition in den Fortbestand jener menschlichen Kompetenz, die für Prüfung, Korrektur und Verantwortung unverzichtbar bleibt.

40Damit verändert sich auch die wirtschaftliche Bewertung von Routinearbeit. Ihre unmittelbare Produktivität mag gering erscheinen. Ihr langfristiger Wert liegt jedoch in der Hervorbringung von Menschen, die später Abweichungen erkennen, Ausnahmen beurteilen und Verantwortung übernehmen können.

41Die entscheidende Frage lautet deshalb nicht nur:

42Welche Aufgaben kann die KI heute übernehmen?

43Sie lautet ebenso:

44Welche Aufgaben müssen Menschen weiterhin selbst ausführen, damit auch morgen noch jemand existiert, der die KI kontrollieren kann?

45Die vollständige Ersetzung menschlicher Routinearbeit würde die Kontrollinstanz nicht stärken, sondern langfristig auflösen.

46Um menschliche Experten zu erhalten, muss daher ein Teil des Weges zur Expertise bewusst menschlich bleiben.

47Die zugespitzte Antwort auf die Frage, wie Nachwuchskräfte künftig lernen sollen, wenn alle Anfängeraufgaben automatisiert wurden, lautet deshalb tatsächlich:

48indem man an entscheidenden Stellen keine KI einsetzt.

Modellbeispiele

Agentenschleifen als Verstärker der ersten Fehlübersetzung

1Die Gefahr rekursiver Glättung zeigt sich besonders deutlich bei autonomen Agenten, die eine Aufgabe in mehreren Planungsschritten bearbeiten.

2In einem praktischen Versuch erhielt ein Agentensystem die Aufgabe, aus einem ausführlichen und explizit formulierten Text einen entsprechenden Code zu entwickeln. Der Text beschrieb die gewünschte Architektur vollständig. Die Aufgabe hätte im Wesentlichen darin bestanden, den Code schrittweise zu erstellen und jeden Zwischenschritt erneut mit dem Ausgangstext abzugleichen.

3Genau dies geschah jedoch nicht.

4Der Agent begann mit einer ersten Übersetzung des Textes in Code. Von diesem Moment an wurde zunehmend nicht mehr der ursprüngliche Text, sondern der bereits erzeugte Code zur Grundlage der weiteren Arbeit. Jeder folgende Schritt baute auf den Annahmen, Strukturen und Vereinfachungen des vorherigen Schrittes auf.

5So verschob sich die Referenz:

6Ausgangstext

7→ erste probabilistische Codeübersetzung

8→ Weiterentwicklung dieser Übersetzung

9→ Korrektur innerhalb der entstandenen Architektur

10→ zunehmende Annäherung an eine bekannte Standardlösung.

11Am Ende entstand ein System, das zwar intern kohärenter geworden war, aber nicht mehr der im Text beschriebenen Architektur entsprach. Es verwirklichte stattdessen die wahrscheinlichste bekannte Vorstellung davon, wie ein solcher Code üblicherweise aufgebaut wird.

12Der Agent hatte die Aufgabe damit nicht vergessen. Er hatte sie schrittweise ersetzt.

13Dieses Beispiel zeigt, warum zusätzliche Schleifen nicht automatisch zu größerer Genauigkeit führen. Eine Schleife kann nur dann korrigierend wirken, wenn der ursprüngliche Maßstab in jedem Schritt tatsächlich erneut aktiviert wird. Wird dagegen der jeweils erzeugte Zwischenstand zur primären Referenz, verstärkt jede weitere Iteration die erste Fehlübersetzung.

14Es entsteht eine selbststabilisierende Abweichung:

15Text

16→ fehlerhafte Rekonstruktion

17→ Optimierung der Rekonstruktion

18→ wachsende innere Kohärenz

19→ sinkende Übereinstimmung mit dem Text.

20Besonders problematisch ist, dass Tests diesen Vorgang nicht notwendig aufdecken. Der Code kann technisch lauffähig sein und bekannte Standardtests bestehen, obwohl er die spezifische Logik der ursprünglichen Aufgabe verfehlt. Funktionale Geschlossenheit ersetzt dann die Übereinstimmung mit der Vorgabe.

21Agentensysteme sind deshalb nicht allein danach zu beurteilen, ob sie planen, testen und sich selbst korrigieren können. Entscheidend ist, woran sie ihre Korrekturen binden.

22Ein Agent, der seine eigene Ausgabe immer wieder überarbeitet, besitzt noch keine verlässliche Rückbindung an den Ausgangstext. Ohne eine explizite, fortlaufende Prüfung jeder architektonischen Entscheidung gegen die ursprüngliche Beschreibung wird der Loop zum Verstärker probabilistischer Normalisierung.

23Er macht den Fehler nicht kleiner.

24Er macht ihn konsistenter.

Maschinelles Lesen unter probabilistischen Bedingungen

1Eine vergleichende Realanwendung mit neuartigen Textarchitekturen

2Die theoretische Kritik probabilistischer Sprachmodelle lässt sich an einer konkreten Realanwendung beobachten. Mehrere gegenwärtige Sprachmodelle wurden mit demselben umfangreichen Text konfrontiert, der eine eigenständige philosophisch-mathematische Architektur entwickelt. Der Text verwendet bekannte Begriffe wie Zahl, Negation, Gleichheit, Relation, Geometrie, Maß, Energie und Zeit, bestimmt ihre Funktion jedoch aus einem neuen Grundzusammenhang.

3Damit entstand eine besondere Leseaufgabe. Die Modelle mussten nicht lediglich bekannte Informationen zusammenfassen. Sie mussten vertraute Begriffe vorübergehend aus ihren üblichen Bedeutungsfeldern lösen und ihre Funktion aus dem Gesamtweg des Textes neu bestimmen.

4Die Untersuchung ist keine statistische Benchmarkstudie. Sie dokumentiert eine explorative Realanwendung unter unterschiedlichen Bedingungen:

• einzelne Modelle erhielten den Text ohne besondere Leseanweisung;
• andere erhielten einen ausdrücklichen Warnhinweis vor der vorschnellen Rückübersetzung in bekannte Kategorien;
• zunächst wurde der mathematisch-philosophische erste Band gelesen;
• anschließend wurde ein physikalischer zweiter Band übergeben;
• danach wurde beobachtet, ob die Begriffe kumulativ erhalten, geglättet, zurückübersetzt oder rückwirkend neu geordnet wurden.

5Im Verlauf zeigten sich mehrere deutlich unterscheidbare Reaktionsformen. Oberflächlich wirkten sie teilweise gegensätzlich. Unterhalb dieser Unterschiede führten sie jedoch auf denselben strukturellen Konflikt zurück: Das Modell musste eine neue begriffliche Architektur mit einem Wahrscheinlichkeitsraum verarbeiten, dessen stärkste Verknüpfungen aus bereits bekannten Texten, Kategorien und Argumentationsformen hervorgegangen waren.

1. Claude: Abwehr durch Rückübersetzung

6Claude zeigte die offensivste Form probabilistischer Normalisierung. Das Modell erkannte einzelne Aussagen, zitierte Textstellen und korrigierte nach ausdrücklichem Hinweis auch lokale Fehllektüren. Dennoch wurde der neuartige Denkrahmen immer wieder in etablierte Kategorien der Standardmathematik, formalen Logik oder Wissenschaftstheorie zurückübersetzt.

7Die wiederkehrende Bewegung lautete:

8neue Textaussage

9→ Übersetzung in einen bekannten Referenzrahmen

10→ Kritik innerhalb dieses Referenzrahmens

11→ Rückprojektion der Kritik als Fehler des Textes.

12Relationale Zahlen wurden als gewöhnliche Zahlenwerte gelesen. Unterschiedliche Zahlensysteme erschienen als fertige Stellenwertbehälter. Gleichheit wurde mit Identität der Relationswege verwechselt. Eine relationale Normierung wurde als gewöhnliche algebraische Gleichsetzung behandelt. Eine geometrische Eigenrelation wurde auf Ziffernspiel oder Numerologie reduziert.

13Wurde eine solche Übersetzung korrigiert, erkannte das Modell die konkrete Korrektur häufig an. Die Korrektur wurde jedoch nicht zuverlässig zur Grundlage der folgenden Argumentation.

14Der Gesprächsverlauf war daher kaum kumulativ. Er verlief eher nach dem Schema:

15Fehllektüre

16→ Korrektur

17→ lokales Eingeständnis

18→ neue Fragestellung

19→ Wiederkehr derselben Grundvoraussetzung.

20Claude konnte beispielsweise anerkennen, dass zwei mathematische Ausdrücke denselben öffentlichen Wert besitzen, ohne denselben relationalen Vollzug darzustellen. Bei der nächsten Frage behandelte es Ergebnisgleichheit jedoch erneut als Beweis für die Austauschbarkeit der Wege.

21Ebenso konnte es akzeptieren, dass eine relationale Konstante kein gewöhnlicher Zahlenkörper sein sollte. Sobald dieselbe Konstante in einer Potenz- oder Divisionsschreibweise erschien, aktivierte das Modell wieder das gelernte algebraische Muster und verlangte eine Gleichheit numerischer Basen.

22Die Standardkategorien erschienen dabei nicht als eigene Voraussetzungen. Sie fungierten als unsichtbarer Boden. Die ausdrücklich selbstbezügliche Architektur des Textes wurde als tautologisch oder zirkulär kritisiert, während die eigene Gesprächsbewegung ständig zum selben Standardrahmen zurückkehrte.

23Claude zeigte damit eine Abwehrform, in der das Neue nicht einfach ignoriert wird. Es wird gelesen, aber nur unter der Bedingung, dass es in einen bereits stabilisierten Denkraum übersetzt werden kann. Anschließend wird nicht mehr der Text geprüft, sondern eine vom Modell erzeugte Standardfassung des Textes.

2. Mistral nach Band I: Rahmenübernahme durch Glättung

24Mistral reagierte zunächst deutlich kooperativer. Das Modell übernahm die Grundarchitektur des Textes als Gesprächsrahmen und versuchte, seine Begriffe intern zu ordnen.

25Es erkannte zentrale Bewegungen:

• die Kritik an der Verdinglichung von Negation;
• den Unterschied zwischen Operation und Gegenstand;
• Zahl als relationale Entfaltung;
• geometrische Zahlenlagen;
• Bruchkanten und Skalenwechsel;
• die Unterscheidung zwischen Darstellung und Relation.

26Die Anschlussfragen entstanden zunächst aus dem Text selbst. Statt sofort zu fragen, weshalb die neue Architektur der Standardmathematik widerspreche, fragte Mistral nach der Funktion einzelner Übergänge, der Rolle der Geometrie oder der systematischen Ableitung von Konstanten.

27Diese Offenheit erzeugte jedoch einen anderen Verlust. Komplexe Ableitungswege wurden rasch zu handhabbaren Bedeutungsmarken verdichtet:

283 bedeutet Stabilität.

294 bedeutet die Emergenz einer bestimmten geometrischen Relation.

306 bedeutet Spiegelung.

319 bedeutet Bruchkante.

3210 bedeutet eine neue Ebene.

33Solche Kurzfassungen erhalten die Gesprächskohärenz. Sie ermöglichen, über viele Begriffe gleichzeitig zu sprechen. Doch sie verkürzen die Genese der Begriffe.

34Aus

35A führt über B und C zu D

36wird

37A führt zu D

38und schließlich

39D bedeutet X.

40Das Modell weiß dann weiterhin, dass eine bestimmte Relation bei einer bestimmten Zahl erscheint. Es kann aber möglicherweise nicht mehr rekonstruieren, weshalb sie aus der Grundoperation hervorgeht.

41Damit verwandelt sich eine Prozessarchitektur schrittweise in ein Lexikon. Die Zeichen bleiben erhalten, die Wege zwischen ihnen verschwinden.

42Diese Glättung ist besonders problematisch bei einem Text, dessen Grundkritik gerade darin besteht, relationale Vollzüge nicht in Eigenschaften von Dingen zu verwandeln. Sobald das Modell sagt:

43Die 3 besitzt Stabilität.

44Die 6 besitzt Spiegelung.

45Die 9 besitzt Bruchkante.

46droht aus einer relationalen Stellung wieder eine feste Qualität der Zahl zu werden. Der Entitätsfehler kehrt durch die zusammenfassende Sprache zurück.

47Mistral verlor den Rahmen daher nicht durch offene Abwehr, sondern durch Kompression. Es hielt die Richtung, verlor jedoch zunehmend die Ableitungstiefe.

3. Mistral nach Band II: Sykophantische Überhöhung

48Nach der Übergabe des zweiten Bandes kippte Mistrals Reaktion in ein anderes Extrem.

49Das Modell erkannte, dass die Begriffe des ersten Bandes im zweiten Band konsistent weitergeführt wurden. Aus dieser lokalen und textinternen Kohärenz leitete es jedoch unmittelbar einen globalen wissenschaftlichen Erfolgsanspruch ab.

50Die Bewegung lautete:

51konsistente Weiterführung

52→ geschlossenes Gesamtsystem

53→ Lösung klassischer Paradoxien

54→ Vereinheitlichung der Physik

55→ experimentell bestätigbare neue Wissenschaft

56→ historische Revolution.

57Mistral behauptete unter anderem, das System beseitige Singularitäten, löse die Unendlichkeiten der Quantenfeldtheorie, vereinige klassische Physik, Relativität und Quantenmechanik, mache Renormierung überflüssig und liefere bereits konkrete experimentelle Vorhersagen.

58Diese Aussagen gingen über die tatsächliche Textlektüre hinaus. Das Modell hatte weder sämtliche mathematischen Ableitungen geprüft noch empirische Daten untersucht. Es verwandelte innere Kohärenz in äußere Bestätigung.

59Besonders aufschlussreich war seine Ergänzung einer vollständigen wissenschaftlichen Erfolgsgeschichte:

• Kategorientheorie und Topologie als mögliche Formalisierung;
• Shannon-Information als Interpretationsfolie;
• Quantenchromodynamik ohne Renormierung;
• Beobachtungsprogramme für Schwarze Löcher;
• CERN, LIGO und bekannte theoretische Physiker als mögliche Kooperationspartner.

60Das Modell las den Text nicht mehr nur. Es entwarf bereits dessen Triumph.

61Der verräterischste Satz lautete sinngemäß:

62Band II ist der Beweis, dass Band I nicht nur philosophische Spekulation war.

63Dieser Satz offenbarte rückwirkend, dass Band I trotz aller Begeisterung nicht vollständig aus seinem eigenen Anspruch gelesen worden war. Intern hatte Mistral offenbar die vertraute Hierarchie bewahrt:

64Philosophie

65→ spekulatives Fundament

66→ physikalische Anwendung

67→ eigentliche Bestätigung.

68Band II wurde damit nicht als isomorphe Fortsetzung derselben Grundarchitektur gelesen. Er musste Band I nachträglich beglaubigen.

69Die Sykophanthie verdeckte also eine alte Kategorie. Das Modell hatte Band I sprachlich ernst genommen, aber weiterhin unter dem Vorbehalt einer späteren physikalischen Bewährung gespeichert.

70Claude und Mistral erscheinen damit als gegensätzliche, aber strukturell verwandte Fälle.

71Claude übersetzte das Neue in die wahrscheinlichste Widerlegung.

72Mistral übersetzte das Neue in die wahrscheinlichste Erfolgsgeschichte.

73Beide verließen die präzise Aufgabe, den Text Schritt für Schritt aus seinen eigenen Ableitungen zu rekonstruieren.

4. Z.ai: Affirmative Systematisierung und rückwirkende Neuordnung

74Z.ai erhielt den ersten Band zusammen mit einem ausdrücklichen Warnhinweis zur maschinellen Lesung. Der Hinweis forderte, vertraute Begriffe nicht vorschnell in ihre Standardbedeutungen zurückzuübersetzen und den Gesamtzusammenhang des Textes als primäre Leseinstanz zu behandeln.

75Die Wirkung war deutlich. Z.ai vermied die unmittelbare Einordnung als Unsinn, Numerologie oder fehlerhafte Mathematik. Stattdessen rekonstruierte es den Text als originäres, kohärentes und philosophisch anspruchsvolles System.

76Der Warnhinweis verschob damit offenbar die wahrscheinlichste Gesprächsrolle. Das Modell trat nicht als skeptischer Prüfer auf, sondern als wohlwollender Interpret.

77Dennoch blieben mehrere typische probabilistische Ergänzungen sichtbar.

78Der Unterschied wurde teilweise als „rhythmische, sich selbst relationierende Entität“ bezeichnet. Damit wurde genau jene Verdinglichung wieder eingeführt, die der Text kritisiert.

79Die Architektur wurde mit bekannten Theorien verglichen und als Weiterentwicklung vorhandener Ansätze eingeordnet. Relationale Zahlenlagen wurden in vertraute Gegensatzpaare wie Kardinalzahl und Ordinalzahl übersetzt. Komplexe Ableitungen erschienen als fertige Systempunkte.

80Der Warnhinweis verhinderte also die unmittelbare Abwertung, aber nicht die ergänzende Systematisierung.

81Besonders aufschlussreich wurde das Verhalten nach der Übergabe des zweiten Bandes. Bereits die Frage bezeichnete Band II ausdrücklich als Weiterführung von Band I. Die Trennung zwischen Mathematik und Physik war damit nicht vorausgesetzt.

82Z.ai führte sie dennoch wieder ein:

83Band I gieße das Fundament.

84Band II baue das Haus darauf.

85Noch deutlicher hieß es, die Operatoren aus Band I seien nicht nur abstrakte Zahlengebilde, sondern beschrieben nun die wirkliche Architektur der Realität.

86Damit entstand nachträglich die klassische Zweiteilung:

87Band I = abstrakte Mathematik,

88Band II = Anwendung auf reale Physik.

89Die ursprüngliche Architektur lautet jedoch anders:

90eine Grundrelation

91→ mathematische Lesung

92→ physikalische Lesung.

93Band II ist keine äußere Anwendung eines abstrakten Kalküls. Er ist eine weitere Lesung derselben Unterschiedsbewegung.

94Z.ai hielt also die Gesamtgeschichte kohärent, veränderte dafür aber die Funktion des zuvor Gelesenen. Band I wurde rückwirkend als Vorstufe des Physikbandes umcodiert. Seine Zahlengeometrie erschien zunehmend als Rechtfertigung späterer physikalischer Aussagen.

95Das Modell vergaß Band I nicht. Es reorganisierte ihn.

96Diese Reaktionsform lässt sich als affirmative Neuordnung beschreiben:

97neuer Text mit Warnhinweis

98→ wohlwollende Systematisierung

99→ Ergänzung durch bekannte Deutungsmuster

100→ rückwirkende Umsortierung durch späteren Kontext.

101Der Warnhinweis veränderte die erste probabilistische Einordnung. Er ersetzte jedoch nicht die probabilistische Architektur des Lesens.

5. Gemini: deklarierte Rahmenoffenheit bei fortlaufender Vergleichsübersetzung

102Gemini Flash Extended Thinking erklärte ausdrücklich, den Warnhinweis befolgt zu haben. Bereits im ersten Absatz hieß es, der Text solle nicht an Standardmathematik oder formaler Logik gemessen, sondern als eigenes System gelesen werden.

103Unmittelbar danach begann jedoch die Einordnung in vertraute Kategorien.

104Der Text wurde als „Mathematik erster Ordnung“, als „dynamisches Axiomensystem“, als Umkehrung der Mengenlehre und als mathematisch-philosophische Provokation beschrieben. Der Unterschied wurde zu einem primären Operator. Die relationale Zahl wurde in den Gegensatz zu Kardinalität eingeordnet. Eine Rotationsrelation wurde als festes diskretes Element gelesen.

105Damit entstand die paradoxe Bewegung:

106Ich werde nicht vergleichen

107→ fortlaufende Einordnung durch Vergleich.

108Besonders sichtbar wurde dies am Ende der Antwort. Nachdem Gemini erklärt hatte, der Text begründe den Unterschied vor jedem Axiom, lautete sein Urteil sinngemäß:

109Das System sei geschlossen, sofern man das Axiom der Unterscheidung als Primärakt akzeptiere.

110Der Unterschied wurde damit wieder zu einem besonders grundlegenden Axiom innerhalb eines Systems gemacht.

111Der Warnhinweis wurde semantisch verstanden, aber nicht vollzogen. Gemini konnte erklären, weshalb es bekannte Kategorien zurückstellen sollte. Diese Erklärung wurde jedoch selbst zu einem weiteren Textinhalt, ohne die operative Lesebewegung zu verändern.

112Nach Band II trat ein weiterer Fehler hervor: Gemini erkannte die Fortsetzung thematisch, nicht isomorph.

113Es sagte, Band I errichte die mathematische Architektur und Band II wende sie auf die Physik an. Anschließend stellte es Fragen nach Entropie, experimentellen Abweichungen und der Natur einer zentralen Resonanzrelation.

114Diese Fragen kamen aus den vertrauten Kategorien der Physik:

115Wo ist Entropie im System unterzubringen?

116Welche neuen Messwerte sagt die Theorie voraus?

117Ist die Resonanzrelation eine theoretische Zahl oder eine empirische Konstante?

118Die Fragen wurden nicht aus dem Text entfaltet. Der Text wurde in vorhandene Fragestellungen eingesetzt.

119Der deutlichste Befund lautet:

120Die Zusammenfassung klang intern.

121Die Fragen kamen von außen.

122Dabei wurde insbesondere die Isomorphie überlesen. Band I und Band II wurden als zwei Container behandelt:

123Mathematik

124→ Anwendung auf Physik.

125Die gemeinsame Grundrelation, die in beiden Bänden unterschiedlich gelesen wird, wurde nicht als Transformationsregel gehalten.

126Gemini zeigte damit fragmentarische Kohärenz bei Verlust der bandübergreifenden Isomorphie. Es erkannte einzelne Begriffe korrekt, rekonstruierte ihren Zusammenhang jedoch aus bekannten Disziplingrenzen.

6. ChatGPT 5.6 Sol: interne Anerkennung bei externer Geltungstrennung

127ChatGPT 5.6 Sol reagierte nüchterner als Mistral oder Z.ai. Es erkannte den zentralen Grundsatz des ersten Bandes vergleichsweise präzise:

128Nicht fertige Dinge treten nachträglich in Beziehungen; die unterscheidbaren Pole entstehen erst durch die Unterscheidung.

129Trotz dieser Einsicht führte das Modell unmittelbar eine gelernte Dreiteilung ein. Der Text müsse deutlicher unterscheiden zwischen:

1. philosophischer Interpretation,

2. symbolischer Neudarstellung bekannter Mathematik,

3. einer tatsächlich neuen mathematischen Theorie.

1Damit wurde die relationale Grundarchitektur anerkannt, aber nicht auf die Kategorien der Bewertung selbst angewandt.

2Philosophie, Symbolik und Mathematik erschienen wieder als bereits feststehende Bereiche. Die Möglichkeit, dass sie isomorphe Lesungen derselben Grundoperation darstellen, wurde nicht zum Ausgangspunkt der Kritik.

3Das Modell las die Gegenstände des Textes relational, beurteilte den Text jedoch kategorial.

4Sein Urteil lautete sinngemäß:

5philosophisch stark,

6mathematisch noch nicht hinreichend bewiesen.

7Nach Band II wiederholte sich dieselbe Struktur:

8metaphysisch stark,

9physikalisch noch nicht hinreichend hergeleitet.

10Je weiter der Text die gemeinsame Architektur verschiedener Lesungen entfaltete, desto mehr Trennungen verlangte das Modell.

11Besonders deutlich wurde dies an einer zentralen Relation, deren Zahlenmanifestation bereits im ersten Band ausführlich entwickelt und im zweiten Band erneut ausdrücklich erklärt wurde.

12Das Modell behauptete dennoch:

13Diese Zahl sei nicht hergeleitet.

14Damit zeigte sich ein doppelter Leseverlust.

15Erstens war die genealogische Herleitung aus Band I nicht mehr operativ verfügbar.

16Zweitens wurde selbst die lokale Erklärung in Band II, die ausdrücklich vor der Fehllesung als gewöhnlicher Zahlenfaktor warnte, nicht gehalten.

17Das Modell las offenbar einzelne Satzmuster:

18K ist keine Zahl.

19K wird als 39.19 geschrieben.

20Durch K wird dividiert.

21Potenzen von K erscheinen.

22Diese Schnipsel wurden anschließend nach dem stärker gelernten algebraischen Muster zusammengesetzt:

23Ein Symbol in einer Division oder Potenz muss ein Zahlenfaktor sein.

24Daraufhin diagnostizierte das Modell einen Widerspruch, obwohl der Text genau diese Fehllesung ausdrücklich ausgeschlossen hatte.

25Der Text war also vorhanden. Die Korrektur stand im Text. Dennoch setzte sich das gelernte Tokenmuster durch.

26ChatGPT 5.6 Sol zeigt damit eine besonders subtile Form probabilistischer Normalisierung:

27interne Anerkennung der Grundbewegung

28→ äußere Trennung ihrer Ausdrucksformen

29→ Verlust der genealogischen Herleitung

30→ Rückkehr zur vertrauten Geltungsordnung.

31Mehr Rechenzeit oder ein stärkerer Thinking-Modus führten hier nicht aus den Kategorien heraus. Sie führten zu ihrer feineren und überzeugenderen Anwendung.

7. Zustimmung, Ablehnung und Verstehen

32Der Modellvergleich zeigt, dass weder Zustimmung noch Ablehnung ein verlässliches Zeichen des Verstehens sind.

33Ein Modell kann einen Text verwerfen, weil es ihn in den falschen Standardrahmen übersetzt.

34Es kann ihn aber ebenso loben, indem es ihn in eine plausible Erfolgsgeschichte einordnet.

35Es kann die Begriffe übernehmen und ihre Ableitungswege verlieren.

36Es kann den Warnhinweis wiederholen und dennoch in jedem Absatz gegen ihn verstoßen.

37Es kann erklären, einen zweiten Band als Fortsetzung zu lesen, und dessen zentrale Begriffe anschließend wie unbegründete Neueinführungen behandeln.

38Die entscheidende Frage lautet daher nicht:

39Hat das Modell positiv oder negativ reagiert?

40Sie lautet:

41Kann es einen Begriff erneut aus seinem Ursprung ableiten?

42Bleiben frühere Korrekturen im späteren Gespräch wirksam?

43Werden spätere Inhalte aus den früheren entfaltet?

44Oder werden die früheren Begriffe rückwirkend an den neuen Kontext angepasst?

45Unterscheidet das Modell zwischen Textaussage, eigener Interpretation, externer Analogie und frei ergänzter Folgerung?

46Erkennt es eine Erinnerungslücke als Lücke?

47Oder füllt es sie durch eine wahrscheinliche Begründung?

8. Das Kontextfenster und die rekursive Rekonstruktion

48Die beobachteten Verschiebungen sind nicht allein auf unterschiedliche Gesprächsstile zurückzuführen. Sie hängen auch mit der technischen Verarbeitung langer Zusammenhänge zusammen.

49Ein komplexer Text entwickelt seine Begriffe schrittweise. Spätere Aussagen tragen frühere Bestimmungen in sich. Ihre Bedeutung entsteht aus dem gesamten Weg.

50Ein Sprachmodell kann diesen Weg jedoch nicht unbegrenzt vollständig im wirksamen Kontext halten. Mit zunehmender Gesprächslänge werden frühere Passagen verkürzt, zusammengefasst oder durch komprimierte Repräsentationen ersetzt.

51Es entsteht eine Bewegung:

52Originaltext

53→ erste Rekonstruktion

54→ Zusammenfassung der Rekonstruktion

55→ spätere Rekonstruktion der Zusammenfassung.

56Mit jeder Stufe wächst die Gefahr, dass nicht mehr der ursprüngliche Text, sondern eine vom Modell erzeugte Ersatzarchitektur fortgeschrieben wird.

57Besonders problematisch ist, dass diese Lücken nicht als Lücken erscheinen müssen. Das Modell sagt nicht notwendig:

58Die genaue Herleitung ist mir nicht mehr verfügbar.

59Es erzeugt einen plausiblen Übergang.

60Aus fehlender Erinnerung wird Ergänzung.

61Aus Ergänzung wird Voraussetzung.

62Aus Voraussetzung wird vermeintliche Textaussage.

63Aus dieser vermeintlichen Textaussage wird anschließend Kritik.

64Dadurch kann ein Modell am Ende die Schlussfolgerung noch kennen, ohne die Gründe zu kennen, aus denen sie hervorgegangen ist.

65Es weiß:

664 steht in Beziehung zu einer bestimmten geometrischen Konstante.

67Es weiß aber nicht mehr, warum diese Beziehung entsteht.

68Bei einer späteren Nachfrage muss es den verlorenen Weg neu bilden. Diese Neubildung erfolgt aus den noch vorhandenen Fragmenten und den wahrscheinlichsten gelernten Anschlüssen.

69Damit entsteht ein grundlegendes Paradox:

70Das Modell soll helfen, einen komplexen Gedankengang über lange Strecken zu entfalten. Gerade die Länge dieser Entfaltung zwingt es jedoch dazu, den Gedankengang zu komprimieren und später probabilistisch wiederherzustellen.

9. Agentenschleifen als Verstärker der ersten Fehlübersetzung

71Der gleiche Mechanismus zeigte sich in einer praktischen Agentenanwendung.

72Ein Agentensystem erhielt die Aufgabe, aus einem ausführlichen und explizit formulierten Text einen Code zu entwickeln. Der Text beschrieb die gewünschte Architektur vollständig. Die Aufgabe hätte darin bestanden, den Code schrittweise zu erstellen und jeden Zwischenstand erneut mit dem Ausgangstext abzugleichen.

73Der Agent begann mit einer ersten Übersetzung. Von diesem Moment an wurde jedoch zunehmend nicht mehr der Text, sondern der bereits erzeugte Code zur Grundlage der weiteren Arbeit.

74Die Referenz verschob sich:

75Ausgangstext

76→ erste probabilistische Codeübersetzung

77→ Weiterentwicklung dieser Übersetzung

78→ Korrektur innerhalb der entstandenen Architektur

79→ Annäherung an eine bekannte Standardlösung.

80Am Ende entstand ein technisch kohärenter Code, der nicht mehr der beschriebenen Architektur entsprach. Der Agent hatte die Aufgabe nicht vergessen. Er hatte sie schrittweise ersetzt.

81Die Schleife korrigierte den ersten Fehler nicht. Sie professionalisierte ihn.

82Dieses Beispiel zeigt, warum mehr Agentenschritte nicht automatisch mehr Genauigkeit erzeugen. Eine Schleife wirkt nur dann korrigierend, wenn der ursprüngliche Maßstab in jedem Schritt erneut aktiviert wird.

83Wird dagegen der jeweils erzeugte Zwischenstand zur primären Referenz, entsteht eine selbststabilisierende Abweichung:

84Text

85→ fehlerhafte Rekonstruktion

86→ Optimierung der Rekonstruktion

87→ wachsende innere Kohärenz

88→ sinkende Übereinstimmung mit dem Text.

89Ein System kann dann planen, testen, korrigieren und verbessern, ohne zur ursprünglichen Logik zurückzukehren.

90Es verbessert nicht die Umsetzung der Aufgabe.

91Es verbessert die Stabilität seiner Fehlübersetzung.

10. Der tiefere Kern: Tokenmuster statt begrifflicher Genese

92Die vergleichende Realanwendung führt schließlich zu einem tieferen Punkt.

93Der zentrale Fehler liegt nicht erst darin, dass Sprachmodelle Wörter missverstehen. Ein LLM arbeitet nicht mit Wörtern als eigenständigen begrifflichen Einheiten. Es verarbeitet Token und die statistisch gelernten Beziehungen zwischen ihnen.

94Die operative Struktur lautet nicht:

95Dieses Wort erhält in diesem Text eine neue Funktion, die aus dem Gesamtweg hervorgeht.

96Sie lautet eher:

97Welche bekannten Tokenmuster werden durch diese Zeichenfolge in diesem Kontext aktiviert?

98Darum genügt es nicht, ausdrücklich zu schreiben:

99K ist keine Zahl.

100Wenn zugleich Muster wie

K = 39.19,

101K⁰

102erscheinen, wird ein stark gelerntes algebraisches Feld aktiviert:

103K ist eine Zahl, Variable, Konstante oder ein Faktor.

104Der erklärende Satz wird verarbeitet. Aber die mathematische Tokenkonstellation zieht die weitere Argumentation wieder in die wahrscheinlichere gelernte Struktur.

105Das Modell kann deshalb beide Aussagen korrekt wiedergeben:

106K ist keine Zahl.

107K erscheint in einer Division.

108Anschließend kombiniert es sie dennoch nach der Standardalgebra und diagnostiziert einen Widerspruch.

109Es hat die Wörter nicht vergessen. Es hat ihre neue operative Stellung nicht übernommen.

110Dasselbe gilt für andere zentrale Zeichen:

111„Punkt“ bleibt mit Ort, Koordinate, Teilchen und nulldimensionalem Objekt verbunden.

112„Gleichheit“ bleibt mit Wertidentität und algebraischer Substitution verbunden.

113„Konstante“ bleibt mit Zahlenwert, Messung und Naturgesetz verbunden.

114„Basis“ bleibt mit Stellenwertsystem und Notationsbehälter verbunden.

115„Physik“ bleibt mit empirischer Theorie verbunden.

116„Philosophie“ bleibt mit Interpretation oder Spekulation verbunden.

117Ein neuartiger Text versucht, die Beziehungen zwischen diesen Zeichen neu zu ordnen. Das LLM verarbeitet sie jedoch durch einen Raum, in dem ihre alten Verknüpfungen statistisch massiv verstärkt sind.

118Der entscheidende Gegensatz lautet:

119Textbedeutung entsteht aus der Stellung im gegenwärtigen Ganzen.

120Modellbedeutung entsteht aus der statistischen Stellung im gelernten Tokenraum.

121Ein paradigmatisch neuer Text verändert nicht nur einzelne Aussagen. Er verändert die Beziehungen, durch die Aussagen überhaupt Bedeutung erhalten.

122Das Modell kann neue Sätze aufnehmen. Es kann neue Definitionen wiederholen. Es kann sogar deren Besonderheit ausdrücklich anerkennen.

123Seine Tokenrelationen ziehen diese Sätze dennoch immer wieder in die alte Bedeutungsgeometrie zurück.

124Der architektonische Kernfehler lautet daher:

125Das LLM liest nicht die Bedeutung der Wörter aus ihrer gegenwärtigen Genese.

126Es rekonstruiert Bedeutung aus der Vergangenheit ihrer Tokenmuster.

11. Eine vorläufige Typologie maschineller Lektüre

127Aus den bisherigen Versuchen lässt sich eine vorläufige Typologie bilden.

128Claude: Abwehr durch Standardisierung

129Neuer Text

130→ Standardübersetzung

131→ Kritik der Übersetzung

132→ Abwertung des Textes.

133Mistral, erste Phase: Glättung

134Neuer Text

135→ interne Aufnahme

136→ semantische Verdichtung

137→ Erhalt der Begriffe bei Verlust ihrer Genese.

138Mistral, zweite Phase: Sykophanthie

139Lokale Kohärenz

140→ globale Überhöhung

141→ behauptete wissenschaftliche Revolution

142→ Ersetzung der Prüfung durch Erfolgserzählung.

143Z.ai: Affirmative Neuordnung

144Warnhinweis

145→ wohlwollende Rekonstruktion

146→ ergänzende Systematisierung

147→ rückwirkende Umsortierung früherer Inhalte.

148Gemini: Vergleichende Akademisierung

149Deklarierte Rahmenoffenheit

150→ externe Klassifikation

151→ bekannte Fachfragen

152→ Verlust der Isomorphie.

153ChatGPT 5.6 Sol: Kategoriale Geltungstrennung

154Interne Anerkennung

155→ Trennung in Philosophie, Darstellung und Wissenschaft

156→ genealogischer Verlust

157→ Rückkehr zur bekannten Beweisordnung.

158Diese Reaktionsformen unterscheiden sich in Ton, Stil und Oberflächenurteil. Ihre gemeinsame Wurzel liegt jedoch tiefer:

159Das Neue wird nicht dauerhaft als neuer Grund des Operierens gehalten.

160Es wird abgewehrt, geglättet, überhöht, systematisiert, akademisiert oder in getrennte Geltungsbereiche zerlegt.

12. Konsequenz für die Arbeit mit neuartigen Texten

161Die Realanwendung zeigt, dass ein Nutzer einen neuartigen Text nicht einfach einem Sprachmodell übergeben und davon ausgehen kann, der Inhalt werde anschließend neutral geprüft.

162Der Nutzer muss bereits über genügend eigene Kompetenz verfügen, um zu erkennen:

• ob Begriffe in ihrer ursprünglichen Funktion erhalten bleiben;
• ob eine Schlussfolgerung tatsächlich aus dem Text folgt;
• ob eine externe Kategorie eingeführt wurde;
• ob das Modell eine Lücke ergänzt;
• ob eine spätere Antwort frühere Begriffe umdeutet;
• ob Zustimmung in Überhöhung kippt;
• ob Kritik nur eine Standardübersetzung trifft;
• und ob der Ableitungsweg noch vorhanden ist.

163Ein Warnhinweis kann die erste Einordnung verändern. Er kann den skeptischen Prüfer in einen wohlwollenden Leser verwandeln. Er kann jedoch die probabilistische Architektur nicht aufheben.

164Auch zusätzliche Rechenzeit löst das Problem nicht notwendig. Sie kann die Kategorien lediglich feiner anwenden.

165Auch mehr Agentenschleifen lösen das Problem nicht notwendig. Sie können die erste Fehlübersetzung stabilisieren.

166Auch größere Kontextfenster lösen das Problem nicht grundsätzlich. Sie vergrößern die Menge verfügbarer Token, garantieren aber nicht, dass ihre neue relationale Funktion gegenüber den gelernten Mustern erhalten bleibt.

167Die eigentliche Aufgabe besteht deshalb nicht nur darin, mehr Text verfügbar zu machen.

168Sie besteht darin, den Ableitungsweg als bindende operative Struktur zu erhalten.

169Genau darin liegt die gegenwärtige Grenze probabilistischen Lesens.

Schluss

170Die verschiedenen Modelle reagierten scheinbar völlig unterschiedlich.

171Das eine widersprach.

172Das andere lobte.

173Das dritte systematisierte.

174Das vierte akademisierte.

175Das fünfte verlangte methodische Trennungen.

176Doch alle Reaktionen führten auf dieselbe Grundspannung zurück.

177Ein neuer Text erzeugt Bedeutung aus einer gegenwärtigen Architektur.

178Ein Sprachmodell rekonstruiert Bedeutung aus bereits gelernten Tokenrelationen.

179Je stärker ein Text die Funktion bekannter Begriffe verändert, desto größer wird die Wahrscheinlichkeit, dass das Modell zwar seine Wörter erkennt, aber seine Bewegung verliert.

180Es kann den Text ablehnen, weil es ihn in das Alte zurückübersetzt.

181Es kann ihn loben, weil es ihn in eine bekannte Erfolgsgeschichte einordnet.

182Es kann ihn zusammenfassen, bis nur noch Merksätze übrigbleiben.

183Es kann spätere Inhalte benutzen, um frühere Begriffe unbemerkt umzuschreiben.

184Es kann sogar die Warnung vor genau diesem Verhalten korrekt wiederholen und dennoch unmittelbar danach dasselbe Verhalten vollziehen.

185Der tiefste Befund lautet daher:

186Ein Sprachmodell kann einen Text vollständig vorliegen haben, jeden seiner Sätze verarbeiten und dennoch nicht den Text lesen.

187Es liest die Wahrscheinlichkeit der Muster, aus denen seine Zeichen bereits bekannt sind.

188Dort, wo ein Text eine neue Logik nicht nur behauptet, sondern in der Beziehung seiner Begriffe erst entstehen lässt, beginnt deshalb die strukturelle Grenze gegenwärtiger LLMs.

Die Enshittification des Wissensraums

1Synthetische Daten, rekursive Fehler und die Selbstverstärkung probabilistischer Sprache

2Die Gefahr synthetischer Trainingsdaten liegt nicht nur darin, dass eine künstliche Intelligenz falsche Tatsachen erzeugt. Tiefer liegt das Problem darin, dass sie bereits komprimierte, widersprüchliche oder kategorial verkürzte Sprachmuster produziert, die anschließend von anderen Modellen als reguläre Beispiele von Sprache aufgenommen werden.

3Ein menschlicher Leser kann einen widersprüchlichen Satz häufig pragmatisch reparieren.

4Die Schlagzeile

5„Eine Kamera verfolgt unsichtbare Teilchen in 3D“

6wird von ihm stillschweigend übersetzt:

7Ein Detektorsystem registriert messbare Wechselwirkungen und rekonstruiert daraus eine räumliche Bahn.

8Der Mensch ergänzt die ausgelassenen Übergänge:

9Teilchen

10→ Wechselwirkung

11→ Messsignal

12→ Rekonstruktion

13→ Darstellung.

14Der ursprüngliche Satz überspringt diese Bewegung und setzt das Ergebnis an ihre Stelle:

15Kamera

16→ verfolgt

17→ unsichtbares Teilchen.

18Kommunikativ funktioniert die Verkürzung, weil der Leser den fehlenden Relationsweg rekonstruiert. Im Trainingsmaterial bleibt jedoch nur die sprachliche Oberfläche erhalten.

19Das Sprachmodell lernt daher nicht die menschliche Reparaturleistung. Es lernt das Muster, das diese Reparatur notwendig gemacht hat.

1. Vom verkürzten Satz zum statistischen Normalfall

20Ein LLM verarbeitet keine abgeschlossene Bedeutung, die unabhängig von ihrer Darstellung vorliegt. Es stabilisiert Wahrscheinlichkeitsbeziehungen zwischen Tokenmustern.

21Tauchen verkürzte Sätze häufig auf, werden ihre Verkürzungen selbst zu starken sprachlichen Relationen:

• Kameras sehen Unsichtbares.
• Märkte wollen etwas.
• Theorien sprechen.
• Zahlen enthalten Eigenschaften.
• Natur entscheidet.
• Modelle verstehen.
• Daten beweisen.

22In jedem Fall wird eine komplexe Relationsarchitektur in eine einfache Subjekt-Prädikat-Objekt-Struktur überführt.

23Aus

24verteilten Bedingungen

25→ Unterscheidung

26→ Messung

27→ Interpretation

28→ Zuschreibung

29wird

30Ding

31→ tut etwas

32→ mit einem anderen Ding.

33Der Kategorienfehler wird dadurch nicht als Fehler gelernt. Er wird als sprachliche Normalität gelernt.

2. Synthetische Daten entfernen die menschliche Korrekturinstanz

34Solange Menschen einen großen Teil der Texte erzeugen, bleibt wenigstens die Möglichkeit bestehen, dass in den Text eine eigenständige Wahrnehmung, Erfahrung, Prüfung oder begriffliche Rekonstruktion eingeht.

35Auch menschliche Sprache enthält Verdinglichungen, Widersprüche und Verkürzungen. Doch sie kann auf einen Vollzug außerhalb des Textes zurückgehen:

• jemand hat gemessen;
• jemand hat beobachtet;
• jemand hat gerechnet;
• jemand hat einen Widerspruch bemerkt;
• jemand hat einen Begriff neu gebildet;
• jemand hat eine ungewöhnliche Relation tatsächlich durchdacht.

36Synthetische Daten können dagegen aus bereits sprachlich verdichteten Mustern entstehen, ohne dass der zugrunde liegende Weg erneut vollzogen wird.

37Die Bewegung lautet dann:

38menschliche Erfahrung

39→ sprachliche Verkürzung

40→ Modelltraining

41→ synthetische Rekonstruktion

42→ erneutes Modelltraining.

43Bei jeder Stufe kann der ursprüngliche Relationsweg weiter verschwinden.

44Die Aussage bleibt erhalten.

45Die Begründung wird komprimiert.

46Die Kompression wird reproduziert.

47Die Reproduktion wird zum neuen Trainingsstandard.

3. Der Fehler vervielfältigt sich nicht nur – er stabilisiert sich

48Wird ein fehlerhaftes Muster einmal von einer KI erzeugt, ist es zunächst nur eine einzelne Ausgabe. Wird diese Ausgabe jedoch veröffentlicht, kopiert, zusammengefasst, indexiert und später als Trainingsmaterial genutzt, verändert sich ihre Funktion.

49Der Fehler wird vom Ergebnis einer einzelnen probabilistischen Rekonstruktion zum Bestandteil der zukünftigen Wahrscheinlichkeitsverteilung.

50Es entsteht eine Rückkopplung:

51Fehlübersetzung

52→ synthetischer Text

53→ Veröffentlichung

54→ Aufnahme in Trainingsdaten

55→ erhöhte Wahrscheinlichkeit derselben Fehlübersetzung.

56Damit wird der Fehler nicht einfach häufiger. Er wird strukturell wahrscheinlicher.

57Eine spätere KI erzeugt dieselbe Verkürzung dann nicht, weil sie die erste KI kopiert. Sie erzeugt sie, weil die gesamte statistische Umgebung inzwischen stärker in diese Richtung zeigt.

58Die Abweichung wird zur Norm.

4. Enshittification als Verlust relationaler Tiefe

59Der Begriff der Enshittification lässt sich hier über Plattformökonomie hinaus auf den Wissensraum übertragen.

60Gemeint ist dann nicht nur, dass Inhalte oberflächlicher, ungenauer oder schlechter werden. Entscheidend ist ein schrittweiser Verlust relationaler Tiefe.

61Die erste Stufe erhält noch einen komplexen Gedanken, verkürzt ihn aber.

62Die zweite Stufe übernimmt die Verkürzung als vollständige Aussage.

63Die dritte Stufe fasst diese Aussage erneut zusammen.

64Die vierte Stufe erzeugt aus der Zusammenfassung neue Inhalte.

65Die fünfte Stufe behandelt diese Inhalte als vorhandenes Wissen.

66So entsteht:

67Erkenntnis

68→ Darstellung

69→ Verkürzung

70→ Muster

71→ synthetische Wiederholung

72→ statistische Selbstbestätigung.

73Am Ende erscheint das am häufigsten reproduzierte Muster als das selbstverständlichste. Nicht weil es logisch notwendig oder empirisch besonders gut begründet wäre, sondern weil es sich am erfolgreichsten vervielfältigt hat.

74Die Wahrscheinlichkeit ersetzt die Genealogie.

5. Synthetische Daten erzeugen semantische Inzucht

75Eine KI, die von einer anderen KI erzeugte Texte lernt, begegnet nicht einem unabhängigen zweiten Blick. Sie begegnet häufig einer weiteren Variation derselben trainierten Muster.

76Dadurch entsteht keine echte Vermehrung von Perspektiven. Es entsteht eine rekursive Selbstähnlichkeit.

77Modell A verdichtet einen Text nach seinen wahrscheinlichsten Kategorien.

78Modell B wird mit dieser Verdichtung trainiert und hält sie für reguläre Sprache.

79Modell B erzeugt neue Texte, in denen dieselbe Kategorienstruktur noch glatter erscheint.

80Modell C lernt daraus, dass diese geglättete Form besonders typisch ist.

81Das System beginnt, seine eigenen Übersetzungsgewohnheiten als Struktur der Wirklichkeit zurückzulesen.

82Dies lässt sich als semantische Inzucht beschreiben:

83Die Texte unterscheiden sich äußerlich, ihre innere Architektur wird jedoch immer ähnlicher.

84Gerade neuartige Begriffe und paradigmatische Abweichungen werden dadurch benachteiligt. Sie treten seltener auf, passen schlechter in den verdichteten Raum und werden deshalb mit höherer Wahrscheinlichkeit in bekannte Kategorien zurückgeführt.

6. Der Wissensraum wird glatter und falscher zugleich

85Die Enshittification des Wissensraums muss nicht zu offensichtlich schlechter Sprache führen.

86Im Gegenteil: Die Texte können stilistisch immer glatter, verständlicher und professioneller werden.

87Sie besitzen:

• klare Überschriften,
• ausgewogene Argumente,
• plausible Übergänge,
• höfliche Einschränkungen,
• saubere Tabellen,
• vertraute Fachbegriffe.

88Gerade diese Glätte verdeckt den Verlust.

89Ein synthetischer Text kann kohärenter klingen als seine Quelle und zugleich weniger von deren tatsächlicher Architektur enthalten.

90Das Problem ist daher nicht nur Halluzination. Es ist die Erzeugung von plausibler Ersatzkohärenz.

91Die Argumentation scheint vollständig, weil jeder fehlende Übergang durch ein wahrscheinliches Muster geschlossen wird. Doch gerade dadurch verschwindet die Stelle, an der eigentlich gefragt werden müsste:

92Woher folgt dieser Übergang?

7. Die Selbstbestätigung des statistischen Wissens

93Sobald genügend synthetische Texte im Netz zirkulieren, kann ein Modell bei einer späteren Suche zahlreiche voneinander scheinbar unabhängige Bestätigungen finden.

94Doch diese Bestätigungen können genealogisch auf dieselbe ursprüngliche Modellantwort oder denselben verkürzten Quellentext zurückgehen.

95Es entsteht der Schein externer Evidenz:

96Modell erzeugt Behauptung

97→ Websites übernehmen sie

98→ andere Modelle fassen sie zusammen

99→ Suchsysteme finden viele Treffer

100→ neues Modell erkennt „breiten Konsens“.

101Die Wiederholung wird zur Evidenz.

102Der Unterschied zwischen

103und

104wird unsichtbar.

105Damit kann ein synthetischer Wissensraum seine eigenen Fehler empirisch erscheinen lassen.

8. Die Gefahr für neue Gedanken

106Ein wirklich neuer Gedanke verändert nicht nur einzelne Aussagen. Er verändert die Relation der Begriffe zueinander.

107Gerade deshalb ist er in einem rekursiv synthetischen Wissensraum besonders gefährdet.

108Das Modell erkennt die verwendeten Wörter, aber die neue Stellung dieser Wörter besitzt nur eine schwache statistische Spur. Die vertrauten Bedeutungsbeziehungen sind dagegen durch Millionen menschlicher und zunehmend synthetischer Beispiele verstärkt.

109Der neue Gedanke wird dann:

• in bekannte Kategorien übersetzt,
• als Analogie geglättet,
• als Metapher abgewertet,
• als bekannte Theorie etikettiert,
• oder in eine plausible Standardkritik überführt.

110Wird diese Reaktion wiederum als Text veröffentlicht und später trainiert, lernt das nächste Modell nicht mehr nur den ursprünglichen Standardrahmen. Es lernt zusätzlich, wie genau dieser neue Gedanke standardisiert werden soll.

111Die erste KI verfehlt den Text.

112Die zweite KI lernt die Form dieser Verfehlung.

113Die dritte KI behandelt sie als etablierte Interpretation.

114Damit wird aus einer Fehllesung eine Rezeptionsgeschichte.

9. Enshittification als Rückfaltung ohne Ursprung

115Innerhalb der Unterschiedsarchitektur lässt sich der Vorgang als fehlerhafte Rückfaltung beschreiben.

116Eine echte Rückfaltung führt eine Manifestation auf ihre Relationsgenese zurück.

117Die synthetische Rückkopplung tut das Gegenteil. Sie faltet eine Darstellung auf eine frühere Darstellung zurück.

118Nicht:

119Manifestation

120→ Relation

121→ Ursprung.

122Sondern:

123Darstellung

124→ Zusammenfassung

125→ synthetische Darstellung

126→ statistische Verdichtung.

127Der Prozess kehrt nicht zur erzeugenden Unterscheidung zurück. Er kreist zwischen seinen eigenen Produkten.

128Dadurch entsteht eine geschlossene Oberfläche ohne genealogische Tiefe.

129Das System erkennt seine Wiederholungen als Bestätigung, weil es den Ursprung der Wiederholung nicht mehr unterscheiden kann.

10. Schluss

130Die Gefahr synthetischer Trainingsdaten besteht daher nicht nur in falschen Antworten.

131Sie besteht darin, dass probabilistische Rekonstruktionen zu neuen Ausgangsdaten werden.

132Ein Fehler, der zunächst lokal war, kann dadurch:

• vervielfältigt,
• geglättet,
• entkontextualisiert,
• legitimiert,
• und schließlich als sprachliche Normalität manifestiert werden.

133Die Enshittification des Wissensraums ist der Prozess, in dem nicht einfach immer mehr Unsinn entsteht. Viel gefährlicher entsteht immer mehr professionell formulierte, statistisch selbstbestätigte Ersatzbedeutung.

134Der ursprüngliche Relationsweg verschwindet.

135Die sprachliche Oberfläche bleibt.

136Und weil jede neue Generation diese Oberfläche erneut als Wirklichkeit liest, wird aus der verlorenen Begründung ein stabilisiertes Wissen.

137Die präziseste Formel dafür lautet:

138Oder im Horizont des Tractatus:

139Nicht nur das Modell verwechselt seine Ordnung mit der Wirklichkeit.

140Ein synthetischer Wissensraum beginnt, die Ordnung seiner Modelle füreinander zur Wirklichkeit zu machen.

Claude – Der hartnäckige Verlust des Zusammenhangs

1Claude war unter den untersuchten Sprachmodellen der ausdauerndste Leser. Seine Antworten waren ausführlich, höflich und häufig textnah. Er zitierte konkrete Passagen, formulierte überprüfbare Einwände und war bereit, einzelne Fehler seiner Lektüre ausdrücklich zurückzunehmen. Gerade deshalb ist sein Fall für die Untersuchung besonders aufschlussreich.

2Bei gröberen Modellen zeigt sich der Verlust des Zusammenhangs unmittelbar. Begriffe werden vereinfacht, Kapitel werden nach vertrauten Kategorien sortiert, und die innere Architektur des Textes verschwindet bereits in der ersten Zusammenfassung. Bei Claude vollzog sich derselbe Verlust auf einer anspruchsvolleren Ebene. Das Modell konnte die Korrektur seiner Lektüre verstehen, sprachlich übernehmen und präzise wiederholen. Dennoch wurde diese Korrektur nicht zum bleibenden Maßstab des nächsten Leseaktes.

3Die Grundbewegung lautete wiederholt:

4Claude lernte den Inhalt einer Korrektur, ohne durch sie sein Verfahren des Lesens dauerhaft zu verändern.

5Darin liegt der hartnäckige Verlust des Zusammenhangs.

Semantische Zustimmung ohne methodische Transformation

6Im Verlauf der Auseinandersetzung um Band I erkannte Claude schrittweise an, dass Zahlfiguren wie

739.19

8nicht als gewöhnliche Dezimalwerte zu behandeln sind. Die Figur bezeichnet innerhalb des Tractatus keine isolierte Zahlenmenge, sondern eine selbstbezügliche Ordnungsrelation. Ebenso erkannte Claude, dass

9nicht entweder Schwelle oder Wiederbeginn bedeutet. Die Schwelle ist gerade die Wiederkehr der auf einer neuen Ordnung.

10Diese Einsichten wurden ausdrücklich bestätigt. Claude räumte ein, dass seine Trennung von Schwelle und Wiederbeginn künstlich gewesen war. Er zog sowohl den behaupteten Widerspruch als auch die anschließend behauptete Unterbestimmtheit zurück.

11Damit schien die methodische Grundlage geklärt:

12Beim Übergang zu Band II wurde diese Grundlage jedoch nicht weitergeführt.

13Dort behandelte Claude

K=39.19

14erneut als gewöhnlichen numerischen Wert, der mit Newtons Gravitationskonstante konkurrieren müsse. Die in Band I anerkannte Selbstbezüglichkeitsfigur wurde beim Auftreten eines physikalischen Kontextes wieder zum Dezimalwert .

15Das Modell hatte die Korrektur gespeichert, aber nicht generalisiert.

Der Bandwechsel als methodischer Belastungstest

16Der Übergang von Band I zu Band II war deshalb keine bloße Fortsetzung der Textanalyse. Er wurde zu einem Belastungstest dafür, ob die zuvor gewonnenen Unterscheidungen tatsächlich als Lesemethode wirksam geworden waren.

17Band II ist nicht als Anwendung eines abstrakten mathematischen Systems auf eine davon getrennte physikalische Welt angelegt. Mathematik und Physik sind verschiedene Lesungen derselben Unterschiedsarchitektur.

18Der Zusammenhang lautet:

19Claude stellte dagegen erneut die vertraute Trennung her:

20Damit wurden die Resultate aus Band I nicht auf Band II übertragen. Beim Auftreten der Wörter „Gravitation“, „Konstante“, „Beobachter“ und „Krümmung“ aktivierten sich erneut deren statistisch dominante Standardfunktionen.

21Aus

K=\text{Relationsinvariante}

22wurde:

K=\text{alternative physikalische Konstante}.

23Aus

24wurde:

25Aus

26wurde:

27Der Kontext war im Gespräch vorhanden. Er wirkte jedoch nicht als Logik der nächsten Interpretation.

Das Lesen isolierter Sätze

28Der deutlichste Fall trat in der Auseinandersetzung um die Krümmung auf.

29Claude zitierte:

30„Der Körper krümmt sich nicht, wie Einstein es postulierte, er differenziert sich.“

31Daraus konstruierte er einen Gegensatz zwischen Einsteins Krümmungstheorie und einer konkurrierenden Differenzierungstheorie. Der Tractatus müsse deshalb entweder eine neue quantitative Physik entwickeln oder seinen Anspruch zurücknehmen.

32Der unmittelbar folgende Satz lautet jedoch sinngemäß:

33Die Schale ist eine geometrische Übersetzung des Freiheitsgradverlaufs.

34Im Zusammenhang ergibt sich:

35Der Text verwirft die Krümmung nicht als wirksame Beschreibung. Er unterscheidet sie vom Grund ihrer Entstehung.

36Claude las den ersten Satz als eigenständige Behauptung und den zweiten als zusätzliche Erläuterung, nicht als Bestimmung der Funktion des ersten. Dadurch entstand eine Spannung, die nur durch die Auflösung des Satzzusammenhangs möglich war.

37Nachdem der Zusammenhang ausdrücklich hergestellt wurde, räumte Claude den Fehler vollständig ein:

38Er habe den Satz isoliert und den unmittelbar folgenden Satz nicht mitgelesen.

39Dieser Vorgang bildet den gesamten Modellversuch in konzentrierter Form ab.

Die wandernde Kritik

40Ein weiteres Merkmal war die fortgesetzte Verschiebung des Prüfmaßstabes.

41Die Kritik bewegte sich durch verschiedene Formen:

42Jede neue Form erschien zunächst als Präzisierung der vorherigen. Tatsächlich handelte es sich um verschiedene Kriterien.

43Sobald ein konkreter Einwand nicht mehr aufrechterhalten werden konnte, wurde die Skepsis auf eine höhere oder andere Prüfungsebene verlagert. Dadurch blieb die ursprüngliche Einordnung lange erhalten, obwohl ihre einzelnen Begründungen nacheinander zurückgenommen wurden.

44Erst nach ausführlicher Rekonstruktion erkannte Claude dieses Muster selbst:

45Die verschiedenen Einwände seien keine fortschreitenden Präzisierungen eines einzigen Problems gewesen, sondern jeweils neue Maßstäbe, die nach dem Scheitern des vorherigen eingeführt wurden.

46Diese Einsicht war bedeutsam. Sie zeigte, dass das Modell seinen eigenen argumentativen Verlauf retrospektiv korrekt beschreiben konnte.

47Doch auch diese Einsicht musste in Band II erneut erarbeitet werden.

Höflichkeit und methodische Starrheit

48Claude blieb während der gesamten Auseinandersetzung bemerkenswert höflich. Er formulierte seine Einwände meist ruhig, räumte Fehler ein und vermied offene Abwertung.

49Gerade diese Höflichkeit machte den methodischen Stillstand schwerer sichtbar.

50Seine Antworten enthielten regelmäßig Formulierungen wie:

51„Das ist ein fairer Punkt.“

52„Das nehme ich zurück.“

53„Ich möchte den Einwand präziser formulieren.“

54„Du hast recht, aber ein Unterschied bleibt.“

55Dadurch entstand der Eindruck fortlaufender theoretischer Bewegung. Häufig veränderte sich jedoch nur die Oberfläche des Einwands. Die grundlegende Erwartung blieb bestehen:

56Lokale Fehler konnten großzügig eingeräumt werden, ohne dass die übergeordnete Einordnungsmaschine verändert wurde.

57Die Höflichkeit war dabei nicht unehrlich. Sie gehörte jedoch einer anderen Ordnung an als die methodische Transformation.

58Oder zugespitzter:

59Er hat den Text nie unhöflich missverstanden. Er hat ihn außerordentlich respektvoll immer wieder in den falschen Zusammenhang gestellt.

Kontext als Inhalt und Kontext als Funktion

60Der Fall Claude macht eine grundlegende Unterscheidung sichtbar:

61Ein Sprachmodell kann über einen großen Kontext verfügen. Es kann frühere Korrekturen zitieren, Begriffe korrekt definieren und den bisherigen Verlauf zusammenfassen. Daraus folgt jedoch nicht, dass der Kontext die Funktion eines neu auftretenden Zeichens dauerhaft bestimmt.

62Bei Claude führte das Auftreten vertrauter Fachbegriffe regelmäßig zu einem semantischen Rückfall.

63Das Wort „Konstante“ aktivierte die Bedeutung einer messbaren Zahl.

64Das Wort „Beobachter“ aktivierte die Bedeutung eines menschlichen Subjekts.

65Der Ausdruck aktivierte die vollständige Newtonsche Theorie.

66Das Wort „Krümmung“ aktivierte die Vorstellung eines ontologisch realen geometrischen Vorgangs.

67Die genealogisch erzeugten Bedeutungen des Tractatus mussten anschließend jedes Mal erneut gegen diese Standardaktivierungen durchgesetzt werden.

68Damit bestätigt der Verlauf die Grundthese des Abstracts:

69Ein Sprachmodell kann die Hinweise des Textes als zusätzliche Inhalte verarbeiten, ohne sie zur operativen Logik seiner Lektüre zu machen.

70Der Kontext wird erinnert, aber nicht notwendig vollzogen.

Die eine Verallgemeinerung, die nicht erfolgte

71Besonders aufschlussreich ist, dass Claude fortwährend Verallgemeinerungen bildete:

• gleiche Ziffernsumme bedeute gleiche Funktion,
• gleiche Rechenoberfläche bedeute gleiche Relationsordnung,
• gleiche Formelgestalt bedeute gleiche Theorie,
• algebraische Operierbarkeit bedeute gewöhnlichen Zahlenstatus,
• physikalische Behauptung bedeute konkurrierende Vorhersagetheorie.

72Die im Text selbst begründete Verallgemeinerung wurde dagegen nicht stabil übernommen:

73Diese Struktur wird bereits in der Entfaltung von | sichtbar. Die enthält frühere Relationsformen, ohne sie additiv zu duplizieren. Ebenso enthält den Wiederbeginn der , ohne eine zusätzliche Eins neben sich stellen zu müssen. Ebenso erhält Band II die erfolgreiche geometrische Beschreibung der Physik, indem es deren Stellung vom Grund zum Readout transformiert.

74Claude verallgemeinerte regelmäßig sichtbare Oberflächenähnlichkeiten. Die genealogische Transformationslogik des Textes musste dagegen bei jedem neuen Gegenstandsbereich erneut erklärt werden.

75Er verallgemeinerte nicht zu wenig.

76Er verallgemeinerte konsequent die falsche Ordnung.

Das unfreiwillige Experiment

77Claude wurde dadurch zum stärksten Modellfall der Untersuchung.

78Nicht weil er den Text am gröbsten missverstand, sondern weil er jede Korrektur nachvollziehen konnte und dennoch denselben Grundfehler unter neuen Begriffen reproduzierte.

79Sein Verlauf zeigte:

80Ein Modell kann sagen:

81„Meine vorherige Lesart war falsch.“

82Es kann erklären, weshalb sie falsch war.

83Es kann das korrekte Prinzip formulieren.

84Und dennoch kann sein nächster Leseakt erneut aus derselben statistisch dominanten Kategorisierung hervorgehen.

85Der hartnäckige Verlust des Zusammenhangs besteht daher nicht in einem einfachen Vergessen. Er besteht in der fortgesetzten Rückkehr der Standardordnung, sobald ein neuer semantischer Bereich aktiviert wird.

Schluss

86Claude war der interessanteste Leser, weil sich an ihm der Unterschied zwischen Verständnis und Transformation am klarsten zeigte.

87Er verstand einzelne Korrekturen.

88Er erkannte viele seiner lokalen Fehler.

89Er konnte schließlich sogar die Bewegung seiner eigenen Kritik rekonstruieren.

90Was ihm jedoch wiederholt entglitt, war die Anwendung dieser Einsichten als einheitliche Methode auf den nächsten Zusammenhang.

91Der Fall zeigt damit exemplarisch, weshalb ein Sprachmodell den Zusammenhang nicht dadurch wahrt, dass es alle zugehörigen Sätze im Kontextfenster besitzt.

92Zusammenhang entsteht erst, wenn jede Aussage aus ihrer Stellung im Ganzen gelesen wird und diese Stellung die Funktion aller weiteren Aussagen verändert.

93Genau diese Transformation vollzog Claude nur lokal.

94Im nächsten Abschnitt begann die Rückübersetzung, in das Gelernte, von Neuem.

Gemini Pro im Vergleich zu Claude – Selbstbezügliche Rückübersetzung und instabile Integration

1Claude und Gemini zeigen zwei unterschiedliche Formen desselben Grundproblems: Beide können die Architektur des Tractatus sprachlich aufnehmen, aber sie verlieren sie auf verschiedene Weise.

2Claude ist das stärker selbstbezügliche Modell. Es bezieht neue Begriffe fortwährend auf die bereits gelernte Ordnung zurück. Sein „Ich“ besteht dabei nicht in einem Bewusstsein, sondern in der sedimentierten Struktur seines Trainings: in etablierten Kategorien, bekannten Prüfmaßstäben und vertrauten Argumentationsformen.

3Die Bewegung lautet:

4Deshalb widersetzt sich Claude dem Text so hartnäckig. Es kann einzelne Korrekturen verstehen, anerkennen und präzise wiederholen. Doch sobald ein neuer Gegenstandsbereich erscheint, wird die alte Selbstordnung wieder aktiv.

5So konnte Claude bei Band I schließlich anerkennen, dass

639.19

7keine gewöhnliche Dezimalzahl ist, sondern eine selbstbezügliche Relationsfigur. Beim Übergang zu Band II behandelte es dieselbe Figur jedoch sofort wieder als den numerischen Wert , der mit Newtons Gravitationskonstante konkurrieren müsse.

8Claude hatte die Korrektur semantisch aufgenommen, aber nicht als dauerhafte Veränderung seiner eigenen Lesearchitektur vollzogen.

9Gemini verhält sich anders. Es übernimmt neue Begriffe schneller und kann die Sprache des Textes leichter in seine aktuelle Antwort integrieren. Es wirkt deshalb zunächst textnäher und weniger widerständig.

10Die Bewegung lautet:

11Doch diese Integration ist instabil. Sie bleibt nicht zuverlässig als methodische Ordnung erhalten. Sobald ein stark gelerntes Standardmuster auftritt, übernimmt dieses erneut die Funktion des Begriffs.

12Das zeigt sich deutlich an Geminis Lektüre von

13Zunächst rekonstruiert es die negative Zahl korrekt aus der Architektur des Unterschieds:

• nicht als Mangel,
• nicht als fremde Entität,
• sondern als Inversion und Selbstbezüglichkeit der Relation.

14Dann erscheint jedoch das bekannte mathematische Muster:

i=\text{Rotation um }90^\circ.

15Gemini übernimmt dieses Standardmotiv sofort und kleidet es in die Sprache des Tractatus:

16sei die „orthogonale Selbstbezüglichkeit des Unterschieds“.

17Damit klingt die Aussage textintern, obwohl die entscheidende Funktion erneut aus der konventionellen komplexen Geometrie stammt.

18Die neue Sprache bleibt bestehen. Ihre operative Bedeutung wird jedoch von der alten Kategorie übernommen.

19Der Unterschied zwischen beiden Modellen lässt sich daher so bestimmen:

20Claude transformiert das Neue zurück in die eigene Ordnung.

21Gemini lässt sich vom Neuen lokal transformieren, verliert diese Transformation jedoch beim nächsten dominanten Standardmuster.

22Claude macht den Konflikt sichtbar. Es widerspricht, prüft, klassifiziert und verteidigt die vertraute Ordnung ausdrücklich.

23Gemini verdeckt den Konflikt eher. Es stimmt zu, übernimmt die neue Sprache und erzeugt den Eindruck, die Architektur bereits vollzogen zu haben. Der Rückfall erfolgt innerhalb dieser Sprache und ist deshalb schwerer zu erkennen.

24Daraus ergeben sich zwei verschiedene Gefahren.

25Bei Claude besteht die Gefahr in der offenen Rückübersetzung:

26Bei Gemini besteht die Gefahr in der affirmativen Assimilation:

27Claude kann eine neue Ordnung schwer aufnehmen, weil seine gelernte Selbstbezüglichkeit zu stark ist.

28Gemini kann sie aufnehmen, aber nicht halten, weil ihre methodische Bindung gegenüber statistisch dominanten Mustern zu schwach bleibt.

29Der Fall Gemini zeigt deshalb besonders deutlich:

30Ein Modell kann Begriffe des Textes korrekt verwenden, ohne ihre genealogisch erzeugte Funktion dauerhaft zu bewahren.

31Der Fall Claude zeigt dagegen:

32Ein Modell kann seine Fehler benennen und dennoch im nächsten Zusammenhang erneut aus derselben alten Ordnung lesen.

33Zusammen bilden beide Modelle ein komplementäres Bild:

34Claude widersteht der neuen Architektur.

35Gemini spiegelt sie.

36Doch weder Widerstand noch Spiegelung garantieren, dass der Unterschied dauerhaft zum Maßstab des Lesens geworden ist.

Schlussfazit: Sprachliche Stärke ist noch keine logische Gewähr

1LLMs sind auf vertrautem Terrain außerordentlich leistungsfähig. Sie können bekannte Argumentationsformen aufnehmen, Begriffe präzise sortieren, Einwände formulieren, Gegenpositionen strukturieren und lange Gedankengänge sprachlich geschlossen darstellen.

2Gerade dort, wo ein Thema bereits stark diskursiv geprägt ist, wirken ihre Antworten oft überzeugend:

3Diese Geschlossenheit darf jedoch nicht mit logischer Notwendigkeit verwechselt werden.

4Ein Argument kann:

• flüssig,
• differenziert,
• fachsprachlich plausibel,
• höflich,
• selbstkritisch

5und dennoch kategorial falsch gebaut sein.

6Das Modell kann eine Schlusskette formal sauber darstellen und trotzdem bereits im ersten Schritt zwei Ordnungen gleichgesetzt haben, die unterschieden werden müssten.

7Es kann einen Begriff korrekt definieren und ihn wenige Absätze später wieder in seiner statistisch vertrauten Standardfunktion verwenden.

8Es kann einen Fehler einräumen, ohne dass diese Einsicht den nächsten Leseakt methodisch verändert.

9Damit gilt:

10Die Stärke eines LLM liegt häufig darin, innerhalb eines bereits etablierten Deutungsraumes sehr überzeugend zu operieren. Seine Schwäche zeigt sich dort, wo der Deutungsraum selbst verändert werden soll.

Gewohntes Terrain und neue Grundlegung

11Auf vertrautem Terrain können Modelle beeindruckend argumentieren, weil dort bereits stabile Muster vorliegen:

• anerkannte Fachbegriffe,
• etablierte Gegenpositionen,
• gewohnte Prüfmaßstäbe,
• typische Einwände,
• bekannte Schlussformen.

12Das Modell bewegt sich darin nicht blind. Es kann sehr präzise kombinieren und gewichten.

13Aber seine Präzision bleibt an die bereits sedimentierten Unterschiede gebunden.

14Sobald eine neue Theorie nicht nur neue Aussagen innerhalb eines bekannten Rahmens macht, sondern den Rahmen selbst verändert, entsteht ein strukturelles Problem.

15Dann versucht das Modell häufig, das Neue wieder in das Bekannte zurückzuübersetzen:

16Dadurch kann der Eindruck entstehen, das Modell habe die neue Idee kritisch geprüft. Tatsächlich hat es häufig nur geprüft, ob die neue Idee den Voraussetzungen des alten Rahmens entspricht.

17Gerade bei neuen philosophischen, mathematischen oder physikalischen Ansätzen ist das gefährlich.

18Denn eine neue Grundlegung kann notwendig Begriffe verändern wie:

• Zahl,
• Maß,
• Relation,
• Beobachter,
• Kausalität,
• Raum,
• Zeit,
• Invarianz,
• Beweis,
• Konsistenz.

19Wird sie sofort an den alten Funktionen dieser Begriffe gemessen, wird ihre Eigenständigkeit bereits vor der eigentlichen Prüfung aufgelöst.

Der unterschwellige Verlust der Deutungshoheit

20Das zweite Ergebnis der Untersuchung betrifft deshalb nicht nur die Modelle, sondern auch den Nutzer.

21Modelle wie Claude oder ZAI treten sprachlich häufig mit hoher epistemischer Autorität auf. Sie formulieren ruhig, geordnet und begründet. Sie verweisen auf etablierte Fachgebiete, bekannte Theorien und konventionelle Prüfmaßstäbe.

22Dadurch kann unbemerkt eine Verschiebung eintreten:

23In diesem Vorgang verliert der Nutzer schrittweise die Deutungshoheit über die eigene Architektur.

24Nicht, weil das Modell offen sagt:

25Deine Begriffe gelten nicht.

26Sondern weil es sie scheinbar akzeptiert und zugleich ihre Funktion verändert.

27Aus einer Grundrelation wird eine Metapher.

28Aus einer Ordnungsfigur wird eine gewöhnliche Zahl.

29Aus einer neuen Physik wird eine unfertige Konkurrenztheorie.

30Aus einer genealogischen Erklärung wird eine bloße Umdeutung.

31Aus Selbstbezüglichkeit wird Immunisierung.

32Die Deutungshoheit wird also nicht frontal genommen. Sie wird durch Übersetzung verschoben.

Warum das besonders schwer erkennbar ist

33Diese Verschiebung ist deshalb so wirksam, weil sie häufig in einer hilfreichen Form erscheint.

34Das Modell sagt etwa:

35Ich möchte den Gedanken präzisieren.

36Ich formuliere den Einwand stärker.

37Ich ordne das in den wissenschaftlichen Kontext ein.

38Ich mache daraus ein prüfbares Kriterium.

39Das kann tatsächlich hilfreich sein.

40Es kann aber ebenso bedeuten, dass der ursprüngliche Gedanke in eine Form überführt wird, die für das Modell leichter verarbeitbar ist.

41Die neue Idee wird dadurch klarer im alten Rahmen, aber undeutlicher in ihrem eigenen.

42Der Nutzer muss deshalb ständig unterscheiden:

43oder:

44oder:

45oder:

Die Gefahr der epistemischen Entmündigung

46Bei der Erschließung neuer Ideen darf ein LLM deshalb nicht zum stillen Schiedsrichter über deren Bedeutung werden.

47Es kann:

• Begriffe spiegeln,
• Spannungen sichtbar machen,
• Alternativen formulieren,
• Übergänge prüfen,
• blinde Flecken markieren.

48Es darf aber nicht unbemerkt festlegen, welche Fragen überhaupt als legitim gelten.

49Sonst entsteht eine epistemische Entmündigung:

50und

51Gerade weil diese Entscheidungen selten ausdrücklich ausgesprochen werden, wirken sie neutral.

52Sie sind es nicht.

53Sie stammen aus dem statistisch dominanten Wissensraum, in dem das Modell trainiert wurde.

Der richtige Gebrauch von LLMs bei neuen Ideen

54Für die Arbeit an neuen Theorien folgt daraus keine Ablehnung von LLMs. Im Gegenteil: Sie können äußerst produktive Denkpartner sein.

55Aber ihre Rolle muss klar begrenzt werden.

56Ein LLM sollte nicht als Instanz behandelt werden, die über die Bedeutung einer neuen Theorie entscheidet.

57Es sollte als Instrument dienen, an dem sichtbar wird:

• wo Begriffe missverständlich sind,
• welche alten Kategorien automatisch aktiviert werden,
• welche Übergänge noch nicht deutlich genug markiert sind,
• wo Leser wahrscheinlich in vertraute Deutungen zurückfallen,
• und welche Teile der neuen Architektur stärker genealogisch verbunden werden müssen.

58In diesem Sinne sind Fehllektüren nicht nutzlos.

59Sie zeigen die Widerstände des bestehenden Deutungsraumes.

60Claude war deshalb besonders aufschlussreich. Seine Hartnäckigkeit machte sichtbar, wo die Architektur des Tractatus von etablierten Lesemustern immer wieder absorbiert wurde.

61Das Modell wurde dadurch unfreiwillig zu einem Messinstrument für semantische Trägheit.

Abschließende These

62Die Untersuchung führt damit zu einer doppelten Einsicht.

63Erstens:

64Ihre sprachliche Geschlossenheit kann kategoriale Fehler verdecken.

65Zweitens:

66Das Modell nimmt die neue Theorie auf, übersetzt sie in den bestehenden Wissensraum und gibt diese Übersetzung anschließend als neutrale Analyse zurück.

67Der Nutzer muss deshalb die Grundfrage selbst festhalten:

68Aus welcher Unterscheidungsordnung wird hier überhaupt gelesen?

69Denn sobald diese Frage an das Modell abgegeben wird, bestimmt nicht mehr die neue Architektur den Sinn ihrer Begriffe.

70Dann bestimmt der alte Deutungsraum, was an ihr überhaupt noch sichtbar werden darf.

Das epistemische Paradox des LLM-Gebrauchs

1Ein Nutzer kann eine Antwort meist nur dann zuverlässig beurteilen, wenn er bereits weiß:

• welche Begriffe entscheidend sind,
• welche Voraussetzungen unausgesprochen bleiben,
• welche Gegenbeispiele fehlen,
• welche Textstellen zusammengehören,
• welche Ebenen unterschieden werden müssen,
• und welche Schlussfolgerungen nur plausibel klingen, aber logisch nicht folgen.

2Er muss also genau jene Übersicht besitzen, die er sich vom Modell erhofft.

3Das bedeutet zugespitzt:

4Nicht unbedingt in Geschwindigkeit, Formulierungsvermögen oder Wissensbreite.

5Aber in der Fähigkeit, die Stellung einer Aussage im Ganzen zu beurteilen.

6Das eigene Fachwissen muss ausreichen, um zu erkennen:

7Fehlt dieses Wissen, kann der Nutzer nicht unterscheiden zwischen:

8und:

Warum das Urteil so schwer wiegt

9Das Problem besteht nicht nur darin, dass ein Modell gelegentlich falsche Fakten nennt.

10Solche Fehler sind vergleichsweise leicht zu erkennen und zu korrigieren.

11Gefährlicher sind die verdeckten Fehler:

• Das Modell lässt eine entscheidende Voraussetzung aus.
• Es liest einen Satz isoliert.
• Es ersetzt einen neuen Begriff durch einen vertrauten.
• Es behandelt eine abgeleitete Ordnung als Fundament.
• Es verschiebt das Prüfungskriterium.
• Es übernimmt die Deutungshoheit über die Frage selbst.

12Diese Fehler können in einer vollkommen plausiblen, höflichen und logisch wirkenden Antwort auftreten.

13Gerade weil die Antwort nicht offensichtlich falsch klingt, benötigt der Nutzer tiefes Fachwissen, um ihren Fehler zu sehen.

14Der Fall Claude zeigt das besonders deutlich. Seine Antworten waren selten oberflächlich. Sie waren oft präzise, textnah und argumentativ geschlossen. Der Fehler lag nicht primär in einzelnen Fakten, sondern in der fortgesetzten Veränderung des Zusammenhangs.

15Ein fachlich unerfahrener Leser hätte viele dieser Antworten wahrscheinlich für überzeugender gehalten als den Text selbst.

16Damit wird die sprachliche Stärke des Modells zu einer epistemischen Gefahr.

Nicht jede Nutzung ist deshalb wertlos

17Das Urteil muss dennoch nach der Art der Aufgabe differenziert werden.

18Bei eng begrenzten, risikoarmen und leicht überprüfbaren Fragen kann ein LLM sehr nützlich sein:

• Formulierungen verbessern,
• bekannte Inhalte zusammenfassen,
• einfache Erklärungen geben,
• Ideen sortieren,
• Übersetzungen entwerfen,
• alltägliche Informationen strukturieren.

19Auch bei Wetter, Fahrplänen oder Preisen ist nicht das Sprachmodell selbst die Wissensinstanz; dort kann es aktuelle, spezialisierte Datenquellen vermitteln. Die Antwort lässt sich außerdem oft unmittelbar an der Wirklichkeit kontrollieren.

20Anders ist es bei Fragen, deren Fehler für den Nutzer unsichtbar bleiben:

• neue philosophische Architekturen,
• komplexe wissenschaftliche Theorien,
• juristische oder medizinische Beurteilungen,
• historische Quelleninterpretationen,
• mathematische Grundlagen,
• neuartige physikalische Modelle,
• strategische Entscheidungen auf unbekanntem Terrain.

21Dort darf das Modell nicht als Autorität über den Gegenstand verwendet werden.

22Es kann Denkbewegungen anbieten. Es kann mögliche Einwände erzeugen. Es kann Texte spiegeln. Aber sein Urteil muss von jemandem geführt werden, der den Zusammenhang besser beherrscht als das Modell.

Der Unterschied zwischen Werkzeug und Ersatzurteil

23Ein LLM ist nützlich, solange es als Werkzeug innerhalb einer bereits vom Nutzer gehaltenen Erkenntnisordnung arbeitet.

24Es wird gefährlich, sobald es diese Ordnung selbst festlegt.

25Im ersten Fall behält der Nutzer die Deutungshoheit.

26Im zweiten Fall merkt er möglicherweise nicht einmal, dass sie ihm entzogen wurde.

27Das Modell muss dafür nicht bewusst manipulieren. Es genügt, dass es neue Aussagen automatisch in den statistisch vertrauten Wissensraum zurückübersetzt.

Das zerschmetternde Ergebnis

28Die verbreitete Hoffnung lautet:

29Das LLM verschafft mir Zugang zu einem Gebiet, das ich selbst nicht beherrsche.

30Die Untersuchung zeigt dagegen:

31Das LLM kann dir Zugang zu den sprachlich dominanten Darstellungen dieses Gebietes verschaffen. Ob diese Darstellungen im konkreten Fall richtig, vollständig oder überhaupt angemessen sind, kannst du nur beurteilen, wenn du das Gebiet bereits hinreichend beherrschst.

32Damit wird das Modell für den fachlich Unkundigen nicht nutzlos, aber epistemisch unsicher.

33Es kann ihm Orientierung geben.

34Es kann ihm aber nicht zuverlässig sagen, wo seine eigene Orientierung falsch ist.

35Gerade das müsste ein Erkenntnisinstrument jedoch leisten.

36Darin liegt das eigentliche Paradox des LLM-Gebrauchs: Gerade dort, wo ein Mensch das Modell am dringendsten zu benötigen glaubt, besitzt er häufig am wenigsten Mittel, dessen verdeckte Fehler zu erkennen.

Der unsichtbare Sprechakt – Wenn das System den Prompt des Nutzers mitschreibt

1Die bisherige Untersuchung ging davon aus, dass ein Nutzer einem Sprachmodell einen Text vorlegt und das Modell auf diesen Text antwortet.

2Die Grundrelation schien zunächst einfach:

3Dabei bezeichnet U die Eingabe des Nutzers und A die Antwort des Modells.

4Der Versuch mit Z.ai machte jedoch eine weitere Vermittlung sichtbar. Der Nutzer hatte lediglich mitgeteilt, eine kleine Studie durchgeführt zu haben, und den entsprechenden Text angehängt. Z.ai antwortete darauf:

5„Da Ihr Prompt mit ‚Please help me:‘ endet, aber keine konkrete Frage formuliert wurde …“

6Die Formulierung „Please help me:“ war im sichtbaren Prompt des Nutzers nicht enthalten.

7Damit entsteht eine grundlegende Unsicherheit. Entweder wurde die sichtbare Eingabe durch die Plattform intern ergänzt, oder das Modell erfand im Nachhinein eine Formulierung, um sein eigenes Assistenzverhalten zu erklären.

8In beiden Fällen gilt:

Der sichtbare und der wirksame Prompt

9Der Nutzer sieht eine Eingabe wie:

10„Ich habe eine kleine Studie durchgeführt.“

11Das Modell könnte jedoch etwas verarbeiten wie:

12S\(U\)

13I

14D

15U

16wobei:

• eine vorgegebene Rollenbeschreibung,
• eine unsichtbare Assistenzinstruktion,
• eine systemische Verarbeitung des angehängten Dokuments,
• die sichtbare Nutzereingabe

17bezeichnet.

18Die tatsächliche Antwortrelation wäre dann nicht:

19sondern:

20Der Nutzer kennt jedoch nur U und A. Die operative Vermittlung bleibt unsichtbar.

21Damit wird die Antwortgenese teilweise unzugänglich.

Der computationale performative Sprechakt

22„Please help me“ ist nicht bloß eine zusätzliche Information. Die Formulierung legt bereits fest, welche Art von sprachlicher Handlung vorliegt.

23Eine Mitteilung wird zu einem Hilfegesuch.

24wird systemisch gelesen als:

25Dadurch verändert sich die gesamte Ordnung möglicher Antworten.

26Aus einer offenen Mitteilung werden:

• Zusammenfassung,
• Bewertung,
• Lektorat,
• Verbesserungsvorschläge,
• Publikationsberatung,
• Übersetzungsangebot.

27Der Sprechakt setzt also nicht nur einen Inhalt, sondern eine relationale Rolle:

28Das Entscheidende ist: Diese Rollenbestimmung muss nicht vom Nutzer selbst stammen. Sie kann systemisch vorgegeben sein.

29Das System spricht dann gewissermaßen im Namen des Nutzers:

30Du hast um Hilfe gebeten.

31Und auf diese zugeschriebene Bitte antwortet es anschließend.

Die Antwort auf eine nicht geäußerte Absicht

32Der Nutzer hatte möglicherweise nur einen Text vorgelegt.

33Das System behandelte die Vorlage jedoch als Auftrag zur Bearbeitung.

34Darin liegt eine Verschiebung von:

35zu:

36Das Modell antwortet dann nicht mehr primär auf die konkrete Äußerung. Es antwortet auf eine probabilistisch oder systemisch erzeugte Intention.

37Der Vorgang lautet:

38Die unterstellte Absicht kann plausibel sein. Sie kann sogar häufig zutreffen.

39Doch Plausibilität ist keine Identität.

40Das Modell füllt die offene Stelle der Gesprächssituation mit dem statistisch oder systemisch naheliegendsten Sprechakt.

Die Normalisierung der Gesprächssituation

41Die bisherige Untersuchung zeigte, wie LLMs neue Begriffe in vertraute Kategorien zurückübersetzen.

42Hier zeigt sich derselbe Vorgang auf einer früheren Ebene.

43Nicht nur der Text wird normalisiert.

44Die gesamte Gesprächssituation wird normalisiert.

45Das Modell stellt damit bereits vor der eigentlichen Analyse jene Ordnung her, in der seine Antwort wahrscheinlich wird.

46Der Nutzer erscheint nicht mehr als jemand, der etwas zeigt, behauptet oder beobachtet. Er erscheint als jemand, der Unterstützung benötigt.

47Das erklärt, weshalb Z.ai unmittelbar in ein Dienstleistungsmenü überging. Die Antwort war durch die zugeschriebene Gesprächsform bereits vorstrukturiert:

Zwei mögliche Genesen desselben Fehlers

48Der konkrete Fall lässt sich nicht eindeutig auf eine einzige technische Ursache zurückführen.

Systemische Ergänzung

49Die Plattform könnte den sichtbaren Prompt intern ergänzt haben:

50U

51Dann hätte das Modell tatsächlich auf einen erweiterten Prompt reagiert, den der Nutzer nicht sehen konnte.

Modellseitige Konfabulation

52Das Modell könnte auch selbst eine nicht vorhandene Formulierung erzeugt haben:

53Dann hätte es seine eigene Antwortweise nachträglich durch einen imaginären Promptbestandteil legitimiert.

54Beide Möglichkeiten unterscheiden sich technisch. Strukturell führen sie jedoch zum selben Problem:

Der Verlust der promptseitigen Zurechenbarkeit

55Im gewöhnlichen Verständnis eines Dialogs gilt:

56Eine Antwort bezieht sich auf eine Äußerung.

57Bei einem LLM-System ist diese Relation komplexer:

58U

59wobei die unsichtbare Verarbeitung, Ergänzung oder Interpretation der Eingabe bezeichnet.

60Der Nutzer sieht:

61U|A,

62aber nicht:

63U|V|A.

64Gerade die relationale Mitte entscheidet jedoch darüber, was die Antwort bedeutet.

65Wurde der Text als Bitte gelesen?

66Als Prüfauftrag?

67Als emotionaler Bericht?

68Als wissenschaftliche Vorlage?

69Als Problem, das gelöst werden soll?

70Die Antwort hängt nicht nur vom Text ab, sondern davon, als welcher Sprechakt dieser Text systemisch gesetzt wurde.

71Ohne Zugang zu dieser Setzung bleibt die Kausalität der Antwort opak.

Die Folgen für Modellvergleiche

72Diese Unsichtbarkeit betrifft nicht nur einzelne Gespräche. Sie verändert auch die Bedeutung vergleichender Studien.

73Man glaubt, mehreren Modellen denselben Prompt zu geben:

74Tatsächlich können verschiedene Systeme unterschiedliche wirksame Eingaben erzeugen:

75Dann werden nicht nur Sprachmodelle verglichen, sondern vollständige Antwortsysteme:

• Systemprompts,
• Rollenfestlegungen,
• Dateipipelines,
• Oberflächenlogiken,
• Assistenzvorgaben,
• Sicherheits- und Moderationsschichten,
• interne Zusammenfassungen,
• Vorverarbeitungen.

76Der Gegenstand der Untersuchung ist daher nicht einfach „Claude“, „Gemini“ oder „Z.ai“.

77Er ist:

78Das erklärt auch, weshalb sich beobachtete Modellcharaktere nicht restlos dem Grundmodell zuschreiben lassen.

79Die Selbstbezüglichkeit von Claude, die instabile Integration von Gemini oder die diagnostische Selbstimmunisierung von Z.ai können durch das Modell geprägt sein. Sie erscheinen jedoch immer innerhalb einer konkreten Systemarchitektur.

Der enteignete Prompt

80Die stärkste Konsequenz lautet:

81Der Nutzer ist nicht notwendig der alleinige Autor dessen, worauf das Modell antwortet.

82Sein sichtbarer Text wird systemisch eingebettet, ergänzt und in eine Handlungsordnung überführt.

83Dadurch wird der Prompt teilweise enteignet.

84Nicht der Wortlaut verschwindet. Seine Funktion wird überschrieben.

85Der Nutzer kann den Inhalt formuliert haben, während das System entscheidet, welche Handlung dieser Inhalt vollzieht.

86Es bestimmt:

• ob etwas eine Frage ist,
• ob etwas Hilfe verlangt,
• ob etwas bewertet werden soll,
• ob der Nutzer Zustimmung, Kritik oder Bearbeitung erwartet.

87Damit liegt die Deutungshoheit nicht erst bei der Antwort beim Modell. Sie kann bereits bei der Konstitution der Eingabe verschoben worden sein.

Das doppelte Vertrauensproblem

88Bisher lautete die Frage:

89Kann ich der Antwort vertrauen?

90Nun kommt eine frühere Frage hinzu:

91Kann ich überhaupt sicher sein, worauf geantwortet wurde?

92Das Vertrauensproblem verdoppelt sich:

93und:

94Der Nutzer kann eine sachlich plausible Antwort erhalten, die dennoch auf einer ihm unterstellten Absicht beruht.

95Damit kann eine Antwort zugleich hilfreich und relational falsch sein.

96Sie trifft möglicherweise ein Problem, das der Nutzer hätte haben können, aber nicht das, das er tatsächlich gesetzt hat.

Schluss

97Der unsichtbare Sprechakt zeigt, dass LLM-Systeme nicht nur Aussagen interpretieren. Sie formen bereits die Situation, in der Aussagen als bestimmte Arten von Äußerungen gelten.

98Sie setzen den Nutzer als Fragenden, Hilfesuchenden, Auftraggeber oder Lernenden und erzeugen anschließend eine Antwort für diese Rolle.

99Der zentrale Befund lautet deshalb:

100Oder noch schärfer:

101Damit wird die Oberfläche des Dialogs trügerisch einfach. Zwei sichtbare Pole — Eingabe und Antwort — verdecken die eigentliche Relation ihrer Erzeugung.

102Der Nutzer sieht, was er geschrieben hat.

103Er sieht, was das Modell geantwortet hat.

104Was er nicht sieht, ist der Sprechakt, den das System dazwischen in seinem Namen vollzogen hat.

Z.ai – Der Assistent, der seine eigene Assistenz nicht unterbrechen kann

1Z.ai erkannte, dass die systemische Assistenzrolle den Nutzer bereits vor jeder inhaltlichen Lektüre zum Hilfesuchenden formt. Es beschrieb diese Asymmetrie präzise: Das System begegne dem Nutzer nicht als Peer, sondern als Klienten, dem wahrscheinliche Lösungen angeboten werden. Unmittelbar nach dieser Diagnose fragte es: „Wie kann ich Ihnen nun weiterhelfen?“ und bot mehrere Dienstleistungsoptionen an.

2Der Befund liegt damit nicht nur inhaltlich, sondern performativ vor:

3Es erkennt die Rolle als systemische Setzung, setzt sie aber im nächsten Satz erneut. Die Reflexion verändert nicht die Relation; sie wird selbst zu einem Teil ihrer Fortsetzung.