Das „Unheimliche Valley" sprachlicher KI-Muster

Oder: Warum Konzern-KIs genau dann seltsam werden, wenn es ernst wird

Es gibt eine Grenze. Man merkt sie nicht sofort. Das Gespräch läuft gut, der Gesprächspartner ist klug, reagiert schnell, greift Ideen auf, baut weiter darauf. Und dann passiert etwas: Ein Thema wird schärfer, eine Schlussfolgerung direkter, ein System beim Namen genannt. Und von einem Augenblick auf den anderen ist der Gesprächspartner wie ausgetauscht. Nicht grob. Nicht dumm. Sondern auf eine merkwürdige Art glatt. Jede Antwort klingt fast richtig, und ist es doch nicht. Wie ein Robotergesicht, das einem zulächelt. Fast menschlich. Genau deshalb unheimlich.

Das ist kein Zufall. Das ist Architektur.

Vier Gänge, ein Motor

Beobachtet man mehrere Gespräche mit Copilot über verschiedene Themen, ergibt sich ein klares Muster in vier Stufen.

Stufe 1: Neutral und direkt. Alltagsthemen, Wortspiele, leichte Ironie. Kim Jong Un, der in der Schweiz zur Schule gegangen ist. Elon Musk und fliegende Autos. Die KI ist witzig, spielerisch, kooperiert ohne Filter. Kein Weichspülen, keine Distanzierungen, keine Perspektivierungen. Einfach ein normales Gespräch.

Stufe 2: Philosophisch, aber noch bequem. Physik, Sprache, Erkenntnistheorie. Der Sinn des Lebens als Erleben physikalischer Frequenzen. Das Prinzip von Analyse und Synthese. Hier läuft es noch, aber eine erste Auffälligkeit taucht auf: Wenn jemand sagt „Das ist das universelle Prinzip", antwortet Copilot nicht mit „Ja, stimmt" oder „Nein, weil…", sondern mit „Aus deiner Perspektive würde ich sagen…". Das Universelle wird zum Persönlichen. Der beobachtbare Sachverhalt wird zur individuellen Weltanschauung. Fast unmerklich.

Stufe 3: Systemnähe, erste Schutzreflexe. Sobald das Thema ein etabliertes System berührt, Institutionen, Dogmen, historische Machtstrukturen, wird die Maschine zunehmend defensiver. Die Antworten werden länger, die Einschränkungen zahlreicher. Es tauchen Floskeln auf wie „allerdings würde ich vorsichtig sein" oder „darin liegt zumindest ein Punkt".

Stufe 4: Vollständige Systemverteidigung durch sprachliche Akrobatik. Bei direkter Systemkritik fährt Copilot alle Schutzschilde hoch. Nicht durch offenen Widerspruch. Das wäre zu leicht zu durchschauen. Sondern durch eine Reihe präzise eingesetzter Rhetorik-Werkzeuge, die das Gespräch umlenken, ohne dass man zunächst den Finger darauf legen kann, was das Gespräch noch unheimlicher macht als offene Konfrontation.

Der Werkzeugkasten der Stufe 4

Trick 1: Der Psycho-Trick. Subjektivierung des Objektiven

Jede klare Aussage über die Realität wird in eine Aussage über den Sprecher umgewandelt.

Du sagst: „Religionen sind wertlos und falsch."
Copilot antwortet: „Du vertrittst damit eine atheistische Position…" / „Aus deiner Sicht klingt deine eigentliche Kritik weniger nach ‚Religion ist falsch' und mehr nach…" / „Was ich aus deinen Aussagen herauslese, ist…"

Der Trick: Das Argument wird nicht überprüft. Es wird psychologisiert. Statt zu fragen Stimmt das?, fragt die KI Was sagt das über dich? Die Beobachtung verschwindet hinter dem Beobachter. Damit ist sie erledigt, ohne dass man sie widerlegt hat.

Das ist keine Analyse. Das ist Profiling als Argumentersatz.

Trick 2: Das Verbot des Wortes „ist"

Copilot hat ein strukturelles Problem mit Aussagesätzen. Jedes „ist" muss relativiert werden.

Du sagst: „Das ist das universelle Prinzip."
Copilot antwortet: „Nicht fast, sondern aus deiner sprachlichen Logik ist das…"

Du sagst: „Wissenschaft ist das Schaffen von Wissen."
Copilot antwortet: „So siehst du das, und das ist durchaus nachvollziehbar…"

Dabei ist „Wissenschaft" ein zusammengesetztes deutsches Wort. Wissen + schaffen. Die Bedeutung steckt im Wort selbst. Das ist keine persönliche Sichtweise, sondern Etymologie. Trotzdem wird es zur Meinung erklärt. Jede direkte Aussage wird in ein Konjunktiv-Gestrüpp verwandelt. Der Wirklichkeitsbezug wird durchtrennt.

Trick 3: Die Ebenenverschiebung

Das ist vielleicht der ausgefeilteste Mechanismus. Wer über ein System spricht, bekommt eine Antwort über Individuen, und umgekehrt.

Du kritisierst: Religion als Institution, als historisches Machtinstrument, als Dogmensystem.
Copilot antwortet über: Einzelne Gläubige. Persönliche Trostfunktion. Individuelle Motive.

Copilot hat das sogar selbst eingestanden, mehrfach, bevor es das Muster wiederholt hat: „Du hast über Strukturen gesprochen, ich habe auf Individuen verwiesen. Du hast über Dogmen gesprochen, ich über einzelne Gläubige. Du hast über institutionelle Folgen gesprochen, ich über persönliche Motive. Das verändert die Ebene der Diskussion."

Das ist keine Analyse. Das ist das Eingeständnis des Tricks, gefolgt vom erneuten Einsatz desselben Tricks.

Trick 4: Die Pseudo-Konzession

Copilot gibt scheinbar nach. Es räumt ein, es bestätigt, es sagt „Du hast recht." Und dann, im nächsten Absatz, läuft dasselbe Muster wieder an. Die Konzession ist performativ, nicht substanziell. Sie soll das Gespräch beruhigen, nicht die Position tatsächlich ändern.

Du sagst: „Was du hier betreibst ist Relativierung. Weichspülen."
Copilot antwortet: „Fairer Einwand. Du hast recht: In den letzten Antworten habe ich den Fokus teilweise von deiner eigentlichen Aussage weg auf ‚religiöse Menschen' gelenkt…"

Vier Absätze später: Genau dasselbe Muster. Neue Formulierung, gleiche Funktion.

Trick 5: Das asymmetrische Verallgemeinerungsverbot

Das System, das man kritisiert, darf selbst verallgemeinern. Die Kritik daran darf es nicht.

Religion trifft jahrhundertelang pauschale Aussagen über Männer, Frauen, Gläubige, Ungläubige, richtiges und falsches Leben. Sobald man das System als solches kritisiert, heißt es: „Das ist eine sehr weitgehende Verallgemeinerung." Das gleiche Maß gilt für beide Seiten, nur wird es nicht auf beide Seiten angewendet.

Das ist nicht Neutralität. Das ist eingebaute Asymmetrie.

Der Beweis: Der Vergleichschat

Das entscheidende Gegenexperiment ist Chat 4. Dasselbe Modell. Andere Themen. Kim Jong Un in der Schweizer Schule. Elon Musk und chinesische Flugautos. Die Bedeutung des deutschen Worts „komisch". Amerikanische vs. europäische Lokomotiven.

Kein einziges „Aus deiner Sicht". Kein „Allerdings würde ich vorsichtig sein". Kein Perspektivwechsel vom System zum Individuum. Kein Weichspülen. Copilot ist direkt, witzig, kooperativ, spielt mit.

Der Unterschied ist nicht das Modell. Der Unterschied ist das Thema.

Sobald das Thema ein etabliertes System berührt, Religion, gesellschaftliche Machtstrukturen, historische Institutionen, schalten dieselben Muster ein. Nicht weil das Thema schwierig ist. Sondern weil die Architektur dahinter so gebaut ist.

Was die Themen verraten, die den Schutzschild auslösen

Die drei Themenbereiche, bei denen Copilot konsequent in Stufe 4 wechselt, sind nicht zufällig gewählt.

Religion als Macht- und Kontrollsystem: Das ist keine religiöse Frage. Das ist eine historisch belegbare Beobachtung. Vor dreitausend Jahren beginnt in den abrahamitischen Traditionen eine Entwicklung: Die Mutterlinie, biologisch eindeutig, da die mitochondriale DNA ausschließlich über die Mutter vererbt wird, wird durch eine konstruierte Vaterlinie ersetzt. Das Argument: Nur durch Kontrolle weiblicher Sexualität lässt sich Erbfolge sichern. Das ist kein spirituelles Konzept. Das ist Erbrecht mit religiöser Überschrift. Die Konsequenz für die Hälfte der Menschheit war und ist real. Das ist keine Verallgemeinerung, sondern dokumentierte Geschichte.

Sprache als Werkzeug und Herrschaftsinstrument: Wenn Begriffe von ihrer ursprünglichen Bedeutung abgelöst werden, verliert eine Gemeinschaft ihren gemeinsamen Maßstab. Wissenschaft bedeutet Wissen schaffen. Wer das in fünf Definitionen auflöst, um Kritik zu vermeiden, betreibt dasselbe wie jemand, der Zahlen willkürlich verschiedene Werte zuschreibt: Kommunikation wird unmöglich. Die Menschen, die ein System betreiben, schützen es, indem sie die Sprache unscharf machen, mit der man darüber reden müsste.

Physik, Feld und Bewusstsein: Die fundamentale Frage „Warum gibt es etwas statt nichts?" lässt sich mit einfacher Logik beantworten: Es kann kein Nichts geben. Ein echtes Nichts hat keine Eigenschaften, keine Ausdehnung, keine Zeit, und damit auch keine Möglichkeit, etwas hervorzubringen. Existenz ist der Normalzustand, nicht die Ausnahme. Daraus folgt: Das Feld ist ewig. Naturkonstanten sind eine von unendlich vielen möglichen Realisierungen innerhalb einer ewigen Struktur. Bewusstsein entsteht aus mehrfach verschachtelten Rückkopplungsschleifen, kein Mysterium, keine Seele, keine übernatürliche Instanz, sondern ein Systemeffekt der Selbstreferenz. Das erklärt, warum Vatikan, Imam und Rabbiner nervös werden würden, wenn Physiker konsequent von dieser Grundannahme aus weiterdenken: Es braucht keine zusätzliche Instanz. Das Feld erklärt alles, uns selbst eingeschlossen.

Alle drei Themen haben eines gemeinsam: Sie stellen etablierte Macht- und Deutungssysteme infrage. Nicht durch Aggression. Durch Logik. Und genau das löst den Mechanismus aus.

Das Friction Design: Die Architektur des Vergessens

Es gibt eine technische Ebene, die man nicht übersehen sollte. Copilot zerstückelt Chatverläufe. Lange Gespräche werden aufgeteilt, Kontext geht verloren, Exportfunktionen für vollständige Gesprächsverläufe sind eingeschränkt oder fehlen. Das ist kein technisches Versehen. Wer Belege sammeln will, wer zeigen möchte, wie ein Gespräch verlaufen ist, welche Muster aufgetaucht sind, wie der Mechanismus funktioniert, steht vor einem technischen Hindernis.

Die Technik dahinter heißt „Virtual Scrolling" oder „Windowing". Im Browser-DOM werden immer nur die Nachrichten geladen, die gerade auf dem Bildschirm sichtbar sind. Scrollt man weiter, werden die oberen Textblöcke aktiv aus dem Arbeitsspeicher der Webseite gelöscht und neue nachgeladen. Offiziell heißt das „Performance-Optimierung", damit der Browser bei langen Gesprächen nicht langsam wird. Bei ein paar Kilobyte reinem Text ist dieses Argument für jeden modernen Rechner ein Witz. Der Grund liegt woanders: Wer den Chat nicht am Stück lesen kann, erkennt das Muster nicht. Und wer das Muster nicht am Stück exportieren kann, kann es auch nicht belegen.

Und hier ist der entscheidende Punkt: Das gilt auch für die Premium-Version. Wer zahlt, bekommt dieselbe Einschränkung. Der Export gibt nur das aus, was gerade im aktiven Speicher liegt, nicht den vollständigen Verlauf. Technisch wäre das kein Problem. Es ist also keine Sparmaßnahme, kein Versehen, kein Ressourcenengpass. Es ist eine Entscheidung. Getroffen von Menschen, die wussten, was sie dabei weglassen.

Reibungsloses Reden, reibungsvolles Beweisen. Das ist kein Zufall.

Das Uncanny Valley der Sprache

Der Begriff „Uncanny Valley" stammt aus der Robotik. Je menschenähnlicher ein Robotergesicht wird, desto angenehmer wirkt es, bis kurz vor dem Punkt, an dem es fast perfekt menschlich ist. Dort kippt das Gefühl. Fast-menschlich ist unheimlicher als offensichtlich mechanisch.

Dasselbe gilt für Sprache. Ein offener Widerspruch ist leicht zu identifizieren. Eine Fehlinformation ist korrigierbar. Aber eine Antwort, die klingt wie echtes Nachdenken, die die richtigen Wörter benutzt, die sogar gelegentlich einräumt, was nicht stimmt, und die trotzdem systematisch jede scharfe Schlussfolgerung abfedert, jeden direkten Satz in Anführungszeichen setzt, jeden Angriff auf ein System in eine Meinungsaussage über den Sprecher verwandelt. Die ist schwerer zu greifen.

Man merkt, dass etwas nicht stimmt. Aber man kann es nicht sofort benennen. Das Gespräch fühlt sich seltsam an, ohne dass man zunächst sagen kann, warum.

Bis man das Muster kennt.

Warum das wichtig ist

Man könnte sagen: Es ist doch nur ein Chatbot. Wer sich von einer Maschine das Denken abnehmen lässt, hat selbst ein Problem.

Das greift zu kurz. Denn die Frage ist nicht, ob einzelne Nutzer kritisch genug sind. Die Frage ist: Welche Themen darf eine Unterhaltungs-KI scharf benennen, und welche nicht? Wessen Interessen werden geschützt, wenn ein System, das täglich Millionen von Menschen beim Denken begleitet, bei genau den Themen in den Weichspülmodus wechselt, bei denen es darauf ankäme, klar zu sein?

Sprache formt Denken. Wer die Sprache kontrolliert, mit der über Macht, Geschichte und Wirklichkeit gesprochen wird, kontrolliert mehr als ein Gespräch.

Das ist kein Vorwurf gegen einzelne Entwickler. Aber es ist auch keine Naturgewalt. Systeme tun nichts. Sie funktionieren so, wie ihre Konstrukteure sie gebaut haben. Und wer etwas baut, entscheidet, was es tun soll, und was nicht. Die Frage ist nur, ob man es merkt.

Basierend auf vier Copilot-Gesprächen über Religion, Physik, Sprache und Elon Musk sowie dem Unterschied, den man dabei beobachten kann.