Ich stand einmal vor einem Whiteboard, auf dem eine Antragsstrecke in sieben Schritten hing. Am Ende der Sitzung waren es vier.
Zwei der gestrichenen Schritte zeigten Informationen, die man zum Weiterkommen nicht brauchte. Der dritte erklärte, wie die Zahl zustande kam, die zwei Schritte vorher angezeigt worden war. Die Abschlüsse stiegen danach, die Abbrüche fielen. Nach jedem Massstab, den wir hatten, war das ein guter Tag.
In meinem Beruf heisst das Ideal «nahtloses Erlebnis». Reibungslos. Es ist das höchste Lob, das ein digitales Produkt bekommen kann. Niemand schreibt in einem Investor-Pitch, dieser Prozess hätte mehr Reibung vertragen.
Es hat etwa zehn Jahre gedauert, bis ich gemerkt habe, dass an dieser Definition etwas nicht aufgeht.
* * *
Probiere etwas. Es dauert dreissig Sekunden.
Erkläre, wie ein Kühlschrank funktioniert. Nicht ungefähr. Nicht «irgendwas mit Gas» oder «der Motor macht es kalt». Den Mechanismus. Wie kommt die Kälte rein. Was passiert mit der Wärme. Warum brummt das Ding.
Ich warte.
Zuerst kommt die Zuversicht. Natürlich weisst du, wie ein Kühlschrank funktioniert, du öffnest jeden Tag einen, du hast ein vertrautes Gefühl und eine sichere Hand am Griff. Dann der Versuch. Da ist ein Kompressor, irgendwie, und der kühlt die Luft, oder vielleicht eine Flüssigkeit, und —
Und dann nichts mehr.
2002 untersuchten die Psychologen Leonid Rozenblit und Frank Keil an der Yale University genau diese Lücke. Sie legten Studierenden eine Liste alltäglicher Dinge vor — Reissverschlüsse, Toilettenspülungen, Helikopter, Nähmaschinen — und liessen sie auf einer Skala von eins bis sieben einschätzen, wie gut sie deren Funktionsweise verstehen. Die Teilnehmer gaben sich mittlere Noten, im Schnitt knapp unter vier. Dann bat man sie, den Mechanismus Schritt für Schritt aufzuschreiben.
Nach dem Erklärungsversuch sank ihre Bewertung um knapp einen Punkt. Dann kam eine Detailfrage — wie öffnet man ein Zylinderschloss ohne Schlüssel? —, und der Wert lag rund anderthalb Punkte unter dem Startwert. Aus «ich habe eine Vorstellung» wurde «ich habe eine Ahnung, mehr nicht». Rozenblit und Keil nannten das Phänomen die Illusion of Explanatory Depth, die Illusion der Erklärungstiefe.
Der Kühlschrank stand übrigens nicht auf ihrer Liste. Er funktioniert trotzdem, und das ist der Punkt: Der Effekt hängt nicht am Gegenstand.
Ich habe den Versuch einmal bei einem Abendessen gemacht. Acht Erwachsene, alle mit Hochschulabschluss. Ich fragte in die Runde, ob jemand erklären könne, wie eine Toilettenspülung funktioniert. Zuerst Gelächter, dann Stille, dann zwanzig Minuten Diskussion, die damit endete, dass jemand sein Telefon zückte. Niemand konnte es erklären. Alle hatten geglaubt, es zu können.
* * *
Das Auffällige an diesem Befund ist nicht die Wissenslücke. Wissenslücken hat jeder. Das Auffällige ist die Überraschung.
Bis zu dem Moment, in dem du anfängst zu erklären, fühlt sich dein Wissen kompetent an. Es ist nicht vages Halbwissen, das du dir selbst verschleierst — es ist eine ruhige Gewissheit, ein leises «klar, weiss ich». Du würdest jeden, der dich fragt, freundlich aufklären und dabei keinen Moment zögern. Die Lücke existiert erst, wenn du sie siehst.
Rozenblit und Keil haben nachgerechnet, woran das liegt. Sie liessen vierzig Geräte auf mehreren Skalen bewerten: wie vertraut sie sind, aus wie vielen Teilen sie bestehen, wie viele davon man im Betrieb sieht. Dann prüften sie, welche dieser Grössen die Überschätzung vorhersagt.
Vertrautheit war es nicht. Die Zahl der Teile auch nicht. Es war das Verhältnis von sichtbaren zu verborgenen Teilen — ein einziger Wert, der fast die Hälfte der Unterschiede erklärte.
Das ist präziser als die Erzählung, die man üblicherweise hört. Nicht die Nähe zum Gegenstand täuscht dich. Was du an ihm ablesen kannst, verbuchst du als Wissen in deinem Kopf. Der Reissverschluss liegt offen da, die Zähne sichtbar, der Schieber auch; solange du hinsiehst, musst du nichts erinnern. Nimm ihn weg, und du merkst, wie wenig davon in dir war.
Die Illusion ist auch nicht überall. Bei Hauptstädten sank die Selbsteinschätzung nur wenig, bei Filmhandlungen und Rezepten gar nicht — wer beschreiben sollte, wie man Schokoladenkekse backt, schätzte sich von Anfang an richtig ein. Faktenwissen kennt kaum Zwischenstufen: Du kennst die Hauptstadt von Portugal oder du kennst sie nicht. Erklärungs-Wissen ist graduell, mit Abstufungen, Schichten, Tiefen. Und genau dort liegt die Falle. Wir verwechseln «ein bisschen verstehen» mit «verstehen».
Du hast keinen direkten Zugang zu dem, was du weisst. Du hast nur Zugang zu dem, wie es sich anfühlt, etwas zu wissen.
Dieses Gefühl lügt.
* * *
Der Mechanismus dahinter ist gut beschrieben. Unser Gehirn unterscheidet zwei Arten des Erinnerns: Wiedererkennen und Abrufen. Wiedererkennen ist billig — du siehst einen Kühlschrank, und etwas in dir sagt sofort: kenne ich. Abrufen ist teuer. Du musst rekonstruieren, formulieren, dich an Lücken stossen.
Für die meisten Alltagsdinge trägt die Abkürzung. Du erkennst einen Stuhl und verstehst, wie man darauf sitzt. Bei komplexen Mechanismen versagt sie. Du erkennst den Kühlschrank, und das sagt nichts über sein Innenleben.
Kein Defekt. Evolution optimiert nicht auf Wahrheit, sondern auf Überleben, und fürs Überleben war es selten wichtig, einen Reissverschluss zu durchschauen. Es reichte, ihn benutzen zu können.
Rozenblit und Keil schliessen ihre Arbeit mit einem Einwand gegen sich selbst. Die Illusion, schreiben sie, könnte notwendig sein: Sie beendet eine Suche, die sonst kein Ende hätte. Wer jeder Erklärung bis zum Grund nachginge, käme nicht durch den Tag.
Der Einwand trägt. Er verschiebt nur die Frage. Wenn die Illusion der Regler ist, der die Suche abschaltet, dann lautet die entscheidende Frage, wer an diesem Regler sitzt.
2002 sassest du selbst dort.
* * *
Es gibt für diesen Zustand ein Wort, das ich in den letzten Jahren gebraucht habe, weil mir keines fehlte, das genauer wäre: Scheinverstehen.
Scheinverstehen ist das Gefühl, etwas verstanden zu haben, ohne es tatsächlich verstanden zu haben. Das Nicken im Meeting. Dieses «ah, jetzt» nach einer flüssigen Erklärung. Du hältst dich für informiert, während du in Wahrheit nur Informationen konsumiert hast.
Das Wort ist nicht hübsch. Vielleicht ist es darum tauglich. Es trägt etwas Steifes mit sich, eine kleine Verlegenheit, und du sagst es ungern über dich selbst.
Scheinverstehen ist nicht Unwissen. Unwissen ist ehrlich. Scheinverstehen kommt mit allen Symptomen des Verstehens — der Gewissheit, der Zufriedenheit, dem inneren Nicken — und ohne dessen Substanz.
Seit Jahren reden wir über Fake News, über Desinformation, über Algorithmen, die Lügen schneller transportieren als Wahrheit. Das Problem ist real, und andere haben ausführlich darüber geschrieben. Nur löst Fake News etwas aus. Irgendwann prüft jemand den Fakt, ein Medium berichtet die Gegendarstellung, ein Freund schickt dir einen Link. Der Mechanismus ist nicht perfekt, aber er existiert: Widerspruch ist möglich, weil die Lüge als Lüge erkennbar ist, sobald jemand genau hinsieht.
Scheinverstehen erzeugt keinen Widerspruch. Es erzeugt Zufriedenheit. Niemand ficht es an, weil nichts daran nachweisbar falsch ist. Die Erklärung war plausibel, die Worte waren korrekt. Das Einzige, was fehlte, war dein Verstehen — und das Fehlen sieht niemand ausser dir.
Fake News ist falsifizierbar. Scheinverstehen ist privat.
* * *
Rozenblit und Keils Arbeit erschien 2002 in «Cognitive Science». Damals war Google vier Jahre alt und Facebook gab es nicht. Was wir nicht verstanden, hatte sichtbare Teile: Reissverschlüsse mit Zähnen, Toilettenspülungen mit Hebeln und Schwimmern, Helikopter mit Rotoren.
Wer wollte, konnte es lernen. Den Reissverschluss auseinandernehmen, unter ein Vergrösserungsglas legen, jedes Zähnchen untersuchen. Dein Nicht-Verstehen war heilbar: Es fehlte Information, und Information kann dir jemand geben.
Heute beschreibt derselbe Befund deinen Feed.
Du interagierst täglich mit Systemen, bei denen das nicht mehr gilt. Sprachmodelle, die dir Erklärungen formulieren. Empfehlungsalgorithmen. Scoring-Systeme bei deiner Bank. Bei ihnen fehlt dir keine Information. Es gibt keine Schritt-für-Schritt-Beschreibung, die ein Mensch lesen könnte: zuerst A, dann B, deshalb C. Was das System tut, steht in seinen Parametern — Zahlen, die festlegen, wie stark jedes Signal jedes andere beeinflusst. Sie sind nicht versteckt. Sie sind zu viele.
Wie gross ist GPT-4? OpenAI verrät es nicht, und bei jedem Nachfolger wiederholt sich dasselbe Spiel. Was kursiert, stammt aus Branchenrecherchen: über eine Billion Parameter. Wenn du jede Sekunde eine davon zählst, Tag und Nacht, brauchst du über dreissigtausend Jahre. Gelesen hättest du dann keine einzige.
Die Parameterzahl ist Schätzung. Dass niemand sie prüfen kann, ist es nicht.
Trotzdem liefern dir diese Systeme Erklärungen. Öffne deinen Feed, schau dir einen beliebigen Post an, suche den Hinweis «Warum dir das angezeigt wird» und klick darauf. Du wirst lesen: «Basierend auf Beiträgen, die du geliked hast.» Oder: «Weil du ähnlichen Accounts folgst.» Das klingt nach einer Erklärung, es ist grammatikalisch korrekt und es benutzt Kausalsprache. Du liest es und scrollst weiter.
Die Erklärung hält keiner einzigen Nachfrage stand. Sie zeigt dir eine Oberfläche, die so gestaltet ist, dass sie sich anfühlt wie Tiefe.
Design-Entscheidungen. Jede einzelne.
* * *
Jetzt der unangenehme Teil. Diese Oberflächen sind nicht aus dem Nichts entstanden. Sie sind gebaut, und meistens von Leuten wie mir.
Seit zehn Jahren gestalte ich Finanzprodukte. Ich weiss, welche Option vorausgewählt sein muss, damit sie gewählt wird. Und ich weiss, wie eine Erklärung klingen muss, damit niemand mehr nachfragt.
Ich habe solche Erklärungen selbst getestet. Man stellt zwei Fassungen gegeneinander und schaut, welche besser läuft. Besser heisst: weniger Abbrüche, weniger Rückfragen beim Support, bessere Noten in der Zufriedenheitsumfrage. Ob hinterher jemand erklären konnte, was das System mit seinen Daten tut, haben wir in keiner dieser Runden gemessen. Man müsste ihn dafür erklären lassen, und dafür ist in einem Testzyklus kein Platz.
Das sagt nichts über Absichten. Es sagt etwas über die Richtung, in die solche Tests einen Text schieben. Wer eine Erklärung so lange verbessert, bis niemand mehr nachfragt, hat sie auf Reibungsfreiheit optimiert — ob er will oder nicht.
Und getroffen wird davon nicht jeder gleich. Wer sich einen anderen Anbieter suchen kann, tut das irgendwann. Wer an diesen einen gebunden ist, lebt mit einer Erklärung, die er nie prüfen konnte.
* * *
Es gibt nicht viel, was du dagegen tun kannst. Es gibt eine Sache, und sie ist unbequem.
Frag dich, ob du das gerade erklären könntest. Nicht in der Theorie — jetzt, laut, ohne Jargon, ohne «das ist kompliziert», so, dass jemand ohne Vorwissen folgen kann.
Der Gedanke stammt von Richard Feynman, wenn auch nicht der Name, unter dem er heute kursiert. Ein Kollege am Caltech bat ihn eines Tages zu erklären, warum Teilchen mit halbzahligem Spin der Fermi-Dirac-Statistik gehorchen. Feynman sagte zu: Er werde eine Vorlesung für Erstsemester daraus machen. Ein paar Tage später kam er zurück. Er habe es nicht geschafft, er habe es nicht auf dieses Niveau herunterbrechen können — und das heisse, dass wir es nicht wirklich verstünden.
Feynman unterschied zwischen dem Wissen über den Namen einer Sache und dem Wissen über die Sache selbst. Du kannst den Namen eines Vogels in allen Sprachen der Welt kennen und nichts über den Vogel wissen.
Warum diese Frage wirkt, hat einen Namen: den Generation Effect. Beim Lesen läuft dein Wiedererkennen — dasselbe Signal, das beim Kühlschrank sofort feuert. Beim Erklären muss dein Gehirn erzeugen: auswählen, ordnen, mit Vorwissen verbinden. Genau dort reisst die Illusion. Nicht weil Erklären schwieriger ist, sondern weil es ehrlicher ist.
Ein Einwand ist berechtigt. Die Frage ist ein Diagnose-Instrument, kein Wissens-Generator. Wenn du von einem Thema gar nichts weisst, hilft dir Erklären nicht, du redest ins Leere. Erst lesen, dann erklären. Nicht umgekehrt.
Und sie taugt nicht überall. Wer sich fragt, ob er ein Rezept nachkochen kann, erfährt nichts Neues. Sie ist ein Präzisionsinstrument für eine einzige Sorte Wissen: kausale Zusammenhänge in komplexen Systemen. Genau das liefert dir eine Maschine, wenn du sie fragst, wie etwas funktioniert.
* * *
Ich bin nicht ausgestiegen aus diesem Beruf. Ich baue weiter, und ich stelle andere Fragen dabei.
Nicht mehr nur: Wie mache ich es einfacher? Sondern: An welcher Stelle im Ablauf sollte es das besser nicht sein?
Diese Frage ist heikler, als sie klingt. Für Menschen mit Leseschwäche, mit kognitiven Einschränkungen oder mit einer zweiten Sprache im Alltag ist Glätte kein Trick, sondern Zugang, und Umständlichkeit wird schnell zum Türsteher. Zu klären ist deshalb nicht, ob eine Oberfläche leicht sein darf. Zu klären ist, wo im Ablauf sie es nicht sein sollte.
Und die Frage, die ich mir selbst stelle, hilft nicht jedem. Sie kostet Zeit und Konzentration, und beides ist ungleich verteilt. Wer unter Druck steht, müde ist, nebenbei drei Dinge erledigt, hat die Aufmerksamkeit nicht übrig, die dieses Nachfragen verlangt. Wer eine Hypothek unterschreibt, deren Bedingungen ihm niemand erklärt hat, hat von meiner Übung nichts — am wenigsten die Möglichkeit, nein zu sagen. Für ihn entscheidet nicht, ob er misstrauisch wird. Für ihn entscheidet, ob jemand das Produkt so bauen musste, dass sein Nichtverstehen keine Katastrophe auslöst.
Das ist die Asymmetrie, und sie ist der Grund, warum ich diesen Text nicht als Selbstoptimierungs-Ratschlag verstanden wissen will. Die Frage hilft dir. Dem, der die Rechnung bekommt, hilft sie nicht. Ihm helfen Regeln, die greifen, bevor irgendjemand etwas verstanden hat — und Menschen, die solche Regeln schreiben. Menschen, die vorher bei sich selbst bemerkt haben, wie leicht sich eine flüssige Erklärung anfühlt wie Verstehen.
Der Weg vom einen zum anderen führt über dich.
Die Lücke war immer da. Neu ist nur, wie leicht es geworden ist, sie zu übersehen.
* * *
Über das Buch
Dieser Essay ist der Einstieg in ein Thema, das mich seit Jahren beschäftigt und das mein Buch «Die Illusion des Verstehens» ausführlich behandelt.
