Ich stand einmal vor einem Whiteboard, auf dem eine Antragsstrecke in sieben Schritten hing. Am Ende der Sitzung waren es vier.
Zwei der gestrichenen Schritte zeigten Informationen, die man zum Weiterkommen nicht brauchte. Der dritte erklärte, wie die Zahl zustande kam, die zwei Schritte vorher angezeigt worden war. Die Abschlüsse stiegen danach, die Abbrüche fielen. Nach jedem Massstab, den wir hatten, war das ein guter Tag.
In meinem Beruf heisst das Ideal «nahtloses Erlebnis». Es ist das höchste Lob, das ein digitales Produkt bekommen kann. Niemand schreibt in einem Investor-Pitch, dieser Prozess hätte mehr Reibung vertragen. Es hat Jahre gedauert, bis ich gemerkt habe, dass an dieser Definition etwas nicht aufgeht.
Probiere etwas. Es dauert dreissig Sekunden. Erkläre, wie ein Kühlschrank funktioniert: Wie kommt die Kälte rein, was passiert mit der Wärme?
Die meisten dürften nicht weit kommen, und viele wären überrascht. Genau diese Überraschung haben die Psychologen Leonid Rozenblit und Frank Keil 2002 an der Yale University gemessen. Wer den Mechanismus alltäglicher Geräte aufschreiben musste, stufte sein eigenes Verständnis danach deutlich tiefer ein als davor. Sie nannten das die Illusion der Erklärungstiefe. Wie der Test funktioniert und warum ausgerechnet sichtbare Teile uns täuschen, steht im «Kühlschrank-Test».
Jeder hat Lücken. Merkwürdig ist, wie still sie bleiben. Unser Gehirn unterscheidet zwei Arten des Erinnerns: Wiedererkennen und Abrufen. Wiedererkennen ist billig – du siehst einen Kühlschrank, und etwas in dir sagt sofort: kenne ich. Erklären verlangt Abrufen, und Abrufen ist teuer. Solange niemand fragt, hältst du das eine für das andere.
Rozenblit und Keil schliessen ihre Arbeit mit einem Einwand gegen sich selbst. Die Illusion, schreiben sie, könnte notwendig sein: Sie beendet eine Suche, die sonst kein Ende hätte. Wer jeder Erklärung bis zum Grund nachginge, käme nicht durch den Tag.
Der Einwand trägt. Er verschiebt nur die Frage. Wenn die Illusion der Regler ist, der die Suche abschaltet, dann lautet die entscheidende Frage, wer an diesem Regler sitzt.
Bisher sitzt du selbst dort.
Für diesen Zustand brauche ich seit einigen Jahren ein Wort, weil ich kein genaueres gefunden habe: Scheinverstehen. Scheinverstehen ist das Gefühl, etwas verstanden zu haben, ohne es tatsächlich verstanden zu haben. Das Nicken im Meeting. Dieses «ah, jetzt» nach einer flüssigen Erklärung. Du hältst dich für informiert, während du in Wahrheit nur Wörter konsumiert hast.
Das Wort ist nicht hübsch. Vielleicht ist es darum tauglich. Es trägt eine kleine Verlegenheit mit sich, und du sagst es ungern über dich selbst.
Unwissen ist ehrlich. Scheinverstehen kommt mit allem, was sich von innen wie Verstehen anfühlt – der Gewissheit, der Zufriedenheit, dem inneren Nicken – und ohne dessen Substanz.
Eine falsche Behauptung löst Widerspruch aus. Ein gutes Gefühl von Verständnis löst gar nichts aus. Warum dir dein eigenes Gefühl dabei nicht weiterhilft, steht in «Das Gefühl lügt».
Rozenblit und Keils Arbeit erschien 2002 in «Cognitive Science». Damals war Google vier Jahre alt, und Facebook gab es nicht. Was wir nicht verstanden, hatte sichtbare Teile: Reissverschlüsse mit Zähnen, Toilettenspülungen mit Hebeln und Schwimmern, Helikopter mit Rotoren.
Wer wollte, konnte es lernen. Den Reissverschluss auseinandernehmen, unter ein Vergrösserungsglas legen, jedes Zähnchen untersuchen. Dein Nicht-Verstehen war heilbar: Es fehlte Information, und Information kann dir jemand geben.
Heute gilt derselbe Befund vor deinem Feed, nur lässt sich die Lücke nicht mehr mit Information schliessen. Du interagierst täglich mit Systemen wie ChatGPT oder den Algorithmen hinter deinem Feed. Bei ihnen gibt es keine Schritt-für-Schritt-Beschreibung, die ein Mensch lesen könnte. Was das System tut, steht in seinen Parametern – Zahlen, die festlegen, wie stark jedes Signal jedes andere beeinflusst. Selbst wenn du sie alle sehen könntest, wären es zu viele, um daraus eine Beschreibung zu machen.
Wie gross ist GPT‑4? OpenAI verrät es nicht, und bei jedem Nachfolger wiederholt sich dasselbe Spiel. Was kursiert, stammt aus Branchenrecherchen: über eine Billion Parameter. Wenn du jede Sekunde eine davon zählst, Tag und Nacht, brauchst du über dreissigtausend Jahre. Gelesen hättest du dann keine einzige. Wie sie im Einzelnen zusammenwirken, weiss auch niemand, der das System gebaut hat.
Die Parameterzahl ist Schätzung. Dass niemand nachvollziehen kann, wie die Parameter zusammenwirken, ist es nicht.
Trotzdem liefern dir diese Systeme Erklärungen. Such auf LinkedIn eine Anzeige in deinem Feed, öffne ihr Menü und klick auf «Warum sehe ich diese Anzeige?». Du liest: «Sie sehen diese Anzeige, weil Ihr Profil und Ihre Aktivitäten der Zielgruppe von …» Darunter stehen einige Gründe, etwa ähnliche Kenntnisse oder ein Arbeitgeber ähnlicher Grösse. Das ist grammatikalisch korrekt und benutzt Kausalsprache. Du liest es und scrollst weiter.
Immerhin nennt eine solche Erklärung etwas, dem sich nachgehen liesse – ein Profilfeld, einen Werbekunden. Der Kühlschrank bot dir das nie an. Wer nachgeht, hat einen Anfang, und die Erklärung räumt selbst ein, dass es möglicherweise weitere Gründe gibt, die sie nicht nennt. Bei allen anderen wirkt längst, dass die Erklärung überhaupt dasteht. Sie zeigt eine Oberfläche, die so gestaltet ist, dass sie sich anfühlt wie Tiefe.
Hinter jeder dieser Erklärungen stehen Design-Entscheidungen.
Gebaut haben diese Oberflächen meistens Leute wie ich.
Ich habe solche Erklärungen selbst getestet, zwei Fassungen gegeneinander, bis die bessere feststand. Besser hiess, was sich im Dashboard zeigte. Ob hinterher jemand erklären konnte, was das System mit seinen Daten tut, haben wir nie gemessen. Wer eine Erklärung so lange verbessert, bis niemand mehr nachfragt, hat sie auf Reibungsfreiheit optimiert, ob er will oder nicht. Was daraus für die Gestaltung folgt und warum mehr Reibung trotzdem nicht die Antwort ist, steht in «Was ich über gutes Design lernte, als ich schlechtes machte».
Getroffen wird davon nicht jeder gleich. Wer ausweichen kann, tut das, sobald ihn etwas stört. Wer an einen Anbieter gebunden ist, lebt mit einer Erklärung, die er nie prüfen konnte.
Es gibt nicht viel, was du dagegen tun kannst. Es gibt eine Sache, und sie ist unbequem: Frag dich, ob du das gerade erklären könntest. Jetzt, laut, so, dass jemand ohne Vorwissen folgen kann. Wo du stockst, liegt die Lücke. Woher die Frage stammt, warum sie wirkt und wo sie versagt, steht in «Die Frage, die Scheinverstehen zerbricht».
Ich baue weiter in diesem Beruf, nur mit anderen Fragen.
Die Frage, die ich mir selbst stelle, hilft nicht jedem. Sie kostet Zeit und Konzentration, und beides ist ungleich verteilt. Wer unter Druck steht, müde ist, nebenbei drei Dinge erledigt, hat die Aufmerksamkeit nicht übrig, die dieses Nachfragen verlangt. Wer eine Hypothek unterschreibt, deren Bedingungen ihm niemand erklärt hat, hat von meiner Übung wenig: Sie zeigt ihm die Lücke, nicht den Ausweg. Für ihn entscheidet, ob jemand das Produkt so bauen musste, dass sein Nichtverstehen keine Katastrophe auslöst.
Die Lücke war immer da. Neu ist, dass heute eine Erklärung über ihr liegt.
Über diese Lücke habe ich ein Buch geschrieben. Der Essay endet bei der Lücke, das Buch fängt dort an.
Eine der Figuren darin heisst Thomas, verdichtet aus vielen Gesprächen. Er legt einen Teil seiner Ersparnisse an, weil ihm die Plattform ihre Empfehlung so verständlich erklärt. Achtzehn Monate später liest er dieselbe Erklärung noch einmal, und sie hilft ihm nicht mehr.
