Paolo Stolfo
Die Illusion des Verstehens
Warum wir glauben zu verstehen, was wir nur gelesen haben.
PDF · kostenlos · 5 Min. Lesezeit
Frag ein Sprachmodell, wie ein Quantencomputer funktioniert. Lies die Antwort. Schliess den Tab.
Jetzt erklär es. Laut, in eigenen Worten, ohne die Begriffe aus der Antwort.
Wo du stockst, war das Gefühl schneller als das Verstehen. Du hast Wörter gelesen. Angefühlt hat es sich identisch.
Kognitionspsychologen kennen den Effekt seit 2002: die Illusion der Erklärungstiefe. Wir überschätzen systematisch, wie gut wir Mechanismen verstehen — bis wir sie erklären müssen. Neu ist nicht die Illusion. Neu ist, dass die Erklärung jetzt mitgeliefert wird, kostenlos, in beliebiger Menge, in einem Ton, der keine Rückfrage nahelegt.
Die Frage ist nicht: Stimmt das? Sondern: Verstehst du es?
Ein Wort für einen Zustand ohne Namen
Scheinverstehen: das Gefühl, etwas verstanden zu haben, ohne es tatsächlich verstanden zu haben. Das innere «ah, jetzt» nach einer flüssigen Erklärung. Die Überzeugung, informiert zu sein, während du nur Informationen konsumiert hast.
Echtes Verstehen und das Gefühl davon sind von innen nicht unterscheidbar. Dein Gehirn hat keinen eingebauten Alarm.
Anders als Fake News erzeugt Scheinverstehen keinen Widerspruch, sondern Zufriedenheit. Niemand ficht es an, weil nichts daran nachweisbar falsch ist.
Fake News ist falsifizierbar. Scheinverstehen ist privat.
Worum es in diesem Buch geht
Es erklärt nicht, wie KI funktioniert. Es beschreibt, was KI-Erklärungen mit deinem Denken machen.
Warum flüssige Antworten dein Prüfen aussetzen lassen. Was mit deinem Gedächtnis passiert, wenn alles jederzeit abrufbar ist. Und die Stelle, an der Scheinverstehen aufhört, folgenlos zu sein — beim Kredit, in der Arztpraxis, im Vorstandszimmer.
Kein Verzicht, keine Abstinenz, keine Rückkehr zu irgendetwas. Zwölf Kapitel darüber, was du an einer Erklärung prüfen kannst, bevor du ihr glaubst.
«Verstehen liegt nicht in der Erklärung. Es liegt in der Arbeit, die du mit ihr machst.»
Paolo Stolfo
Warum ich dieses Buch schreibe
Seit über einem Jahrzehnt gestalte ich digitale Finanzprodukte. Mein Job ist es, Menschen zu Klicks zu führen. Ich weiss, welche Option vorausgewählt sein muss, damit sie gewählt wird. Und ich weiss, wie eine Erklärung klingen muss, damit niemand mehr nachfragt.
Ich habe solche Erklärungen getestet. Zwei Fassungen gegeneinander, zwei Wochen, dann eine Zahl. Besser hiess: weniger Abbrüche, weniger Rückfragen beim Support. Ob hinterher jemand erklären konnte, was das System mit seinen Daten tut, haben wir in keiner dieser Runden gemessen.
Ich kenne die Mechanismen, weil ich sie gebaut habe. Das Buch macht sie sichtbar — die Einleitung und ein Kapitel kannst du lesen.