Du sagst: «Buch mir einen Flug nach Lissabon, irgendwann nächste Woche, nicht zu früh am Morgen.»
Der Agent arbeitet. Ein paar Sekunden. Dann die Bestätigung: Mittwoch, 11:40, Direktflug, bezahlt.
Du lehnst dich zurück. Erledigt. Gute Entscheidung.
War es eine Entscheidung?
Zwischen deinem Satz und dem gebuchten Flug liegt eine Kette von Wahlakten, die du nie gesehen hast. Welche Airline. Welcher Preis als «nicht zu teuer» durchging. Was «nicht zu früh» heisst — sieben Uhr, neun, elf. Ob Umsteigen erlaubt war. Ob die Stornobedingungen zählten. Du hast keine dieser Fragen beantwortet. Jemand hat sie in deinem Namen beantwortet und dir das Ergebnis hingelegt wie eine eigene Wahl.
Und es fühlt sich an wie deine Wahl.
* * *
Ich baue solche Systeme. Seit zehn Jahren gestalte ich Interfaces, in denen Menschen Geld bewegen, Kredite aufnehmen, Verträge abschliessen. Ein guter Teil meiner Arbeit besteht darin, den Moment zu formen, in dem jemand auf «Bestätigen» drückt und denkt: Das habe ich entschieden.
Oft hat er nicht entschieden. Er hat zugestimmt. Das ist nicht dasselbe — aber von innen fühlt es sich identisch an.
* * *
1975. Ellen Langer, Psychologin in Harvard, verkauft Lottoscheine an Büroangestellte. Einen Dollar das Los. Die eine Hälfte darf sich das Los aussuchen. Die andere bekommt eines zugeteilt.
Kurz vor der Ziehung fragt Langer alle, ob sie ihr Los zurückverkaufen würden. Und für wie viel.
Wer sein Los zugeteilt bekommen hatte, verlangte im Schnitt knapp zwei Dollar. Wer selbst gewählt hatte, fast neun.
Dieselbe Chance. Dieselbe Ziehung. Der einzige Unterschied: Die eine Gruppe hatte den Schein in die Hand genommen und selbst gewählt. Diese eine Handlung — folgenlos für das Ergebnis, eine Lotterie kennt keine Geschicklichkeit — erzeugte das Gefühl von mehr Einfluss.
Langer nannte es die Illusion der Kontrolle. Das Kontrollgefühl entsteht nicht durch Kontrolle. Es entsteht durch Beteiligung.
Sie fand mehrere Bedingungen, unter denen die Illusion zuverlässig auftritt. Eine davon ist die freie Wahl. Eine andere die aktive Beteiligung. Wenn du einem Agenten einen Auftrag gibst, sind beide erfüllt: Du hast formuliert, du hast ausgelöst. Du warst beteiligt. Also fühlt es sich nach Kontrolle an.
Ob du Kontrolle hattest, ist eine andere Frage.
* * *
Es gibt ein zweites Experiment, das tiefer geht. Daniel Wegner, ebenfalls Harvard, Ende der Neunziger.
Zwei Personen halten gemeinsam eine Computermaus, die einen Cursor über einen Bildschirm voller kleiner Bilder bewegt. Eine der beiden ist eingeweiht. Über Kopfhörer hört die Versuchsperson Wörter, angeblich nur zur Ablenkung. In Wahrheit nennt der Kopfhörer manchmal genau das Objekt, auf dem der Cursor gleich stehen bleibt — weil der Eingeweihte ihn dorthin lenkt.
Hört die Versuchsperson kurz vorher das passende Wort, ist sie überzeugt: Ich habe gestoppt. Ich wollte dorthin.
Sie hat nicht gestoppt. Der andere hat gelenkt. Aber der Gedanke kam vor dem Ergebnis, und der Gedanke passte zum Ergebnis. Das genügt.
Wegner nannte es die Illusion des bewussten Willens. Wir erleben eine Handlung als unsere eigene, wenn der Gedanke vor der Tat kommt, zur Tat passt, und keine andere Ursache sichtbar ist.
Bei einem Agenten kommt alles davon zusammen. Du denkst den Flug. Du sprichst ihn aus. Der Flug erscheint. Eine andere Ursache ist nicht sichtbar — der ganze Apparat aus Suchen, Filtern, Abwägen läuft dort, wo du ihn nicht siehst.
Du hast nicht gebucht. Du hast einen Satz gesagt. Dein Gehirn verbucht es als Tat.
Ich nenne dieses Gefühl den geborgten Willen. Das Handlungsgefühl, das auf einer Ausführung beruht, die nicht deine war.
* * *
Bis hierher klingt das harmlos. Ein Flug ist gebucht, na und.
Dann erhöh den Einsatz.
1. Juni 2009. Air France 447, von Rio nach Paris, ein Airbus über dem Atlantik. Die Geschwindigkeitssensoren vereisen. Der Autopilot tut, was er tun soll, wenn er seinen Daten nicht mehr traut: Er schaltet sich ab und gibt die Maschine an die Piloten zurück.
Und die Piloten, jahrelang gewohnt, dass die Automatik fliegt, bekommen ein Flugzeug in die Hand, das sie in diesem Moment nicht mehr beherrschen. Wenige Minuten später schlägt die Maschine auf dem Wasser auf. 228 Menschen.
Die Sensoren waren kurz darauf wieder frei. Das Flugzeug war die ganze Zeit flugfähig. Was fehlte, war die Fähigkeit der Menschen zu übernehmen — weil sie zu lange nicht hatten übernehmen müssen.
Die Forschung kennt das Muster. Parasuraman und Riley, 1997: Je zuverlässiger ein System, desto weniger kontrollieren wir es. Nicht obwohl es zuverlässig ist. Weil es zuverlässig ist. Wer hundert Mal erlebt hat, dass der Autopilot recht hatte, prüft beim hunderteinten Mal nicht mehr.
Der gefährlichste Agent ist nicht der schlechte. Es ist der, der fast immer recht hat.
Und es muss kein Flugzeug sein. 1. August 2012, Knight Capital, ein Börsenhändler in New Jersey. Eine fehlerhafte Software geht in Betrieb. In den nächsten fünfundvierzig Minuten kauft und verkauft das System Aktien in einer Schleife, die niemand gewollt hat. Verlust: rund 440 Millionen Dollar. In einer Dreiviertelstunde.
Niemand bei Knight hatte diese Order gegeben. Jemand hatte ein System gebaut, das in seinem Namen handelte — schneller, als ein Mensch eingreifen konnte. Genau die Geschwindigkeit, für die man es gebaut hatte, machte es unkontrollierbar.
Du willst, dass dein Agent schnell ist. Das ist ja der Sinn. Aber Geschwindigkeit und Kontrolle ziehen in verschiedene Richtungen, und du kannst nicht beide maximieren.
* * *
Hier ist die Stelle, an der ich mich korrigieren muss.
Das Problem ist nicht, dass Agenten Fehler machen. Maschinen haben immer Fehler gemacht, Menschen auch. Wäre das alles, wäre die Lösung simpel: bessere Agenten.
Bessere Agenten lösen das Problem nicht. Das ist die unbequeme Stelle. Denn das Kontrollgefühl, das du beim Buchen empfindest, ist unabhängig davon, wie gut der Agent ist. Es entsteht im Moment, in dem du den Satz aussprichst — durch Beteiligung, nicht durch Überblick. Genau das war Langers Befund: Beteiligung allein genügt, um das Gefühl zu erzeugen.
Auch der perfekte Agent würde dasselbe Gefühl auslösen wie der schlechte. Du würdest dich gleichermassen sicher fühlen — ohne in der Lage zu sein zu prüfen, ob die Sicherheit berechtigt ist.
Vor einem Jahr habe ich über Scheinverstehen geschrieben. Über das Gefühl, etwas verstanden zu haben, ohne es verstanden zu haben. Das war die Voraussetzung. Wer nicht versteht, was ein Agent tut, kann nicht beurteilen, ob er es richtig tut.
Jetzt kommt die nächste Schicht. Du verstehst nicht, was im Spielraum zwischen deinem Satz und dem Ergebnis geschieht — und fühlst trotzdem, dass du steuerst.
Fake News ist das Problem, über das alle reden. Scheinverstehen ist das Problem, das niemand bemerkt. Scheinkontrolle — das Problem, das gerade entsteht.
* * *
Letzte Woche diktierte ich dem Assistenten eine Mail an eine Designerin. Sag ihr, ich brauche die Mockups bis Freitag. Der Entwurf erschien — höflich, präzise. Senden. Ich drückte nicht. Mein Auge hing am Namen. Sie hatte mir tags zuvor geschrieben, dass sie krank war. Das wusste der Agent nicht.
Hätte ich gedrückt, wäre ich der Rücksichtslose gewesen. Das war billig. Eine peinliche Mail, kein Schaden. Aber das Innehalten war keine Methode. Ich hatte Glück, dass mein Blick an einem Wort hing.
Eine peinliche Mail buchst du um wie einen falschen Flug. Eine Überweisung, eine Kündigung nicht. Da ist der Spielraum zwischen deinem Satz und dem Ergebnis kein Komfort mehr. Da ist er das Risiko.
Was hilft, ist keine grosse Regel. Eine kleine Frage, kurz bevor es teuer wird: Was wäre der schlimmste Fehler, den ich nicht mehr zurückholen könnte? Und hätte ich überhaupt eine Chance, ihn zu erkennen, bevor er passiert?
Der Agent hat den Flug gebucht. Du hast einen Satz gesagt.
Den Unterschied zu kennen ist die ganze Arbeit.