Die Journalistin Karen Hao nennt die grossen KI-Konzerne «Imperien». In ihrer Lesart häufen sie Daten, Land, Energie und Arbeit in historisch ungewöhnlichem Ausmass an und entziehen diese Ressourcen den Gemeinschaften, aus denen sie stammen. Man muss ihr in der Grössenordnung nicht folgen, um den Kern zu übernehmen: Die Logik dahinter ist nicht auf KI beschränkt. Dieselbe Mechanik läuft, viel leiser, im gewöhnlichen Digitalprodukt.
Die Logik heisst Extraktion. Wert wird aus dem Nutzer gezogen, ohne Gegenleistung und ohne Einverständnis: Aufmerksamkeit, Daten, Verhalten. Dafür braucht es keine Rechenzentren, das Muster sitzt im Detail. Konkret heisst das: Engagement, das über das Nutzerinteresse gestellt wird. Defaults, die für den Anbieter arbeiten und sich als Komfort tarnen. Nudges ohne Austrittsoption. Reibung, die gezielt zwischen Nutzer und Kündigung sitzt. Cross-Sell, der als Empfehlung auftritt. Einzeln wirkt jedes Muster harmlos. Zusammen tun sie, was Hao den Imperien vorwirft, nur in kleinerem Massstab.
Dahinter steckt selten böse Absicht. Die meisten dieser Muster sind Nebenprodukt einer einzigen, kaum hinterfragten Optimierung auf den nächsten Funnel-Schritt. Das erklärt ihre Hartnäckigkeit.
Hao fordert Regulierung, und das zu Recht. An einer Stelle bricht ihr Argument aber ab. Sie räumt selbst ein, dass Europa zwar reguliert, aber keine eigene Vision hat: kein Modell dafür, was an die Stelle der Imperien treten soll. Das ist die entscheidende Lücke. Sich zu widersetzen ist keine Gestaltung. Wer nur reguliert, zieht die Grenzen des Erlaubten und überlässt das Bauen weiterhin denen, die ohnehin bauen. Verbote schaffen keine Alternative, höchstens eine zahmere Variante desselben Systems. Die produktivere Frage ist deshalb nicht, wie man Extraktion verbietet, sondern was man an ihre Stelle setzt. Darauf gibt es eine gestaltbare Antwort.
* * *
Der häufigste Einwand gegen ethisches Design lautet: weniger Steuerung, schwächere Conversion. Er beruht auf einem Irrtum. Choice Architecture beginnt mit einer Einsicht aus der Disziplin selbst: Eine neutrale Variante gibt es nicht. Jeder Screen, jeder Default, jede Reihenfolge entscheidet für den Nutzer mit, bevor dieser selbst entscheidet. Gesteuert wird ohnehin; offen ist nur, wohin und zu wessen Gunsten. Ethisches Design verzichtet darum nicht auf Steuerung, sondern macht sie transparent und umkehrbar. Das wird an drei Stellen konkret.
Der Default gehört zu den wirksamsten Entscheidungen im Produkt, weil die wenigsten Nutzer ihn aktiv ändern. Extraktiv wird er, wenn er für den Anbieter arbeitet und sich als Komfort tarnt: die vorausgewählte Versicherung, das stille Opt-in. Der Test ist simpel. Würde der Nutzer diesen Default wählen, wenn er die Begründung dahinter sähe? Wo die Antwort Nein lautet, arbeitet das Produkt gegen ihn. Messbar ist das sofort, über die Korrekturrate: wie viele den Default ändern, sobald sie ihn verstehen. Dafür braucht es kein Jahr, das zeigt sich in der Session.
Ähnlich aufschlussreich ist die Asymmetrie der Austrittskosten. Ein Klick zum Abschluss, fünf Screens zur Kündigung. Der Eintritt ist gestaltet, der Austritt ist Reibung. Ethische Architektur stellt beide gleich: Der Weg hinaus ist so klar wie der hinein. Das klingt nach verschenkter Retention, hält aber in Wahrheit die wertvollere Bindung. Wer Nutzer nur behält, weil sie nicht wegkommen, hält tote Conversion. Auch das lässt sich heute prüfen, mit einem Audit der Klickpfade: Schritte zum Abschluss gegen Schritte zur Kündigung.
Am schwersten wiegt, wem der Wert am Ende bleibt. Derselbe Nudge bedient beide Richtungen. Ein Anstoss zum Sparen schafft Wert, den der Nutzer behält; ein Anstoss zum Dispokredit schafft Wert, den die Bank abschöpft. Gleiche Mechanik, entgegengesetzte Ethik. Den Ausschlag gibt allein, wem der Gewinn bleibt. Ethisches Design wählt die Variante, bei der ein Teil davon beim Nutzer bleibt. Dieses Kriterium ist nicht neu. Die im Schweizer Banking eingeführte Value-Irritant-Matrix von Price und Jaffe hält den werthaltigen Dialog genau dort fest, wo Bank und Kunde zugleich profitieren. Nur wird sie meist als Kostenfrage gelesen, selten als ethische. Genau dort liegt die Leerstelle.
Bleibt der Einwand, der am tiefsten sitzt: Wer definiert das Interesse des Nutzers? Tut es die Bank, ist das kein Gegenmodell, sondern bloss die nächste Anmassung, Fürsorge genannt. Die Antwort liegt im ersten Prinzip. Massstab ist nicht, was die Bank für richtig hält, sondern was der Nutzer bestätigen würde, sähe er die Begründung. Transparenz und ein offener Austritt bevormunden nicht, sie geben dem Nutzer die Mittel, jede Steuerung zu überstimmen. Eine Architektur, die ihre eigene Korrektur mitliefert, schützt die Autonomie des Nutzers, statt sie abzuschöpfen.
Wie scharf dieser Massstab ist, zeigt die aktuelle Debatte um agentische KI im Kundenservice. Sie verspricht, Routinekontakte vollständig zu automatisieren und im selben Dialog Cross- und Upselling-Impulse zu platzieren, eingebettet so geschickt, dass der Kunde sie nicht als störend wahrnimmt. Nach dem Mass der Irritation ist das ein Erfolg. Nach dem Transparenz-Test ist es das Gegenteil. Ein Verkauf, den der Nutzer nicht bemerkt, besteht die eine Prüfung und fällt durch die andere. Nicht-Irritation ist nicht Einwilligung, und genau diese Verwechslung trennt Orchestrierung von Extraktion.
Damit fällt der gängige Mythos. Ethik ist hier nicht die weiche Option, sondern die anspruchsvollere. Der operative Nachweis ist kurzschleifig und falsifizierbar: Korrekturrate, Austrittssymmetrie, Beschwerden auf dem Kündigungspfad, alles messbar im Quartal statt nach der Amtszeit. Die Lebensdauer der Kundenbeziehung ist die dahinterliegende These, nicht der KPI, mit dem man sie steuert. Extraktion optimiert den Moment, Choice Architecture die Beziehung. Der Unterschied zeigt sich früher, als die meisten annehmen.
* * *
Die strategische Pointe gilt nicht für die ganze Bank, nur für einen bestimmten Teil ihres Geschäfts. Beginnen wir mit dem Einwand, der den ganzen Hebel kippen könnte. Im Retail-Banking hält angeblich nicht Vertrauen die Beziehung, sondern Trägheit: Wechselkosten, Kontoanbindung, Daueraufträge. Die Kündigungsrate reagiert kaum auf eine vorausgewählte Checkbox. Das stimmt, allerdings nur für den Bestand. Trägheit hält, was ohnehin da ist.
Aber sie hält nur das. Den schlafenden Account, nicht den Primärbank-Status. Den margenschwachen Sockel, nicht das wertvolle Wachstum: Share-of-Wallet, Hypothekenmandat und Anlagedepot wandern sehr wohl, sie hängen an Angebot und Vertrauen. Und die nächste Generation schützt Trägheit gar nicht. Wer mit 25 seine erste Hauptbank wählt, trägt kaum Wechselkosten; diese Entscheidung fällt fast nur über Vertrauen und Erfahrung. Damit wird die Rechnung präzise. Extraktion ist nicht überall teuer. Auf dem Bestand ist sie billig, weil der Kunde ohnehin bleibt. Teuer wird sie dort, wo die Bank wachsen muss: bei der Akquisition, beim Share-of-Wallet, bei der Generation, die noch wählt. Trägheit trägt den Bestand, Vertrauen umkämpft das Wachstum. Das ist die enge Version des Arguments, und die belastbarere.
Bleibt der unbequeme Teil, den man nicht wegmoderieren sollte. Eine enthakte Checkbox lässt sich über Nacht kopieren, darin liegt kein Vorteil. Und in einem Commodity-Markt verliert man womöglich Marktanteil, bevor sich eine Vertrauensprämie einstellt, falls sie sich überhaupt einstellt. Wer das verschweigt, verkauft Ethik als Gratis-Mittagessen. Schwer zu kopieren ist nicht die Oberfläche, sondern die Rechnung dahinter. Eine Bank, die Beziehungsqualität statt Funnel-Conversion misst und ihre Teams danach vergütet, baut etwas, das ein Konkurrent nicht über Nacht übernimmt, weil es dessen laufende Umsatzlogik kannibalisiert. Der eigentliche Schutzwall liegt im Operating Model, nicht im Screen. Das räumt selbst die nüchterne Optimierungsliteratur ein: Ohne ein darauf ausgelegtes Target Operating Model bleibt schon das reine Effizienzpotenzial liegen, von der Vertrauensfrage ganz zu schweigen. Real ist der Vorsprung, aber langsam. Wer ihn baut, tut das nicht aus Tugend, sondern aus einem anderen Diskontsatz: weniger Gewicht auf das nächste Quartal, mehr auf die Beziehung, die in zehn Jahren noch Marge bringt. Ein zeitliches Argument also, kein moralisches. Und damit angreifbar, sobald der Zeithorizont der Bank zu kurz ist.
* * *
Haos wichtigster Satz ist nicht der über die Imperien, sondern der leisere daneben. Sinngemäss: Es reiche nicht, sich dem zu verweigern, was man nicht will; man müsse auch sagen, was man stattdessen baut. Für die Finanzbranche ist die Antwort konkreter, als sie klingt. Wir bauen Produkte, die den Nutzer steuern, das ist unvermeidlich, aber zu seinen Gunsten und für ihn nachvollziehbar. Wir messen den operativen Erfolg kurzschleifig und ehrlich und behandeln die Lebensdauer der Beziehung als Ziel, nicht als Ausrede für ausbleibende Zahlen. Und wir geben zu, dass dieser Weg am Bestand wenig ändert. Er zählt dort, wo keine Trägheit mehr schützt: beim Wachstum.
Die Imperien optimieren den Moment; das ist ihre Stärke und ihre Grenze zugleich. Wer auf Vertrauen setzt, baut nichts Heiliges, sondern trifft eine nüchterne Wette auf den längeren Zeithorizont. Risikofrei ist sie nicht. Aber sie zielt auf das, was sich am schlechtesten extrahieren lässt.
* * *
Weiterlesen:
