Die Kennzahl als heimliches Ziel

Über mehrere Jahre eröffneten Beschäftigte der amerikanischen Großbank Wells Fargo zusätzliche Konten und Kreditkarten, ohne dass die betroffenen Kunden davon wussten oder zugestimmt hatten. Die US-Verbraucherschutzbehörde CFPB ging 2016 von möglicherweise rund zwei Millionen unautorisierten Konten aus. Eine spätere Überprüfung kam 2017 auf bis zu 3,5 Millionen. Wells Fargo zahlte erhebliche Bußgelder. Rund 5.300 Beschäftigte hatte die Bank bereits in den Jahren zuvor wegen dieser Praktiken entlassen.

Wells Fargo scheiterte an seinem eigenen Anreizsystem. Die Bank hatte über Jahre ehrgeizige Verkaufsziele für ihre Filialen vorgegeben und diese eng mit Boni und Karrierechancen verknüpft. Wer die geforderte Zahl neuer Produkte pro Kunde verfehlte, geriet unter erheblichen Druck. Aus diesem Druck entstand in vielen Filialen die Praxis, die Zahlen selbst ohne echte Kundennachfrage zu erfüllen.

Die einzelnen Beschäftigten handelten unter diesem Druck, geschaffen hatte ihn die Bank. Eine Organisation, die eine einzelne Kennzahl konsequent belohnt und wenig Raum für abweichendes Verhalten lässt, erzeugt fast zwangsläufig Verhalten, das genau diese Kennzahl optimiert, gleich ob das dahinterliegende Ziel noch erreicht wird. Bei Wells Fargo sollten Kundenbeziehungen vertieft werden. Gemessen wurde die Zahl eröffneter Produkte. Am Ende wurde diese Zahl optimiert und das Ziel geriet aus dem Blick.

Für KI-Systeme ist diese Beobachtung unmittelbar relevant, obwohl der Fall selbst ohne KI auskommt. Viele Unternehmen messen den Erfolg eines KI-gestützten Prozesses an einfachen Kennzahlen wie Bearbeitungszeit, Durchsatz oder Kosteneinsparung. Ein System, das konsequent auf eine solche Kennzahl optimiert wird, kann lernen, genau diese Zahl zu verbessern, während Qualität, Kundenzufriedenheit oder Risikokontrolle unbeobachtet bleiben. Der Unterschied zu Wells Fargo besteht lediglich darin, dass ein Algorithmus diese Optimierung schneller und konsequenter vollzieht und dabei kein schlechtes Gewissen kennt, wie es zumindest einzelne Beschäftigte der Bank empfunden haben mögen.

Wer eine Kennzahl zum zentralen Erfolgsmaßstab erklärt, sollte vorher fragen, welches Verhalten sie belohnt, sobald die Zielsetzung dahinter aus dem Blick gerät. Vollständig beantworten lässt sich diese Frage nie. Begleitende Kontrollen und bewusst gegenläufige Kennzahlen können sie aber entschärfen.

Jede Kennzahl belohnt ein bestimmtes Verhalten. Wer sie zum zentralen Maßstab macht, sollte vorher fragen, was geschieht, sobald das Ziel dahinter aus dem Blick gerät. Gegenläufige Kennzahlen und begleitende Kontrollen helfen, diese Entwicklung früh zu erkennen.

Mehr solcher Fälle gibt es hier!