Aus Fehlern lernen
Sechs Stichworte ordnen die Texte, jeder Text trägt dabei ein bis vier der folgenden Merkmale:
| Stichwort | Worum es geht |
|---|---|
| Governance | Aufsichtsgremien, Kontrollsysteme, Funktionstrennung und die Prüfung, ob Anweisungen umgesetzt werden |
| Kommunikation und Meldewege | Warnungen, Hinweisgeber, Widerspruch und der Weg von Informationen durch die Hierarchie |
| Verantwortung | Zuständigkeiten, Schnittstellen, Dienstleister, Lieferketten und die Frage, wer am Ende einsteht |
| KI und Technik | Automatisierung, Algorithmen, Software und IT-Sicherheit |
| Kennzahlen | Messgrößen, Anreizsysteme und die Aufbereitung von Daten für Entscheider |
| Vereine und Stiftungen | Gemeinnützigkeit, Satzung und Praxis sowie die Verwaltung gemeinnütziger Organisationen |
Übersicht
Alle 41 Texte mit ihrer fett gesetzten Quintessenz und den zugeordneten Stichworten.
Amazon
Wer eine bisherige Praxis automatisiert, übernimmt ihre stillschweigenden Annahmen. Vor einem KI-gestützten Auswahlverfahren steht deshalb die ehrliche Prüfung, was die Organisation in der Vergangenheit belohnt hat und ob sie das künftig noch will.
Stichworte: KI und Technik
Obermeyer-Studie
Ein Modell kann technisch hervorragend funktionieren und trotzdem Schaden anrichten, sobald es die falsche Größe vorhersagt. Vor jeder Validierung gehört geklärt, ob die Zielgröße misst, was inhaltlich gemeint ist.
Stichworte: KI und Technik, Kennzahlen
Klarna
KI übernimmt in der Regel einzelne Aufgaben und selten ganze Funktionen. Wer Automatisierung plant, beginnt bei der einzelnen Aufgabe und versteht die Steuerung zwischen Mensch und Maschine als Führungsaufgabe.
Stichworte: KI und Technik
National Weather Service
Automatisierte Systeme brauchen Menschen, die sie überwachen, warten und in Ausnahmefällen eingreifen. Vor jedem Stellenabbau mit Verweis auf Technik gehört geklärt, wie viel dieser Arbeit wegfällt und wie viel nur unsichtbar geworden ist.
Stichworte: KI und Technik, Verantwortung
Therac-25
Je mehr Verantwortung eine Organisation an ein System überträgt, desto stärker muss ihre Aufsicht darüber mitwachsen. Sicherheitskontrollen gehören nicht allein in die Software, die sie überwachen sollen. Fehlermeldungen müssen für die Bedienenden verständlich sein.
Stichworte: KI und Technik, Governance
Robert Williams
Ein System darf markieren, priorisieren und vorschlagen. Entscheidungen mit Folgen für einen Menschen trifft ein Mensch, der sie prüfen, erklären und verantworten kann.
Stichworte: KI und Technik, Verantwortung
Mata gegen Avianca
Wer Arbeit an ein KI-Werkzeug delegiert, behält die Verantwortung für das Ergebnis. Gerade die Überzeugungskraft generierter Texte verlangt eine besonders sorgfältige Prüfung von Fakten und Quellen.
Stichworte: KI und Technik, Verantwortung
Knight Capital
Eine Kontrolle wirkt nur, sobald jemand sie im Ernstfall rechtzeitig auslösen darf und kann. Wer ein automatisiertes System einsetzt, klärt vorher, wer es abschaltet, ab welcher Schwelle und wer Warnsignale in Echtzeit beobachtet.
Stichworte: KI und Technik, Governance
Wells Fargo
Jede Kennzahl belohnt ein bestimmtes Verhalten. Wer sie zum zentralen Maßstab macht, sollte vorher fragen, was geschieht, sobald das Ziel dahinter aus dem Blick gerät. Gegenläufige Kennzahlen und begleitende Kontrollen helfen, diese Entwicklung früh zu erkennen.
Stichworte: Kennzahlen, Governance
Equifax
Eine Regel, eine Zuständigkeit und eine Frist ergeben noch keine funktionierende Governance. Wirksam wird sie erst durch jemanden, der prüft, ob eine Anweisung umgesetzt wurde, bevor ein Vorfall es zeigt.
Stichworte: Governance
Volkswagen
In vielen Organisationen ist das Wissen um ein Problem längst vorhanden, bevor es zum Skandal wird. Ob es rechtzeitig die Entscheider erreicht und dort Folgen hat, hängt von Meldewegen ab, die ohne Angst genutzt werden können und erkennbar etwas bewirken.
Stichworte: Kommunikation und Meldewege, Governance
Wau-Holland-Stiftung
Gemeinnützigkeit muss sich fortlaufend in der tatsächlichen Geschäftsführung zeigen, besonders bei der Weiterleitung von Mitteln an Dritte. Ein Aberkennungsbescheid verdient zugleich eine ebenso gründliche Prüfung wie die eigene Praxis.
Stichworte: Vereine und Stiftungen
Attac
Politische Positionen gefährden die Gemeinnützigkeit nicht, solange sie Mittel zu einem anerkannten Zweck bleiben. Organisationen in umstrittenen Themenfeldern sollten regelmäßig prüfen, ob sich ihr Schwerpunkt mit der Zeit verschoben hat.
Stichworte: Vereine und Stiftungen
Uniter
Über die Gemeinnützigkeit entscheidet, ob die gelebte Praxis zur Satzung passt. Diese Prüfung ist Aufgabe der Organisation selbst, gleich ob jemand von außen hinsieht.
Stichworte: Vereine und Stiftungen, Governance
UNICEF Deutschland
Reputationsschäden wachsen oft aus kleinen Versäumnissen in der Verwaltung, die für sich harmlos wirken. Gute Governance heißt, den Alltag so zu organisieren, dass eine Organisation jederzeit belegen kann, ordnungsgemäß gearbeitet zu haben.
Stichworte: Vereine und Stiftungen, Governance
Barings
Wer eine Entscheidung trifft, darf nicht zugleich allein darüber bestimmen, wie sie berichtet wird. Diese Trennung gilt für den Kassenwart im Verein ebenso wie für den Händler in der Bank und lässt sich mit wachsendem Vertrauen nicht abbauen.
Stichworte: Governance
Société Générale
Getrennte Kontrollen bieten für sich genommen keine Sicherheit. Zu einem Kontrollsystem werden sie erst, sobald jemand ihre Einzelbefunde zusammenführt und prüft, ob sich daraus ein auffälliges Gesamtbild ergibt.
Stichworte: Governance
Wirecard
Viele Kontrollinstanzen können gemeinsam versagen, solange jede nur ihren eigenen Ausschnitt sieht. Es braucht eine Stelle, die Erkenntnisse zusammenführt und Widersprüche zwischen offizieller Erzählung und Signalen von außen ernst nimmt.
Stichworte: Governance, Kommunikation und Meldewege
Carillion
Ein Aufsichtsgremium prüft über die Richtigkeit der Zahlen hinaus, ob die Geschichte dahinter noch stimmt. Dauerhaft gute Ergebnisse in einem schwieriger werdenden Umfeld verdienen besonders kritische Fragen.
Stichworte: Governance, Kennzahlen
Theranos
Prominente Namen verleihen einem Aufsichtsgremium Glaubwürdigkeit und ersetzen doch keine Fachkenntnis. Bei komplexen Vorhaben muss ein Gremium diese Kenntnis selbst mitbringen oder unabhängig von der Geschäftsführung einholen.
Stichworte: Governance
FIFA
Neue Gremien und Richtlinien sind Werkzeuge einer Reform. Ob sie wirken, zeigt sich im Alltag und hängt davon ab, ob die neuen Kontrollinstanzen Ressourcen, Informationen und Schutz vor denen haben, die sie kontrollieren sollen.
Stichworte: Governance, Vereine und Stiftungen
Post Office
Je überzeugender ein System auftritt, desto wichtiger wird der institutionalisierte Zweifel an seinen Ergebnissen. Abweichende Erfahrungen der Menschen, die mit ihm arbeiten, können der erste Hinweis auf einen Systemfehler sein.
Stichworte: KI und Technik, Governance
Boeing 737 MAX
Eine Sicherheitsfunktion wirkt nur, solange sie sich gegen wirtschaftlichen und zeitlichen Druck durchsetzen kann. Dafür braucht sie Unabhängigkeit von den Vorgesetzten, deren Entscheidungen sie kontrollieren soll.
Stichworte: Governance, Kommunikation und Meldewege, KI und Technik
Boeing und die schlechten Nachrichten
Ein Hinweisgebersystem beweist durch seine Existenz noch nicht, dass es genutzt wird. Vertrauen in Meldewege entsteht erst, sobald Meldungen erkennbar Folgen haben und niemand für einen Hinweis benachteiligt wird.
Stichworte: Kommunikation und Meldewege
Deepwater Horizon
Katastrophen entstehen oft aus vielen Entscheidungen, die jede für sich vertretbar erscheinen. Governance muss deshalb prüfen, wie sich Risiken über Fachbereiche hinweg aufaddieren. Diese Gesamtsicht entsteht selten von selbst.
Stichworte: Verantwortung, Governance
Grenfell Tower
Geteilte Verantwortung funktioniert, solange feststeht, wer für das Gesamtergebnis einsteht. Diffuse Verantwortung, bei der jede Stelle nur ihren Ausschnitt sieht, lässt das Ganze ohne Verantwortlichen.
Stichworte: Verantwortung
Target
Wer Aufgaben auslagert, behält das Risiko. Dienstleister mit Zugang zu eigenen Systemen oder Daten verdienen dieselbe Sicherheitsprüfung wie die eigene IT, gleich wie klein der Auftrag erscheint.
Stichworte: Verantwortung, KI und Technik
Cambridge Analytica
Technische Machbarkeit ersetzt weder die rechtliche Prüfung noch die Fähigkeit, die Verwendung von Daten zu kontrollieren. Eine Löschbestätigung ohne Nachprüfung bleibt eine Anweisung ohne Kontrolle.
Stichworte: KI und Technik, Verantwortung
Rana Plaza
Wirtschaftlicher Einfluss begründet Verantwortung, gleich wie die Verträge gestaltet sind. Wer Preise, Mengen und Fristen vorgibt, trägt die Bedingungen mit, unter denen für ihn gearbeitet wird.
Stichworte: Verantwortung
Samsung
Neue Technik wird genutzt, lange bevor eine Organisation sie regelt. Eine Richtlinie muss deshalb früh entstehen, sonst regelt die informelle Praxis der Belegschaft, was die Organisation offengelassen hat.
Stichworte: KI und Technik, Governance
Mars Climate Orbiter
Eine Regel an einer Schnittstelle wirkt erst, sobald jemand prüft, ob beide Seiten sie einhalten. Begriffe und Kennzahlen brauchen eine gemeinsame Definition, bevor Zahlen aus verschiedenen Bereichen zusammenlaufen. Zweifel sollten sich leicht formal festhalten lassen, damit sie nicht im Informellen versanden.
Stichworte: Verantwortung, Kennzahlen, KI und Technik, Kommunikation und Meldewege
Flughafen BER
Wer den Erfolg eines Projekts politisch oder persönlich verantwortet, ist als Kontrolleur befangen. Aufsichtsgremien brauchen Fachkenntnis und die Unabhängigkeit, ein Projekt notfalls anzuhalten. Viele einzeln vertretbare Änderungen können ein Vorhaben überfordern, im Großprojekt wie beim Gemeindehaus.
Stichworte: Governance, Verantwortung
Hintergrund
Den Anstoß zu diesem Bereich gaben Leserinnen und Leser, die sich gewünscht haben, dass ich bedeutende Urteile bespreche und in einer kurzen Analyse einordne. Vermutlich ist das eine typische Erwartung an einen Juristen. Ehrlich gesagt reizen mich Urteile allerdings meist deutlich weniger als Geschichte, für die ich mich sehr interessiere. Aus der Anregung wurde deshalb zunächst die Reihe „Aus der Geschichte lernen“, in der ich historische Ereignisse daraufhin betrachte, was Organisationen heute aus ihnen mitnehmen können. Ein Historiker bin ich dabei nicht und erhebe diesen Anspruch ausdrücklich nicht.
Beim Schreiben der ersten Texte wurde die Liste möglicher Beispiele schnell länger. Neben historischen Ereignissen standen darauf bald Unternehmen, Behörden, Vereine und Stiftungen aus der jüngeren Vergangenheit, aus deren Fehlern sich ebenso viel lernen lässt. So ist dieser Bereich entstanden, als Weiterentwicklung einer Anregung aus der Leserschaft, die ursprünglich in eine ganz andere Richtung zielte.
Organisationen lernen am liebsten aus eigenen Erfolgen. Aus eigenen Fehlern lernen sie deutlich schwerer, weil ein Fehler selten offen besprochen wird und die Beteiligten ihn oft erst im Rückblick als solchen erkennen. Fremde Fehler haben dagegen einen großen Vorteil. Man kann sie in Ruhe betrachten, ohne sich rechtfertigen zu müssen. Trotzdem findet man in ihnen erstaunlich oft die eigene Organisation wieder.
In diesem Bereich sammle ich Fälle, in denen Unternehmen, Behörden, Vereine und Stiftungen gescheitert sind oder schweren Schaden genommen haben. Manche davon sind weltbekannt, etwa der Dieselskandal bei Volkswagen, der Zusammenbruch von Wirecard oder die Abstürze der Boeing 737 MAX. Andere kennt außerhalb von Fachkreisen kaum jemand, etwa das Bestrahlungsgerät Therac-25 aus den 1980er-Jahren oder die Wau-Holland-Stiftung, deren Gemeinnützigkeit gleich zweimal in Frage gestellt wurde. Mich interessiert an ihnen vor allem das Muster hinter dem Skandal, also die Frage, welche Strukturen einen Fehler ermöglicht haben und warum er nicht früher aufgefallen ist.
Über alle Fälle hinweg zieht sich ein roter Faden. Fast immer war das Wissen um das Problem irgendwo in der Organisation vorhanden. Es gab Warnungen, Zweifel, interne Hinweise oder eine Zahl, die nicht zur offiziellen Geschichte passte. Gescheitert sind die Organisationen daran, dieses Wissen rechtzeitig an die richtige Stelle zu bringen und Konsequenzen daraus zu ziehen. Wer sich die Fälle nebeneinander ansieht, erkennt deshalb schnell, wie ähnlich sich Organisationen im Scheitern sind, so unterschiedlich ihre Branchen und Größen sein mögen.
Viele dieser Fälle stammen aus einer Zeit vor der heutigen Debatte über künstliche Intelligenz. Gerade deshalb lohnt der Blick auf sie. Wer heute KI-Systeme einführt, stößt auf dieselben Fragen, die sich bei Handelssystemen, Buchhaltungssoftware oder medizinischen Geräten schon vor Jahrzehnten gestellt haben. Wer darf ein System stoppen, das sich auffällig verhält? Wer prüft, ob eine Anweisung umgesetzt wurde? Wer verantwortet eine Entscheidung, die ein Algorithmus vorbereitet hat?
Die Darstellungen stützen sich auf öffentlich zugängliche Quellen wie Gerichtsentscheidungen, Untersuchungsberichte und Presseberichte. Die Sammlung soll weiter wachsen. Welcher Fall fehlt Ihnen? Über Hinweise freue ich mich sehr, gerade auf Fälle aus Vereinen, Stiftungen oder kirchlichen Einrichtungen, die selten in den Schlagzeilen landen und für die Praxis oft besonders lehrreich sind.