Wenn die KI richtig ist und der Prozess falsch ist

Stellen Sie sich ein häufiges Szenario im Finanzdienstleistungsbereich vor. Ein Team setzt KI ein, um Verträge zu überprüfen: Hunderte von Seiten, repetitive Klauseln und Routinearbeiten, die normalerweise Tage dauern. Das Modell identifiziert die Risiken und Verweise auf korrekte Absätze. Doch das Ergebnis addiert sich nicht.

Es stellt sich heraus, dass das Problem im Vertragsordner liegt, wo Dateien mit Namen wie contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx und contract_finalfinal_THIS_ONE.docx nebeneinander liegen.

Die KI hat die zuletzt gespeicherte Datei ausgewählt. Aber diese Datei war eine ältere Version, die jemand versehentlich letzte Woche geöffnet und automatisch gespeichert hatte.

Das Modell hat genau das getan, wofür es entwickelt wurde. Der Prozess jedoch hat es im Stich gelassen.

Wenn das Modell nicht das Problem ist

In meinem vorherigen Artikel argumentierte ich, dass KI-Fehler oft außerhalb des Modells beginnen – in der Governance, Eigentums- und Entscheidungsstrukturen, die es umgeben. Aber Governance ist nur ein Teil des Problems. Selbst ein gut regiertes KI-System wird kämpfen, wenn der Prozess unter ihm auf veralteten Dokumenten, informellen Ausnahmen oder Genehmigungspfaden basiert, die für ein viel langsameres Arbeits-tempo konzipiert sind.

Wenn ein KI-System ein schlechtes Ergebnis produziert, ist das Modell normalerweise der erste Verdächtige. Vielleicht hat es halluziniert, das Aufgabenverständnis missverstanden oder einen schwachen Prompt erhalten. Aber manchmal hat das Modell genau das getan, was es tun sollte. Der Fehler trat im Prozess auf, der seine Informationen bereitgestellt hat oder in der Organisation, die nicht auf seine Ausgabe reagieren konnte.

Die Einsetzung von KI deckt Prozessprobleme auf, die immer existierten, aber nie sichtbar waren – wie ein Diagnosetool. Es deckt Schwächen auf, die Menschen zuvor ohne Nachdenken kompensiert haben: fehlende Kontexte, unklare Eigentumsverhältnisse und informelle Workarounds, die nie dokumentiert wurden.

Geschwindigkeit ohne Kapazität

KI beschleunigt nicht nur die Ausgabe. Es beschleunigt auch Eskalationen, Anfragen um Entscheidungen und die Entdeckung von Problemen. Ein Modell markiert eine Anomalie in Echtzeit, nicht am Freitag Nachmittag, wenn jemand endlich die Zeit findet, die Protokolle durchzugehen.

Organisationen sind nicht auf dieses Tempo eingerichtet. Genehmigungsprozesse, Eskalationspfade, Entscheidungskompetenzen – all dies war auf menschliche Geschwindigkeit kalibriert. Wenn KI Ausgaben produziert, die die Organisation nicht absorbieren kann, können drei Dinge passieren:

• KI wartet auf eine Entscheidung, was den Effizienzgewinn aufhebt.
• Mitarbeiter ignorieren ihre Ausgabe und kehren zu dem alten Prozess zurück, von dem sie glauben, dass er funktioniert.
• Mitarbeiter treiben Entscheidungen voran, ohne sie ordnungsgemäß zu überprüfen, weil sie unter Druck gesetzt werden, das Tempo aufrechtzuerhalten, das die Technologie verspricht.

Einige Mitarbeiter kehren zu manuellen Überprüfungen zurück, weil sie sich sicherer fühlen. Andere genehmigen Ergebnisse, die sie nicht überprüft haben, weil sie unter Druck gesetzt werden, das Tempo aufrechtzuerhalten. In beiden Fällen zahlt die Organisation für schnellere Ausgaben, ohne verantwortungsvollere Entscheidungen zu treffen.

Die Eigentumsverhältnisse können auch unscharf werden. Wer ist verantwortlich für die Überprüfung einer markierten Anomalie, für die Entscheidung, ob das Modell falsch ist, und für die Eskalation des Problems, wenn mehrere Teams beteiligt sind? Ohne eine klare Antwort läuft die KI im Hintergrund weiter und produziert Ausgaben, die niemand wirklich besitzt.

Dies spiegelt ein umfassenderes organisatorisches Problem wider. Wie eine Forbes-Analyse von Ende 2025 feststellte, wenn Technologie Arbeitsabläufe schneller ändert, als eine Organisation sie aufnehmen kann, ist das Ergebnis nicht Effizienz, sondern Überarbeitung. KI kann eine Phase eines Prozesses beschleunigen, aber ihr Wert hängt immer noch davon ab, ob die umgebende Organisation ihre Ausgaben absorbieren und darauf reagieren kann.

Das stille Wissen, das niemand aufgeschrieben hat

Stellen Sie sich vor, Martin weiß, dass der Vertrag des Unternehmens mit einem Lieferanten eine Ausnahme für Zahlungen unter 2.000 Euro enthält. Es wurde vor drei Jahren mündlich vereinbart, aber nie dokumentiert. Wenn das Unternehmen KI einsetzt, um Zahlungsgenehmigungen zu automatisieren, blockiert das System die Zahlung – korrekt, gemäß dem schriftlichen Vertrag.

Dies ist stillschweigendes Wissen: organisatorisches Wissen, das in den Köpfen der Menschen lebt, anstatt in Systemen. Jedes Unternehmen hat es. Und die meisten Unternehmen haben keine Ahnung, wie viel davon sie haben.

KI kann nur Wissen nutzen, das für sie zugänglich gemacht wurde. Martins Ausnahme existiert nicht aus Sicht des Systems. Ohne diesen Kontext kann seine Entscheidung technisch korrekt, aber operativ falsch sein.

McKinsey hat die gleiche Herausforderung bei der Einsetzung von KI-Agenten identifiziert. Der Aufbau effektiver KI-Agenten erfordert, dass Unternehmen Expertenpraktiken kodifizieren, die möglicherweise in Standardverfahren existieren – oder nur als stillschweigendes Wissen in den Köpfen der Mitarbeiter. Mit anderen Worten: Die Einsetzung von KI kann das erste Mal sein, dass ein Unternehmen sieht, wie sehr der Prozess von dem abhängt, was Martin weiß.

Die falsche Quelle der Wahrheit

Die gefährlichste KI-Ausgabe ist nicht immer eine offensichtlich falsche. Es kann eine glaubwürdige, professionell präsentierte Antwort sein, die aus veralteten Informationen produziert wurde.

Seit Jahren haben viele Abteilungen mit mehreren Versionen desselben Dokuments gearbeitet, weil Jane aus der Rechtsabteilung immer weiß, welche Version autoritativ ist. KI jedoch nicht.

Es sei denn, sie hat Regeln für die Unterscheidung zwischen Versionen erhalten, hat das System keinen Grund, das Dokument in Frage zu stellen, das es erhält. Und so läuft die KI-Überprüfung korrekt – auf dem falschen Dokument. Das kann schlimmer sein als gar keine Überprüfung, weil die Ausgabe glaubwürdig aussieht.

Ein erfahrener Mitarbeiter kann wissen, wo die Wahrheit liegt und durch das Chaos navigieren. Ein System jedoch benötigt eine zuverlässige Möglichkeit, um zu bestimmen, welche Informationen aktuell, genehmigt und relevant sind.

Stillschweigendes Wissen, unzuverlässige Dokumente und Genehmigungsprozesse, die für menschliche Ausgaben konzipiert sind, scheinen separate Probleme zu sein. Aber sie haben die gleiche Ursache. Keines von ihnen wurde durch KI erstellt, aber KI macht sie schwerer zu ignorieren.

Fragen, die Sie beantworten sollten, bevor Sie einen Agenten aufbauen

Bevor ein Unternehmen einen KI-Agenten einsetzt, sollte es in der Lage sein, drei Fragen zu beantworten.

Welche Entscheidungen basieren auf Wissen, das nie dokumentiert wurde?

Dies bedeutet, die Ausnahmen, Abkürzungen und Urteile zu identifizieren, die erfahrene Mitarbeiter anwenden, ohne sie bewusst zu beschreiben. Interviews allein können nicht alle diese Kenntnisse offenbaren. Unternehmen müssen möglicherweise beobachten, wie die Arbeit tatsächlich ausgeführt wird, und sie mit dem offiziellen Prozess vergleichen.

Wie wird das System Informationen identifizieren, die aktuell, genehmigt und relevant sind?

Dem Agenten Zugang zu mehr Dokumenten zu gewähren, löst das Problem nicht, wenn er nicht zwischen einer genehmigten Vertragsversion und einem Entwurf oder einer aktiven Richtlinie und einer veralteten unterscheiden kann. Versionierung, Eigentumsverhältnisse, Genehmigungsstatus und Aufbewahrungsregeln müssen klar genug sein, damit das System bestimmen kann, welche Quelle seine Entscheidung regieren sollte.

Können bestehende Genehmigungs- und Eskalationsprozesse das Volumen und die Geschwindigkeit ihrer Ausgabe absorbieren?

Teams sollten nicht nur schätzen, wie viel Arbeit der Agent ausführen kann, sondern auch, wie viele Überprüfungen, Ausnahmen und Eskalationen diese Arbeit möglicherweise erzeugen. Der NIST-KI-Risikomanagement-Framework empfiehlt, klare Rollen und Verantwortlichkeiten für die menschliche Überwachung von KI-Systemen zu definieren. Diese müssen vor der Einsetzung des Systems und nicht danach entworfen werden, wenn die Mitarbeiter von ihm überfordert werden.

Diese sind nicht Fragen, die einmal beantwortet und dann vergessen werden. Prozesse ändern sich, Dokumente altert und undokumentierte Ausnahmen kumulieren wieder. Bereitschaft muss daher aufrechterhalten und nicht nur vor dem Start etabliert werden.

AI-Bereitschaft beginnt mit dem Prozess

AI-Bereitschaft ist nicht nur ein Test der Technologie. Es ist ein Test dafür, ob das Unternehmen seine eigenen Prozesse explizit genug gemacht hat, damit die Technologie innerhalb von ihnen operieren kann.

Die Vorbereitung eines Unternehmens auf KI umfasst daher mehr als die Auswahl eines Modells oder den Aufbau eines Agenten. Es bedeutet, Eigentumsverhältnisse zu klären, autoritative Informationen zu identifizieren, Ausnahmen zu dokumentieren und zu entwerfen, wie Ausgaben überprüft, eskaliert und umgesetzt werden.

Dies ist schwierige Arbeit, aber eine fehlgeschlagene Einsetzung wird das Unternehmen letztendlich zwingen, es auf jeden Fall zu tun. Die einzige Variable ist die Zeit.