Unternehmens-KI braucht kumulativen Kontext, bevor sie Autonomie verdienen kann

Stellen Sie sich vor, es ist Montagmorgen, nur wenige Stunden vor der vierteljährlichen Prognosebesprechung. Eine Führungskraft aus dem Finanzbereich fragt einen KI-Agenten: „Warum ist die Bruttomarge gesunken? Welche Annahmen müssen geändert werden? Und was sollte das Unternehmen als Nächstes tun?“ Innerhalb von Sekunden ruft der Agent Informationen aus mehreren Systemen ab, identifiziert einige wenige Ursachen und empfiehlt, die frei verfügbaren Ausgaben zu kürzen oder den Einstellungsplan zu überprüfen. Die Antwort ist klar, detailliert und plausibel. Nichts daran wirkt offensichtlich falsch.

Genau das macht es so gefährlich. 

Ein genauerer Blick offenbart mehrere fehlende Details. Der Agent verwendete die falsche Version der Prognose. Er übersah eine genehmigte Buchungskorrektur aus dem vorherigen Quartal. Er berücksichtigte nicht, dass in einer Region andere Geschäftsregeln gelten. Die zugrunde liegenden Daten waren nicht unbedingt falsch; der Agent wusste lediglich nicht, wie das Unternehmen diese Daten interpretierte oder wie die einzelnen Informationen zusammenhingen. Das Problem liegt nicht am Modell – ein anderes Modell kann es nicht einfach lösen. Vielmehr kennt das Modell dieses Unternehmen nicht. 

Ein großer Teil der Entwicklung von Unternehmens-KI konzentrierte sich auf die Leistungsfähigkeit von Modellen und die Autonomie von Agenten. Ein Modell kann jedoch nur dann zu einer verlässlichen, unternehmensspezifischen Schlussfolgerung gelangen, wenn es versteht, wie das Unternehmen seine Kennzahlen definiert und wie diese mit der Arbeitsweise des Unternehmens zusammenhängen. 

Was fehlt, ist eine Ebene kumulativen Geschäftskontexts – ein gesteuertes Verständnis davon, was Unternehmensdaten bedeuten: ihrer Definitionen, Zusammenhänge, Annahmen, Berechnungen, Arbeitsabläufe und Ausnahmen sowie der Entscheidungen, die sich im Laufe der Zeit darum herum ansammeln.

Dieser Kontext entwickelt sich durch Planung, Prognosen, Szenariomodellierung, Abweichungsanalysen, Korrekturen, Feedback, Abschlussarbeiten und genehmigte Entscheidungen. Ohne ihn riskieren Unternehmen, der KI mehr Verantwortung zu übertragen, ohne ihr ausreichend Geschäftsverständnis mitzugeben, damit sie diese Verantwortung zuverlässig wahrnehmen kann. 

Die Fähigkeiten von KI entwickeln sich schneller als die Bereitschaft von Unternehmen

Laut dem AI Index 2026 von Stanford nutzten 2025 88 % der befragten Unternehmen KI. Der Einsatz von Agenten lag jedoch in nahezu allen Unternehmensbereichen weiterhin im einstelligen Bereich. 

Diese Zahlen zeigen, dass Unternehmen Zugang zu KI-Fähigkeiten haben, viele aber noch nicht bereit sind, der KI folgenreiche Aufgaben zu übertragen. Führungskräfte wissen, dass sie mit KI arbeiten müssen, müssen aber noch klären, ob sie dabei auf der richtigen Ebene des Problems ansetzen.

Ein Modell kann Daten lesen, ohne das Unternehmen zu verstehen

Basismodelle sind gut darin, Muster zu erkennen, Informationen zusammenzuführen, in natürlicher Sprache zu interagieren und große Datensätze zu untersuchen. Das sind zwar bedeutende Fortschritte, doch das Modell selbst wird zunehmend weniger zum Unterscheidungsmerkmal. 

Die größere Herausforderung für Unternehmen besteht darin, der KI beizubringen, was die Informationen eines Unternehmens bedeuten und vor allem, wie sie bei Entscheidungen und Analysen verwendet werden.

Ein großer Teil der Diskussion über KI-Governance drehte sich um saubere Daten. Das ist zwar ein notwendiger Schritt, reicht aber nicht aus, wenn KI unternehmensweit eingesetzt werden soll. Zwei saubere Datensätze können dennoch unterschiedliche Definitionen, Zeiträume und Geschäftsregeln verwenden. 

Die CEO-Studie 2025 von IBM ergab, dass 25 % der KI-Initiativen den erwarteten ROI erzielten und nur 16 % unternehmensweit skaliert wurden. Dieses Muster spiegelt eine größere Herausforderung bei der Umsetzung wider: Der Zugang zu Modellen und Daten gewährleistet nicht, dass ein KI-System die organisatorischen Regeln in Einklang bringen kann, die bestimmen, wie Informationen verwendet werden sollten.

Leistungsfähigere Modelle lassen sich problemlos beschaffen. Das unternehmensspezifische Verständnis muss erst aufgebaut werden. 

Kontext beim Abruf ist kein kumulativer Kontext

Vieles von dem, was in der Unternehmens-KI als Kontext bezeichnet wird, wird nach wie vor erst zum Zeitpunkt einer Anfrage durch Abruf bereitgestellt. Das System findet ein relevantes Dokument, einen Datensatz oder einen Datenpunkt, nutzt ihn, um eine Antwort zu generieren, und beginnt beim nächsten Mal von vorn. 

Der Abruf ist wertvoll, schafft für sich genommen jedoch kein kumulatives organisatorisches Gedächtnis. Es bleibt nur wenig erhalten – die KI begegnet dem Unternehmen daher bei jeder neuen Interaktion wie eine Fremde.

Das ist, als würde man jeden Morgen eine brillante neue Analystin oder einen brillanten neuen Analysten einarbeiten. Die Person versteht das Finanzwesen und weiß, wie sich ein Datensatz untersuchen lässt. Sie muss aber trotzdem erst lernen, wie dieses konkrete Unternehmen seine Kennzahlen definiert, welche Prognose maßgeblich ist, warum eine Ausnahme genehmigt wurde und welche Annahmen sich immer wieder als falsch erweisen.

Kumulativer Kontext erfüllt einen anderen Zweck. Statt sich mit jeder Eingabe oder jedem Planungszyklus zurückzusetzen, wächst der Kontext im Laufe der Zeit an. Jede Untersuchung, jedes Szenario, jede Korrektur, Genehmigung und Entscheidung kann zu einem gesteuerten Verständnis der Arbeitsweise des Unternehmens beitragen. So können spätere Zyklen auf den Erkenntnissen früherer Zyklen aufbauen, statt mit jeder Eingabe dieselben Zusammenhänge, Logiken und Arbeitsweisen erneut zu erschließen. 

Das bedeutet nicht, alles auf unbestimmte Zeit aufzubewahren. Nützlicher Unternehmenskontext muss bewusst eingegrenzt, korrigierbar, zugriffsgesteuert und bis zu seiner Quelle zurückverfolgbar sein. Unternehmen müssen Wichtiges bewahren und zugleich sicherstellen, dass veraltete Annahmen, vorübergehende Ausnahmen und falsche Interpretationen erkannt und im Laufe der Zeit geändert werden können.

Vertrauen entsteht unterhalb der Modelle

Das Modell ist der sichtbarste Teil eines KI-Systems, aber nur selten entscheidet es darüber, ob ein Unternehmen dem Ergebnis vertrauen kann. 

Ein leistungsfähiges Modell kann Abweichungen untersuchen, mögliche Erklärungen prüfen und Maßnahmen empfehlen. Ob ein Unternehmen sich auf diese Empfehlung verlassen kann, hängt von der Architektur ab, die das Modell umgibt. 

Gartner stellte fest, dass Unternehmen mit erfolgreichen KI-Initiativen bis zu viermal mehr investieren – gemessen am Umsatzanteil – in Grundlagen wie Datenqualität, Governance, KI-kompetente Fachkräfte und Veränderungsmanagement als Unternehmen mit schlechten Ergebnissen.

Die gesteuerte Kontextebene ist Teil dieser Grundlage und liegt zwischen Quellsystemen, Modellen und geschäftlichen Maßnahmen. 

Hier müssen sich auch Intelligenz und Determinismus voneinander unterscheiden. KI kann untersuchen, Entwürfe erstellen und Empfehlungen geben. Sobald eine Maßnahme geprüft und genehmigt wurde, sollte ihre Ausführung über gesteuerte Berechnungen, Berechtigungsprüfungen, Rückschreibkontrollen und Prüfprotokolle erfolgen. Die Flexibilität, die ein Modell für die Erkundung nützlich macht, ist nicht immer angemessen, wenn eine Änderung im Unternehmen verbindlich umgesetzt wird.

Ein Modell kann empfehlen, was geschehen sollte. Die umgebende Architektur – einschließlich menschlicher Freigaben und Systemkontrollen – bestimmt, was geschehen darf.

Beschränkungen, die Agenten nützlich machen

Agenten werden schneller eingesetzt, als die entsprechenden Kontrollen eingerichtet werden. KPMG stellte fest, dass der Anteil der Unternehmen, die zumindest einige KI-Agenten einsetzen, von 11 % im ersten Quartal 2025 auf 42 % im dritten Quartal stieg. Gartner berichtete jedoch, dass nur 13 % der Unternehmen nachdrücklich zustimmten, über die richtigen Governance-Strukturen für Agenten zu verfügen.

Diese Lücke ist bedeutsam, denn Leistungsfähigkeit und Befugnisse sind zwei getrennte Designentscheidungen. Ein System kann technisch in der Lage sein, auf eine Datenbank zuzugreifen, eine Prognose zu überarbeiten oder einen Arbeitsablauf auszulösen. Das bedeutet nicht, dass es dazu eigenständig berechtigt sein sollte. 

Bevor Unternehmen Agenten mit wichtigen Aufgaben betrauen, sollten sie drei Beschränkungen festlegen.

• Eine gemeinsame Bedeutung festlegen

Definitionen, Kennzahlen, Hierarchien, Geschäftskalender und Berechnungsregeln müssen aufeinander abgestimmt werden, bevor ein Agent über sie hinweg konsistent Schlussfolgerungen ziehen kann. 

Von KI sollte nicht erwartet werden, dass sie Meinungsverschiedenheiten stillschweigend ausräumt, die das Unternehmen selbst noch nicht geklärt hat. Fehlt eine gemeinsame Bedeutung, kann sie widersprüchliche Definitionen als austauschbar behandeln und eine in sich schlüssige, aber operativ falsche Antwort liefern.

• Festlegen, was erhalten bleibt

Unternehmen müssen festlegen, welche Korrekturen, Freigaben, Entscheidungen und Ergebnisse als wiederverwendbarer Kontext übernommen werden. Außerdem benötigen sie Richtlinien für Aufbewahrung, Zugriff und Korrekturen. 

Nützliche Erinnerungen werden gezielt ausgewählt und gesteuert, nicht wahllos angesammelt. Andernfalls kann eine veraltete Annahme oder eine einmalige Ausnahme unbemerkt künftige Empfehlungen beeinflussen.

• Empfehlungen von verbindlichen Maßnahmen trennen

Analyse, Empfehlung, vorgeschlagene Änderung, von Menschen genehmigte Ausführung und begrenzte autonome Ausführung stehen für unterschiedliche Befugnisstufen. Agenten sollten über Identitäten und Berechtigungen verfügen, die jeweils zur entsprechenden Stufe passen.

Die Bewertung muss außerdem die gesamte Handlungskette umfassen: Welche Informationen wurden abgerufen, welcher Kontext wurde verwendet, welche Werkzeuge wurden aufgerufen, was hat sich geändert und lässt sich diese Änderung rückgängig machen? 

Wer nur die endgültige Antwort prüft, übersieht die meisten Möglichkeiten, wie ein agentischer Arbeitsablauf scheitern kann.

Die Leistungsfähigkeit beschreibt, was ein Agent tun kann, und die Governance legt fest, was er tun darf.

Autonomie erfordert mehr als Leistungsfähigkeit

Im zu Beginn geschilderten Szenario mit dem knappen Zeitfenster ist Geschwindigkeit nur dann nützlich, wenn das System auch weiß, welche Prognose maßgeblich ist, welche Ausnahme genehmigt wurde, welche Maßnahme es ergreifen darf und wer weiterhin rechenschaftspflichtig ist. 

Ich bin überzeugt, dass KI in Unternehmen nur dann Vertrauen gewinnen wird, wenn sie den richtigen Kontext berücksichtigt und nachvollziehbar machen kann, wie sie zu einem folgenreichen Ergebnis gekommen ist. 

Unternehmen sollten diese Kontext- und Kontrollebene aufbauen, bevor sie die Autonomie ihrer Agenten ausweiten. Die Arbeit wird sich verändern, die Rechenschaftspflicht jedoch nicht.