KI trifft Entscheidungen im Minutentakt. Die meisten Governance-Prozesse laufen noch im Quartalstakt

Ein KI-gestütztes System kann Hunderte operative Entscheidungen beeinflussen, bevor ein Lenkungsausschuss seinen nächsten Sitzungstermin angesetzt hat. Governance, die auf vierteljährlichen Überprüfungen beruht, war nie auf dieses Tempo ausgelegt. Diese Diskrepanz bringt viele KI-Programme in Unternehmen ins Straucheln.

Wir verbringen enorm viel Zeit damit, darüber zu diskutieren, welche Modelle eingesetzt werden sollen. Gartner prognostiziert jedoch, dass Unternehmen bis einschließlich 2026 60 % der KI-Projekte aufgeben werden, denen keine KI-tauglichen Daten zugrunde liegen. Die meisten Fehlschläge bei KI in Unternehmen haben nur sehr wenig mit dem Modell selbst zu tun. Sie gehen auf etwas Grundlegenderes zurück: Unternehmen fehlt ein verlässliches, zusammenhängendes Verständnis des eigenen Geschäfts.

Die versteckten Kosten von „KI-tauglichen“ Daten

Die meisten Unternehmen unterschätzen den Aufwand, der nötig ist, um Zuständigkeiten, Governance, Vertrauen und Kontext rund um ihre Daten zu schaffen. Nur wenige investieren in das funktionsübergreifende Fachwissen und das Betriebsmodell, die erforderlich sind, um Governance-Rahmenwerke aufzubauen, die die Transparenz, Erklärbarkeit und Rechenschaftspflicht gewährleisten, die nötig sind, um KI über Pilotprojekte hinaus einzusetzen.

Es gibt einen einfachen Test, den ich meinen Kunden ans Herz lege. Kann das Unternehmen klar darlegen, wem die Daten gehören, wie sie mit Geschäftsprozessen zusammenhängen, welche Kontrollen ihre Nutzung regeln und wer für KI-gestützte Entscheidungen verantwortlich bleibt? Wenn nicht, ist es unwahrscheinlich, dass die KI-Initiativen erfolgreich sein werden – unabhängig davon, wie viel in Plattformen, Infrastruktur oder Modelle investiert wird.

Der erste Schritt auf dem Weg zu unternehmensweiter KI sollte darin bestehen, in Governance und ein praxistaugliches Betriebsmodell zu investieren, das klare Zuständigkeiten, Rechenschaftspflicht und Entscheidungsbefugnisse festlegt. Ich beobachte jedoch, dass die meisten Unternehmen genau umgekehrt vorgehen: Sie schaffen zunächst Modelle und Infrastruktur, bevor sie die Grundlagen für den KI-Einsatz in großem Maßstab legen.

KI-gestützte Entscheidungen stützen sich nicht nur auf einzelne Datenpunkte, sondern auch darauf, wie Informationen mit Geschäftsprozessen, Richtlinien, Zuständigkeiten und dem operativen Kontext zusammenhängen. Sind diese Beziehungen fragmentiert, sollten Unternehmen nicht überrascht sein, wenn die Empfehlungen der KI uneinheitlich ausfallen.

Wenn KI-Anwendungen Beinahe-Vorfälle, Fehler oder widersprüchliche Empfehlungen hervorbringen, sind die entscheidenden Fragen organisatorischer und nicht technischer Natur. Wem gehören die Daten? Wer verantwortet die Entscheidung? Wer kann die KI übersteuern? Wie werden Ausnahmefälle eskaliert? Ohne Antworten darauf riskieren Unternehmen, Automatisierung ohne Rechenschaftspflicht zu schaffen.

Vertrauen entsteht vor der Bereitstellung

Vertrauen in KI entsteht lange bevor ein Modell in Betrieb geht. Wirksame Governance erfordert die Zusammenarbeit von Technologie, Geschäftsbereichen, Risikomanagement, Rechtsabteilung, Compliance und Sicherheit, denn KI-Systeme überschreiten Organisationsgrenzen, während die Verantwortlichkeit häufig auf einzelne Bereiche beschränkt bleibt. Viele Governance-Herausforderungen, die der KI zugeschrieben werden, sind Symptome älterer Probleme mit der Datenverantwortung und den Entscheidungsbefugnissen, die durch die Technologie lediglich sichtbar geworden sind.

Die meisten Unternehmen verfügen bereits über Governance-Regelungen in Form von Sicherheitsrichtlinien, Compliance-Rahmenwerken und Genehmigungsprozessen. Was ihnen häufig fehlt, ist ein zusammenhängender Überblick darüber, wie diese Elemente ineinandergreifen.

Vertrauen entsteht, wenn Beteiligte die Gründe für Empfehlungen verstehen, den zugrunde liegenden Daten vertrauen und wissen, dass geeignete Kontrollen und Eskalationsmechanismen vorhanden sind. Nichts davon lässt sich nach einem Vorfall nachträglich einführen.

Wenn Governance im Quartalstakt auf Entscheidungen im Minutentakt trifft

Traditionelle Governance-Modelle beruhen auf regelmäßigen Überprüfungen, Lenkungsausschüssen und rückblickender Berichterstattung. KI-gestützte Systeme geben fortlaufend und in großem Umfang Empfehlungen ab. Bestehende Rahmenwerke sind nicht falsch, aber zu langsam und zu wenig mit operativen Entscheidungsprozessen verzahnt. Ein vierteljährlicher Überprüfungszyklus kann Entscheidungen nicht steuern, die rund um die Uhr, Stunde für Stunde, getroffen werden.

Die größten Erfolge sehe ich bei Unternehmen, die Governance durch die Durchsetzung von Richtlinien, Genehmigungsabläufe, Überwachung, Prüfbarkeit und menschliche Aufsicht direkt in operative Arbeitsabläufe integrieren. Sie haben sich verpflichtet, von einer regelmäßigen zu einer kontinuierlichen Governance überzugehen. So können sie in Echtzeit nachvollziehen, welche Daten verwendet werden, welche Entscheidungen beeinflusst werden, wer verantwortlich ist und wann ein menschliches Eingreifen erforderlich wird.

Kontinuierliche Governance bedeutet mehr als die Überwachung der KI-Ergebnisse. Sie erfordert ein Verständnis dafür, welche Informationen die KI verwendet, ob diese weiterhin gültig sind und ob die Entscheidungen nach wie vor mit den Richtlinien und Zielen des Unternehmens übereinstimmen.

KI wird sich selbst widersprechen

Große Unternehmen müssen sich jeden Tag mit konkurrierenden Prioritäten auseinandersetzen. Sicherheitsteams wollen Risiken verringern, Betriebsteams wollen Stabilität, Geschäftsbereiche wollen schnelle Abläufe und Finanzteams wollen Kosten effizient gestalten. Hinzu kommen KI-Systeme, die mit unterschiedlichen Datensätzen und Zielsetzungen trainiert wurden und diese Prioritäten naturgemäß widerspiegeln.

Eine KI für die Sicherheit empfiehlt möglicherweise, eine kritische Schwachstelle sofort zu beheben, während das Betriebsteam die Änderung aufschiebt, weil das betroffene System einen kritischen Geschäftsdienst unterstützt. Beide Positionen können berechtigt sein. Um solche Konflikte zu lösen, braucht es klare Entscheidungsbefugnisse, festgelegte Zuständigkeiten für Risiken und Eskalationswege.

KI sollte Daten, Kontext und Empfehlungen bereitstellen. Die Verantwortung dafür, geschäftliche, operative und risikobezogene Aspekte gegeneinander abzuwägen, muss jedoch bei der Organisation bleiben.

Mit Skepsis umgehen, wenn Unstimmigkeiten auftreten

Wenn KI eine widersprüchliche Empfehlung gibt, ist klar, dass das Unternehmen ihr künftig skeptisch gegenüberstehen wird. Vertrauen entsteht wieder, wenn die Beteiligten verstehen, warum eine Empfehlung ausgesprochen wurde, welche Daten dafür verwendet wurden und wer weiterhin für das Ergebnis verantwortlich ist.

KI macht häufig Probleme mit der Datenqualität, Lücken bei Zuständigkeiten und Unstimmigkeiten in Prozessen sichtbar, die innerhalb der Organisation bereits bestanden. Diese Situationen als Chancen zu nutzen, um Governance und Betriebsabläufe zu verbessern, ist wesentlich zielführender, als die Technologie zu verteidigen. Mit der Zeit entsteht Vertrauen durch Transparenz, Beständigkeit und nachweisbare Geschäftsergebnisse.

Das Fundament einer vertrauenswürdigen Informationsbasis

Bei Gesprächen über die KI-Bereitschaft geht es meist um Modelle, Infrastruktur und Tools. In der Praxis investieren die erfolgreichsten Organisationen jedoch in etwas Grundlegenderes: eine vertrauenswürdige Informationsbasis. Sie liefert den geschäftlichen Kontext und erklärt, wie Informationen mit Prozessen, Richtlinien, Zuständigkeiten und operativen Entscheidungen zusammenhängen. Dadurch erhält KI eine bessere Grundlage für Empfehlungen, die Organisationen nachvollziehen, steuern und denen sie vertrauen können.

Selbst das fortschrittlichste KI-Modell kann eine schwache Informations-Governance, unklare Zuständigkeiten oder einen mangelhaften geschäftlichen Kontext nicht ausgleichen. Organisationen müssen den Kontext, die Governance, das institutionelle Gedächtnis und die Entscheidungsintelligenz aufbauen, die nötig sind, um KI verantwortungsvoll und wirksam in großem Maßstab einzusetzen.

Diese Arbeit ist langsamer und weniger sichtbar als die Einführung eines neuen Modells, entscheidet aber letztlich darüber, ob das Modell dauerhaft geschäftlichen Mehrwert schafft.