Die größte versteckte Kosten von KI sind nicht Rechenleistung, sondern Menschen.

Jeder spricht über die Kosten von KI. Meistens sprechen sie über GPUs, Modelllizenzen oder Tokenverbrauch. Ich denke, sie suchen an der falschen Stelle.

Die größte Kosten von Unternehmens-KI dürften die Menschen sein, die sie überwachen müssen.

Eine aktuelle Studie fand heraus, dass Mitarbeiter etwa 11 Stunden pro Woche mit KI sparen, aber mehr als sechs Stunden damit verbringen, Ausgaben zu überprüfen, Fehler zu korrigieren, fehlende Kontexte hinzuzufügen und sicherzustellen, dass die Ergebnisse tatsächlich nutzbar sind. Jemand prägte den Begriff “Botsitting” dafür. Es ist ein einprägsamer Name, aber er weist auf ein viel größeres Problem hin.

KI sollte die Arbeit reduzieren. Stattdessen erstellen viele Organisationen eine völlig neue Kategorie von Arbeit rund um die Verwaltung von KI selbst. Das ist kein Technologieproblem. Es ist ein Betriebsmodellproblem.

Eine schnellere Fortsetzung der SaaS-Ära

Ich habe diesen Film bereits gesehen.

Vor 15 Jahren nahmen Organisationen SaaS an, weil es Software einfacher zu kaufen und zu bereitstellen machte. Geschäftseinheiten konnten Probleme lösen, ohne auf IT warten zu müssen. Die Produktivität stieg. Die Innovation beschleunigte sich. Dann kam Shadow IT.

Plötzlich wusste niemand, wie viele Anwendungen die Mitarbeiter verwendeten, wo Unternehmensdaten gespeichert wurden oder wer Zugriff darauf hatte. IT war noch immer verantwortlich, aber es hatte keine Sichtbarkeit oder Kontrolle mehr. KI fühlt sich bemerkenswert ähnlich an, aber der Unterschied liegt in der Geschwindigkeit.

Eine SaaS-Anwendung kann ein paar Systeme offenlegen; ein KI-Agent kann an Dutzende am ersten Tag angeschlossen werden. Es kann Dokumente lesen, Verträge zusammenfassen, Code generieren, Aufzeichnungen aktualisieren und Workflows auslösen, bevor die meisten Organisationen auch nur dokumentiert haben, dass es existiert.

Die Technologie bewegt sich schneller als das Betriebsmodell, das entwickelt wurde, um es zu verwalten.

Deswegen war ich nicht überrascht von IBMs aktuelle Studie, die ergab, dass zwei Drittel der CIOs und CTOs für KI-Systeme verantwortlich sind, die sie nicht vollständig kontrollieren. Die meisten Befragten sagten auch, dass KI sich schneller ausbreitet, als die Governance Schritt halten kann. Das liegt nicht daran, dass CIOs plötzlich weniger fähig geworden sind. Es liegt daran, dass KI nicht gut in traditionelle Eigentumsmodelle passt.

Sicherheit besitzt Risiken.
Recht besitzt Compliance.
Entwickler bauen Integrationen.
Geschäftseinheiten besitzen Ergebnisse.
Lieferanten kontrollieren Teile der zugrunde liegenden Infrastruktur.

Währenddessen schneidet KI durch alle davon. Wenn etwas schiefgeht, besitzt jeder ein Stück der Antwort, aber niemand besitzt unbedingt das gesamte System. Das schafft eine Lücke, und Organisationen füllen diese Lücke fast immer mit Menschen.

Jemand überprüft KI-generierte Berichte, bevor sie an Kunden gehen.
Jemand überprüft KI-geschriebenen Code, bevor er bereitgestellt wird.
Jemand überprüft Empfehlungen, bevor Entscheidungen getroffen werden.
Jemand untersucht unerwartetes Verhalten.

Ein Teil dieser Überwachung ist genau das, was wir wollen. KI sollte nicht ohne menschliches Urteil arbeiten, insbesondere in regulierten Branchen oder Umgebungen mit hohen Konsequenzen. Das Problem entsteht, wenn Menschen zur primären Kontrolle werden.

Von Chatbots zu autonomen Agenten

Denken Sie darüber nach, was passiert, wenn Organisationen über Chatbots hinausgehen.

Heute hilft ein KI-Assistent jemandem, eine E-Mail zu verfassen.
Morgen sendet ein KI-Agent sie.

Heute schlägt KI eine Aktualisierung eines Kundenprofils vor.
Morgen macht es die Änderung selbst.

Heute empfiehlt KI den nächsten Schritt in einem Geschäftsprozess.
Morgen startet es den Workflow automatisch.

Jede neue Aktion führt zu einer weiteren Entscheidung:

Sollte KI das tun?

• Sollte es auf dieses System zugreifen?
• Sollte es diese Daten abrufen?
• Sollte jemand es zuerst genehmigen?

Die meisten Organisationen beantworten diese Fragen manuell, und das funktioniert, wenn Sie zehn KI-Anwendungsfälle haben. Es funktioniert nicht, wenn Sie hundert… oder tausend haben. Der Widersinn besteht darin, dass Organisationen in KI investieren, um die Produktivität zu verbessern, und dann hochbezahlte Mitarbeiter bitten, ihre Zeit damit zu verbringen, KI zu überwachen.

Das ist nicht die Skalierung von KI. Das ist die Skalierung von Overhead.

Microsoft kam in seinem 2026 Work Trend Index zu einem ähnlichen Schluss. Nach der Analyse von Billionen von Arbeitsplatzsignalen und der Befragung von 20.000 KI-Nutzern fand das Unternehmen heraus, dass die größte Hürde für KI-Erfolg nicht die Technologie ist, sondern die Organisation um sie herum.

Mitarbeiter adoptieren KI schneller, als ihre Unternehmen sich anpassen. Die eigentliche Herausforderung besteht jetzt darin, die Art und Weise, wie Arbeit erledigt wird, neu zu gestalten: zu entscheiden, was KI tun sollte, was Menschen tun sollten und wie die beiden zusammenarbeiten. Ich denke, dass dies genau die Diskussion ist, die Unternehmensführer führen sollten. KI schafft nicht einfach deshalb Wert, weil sie bereitgestellt wird. Sie schafft Wert, wenn sie mit einem klaren Betriebsmodell bereitgestellt wird, das es Menschen ermöglicht, sich auf Urteilskraft statt auf Überwachung zu konzentrieren.

Die Neugestaltung von KI-Governance: Von Richtlinien zu Betrieb

Hier muss die Diskussion um KI-Governance sich ändern. Wenn Menschen das Wort Governance hören, denken sie oft an Richtlinien, Ausschüsse und Dokumentation. Diese Dinge sind wichtig, aber keine von ihnen trifft eine Entscheidung in Echtzeit.

Keine von ihnen verhindert, dass ein KI-Agent auf Daten zugreift, die er nicht sehen sollte, oder einen Workflow anhält, der sich unerwartet verhält. Keine von ihnen erklärt im Moment, in dem eine Aktion angefordert wird, ob diese Aktion mit der Unternehmensrichtlinie übereinstimmt.

Das ist die Lücke.

Organisationen benötigen nicht mehr Governance-Dokumente. Sie benötigen Governance, die funktioniert. Regelmäßige Aktionen sollten automatisch erfolgen, wenn sie innerhalb genehmigter Richtlinien liegen; Aktionen mit höherem Risiko sollten menschliche Genehmigung erfordern, und sensible Systeme sollten klare Grenzen haben, was KI kann und nicht kann.

Und wenn ein KI-Prozess auf eine Weise beginnt, die niemand erwartet hat, sollte es eine sofortige Möglichkeit geben, ihn anzuhalten. Nicht, weil KI nicht vertrauenswürdig ist, sondern weil jeder Geschäftsprozess Schutzvorkehrungen benötigt.

Menschen dort positionieren, wo sie wichtig sind

Die Unternehmen, die den meisten Wert aus KI ziehen, eliminieren Menschen nicht aus der Gleichung. Sie setzen Menschen dort ein, wo sie am wertvollsten sind.

Nicht jede Ausgabe überprüfen.
Nicht jeden Prompt überprüfen.
Nicht jeden Agenten babysitten.

Sie konzentrieren sich auf die Ausnahmen, die Randfälle und die Entscheidungen, die tatsächlich Urteilskraft erfordern. Das ist eine viel bessere Nutzung menschlicher Expertise.

Die eigentliche Unternehmensfrage

KI hat den Punkt erreicht, an dem die Technologie nicht länger die größte Frage ist. Die meisten Organisationen haben bereits bewiesen, dass sie Inhalte generieren, Code schreiben, Informationen zusammenfassen und repetitive Arbeit automatisieren kann.

Die schwierigere Frage ist, ob sie KI zuversichtlich im Unternehmensmaßstab betreiben können:

Können sie sehen, was es tut?

• Können sie kontrollieren, auf welche Systeme es zugreift?
• Können sie Richtlinien konsistent durchsetzen?
• Können sie erklären, warum ein KI-System eine bestimmte Aktion ausgeführt hat?

Das sind operative Fragen, und sie sind zunehmend wirtschaftliche Fragen. Das liegt daran, dass jede Stunde, die mit der Überwachung von KI verbracht wird, die Produktivitätssteigerungen untergräbt, die die Investition in KI gerechtfertigt haben. Die Unternehmen, die mit KI gewinnen, werden nicht diejenigen sein, die die meisten Modelle ausführen oder die meisten Agenten bereitstellen. Sie werden diejenigen sein, die keine Armee von Menschen benötigen, um sie zu überwachen.

KI sollte Ihre Belegschaft verstärken. Es sollte nicht stillschweigend zu einer neuen werden.