Eine Richtlinie, Tausende Agenten: Warum die KI-Governance in Unternehmen bei der Skalierung scheitert

Ein großer Teil der Diskussion über den Einsatz autonomer KI-Agenten dreht sich um Governance als zentrale Herausforderung – und das aus gutem Grund. Gartner prognostizierte kürzlich, dass 40 % der Unternehmen ihre autonomen KI-Agenten bis 2027 zurückstufen oder außer Betrieb nehmen werden – nicht, weil die Technologie versagt hat, sondern weil ihre Governance versagt hat. Laut Shiva Varma, Senior Director Analyst bei Gartner, liegt das Problem in einer „binären Governance“: Agenten werden entweder vollständig eingeschränkt oder uneingeschränkt als vertrauenswürdig behandelt, ohne etwas dazwischen.

Derzeit tendieren viele Unternehmen entweder dazu, KI-Tools vollständig zu verbieten, oder setzen Agenten mit unzureichenden Schutzmaßnahmen ein. Keiner der beiden Ansätze lässt sich gut skalieren. Selbst wenn die IT externe KI-Tools verbietet, kommt es weiterhin zu Schatten-KI. Entwickler möchten ganz selbstverständlich Dinge entwickeln und Probleme lösen. Ist die Governance zu bürokratisch, umgehen sie die Kontrollen und nutzen ungeprüfte Tools, damit die Arbeit weitergeht. Unzureichende Schutzmaßnahmen setzen Unternehmen dagegen Sicherheits-, Compliance- und Betriebsrisiken aus, die mit der Zeit zunehmen. 

Die Herausforderung besteht darin, dass KI-Agenten nicht einheitlich gesteuert werden können – jedenfalls nicht mit einem statischen Einheitsansatz.  Die Zeit einer Governance nach dem Einheitsprinzip geht zu Ende, denn diese Systeme haben nicht dasselbe Risikoprofil: Sie unterscheiden sich hinsichtlich ihrer zugrunde liegenden Software, ihrer Fähigkeiten, ihrer Zugriffsrechte und ihres Autonomiegrads. Statische Kontrollen aus dem Industriezeitalter funktionieren bei Software, die sich mit Maschinengeschwindigkeit bewegt, nicht.  Eine wirksame Governance setzt voraus, dass Unternehmen die Softwarelieferkette hinter jedem Agenten verstehen und die Kontrollen auf die Risiken abstimmen, die dieser mit sich bringt.  

Governance für agentische Softwareentwicklungsumgebungen

Wirksame Kontrolle bedeutet, alle Softwarekomponenten, aus denen ein Agent besteht, effektiv zu verwalten. Viele Teams betrachten diese Agenten fälschlicherweise als „zuverlässig und vertrauenswürdig“ und übersehen dabei die üblichen Bestandteile, die ihre Funktionalität und Sicherheit beeinflussen. 

Jeder autonome KI-Agent basiert auf einem bekannten Software-Stack: einem Basismodell, MCP-Servern (Model Context Protocol), die ihn mit Unternehmensdaten und externen Systemen verbinden, Plug-ins, die seine Fähigkeiten erweitern, sowie Skill-Dateien, die sein Verhalten vorgeben. IT-Verantwortliche sollten Folgendes beachten: 

• KI-Agenten sind Softwareökosysteme: Sie basieren auf einem standardisierten Aufbau aus Modellen, MCPs, Tools, Plug-ins, Skills und Open-Source-Software.
• MCP-Server können riskant sein: Sie verbinden Agenten mit Unternehmensdaten und lassen sich wie jede andere Software herunterladen. Werden sie nicht geprüft, könnten sie Hackern Zugang zu Ihrem System verschaffen. So zeigen aktuelle Forschungsergebnisse von JFrog Security Research genau diese Risiken in der Softwarelieferkette bei mcp-run-python, darunter eine Schwachstelle für serverseitige Anforderungsfälschung (SSRF) (CVE-2026-25904) und eine Schwachstelle aufgrund fehlender Isolation (CVE-2026-25905), die eine vollständige Übernahme des MCP ermöglichen kann.
• Plug-ins können zusätzliche Risiken bergen: Verschiedene Agenten benötigen unterschiedliche Plug-ins (z. B. funktioniert ein OpenAI-Plug-in nicht in Microsoft Copilot). Unternehmen müssen daher häufig mehrere Varianten verwalten, wobei ein einziges schädliches Plug-in sensible Informationen stehlen könnte.
• Skills legen das Verhalten von Agenten fest: Diese Anweisungsdateien geben dem Agenten vor, wie er arbeiten soll. Da Entwickler sie aus Community-Quellen beziehen, kann ein manipuliertes Skill unbemerkt die Arbeitsweise eines Agenten verändern.
• Risiken durch Open-Source-Software: Den Funktionen der mit agentischer Programmierung entwickelten Lösungen liegt die Nutzung von Open-Source-Binärdateien zugrunde, mit denen diese Funktionen bereitgestellt werden. Programmieragenten können ebenso leicht bösartige statt sichere Pakete nutzen, ohne sich des Risikos bewusst zu sein.
• Transparenz ist entscheidend: Viele Teams wissen nicht, dass diese Probleme bestehen, und machen ihre Agenten dadurch äußerst anfällig. Unternehmen verwalten Softwareabhängigkeiten noch immer auf Vertrauensbasis statt durch gründliche Prüfungen.

Die Rolle eines maßgeblichen Referenzsystems für eine wirksame KI-Governance

Das Wettrennen um den Einsatz von KI-Agenten in Unternehmen lässt sich nicht mit einer Denkweise von gestern gewinnen. Einheitliche, schwerfällige manuelle Genehmigungsprozesse für jeden Arbeitsablauf bremsen Innovationen aus, während unbeaufsichtigte Agenten unnötige Risiken schaffen.

Um KI sicher zu skalieren, müssen Unternehmen einen mehrschichtigen Ansatz für die Governance und Absicherung von Softwarekomponenten verfolgen, darunter Pakete, Binärdateien, MCPs, Skills und Abhängigkeiten. Mit einem maßgeblichen Referenzsystem können Unternehmen alle verwendeten Komponenten zusammenstellen, vor ihrer Nutzung vollständig überprüfen, Richtlinien zum richtigen Zeitpunkt im Entwicklungslebenszyklus durchsetzen, und jederzeit sofort ein Rollback durchführen. Wird also die nächste Schwachstelle bekannt, lässt sich innerhalb von Minuten statt Tagen feststellen, ob man betroffen ist.

KI-Agenten schaffen jedoch eine größere Angriffsfläche, deren Bedrohungen sich deutlich schneller entwickeln. Da hochautonome Agenten Hunderte Entscheidungen pro Minute treffen und Werkzeugaufrufe verketten, auf Daten zugreifen und Code ausführen können, sind herkömmliche Eingangskontrollen mit diesem Tempo überfordert. Vorabprüfungen und Genehmigungsverfahren spielen zwar weiterhin eine wichtige Rolle, können Systeme, die mit Maschinengeschwindigkeit arbeiten, allein jedoch nicht schützen.

Diese Agenten erfordern eine dynamische Durchsetzung von Richtlinien zur Laufzeit. Dabei muss anomales Verhalten sofort erkannt und eingegriffen werden können, bevor sich der Schaden ausbreitet. Man kann sich das wie einen Schutzschalter vorstellen: den Zugriff auf einen kompromittierten Skill entziehen, einen nicht vertrauenswürdigen Datenkontext trennen oder einen bestimmten Werkzeugaufruf blockieren, sobald etwas schiefläuft.

Weg vom Einheitsansatz

Eine starre, einheitliche Governance führt unweigerlich zum Scheitern. Das Zeitfenster, um dem zuvorzukommen, schließt sich, und die Governance-Schulden wachsen, je schneller Agenten eingeführt werden. Deshalb folgen hier vier Schritte, mit denen Verantwortliche für Sicherheit und Engineering ihre Unternehmenssysteme jetzt stärken können:

1. Erfassen Sie, was bereits im Einsatz ist. Die meisten Unternehmen können nicht vollständig erfassen, welche KI-Agenten in ihrer Organisation eingesetzt werden – geschweige denn, welche MCP-Server, Plug-ins und Skill-Dateien diese antreiben. Bevor Sie Risiken bewerten oder irgendetwas kontrollieren können, müssen Sie wissen, was vorhanden ist.
2. Behandeln Sie KI-Komponenten wie Softwareartefakte. MCP-Server, Skill-Dateien und Plug-ins sind keine Konfiguration, sondern Code und bergen dieselben Risiken in der Softwarelieferkette wie alle Open-Source-Abhängigkeiten. Prüfen, scannen und dokumentieren Sie ihre Herkunft genauso wie bei jeder Bibliothek eines Drittanbieters.
3. Ordnen Sie Agenten nach ihrem Autonomiegrad ein und passen Sie die Kontrollen entsprechend an. Legen Sie fest, was „hohe Autonomie“ für Ihre Organisation bedeutet, und entwickeln Sie dafür ein abgestuftes Richtlinienkonzept. Hochautonome Agenten benötigen eine Durchsetzung von Richtlinien zur Laufzeit, nicht nur Eingangskontrollen. Beginnen Sie bei Ihren sensibelsten Systemen und weiten Sie den Ansatz schrittweise aus.
4. Gestalten Sie Governance so schnell, dass Entwickler – Menschen oder KI-Agenten – sie nicht umgehen. Schatten-KI ist ein Problem, das durch Reibung entsteht. Dauert die Genehmigung eines neuen MCP-Servers zwei Wochen, finden Entwickler einen anderen Weg. Automatisiertes Scannen mit klarer Durchsetzung von Richtlinien ist das einzige Modell, das mit dem tatsächlichen Tempo der KI-Entwicklung Schritt halten kann.

Governance ist deutlich wirksamer, wenn sie die tatsächlichen Risiken der einzelnen Agenten berücksichtigt, statt alle gleich zu behandeln. Unternehmen, die sich künftig einen Vorsprung verschaffen, werden ihre Governance an die jeweiligen Gegebenheiten der einzelnen Agenten anpassen. Unterstützt werden sie dabei durch ein zentrales Verzeichnis, das Richtlinien an jeder Schnittstelle durchsetzt, sämtliche Komponenten sichtbar macht und Teams in die Lage versetzt, sofort zu reagieren, wenn etwas schiefläuft.