Vordenker
Der architektonische Wandel für die Governance von KI-Agenten

Wichtige PunkteBehandeln Sie Agenten als digitale Kollegen mit Zugangsausweisen und…
Mehr anzeigen
- Behandeln Sie Agenten als digitale Kollegen mit Zugangsausweisen und Offenlegungsgrenzen, nicht als schnelle Problemlöser.
- Governance by Design erfordert eine einheitliche Steuerungsebene, um Richtlinien konsistent über alle Umgebungen hinweg durchzusetzen.
- Ohne Echtzeit-Beobachtbarkeit und Herkunftsnachweise können Unternehmen Aktionen von Agenten nicht prüfen oder Compliance zur Laufzeit nachweisen.
KI ist nicht mehr nur ein Chatbot, der Text generiert. In Unternehmensumgebungen nehmen KI-Agenten Aktionen wie das Abrufen sensibler Daten, das Auslösen von Workflows, das Aufrufen von Tools und das Protokollieren von Aktivitäten über Systeme hinweg vor. Autonomie ändert die Diskussion über Governance vollständig; Kontrollen und Verfahren, die ursprünglich für menschliche Benutzer und traditionelle Anwendungen entwickelt wurden, waren nicht dafür ausgelegt, Software zu steuern, die mehrschrittige Aktionen zur Laufzeit ausführen kann.
Das Risiko ist nicht theoretisch. Kleine Lücken in der Sichtbarkeit, der Zugriffskontrolle und der Überprüfbarkeit können sich schnell zu Laufzeitfehlern vergrößern, die schwer zu erkennen und noch schwerer zu korrigieren sind.
Um mit dieser neuen Ära Schritt zu halten, kann die Governance von KI-Agenten nicht durch das Hinzufügen von mehr Richtliniendokumenten erfolgen. Es erfordert Governance durch Design: einen architektonischen Ansatz, bei dem Kontrollen in der Steuerungsebene eingebettet und kontinuierlich zur Laufzeit durchgesetzt werden. Wenn Agenten wie digitale Kollegen handeln sollen, müssen sie die gleichen Unternehmenssicherheitsvorkehrungen wie Menschen erben, plus eine stärkere Laufzeitüberwachung.
Warum die Governance in der Ära der Konvergenz zusammenbricht
Die Unternehmensarchitektur hat eine Ära der Konvergenz erreicht. Daten und Workloads erstrecken sich nun über mehrere Clouds, private Rechenzentren und Edge-Umgebungen.
Es gibt Organisationen, die ihre Plattformen in parallelen Systemen betreiben, da sie mehrere Prozesse gleichzeitig verwalten müssen. Dazu gehören separate Identitätssysteme, Protokollpipelines, Kataloge und genehmigte Prozesse. Das Ergebnis ist, was einige als “Frankenstein-Plattform” bezeichnen, bei der der Integrationsaufwand mit jedem neuen Tool und jeder neuen Cloud-Umgebung zunimmt. Tatsächlich zeigt sich diese Fragmentierung in der alltäglichen Realität.
Laut einer jüngsten Umfrage nennen 47 % der Befragten komplizierte Zugriffsanforderungen und Prozesse sowie 44 % begrenzte Sichtbarkeit darüber, wo Daten gespeichert sind, als Hindernisse für die effektive Nutzung von Daten.
Genau hier zeigen Agenten die Nähte zwischen Systemen auf.
Um eine Geschäftsfrage zu beantworten, muss ein Agent möglicherweise Daten aus einem lokalen ERP-System, einem Cloud-CRM, operativen Telemetriedaten in einer anderen Cloud und Dokumenten in einer Kollaborationssuite abrufen. Wenn das Unternehmen die Richtlinie in jedem Bereich anders durchsetzt, wird der Agent entweder fehlschlagen oder, schlimmer noch, auf eine Weise erfolgreich sein, die Sie nicht erklären oder kontrollieren können.
Dies ist der Moment, in dem Unternehmensleiter aufmerksam werden müssen. Agenten legen die Messlatte höher und verlangen Konsistenz über Umgebungen hinweg sowie Rechenschaftspflicht zur Laufzeit.
Die Governance wird aus diesem Grund von Regulierungs- und Sicherheitsbehörden in den Vordergrund gerückt. Ein Beispiel dafür ist der NIST-KI-Risikomanagementrahmen, der Risikomanagement über den gesamten KI-Lebenszyklus und nicht nur während der Build-Zeit betont. Es ist eine Erinnerung daran, dass Compliance und Vertrauen operative Verantwortlichkeiten und keine einmaligen Checklisten sind.
Von der Richtlinie zur Plattform
Governance durch Design bedeutet, dass die Governance mit der Arbeitslast reist, anstatt in jedem Silo neu implementiert zu werden. In der Praxis hängt dies von drei Bausteinen ab:
-
Eine einheitliche Steuerungsebene
Ein Ort, an dem Identität, Zugriff, Richtlinie, Kataloge und Berechtigungen über Clouds und Rechenzentren definiert und durchgesetzt werden können.
Das Ziel ist es, Richtlinien einmal zu schreiben und sie überall durchzusetzen, wo Daten und Modelle ausgeführt werden, anstatt Kontrollsysteme systemweise neu aufzubauen. Dies verhindert ein Auseinanderdriften des Agentenverhaltens, bei dem derselbe Agent in einer Umgebung sicher und in einer anderen gefährlich handelt.
Ein praktischer Test ist einfach: Wenn ein Benutzer nicht auf eine Spalte zugreifen kann, sollte überprüft werden, ob ein Agent, der in seinem Namen handelt, auch nicht auf diese Spalte zugreifen kann. Dies sollte anzeigen, ob die geschriebenen Richtlinien über die gesamte Ebene durchgesetzt werden.
-
Eine auf offenen Standards beruhende Data Fabric
Agenten benötigen Kontext, um zu funktionieren. Wenn dieser Kontext über verschiedene Strukturen verteilt ist, die unterschiedlichen Teams gehören, hilft eine Data Fabric dabei, Semantik und Zugriffsmuster zu standardisieren, damit Agenten nicht für jedes Dataset einen neuen Satz von Regeln lernen müssen.
Offene Tabellenformate wie Apache Iceberg unterstützen dies, indem sie es mehreren Verarbeitungsengines ermöglichen, dieselben kontrollierten Daten gemeinsam zu nutzen, ohne sie in ein neues Silo zu kopieren. Dies ist wichtig, da die Datenverdopplung der Punkt ist, an dem die Governance normalerweise versagt. Sobald Teams beginnen, “nur das zu kopieren, was der Agent benötigt”, haben Sie eine neue, weniger kontrollierte Umgebung geschaffen.
Wenn Agenten über Datenbestände hinweg handeln können, ohne neue Berechtigungslücken einzuführen, funktioniert die Governance wie beabsichtigt.
-
Echtzeit-Beobachtbarkeit und Datenherkunft
Agenten sind nur steuerbar, wenn Sie sehen können, was sie zur Laufzeit tun.
Beobachtbarkeit ist hier nicht nur ein “nice-to-have”, sondern die Grundlage für Laufzeitkontrollen und die Reaktion auf Sicherheitsvorfälle.
Insbesondere muss es durchgängige Nachweise für Agentenaktionen geben. Agenten sollten belegen können, auf welche Daten sie zugegriffen und welche Tools sie aufgerufen haben. Die Datenherkunft kann anschließend Ausgaben auf Eingaben zurückführen. Dies ermöglicht es Teams, diese Entscheidungen zu überprüfen und bei Bedarf Fehler zu beheben, um so die Gesamtkonformität zu beweisen.
Behandeln Sie Agenten wie “digitale Kollegen”
Eines der nützlichsten mentalen Modelle ist, Agenten als digitale Kollegen zu behandeln.
Ein Vergleich, der dies verdeutlicht: Genau wie Mitarbeiter Zugangsberechtigungen haben, die den Zugang zu bestimmten Gebäuden und Räumen gewähren, aber nicht zu anderen, ermöglicht die Governance es Agenten, Zugang mit Einschränkungen zu haben. Eine wichtige Ergänzung ist, dass Agenten situationsbewusst sein müssen, was sie preisgeben dürfen.
Betrachten Sie einen Support-Agenten. Er muss möglicherweise auf vorherige Supportfälle zugreifen, um ein Problem zu lösen, aber er kann nicht die privaten Details eines anderen Kunden weitergeben, während er dies tut. Anders ausgedrückt: Der Agent kann Wissen mit beschränktem Zugriff zum Schlussfolgern nutzen, aber er muss dennoch Grenzen der Informationsweitergabe durchsetzen. Dies ist kein “Prompt-Schreibproblem” der Art, mit der wir in der Vergangenheit umzugehen gelernt haben; stattdessen ist es ein Identitäts- und Laufzeitdurchsetzungsproblem.
Was sich 2026 ändert: Agenten wechseln von Experimenten in die Produktion
2026 ist das Jahr, in dem Experimente enden und Agenten in den Produktivbetrieb gehen.
Dieser Wechsel zwingt Unternehmen, mit zwei Geschwindigkeiten zu arbeiten. Die eine ist die Innovationsgeschwindigkeit, bei der Teams neue Modelle, Tools und Agenten-Workflows testen, um einen Wettbewerbsvorteil zu erzielen. Und die andere ist die sichere Geschwindigkeit, bei der Systeme den Compliance- und Betriebsanforderungen entsprechen müssen, die strenge Zugriffskontrollen und blinde Flecken umfassen können.
Ohne eine festgelegte architektonische Governance werden diese beiden Geschwindigkeiten in Konflikt geraten.
Wenn Teams diese Agenten bereitstellen, bevor sie einer Governance unterliegen, wird es ein Flickwerk aus Einzelkontrollen und Betriebsfehlern geben. Und wenn das Gegenteil eintritt, gibt es einen Ausfallmodus, bei dem Sicherheit alles blockiert und Innovation zu Schatten-IT wechselt, was die Governance untergräbt.
Das Ziel ist es nicht, eine Geschwindigkeit zu wählen. Es ist, eine Architektur zu bauen, die beide unterstützt.
Eine praktische Checkliste für die Governance von Agenten zur Laufzeit
- Wenn Sie Agenten bauen oder skalieren, ist es unerlässlich, sich die folgenden Fragen zu stellen, um festzustellen, ob die Governance tatsächlich in der Architektur verankert ist: Können Sie durchgängig von Anfang bis Ende erklären, welche Daten ein Agent abgerufen hat, um eine Antwort zu geben oder eine Aktion auszuführen?
- Sind Zugriffsentscheidungen konsistent über hybride Umgebungen hinweg oder unterscheiden sie sich je nach Plattform?
- Haben Sie Telemetrie für Agentenaktionen, einschließlich Toolaufrufen, Richtlinienprüfungen und Eskalationen an Menschen?
- Können Sie einen Agenten zur Laufzeit drosseln, pausieren oder isolieren, wenn er unerwartet handelt?
- Haben Sie einen Plan für die Überwachung nach der Bereitstellung, der Ihren regulatorischen Verpflichtungen und Ihrer Risikobereitschaft entspricht?
Wenn Sie diese Fragen nicht beantworten können, behandeln Sie die Bereitstellung Ihres Agenten wie einen Produktionsvorfall, der nur darauf wartet einzutreten.
Die Veränderung der Governance muss architektonisch sein, sonst existiert sie nicht
Agenten werden eine Standardergänzung von Unternehmensoperationen. Die Frage ist, ob sie eine zuverlässige Ergänzung von Unternehmensoperationen werden.
Wenn Agenten nicht mindestens so zuverlässig gesteuert werden wie Menschen und kritische Software, werden die Folgen real sein. Wir werden diese Folgen in Datenlecks, Compliance-Verstößen, Betriebsausfällen und Verlust des Vertrauens in KI-Programme sehen.
Führungskräfte müssen aufhören, die Governance von Agenten als Dokumentationsübung zu behandeln. Wenn die Plattformfähigkeiten expandieren, sollte die Governance von Agenten eine derjenigen sein, die die Aufsicht über andere Rollen übernimmt. Dies bedeutet, Kontrollen in der Steuerungsebene einzubetten, Aktionen beobachtbar und Entscheidungen überprüfbar zu machen. Und erst dann skalieren.
Das ist, wie Sie Agenten erhalten, die schnell handeln, ohne den Unternehmensbetrieb zu beeinträchtigen.











