Partnerschaften
Microsoft startet Initiative für KI-Transparenz bei Unternehmensagenten

Wichtige PunkteBestehende Kontrollen beobachten Aktivitäten rund um Modelle, können aber nicht…
Mehr anzeigen
- Bestehende Kontrollen beobachten Aktivitäten rund um Modelle, können aber nicht überprüfen, was in ihnen geschieht.
- Das Framework erfordert Nachweise, die portabel bleiben, wenn Unternehmen Modelle oder Anbieter wechseln.
- Microsoft wird seine Beteiligung an der SI Agent Standards Initiative des NIST ausweiten, um offene Standards zu entwickeln.
Microsoft kündigte am 17. November 2026 auf der Microsoft Ignite die Initiative für KI-Transparenz an. Mehr als 40 Organisationen kommen darin zusammen, um offene Standards für die Sicherheit und Steuerung von KI-Modellen und Agenten über verschiedene Anbieter hinweg zu entwickeln.
Der Vorsitzende und CEO Satya Nadella stellte die Initiative gemeinsam mit Kunden und Partnern vor, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars. Die Zusammenarbeit soll KI-Systeme rechenschaftspflichtig, unabhängig überprüfbar und von Grund auf sicher machen – unabhängig vom Modell oder Anbieter. Ihr Leitprinzip lautet: Je autonomer KI ist, desto transparenter muss sie sein.
Die Nachweislücke in Unternehmen
Unternehmen verknüpfen Modelle mit Daten, Tools, Zugangsdaten und Infrastruktur. Dadurch können Agenten Aktionen ausführen, ohne dass jeder einzelne Schritt von einem Menschen genehmigt werden muss. Microsoft zufolge können bestehende Kontrollen Aktivitäten im Umfeld von Modellen beobachten, aber nicht erkennen, was in ihnen vor sich geht, oder unabhängig überprüfen, ob die Modelle ihr eigenes Verhalten korrekt beschreiben.
Im Security-Blog des Unternehmens wird bei der Eindämmung von Agenten eine ähnliche Unterscheidung getroffen: Einen Agenten zu entdecken, zu steuern und einzudämmen, gibt noch keinen Aufschluss darüber, wie sich das zugrunde liegende Modell verhält. Nach einer folgenreichen Aktivität bleiben daher drei Fragen offen: Was wurde die KI zu tun aufgefordert, wozu wurde sie autorisiert, was geschah zwischen der Aufforderung und dem Ergebnis, und lässt sich die Aktivität unabhängig überprüfen?
Microsoft vergleicht Agenten mit Zugriff auf Daten, Tools und Zugangsdaten mit privilegierten Insidern, die mit Maschinengeschwindigkeit und in großem Maßstab agieren. Die daraus entstehende Nachweislücke birgt Risiken für Sicherheit, Compliance, Audits und Rechenschaftspflicht. Die Verantwortung bleibt jedoch bei der einsetzenden Organisation, wenn ihre Führungskräfte gegenüber Kunden, Beschäftigten, Aufsichtsgremien, Wirtschaftsprüfern und Aufsichtsbehörden Rede und Antwort stehen müssen.
Ein Rahmenwerk zum Beobachten, Überprüfen und Steuern
Das Rahmenwerk der Initiative gliedert diese Anforderungen in drei Bereiche. Beobachten umfasst die Anfrage und Autorisierung, das Modell und seine Laufzeitumgebung, die abgerufenen Daten und verwendeten Tools sowie die ausgeführten Aktionen. Außerdem sieht es eine kontinuierliche Überwachung der Agentenaktivitäten und Risikosignale anhand von Richtlinien und Schwellenwerten vor.
Überprüfen betrifft die Herkunft der Nachweise. Aufzeichnungen zur Identität des Agenten, zum delegierten Auftrag und zu den ausgeführten Aktionen würden zeigen, ob Informationen vom Modell, seiner Laufzeitumgebung oder unabhängigen Identitäts- und Richtliniensystemen stammen. Vom Modell gemeldete Signale ließen sich anschließend anhand unabhängig erfasster Aufzeichnungen über die eigenen Sicherheits- und Compliance-Systeme einer Organisation überprüfen, statt sich ausschließlich auf die Darstellung des Anbieters zu verlassen.
Steuern nutzt Nachweise zum Zweck, zur verantwortlichen Stelle, zu den Daten und zu den delegierten Befugnissen jedes Arbeitsablaufs, um Richtlinien durchzusetzen, bevor folgenreiche Aktionen ausgeführt werden. Dieselben Aufzeichnungen würden bei Untersuchungen, der Eindämmung und Behebung von Vorfällen sowie bei Audits die Rekonstruktion des Geschehens ermöglichen. Sie sollen auch dann nutzbar bleiben, wenn Organisationen Modelle oder Anbieter wechseln – einschließlich des Wechsels zwischen geschlossenen Modellen und Modellen mit offenen Gewichten –, damit Entwicklungsteams Agenten aktualisieren können, ohne die Sicherheitssteuerung oder Compliance-Audits zu beeinträchtigen.
Standards und Umsetzung in Produkten
Microsoft wird seine Beteiligung an der SI-Initiative für Agentenstandards des NIST ausbauen und auf die eigene Forschung zurückgreifen, um offene, branchenweite Standards für KI-Transparenz, Sicherheit und Steuerung zu entwickeln. Das NIST-Programm soll die Entwicklung branchengeführter technischer Standards und offener Protokolle fördern, damit autonome Agenten sicher arbeiten und systemübergreifend in digitalen Umgebungen zusammenarbeiten können.
Zu den strategischen Säulen gehören freiwillige Leitlinien und Lückenanalysen zur Unterstützung branchengeführter Standards, Maßnahmen zum Abbau von Hindernissen für interoperable, gemeinschaftlich entwickelte Protokolle sowie Forschung zu Agentenauthentifizierung, Identitätsinfrastruktur und Sicherheitsbewertungen.
Microsoft plant außerdem, die Arbeit der Initiative in Microsoft AI, Microsoft Foundry und Microsoft Copilot einfließen zu lassen. Kunden könnten die daraus hervorgehenden Nachweise mit Sicherheits- und Compliance-Tools von Microsoft oder anderen Anbietern nutzen.
In der Praxis wird sich die Initiative daran messen lassen, ob die Beteiligten das Rahmenwerk in gemeinsame Standards und übertragbare Nachweise umsetzen können: Aufzeichnungen, mit denen ein Unternehmen Agenten steuern kann, bevor sie handeln, und ihr Verhalten im Nachhinein rekonstruieren kann – selbst wenn sich das zugrunde liegende Modell oder der Anbieter ändert.












