Vordenker

Schatten-AI war das einfache Problem: Die wahre Gefahr sind versteckte Agenten in genehmigter Software

mm
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufÞgen

Vor zwei Jahren bedeutete Schatten-AI, dass Mitarbeiter Kundendaten in ChatGPT einfÞgten. Die LÃķsung war im Großen und Ganzen machbar: die Tools entdecken, die guten sanktionieren, die schlechten blockieren und die Menschen schulen. Die meisten Organisationen sind irgendwo in der Mitte der Umsetzung dieses Playbooks, wo 61% bereits Schatten-AI in ihren Umgebungen erlebt haben und das Playbook grÃķßtenteils funktioniert.

Allerdings beschreibt diese Beschreibung das Problem nicht mehr. Schatten-AI hat sich von einem Verhaltensproblem zu einem architektonischen Problem verschoben. Traditionelle Governance kann nicht mit der modernen Landschaft Schritt halten, einschließlich von vendor-embedded und employee-wired AI-Agents, die innerhalb von genehmigten Systemen mit vererbten Credentials operieren, was die IdentitÃĪt zum einzigen realen Kontrollpunkt macht.

Die zwei Schatten, die Sie nicht beobachten

Die interessante Frage im Jahr 2026 ist nicht, welches AI-Tool ein Mitarbeiter geÃķffnet hat. Es ist, welcher AI-Agent Ihr genehmigter Vendor stillschweigend in das letzte Quartals-Produktupdate eingeschleust hat und welche Berechtigungen er von dem Menschen, der es installiert hat, geerbt hat.

Schatten-AI war frÞher eine Frage des Verhaltens. Sie konnten es sehen, benennen und eine Richtlinie dagegen erstellen. Die Version, die sich jetzt ausbreitet, ist strukturell. Sie kommt durch Software, die Sie bereits genehmigt haben, unter Credentials, die Sie bereits ausgegeben haben, in Workflows, die Sie bereits auditiert haben. Der Schatten ist nicht mehr verhaltensmÃĪßig, er ist architektonisch. Mitarbeiter sind immer noch im Bild, aber sie haben sich von der Nutzung von AI zur Bereitstellung von AI bewegt: sie verbinden Agenten mit den Systemen, auf die sie bereits Zugriff haben, und tun dies durch Schnittstellen, die dafÞr designed sind, dies einfach zu machen. Die Richtlinien, die fÞr das erste Verhalten erstellt wurden, erreichen das zweite nicht.

Dies ist der Grund, warum “verbieten” nie die wahre Debatte war. Die CISOs, die Schatten-AI durch die Sanktionierung von Unternehmens-Tools und die FÃķrderung von Mitarbeitern zu regulierten Alternativen im Voraus waren, haben diese Runde gewonnen und entdeckten, dass die nÃĪchste bereits im Gange war und dass sie zwei Vektoren hatte, nicht einen. Der erste ist, was genehmigte Vendor in Produkte einbringen, die bereits in Produktion sind: eingebettete Modelle, agentische Modi, neue Integrationen, die in einer Versionshinweiszeile angekommen sind, die niemand gelesen hat. Der zweite ist, was Mitarbeiter selbst verbinden: ein LLM, das mit dem CRM Þber eine no-code-Automatisierung verbunden ist, ein Custom GPT, das einen API-SchlÞssel zur Datenbank erhalten hat, eine MCP-Verbindung von einem Desktop-Assistenten zu einem Produktions-System. Beide erzeugen das gleiche Ergebnis, das Agents unter genehmigten Credentials, gegen genehmigte Systeme, in Workflows, die nie einer ÜberprÞfung unterzogen wurden, die sie erfassen sollten. Beschaffung kann den ersten Vektor sehen und den zweiten vollstÃĪndig verpassen.

Es lohnt sich, ehrlich zu sein, wie ungleich die erste Runde tatsÃĪchlich gewonnen wurde. Neun von zehn Organisationen planen AI-bezogene IT-BudgeterhÃķhungen, wobei viele eine breitere Expansion Þber IT-Operationen in den nÃĪchsten 6-24 Monaten planen. Der Ausgabenfluss fließt in intelligente FÃĪhigkeiten. Kontrollen holen auf, Zoll fÞr Zoll. Diese Ungleichheit ist das Problem, nicht eine Nebenwirkung davon.

Die Perimeter war immer menschlich

Das mentale Modell, das fÞr die erste Welle funktioniert hat, funktioniert nicht fÞr diese. Schatten-AI als Mitarbeiterverhalten nahm an, dass ein Mensch in der Schleife eine Wahl traf, die das Sicherheitsteam beeinflussen konnte. Schatten-AI als Vendor-Architektur entfernt die Wahl. Das Modell, das die E-Mail erstellte, der Agent, der das Meeting geplant hat, der Assistent, der das Dokument zusammengefasst und weitergeleitet hat. Keines davon erforderte, dass ein Mitarbeiter etwas anderes tat, als weiterhin Software zu verwenden, die er verwenden sollte.

Die ehrliche Antwort ist, dass die Perimeter, die die meisten Sicherheitsprogramme immer noch verteidigen, eine Perimeter menschlichen Handelns war. Mitarbeiter, die Tools Ãķffnen, Mitarbeiter, die Zugriff gewÃĪhren, Mitarbeiter, die Entscheidungen treffen, die das Sicherheitsteam beobachten und beeinflussen kann. Diese Perimeter lÃķst sich in zwei Richtungen gleichzeitig auf. Von oben herab bringen Vendor Agenten in genehmigte Produkte ein, schneller als jedes ÜberprÞfungsverfahren nachkommen kann. Von unten herauf treten Mitarbeiter aus der Rolle des Benutzers in die Rolle des Integrators ein, indem sie Agenten in Systeme Þber Schnittstellen einbinden, die dafÞr designed sind, selbstbedienend zu sein und nie fÞr Governance instrumentiert wurden. Die Ersatzperimeter, die um das identifiziert, was IdentitÃĪten tun, unabhÃĪngig davon, ob diese IdentitÃĪten Menschen sind oder nicht, und unabhÃĪngig davon, wer sie bereitgestellt hat, erfordert ein Kontrollgewebe, das die meisten Organisationen noch nicht haben.

Der einzige Ort, an dem man noch suchen kann

IdentitÃĪt ist der richtige Kontrollpunkt, aber die Ausrichtung muss sich ÃĪndern. Die konventionelle Formulierung sagt “IdentitÃĪt ist die neue Perimeter”, weil Benutzer Þberall sind und GerÃĪte Þberall sind und SaaS Þberall ist. Das war vor einem Jahrzehnt wahr, heute ist es ein Muss. Die Version, die 2026 zÃĪhlt, ist anders: IdentitÃĪt ist der einzige Ort, an dem man sehen kann, was AI tatsÃĪchlich tut, weil sie, wenn sie es tut, die Tool-Grenze bereits Þberschritten hat. Der Agent handelt unter den Credentials einer Person. Wessen, mit welchem Umfang, gegen welche Daten, auf wessen Autorisierung sind die einzigen Fragen, die einen nÞtzlichen Audit-Trail erzeugen. Tool-Level-Governance kann diese Fragen nicht beantworten, weil das Tool nicht mehr die Analyseeinheit ist.

Fast 90% der IT-FÞhrer erkennen bereits, dass Unifizierung einen direkten Einfluss auf ihre FÃĪhigkeit hat, AI sicher umzusetzen und zu skalieren. Die schwierigere Frage ist, was Unifizierung tatsÃĪchlich auf der KontrollEbene bedeutet. Es kann nicht nur weniger Dashboards bedeuten. Es bedeutet ein einziges IdentitÃĪts-Gewebe, in dem jeder Akteur, sei er menschlich, Dienstkonto, Agent, eingebettetes Modell, Þber die gleichen Mechanismen bereitgestellt, umfasst, Þberwacht und zurÞckgezogen wird. Alles, was weniger ist, gibt Ihnen das Aussehen konsolidierter Governance, wenn es tatsÃĪchlich nur fragmentierte Durchsetzung ist.

Ihre Vendor-ÜberprÞfung hat ein Ablaufdatum

Leider ist eine Vendor-ÜberprÞfung nur fÞr eine bestimmte Zeit gÞltig. Dies hat unangenehme Auswirkungen auf die Struktur von Sicherheitsprogrammen. Die meisten AI-Governance-Komitees sind um Tool-ÜberprÞfung organisiert, wobei Vendor hereinkommen und bewertet, sanktioniert oder abgelehnt werden, um in das Register aufgenommen zu werden. Dieser Prozess geht davon aus, dass das Verhalten des Tools zum Zeitpunkt der Sanktion das Verhalten in der Produktion ist. FÞr AI-eingebettete Software ist diese Annahme gebrochen, bevor die Tinte trocknet. Der Vendor wird ein neues Modell, einen neuen Agenten-Modus, eine neue Integration ausliefern, und die Governance-ÜberprÞfung, die vor sechs Monaten genehmigt wurde, beschreibt jetzt ein Produkt, das nicht mehr existiert.

Vom Tool zur IdentitÃĪt

Die Programme, die halten werden, sind diejenigen, die Governance vom Tool auf die IdentitÃĪt verlagern. Jede Aktion gegen Ihre Daten, durch jeden Akteur, ist auf eine IdentitÃĪt mit einem bekannten Besitzer, einem umfassten Berechtigungssatz und einer definierten Lebensdauer zurÞckzufÞhren. Ob es sich um einen Menschen oder eine nicht-menschliche EntitÃĪt handelt, um einen Mitarbeiter oder einen Agenten, um ein sanktioniertes Tool oder einen eingebetteten Modus, die Frage ist dieselbe: Wer ist das, was sind sie erlaubt, und wie wissen wir, wann das aufhÃķren sollte, wahr zu sein? Programme, die diese Fragen beantworten kÃķnnen, mÞssen nicht den Tool-Sanktions-Wettlauf gewinnen. Programme, die es nicht kÃķnnen, werden hinter Vendor und Mitarbeitern herlaufen, die schneller liefern als jedes ÜberprÞfungsverfahren.

Schatten-AI als Kategorie wird nicht verschwinden. Insbesondere mit dem neuen Zeitalter der agentischen ArbeitskrÃĪfte haben 72% der Organisationen bereits AI-Agents in der Produktion. Stattdessen wird es zu einem kleineren Teil eines grÃķßeren Problems. Die Organisationen, die in der nÃĪchsten Budgetrunde Tool-Entdeckung und Sanktionsrichtlinien ausgeben, lÃķsen das Problem von 2024 auf einem 2026-Timeline. Diejenigen, die es fÞr IdentitÃĪts-Schicht-Instrumentierung fÞr Menschen, fÞr Agenten, fÞr die unsaubere KontinuitÃĪt zwischen ihnen ausgeben, lÃķsen das Problem, das sie tatsÃĪchlich haben werden.

Die erste Welle von Schatten-AI hat Sicherheitsteams gelehrt, dass sie nicht der Neugier der Mitarbeiter entkommen kÃķnnen. Die zweite Welle wird ihnen beibringen, dass sie nicht der Vendor-Geschwindigkeit oder der Mitarbeiter-Erfindungsreichheit entkommen kÃķnnen. Beide Lektionen weisen auf die gleiche Schlussfolgerung hin. Die Einheit der Governance war nie das Tool. Es war immer die IdentitÃĪt, die durch es handelt.

Roland Palmer ist der Chief Information Security Officer (CISO) und Vice President of Security bei JumpCloud.

Ein anerkannter Experte im Bereich der Skalierung globaler Risiko- und Compliance-Rahmenwerke, Þberwacht Roland JumpClouds globale Sicherheitsstrategie und stellt sicher, dass die Plattform eine widerstandsfÃĪhige Grundlage fÞr Intelligentes, Sicheres IT bleibt. Mit Þber 20 Jahren Erfahrung hat Roland eine bewÃĪhrte Bilanz bei der Umwandlung komplexer Risikolandschaften in greifbaren GeschÃĪftswert. Bevor er zu JumpCloud kam, verbrachte er acht Jahre als VP of Security und Compliance bei Sumo Logic, wo er das Global Security Operations Center von Grund auf aufbaute und wichtige Zertifizierungen wie FedRAMP, ISO 27001 und HIPAA erlangte.

Roland ist bekannt fÞr seinen pragmatischen, hands-on-FÞhrungsstil - gleichzeitig komfortabel, wenn er den Vorstand briefen muss, wie wenn er seine Ärmel in der SOC aufrollt. Er betrachtet Sicherheit nicht als Hindernis, sondern als strategischen Vorteil, der, wenn er in die Struktur eines Produkts integriert wird, Wachstum beschleunigt und tiefes Kundenvertrauen fÃķrdert.