Der Schatten-AI-Dschungel: Warum die Genehmigung einer Plattform nicht dasselbe ist wie die Sicherstellung dessen, was darauf gebaut wird

Die Unternehmensadoption von künstlicher Intelligenz (KI) ist weit von reibungslos entfernt. Bedenken hinsichtlich der Kontrolle von Daten, der Einhaltung von Vorschriften und der Sicherheit haben jede Phase der Reise begleitet. Doch als Unternehmen ihre Betriebe auf großen Plattformen wie Microsoft, Salesforce und ServiceNow ausbauen, gibt es ein wachsendes Gefühl, dass die schwierigsten Regierungsfragen zumindest teilweise angegangen werden. Es gibt Unternehmensvereinbarungen. Sicherheitsprüfungen wurden abgeschlossen. Die Plattformen sind genehmigt.

Was dieses Vertrauen jedoch oft übersehen lässt, ist eine ganz andere Frage: nicht, ob die Plattform sicher ist, sondern was und wer darauf baut.

Über Branchen hinweg ist eine stille Revolution im Gange, da nicht-technische Mitarbeiter Unternehmens-KI-Plattformen nutzen, um autonome Agenten, automatisierte Workflows und datenverbundene Anwendungen zu erstellen, oft in Minuten, ohne eine einzige Zeile Code zu schreiben. Frei von den traditionellen Entwicklungszeiträumen und Einschränkungen sind diese Ersteller ein Segen für die organisatorische Effizienz. Doch diese Tools werden nie von einem Sicherheitsteam überprüft. In vielen Fällen wissen Sicherheitsteams nicht einmal, dass sie existieren.

Diese Tools, ob als Apps, Agenten oder Automatisierungen klassifiziert, sind Teil eines wachsenden Problems, bekannt als Schatten-KI, und stellen eine der bedeutendsten Verschiebungen des Unternehmensrisikos in einem Jahrzehnt dar, und zwar aus dem einfachen Grund, dass die Bedrohungen nun innerhalb des Unternehmens liegen.

Das ursprüngliche Schatten-IT-Problem war relativ einfach: Mitarbeiter nutzten nicht autorisierte Tools von außerhalb des Unternehmens, und die Aufgabe der Sicherheit bestand darin, sie zu finden und zu blockieren. Schatten-KI ist eine ganz andere Herausforderung. Die Tools sind innerhalb der Plattformen, die Sie genehmigt haben. Die Menschen, die sie bauen, sind Ihre eigenen Mitarbeiter. Der Zugriff, den sie nutzen, ist berechtigt. Und nichts davon passiert durch die Sicherheitsprozesse, die darauf ausgelegt sind, Probleme zu erkennen, bevor sie die Produktion erreichen.

Was dies besonders schwierig zu bewältigen macht, ist die Skala. Die meisten Sicherheitsleiter unterschätzen erheblich, wie viel innerhalb ihrer eigenen Umgebungen gebaut wird. Eine kürzliche Untersuchung von über 200 Unternehmens-CISOs und Sicherheitsleitern ergab, dass das durchschnittliche Sicherheitsteam nur 44% der KI-Agenten, Automatisierungen und Anwendungen, die ihre Geschäftsnutzer erstellt haben, nachvollziehen kann. Das ist kein Gap, sondern ein blindes Fleck, das die Mehrheit dessen abdeckt, was läuft.

Der Grund ist einfach: Geschäftsnutzer übersteigen professionelle Entwickler in einigen Organisationen um das 10-fache. Sie bauen ständig über alle Abteilungen hinweg auf Plattformen, die darauf ausgelegt sind, das Bauen zu erleichtern, und werden von der Geschäftsleitung ermutigt, zu bauen. Sicherheitsteams sind auf Entwickler-Pipelines und Code-Repositorys ausgerichtet. Sie waren nie darauf ausgelegt, dies zu überwachen.

Der häufigste Missverständnis ist die Annahme, dass die Genehmigung einer Plattform das Sicherheitsproblem löst. Sie tut es nicht, sie verschiebt es nur. Wenn ein Unternehmen eine Vereinbarung mit Microsoft (MSFT ), Salesforce (CRM ) oder UiPath (PATH ) eingeht, sichert der Plattformanbieter seine Infrastruktur. Was Mitarbeiter darauf aufbauen und wie sie es konfigurieren, ist jedoch die alleinige Verantwortung des Unternehmens.

Das Problem ist, dass die von Geschäftsnutzern erstellten Tools für traditionelle Sicherheitssysteme nicht wie Software aussehen. Es gibt keinen Code, den man scannen kann, kein Repository, das man überwachen kann, keine Pipeline, die man untersuchen kann. Ein KI-Agent, der von einem HR-Manager durch eine Reihe von Menüs und Textprompts erstellt wird, ist aus der Perspektive der meisten Sicherheitstooling unsichtbar.

Und doch sind diese Tools weit von trivial. Forschung hat ergeben, dass mehr als die Hälfte der CISOs bestätigt, dass von Geschäftsnutzern erstellte Anwendungen nun geschäftskritische Prozesse unterstützen und Zugriff auf sensible Unternehmensdaten haben. Die Einsätze sind real, und die Aufsicht hat nicht Schritt gehalten.

Von Null zu Katastrophe

Die Anwendungsfälle sind so vielfältig wie zahlreich und stammen aus fast allen Abteilungen, sogar aus solchen, die einem Sicherheitsteam nie in den Sinn gekommen wären.

Zum Beispiel baut ein Marketing-Koordinator einen kundenorientierten KI-Agenten auf einer vollständig genehmigten Plattform, um Produktfragen zu beantworten. In nur wenigen Minuten ist die App im Einsatz, aber als jemand ohne Sicherheitstraining macht der Koordinator zwei kleine Konfigurationsfehler, die unbemerkt bleiben und dem Agenten direkten Zugriff auf die gesamte Datenbank des Unternehmens geben und keine Grenzen für das Abrufen von Daten setzen. In der Produktion fragt ein Benutzer den Agenten, Mitarbeiterdaten abzurufen. Er tut es. Da der Agent auch eine E-Mail-Funktion hat, instruiert der Benutzer ihn, diese Daten an eine persönliche Adresse zu senden. Die gesamte Sequenz dauert weniger als 60 Sekunden. Kein unbefugter Zugriff. Kein Plattform-Breach. Keine Sicherheitswarnung.

Dies ist kein komplexer Angriff. Es ist das vorhersehbare Ergebnis eines gut gemeinten Mitarbeiters, der etwas baut, das er nicht vollständig versteht, auf einer Plattform, die das Bauen erleichtert und die Governance optional macht.

Die Regierungs-Lücke, die niemand bewertet hat

Für die meisten Organisationen bleibt das Schatten-KI-Problem abstrakt, bis etwas schiefgeht. Doch das Geschäftsrisiko reicht tiefer als die Reaktion auf einen Datenverlust.

Wenn ein von einem Geschäftsnutzer erstellter Agent sensible Daten leckt, wird die Frage, die ein Aufsichtsrat stellen wird, nicht sein: “Wie ist die Fehlkonfiguration passiert?” Sie wird sein: “Wie konnte niemand wissen, dass das Tool im Einsatz war?” Sie werden nicht zwischen einem durch einen externen Angreifer verursachten Datenverlust und einem durch ein fehlerhaft konfiguriertes internes Tool verursachten Datenverlust unterscheiden. Wenn personenbezogene Daten offengelegt wurden und das Unternehmen keine Einsicht in das hatte, was lief, ist die Abwesenheit von Aufsicht selbst die Haftung. “Ein Mitarbeiter hat es auf einer genehmigten Plattform gebaut” ist keine Verteidigung, es ist die Beschreibung der Lücke.

Die Dringlichkeit ist real, aber Absicht und Umsetzung sind nicht dasselbe, und für die meisten Unternehmen bleibt die Lücke zwischen ihnen weit offen.

Die Antwort besteht nicht darin, zu beschränken, wer bauen kann. Die Einschränkung der Citizen-Development würde echte Produktivitätsgewinne opfern und in der Praxis nicht halten. Mitarbeiter würden Umgehungen finden. Die Antwort besteht darin, das, was gebaut wird, in den Blick zu nehmen und es an dem Punkt zu regieren, an dem das Risiko tatsächlich auftritt: bei der Laufzeit.

Das bedeutet, nicht nur zu verstehen, welche Agenten existieren, sondern auch, wie sie sich verhalten, auf welche Daten sie zugreifen, welche Systeme sie berühren und ob ihre Aktionen innerhalb der Grenzen bleiben, die ihre Ersteller beabsichtigt haben. Es bedeutet, Schutzmechanismen zu installieren, die auf der organisatorischen Ebene und nicht nur bei der Konfiguration wirken. Und es bedeutet, an einen Punkt zu gelangen, an dem Sicherheitsteams die grundlegendsten Fragen über jeden Agenten in ihrer Umgebung beantworten können: Wer hat es gebaut, worauf hat es Zugriff, und verhält es sich so, wie es konzipiert wurde?

Die meisten Unternehmen können diese Fragen heute nicht beantworten. Die Organisationen, die zuerst dort ankommen, werden diejenigen sein, die die KI-Adoption mit Vertrauen skalieren können, weil sie wissen, was sie tatsächlich ausführen.