Neue Sicherheitsrisiken der schnellen GenAI-Adoption, die Organisationen angehen müssen

Generative KI (GenAI) ist von einer Kuriosität zu einer zentralen Kraft in der Unternehmestechnologie aufgestiegen. Ihre Fähigkeit, Text, Code, Bilder und Erkenntnisse auf Abruf zu generieren, hat sie für Mitarbeiter unverzichtbar gemacht, die sich durch Komplexität kämpfen und Produktivität beschleunigen möchten. Doch mit dieser Innovation und Effizienz kommt massive Exposition gegenüber Risiken.

In Gesprächen mit Managern und KI-Governance-Führern aus verschiedenen Branchen taucht ein Thema immer wieder auf: Datensicherheit ist von einer wichtigen Sorge zu einem zentralen Punkt ihrer Strategie geworden und ist jetzt die definierende Herausforderung der KI-Adoption. Im Gegensatz zu herkömmlicher Software oder sogar früheren Wellen des maschinellen Lernens verändert GenAI grundlegend den Prozess der Datensicherung innerhalb eines Unternehmens.

Eine aktuelle MIT-Studie fand heraus, dass 95% der GenAI-Pilotprojekte in Unternehmen scheitern. Es liegt nicht daran, dass die Technologie schwach ist, sondern daran, dass Unternehmen die notwendigen Governance- und Sicherheitsrahmen fehlen, um GenAI angemessen und verantwortungsvoll zu operationalisieren. In einer anderen MIT-Studie nannten Unternehmensführer Datensicherheit als das größte Geschäfts- und Sicherheitsrisiko, das eine schnellere KI-Adoption behindert. Darüber hinaus wird “Schatten-KI”, also die nicht genehmigte Nutzung öffentlicher Tools durch Mitarbeiter, allgemein als Treiber von Datenrisiken außerhalb der Unternehmenskontrolle anerkannt.

Der Least-Privilege-Ansatz ist ein Sicherheitsmodell, bei dem jeder Entität, sei es ein Benutzer, ein Programm oder ein Prozess, nur das Minimum an Zugriff und Berechtigungen gewährt wird, das für die Ausführung ihrer legitimen Funktionen erforderlich ist. GenAI jedoch stellt das gesamte Paradigma auf den Kopf: Der Least-Privilege-Ansatz selbst wird zu einer Einschränkung, die mit der Art und Weise, wie diese Systeme designed sind, in Konflikt gerät. Dies liegt daran, dass GenAI-Tools in Unternehmen höhere Produktivitätsgewinne erzielen, wenn sie Zugriff auf mehr Geschäftsdaten und Geschäftskontext haben.

Wenn die GenAI-Adoption beschleunigt wird, entdecken Benutzer ständig neue Anwendungen von GenAI, die meisten davon entstehen aus organischer Experimentierung und Neugier, anstatt aus top-down, geschäftlich getriebener Planung. Wenn eine Entität die Aufgaben, für die GenAI verwendet wird, oder die Arten von Daten, auf die es Zugriff benötigt, nicht definieren kann, wird es unmöglich, Least-Privilege-Zugriffsberechtigungen einzurichten. Darüber hinaus kann ein Benutzer angemessenen Zugriff auf ein Dataset haben und es rechtmäßig als Eingabe für ein GenAI-Tool bereitstellen, aber sobald diese Daten aufgenommen werden, sind sie nicht mehr an die ursprünglichen Berechtigungen des Benutzers gebunden. Stattdessen können sie in das Modell aufgenommen, in zukünftigen Ausgaben angezeigt oder anderen Benutzern, die dasselbe Tool verwenden, zugänglich gemacht werden. Da GenAI nicht unbedingt die Zugriffskontrollen der Daten erbt, macht es den Least-Privilege-Ansatz effektiv unauführbar.

GenAI-Risiken, die berücksichtigt werden müssen

GenAI schafft eine riesige und ständig expandierende Datenoberfläche, die die Unternehmensdatengovernance und -sicherheit auf mehrere miteinander verbundene Weise kompliziert. Dazu gehören:

Datenlecks – GenAI kann Rohdaten aufnehmen, einschließlich Text, Bildern, Audio, Video und strukturierten Daten. Endbenutzer können GenAI-Tools jetzt mit minimaler Anstrengung oder Fachkenntnis auf neue Datensätze verweisen. Anstatt auf sorgfältig kuratierte, strukturierte Tabellen mit definierten Schemata und Beziehungen beschränkt zu sein, können diese Datensätze Vertriebsanrufaufzeichnungen, CRM-E-Mails, Kundendiensttranskripte und mehr enthalten. In der Praxis füttern Mitarbeiter GenAI-Tools mit hochsensiblen Geschäftsinformationen, einschließlich Kunden-PII, geistigem Eigentum, Finanzprognosen und sogar Quellcode.

Ausgabebereitstellung – Generative Modelle verbrauchen nicht nur, sie synthetisieren auch. Ein Prompt kann unbeabsichtigt Erkenntnisse aus verschiedenen Datensätzen ziehen und sie Benutzern ohne entsprechende Berechtigung zugänglich machen. In einigen Fällen können Ausgaben sogar “halluzinieren” und Daten enthalten, die echt aussehen, aber Fragmente echter, hochsensibler Trainingsmaterialien enthalten.

GenAI-Tools funktionieren besser, wenn sie Kontext für die Aufgabe haben. Daher nehmen sie nicht nur bestehende Informationen auf, sondern Benutzer erstellen auch neue Daten, um sie in Form umfassender, detaillierter Prompts zu führen, die Geschäftskontext, interne Prozesse und andere potenziell sensible oder geschäftskritische Informationen dokumentieren.

Zugriff ohne Aufsicht – Traditionelle Unternehmenssysteme erforderten die Onboarding von Anbietern und IT-Bereitstellung. Heute ist GenAI in Microsoft Office-Suiten, Browsern, Chat-Tools und SaaS-Plattformen eingebettet. Mitarbeiter können es sofort adoptieren und dabei die Governance vollständig umgehen. Dieser reibungslose Zugriff treibt “Schatten-KI” an und jede nicht genehmigte Nutzung von GenAI ist ein potenzielles Datenausfallereignis, das unsichtbar, im großen Maßstab und außerhalb des Governance-Perimeters des Unternehmens stattfindet.

Zweitrangiges Lieferkettenrisiko – Ein Anbieter kann sicher erscheinen, aber er hängt oft von Subunternehmern wie Cloud-Hosts, Annotationsservices oder Drittanbieter-KI-Labors ab. Jeder von ihnen führt seine eigenen Endbenutzer-Lizenzvereinbarungen (EULAs) und Richtlinien ein. Sensitive Unternehmensdaten können durch mehrere unsichtbare Hände fließen, und die Verantwortung bleibt beim Unternehmen. Zum Beispiel kann ein Unternehmen einen Anbieter haben, der seinen Onboarding-Prozess abgeschlossen hat, aber dieser Anbieter verwendet jetzt ein GenAI-Tool, das es dem Unternehmen ermöglichen könnte, seine Daten als Trainingsdaten zu verwenden, mit erheblichen nachgelagerten Auswirkungen.

Regierungsdefizite in Trainingsdaten – Sobald Daten in ein KI-Modell gelangen, endet die Kontrolle effektiv. Unternehmen können ihre Informationen nicht leicht zurückziehen oder regeln, wie sie verwendet werden. Proprietäres Wissen kann persistieren und dann in Ausgaben auftauchen, lange nachdem seine Quelle vergessen wurde. Wir haben noch kein GenAI-Tool gefunden, das Anfragen zum Entfernen von Informationen, die es aufgenommen hat, ähnlich wie in Datenschutzbestimmungen wie der DSGVO oder dem CCPA, ermöglicht. Die Umsetzung solcher Prozesse ist unwahrscheinlich, bis die Regulierung die Änderung vorantreibt.

Anwendungscoderisiko – KI schreibt zunehmend den Code, der die Geschäftssysteme untermauert. Entwickler, die GenAI-Tools wie Microsoft Copilot verwenden, um Code zu generieren, können unbeabsichtigt unsichere Abhängigkeiten einführen, Schwachstellen verbreiten oder Code unter konfligierenden Open-Source-Lizenzen einbetten. Sobald diese Schwachstellen bereitgestellt werden, werden sie in die Software-Lieferkette eingebettet.

GenAI-Risiken angehen

GenAI ist bereits in Unternehmensworkflows eingebettet, daher ist die Frage für Unternehmen nicht, ob sie es adoptieren sollen, sondern wie sie es verantwortungsvoll tun können. Die Adoption von GenAI ohne Governance riskiert teure Datenverletzungen, regulatorische Strafen und Reputationsschäden. Aber die Blockierung von GenAI treibt Mitarbeiter nur dazu, nicht genehmigte Lösungen zu verwenden. Der einzige Weg nach vorne ist die Ermächtigung, umhüllt von Sichtbarkeit und Kontrolle.

GenAI-Governance erfordert kontextgetriebene Sichtbarkeit nicht nur darauf, welche Daten ein Unternehmen hat, wo sie gespeichert sind und wer Zugriff darauf hat, sondern auch darauf, wie GenAI verwendet wird. Unternehmen müssen sehen, welche Tools zugänglich sind, welche Prompts eingegeben werden und ob sensible Daten ihr Umfeld verlassen. Von dort aus können sie die entsprechenden Kontrollen anwenden, um Prompts und Ausgaben in Echtzeit zu überwachen, risikoreiche Sitzungen oder ungewöhnliche Datenflüsse zu markieren, nicht genehmigte Tools zu blockieren, sensible Prompts vor dem Verlassen zu filtern, sensible Daten zu anonymisieren, sobald sie in Prompts eingegeben werden, und rollenbasierte Einschränkungen auf KI-getriebene Erkenntnisse zu erzwingen.

GenAI ist eine ganz neue Ebene von Unternehmensrisiko und -chance. Die Bewältigung erfordert eine Einstellung, dass Sicherheit nicht auf Innovation bremst, sondern die Grundlage bildet, die sie sicher macht.