Die verborgenen Risiken von Shadow AI aufdecken

Es hat nicht lange gedauert, bis Unternehmen die weitverbreitete Nutzung von Generative AI (GenAI) unter ihren Mitarbeitern erlebt haben. Allerdings sollten Sie, wenn es um GenAI-Risiken geht, nicht die Tools in Ihrem Unternehmen am meisten fürchten. Es sind diejenigen, die Sie nicht kennen, die Sie nachts wach halten sollten.

Dank der schnellen Expansion von GenAI-Tools wie ChatGPT, Copilot, Gemini und Perplexity sowie vieler spezialisierter SaaS-basierter Assistenten adoptieren Mitarbeiter diese Tools schneller, als Sicherheitsteams damit Schritt halten können. Und diese Nutzung schafft einen schnell wachsenden blinden Fleck, der als Shadow AI bekannt ist.

Wenn Shadow AI Ihnen vertraut erscheint, liegt das daran, dass es vom Begriff Shadow IT abstammt, der verwendet wird, um die Nutzung von nicht genehmigten Tools und Diensten am Arbeitsplatz zu beschreiben. Aber bei Shadow AI können die Einsätze noch höher sein. Anstatt einer Rogue-Dateifreigabe kann Shadow AI dazu führen, dass sensible Daten in eine Chatbot-Anfrage eingefügt, in externe Modelle aufgenommen und unbewusst Dritten zugänglich gemacht werden.

Shadow AI stellt eine der am wenigsten sichtbaren, aber dringlichsten Bedrohungen für die Unternehmensdatensicherheit heute dar.

Was ist Shadow AI?

Shadow AI bezieht sich auf die nicht genehmigte Nutzung von AI-Tools – insbesondere GenAI – durch Mitarbeiter ohne das Wissen oder die Zustimmung der IT- oder Sicherheitsteams des Unternehmens. Innerhalb eines Unternehmens können Benutzer ein Marketing-Team sein, das mit großen Sprachmodellen (LLMs) Blog-Beiträge erstellt, ein Rechtsteam, das Vertragsformulierungen in AI-Tools untersucht, oder Ingenieure, die mit kostenlosen GPT-Wrappern Code debuggen.

Und obwohl diese Experimente harmlos erscheinen mögen, ist das, was mit diesen Tools geteilt wird, nicht unbedingt harmlos. Es könnten vertrauliche Strategiepräsentationen oder Kundendaten sein. Diese Daten landen letztendlich in unverschlüsselten Anfragen, ohne Governance und ohne Möglichkeit, zu verfolgen, was als Nächstes passiert.

Warum ist Shadow AI ein Problem?

Das Problem von Shadow AI ist problematisch, weil es nur einen Mitarbeiter mit guten Absichten und Zugang zu ChatGPT braucht, um ein Datensicherheitsrisiko zu schaffen. Im Gegensatz zu einem Hacker ist Shadow AI nicht böswillig, aber das macht es nicht weniger gefährlich. Jedes Mal, wenn sensible Daten einer Anfrage hinzugefügt werden, werden sie möglicherweise dem Modell, dem Anbieter und jedem, der Zugang zu den Protokollen hat, zugänglich gemacht. Sie können sogar in einer Antwort auf eine andere Benutzeranfrage wieder auftauchen. Und das Schlimmste ist, dass Sie wahrscheinlich nie erfahren, dass es passiert ist.

Hier sind fünf Schlüsselrisiken von Shadow AI, auf die Sie achten sollten.

1. Datenlecks durch Eingaben – Eingabefelder sind ein Datensicherheits-Schwarzes-Loch. Sobald sensible Informationen wie Quellcode, M&A-Dokumente und Gehaltsdetails mit einem GenAI-Tool geteilt werden, sind sie außer Kontrolle. Selbst wenn der AI-Anbieter verspricht, dass die Daten nicht gespeichert werden, ist die Durchsetzung unklar und es gibt keine Garantien hinsichtlich Schulung oder Telemetrie.

2. Fehlende Zugriffskontrollen oder Überwachungsprotokolle – Im Gegensatz zu genehmigten Unternehmens-Apps bieten die meisten GenAI-Tools keine rollenbasierten Zugriffskontrollen, granulare Berechtigungen oder Aktivitätsprotokolle, was bedeutet, dass Sicherheitsteams keine Sichtbarkeit darauf haben, wer auf welche Daten zugegriffen hat oder wann. Wenn es einen Vorfall gibt, gibt es nichts zu untersuchen.

3. Verstöße gegen die Einhaltung von Vorschriften – Viele der zahlreichen Vorschriften, die Unternehmen einhalten müssen, verlangen, dass regulierte Daten auf sehr spezifische Weise gespeichert, verarbeitet und zugegriffen werden müssen. Das Eingeben dieser Daten in ein externes AI-Modell kann gegen diese Regeln verstoßen und das Unternehmen einem Rechtsrisiko, Bußgeldern und obligatorischen Datenschutzverletzungen aussetzen.

4. Verbreitung veralteter oder voreingenommener Informationen – GenAI-Tools liefern oft Antworten mit großer Zuversicht und präsentieren sie als Fakten, auch wenn sie völlig falsch sind. Die Verwendung dieser Ausgaben für Kundenmitteilungen, Zusammenfassungen der Einhaltung von Vorschriften oder Finanzberichte ohne Validierung kann zu Geschäftsentscheidungen auf der Grundlage ungenauer Daten führen. Halluzinationen treten regelmäßig auf und scheinen nicht zu verschwinden, auch wenn diese LLMs intelligenter werden.

5. Shadow AI, die zu Shadow-Daten wird – Ausgaben von GenAI-Tools, einschließlich Zusammenfassungen und Code-Snippets, werden oft gespeichert, geteilt und wiederverwendet. Da sie außerhalb formaler Workflows erstellt wurden, werden diese Dateien zu unverfolgten, unklassifizierten und ungeschützten Shadow-Daten.

In den meisten Fällen hat bei Shadow AI niemand in der Sicherheit eine Ahnung, wenn ein Datenleck auftritt. Diese realen Beispiele könnten in Ihrem Unternehmen passieren:

• Ein Junior-Software-Ingenieur fügt proprietären Code in einen kostenlosen GPT-basierten Debugger ein.
• Ein Vertriebsmitarbeiter fügt die Kundenliste des letzten Quartals in einen AI-E-Mail-Writer ein, um Upsell-Pitches zu generieren.
• Ein HR-Manager verwendet ein externes AI-Tool, um Mitarbeiterzufriedenheitsumfragen auszuwerten.
• Ein Finanzanalyst bittet ChatGPT, die Sprache sensibler Umsatzprognosen für Führungskräfte zu vereinfachen.
• Ein Anwalt bittet GenAI, einen Vertrag mithilfe einer vertraulichen Klausel aus einem Kundenvertrag umzuschreiben.

Warum traditionelle Sicherheitstools Shadow AI übersehen

Legacy-Sicherheitsstacks sind nicht für GenAI-basierte Bedrohungen durch Anfragen konzipiert. Zum Beispiel kann ein Firewall nicht browserbasierte AI-Tools blockieren. Ein CASB sieht nicht, was in Chat-Fenstern eingegeben wird. Und ein SIEM wird nicht auf eine Warnung hinweisen, wenn jemand ein LLM bittet, sensible IP zu zusammenfassen.

Shadow AI operiert auf der Anwendungsebene und lebt im Browser, wo die Sichtbarkeit am schwächsten ist. Mitarbeiter verwenden auch ihre persönlichen Geräte. Es gibt keine Erweiterung, die sie stoppen kann, kein Wasserzeichen, um zu verfolgen, welche Daten geleckt wurden, und keine Warnung, wenn Daten die Grenze überschreiten. Und wenn sie in einer DLP-Warnung erscheinen, wenn sie überhaupt jemals erscheinen, sind die Daten bereits exponiert.

Wie man Shadow-AI-Risiken identifiziert und behebt

Man kann nicht kontrollieren, was man nicht sehen kann, und bei GenAI sind die meisten Organisationen blind. Traditionelle Tools wurden nicht entwickelt, um promptbasierte Interaktionen zu verstehen oder zu verfolgen, was passiert, nachdem ein Benutzer auf “Enter” klickt.

Es gibt jedoch neue AI-gesteuerte Sicherheitsansätze, die dieser Herausforderung gewachsen sind, um Organisationen zu helfen, Shadow-GenAI aus dem Dunkeln zu holen. Hier sind einige der Schutzmaßnahmen, die fortschrittliche Lösungen bieten:

Entdeckung von Shadow AI – Diese Tools identifizieren, welche GenAI-Anwendungen Ihre Benutzer verwenden, auch browserbasierte, die traditionelle Kontrollen umgehen. Sie analysieren Datenbewegungen, Zugriffsmuster und Kontext, um Verletzungen ohne Endpoint-Agents oder invasive Überwachung zu erkennen.

Klassifizierung dessen, was sensibel ist – Moderne Lösungen verwenden kontextbewusste KI, um sowohl den Inhalt als auch den Kontext hinter den Daten zu verstehen. Das bedeutet, dass sie Risiken wie eine Umsatzprognose in einer PowerPoint-Präsentation oder Kundendaten in einem E-Mail-Entwurf erkennen können. Dies ist der Art von Inhalten, die Mitarbeiter ohne zweites Nachdenken in GenAI einfügen könnten.

Verhinderung von riskantem Anfrageverhalten – Sobald sensible Daten entdeckt und ihre Position identifiziert sind, hilft die AI-Datensicherheit, sie vor der Exposition zu schützen. Diese Tools markieren, schwärzen oder blockieren riskante Anfrageeingaben, bevor sie das Unternehmen verlassen.

Beseitigung von Shadow-Daten – GenAI-Anfragen erzeugen oft eine Welle neuer Dateien, wie Zusammenfassungen, Entwürfe und Antworten, die gespeichert, geteilt und vergessen werden. Erweiterte Datensicherheitsplattformen identifizieren diese nachgelagerten Artefakte, erkennen Expositionsrisiken (wie übermäßige Berechtigungen oder unangemessene Speicherung) und beheben sie, bevor Datenverlust zu einem Schlagzeilen-Thema wird.

Shadow AI ist kein theoretisches Risiko. Es ist real, es wächst und es passiert in Ihrem Umfeld gerade jetzt, ob Sie es bemerken oder nicht. Das Verbot von GenAI-Tools ist nicht realistisch, aber das Ignorieren ist extrem riskant. Organisationen benötigen Sichtbarkeit, Kontrolle und Intelligenz bei der Nutzung von GenAI – nicht nur für das, was herauskommt, sondern auch für das, was hineingeht.

Es gibt neue Ansätze, die riskantes Verhalten aufdecken, unbeabsichtigte Exposition verhindern und den Datenchaos beseitigen, den AI und Shadow AI hinterlassen.

Shadow AI ist kein Tic, aber das Ignorieren ist extrem riskant. Organisationen benötigen Sichtbarkeit, Kontrolle und Intelligenz bei der Nutzung von GenAI – nicht nur für das, was herauskommt, sondern auch für das, was hineingeht. Neue Ansätze sind verfügbar, die riskantes Verhalten aufdecken, unbeabsichtigte Exposition verhindern und den Datenchaos beseitigen, den AI und Shadow AI hinterlassen.