Die meisten Unternehmens-KI-Systeme sind nicht sicher. Hier erfahren Sie, was Unternehmen dagegen tun können

Unternehmen sind bemüht, generative künstliche Intelligenz (KI) zu adoptieren, um im Wettbewerb zu bestehen. Sicherheitsteams stehen jedoch vor einer großen Herausforderung, da sie auf veraltete Rahmenbedingungen zurückgreifen, die für eine andere technologische Ära entwickelt wurden. Die Tools, die Organisationen jahrzehntelang erfolgreich geschützt haben, lassen kritische Schwachstellen auftreten, wenn Mitarbeiter mit browserbasierten KI-Plattformen interagieren. Um die neueste Technologie sicher zu adoptieren, müssen Unternehmen ihre Ansätze zur Kontrolle des Zugriffs auf Informationen und zur Erkennung neuer Bedrohungen vollständig überdenken.

Die wachsende Bedrohung durch Schatten-KI im Unternehmen

Schatten-KI entsteht, wenn Mitarbeiter offizielle IT-Kanäle umgehen und nicht autorisierte, verbraucherorientierte KI-Tools für Arbeitsaufgaben verwenden. Diese Plattformen bieten Geschwindigkeit und Bequemlichkeit, die interne Genehmigungsprozesse nicht bieten können, was sie für produktivitätsorientierte Mitarbeiter unwiderstehlich macht.

Aktuelle Forschungsergebnisse zeigen, dass 73,8 % der Mitarbeiterinteraktionen mit ChatGPT auf nichtunternehmensweiten Konten stattfinden, was bedeutet, dass sensible Informationen direkt in öffentliche Modelle fließen. Ebenso erreicht die Nutzung von Gemini und Bard auf persönlichen Konten 94,4 % bzw. 95,9 %.

Die Auslagerung von Aufgaben an nicht geprüfte externe Plattformen hat erhebliche Konsequenzen. Analysen zeigen, dass 55 % aller KI-Fehler auf diese externen Lösungen zurückzuführen sind, was Risiken birgt, die von Rufschädigung und finanziellen Verlusten bis hin zu Vertrauensverlust, Compliance-Strafen und Rechtsstreitigkeiten reichen. Für Unternehmen, die ohne vorherige Risikobewertung Drittanbieter-KI-Tools einsetzen, ist dies besorgniserregend.

Ohne durchsetzbare Richtlinien teilen Mitarbeiter sensible Unternehmensinformationen, was massive Datenschutzverletzungen zur Folge hat, während viele externe Plattformen nicht über die strengen Sicherheitsmaßnahmen verfügen, die erforderlich sind, um vertrauliche Geschäftsunterlagen zu schützen. Die Speicherungsrichtlinien und -praktiken dieser Lösungen können versehentlich Kundeninformationen und Finanzdaten potenziellen Sicherheitsverletzungen aussetzen.

Warum herkömmliche Datenverlustprävention fehlschlägt

Hersteller von Datenverlustpräventions-Tools (DLP) wurden entwickelt, um Dateidownloads oder E-Mail-Anhänge zu verhindern. Diese Lösungen erfüllen ihren ursprünglichen Zweck, aber sie haben eine grundlegende Einschränkung in der Ära der browserbasierten KI. Beispielsweise können sie nicht leicht Text überwachen oder blockieren, den ein Mitarbeiter manuell in ein KI-Prompt-Fenster tippt oder einfügt, was einen blinden Fleck in der Sicherheitsabdeckung schafft, der mit jedem Quartal problematischer wird.

Die Lücke wird deutlich, wenn man betrachtet, was diese Tools können und nicht können:

• DLP erfasst: Dateidownloads, E-Mail-Anhänge, USB-Übertragungen und Dokumentuploads
• DLP verpasst: Kopier- und Einfügeaktionen in Browserfenster, manuell eingegebene Prompts, Screenshots, die in Text umgewandelt werden, und direkte Texteingaben in Webanwendungen

Wenn die KI-Adoption in Unternehmen beschleunigt wird, vergrößert sich diese Lücke und schafft eine Möglichkeit für die Ausfuhr von Informationen, die traditionelle Sicherheitsinfrastrukturen nie adressieren sollten. Sicherheitsteams finden sich in einer reaktiven Position wieder, bei der sie Sicherheitsverletzungen erst entdecken, nachdem sensible Inhalte bereits die Kontrolle des Unternehmens verlassen haben.

Was ist der beste Ansatz für sichere Unternehmens-KI?

Sich an veraltete DLP-Lösungen zu klammern und die Realität der KI-Adoption zu ignorieren, ist keine langfristige Geschäftsstrategie. Unternehmen müssen auf KI-gesteuerte Bedrohungserkennung umsteigen, die auf neue Angriffe reagiert und strikte Grenzen für die KI-Nutzung setzt, um sensible Informationen zu schützen. Die Zentralisierung von Governance-Praktiken, um unbeabsichtigte Offenlegung zu verhindern, vervollständigt diese Sicherheitsgrundlage.

Umstellung auf einen mehrschichtigen KI-Kontext

Hersteller von Bedrohungserkennungstools verlassen sich auf reaktive Regeln, die nach historischen Signaturen bekannter Angriffe suchen. Dieser Ansatz generiert entweder übermäßig viele falsch positive Ergebnisse, indem er normales Mitarbeiterverhalten als verdächtig markiert, oder verpasst völlig neue Angriffe, die keinem vorherigen Muster in seiner Datenbank entsprechen.

Beispielsweise erkannte das Artesia General Hospital diese Einschränkungen beim Schutz seiner Patientenversorgungsoperationen und digitalen Ökosysteme und setzte Darktrace-Technologie ein. Ohne eine vordefinierte Liste von Bedrohungen lernt die Plattform jedes Gerät, jeden Benutzer und jede Interaktion im Netzwerk des Krankenhauses, um ein Verständnis davon zu entwickeln, wie normales Verhalten von Grund auf aussieht.

Der Cyber-AI-Analyst-Komponent untersucht Warnungen mithilfe von Methoden, die denen menschlicher Analysten ähneln, und verbindet subtile Anomalien, die tatsächliche Bedrohungen für Patientenakten und Krankenhausbetrieb anzeigen könnten. Das System untersucht autonom die Netzwerkbedrohungen des Artesia, um zu bestimmen, welche Warnungen tatsächliche Sicherheitsvorfälle darstellen.

Dieser mehrschichtige KI-Ansatz reduziert falsch positive Ergebnisse, die Sicherheitsteams belasten, erheblich. Wenn man von 100 harmlosen Warnungen pro Tag auf nur zwei oder drei kritische Vorfälle kommt, die tatsächlich menschliche Aufmerksamkeit erfordern, kann sich der Fokus verengen. Analysten erhalten genau die Informationen, die sie benötigen, ohne Stunden mit manueller Untersuchung verbringen zu müssen.

Strengen internen KI-Nutzungsrichtlinien durchsetzen

Die Festlegung fester Grenzen und die Einrichtung technischer Schutzmechanismen, die kontrollieren, welche Informationen in öffentliche KI-Modelle gelangen, adressiert die Schwachstellen, die herkömmliche DLP-Lösungen allein nicht schließen können.

Samsung liefert ein warnendes Beispiel für das, was passiert, wenn Mitarbeiter auf KI-Tools ohne angemessene technische Schutzmechanismen zugreifen. Innerhalb von 20 Tagen nach der Freigabe von ChatGPT im April 2023 erlebte das Unternehmen drei separate Lecks, die hochvertrauliche Informationen in mehreren Abteilungen gefährdeten.

Ingenieure fügten proprietären Quellcode der Halbleiterdatenbank in ChatGPT ein, um Kodierfehler zu überprüfen, und offenbarten damit kritische Details über Samsungs Fertigungsprozesse. In einem anderen Vorfall lud ein Mitarbeiter speziellen Code hoch, der zur Identifizierung von Gerätefehlern konzipiert war, während er Optimierungsvorschläge suchte. Mitarbeiter konvertierten auch aufgezeichnete interne Meetings in Text und fütterten diese Transkripte an ChatGPT, um automatische Protokolle zu generieren.

Sobald Informationen in das Trainingsdataset eines öffentlichen KI-Modells gelangen, gibt es keinen Löschen-Knopf, um sie aus der Wissensbasis zurückzuziehen oder zu löschen. Samsung verbot ChatGPT letztendlich vollständig, da ausgetretene proprietäre Inhalte nicht wiederhergestellt werden können.

Zentrale Datengovernance etablieren

Eine Unternehmens-KI-Lösung ist nur so sicher wie die Informationen, auf die sie innerhalb des Unternehmens zugreifen kann, und die Standardisierung von Berechtigungen über alle Systeme hinweg bildet die Grundlage für die sichere KI-Implementierung. Wenn das interne Netzwerk eines Unternehmens unter inkonsistenten Zugriffskontrollen und fragmentierten Managementpraktiken leidet, können auch genehmigte KI-Tools unbeabsichtigt vertrauliche Personalakten oder Finanzdaten an nicht autorisierte Mitarbeiter offenlegen.

Beispielsweise konfrontierte AXIS Capital diese Herausforderung direkt, als es mit eigenständigen, isolierten Richtlinien- und Anspruchsplattformen in verschiedenen geografischen Regionen zu tun hatte. Jede Geschäftslinie hatte eigene Berichtsreferenzstandards erstellt, und die Inkonsistenzen führten zu Fehlern bei Angeboten, Unterstützungen und Anspruchsanpassungen, was die Unternehmensberichterstattung extrem schwierig machte.

Das Versicherungsunternehmen entwickelte eine unternehmensweite Strategie, die webbasierte Treuhänderformulare und strenge Sicherheitsregeln zur Standardisierung der Kernreferenzhierarchien nutzte. Beginnend mit dem North American Industry Classification System und dem Standard Industrial Classification Code erweiterte AXIS dann in Bewertungs- und Unterstützungscode, die zuvor je nach Standort variierten.

Durch die Implementierung zentraler Datenverwaltung und -kontrolle schuf das Unternehmen eine einzige sichere Wahrheitsquelle, die über alle Betriebe hinweg zugänglich war. Dies beseitigte Inkonsistenzen, die ihre Plattformen geplagt hatten, und ermöglichte es AXIS, Kernversicherungsprozesse wie die Einführung neuer Produktangebote, die Reduzierung operativer Risiken und die Erreichung zuverlässiger Analysen auf Unternehmensebene zu beschleunigen.

Sicherung der Zukunft der Unternehmensinnovation

Die Adoption von KI in Unternehmen ist unvermeidlich, da Organisationen um Wettbewerbsvorteile konkurrieren. Die Abhängigkeit von veralteten Sicherheitsrahmen und die Toleranz von unstrukturierten Governance-Praktiken werden nur zu Lecks und Compliance-Verletzungen führen. Die Frage ist nicht, ob Unternehmen KI adoptieren werden, sondern ob sie dies sicher tun. Durch die Implementierung mehrschichtiger KI-Bedrohungserkennung und die Festlegung strenger Kontrollen für den Informationszugriff können Unternehmen KI-Innovationen umarmen und gleichzeitig ihre sensibelsten Inhalte schützen.