Vordenker
Wie sollten Unternehmen den Überlastung von KI-Anwendungen angehen?
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Kein so persönliches Computing
Seit Jahren wird die technologische Entwicklung von dem Wunsch getrieben, das Computing zugänglicher zu machen. Von Smartphones über Tablets, Laptops und Wearable-Technologie gibt es einen allgemeinen Trend, Computer und ihre Fähigkeiten immer persönlicher zu machen. Denken Sie nur an die Nomenklatur von Branchen-Säulen: den “Personal Computer” oder PC; den “i”-Pod, -Pad, -Phone und darüber hinaus. Jedes dieser Geräte soll als persönlicher Begleiter dienen, der dem Benutzer das digitale Erlebnis und damit sein Leben erleichtert.
Die Entwicklung von künstlicher Intelligenz (KI) – insbesondere großer Sprachmodelle (LLMs) und agenter Lösungen – geht größtenteils in die gleiche Richtung. Wie der PC und das iPhone haben KI-Tools wie ChatGPT computergestützte Aktivitäten wie Suchen, Bearbeiten und Brainstorming für die allgemeine Öffentlichkeit zugänglicher gemacht. Aber während diese Zugänglichkeit die Nutzung gesteigert hat, hat sie auch das Risiko erhöht.
Ob durch vergiftete Konnektoren oder unbeabsichtigte Suchmaschinen-Indexierung, die Bedrohungen für die private KI-Nutzung werden immer schwieriger zu schützen. Wenn man die Unsicherheiten hinzufügt, wer welche Tools nutzt, stehen Unternehmen vor einem perfekten Sturm von wachsenden Bedrohungen und unzureichendem Schutz. Angesichts des Versprechens von KI-Tools und der Unsicherheit, wie man sie sichern kann, was soll ein technologieorientiertes Unternehmen tun?
Das Wachstum von nicht genehmigten KI-Apps
Mit über 700 Millionen täglichen Nutzern im Jahr 2025 ist die Nutzung von ChatGPT um mehr als 4x im Vergleich zum Vorjahr gestiegen. Trotzdem sind nur fünf Millionen dieser Nutzer zahlende Geschäftskunden. Das bedeutet, dass die anderen 695 Millionen oder so Mitglieder ihrer Nutzerbasis entweder persönliche oder nicht genehmigte Geschäftsnutzer sind. Diese Zahl erscheint groß, bis man sich daran erinnert, dass ChatGPT nicht die einzige KI-Lösung auf dem Markt ist. Tatsächlich ist es weit davon entfernt – die zeitgenössische Explosion von KI- und Machine-Learning-Fortschritten hat Hunderttausende neuer Modelle und Lösungen, sowohl öffentliche als auch private, hervorgebracht.
Für Unternehmen hat das exponentielle Wachstum von KI-Lösungen zu einer neuen Dimension der Cyber-Bedrohungslandschaft geführt, die als “Shadow AI” bezeichnet wird. Wie das Phänomen von “Shadow IT” basiert dies auf der Nutzung von KI-Lösungen durch Mitarbeiter ohne vorherige Überprüfung und ausdrückliche Genehmigung ihrer Organisation. Dies umgeht alle IT- und Sicherheitsüberwachung, was zu Szenarien führt, in denen Mitarbeiter möglicherweise gefährliche oder unsichere Lösungen für sensible Arbeiten nutzen.
Die Nutzung von Shadow AI ist sowohl verbreitet als auch ausgedehnt. Ein Bericht fand heraus, dass über 320 nicht genehmigte KI-Apps im Durchschnitt pro Unternehmen genutzt werden. Jede dieser nicht genehmigten Apps und ihre Nutzung durch Mitarbeiter erweitert die Bedrohungslandschaft weiter.
Die inhärenten Risiken von KI-Überlastung
Die Bedrohungen, die mit KI-Überlastung verbunden sind, sind vielfältig und, leider, kontinuierlich expandierend. Einige, wie Datenvergiftung, Prompt-Injektion, Modellmanipulation und Datenabfrage, sind allgemein bekannt. Diese direkten Versuche, KI zu manipulieren und auszunutzen, können bösen Akteuren den Zugang zu sensiblen Unternehmensdaten und internen Systemen ermöglichen. Da dieses Risiko besteht, beginnen Unternehmen, sich aktiv gegen solche Angriffe zu schützen.
Aber Unternehmen können sich nur gegen die Bedrohungen schützen, die sie kennen. Denken Sie an die Sicherung einer mittelalterlichen Burg. Mauern, Wachtürme, Tore, Gräben und mehr helfen, die Burg gegen äußere Feinde und Eindringlinge zu sichern. Aber was, wenn die Küchencrew einen geheimen Durchgang hat, der die äußeren Mauern umgeht? Oder ein lautmundiger Wächter wird im lokalen Wirtshaus über Schichtwechsel gesprochen? Jede dieser unbekannten Bedrohungen könnte es Dieben ermöglichen, die Sicherheit zu umgehen und die inneren Mauern zu durchbrechen.
Shadow AI hat den gleichen Effekt auf die Unternehmensdatensicherheit. Selbst die gut gemeinte Nutzung von nicht genehmigten LLMs und Copiloten kann für den Schutz sensibler Daten zu einem Desaster führen, da jede unsichere Lösung als Tor für böse Akteure dienen kann. Jede Nutzung von LLMs erhöht das Risiko von Problemen wie Datenretention, Prompt-Injektion oder Modellbias, jedes von denen seine eigenen relevanten Sicherheitsmaßnahmen erfordert. Dies erhöht das Risiko von Datenlecks, Compliance-Verstößen und Betriebsfehlern, die oft erst nachdem der Schaden bereits angerichtet wurde, identifiziert werden.
Die Kontrolle über KI-Lösungen etablieren
Da die Nutzung von KI sowohl auf der persönlichen als auch auf der Unternehmensebene weiter wächst, ist es entscheidend, dass Organisationen die Kontrolle über diese Lösungen erlangen, bevor die Adoption außer Kontrolle gerät. Die Sicherung von Unternehmens-KI und der Schutz gegen nicht genehmigte KI-Risiken beinhaltet:
- Umfassende Sichtbarkeit erlangen. Wie bereits erwähnt, kann man seine Daten nicht gegen Bedrohungen schützen, die man nicht kennt. Die Sicherheit beginnt mit der Überwachung aller KI-Lösungen, die von den Mitarbeitern genutzt werden – sowohl genehmigte als auch nicht genehmigte. Dies ist leichter gesagt als getan, aber eine Cloud-Access-Security-Broker-(CASB)-Lösung kann helfen, eine kontinuierliche Sichtbarkeit in die Anwendungsnutzung der Mitarbeiter zu etablieren.
- Gründliche Risikobewertungen durchführen. Teams sollten TPRM-Bemühungen unternehmen, um sicherzustellen, dass alle KI-Lösungen auf ihre Sicherheit und potenziellen Risiken hin bewertet werden. Diese Bemühungen sollten sich auch auf die vierte Ebene erstrecken, da sogar genehmigte Anwendungen wie CRM oder Produktivitätsplattformen beginnen, externe LLM-Fähigkeiten in ihre Plattformen zu integrieren. Diese vierten Lösungen müssen den gleichen Sicherheitsstandards wie jede intern genehmigte Anwendung entsprechen.
- Regierungsrahmen etablieren. Mit dieser Überwachung und dem Verständnis ihrer Lösungen können Organisationen konsistente KI-Regierungsrahmen in ihrem Anwendungsumfeld entwickeln und bereitstellen. Wie bei der Datenzugriffskontrolle können diese Regierungsrahmen helfen, die Arten von KI-Lösungen zu kontrollieren, auf die Mitarbeiter zugreifen können, die Informationen, die sie mit ihnen teilen können, und die Transparenz ihrer täglichen Nutzung.
- Risikodetektion automatisieren. Das exponentielle Wachstum der KI-Adoption macht manuelle Risikodetektion und -reaktion nahezu unmöglich. Die Automatisierung dieser Prozesse basierend auf Regierungsrahmen und erwartetem Benutzerverhalten kann helfen, Anomalien proaktiv zu identifizieren und ihre breitere Sicherheitsauswirkung zu begrenzen.
- Mitarbeitererwartungen erklären. Der wichtigste Teil der sicheren KI-Adoption und -Nutzung sind die Mitarbeiter. Die Bereitstellung angemessener Schulungen und die Festlegung klarer Erwartungen können helfen, gleichzeitig riskante KI-Nutzung zu verhindern und die sichere, geschäftliche Nutzung von genehmigten und geschützten Lösungen durchzusetzen.
Die sichere KI-Adoption aufrechterhalten
Durch die Etablierung dieser proaktiven Sicherheitsmaßnahmen gewinnen Unternehmen eine umfassendere Sicht auf die Art und Weise, wie sie KI-Lösungen nutzen – sowohl genehmigte als auch nicht genehmigte. Dies hat einen sofortigen Einfluss auf die Sicherheit, indem Teams bestehende Risiken und Bedrohungsvektoren identifizieren und Maßnahmen ergreifen können, um sie zu beseitigen.
Noch wichtiger jedoch ist, dass es Unternehmen auf langfristigen KI-Erfolg vorbereitet. Durch die Schaffung einer technischen Grundlage für sichere KI-Adoption und einer Sicherheitskultur unter KI-Nutzern hilft dieser mehrschichtige Ansatz, ein nachhaltiges Modell für zukünftige KI-Tools zu schaffen. Mit technischer Unterstützung und angemessener Schulung können Mitarbeiter die Vorteile von KI nutzen, ohne von den inhärenten Risiken belastet zu werden.
Organisationen, die diese Änderungen früher als später vornehmen, werden am besten darauf vorbereitet sein, die Zukunft von KI-Lösungen zu meistern, was auch immer sie bringen mag. Durch die Schaffung einer starken Grundlage – anstatt einfach nur das Kästchen der KI-Adoption zu markieren – werden Teams in die beste mögliche Position für nachhaltigen, von KI getriebenen Erfolg gebracht.
