Licht auf den Schatten der Künstlichen Intelligenz werfen

Über Branchengrenzen hinweg nutzen Arbeitnehmer zunehmend künstliche Intelligenz (KI)-Tools, um den täglichen Betrieb zu verändern. Ob es sich um Marketing-Experten handelt, die ChatGPT verwenden, um Kampagnen zu erstellen, oder Software-Entwickler, die mit generativen Tools Code schreiben, KI integriert sich stillschweigend in fast jeden Aspekt des Geschäfts. Tatsächlich fand MITs Projekt NANDA heraus, dass in über 90% der Organisationen Mitarbeiter persönliche Chatbot-Konten verwenden, um ihre tägliche Arbeit zu unterstützen, oft ohne IT-Überwachung, jedoch haben nur 40% der Unternehmen offizielle Abonnements für große Sprachmodelle (LLM). Diese Diskrepanz zwischen genehmigter und geheimer KI-Nutzung hat einen neuen Sicherheitsblindpunkt eröffnet: Schatten-KI. 

Ohne Aufsicht können sensible Daten mit externen Modellen geteilt, Ausgaben ungenau oder voreingenommen sein und Compliance-Teams die Sicht auf die Verarbeitung von Informationen verlieren. Da Mitarbeiter weiterhin mit Tools außerhalb der genehmigten Kanäle experimentieren, müssen Organisationen ihre Strategie für die Verwaltung von KI neu überdenken, oder diese Risiken werden weiter an die Oberfläche kommen. Für CIOs ist es keine Lösung, KI-Tools ganz zu verbieten, da dies die Wettbewerbsfähigkeit beeinträchtigen könnte. Stattdessen sollte der Fokus auf anpassbare Schutzmechanismen liegen, die Innovation mit verantwortungsvoller Risikobewältigung in Einklang bringen.

Um AI-bezogenen Risiken einen Schritt voraus zu sein, sollten Organisationen AI-Richtlinien festlegen, die eine verantwortungsvolle Einführung fördern. Diese Richtlinien sollten Mitarbeiter ermutigen, KI im Rahmen des Möglichen zu nutzen, und jede Richtlinie muss mit den Werten und dem Risikoprofil des Unternehmens übereinstimmen. Um ein erfolgreiches Programm zu erreichen, müssen Organisationen über veraltete Governance-Modelle und Legacy-Tools hinausgehen, die AI-Nutzung nicht erkennen oder verfolgen.

Während die Festlegung einer AI-Richtlinie ein wichtiger Schritt ist, liegt der eigentliche Kern darin, sicherzustellen, dass sie praktisch, durchsetzbar und mit der innovativen Vision und den Compliance-Bedürfnissen jedes Unternehmens ausgerichtet sind, ohne dessen Fortschritt zu behindern.

Hier sind vier Schritte, die Organisationen unternehmen können:

1. Den besten Rahmenwerk bestimmen

Unternehmen müssen nicht von vorne beginnen. Mehrere führende Institutionen haben bereits Rahmenwerke entwickelt, die wertvolle Referenzpunkte bieten. Ressourcen von der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD), dem National Institute of Standards (NIST) und ISO/IEC können Anleitungen zur sicheren und effektiven Verwaltung von KI bieten. Zusätzlich beginnen Regierungsbehörden, sich einzumischen. Neue Vorschriften der Europäischen Union (EU) legen Erwartungen an Transparenz, Rechenschaftspflicht und Governance fest. Zusammen werden diese Ressourcen eine starke Grundlage für Unternehmen bieten, um ihre eigenen Rahmenwerke zu entwickeln und zu verfeinern, um eine verantwortungsvolle KI-Einführung zu fördern.

2. AI-Sichtbarkeit erhöhen

Wenn Organisationen ihren Weg zur effektiven AI-Risikobewältigung ebnen, ist es für Sicherheitsleiter unerlässlich, ein festes Verständnis dafür zu entwickeln, wie KI tatsächlich in ihrem Unternehmen eingesetzt wird. Sie sollten in Tools investieren, die Einblicke in die Aktivitäten über Funktionen hinweg bieten. Diese Tools können Benutzerverhalten überwachen und werden keinen Stein auf dem Weg lassen, um die Verwendung generativer KI zu identifizieren. Diese Erkenntnisse sind von entscheidender Bedeutung, um die Verwendung von Schatten-KI zu erkennen und Führungskräften zu helfen, Risiken zu bewerten und anzugehen.

3. Ein KI-Rat bilden

Sobald die Sichtbarkeit hergestellt ist, können Sicherheitsleiter diese nutzen, um neue Richtlinien zu informieren. Da die KI-Nutzung das gesamte Unternehmen betrifft, sollten sie den Entscheidungsprozess nicht isolieren. CISOs sollten die Bildung eines KI-Rats in Betracht ziehen, der wichtige Stakeholder aus Sicherheit, Recht, IT und der Geschäftsleitung einbezieht. Tatsächlich berichtet Gartner, dass 55% der Organisationen bereits einen KI-Ausschuss eingerichtet haben, während 54% einen Leiter für KI oder einen dedizierten KI-Führer ernannt haben, um die Strategie und Umsetzung zu überwachen.

Diese cross-funktionellen Gruppen können sowohl die Risiken als auch die Chancen, die durch KI-Tools, genehmigt oder nicht, entstehen, die in ihre Geschäftsumgebung eindringen, bewerten. Sie können dann neue Richtlinien gemeinsam ausarbeiten, die die Bedürfnisse ihres Unternehmens ansprechen und Risiken ausgleichen.

Wenn beispielsweise der Rat ein beliebtes KI-Tool identifiziert, das ohne Genehmigung verwendet wird und Sicherheitsbedenken aufwirft, kann er die Anwendung dieses Tools ablehnen und stattdessen ein sichereres Alternativtool genehmigen. Diese Richtlinien sollten durch Investitionen in Sicherheitskontrollen und genehmigte KI-Plattformen, die die Compliance-Standards erfüllen, unterstützt werden. Wenn neue Fortschritte auf den Markt kommen, kann der Rat auch ein formelles Verfahren für Mitarbeiter einführen, um Tools zur Überprüfung vorzuschlagen, was dem Unternehmen hilft, anpassungsfähig und kompatibel mit seiner KI-Strategie zu bleiben.

4. KI-Bildung stärken

Die Schulung und Einbindung von Mitarbeitern in Bezug auf KI wird ein weiterer wesentlicher Bestandteil der Sicherung der Unterstützung des gesamten Unternehmens und der Dämpfung der Nutzung von Schatten-KI. Selbst mit den richtigen Governance-Modellen im Platz, hängt der Erfolg davon ab, wie gut Mitarbeiter diese verstehen und annehmen.

In einer Pew Research-Umfrage gaben unter den Arbeitnehmern, die eine Schulung am Arbeitsplatz erhalten hatten (51%), nur ein Viertel (24%) an, dass diese Schulung mit der KI-Nutzung zusammenhing. Organisationen sollten sicherstellen, dass sie KI-Schulungsprogramme haben, da diese Mitarbeitern helfen können, die Chancen und Funktionalitäten zu verstehen, die ihnen zur Verfügung stehen. Eine erhöhte Weiterbildung kann auch dazu beitragen, dass sie in ihrer Karriere wachsen und sich in ihrer Position zufriedener fühlen.

KI-Schulungsprogramme sollten über die grundlegende Nutzung und Compliance hinausgehen, um Teams zu helfen, den breiteren Kontext von KI und deren Funktionsweise in der Unternehmensumgebung zu verstehen. Themen, die abgedeckt werden sollten, umfassen, warum verantwortungsvolle KI-Nutzung wichtig ist, welche Richtlinien existieren, um Unternehmen und Kunden zu schützen, und wie potenzielle Risiken im Umgang mit Daten oder Datenschutz identifiziert werden können. Wenn Mitarbeiter mit den richtigen Kenntnissen ausgestattet sind, sind sie in der Lage, aktive Partner bei der sicheren Innovation zu werden.

Die Zukunft der verantwortungsvollen KI gestalten 

Schatten-KI wird nicht bald verschwinden. Da generative Technologien weiter in den täglichen Arbeitsabläufen verankert werden, werden die Herausforderungen für Organisationen nur intensiver. Führungskräfte stehen jetzt vor der Wahl, ob sie Schatten-KI als unkontrollierbare Bedrohung oder als Chance betrachten, Effizienz und Produktivität zu maximieren, wenn sie richtig gemanagt wird.

Die Entwicklung einer KI-Richtlinie oder eines KI-Ausschusses ist kein einmaliger Akt. Genau wie KI sich schnell weiterentwickelt, muss auch die Strategie eines Unternehmens sich weiterentwickeln. KI kann dazu beitragen, fundiertere Entscheidungen zu treffen, Innovationen zu beschleunigen und die Produktivität über alle Funktionen hinweg zu steigern. Aber um diese Gewinne zu erhalten, müssen Mitarbeiter verstehen, welche Tools ihnen zur Verfügung stehen und wie sie diese verantwortungsvoll nutzen. Diejenigen, die erfolgreich sind, bleiben anpassungsfähig, verfeinern proaktiv ihre Richtlinien, um der Veränderung voraus zu sein, anstatt ihr zu folgen.