Warum Unternehmen bei der Nutzung von KI vorsichtig sind — und wie sie diese sicher einsetzen können

Die KI hat die Welt im Sturm erobert. Während einige Organisationen frühzeitig adoptierten, haben viele Unternehmen eine vorsichtigere Herangehensweise gewählt — besorgt über Datenschutz, Compliance und betriebliche Probleme, die bis heute anhalten.

Ich habe an hunderten von Einsatzszenarien mit KI-gestützten Sicherheitswerkzeugen gearbeitet und ein vertrautes Muster beobachtet. Befürworter bringen frühes Enthusiasmus mit. Pilotprojekte zeigen vielversprechende Ergebnisse. Dann kommen interne Debatten, juristische Überprüfungen und schließlich eine Pause, wenn Organisationen in eine Analyseparalyse verfallen. Trotz des enormen Potenzials der KI, um Sicherheitsoperationen zu revolutionieren, sind viele Unternehmen immer noch zögerlich, sie vollständig zu akzeptieren.

Im Bereich der Cybersicherheit ist Vorsicht oft der richtige Instinkt. Aber die Verzögerung von KI-Implementierungen wird die KI-gestützten Bedrohungen, die jetzt in Umfang und Häufigkeit zunehmen, nicht stoppen. Die eigentliche Herausforderung besteht darin, KI sicher, bewusst und ohne Kompromisse bei Vertrauen zu adoptieren.

Hier ist, was ich aus der Frontlinie gelernt habe — und was ich Sicherheitsleitern empfehle, die bereit sind, mit Zuversicht voranzuschreiten.

1. Das Datenvertrauensproblem

Das erste und größte Hindernis ist das Datenmanagement. Viele Unternehmen sind entsetzt über die Vorstellung, dass sensible Daten ausgelöst, missbraucht oder — schlimmstenfalls — zur Ausbildung eines Modells verwendet werden könnten, das einem Konkurrenten zugutekommt. Bekannte Sicherheitsverletzungen und vage Zusicherungen von Anbietern verstärken diese Ängste.

Es ist kein Paranoia. Wenn Sie mit Kunden-PII, geistigem Eigentum oder regulierten Daten zu tun haben, kann es sich anfühlen, als ob Sie die Kontrolle verlieren, wenn Sie diese an einen Dritten übergeben. Und bis Anbieter ihre Richtlinien zu Datenabtrennung, Aufbewahrung, Beteiligung von Drittanbietern und Modellausbildung nicht besser klären, wird die Akzeptanz vorsichtig bleiben.

Hier wird Governance entscheidend. CISOs sollten Anbieter mit Hilfe von Rahmenwerken wie dem NIST AI Risk Management Framework oder ISO/IEC 42001 bewerten, die praktische Richtlinien für Vertrauen, Transparenz und Rechenschaftspflicht in KI-Systemen bieten.

2. Sie können nicht verbessern, was Sie nicht messen

Ein weiteres häufiges Hindernis ist der Mangel an Basismetriken. Viele Unternehmen können ihre aktuelle Leistung nicht quantifizieren, was es fast unmöglich macht, den ROI von KI-Werkzeugen zu beweisen. Wie können Sie von einer 40-prozentigen Effizienzsteigerung sprechen, wenn niemand verfolgt hat, wie lange die Aufgabe vor der Automatisierung gedauert hat?

Ob es sich um die mittlere Zeit zur Erkennung (MTTD), falsche Positivraten oder die Anzahl der von SOC-Analysten gesparten Stunden handelt, Unternehmen müssen damit beginnen, ihre aktuellen Arbeitsabläufe zu messen. Ohne diese Daten bleibt der Fall für KI anekdotisch — und Sponsor-Exekutiven werden sich nicht auf große Initiativen einlassen, ohne reale, verteidigbare Zahlen.

Beginnen Sie damit, wichtige KPIs zu verfolgen, einschließlich:

• Mittlere Zeit zur Erkennung/Antwort (MTTD/MTTR)
• Reduzierung von Falschpositiven, Falschnegativen und Ticketvolumen
• Zeit, die von Analysten pro Vorfall gespart wird
• Verbesserungen der Abdeckung (z. B. Schwachstellen, die gescannt und behoben werden)
• Vorfälle, die ohne Eskalation gelöst werden

Diese Basiswerte werden zum Rückgrat Ihrer KI-Rechtfertigungsstrategie.

3. Wenn die Werkzeuge zu gut funktionieren

Ironischerweise ist einer der Gründe, warum die KI-Adoption ins Stocken gerät, dass einige Werkzeuge zu gut funktionieren — und mehr Risiken aufdecken, als die Organisation bereit ist, zu bewältigen.

Erweiterte Bedrohungs-Intelligence-Plattformen, Dark-Web-Überwachungstools und LLM-gestützte Sichtbarkeitslösungen decken oft gestohlene Anmeldeinformationen, ähnliche Domänen oder zuvor unentdeckte Schwachstellen auf. Anstatt Klarheit zu schaffen, kann diese überwältigende Sichtbarkeit ein neues Problem erzeugen: Wo fangen wir überhaupt an?

Ich habe Teams gesehen, die erweiterte Scans deaktiviert haben, weil die Menge der Ergebnisse politisches oder budgetäres Unbehagen erzeugt hat. Bessere Sichtbarkeit erfordert bessere Priorisierung — und die Bereitschaft, Probleme direkt anzugehen.

4. In altmodischen Verträgen gefangen

Sogar wenn bessere Werkzeuge verfügbar sind, sind viele Unternehmen in mehrjährigen Vereinbarungen mit altmodischen Anbietern gefangen. Einige dieser Verträge haben finanzielle Strafen, die so hoch sind, dass ein Wechsel während der Laufzeit nicht in Frage kommt.

E-Mail-Sicherheit ist ein klassisches Beispiel. Moderne Lösungen bieten jetzt KI-gestützte Bedrohungserkennung, Verhaltensmodellierung und integrierte Widerstandsfähigkeit für Hybridumgebungen. Aber wenn Ihr aktueller Anbieter nicht Schritt gehalten hat und Sie in einem Fünf-Jahres-Vertrag gefangen sind, sind Sie faktisch bis zum Ende des Vertrags festgelegt.

Es geht nicht nur um Technologie. Es geht um Timing, Beschaffung und strategische Planung.

5. Der Aufstieg von Schatten-KI

Die KI-Adoption findet nicht nur von oben nach unten statt — sie findet überall statt, oft ohne das Wissen der Sicherheit. Unsere Forschung zeigt, dass über 85 % der Mitarbeiter bereits KI-Werkzeuge wie ChatGPT, Copilot und Bard verwenden. (Um nicht zu erwähnen DeepSeek und TikTok!)

Ohne ordnungsgemäße Aufsicht können Mitarbeiter sensible Daten in öffentliche Werkzeuge eingeben, auf hallucinierte Ausgaben vertrauen oder unbeabsichtigt Unternehmensrichtlinien verletzen. Es ist ein Compliance- und Datenschutz-Albtraum, und so zu tun, als ob es nicht passieren würde, löst das Problem nicht.

Sicherheitsleiter müssen proaktiv vorgehen, indem sie:

• Akzeptable Nutzungspolitiken festlegen
• Un genehmigte KI-Apps blockieren und Benutzer zu genehmigten Werkzeugen umleiten
• Genehmigte, sichere KI-Plattformen für interne Nutzung bereitstellen
• Mitarbeiter über verantwortungsvolle KI-Nutzung schulen

Feldnotiz: KI-Nutzungspolitiken werden die Nutzung nicht ändern. Sie können nicht durchsetzen, was Sie nicht wissen. Der erste Schritt besteht darin, die Nutzung zu quantifizieren, und dann den Schalter umzulegen.

6. Outsourcing bringt eigene Risiken mit sich

Wenige Unternehmen haben die Infrastruktur, um große Modelle intern aufzubauen und zu hosten. Das bedeutet, dass Outsourcing oft der einzige gangbare Weg ist — aber es bringt Drittanbieter- und Lieferkettenrisiken mit sich, die CISOs allzu gut kennen.

Vorfälle wie SolarWinds, Kaseya und der jüngste Snowflake-Breach unterstreichen, wie das Vertrauen in externe Partner ohne Sichtbarkeit zu großen Expositionen führen kann. Wenn Sie KI-Infrastruktur outsourcen, erben Sie die Sicherheitslage des Anbieters — gut oder schlecht.

Es reicht nicht aus, einem Markennamen zu vertrauen. Fordern Sie Klarheit über:

• Modell-Lebenszyklus und Update-Häufigkeit
• Reaktionsprotokolle für Vorfälle
• Anbieter-Sicherheitskontrollen und Compliance-Historie
• Datenisolierung und Mandantenkontrollen

7. Die KI-Angriffsfläche erweitert sich

Wenn Organisationen KI akzeptieren, müssen sie auch auf KI-spezifische Bedrohungsvektoren vorbereitet sein. Angreifer experimentieren bereits mit:

• Modell-Vergiftung (subtile Änderung der Trainingsdaten)
• Prompt-Injektion (Manipulation von LLM-Verhalten)
• Adversarial-Eingaben (Umgehung der Erkennung)
• Halluzinations-Ausbeutung (Täuschung von Benutzern, um falsche Ausgaben zu vertrauen)

Diese sind nicht theoretisch. Sie sind real und wachsen. Wenn Verteidiger KI adoptieren, müssen sie auch ihre Red-Teaming-, Überwachungs- und Reaktionsstrategien anpassen, um diese neue und einzigartige Angriffsfläche zu berücksichtigen.

8. Menschen und Prozesse können die eigentliche Flaschenhals sein

Eine der übersehenen Herausforderungen ist die organisatorische Bereitschaft. KI-Werkzeuge erfordern oft Änderungen an Arbeitsabläufen, Fähigkeiten und Einstellungen.

Analysten müssen verstehen, wann sie KI vertrauen, wann sie sie in Frage stellen und wie sie effektiv eskalieren. Führungskräfte müssen KI in Entscheidungsprozesse integrieren, ohne Risiken blind zu automatisieren.

Schulung, Handbücher und Change-Management müssen zusammen mit der Technologie evolvieren. KI-Adoption ist nicht nur eine technische Initiative. Es ist eine menschliche Transformationsinitiative.

Was können wir also tun?

Trotz der Herausforderungen bin ich überzeugt, dass die Vorteile von KI in der Sicherheit die Risiken überwiegen — wenn sie richtig eingesetzt wird. Hier ist, wie ich Organisationen empfehle, voranzuschreiten:

• Klein anfangen und gründlich testen
• Ein abgegrenztes Einsatzszenario mit messbarem Einfluss wählen. Kontrollierte Pilotprojekte durchführen. Leistung validieren. Vertrauen mit Daten, nicht mit Hype, aufbauen.
• Recht, Risiko und Sicherheit frühzeitig einbeziehen
• Nicht bis zur Vertragsphase warten. Recht und Compliance einbeziehen, um Datenbehandlungsbedingungen, regulatorische Risiken und Lieferkettenimplikationen von vornherein zu überprüfen.

Messen Sie alles

KPIs vor und nach der Implementierung verfolgen. Dashboards erstellen, die sowohl in Sicherheits- als auch in Geschäftsterminologie sprechen. Metriken machen oder brechen KI-Finanzierung.

Wählen Sie Partner mit realen Beweisen für erfolgreiche Projekte

Schauen Sie über Demos hinaus. Fordern Sie Referenzen. Fragen Sie nach post-sales-Support, Deploy-Komplexität und Ergebnissen in Umgebungen wie Ihrer.

Was kommt als Nächstes? Neue Einsatzszenarien, die es wert sind, beobachtet zu werden

Wir sind noch am Anfang der KI-Reise in der Sicherheit. Vorausschauende CISOs erkunden bereits:

• KI-Copiloten für Firewall-Management, GRC und Compliance-Automatisierung
• Nutzung von KI-verbesserten Bedrohungs-Feeds, die die Reaktionszeit auf Zero-Day-Bedrohungen und -Genauigkeit beschleunigen
• Generative Red-Teaming und Angriffssimulation
• Selbstheilende Multi-Anbieter-Infrastruktur
• Risikobasierte Identitätskontrollen, die von Verhaltens-KI angetrieben werden

Diese Einsatzszenarien bewegen sich von Innovationslabors in die Produktion. Die Organisationen, die jetzt Muskeln aufbauen, werden weit besser vorbereitet sein, um zu profitieren.

Letzter Gedanke: Verzögern ist keine Verteidigung

KI ist da und auch KI-gestützte Angreifer. Je länger Sie warten, desto mehr Boden verlieren Sie. Aber das bedeutet nicht, dass Sie blindlings vorgehen sollten.

Mit sorgfältiger Planung, transparenter Governance und den richtigen Partnern kann Ihre Organisation KI sicher einsetzen — Fähigkeiten steigern, ohne Kontrolle zu opfern.

Die Zukunft der Sicherheit ist erweitert. Die einzige Frage ist, ob Sie führen oder hinterherhinken werden.