Neues Denken zur KI‑Resilienz: Warum es an der Zeit ist, das „Einrichten und Vergessen“-Modell aufzugeben

Eine aktuelle Gallup‑Umfrage weist auf einen Trend zunehmender KI‑Einführung hin, da mehr als die Hälfte der erwerbstätigen Erwachsenen angibt, die Technologie mindestens ein paar Mal im Jahr zu nutzen. Diese Daten sind nur ein Hinweis auf die rasante KI‑Einführung in Unternehmensumgebungen. Obwohl mehrere Unternehmensleiter begonnen haben, den ROI von KI zu hinterfragen, hat das Organisationen nicht davon abgehalten, die Technologie zu nutzen, um manuelle Aufgaben zu rationalisieren und die Produktivität zu maximieren.

Während diese Einführung weitergeht, können Organisationen versucht sein, schädliche Fehltritte bei automatisierten Arbeitsabläufen zu ignorieren. Sie sehen KI als schlüsselfertige Lösung, bei der IT‑Teams die Technologie lediglich einrichten, laufen lassen und „vergessen“ müssen. Einige Sicherheitsteams versuchen, diesem Denken entgegenzuwirken, indem sie Automatisierungs‑Playbooks erstellen, die einen sicheren und geschützten KI‑Einsatz fördern. Dennoch lassen selbst die besten IT‑ und Sicherheitsteams in diesen Playbooks kaum Raum für Anpassungen. Daher können Unternehmen nicht sicher mit KI weiterentwickeln, während die Technologie selbst ebenfalls weiterentwickelt wird.

Wenn Unternehmen KI mehr Befugnisse in geschäftskritischen Arbeitsabläufen verleihen, muss operative Agilität zur neuen Vorgabe für heutige Organisationen werden. Damit dies zur universellen Praxis wird, müssen Sicherheitsverantwortliche in Unternehmen die „Einrichten‑und‑vergessen“-Mentalität aufgeben und Resilienz konzipieren.

Verständnis des Automatisierungsparadoxons

KI‑gestützte Automatisierung liefert massive Produktivitätsgewinne in zahlreichen Unternehmensfunktionen. Nehmen wir die Cybersicherheit als Beispiel. KI‑Werkzeuge ermöglichen Analysten, zusätzliche Schritte zu unternehmen, für die sie in überlasteten Security‑Operation‑Centern nie Zeit hatten. Dazu gehören Aufgaben wie die Priorisierung von Alarmen, die Überprüfung von Ereignissen, die Erkennung von Bedrohungen, die Validierung von Kreuzreferenzen und das Einholen einer zweiten Meinung. Im Gegensatz zu manchen Führungskräften im C‑Suite bleiben CISOs im Allgemeinen optimistisch hinsichtlich des zukünftigen Mehrwerts von KI. Laut Daten aus dem „The CISO Report: From Risk to Resilience in the AI Era“ glauben 83 % der CISOs, dass Automatisierung die Investition ist, die am wahrscheinlichsten die Erwartungen übertrifft.

Trotz dieser Vorteile bleibt ein Paradoxon bestehen. Derselbe Bericht hebt die Skepsis der CISOs gegenüber KI hervor, die Angst vor den Folgen autonomer Fehler. 83 % der CISOs bewerten Auswirkungen von Halluzinationen, wie verpasste Alarme oder Fehlalarme, als ihre größte Sorge bezüglich agentischer KI. Es gibt ausreichende Belege, die diese Bedenken untermauern. Eine große kommerzielle Fluggesellschaft wurde rechtlich haftbar gemacht und zur Zahlung von Schadensersatz verurteilt, nachdem ihr Kundenservice‑Chatbot eine Regel für Trauer‑Tarif‑Rückerstattungen „halluzinierte“. Ein Threat‑Intelligence‑Unternehmen steht vor rechtlichen Problemen, weil es angeblich einen Bericht veröffentlicht hat, der ein Startup mit Hackern einer fremden Macht in Verbindung brachte. Wenn KI Fehler macht, können die Folgen über interne Systeme hinausgehen und sowohl Kapital als auch Reputation beeinträchtigen.

Das Problem veralteter Playbooks

KI‑fokussierte Sicherheits‑Playbooks bilden die Grundlage für eine erfolgreiche, sichere KI‑Einführung. Probleme entstehen jedoch, wenn diese Playbooks nie aktualisiert werden. Bedrohungen, IT‑Infrastruktur und Geschäfts‑Umgebungen entwickeln sich ständig weiter. KI ermöglicht es Bedrohungsakteuren, Angriffe zu skalieren, während wachsende und immer komplexere IT‑Umgebungen die Erkennung erschweren. Gleichzeitig werden die Konsequenzen von Fehlern bedeutender, je mehr Verantwortung Unternehmen KI übertragen.

Wenn all diese Faktoren weiter evolvieren, muss auch die Automatisierungslogik mit ihnen Schritt halten. Starre Automatisierungs‑Playbooks verhindern dies. Sie lassen Sicherheitsteams aktuelle Probleme mit veralteter Logik angehen. In manchen Fällen kann dieses Szenario sogar schlechter enden, als wenn das Sicherheitsteam überhaupt kein Playbook hätte.

Damit Playbooks zu lebendigen Organismen werden, die für die aktuelle KI‑Implementierung geeignet sind und interne Resilienz fördern, müssen sie:

• Kontinuierlich mit aktueller Bedrohungsintelligenz getestet
• Nach realen Vorfällen aktualisiert
• Außer Dienst gestellt, sobald sie nicht mehr wirksam sind oder keinen Mehrwert mehr bieten

Diese Denkweise stimmt mit den Leitlinien von der Cybersecurity and Infrastructure Security Agency (CISA) und anderen globalen Cybersicherheitsbehörden überein, die kontinuierliche Überwachung von KI‑Systemen und fortlaufende menschliche Intervention fördern.

Implementierung der Resilienz‑Formel

Das KI‑Zeitalter verlangt von Unternehmen, die Denkweise abzulegen, KI als punktuelle Lösung zu betrachten oder einfach Automatisierung auf bestehende Anwendungsfälle zu kleben. Stattdessen müssen Organisationen eine Resilienz‑Kultur aufbauen, die sowohl IT‑Mitarbeitern als auch Systemen ermöglicht, dort zu verstärken, wo KI richtig liegt – und effizient zu reagieren, wenn die Technologie Fehler macht.

Eine dreiteilige praktische Formel kann helfen, diese Resilienz in automatisierte Aktionen zu integrieren.

• Confidence: Für jeden automatisierten Arbeitsablauf sollten Teams sich fragen: Wie zuversichtlich sind wir bezüglich des Triggers, der die automatisierte Reaktion ausgelöst hat?
• Reversibility: Ist die Aktion umkehrbar? Wenn ja, wie schnell und sicher können wir das durchführen?
• Blast Radius: Wie weitreichend sind die Konsequenzen, wenn ein Fehler sich ausbreitet, und wie geschäftskritisch ist das betroffene Asset?

Die richtigen Observability‑ und Monitoring‑Tools sind entscheidend, um diese Fragen zu beantworten. Teams sollten eine einheitliche Observability‑ und Datenmanagement‑Plattform nutzen, um vollständig zu verstehen, wo in einer IT‑Umgebung eine automatisierte Reaktion auftreten kann, welche anderen Assets sie beeinflusst und welche geschäftlichen Konsequenzen damit verbunden sind. Diese Übung regelmäßig durchzuführen ermöglicht es Sicherheitsteams, aktuelle KI‑Playbooks zu pflegen. Darüber hinaus ermöglicht sie korrekte Human‑in‑the‑Loop‑Praktiken, da IT‑Teams wissen, wo und wie sie eingreifen können, um unangemessene automatisierte Aktionen zu verhindern, die weitreichende und kostspielige Auswirkungen haben könnten.

Einrichten und Vergessen – nicht mehr

Für moderne CISOs und IT‑Führungskräfte ist es wichtig zu erkennen, dass die Verantwortung für das Verhalten von KI bei ihnen liegt. Je stärker KI in wichtige Unternehmensaufgaben eingreift, desto größer wird die Belastung für Chief‑Cybersecurity‑Officers. Eine hilfreiche Faustregel lautet: „Automatisierung ändert, wer den Knopf drückt. Sie ändert nicht, wer für das Drücken des Knopfes verantwortlich ist.“

Die Risiken und die Verantwortung des heutigen CISOs sind zu hoch, um weiterhin Set‑It‑and‑Forget‑It‑Playbooks zu verwenden. Stattdessen muss Resilienz sowohl eine Praxis als auch eine Kultur sein, die ein Unternehmen durchdringt und es ermöglicht, nach einem KI‑Fehler wieder aufzustehen. Wenn Teams kontinuierliche Überwachung, Umkehrbarkeit, Eindämmung und menschliche Verantwortung in das Automatisierungs‑Playbook einbinden, können Unternehmen verhindern, dass eine automatisierte Entscheidung zu einem unternehmensweiten Problem wird.