Autorität im C‑Suite neu definieren: Was die Pflege einer Beziehung zu KI tatsächlich erfordert

Ich habe 25 Jahre auf der Käuferseite von Sicherheitsoperationen verbracht und nie eine Nacht über eine Firewall‑Regel verloren. Allerdings habe ich wegen KI schlaflose Nächte. Traditionelle Automatisierung folgt, egal wie komplex sie ist, einer nachvollziehbaren Logik. In diesem beispiellosen Ausmaß von agentischer KI jedoch wird den Systemen vertraut, Urteilsentscheidungen zu treffen, die Ingenieure nicht immer vollständig erklären können – dieser Verlust an Transparenz ist genau der Grund, warum so viele CISOs feststecken.

97% von Sicherheitsleitern sind zuversichtlich, dass KI das Triage übernehmen kann, doch nur 35 % setzen sie dort tatsächlich ein. Dieser Wendepunkt ist ein Vertrauensproblem, und Vertrauen kann nur wie immer gelöst werden – durch Struktur, Evidenz und Zeit.

Sie können die Automatisierung sehen, aber können Sie der KI vertrauen?

Bei traditioneller Automatisierung können Praktiker mit Sicherheit wissen, was geschehen wird, bevor es geschieht. Diese Transparenz ist der Grund, warum SOC‑Teams ein Jahrzehnt damit verbracht haben, Vertrauen in automatisierte Workflows aufzubauen, ohne große interne Debatten. Agentische KI hat jedoch das Modell durchbrochen, indem sie eine erlernte Urteils­schicht einführt – ein System, das Kontext abwägt, Vorhersagen trifft und zu Schlussfolgerungen gelangt, die nicht immer vollständig nachvollziehbar sind, selbst für die Entwickler.

Nur 21% der Organisationen geben an, ein ausgereiftes Governance‑Modell für agentische KI zu haben, obwohl 74 % erwarten, bis 2027 KI‑Agenten zumindest „mäßig“ einzusetzen. Wenn Sicherheitsfachleute diese Art von „Black‑Box‑KI nicht transparent erklären können, zeugt das von der Schwierigkeit, KI‑Tools zu steuern. Nicht weil die Werkzeuge nicht richtig gesichert werden, sondern weil das Innenleben des KI‑Tools auf Urteilen und nicht auf einem Flussdiagramm basiert.

In Vorstandsetagen bewerten Führungskräfte KI wie Automatisierung und fragen „Kann ich die Logik sehen?“, statt zu fragen „Wie erlange ich Vertrauen in einen Entscheidungsträger, dessen Logik sich weiterentwickelt?“ Die meisten CISOs kennen die Antwort wahrscheinlich bereits, doch die Herausforderung besteht darin, sie in der Praxis anzuwenden.

KI wie eine hochkarätige Einstellung behandeln

Denken Sie an die Einarbeitung eines neuen Senior‑Analysten. Ein CISO würde einem brandneuen Analysten nicht am ersten Tag die Produktionsschlüssel übergeben, egal wie beeindruckend sein Lebenslauf ist. Stattdessen würde er ihn mit risikoarmen Aufgaben beginnen, beobachten, wie er mit Mehrdeutigkeiten umgeht, und seine Befugnisse schrittweise ausbauen, sobald er sie verdient hat. KI verdient dieselbe Einarbeitung, die auf evidenzbasiertem Vertrauen beruht und im Laufe der Zeit wächst.

Wir haben die Auswirkungen bereits in der Praxis erlebt, als ein autonomer Meta‑AI‑Agent einen unternehmensweiten Sicherheitsvorfall auslöste, nachdem er ohne menschliche Genehmigung gehandelt hatte, und sensible Unternehmens‑ und Benutzerdaten etwa zwei Stunden lang unautorisierten Mitarbeitenden zugänglich machte, bevor das Problem eingedämmt wurde. Die Ursache war das Fehlen einer Human‑in‑the‑Loop‑Kontrolle an dem Entscheidungspunkt, an dem eine explizite Genehmigung erforderlich gewesen wäre. Genau das ist der Fehlermodus, den starre Leitplanken verhindern sollen, und er erinnert daran, dass Disziplin im Umfang wichtiger ist als die Modell‑Komplexität.

KI verdient dieselbe Aufmerksamkeit, und wir können sie als evidenzbasierten Anlaufpunkt betrachten:

• Verstehen Sie die Entscheidungslogik, bevor Sie sie einsetzen. Sie müssen nicht jedes Gewicht im Modell sehen, aber Sie müssen wissen, auf welchen Daten es basiert, welche Ergebnisse es optimiert und wo sich seine blinden Flecken wahrscheinlich befinden.
• Setzen Sie am ersten Tag starre Leitplanken. Definieren Sie genau, worauf das System eigenständig handeln kann und was eine menschliche Hand erfordert. Ein enger Umfang ist das Fundament, auf dem Vertrauen aufgebaut wird.
• Erweitern Sie die Grenzen nur, wenn Evidenz gesammelt wird. Jede korrekte Entscheidung ist ein Datenpunkt, und jeder Fehlgriff ebenfalls. Vergrößern Sie den Spielraum proportional zur Erfolgsbilanz, nicht anhand von Anbieter‑Begeisterung oder Budgetzyklen.

Die Befolgung dieses Protokolls hilft, die Befürchtungen von CISOs zu mindern, indem verhindert wird, dass ein autonomes System über den Punkt hinaus operiert, an dem es tatsächlich von jemandem verifiziert wurde, dass es vertrauenswürdig ist.

Das Drei‑Schichten‑Modell: Wo KI ihren Platz verdient

SANS’ Secure AI Blueprint skizziert eine Governance‑Struktur, die auf drei Bereichen basiert – KI schützen, KI nutzen, KI steuern – und sechs Kontrollkategorien umfasst, darunter Zugriff, Daten, Bereitstellung, Inferenz, Überwachung und Modellsicherheit. Das ist ein nützlicher Ausgangspunkt, und um einen Schritt weiter zu gehen, ist es hilfreich, diese Beziehung zu strukturieren, indem man das SOC in drei Schichten unterteilt, um das Vertrauensproblem bei KI zu lösen.

1. Ergebnis. Dies ist die Ebene, in der das Geschäftsrisiko liegt. Was betrachtet die Organisation als akzeptables Ergebnis? Wie hoch ist die Toleranz für Fehlnegative gegenüber Fehlpositiven? Das ist ein menschlicher Entscheid, Punkt. Kein Modell erhält ein Stimmrecht darüber, welches Risiko die Organisation bereit ist einzugehen.
2. Urteil. Dies ist die Ebene, auf der Prioritäten gesetzt und Kompromisse unter Unsicherheit getroffen werden. Sollte dieser Alarm jetzt eskaliert oder für mehr Kontext zurückgehalten werden? Ist diese Anomalie es wert, jemandes Nacht zu unterbrechen? Das Urteil kann von KI unterstützt werden und sollte es zunehmend, aber die endgültige Autorität bleibt beim Menschen. Dies ist die Ebene, die die meisten Organisationen zu früh abgeben wollen, und sie wird sie verbrennen, wenn sie das tun.
3. Ausführung. Dies ist die Ebene, in der KI die schwere Arbeit übernehmen sollte, und das mit einer Geschwindigkeit, die kein menschliches Team erreichen kann. Einen Alarm anreichern, Signale über ein Dutzend Werkzeuge korrelieren, eine Eindämmungsmaßnahme entwerfen, das Playbook ausführen, sobald ein Mensch oder eine vertrauenswürdige Urteils­schicht den Pfad genehmigt hat. Maschinengeschwindigkeit, deterministisch nach Auslösung, ohne Ego.

Die Partnerschaft weiterentwickeln, nicht nur das Werkzeug verwalten

Wenn die Beziehung von KI innerhalb des SOC als Partnerschaft und nicht als reines Werkzeug aufgebaut wird, können CISOs beginnen, KI als entwickelnden Teamkollegen zu sehen, was zu einer grundlegenden Veränderung führt, wie der CISO seine Zeit einsetzt.

Die SOCs, die diese Beziehung ausbalancieren können, verfügen über den diszipliniertesten Vertrauens‑Aufbau‑Prozess. Diese Disziplin ermöglicht es einer Sicherheitsoperation, auf der Ausführungsebene mit Maschinengeschwindigkeit zu skalieren, ohne das menschliche Urteil zu verlieren, das Entscheidungen auf Ergebnis‑Ebene weiterhin erfordern, und das immer tun werden.

Wir haben den Moment hinter uns, in dem KI als das glänzende neue Werkzeug zur Eindrucks­schaffung im Vorstand betrachtet wurde. Die Fähigkeiten und das Potenzial von KI haben die Autorität erlangt, so behandelt zu werden, wie in einem SOC stets fortschrittliche Technologie behandelt wird – Entscheidung für Entscheidung, verifiziert.