Vordenker
KI kann Cybersicherheit skalieren. Aber was genau?

Wichtige PunkteDie Verarbeitung von mehr Daten verbessert die Bedrohungserkennung nicht automatisch…
Mehr anzeigen
- Die Verarbeitung von mehr Daten verbessert die Bedrohungserkennung nicht automatisch ohne organisatorischen Kontext.
- Feinabgestimmte Modelle können groß angelegte Untersuchungen zu berechenbareren Kosten als Frontier-Modelle unterstützen.
- Autonomie sollte dem Risiko angemessen sein, wobei Governance vor der Skalierung von Agenten gestaltet werden sollte.
Sicherheitsteams in Unternehmen sehen sich heute mit mehr Aktivitäten, Telemetriedaten und Warnmeldungen konfrontiert, als sie realistischerweise manuell untersuchen können. Die Schätzungen gehen auseinander; einigen Untersuchungen zufolge erhält ein durchschnittliches Security-Operations-Team täglich mehr als 4.400 Warnmeldungen. Wenn Unternehmen wachsen und weitere Tools einsetzen und KI mehr Angriffe ermöglicht, wird diese Zahl zwangsläufig steigen. Wir sehen bereits Unternehmen, deren Umgebungen zwei Millionen Endpunkte umfassen. Sicherheitsteams, die diese Warnmeldungen manuell untersuchen, haben gegenüber Angreifern, die zunehmend agentenbasiert agieren, keine fairen Chancen.
Für die Verteidiger können KI-Agenten die Situation verändern, indem sie Untersuchungen und andere repetitive Aufgaben in der gesamten Umgebung übernehmen. Mehr Daten verarbeiten zu können, führt jedoch nicht automatisch zu einer besseren Erkennung oder Abwehr von Bedrohungen. Entscheidend ist nicht nur die Skalierung, sondern auch der Kontext.
Warum Kontext bei der Bewertung von Skalierung wichtig ist
Ein Agent, der Millionen von Endpunkten untersucht, muss verstehen, wonach er sucht, was in der jeweiligen Umgebung als ungewöhnliches Verhalten gilt und welche Erkenntnisse eine weitere Untersuchung erfordern. Ohne diesen Kontext besteht bei der Automatisierung die Gefahr, dass lediglich das Rauschen zunimmt und irrelevante oder irreführende Schlussfolgerungen entstehen.
Wichtig ist auch, sich vor Augen zu halten, dass sich nicht jedes Unternehmen bei jeder Warnmeldung auf Untersuchungen mit Frontier-Modellen stützen kann; das wäre viel zu teuer.
Sicherheitsumgebungen unterscheiden sich hinsichtlich ihrer Infrastruktur, Anwendungen, betrieblichen Anforderungen, regulatorischen Pflichten und Risikotoleranz. Verteidiger müssen den Betrieb von Anwendungen aufrechterhalten, zugleich Compliance-Anforderungen erfüllen und Betriebsstörungen vermeiden.
Damit Agenten effektiv arbeiten können, müssen sie das Wissen der Organisation einbeziehen, darunter Erkenntnisse aus früheren Untersuchungen, etablierte Verfahren und das Urteilsvermögen erfahrener Analysten. Vieles davon lässt sich nicht einfach in einer Tabelle oder einem anderen Format an einen Agenten weitergeben. Dieses Wissen muss erlernt werden, indem man erfahrenen Verteidigern bei der Arbeit zusieht.
Für Unternehmen stellt sich vor allem die Frage, wie sie dieses institutionelle Wissen in Systeme überführen können, die in Maschinengeschwindigkeit konsistente und dem jeweiligen Kontext angemessene Entscheidungen treffen.
So lässt sich Organisationswissen in die Praxis umsetzen
Unternehmen benötigen Verfahren, um das Wissen zu erfassen und anzuwenden, das Untersuchungen zugrunde liegt. Dazu gehören frühere Fallentscheidungen, etablierte Verfahren und die Art und Weise, wie Analysten Beweise interpretieren. Außerdem verfügen Unternehmen möglicherweise über „maßgeschneiderte“ Prozesse und Tools sowie über implizites Erfahrungswissen, das ebenfalls erfasst werden muss.
Eine mögliche Lösung ist die Spezialisierung von Modellen. Die Feinabstimmung von Modellen auf einzelne Unternehmenskunden kann groß angelegte Untersuchungen zu besser kalkulierbaren Kosten ermöglichen und zugleich eine hohe Leistung gewährleisten. Feinabgestimmte Open-Source-Modelle können sich besonders für Aufgaben mit sehr großen Endpunktbeständen eignen.
Unternehmen müssen außerdem die Leistung von Agenten bewerten, wenn sich Modelle, Arbeitsabläufe und Unternehmensumgebungen verändern. Synthetische Umgebungen oder digitale Zwillinge können repräsentative Testumgebungen bieten, um verschiedene Agentenversionen zu prüfen, wenn Produktionsdaten nicht mehr verfügbar oder veraltet sind.
Die Feinabstimmung ist nicht die einzige Möglichkeit, Kontext bereitzustellen. Weitere Ansätze sind der Informationsabruf, Speicher, die Orchestrierung von Arbeitsabläufen und explizite Richtlinienvorgaben. Entscheidend ist, dass die gewählte Methode die Leistung eines Agenten in der Umgebung verbessert, in der er eingesetzt wird.
Autonomie im großen Maßstab erfordert klare Grenzen, Aufsicht und Koordination
Eine Bedrohung korrekt zu erkennen, ist nur ein Teil der Herausforderung. Agenten müssen wissen, welche Maßnahmen sie ergreifen dürfen, wann eine menschliche Genehmigung erforderlich ist und wie sie Störungen legitimer Geschäftsabläufe vermeiden. Für einen vertrauenswürdigen Einsatz muss klar festgelegt sein, wo Agenten autonom handeln können und wo menschliche Entscheidungen erforderlich sind.
Autonomie im großen Maßstab erfordert auch Skaleneffekte. Unternehmen, die Frontier-Modelle für Millionen von Untersuchungen einsetzen, werden sich damit selbst in den Bankrott treiben. Daher ist es entscheidend, die effizienteste Methode für Untersuchungen mit einem KI-Modell zu finden – unabhängig davon, ob es sich um ein kleines Sprachmodell (SLM) oder ein proprietäres Modell handelt.
Der Grad der Autonomie sollte dem Risiko angemessen sein. Routinemäßige, gut verstandene Aufgaben können sich für eine autonome Ausführung eignen, während folgenreiche oder störende Maßnahmen möglicherweise eine menschliche Genehmigung oder eine zusätzliche Autorisierung erfordern. Die Sicherheit in Unternehmen hängt außerdem von der Koordination zwischen Teams ab. Stellt eine Untersuchung eine Bedrohung fest, die eine Änderung der Firewall-Konfiguration erfordert, muss sie nahtlos an das für dieses System zuständige Team übergeben werden. Dabei müssen eine angemessene Autorisierung und die Verantwortlichkeit für die Behebung gewährleistet sein.
Governance und die Gestaltung von Arbeitsabläufen sind daher wesentliche Bestandteile des Agenteneinsatzes und keine Kontrollen, die erst eingeführt werden können, nachdem die Technologie skaliert wurde.
Der nächste Maßstab für den Erfolg von KI in der Cybersicherheit ist die Qualität ihrer Ergebnisse
Organisationen sollten Agenten anhand ergebnisorientierter Kennzahlen bewerten. Dazu gehören die Genauigkeit von Untersuchungen, Falsch-Positiv- und Falsch-Negativ-Raten, die Zeit für Untersuchungen und die Behebung von Problemen, Kosten pro Untersuchung, die Qualität von Eskalationen und die Einhaltung von Berechtigungsrichtlinien.
Eine kontinuierliche Bewertung ist unerlässlich, wenn sich Modelle und Arbeitsabläufe ändern. Tests verschiedener Agentenversionen anhand repräsentativer Fälle sowie der Einsatz synthetischer Umgebungen können Organisationen helfen, Rückschritte zu erkennen, bevor sie Aktualisierungen in der Produktionsumgebung bereitstellen.
Sicherheitsverantwortliche müssen die Vorteile der Automatisierung gegen die betrieblichen Risiken ihrer Einführung abwägen. Die Verfügbarkeit von Anwendungen, Compliance-Verpflichtungen, die Risikotoleranz der Organisation und die Zeitpläne für die Implementierung beeinflussen allesamt, wie schnell neue Funktionen eingeführt werden können.
KI bietet Sicherheitsteams die Möglichkeit, ein seit Langem bestehendes Kapazitätsproblem anzugehen. Eine bloße Skalierung ist jedoch nicht das eigentliche Ziel. Die wirkliche Chance liegt darin, Maschinengeschwindigkeit mit organisatorischem Kontext, angemessenen Befugnissen und menschlichem Urteilsvermögen zu verbinden, damit Agenten unterscheiden können, was wichtig ist, die richtigen Maßnahmen ergreifen und bei Bedarf die richtigen Personen einbeziehen.












