KI-Agenten verwandeln Zero-Days in ein Rennen, das Menschen allein nicht gewinnen können

Seit Jahren sind Zero-Day-Schwachstellen gefährlich, aber sie waren früher selten und schwer zu nutzen. Um eine zu finden, benötigte man Geduld, spezielle Fähigkeiten und ein tiefes Verständnis von Software-Verhalten. Wie Nicole Perlroth und andere Journalisten berichtet haben, gab es einen Handel mit Zero-Days, und Nationen behandelten sie als extrem wertvolle Cyber-Waffen.

Heute sind Zero-Days weit verbreitet. Fast jeder kann neue finden, mit Hilfe von Open-Source-KI-Modellen oder proprietären KI-Systemen wie Claude und OpenAI.

Die gleichen Fortschritte, die KI nützlich für das Schreiben von Code, das Zusammenfassen von Protokollen und das Beschleunigen von Sicherheitsoperationen machen, können auch verwendet werden, um nach Fehlern zu suchen, Schwachstellen zu ketten und Exploit-Pfade mit Maschinengeschwindigkeit zu testen. Angreifer müssen nicht mehr manuell jeden Abhängigkeit überprüfen, jede Anwendung reverse-engineeren oder Wochen damit verbringen, nach einer Schwachstelle zu suchen. KI-Agenten können viel von dieser Arbeit automatisieren, indem sie Codebasen erkunden, exponierte Systeme scannen, Hypothesen generieren und iterieren, bis sie etwas Nützliches finden.

Das ändert die Ökonomie der Zero-Day-Ausbeutung. Ein menschlicher Angreifer kann nur die vielversprechendsten Ziele verfolgen. Ein KI-gestützter Angreifer kann sich viele mehr Software, viel schneller und mit viel weniger Ermüdung ansehen. Selbst wenn die meisten Versuche fehlschlagen, macht die reine Menge der Versuche Erfolg wahrscheinlicher. In der Cybersicherheit verwandelt Skalierbarkeit oft seltene Ereignisse in Routine-Ereignisse.

KI erweitert die Zero-Day-Suchfläche

Das ist der Grund, warum Zero-Days zu einem dringenderen Unternehmensrisiko werden. Moderne Software ist zu groß, zu vernetzt und zu abhängig von Drittanbieter-Komponenten, als dass eine Organisation alle Schwachstellen verstehen könnte, bevor ein Angreifer sie tut. Die meisten Unternehmen verlassen sich auf eine verwirrende Mischung aus kommerziellen Plattformen, Open-Source-Bibliotheken, Cloud-Diensten, SaaS-Anwendungen, APIs, Identitätssystemen, Edge-Geräten und internen Tools. Jede Schicht introduceiert potenzielle Schwachstellen. Jede Integration schafft neue Angriffspfade. Jedes Update kann stillschweigend das Risikoprofil ändern.

Die unangenehme Realität ist, dass es eine enorme Menge an unentdeckten Schwachstellen in Software aller Art gibt. Ein Teil davon existiert in altem Code. Ein Teil davon existiert in neuem Code, der unter Druck geschrieben wurde. Ein Teil davon kommt von Abhängigkeiten, die wenige Organisationen mit genügender Präzision verfolgen. Ein Teil davon entsteht aus der Art und Weise, wie Systeme interagieren, auch wenn jedes einzelne Komponenten scheinbar sicher ist. KI-Agenten sind gut geeignet, diese Komplexität zu erkunden, weil sie breit, persistent und adaptiv suchen können.

Verteidiger stehen vor einem unmöglichen Patching-Problem. Man kann nicht patchen, was man nicht kennt. Man kann nicht jeden theoretischen Schwachpunkt gleich priorisieren. Man kann nicht jeden Kombination von Software, Konfiguration und Benutzerverhalten vollständig testen, bevor man sie bereitstellt. Selbst mature Vulnerability-Management-Programme sind oft auf bekannte CVEs, Hersteller-Richtlinien und Bedrohungs-Intelligence-Feeds aufgebaut. Diese sind essentiell, aber sie kommen nach der Entdeckung. In einer Welt, in der KI-beschleunigte Zero-Day-Jagd, kann die Entdeckung zuerst in den Händen eines Angreifers geschehen.

Das schafft ein wachsendes Spiel von “Whack a Mole”. Eine Schwachstelle wird gefunden. Ein Patch wird hastig erstellt. Die Ausbeutung wechselt zu einem benachbarten System, einer anderen Abhängigkeit oder einer neu exponierten Schnittstelle. Sicherheitsteams reagieren, aber der Rückstand wächst weiter. KI erhöht die Geschwindigkeit des Hammerwerks auf beiden Seiten, aber Angreifer profitieren oft zuerst, weil sie nur einen gangbaren Pfad finden müssen. Verteidiger müssen alle Pfade schützen.

Die langfristige Antwort könnte von der KI selbst kommen. Wenn KI-Systeme besser darin werden, Code zu generieren, zu überprüfen und zu testen, sollten sie helfen, ganze Klassen von Schwachstellen zu eliminieren, bevor die Software in Produktion geht. Sicherheitsentwicklung durch Design könnte viel praktischer werden, wenn KI kontinuierlich Code überprüft, unsichere Muster identifiziert, Ausbeutbarkeit modelliert und Fixes in Echtzeit empfiehlt. Schließlich könnten wir einen Punkt erreichen, an dem gemeinsame Speicherfehler, Injektionsfehler, Authentifizierungsfehler und unsichere Konfigurationen dramatisch reduziert werden, weil KI-gestützte Ingenieure sie frühzeitig erkennen. In unserer Arbeit in DeepTempo sehen wir bereits eine größere Verwendung von Speichersicheren Sprachen wie Rust in unserer Software; während Rust in einigen Aspekten schwieriger zu coden ist, ist es sicherer und das Coden wird dank KI viel einfacher.

Verteidiger müssen von Patch-Geschwindigkeit zu Angriffsresilienz wechseln

Während eine Zukunft, in der alle Software gepatcht oder in einer sichereren Weise neu geschrieben wurde, wertvoll ist, ist es unklar, wie theoretisch möglich es wirklich ist, aus einer Vielzahl von Gründen. In jedem Fall wissen wir, dass es noch nicht angekommen ist und für viele Jahre nicht ankommen wird. Heutige KI-generierte Code kann immer noch Schwachstellen einführen. Und KI-Sicherheits-Tools können immer noch Kontext verpassen. Heutige Unternehmensumgebungen enthalten immer noch Jahrzehnte an aufgebauter technischer Schulden. Angreifer nutzen bereits Automation, um schneller zu agieren, während Verteidiger immer noch KI in bestehende Workflows, Genehmigungsketten und Risikomodelle integrieren und feststellen, dass LLMs nicht nützlich sind, wenn es darum geht, Angriffe zu erkennen.Mehr Informationen darüber, wie LLMs bei Erkennungen abschneiden, können in jüngsten Open-Source-Benchmarks wie SOC Bench gefunden werden. Als Beispiel fanden die Ingenieure hinter SOC Bench heraus, dass die besten LLMs eine Falsch-Positiv-Rate im Bereich von 20% haben und hundreds of millions of dollars pro Tag kosten würden, wenn sie im Maßstab einer typischen großen Sicherheitsumgebung eingesetzt würden.Als Ergebnis aller oben genannten Faktoren favorisiert der Aufstieg der KI derzeit die Angreifer.

Leider müssen Organisationen annehmen, dass einige unbekannte Schwachstellen von Gegnern entdeckt werden, bevor sie öffentlich bekannt gegeben werden. Was mehr ist, dank verbesserter Phishing- und der Verbreitung von Identitätsdiebstahl, können Angreifer einfach anmelden.Kurz gesagt, zumindest für den mittleren Zeitraum, kann die Sicherheitsstrategie nicht ausschließlich auf Prävention basieren. Prävention bleibt kritisch, aber sie muss mit schnellerer Erkennung, stärkerer Verhaltensanalyse und engerer Eindämmung kombiniert werden.

Wie verschiedene Organisationen kürzlich vorgeschlagen haben, einschließlich NIST, den Five Eyes und der National Academy of Sciences, sollten Sicherheitsteams angesichts des Aufstiegs von KI-gestützten Angreifern ihre Ansätze überdenken, um zu verstehen, was normal aussieht, über Benutzer, Maschinen, Identitäten, Anwendungen und Datenflüsse. Zero-Day-Exploits gelingen oft, weil sie bekannte Signaturen umgehen, aber sie hinterlassen immer noch Spuren, die heutige leistungsstarke Klassifizierungsmodelle sehen und erkennen können. Zum Beispiel können Angriffe ungewöhnliche Zugriffsmuster, ungewöhnliche Privilegien, unerwartete Prozessaktivitäten, seltsame Authentifizierungsflüsse oder Datenbewegungen zeigen, die in Kombination nicht mit dem Baseline-Verhalten der Umgebung übereinstimmen. Speziell entwickelte KI kann helfen, diese Signale früher zu finden, insbesondere wenn der Angriff selbst neu ist.

Darüber hinaus sollten Unternehmen den Schadensradius eines Angriffs reduzieren. Segmentierung, minimale Rechte, starke Identitätskontrollen, kontinuierliche Überwachung und schnelle Isolation sind wichtiger, wenn unbekannte Schwachstellen ausgenutzt werden. Wenn ein Angreifer ein Zero-Day verwendet, um Zugang zu erhalten, ist die nächste Frage, wie weit er sich bewegen kann, bevor er entdeckt wird. Je kleiner das Zeitfenster, desto weniger wertvoll wird der Exploit.

Es gibt keinen sauberen Pausenknopf für diesen Moment. KI-Agenten werden weiter verbessert. Offensives Experimentieren wird weiter beschleunigt. Die Anzahl der Systeme, die es wert sind, zu scannen, wird weiter wachsen. Die Aufgabe der Sicherheitsgemeinschaft ist es, sicherzustellen, dass defensive KI genauso schnell reift.

Zero-Days haben immer Geschwindigkeit, Kreativität und Asymmetrie belohnt. KI-Agenten verstärken alle drei. Die Organisationen, die sich anpassen, werden KI als mehr als nur eine Produktivitätsschicht für Sicherheitsteams betrachten. Sie werden auch speziell entwickelte KI verwenden, um unbekannte Bedrohungen effizient und genau zu erkennen, scheinbar schwache Signale zu priorisieren, die in Kombination mit Tausenden anderer auf eine Kompromittierung hindeuten, und zu reagieren, bevor eine ausgenutzte Schwachstelle zu einer unternehmensweiten Krise wird.