Was die Ankunft von Frontier-KI-Modellen uns über die Zukunft der Schwachstellenentdeckung sagt

Als Claude Mythos im April angekündigt wurde, wurde es schnell zu einem der größten Cyber-Sicherheitsthemen der KI-Ära. Die von Anthropic entwickelte neue LLM zeigte beispiellose Cyber-Fähigkeiten und löste Reaktionen aus, die es als bedeutenden technologischen Durchbruch einstuften, während gleichzeitig vor einer möglichen Störung der Cybersicherheit gewarnt wurde.

Laut Anthropic kann das Modell autonom eine große Anzahl von Zero-Day-Schwachstellen entdecken und soll Schwachstellen in großen Betriebssystemen und Browsern identifiziert haben, einschließlich Beispiele, die jahrzehntelang unentdeckt geblieben waren. Es war auch in der Lage, einzelne Schwachstellen zu kombinieren, um funktionierende Multi-Schritt-Exploits zu erstellen.

Seine Auswirkungen waren so dramatisch, dass die US-Regierung Anthropic am 12. Juni anwies, den Zugang zu dieser Technologie für alle ausländischen Staatsbürger weltweit, einschließlich ausländischer Anthropic-Mitarbeiter, zu suspendieren. Dies wurde weitgehend als Reaktion auf Bedenken hinsichtlich der offensiven KI-Fähigkeiten angesehen, die möglicherweise einen Punkt erreicht haben, an dem ein unbeschränkter Zugang unannehmable, sogar unkontrollierbare Risiken schaffen könnte.

Im Rahmen von Project Glasswing, Anthropics Offenlegungs- und Behebungsprogramm, ist der Zugang derzeit auf etwa 50 Organisationen beschränkt, darunter AWS, Apple, Google, Microsoft, CrowdStrike, Cisco und die Linux Foundation, unter anderen. Diese Unternehmen haben ein Zeitfenster, um kritische Systeme zu patchen, bevor Schwachstellen, die von Mythos identifiziert wurden, ab Juli öffentlich offengelegt werden. Zu diesem Zeitpunkt betritt die Branche wirklich neues Territorium.

Über den Rubikon

Viele würden zustimmen, dass die Ankunft von Frontier-KI-Modellen bedeutet, dass der Sicherheits-Rubikon überschritten wurde. Und lassen Sie uns klarstellen: Das Kernproblem ist nicht unbedingt das Auftauchen eines bestimmten Modells, sondern die Möglichkeit (oder sogar Wahrscheinlichkeit), dass die Schwachstellenentdeckung und die Entwicklung von Exploits selbst in eine neue Ära eintreten, in der KI auf einer Skala und mit einer Geschwindigkeit arbeiten kann, die jenseits der Fähigkeiten menschlicher Forscher liegt.

Wenn sich das als zutreffend erweist, haben die Auswirkungen weitreichende Folgen, die über spezifische Schwachstellen hinausgehen; sie betreffen die Annahmen, auf denen traditionell die Schwachstellenmanagement- und Behebungsprozesse basieren. Insbesondere wurden die aktuellen Schwachstellenmanagementprozesse in einer Ära entwickelt, in der die Geschwindigkeit der Entdeckung durch menschliche Forscher begrenzt war. KI hat das Potenzial, diese Gleichung grundlegend zu verändern.

Eine Konsequenz ist wahrscheinlich ein deutlicher Anstieg der Anzahl von Schwachstellen, die in das Sicherheitssystem eindringen. CVE-Volumina sind in den letzten Jahren bereits dramatisch gestiegen, und Sicherheitsteams stehen bereits unter wachsendem Druck, noch bevor die volle Auswirkung von Frontier-KI-Modellen spürbar wird.

In diesem Kontext ist die Schwachstellenentdeckung selbst möglicherweise nicht länger der limitierende Faktor. Stattdessen verlagert sich der Engpass auf die Triage und Behebung. Die Herausforderung wird durch die Tatsache verschärft, dass die Ausnutzungszeiträume über Jahre hinweg geschrumpft sind und in einigen Fällen Exploits jetzt bereits vor der Verfügbarkeit von Patches auftauchen, was Organisationen wenig Zeit lässt, zu reagieren.

Betriebsbereitschaft wird zur Priorität

Was sieht also ein aktualisierter, zweckmäßiger Ansatz für das Schwachstellenmanagement aus? Zunächst muss es als kontinuierliche betriebliche Fähigkeit behandelt werden, da das Zeitfenster zwischen Entdeckung und Patch-Deployment oft zu lang ist. Sicherheitsteams müssen verstehen, welche Schwachstellen tatsächlich ausnutzbar sind und welche Systeme betroffen sind.

Da die Anzahl der Funde zunimmt und die Zeit bis zur Ausnutzung abnimmt, wird die Operationalisierung von KI für die Sicherheit unerlässlich. Teams, die erweiterte KI-Erkennungsfähigkeiten nutzen (während sie die Tokenkosten verwalten) und Erkennung, Triage und Behebung automatisieren, werden am besten in der Lage sein, die Expositionszeiträume und negativen Geschäftsauswirkungen zu minimieren. Es geht nicht darum, die meisten Schwachstellen zu entdecken; es geht darum, die wichtigsten Probleme schnell zu identifizieren und zu beheben.

Zweitens und wichtiger sind Frontier-KI-Modelle Werkzeuge für die Cybersicherheit. Mitglieder von Glasswing können die Modelle verwenden, um zuvor unentdeckte Schwachstellen zu erkennen und zu beheben, idealerweise mit erweitertem Zugang, um einen Vorsprung vor Angreifern zu haben, wenn diese letztendlich auch Zugang zu Frontier-KI-Fähigkeiten haben. Frontier-KI-Modelle sind ein wertvolles Erkennungstool; jedoch lösen sie nicht automatisch die operativen Aspekte, wie man KI-Scans verwaltet (was gescannt werden muss, wann, wie man das Scannen orchestriert, was mit den Ergebnissen zu tun ist, wie man die Tokenkosten verwalten kann usw.). Unabhängig davon, welches Modell verwendet wird (und es wird mit der Zeit besser), müssen Sicherheitsteams in der Lage sein, Frontier-KI-Fähigkeiten für die Cybersicherheit schneller zu operationalisieren als Angreifer, die Fähigkeiten für die Ausnutzung nutzen können.

Die langfristige Herausforderung, der sich Organisationen gegenübersehen, besteht daher nicht darin, sich auf ein einzelnes Modell oder eine bestimmte Welle von Offenlegungen vorzubereiten, sondern darin, ob bestehende Betriebsmodelle an eine Welt angepasst werden können, in der Schwachstellen mit unvergleichlicher Geschwindigkeit entdeckt und ausgenutzt werden. Wenn man das falsch macht, stehen Organisationen vor einer Welt voller Probleme.