Wat de komst van Frontier AI-modellen ons vertelt over de toekomst van kwetsbaarheidsontdekking

Toen Claude Mythos in april werd aangekondigd, werd het al snel een van de grootste cybersecurity-praatpunten van de AI-era. Ontwikkeld door Anthropic, toonde het nieuwe LLM ongekende cybermogelijkheden en veroorzaakte reacties die het classificeerden als een belangrijke technologische doorbraak, evenals waarschuwingen dat cybersecurity mogelijk een periode van ongekende verstoring binnenstapt.

Volgens Anthropic kan het model grote aantallen zero-day-kwetsbaarheden autonoom ontdekken, waarbij het zou zijn geslaagd in het identificeren van fouten in belangrijke besturingssystemen en browsers, inclusief voorbeelden die onontdekt waren gebleven voor decennia. Het was ook in staat om individuele zwakheden te ketenen in werkende multi-step-exploits.

De impact was zo dramatisch dat, tegen 12 juni, de VS-regering Anthropic beval om alle toegang tot de technologie voor elke buitenlandse nationaliteit wereldwijd te schorsen, inclusief buitenlandse nationale Anthropic-medewerkers. Dit werd algemeen gezien als een reactie op bezorgdheid dat offensieve AI-mogelijkheden mogelijk een punt hebben bereikt waarop onbeperkte toegang onaanvaardbare, zelfs onbeheersbare risico’s kan creëren.

Onder Project Glasswing, het openbaarmakings- en herstelprogramma van Anthropic, is toegang momenteel beperkt tot ongeveer 50 organisaties, waaronder AWS, Apple, Google, Microsoft, CrowdStrike, Cisco en de Linux Foundation, onder anderen. Deze bedrijven hebben een venster gekregen om kritieke systemen te patchen voordat kwetsbaarheden die door Mythos zijn geïdentificeerd, vanaf juli openbaar worden gemaakt. Op dat moment betreedt de industrie echt nieuw terrein.

De Rubicon oversteken

Velen zullen het erover eens zijn dat de komst van frontier AI-modellen betekent dat de beveiligings-Rubicon is overgestoken. En laten we duidelijk zijn: het kernprobleem is niet noodzakelijkerwijs het verschijnen van een bepaald model, maar de mogelijkheid (of zelfs waarschijnlijkheid) dat kwetsbaarheidsontdekking en exploitontwikkeling zelf een nieuwe era binnenstappen, met AI die op een schaal en snelheid kan opereren die verder gaat dan die van menselijke onderzoekers.

Als dat het geval blijkt te zijn, hebben de implicaties verstrekkende gevolgen die verder gaan dan specifieke kwetsbaarheden; ze beïnvloeden de aannamen waarop kwetsbaarheidsbeheer- en herstelprocessen traditioneel zijn gebaseerd. In het bijzonder zijn de huidige kwetsbaarheidsbeheerprocessen ontwikkeld in een tijdperk waarin menselijke onderzoekers de ontdekkingsgraad beperkten. AI heeft het potentieel om deze vergelijking fundamenteel te veranderen.

Een van de gevolgen is waarschijnlijk een scherpe toename van het aantal kwetsbaarheden dat de beveiligingsecosysteem binnenstroomt. CVE-volumes zijn al dramatisch gestegen in recente jaren, en beveiligingsteams staan al onder groeiende druk, zelfs voordat de volledige impact van frontier AI-modellen wordt gevoeld.

In deze context kan kwetsbaarheidsontdekking zelf niet langer de beperkende factor zijn. In plaats daarvan verschuift de bottleneck naar triage en herstel. De uitdaging wordt verergerd door het feit dat exploitatietijden al jaren afnemen, en in sommige gevallen verschijnen exploits nu voordat patches beschikbaar komen, waardoor organisaties weinig tijd hebben om te reageren.

Operationele gereedheid wordt de prioriteit

Dus, wat ziet een bijgewerkte, doeltreffende aanpak van kwetsbaarheidsbeheer eigenlijk uit? Ten eerste moet het worden behandeld als een continue operationele capaciteit, omdat, zoals het er nu voor staat, het venster tussen ontdekking en patchimplementatie vaak te lang is. Beveiligingsteams moeten weten welke kwetsbaarheden daadwerkelijk exploiteerbaar zijn en welke systemen zijn getroffen.

Naarmate het volume van de resultaten toeneemt en de tijd tot exploitatie afneemt, zal het operationeel maken van AI voor beveiliging essentieel worden. Teams die geavanceerde AI-detectiemogelijkheden gebruiken (terwijl ze tokenkosten beheren) en detectie, triage en herstel automatiseren, zullen het best zijn gepositioneerd om blootstellingsvensters en negatieve bedrijfsimpacten te minimaliseren. Dit gaat niet over het ontdekken van de meeste kwetsbaarheden; het gaat over het identificeren en herstellen van de meest belangrijke problemen snel.

Ten tweede en belangrijker, zijn frontier AI-modellen) hulpmiddelen voor cyberdefensie. Leden van Glasswing kunnen de modellen gebruiken om eerder onontdekte kwetsbaarheden te detecteren en te repareren, idealiter met geavanceerde toegang om een voorsprong te hebben op aanvallers wanneer ze onvermijdelijk toegang krijgen tot frontier AI-mogelijkheden. Frontier AI-modellen zijn een waardevol detectiehulpmiddel; echter lossen ze de operationele aspecten van het beheren van AI-scans (wat er gescand moet worden, wanneer, hoe scanning moet worden georkestreerd, wat er met de resultaten moet gebeuren, hoe tokenkosten moeten worden beheerd, enz.) niet automatisch op. Ongeacht welk model wordt gebruikt (en ze zullen in de loop van de tijd beter worden), moeten beveiligingsteams in staat zijn om frontier AI-mogelijkheden voor cybersecurity sneller te operationaliseren dan aanvallers deze mogelijkheden voor exploitatie kunnen gebruiken.

De langetermijnuitdaging voor organisaties is dus niet het voorbereiden op een enkel model of een bepaalde golf van openbaarmakingen, maar of bestaande operationele modellen kunnen aanpassen aan een wereld waarin kwetsbaarheden op ongekende snelheid worden ontdekt en bewapend. Gaat dat mis, en organisaties staan voor een wereld van problemen.