Vad ankomsten av frontier AI-modeller berättar för oss om framtiden för sårbarhetsupptäckt

När Claude Mythos tillkännagavs i april, blev det snabbt en av de största cybersäkerhetstalkingpunkterna under AI-eran. Utvecklat av Anthropic, visade den nya LLM oanade cybersäkerhetsförmågor och framkallade reaktioner som klassificerade det som en stor teknisk genombrott tillsammans med varningar om att cybersäkerheten kan vara på väg in i en period av oöverträffad störning.

Enligt Anthropic kan modellen autonomt upptäcka ett stort antal noll-dagars-sårbarheter, och rapporterar att den har identifierat brister i stora operativsystem och webbläsare, inklusive exempel som hade förblivit oupptäckta i årtionden. Den kunde också kedja samman enskilda svagheter till fungerande multi-stegs-attacker.

Dess påverkan har varit så dramatisk att den 12 juni beordrade den amerikanska regeringen Anthropic att avbryta all åtkomst till tekniken för alla utländska medborgare världen över, inklusive utländska medarbetare i Anthropic. Detta sågs allmänt som en reaktion på farhågor om att offensiva AI-förmågor kan ha nått en punkt där obehindrad åtkomst kan skapa oacceptabla, till och med okontrollerbara risker.

Under Projekt Glasswing, Anthropics avslöjande- och åtgärdsprogram, är åtkomsten för närvarande begränsad till cirka 50 organisationer, inklusive AWS, Apple, Google, Microsoft, CrowdStrike, Cisco och Linux Foundation, bland andra. Dessa företag har fått ett fönster för att laga kritiska system innan sårbarheter som identifierats av Mythos offentliggörs från och med juli. Vid den tidpunkten kommer branschen verkligen in i nytt territorium.

Att korsa Rubicon

Många skulle hålla med om att ankomsten av frontier AI-modeller betyder att cybersäkerhets-Rubicon har korsats. Och låt oss vara tydliga: det centrala problemet är inte nödvändigtvis uppkomsten av en särskild modell, utan möjligheten (eller till och med sannolikheten) att sårbarhetsupptäckt och exploateringsutveckling i sig kan vara på väg in i en ny era, där AI kan fungera på en skala och hastighet som är bortom mänskliga forskares.

Om det visar sig vara fallet, har konsekvenserna långt utöver specifika sårbarheter; de påverkar antagandena som sårbarhetsledning och åtgärdsprocesser traditionellt har byggts på. I synnerhet var de nuvarande sårbarhetsledningsprocesserna utvecklade under en tid då mänskliga forskare begränsade upptäckten.

En följd är troligen en skarp ökning av antalet sårbarheter som kommer in i säkerhetsekosystemet. CVE-volymer har redan ökat dramatiskt under de senaste åren, och säkerhetsteam är redan under ökande tryck, till och med innan den fulla påverkan av frontier AI-modellerna har inletts.

I detta sammanhang kan sårbarhetsupptäckt i sig inte längre vara den begränsande faktorn. Istället flyttas flaskhalsen till triage och åtgärd. Utmaningen förvärras av det faktum att exploateringstidslinjer har minskat under åren, och i vissa fall dyker attacker upp innan lappar blir tillgängliga, vilket lämnar organisationer med liten tid att reagera.

Operativ beredskap blir prioritet

Så, vad ser en uppdaterad, ändamålsenlig strategi för sårbarhetsledning ut? Först och främst måste den behandlas som en kontinuerlig operativ förmåga, eftersom tidsfönstret mellan upptäckt och lappdistribution ofta är för långsamt. Säkerhetsteam måste förstå vilka sårbarheter som faktiskt kan utnyttjas och vilka system som påverkas.

När volymen av fynd ökar och tiden till exploatering minskar, kommer det att bli avgörande att operationalisera AI för säkerhet. Team som utnyttjar avancerade AI-upptäcktsförmågor (medan de hanterar tokenkostnader) och automatiserar upptäckt, triage och åtgärd kommer att vara bäst positionerade för att minimera exponeringsfönster och negativa affärspåverkan. Det handlar inte om att upptäcka de flesta sårbarheter; det handlar om att identifiera och åtgärda de viktigaste frågorna snabbt.

Andra och viktigare, frontier AI-modeller är verktyg för cyberförsvar. Medlemmar i Glasswing kan använda modellerna för att upptäcka och åtgärda tidigare oupptäckta sårbarheter, helst med avancerad åtkomst för att ha ett försprång över angripare när de oundvikligen får tillgång till frontier AI-förmågor. Frontier AI-modeller är ett värdefullt upptäcktsverktyg; dock löser de inte automatiskt de operativa aspekterna av hur man hanterar AI-sökningar (vad som behövs för att söka, när, hur man orkestrerar sökningar, vad man ska göra med resultaten, hur man hanterar tokenkostnaderna osv.). Oavsett vilken modell som används (och de kommer att förbättras över tiden), behöver säkerhetsteam kunna operationalisera frontier AI-förmågor för cybersäkerhet snabbare än angripare kan utnyttja förmågorna för exploatering.

Den långsiktiga utmaningen för organisationer är därför inte att förbereda sig för en enskild modell eller en särskild våg av avslöjanden, utan om befintliga operativa modeller kan anpassa sig till en värld där sårbarheter upptäcks och beväpnas i en aldrig tidigare skådad hastighet. Om man får det fel, står organisationer inför en värld av problem.