Co, co nám říká příjezd modelů Frontier AI o budoucnosti objevování zranitelností

Když byl Claude Mythos oznámen v dubnu, stal se jedním z největších bezpečnostních témat éry AI. Vyvinutý společností Anthropic, nový LLM prokázal bezprecedentní kybernetické schopnosti a vyvolal reakce, které jej klasifikovaly jako významný technologický průlom spolu s varováním, že kybernetická bezpečnost může vstupovat do období bezprecedentního narušení.

Podle Anthropic může model autonomně objevovat velké množství zero-day zranitelností, údajně identifikuje chyby v hlavních operačních systémech a prohlížečích, včetně příkladů, které zůstaly neodhaleny po desetiletí. Byl také schopen řetězit jednotlivé slabosti do fungujících multi-krokových exploitů.

Jeho dopad byl tak dramatický, že do 12. června US vláda nařídila Anthropic pozastavit veškerý přístup k technologii pro všechny cizince po celém světě, včetně cizinců zaměstnaných v Anthropic. To bylo široce vnímáno jako reakce na obavy, že ofenzivní AI schopnosti mohou dosáhnout bodu, ve kterém by neomezený přístup mohl vytvořit nepřijatelná, dokonce nekontrolovatelná rizika.

V rámci Projektu Glasswing, programu pro odhalení a nápravu Anthropic, je aktuálně přístup omezen na asi 50 organizací, včetně AWS, Apple (AAPL ), Google, Microsoft (MSFT ), CrowdStrike (CRWD ), Cisco a Linux Foundation, mezi ostatními. Tyto podniky byly dány okno, aby opravily kritické systémy předtím, než budou zranitelnosti identifikované Mythos veřejně odhaleny od července dál. V tomto bodě průmysl skutečně vstupuje do nové oblasti.

Překročení Rubikonu

Mnozí by souhlasili s tím, že příjezd modelů Frontier AI znamená, že bezpečnostní Rubikon byl překročen. Ať je nám jasné: jádrem problému není nutně vznik konkrétního modelu, ale možnost (nebo dokonce pravděpodobnost), že objevování zranitelností a vývoj exploitů samy o sobě mohou vstupovat do nové éry, ve které AI může fungovat v měřítku a rychlosti, které přesahují lidské výzkumníky.

Pokud se to prokáže, budou důsledky sahovat daleko za konkrétní zranitelnosti; budou ovlivňovat předpoklady, na nichž jsou tradičně postaveny procesy řízení a nápravy zranitelností. Zejména současné procesy řízení zranitelností byly vyvinuty v éře, kdy lidský výzkum omezoval tempo objevování. AI má potenciál zásadně změnit tuto rovnici.

Jedním z důsledků je pravděpodobný prudký nárůst počtu zranitelností vstupujících do bezpečnostního ekosystému. Objemy CVE již dramaticky vzrostly v posledních letech a bezpečnostní týmy jsou již pod rostoucím tlakem, ještě předtím, než bude plný dopad modelů Frontier AI cítit.

V tomto kontextu může samo objevování zranitelností již být omezením. Místo toho se úzké místo posouvá na triáž a nápravu. Výzva je zhoršena skutečností, že časové osy exploitů se zkracují již roky a v některých případech se exploaty objevují předtím, než jsou k dispozici opravy, což organizacím zanechává málo času na reakci.

Operační připravenost se stává prioritou

Takže, co vypadá aktualizovaný, účelný přístup k řízení zranitelností? Především musí být považován za nepřetržitou operační schopnost, protože, jak stojí, okno mezi objevem a nasazením opravy je často příliš pomalé. Bezpečnostní týmy musí rozumět, které zranitelnosti jsou skutečně využitelné a které systémy jsou ovlivněny.

Jak objemy zjištění rostou a doba exploatace se snižuje, bude operační využití AI pro bezpečnost nezbytné. Týmy, které využijí pokročilé AI detekční schopnosti (při řízení nákladů na tokeny) a automatizují detekci, triáž a nápravu, budou nejlépe vybaveny k minimalizaci expozice a negativních dopadů na podnikání. To není o objevování největšího počtu zranitelností; je to o identifikaci a nápravě nejvýznamnějších problémů rychle.

Druhým a důležitějším je, že modely Frontier AI jsou nástroji pro kybernetickou obranu. Členové Glasswing mohou použít modely k detekci a opravě dříve neodhalených zranitelností, ideálně s pokročilým přístupem, aby měli náskok před útočníky, když budou mít nevyhnutelně přístup k možnostem Frontier AI. Modely Frontier AI jsou cenným detekčním nástrojem; nicméně, neřeší automaticky operační aspekty, jak řídit AI skenování (co je potřeba pro skenování, kdy, jak orchestrace skenování, co dělat s výsledky, jak řídit náklady na tokeny atd.). Bez ohledu na to, jaký model je používán (a budou se zlepšovat s časem), bezpečnostní týmy musí být schopny operačně využít schopnosti Frontier AI pro kybernetickou bezpečnost rychleji, než útočníci mohou využít tyto schopnosti pro exploataci.

Dlouhodobá výzva, kterou organizace čelí, není tedy příprava na jeden konkrétní model nebo vlnu odhalení, ale zda stávající operační modely mohou přizpůsobit se světu, ve kterém jsou zranitelnosti odhalovány a zneužívány bezprecedentní rychlostí. Pokud se to pokazí, organizace čelí světu potíží.