AI agenti mění nulové dny v závod, ve kterém lidé nemohou sami vyhrát

Po mnoho let byly nulové dny zranitelnosti nebezpečné, ale byly vzácné a obtížně využitelné ve velkém měřítku. Jejich nalezení vyžadovalo trpělivost, specializované dovednosti a hluboké porozumění chování softwaru. Jak uvedli Nicole Perlroth a další novináři, existoval obchod s nulovými dny a národní státy je považovaly za velmi cenné kybernetické zbraně.

Dnes jsou nulové dny široce dostupné. almost kdokoli může objevit nové s pomocí otevřených zdrojových modelů AI nebo proprietárních AI, jako je Claude a OpenAI.

Tytéž pokroky, které činí AI užitečnou pro psaní kódu, souhrny logů a urychlení bezpečnostních operací, mohou být také použity k vyhledávání chyb, řetězení zranitelností a testování cestexploitace na rychlost strojů. Útočníci již nemusí ručně prohlížet každou závislost, zpětně inženýrsky každý aplikaci nebo trávit týdny sondováním slabosti. AI agenti mohou automatizovat velkou část této práce, procházejí kódy, skenování vystavených systémů, generování hypotéz a iterace, dokud nenajdou něco užitečného.

To mění ekonomiku využití nulových dnů. Lidský útočník může mít čas pouze na to, aby sledoval nejperspektivnější cíle. AI-pomocný útočník může zkoumat mnohem více softwaru, mnohem rychleji a s mnohem menší únavou. I když většina pokusů selže, obrovské množství pokusů zvyšuje pravděpodobnost úspěchu. V kybernetické bezpečnosti často měřítko mění vzácné události na rutinní.

AI rozšiřuje povrch vyhledávání nulových dnů

To je důvod, proč se nulové dny stávají naléhavou podnikatelskou hrozbou. Moderní software je příliš velký, příliš propojený a příliš závislý na třetích stranách, aby jakákoli organizace mohla plně pochopit každou slabost před útočníkem. Většina společností se spoléhá na složitou směs komerčních platforem, otevřených zdrojových knihoven, cloudových služeb, aplikací SaaS, API, identifikačních systémů, zařízení na okraji a interních nástrojů. Každá vrstva představuje potenciální zranitelnost. Každá integrace vytváří nové cesty útoku. Každá aktualizace může potichu změnit profil rizika.

Nepříjemná realita je, že existuje obrovské množství dosud neobjevených zranitelností uvnitř softwaru všech druhů. Některé z nich existují ve starém kódu. Některé existují v novém kódu napsaném pod tlakem. Některé pocházejí ze závislostí, které málokterá organizace sleduje s dostatečnou přesností. Některé se objevují ze způsobu, jakým systémy interagují, i když každá jednotlivá komponenta vypadá bezpečně. AI agenti jsou dobře vybaveni prozkoumat tuto složitost, protože mohou vyhledávat široce, vytrvale a adaptivně.

Obránci čelí nemožnému problému oprav. Nemůžete opravit zranitelnost, kterou neznáte. Nemůžete priorizovat každou teoretickou slabost stejně. Nemůžete plně otestovat každou kombinaci softwaru, konfigurace a chování uživatelů před nasazením. I zavedené programy pro správu zranitelností jsou často postaveny kolem známých CVE, poradenských materiálů dodavatelů a kanálů hrozeb. Ty jsou nezbytné, ale přicházejí po objevení. Ve světě urychleného vyhledávání nulových dnů pomocí AI může objevení nastat nejdříve v rukou útočníka.

To vytváří rostoucí hru na honění černé kočky. Zranitelnost je nalezena. Oprava je spěchána. Exploitace se přesouvá na sousední systém, jinou závislost nebo nově vystavené rozhraní. Bezpečnostní týmy reagují, ale zadlužení se neustále rozšiřuje. AI zvyšuje rychlost kladiva na obou stranách, ale útočníci často profitují jako první, protože potřebují najít pouze jednu životaschopnou cestu. Obránci musí chránit všechny.

Dlouhodobým řešením může být samo AI. Jakmile se AI systémy stanou lepšími v generování, kontrole a testování kódu, měly by pomoci eliminovat celé třídy zranitelností, než software dosáhne produkční fáze. Bezpečný design vývoje by se mohl stát mnohem praktičtějším, pokud by AI mohla neustále kontrolovat kód, identifikovat nebezpečné vzory, modelovat využitelnost a doporučovat opravy v reálném čase. Nakonec můžeme dosáhnout bodu, ve kterém budou běžné chyby paměti, injekční chyby, chyby autentizace a nebezpečné konfigurace dramaticky sníženy, protože AI-pomocné inženýrství je odhalí brzy. V naší práci na DeepTempo již vidíme větší využívání bezpečných jazyků, jako je Rust, ve nosso softwaru; ačkoli je Rust v některých ohledech těžší kódovat, je bezpečnější a kódování se stalo mnohem snadnějším díky AI.

Obránci musí změnit přístup z rychlosti oprav na odolnost proti útokům

Zatímco budoucnost, ve které je veškerý software opraven nebo přepsán v bezpečnějším způsobu, je hodna sledování, je nejasné, zda je teoreticky možné dosáhnout tohoto stavu z různých důvodů. V každém případě víme, že tento stav ještě nenastal a nebude nastávat po mnoho let. Dnesní kód generovaný AI může stále zavádět zranitelnosti. A bezpečnostní nástroje AI mohou stále postrádat kontext. Dnešní podnikatelská prostředí stále obsahují desetiletí nahromaděného technického dluhu. Útočníci již využívají automatizaci k urychlení. Zatímco obránci stále integrují AI do stávajících pracovních postupů, řetězců schválení a modelů rizika a zjišťují, že LLM nejsou užitečné při detekci útoků.Více informací o tom, jak LLM fungují při detekci, lze nalézt v nedávných otevřených benchmarcích, jako je SOC Bench. Jako příklad inženýři za SOC Bench zjistili, že nejlepší LLM mají falešnou pozitivní míru v rozsahu 20 % a stáli by stovky milionů dolarů denně v měřítku typického velkého bezpečnostního prostředí.V důsledku všech výše uvedených faktorů目前ně růst AI výrazně favorizuje útočníky.

Bohužel, organizace musí předpokládat, že některé neznámé zranitelnosti budou objeveny útočníky předtím, než budou zveřejněny veřejně. Co více, díky vylepšenému phishingu a rozšířenému zachycení identit, mohou útočníci jednoduše přihlásit.Stručně řečeno, alespoň pro střední dobu, bezpečnostní strategie nemohou záviset výhradně na prevenci. Prevence zůstává kritickou, ale musí být kombinována s rychlejší detekcí, silnějšími behaviorálními analýzami a těsnější kontencí.

Jak navrhly různé organizace nedávno, včetně NIST, Five Eyes a Národní akademie věd, vzhledem k růstu AI-pomocných útočníků, bezpečnostní týmy by měly revidovat přístupy k pochopení, co vypadá normálně napříč uživateli, stroji, identitami, aplikacemi a tokem dat. Exploity nulových dnů často uspějí, protože obcházejí známé signatury, ale stále zanechávají stopy, které mohou vidět a rozlišit dnešní nejmocnější klasifikační modely. Například útoky mohou ukázat neobvyklé vzorce přístupu, abnormální použití privilegií, neočekávanou aktivitu procesů, podivné toky autentizace nebo pohyb dat, který, v kombinaci, neodpovídá základnímu profilu prostředí. Specializované AI může pomoci obráncům najít tyto signály dříve, zejména když je samotný útok nový.

Kromě toho by společnosti měly snížit rozsah kompromisu. Segmentace, minimální práva, silné kontroly identit, kontinuální monitoring a rychlá izolace jsou důležitější, když jsou využívány neznámé zranitelnosti. Pokud útočník využije nulový den k získání vstupu, další otázka je, jak daleko se může pohybovat, než bude detekován. Čím menší je toto okno, tím méně cenný je exploit.

Neexistuje žádný čistý pauzní tlačítko pro tento okamžik. AI agenti budou pokračovat ve zlepšování. Útočná experimentace bude pokračovat ve zrychlování. Počet systémů, které stojí za to prozkoumat, bude pokračovat ve růstu. Úkolem bezpečnostní komunity je zajistit, aby se defenzivní AI vyvíjela stejně rychle.

Nulové dny vždy odměňovaly rychlost, kreativitu a asymetrii. AI agenti zesilují všechny tři. Organizace, které se přizpůsobí, budou pohlížet na AI jako na více než produktivní vrstvu pro bezpečnostní týmy. Budou také využívat specializované AI k efektivní a přesné detekci neznámých hrozeb, priorizaci zdánlivě slabých signálů, které, v kombinaci s tisíci ostatními, naznačují kompromis, a reagovat, než využitá zranitelnost se stane podnikovou krizí.