Boj s AI pomocí AI v moderní krajině hrozeb

Není žádnou novinkou říci, že AI dramaticky změnila odvětví kybernetické bezpečnosti. Jak útočníci, tak obránci se obracejí na umělou inteligenci, aby zvýšili své schopnosti, a každý se snaží zůstat o krok před ostatními. Tato kočka-myzka hra není ničím novým – útočníci se snaží obejít bezpečnostní týmy už desetiletí – ale vznik umělé inteligence přinesl fresh (a často nepředvídatelný) prvek do dynamiky. Útočníci po celém světě si potírají ruce radostí z perspektivy využití této nové technologie pro vývoj inovativních, dosud neviděných metod útoků.

Aspoň to je vnímání. Ale realita je trochu jiná. Zatímco je pravda, že útočníci stále více využívají AI, většinou ji využívají k zvýšení rozsahu a složitosti svých útoků, zdokonalují svůj přístup k existujícím taktikám, místo aby vytvářeli nové. Myšlení zde je jasné: proč strávit čas a úsilí na vývoj útočných metod zítřka, když obránci už mají problém zastavit dnešek? Naštěstí moderní bezpečnostní týmy využívají AI schopností svých vlastních – mnoho z nich pomáhá detekovat malware, pokusy o phishing a další běžné útočné taktiky s větší rychlostí a přesností. Jak “AI závod ve zbrojení” mezi útočníky a obránci pokračuje, bude stále důležitější, aby bezpečnostní týmy rozuměly, jak nepřátelé skutečně nasazují technologii – a zajistili, že jejich vlastní úsilí je zaměřeno na správném místě.

Jak útočníci využívají AI

Myšlenka na semi-autonomní AI, nasazenou k systematickému prolomení obrany organizace, je děsivá, ale (prozatím) zůstává pevně v oblasti románů Williama Gibsona a dalších sci-fi děl. Je pravda, že AI pokročila neuvěřitelným tempem v posledních několika letech, ale jsme stále daleko od umělé obecné inteligence (AGI) schopné dokonale napodobovat lidské myšlení a chování. To neznamená, že dnešní AI není působivá – určitě je. Ale generativní AI nástroje a velké jazykové modely (LLM) jsou nejúčinnější při syntetizování informací z existujících materiálů a generování malých, iterativních změn. Nemohou vytvořit něco zcela nového sami – ale nemylte se, schopnost syntetizovat a iterovat je neuvěřitelně užitečná.

V praxi to znamená, že místo vývoje nových metod útoků, mohou útočníci místo toho vylepšit své současné. Používáním AI, útočník může poslat miliony phishingových e-mailů, místo tisíců. Mohou také použít LLM k vytvoření více přesvědčivého zprávy, oklamání více příjemců, aby klikli na škodlivý odkaz nebo stáhli soubor s malwarem. Taktiky, jako je phishing, jsou efektivní číslovací hra: většina lidí na ně nepadne, ale pokud miliony lidí je obdrží, i 1% úspěchu může vést k tisícům nových obětí. Pokud LLM mohou zvýšit tento 1% úspěch na 2% nebo více, podvodníci mohou efektivně zdvojnásobit účinnost svých útoků s minimálním úsilím. Stejně tak u malwaru: pokud malé úpravy malwarového kódu mohou efektivně zamaskovat jej před detekčními nástroji, útočníci mohou získat mnohem více z individuálního malwarového programu, než musí přejít na něco nového.

Dalším prvkem, který zde hraje roli, je rychlost. Protože AI-založené útoky nejsou omezeny lidskými omezeními, mohou často provést celý útočný sekvenci mnohem rychleji, než lidský operátor. To znamená, že útočník by mohl potenciálně prolomit síť a dosáhnout korunovačních klenotů oběti – jejich nejcitlivějších nebo nejcenějších dat – dříve, než bezpečnostní tým dokonce obdrží upozornění, natož aby na něj reagoval. Pokud útočníci mohou pohybovat rychleji, nemusí být tak opatrní – což znamená, že mohou uniknout s hlučnějšími, rušivějšími aktivitami, aniž by byli zastaveni. Není to nutně nic nového, ale tím, že útočníci tlačí vpřed se svými útoky rychleji, mohou předčit síťové obrany způsobem, který může být hrou měnící.

Toto je klíč k pochopení, jak útočníci využívají AI. Sociální inženýrství a malwarové programy jsou již úspěšné útočné vektory – ale nyní útočníci mohou učinit ještě účinnější, nasadit je rychleji a operovat na mnohem větší škále. Místo boje proti desítkám pokusů denně, organizace mohou bojovat proti stovkám, tisícům nebo dokonce desítkám tisíc rychlých útoků. A pokud nemají řešení nebo procesy na místě, aby rychle detekovali tyto útoky, identifikovali, které představují skutečné, hmatatelné hrozby, a efektivně je odstranili, vystavují se nebezpečně útočníkům. Místo toho, aby se divili, jak útočníci mohou využít AI v budoucnu, by organizace měly využít AI řešení svých vlastních s cílem zvládnout existující útočné metody na větší škále.

Obrácení AI ve prospěch bezpečnostních týmů

Bezpečnostní experti na všech úrovních podnikání a vlády hledají způsoby, jak využít AI pro defenzivní účely. V srpnu, agentura U.S. Defense Advanced Research Projects Agency (DARPA) oznámila finalisty své nedávné AI Cyber Challenge (AIxCC), která uděluje ceny bezpečnostním výzkumným týmům, které pracují na výcviku LLM k identifikaci a opravě založených na kódu zranitelností. Výzva je podporována velkými AI poskytovateli, včetně Google, Microsoft a OpenAI, všichni z nich poskytují technologickou a finanční podporu pro tyto úsilí o posílení AI-založené bezpečnosti. Samozřejmě, DARPA je jen jeden příklad – můžete stěží potřást holí v Silicon Valley, aniž byste narazili na tucet startupů, jejichž zakladatelé jsou ochotni vám říci o svých pokročilých nových AI-založených bezpečnostních řešeních. Stačí říci, že hledání nových způsobů, jak využít AI pro defenzivní účely, je vysokou prioritou pro organizace všech typů a velikostí.

Ale stejně jako útočníci, bezpečnostní týmy často najdou největší úspěch, když používají AI k amplifikaci svých stávajících schopností. S útoky, které se vyskytují v stále rostoucí míře, bezpečnostní týmy jsou často napjatí – jak časově, tak zdrojově – což jim brání adekvátně identifikovat, prošetřit a odstranit každé bezpečnostní upozornění, které se objeví. Prostě na to není čas. AI řešení hrají důležitou roli při zmírnění této výzvy, poskytují automatizované detekční a reakční schopnosti. Pokud existuje jedna věc, ve které je AI dobrá, je to identifikace vzorců – a to znamená, že AI nástroje jsou velmi dobré v rozpoznávání neobvyklého chování, zejména pokud toto chování odpovídá známým útočným vzorcům. Protože AI může přezkoumat obrovské množství dat mnohem rychleji než lidé, umožňuje bezpečnostním týmům navýšit své operace významným způsobem. V mnoha případech mohou tato řešení dokonce automatizovat základní procesy odstranění, potírající nízkoúrovňové útoky bez potřeby lidského zásahu. Mohou být také použity k automatizaci procesu bezpečnostní validace, kontinuálního pokládání a prodding kolem síťových obran, aby zajistily, že fungují podle očekávání.

Je také důležité poznamenat, že AI neumožňuje pouze bezpečnostním týmům identifikovat potenciální útočnou aktivitu rychleji – také dramaticky zlepšuje jejich přesnost. Místo toho, aby pronásledovali falešná upozornění, bezpečnostní týmy mohou být jistí, že když AI řešení upozorní na potenciální útok, je to hodno jejich okamžité pozornosti. Toto je prvek AI, který se nediskutuje téměř dostatečně – zatímco většina diskuse se točí kolem AI “nahrazující” lidi a beroucí jim práci, realita je, že AI řešení umožňují lidem dělat svou práci lépe a efektivněji, zatímco také zmírňují vyhoření, které přichází s prováděním nudných a opakujících se úkolů. Daleko od toho, aby měli negativní dopad na lidské operátory, AI řešení zpracovávají většinu “rušivých” prací spojených s bezpečnostními pozicemi, umožňují lidem soustředit se na více zajímavé a důležité úkoly. V době, kdy je vyhoření na rekordní úrovni a mnoho podniků bojuje s přilákáním nových bezpečnostních talentů, zlepšení kvality života a spokojenosti v práci může mít obrovský pozitivní dopad.

To je skutečná výhoda pro bezpečnostní týmy. AI řešení nejen mohou pomoci jim navýšit své operace, aby efektivně bojovaly proti útočníkům, kteří využívají AI nástroje svých vlastních – mohou také udržet bezpečnostní profesionály šťastnější a spokojenější ve svých rolích. To je vzácné vítězství pro všechny zúčastněné, a mělo by pomoci dnešním podnikům uvědomit si, že čas investovat do AI-založených bezpečnostních řešení je nyní.

AI závod ve zbrojení teprve začíná

Závod na adopci AI řešení je na místě, s útočníky i obránci, kteří najdou různé způsoby, jak využít technologii ve prospěch. Jak útočníci používají AI k zvýšení rychlosti, rozsahu a složitosti svých útoků, bezpečnostní týmy budou muset bojovat ohněm s ohněm, používající AI nástroje svých vlastních, aby zlepšily rychlost a přesnost svých detekčních a reakčních schopností. Naštěstí AI řešení poskytují kritické informace bezpečnostním týmům, umožňují jim lépe testovat a vyhodnocovat účinnost svých vlastních řešení, zatímco také uvolňují čas a zdroje pro více kritické úkoly. Nemylte se, AI závod ve zbrojení teprve začíná – ale skutečnost, že bezpečnostní profesionálové již používají AI, aby zůstali o krok před útočníky, je velmi dobrým znamením.