Boj s umělou inteligencí pomocí umělé inteligence v moderní hrozbě

Není žádným novým zprávám říci, že umělá inteligence dramaticky změnila odvětví kybernetické bezpečnosti. Oba útočníci i obránci se obrací na umělou inteligenci, aby zvýšili své schopnosti, každý se snaží zůstat o krok před druhým. Tato kočka a myš hra není nic nového – útočníci se snaží přelstít bezpečnostní týmy po desetiletí – ale vznik umělé inteligence přinesl nový a často nepředvídatelný prvek do dynamiky. Útočníci po celém světě si mnou ruce radostí z perspektivy využití této nové technologie k vývoji inovativních, dosud neviděných metod útoků.

At least, that’s the perception. But the reality is a little bit different. While it’s true that attackers are increasingly leveraging AI, they are mostly using it to increase the scale and complexity of their attacks, refining their approach to existing tactics rather than breaking new ground. The thinking here is clear: why spend the time and effort to develop the attack methods of tomorrow when defenders already struggle to stop today’s? Fortunately, modern security teams are leveraging AI capabilities of their own—many of which are helping to detect malware, phishing attempts, and other common attack tactics with greater speed and accuracy. As the “AI arms race” between attackers and defenders continues, it will be increasingly important for security teams to understand how adversaries are actually deploying the technology—and ensuring that their own efforts are focused in the right place.

Jak útočníci využívají umělou inteligenci

Nápad na poloautonomní umělou inteligenci, která by systematicky hackovala obranu organizace, je děsivý, ale (prozatím) zůstává pevně v oblasti sci-fi románů a jiných science fiction děl. Je pravda, že umělá inteligence pokročila neuvěřitelným tempem v posledních několika letech, ale jsme stále daleko od takové umělé obecné inteligence (AGI), která by dokázala dokonale napodobit lidské myšlení a chování. To neznamená, že dnešní umělá inteligence není působivá – určitě je. Ale generativní nástroje AI a velké jazykové modely (LLM) jsou nejúčinnější při syntéze informací z existujících materiálů a generování malých, iterativních změn. Nemohou vytvořit něco zcela nového sami – ale nebuďte omylní, schopnost syntetizovat a iterovat je nesmírně užitečná.

V praxi to znamená, že místo vývoje nových metod útoků mohou útočníci spíše vylepšit své stávající metody. S pomocí AI může útočník poslat miliony phishingových e-mailů, místo tisíců. Můžou také použít LLM, aby vytvořili přesvědčivější zprávu, oklamali více příjemců a donutili je kliknout na škodlivý odkaz nebo stáhnout soubor s malwarem. Taktiky, jako je phishing, jsou ve skutečnosti-numerickou hrou: většina lidí na phishingový e-mail nereaguje, ale pokud miliony lidí ho obdrží, i 1% úspěchu může vést k tisícům nových obětí. Pokud LLM mohou zvýšit 1% úspěchu na 2% nebo více, podvodníci mohou efektivně zdvojnásobit účinnost svých útoků s minimálním úsilím. Totéž platí pro malware: pokud malé úpravy kódu malware mohou efektivně maskovat detekční nástroje, útočníci mohou získat mnohem více z jednotlivých programů malware, než musí přejít k něčemu novému.

Dalším prvkem, který zde hraje roli, je rychlost. Protože útoky založené na AI nejsou omezeny lidskými omezeními, mohou často provést celý útočný sekvenci mnohem rychleji, než lidský operátor. To znamená, že útočník by mohl potenciálně proniknout do sítě a dostat se k nejcitlivějším nebo nejcennějším údajům oběti – dříve, než bezpečnostní tým dostane upozornění, natož aby na něj reagoval. Pokud útočníci mohou jednat rychleji, nemusí být tak opatrní – což znamená, že mohou provést více hluku a rušivých aktivit bez toho, aby byli zastaveni. Není to nutně nic nového, ale tím, že útočníci zrychlují své útoky, mohou předčit síťové obrany způsobem, který může být zásadním.

To je klíč k pochopení, jak útočníci využívají umělou inteligenci. Sociální inženýrství a programy malware jsou již úspěšné útočné vektory – ale nyní mohou útočníci udělat tyto útoky ještě účinnějšími, nasadit je rychleji a operovat v mnohem větším měřítku. Místo toho, aby bojovali proti desítkám pokusů denně, organizace mohou bojovat proti stovkám, tisícům nebo dokonce desítkám tisíc rychlých útoků. A pokud nemají řešení nebo procesy, které jim umožní rychle detekovat tyto útoky, identifikovat, které představují skutečné a hmatatelné hrozby, a efektivně je odstranit, vystavují se útočníkům nebezpečí. Místo toho, aby se divili, jak útočníci mohou využít umělou inteligenci v budoucnu, by organizace měly využívat řešení založená na AI, aby zvládly stávající metody útoků ve větším měřítku.

Převzetí umělé inteligence bezpečnostními týmy

Bezpečnostní experti na všech úrovních, jak v podnikání, tak ve vládě, hledají způsoby, jak využít umělou inteligenci pro defenzivní účely. V srpnu oznámila agentura DARPA (Defense Advanced Research Projects Agency) finalistů soutěže AI Cyber Challenge (AIxCC), která uděluje ceny bezpečnostním výzkumným týmům, které pracují na vývoji LLM pro identifikaci a opravu zranitelností založených na kódu. Soutěž je podporována významnými poskytovateli AI, včetně Google, Microsoftu a OpenAI, kteří poskytují technologickou a finanční podporu pro tyto úsilí o posílení bezpečnostních řešení založených na AI. Samozřejmě, že DARPA je pouze jedním příkladem – v Silicon Valley je těžké najít desítky startupů, jejichž zakladatelé jsou ochotni vám říci o svých pokročilých bezpečnostních řešeních založených na AI. Stačí říci, že hledání nových způsobů, jak využít umělou inteligenci pro defenzivní účely, je vysokou prioritou pro organizace všech typů a velikostí.

Ale stejně jako útočníci, bezpečnostní týmy často dosahují největších úspěchů, když využívají AI k posílení svých stávajících schopností. S útoky, které se vyskytují v stále větším měřítku, bezpečnostní týmy jsou často přetíženy – jak časem, tak zdroji – což jim brání adekvátně identifikovat, prošetřit a odstranit každé bezpečnostní upozornění, které se objeví. Prostě na to není čas. Řešení založená na AI hrají důležitou roli při zmírnění této výzvy poskytováním automatizovaných detekčních a reakčních schopností. Pokud existuje jedna věc, ve které je AI dobrá, je to identifikace vzorců – a to znamená, že nástroje AI jsou velmi dobré v rozpoznávání neobvyklého chování, zejména pokud toto chování odpovídá známým útočným vzorcům. Protože AI může procházet obrovské množství dat mnohem rychleji než lidé, umožňuje bezpečnostním týmům podstatně navýšit své operace. V mnoha případech mohou tato řešení dokonce automatizovat základní procesy odstranění, čímž se eliminují nízkoúrovňové útoky bez potřeby lidského zásahu. Mohou být také použita k automatizaci procesu bezpečnostní validace, kontinuálního testování a prověřování síťových obran, aby se zajistilo, že fungují podle očekávání.

Je také důležité poznamenat, že AI neumožňuje bezpečnostním týmům pouze identifikovat potenciální útočnou aktivitu rychleji – ale také dramaticky zlepšuje jejich přesnost. Místo toho, aby se honili za falešnými poplachy, mohou bezpečnostní týmy být jistí, že když je řešení založené na AI upozorní na potenciální útok, je to hodno jejich okamžité pozornosti. To je aspekt AI, o kterém se příliš nemluví – zatímco většina diskuse se točí kolem AI, která „nahrazuje“ lidi a bere jim práci, realita je taková, že řešení založená na AI umožňují lidem dělat svou práci lépe a efektivněji, zatímco také zmírňují vyhoření, které přichází s prováděním nudných a opakujících se úkolů. Místo negativního dopadu na lidské operátory, řešení založená na AI zpracovávají mnoho z takzvané „práce“ spojené s bezpečnostními pozicemi, umožňují lidem soustředit se na více zajímavé a důležité úkoly. V době, kdy je vyhoření na rekordní úrovni a mnoho podniků bojuje s přilákáním nových bezpečnostních talentů, zlepšování kvality života a spokojenosti v práci může mít obrovský pozitivní dopad.

To je skutečná výhoda pro bezpečnostní týmy. Nejen, že řešení založená na AI mohou pomoci zvýšit jejich operace, aby efektivně bojovaly proti útočníkům, kteří využívají nástroje AI – ale také mohou udržet bezpečnostní profesionály šťastnější a spokojenější ve svých rolích. To je vzácné vítězství pro všechny zúčastněné, a mělo by pomoci dnešním podnikům uvědomit si, že je čas investovat do bezpečnostních řešení založených na AI.

Čas závodů s umělou inteligencí teprve začíná

Závod o přijetí řešení založených na AI je na místě, s oběma útočníky i obránci, kteří hledají různé způsoby, jak využít tuto technologii ve svůj prospěch. Jak útočníci využívají AI k zvýšení rychlosti, rozsahu a složitosti svých útoků, bezpečnostní týmy budou muset bojovat ohněm s ohněm, využívající nástroje AI, aby zlepšily rychlost a přesnost svých detekčních a odstraňovacích schopností. Naštěstí řešení založená na AI poskytují bezpečnostním týmům kritické informace, které jim umožňují lépe testovat a vyhodnocovat účinnost svých vlastních řešení, zatímco také uvolňují čas a zdroje pro více kritické úkoly. Není žádným pochyb, že závod s umělou inteligencí teprve začíná – ale skutečnost, že bezpečnostní profesionálové již využívají AI, aby zůstali o krok před útočníky, je velmi dobrým znamením.