Umělá inteligence v phishingu: kdo získá více výhod, útočníci nebo obránci?

Jak kyberzločinnost rostla, tak se odvětví kybernetické bezpečnosti muselo přizpůsobit a využít nejmodernější technologie, aby zůstalo v čele. Umělá inteligence (AI) se rychle stala jedním z nejvíce užitečných nástrojů pro zastavení kybernetických útoků, ale útočníci ji mohou také využít. Nedávné trendy v phishingu jsou výborným příkladem obou stran tohoto problému.

Phishing je nejčastějším typem kyberzločinu dnes, a to bezpochyby. Jakmile se více firem stalo vědomými tohoto rostoucího nebezpečí, více z nich implementovalo nástroje AI pro jeho zastavení. Nicméně kyberzločinci také zvyšují svou činnost a využívají AI v phishingu. Podívejme se blíže na to, jak obě strany využívají tuto technologii a kdo získá více výhod.

Jak AI pomáhá bojovat proti phishingu

Phishingové útoky využívají přirozené lidské tendence k zvědavosti a strachu. Protože je tento sociální inženýrství tak efektivní, jedním z nejlepších způsobů, jak se proti němu bránit, je zajistit, aby jste ho vůbec neviděli. To je místo, kde vstupuje AI.

Nástroje AI proti phishingu se obvykle objevují ve formě pokročilých filtrů e-mailů. Tyto programy procházejí vaše příchozí zprávy a hledají známky pokusů o phishing a automaticky odesílají podezřelé e-maily do složky spam. Některé novější řešení mohou rozpoznat phishingové e-maily s přesností 99,9%, a to generováním různých verzí podvodných zpráv na základě skutečných příkladů, aby se naučily rozpoznávat variace.

Jakmile bezpečnostní výzkumníci zjistí více phishingových e-mailů, mohou tyto modely poskytovat více dat, což je činí ještě přesnějšími. Kontinuální učení AI také pomáhá vylepšovat modely, aby se snížily falešně pozitivní výsledky.

AI může také pomoci zastavit phishingové útoky, když kliknete na škodlivý odkaz. Automatický monitorovací software může nastavit základní chování, aby rozpoznal abnormality, které pravděpodobně nastanou, když někdo jiný použije váš účet. Může poté uzamknout profil a upozornit bezpečnostní týmy, než útočník způsobí příliš mnoho škody.

Jak útočníci využívají AI v phishingu

Potenciál AI pro zastavení phishingových útoků je působivý, ale je to také mocný nástroj pro generování phishingových e-mailů. Jakmile se generativní AI, jako je ChatGPT, stala více dostupnou, činí phishingové útoky ještě účinnějšími.

Spearphishing – který využívá osobní údaje k vytvoření uživatelsky specifických zpráv – je jedním z nejúčinnějších typů phishingu. E-mail, který má všechny vaše osobní údaje správně, bude přirozeně mnohem přesvědčivější. Nicméně tyto zprávy byly tradičně obtížné a časově náročné na vytvoření, zejména ve velkém měřítku. To již není případ s generativní AI.

AI může generovat obrovské množství přizpůsobených phishingových zpráv za zlomek času, který by to trvalo člověku. Je také lepší než lidé v psaní přesvědčivých padělků. Ve studii z roku 2021 AI vygenerované phishingové e-maily měly výrazně vyšší míru kliknutí než ty, které napsali lidé – a to bylo ještě před vydáním ChatGPT.

Stejně jako marketéři využívají AI k personalizaci zákaznických kampaní, tak kyberzločinci mohou využít AI k vytvoření účinných, uživatelsky specifických phishingových zpráv. Jakmile se generativní AI verbessí, tyto padělky budou ještě přesvědčivější.

Útočníci zůstávají v čele díky lidským slabostem

S útočníky a obránci, kteří využívají AI, která strana získala více výhod? Pokud se podíváte na nedávné trendy kyberzločinnosti, uvidíte, že kyberzločinci prosperují, navzdory více sofistikovaným ochranám.

Útoky na podnikové e-maily vzrostly o 81% ve druhé polovině roku 2022 a zaměstnanci otevřeli 28% těchto zpráv. To je část delšího trendu 175% nárůstu za posledních dva roky, což naznačuje, že phishing roste rychleji než kdykoli předtím. Tyto útoky jsou účinné, kradou 17 700 dolarů za minutu, což je pravděpodobně důvod, proč jsou za 91% kybernetických útoků.

Proč se phishing tolik rozšířil, navzdory tomu, že AI zlepšuje ochranu proti phishingu? To pravděpodobně souvisí s lidským faktorem. Zaměstnanci musí tyto nástroje skutečně používat, aby byly efektivní. Kromě toho mohou zaměstnanci provádět další nebezpečné činnosti, které je činí náchylnými k pokusům o phishing, jako je přihlašování do pracovních účtů na neautorizovaných, nechráněných osobních zařízeních.

Předchozí průzkum také zjistil, že zaměstnanci hlásí pouze 2,1% útoků. Tento nedostatek komunikace může učinit obtížným vidět, kde a jak bezpečnostní opatření musí být zlepšena.

Jak se chránit proti rostoucím phishingovým útokům

Vzhledem k tomuto znepokojivému trendu by firmy a jednotliví uživatelé měli podniknout kroky k tomu, aby zůstali v bezpečí. Implementace nástrojů AI proti phishingu je dobrým začátkem, ale nemůže to být jediný opatření. Pouze 7% bezpečnostních týmů nepoužívá nebo plánuje používat AI, a přesto phishing dominuje, takže firmy musí řešit lidský faktor.

Protože lidé jsou nejslabším článkem proti phishingovým útokům, měli by být zaměřením opatření. Organizace by měly učinit bezpečnostní osvědčené postupy více prominentní součástí školení zaměstnanců a pokračujícího vzdělávání. Tyto programy by měly zahrnovat, jak rozpoznat phishingové útoky, proč je to problém a simulace, aby otestovaly jejich znalosti po školení.

Používání silnějších nástrojů pro identitu a přístup je také důležité, protože tyto pomáhají zastavit úspěšné útoky poté, co se dostanou do účtu. I zkušení zaměstnanci mohou udělat chyby, takže byste měli být schopni rozpoznat a zastavit porušené účty, než způsobí rozsáhlé škody.

AI je mocný nástroj pro dobré i zlé

AI je jednou z nejvíce rušivých technologií v nedávné historii. Závisí na jejím použití, zda je to dobré nebo špatné.

Je důležité uznat, že AI může pomoci kyberzločincům stejně – nebo ještě více – než odborníkům na kybernetickou bezpečnost. Když organizace uznají tato rizika, mohou podniknout účinnější kroky k řešení rostoucích phishingových útoků.