AI i phishing: Hvem får mest ud af det – angriberne eller forsvarerne?

Da cyberkriminaliteten er vokset, har sikkerhedsindustrien måttet omfavne nyeste teknologi for at følge med. Kunstig intelligens (AI) er hurtigt blevet et af de mest nyttige værktøjer til at stoppe cyberangreb, men angribere kan også bruge det.

Phishing er den mest almindelige type af cyberkriminalitet i dag langt hen ad vejen. Da flere virksomheder er blevet bekendt med denne voksende trussel, har flere implementeret AI-værktøjer for at stoppe det. Men cyberkriminelle er også øget deres brug af AI i phishing. Her er et nærmere kig på, hvordan begge sider bruger denne teknologi, og hvem der får mest ud af det.

Hvordan AI hjælper med at bekæmpe phishing

Phishing-angreb udnytter menneskers naturlige tendens til nysgerrighed og frygt. Fordi denne sociale ingeniørkunst er så effektiv, er en af de bedste måder at beskytte sig mod det at sikre, at man ikke ser det i første omgang. Det er her, AI kommer ind i billedet.

Anti-phishing AI-værktøjer kommer typisk i form af avancerede email-filtre. Disse programmer scanner dine indgående beskeder efter tegn på phishing-forsøg og sender automatisk mistænkelige emails til din junk-mappe. Nogle nyere løsninger kan spore phishing-emails med 99,9% nøjagtighed ved at generere forskellige versioner af svindelmeddelelser baseret på virkelige eksempler for at træne sig selv til at spotte variationer.

Da sikkerhedsforskere opdager flere phishing-emails, kan de give disse modeller mere data, hvilket gør dem endnu mere nøjagtige. AI’s kontinuerlige læringsmuligheder hjælper også med at forfine modellerne for at reducere falske positiver.

AI kan også hjælpe med at stoppe phishing-angreb, når du klikker på en skadelig link. Automatiseret overvågningssoftware kan etablere en baseline for normal adfærd for at detektere afvigelser, der sandsynligvis vil opstå, når nogen andre bruger din konto. De kan derefter låse profilen og advare sikkerhedsteams, før indtrængeren kan gøre for meget skade.

Hvordan angribere bruger AI i phishing

AI’s potentiale for at stoppe phishing-angreb er imponerende, men det er også et kraftfuldt værktøj til at generere phishing-emails. Da generativ AI som ChatGPT er blevet mere tilgængelig, gør det phishing-angreb mere effektive.

Spearphishing – som bruger personlige detaljer til at skabe bruger-specifikke meddelelser – er en af de mest effektive typer af phishing. En email, der får alle dine personlige oplysninger rigtigt, vil naturligvis være meget mere overbevisende. Men disse meddelelser har traditionelt været svære og tidskrævende at oprette, især i stor målestok. Det er ikke længere tilfældet med generativ AI.

AI kan generere massive mængder af tilpassede phishing-meddelelser på en brøkdel af den tid, det ville tage en menneske. Det er også bedre end mennesker til at skrive overbevisende falske meddelelser. I en undersøgelse fra 2021 så AI-genererede phishing-emails significativt højere klik-rater end dem, som mennesker skrev – og det var før ChatGPT’s udgivelse.

Lige som markedsførere bruger AI til at tilpasse deres kunde-tilnærmelser, kan cyberkriminelle bruge det til at skabe effektive, bruger-specifikke phishing-meddelelser. Da generativ AI forbedres, vil disse falske meddelelser blot blive mere overbevisende.

Angribere forbliver i føringen takket være menneskelige svagheder

Med angribere og forsvarere, der tager fordel af AI, hvilken side har set de mest fremtrædende fordele? Hvis du kigger på seneste cyberkriminalitets-tendenser, vil du se, at cyberkriminelle har floreret, på trods af mere avancerede beskyttelser.

Business email-kompromitteringsangreb steg 81% i anden halvdel af 2022, og medarbejdere åbnede 28% af disse meddelelser. Det er en del af en længerevarende 175%-stigning over de seneste to år, hvilket tyder på, at phishing vokser hurtigere end nogensinde. Disse angreb er effektive, stjæler 17.700 dollars per minut, hvilket sandsynligvis er grunden til, at de står bag 91% af cyberangrebene.

Hvorfor er phishing vokset så meget, på trods af at AI forbedrer anti-phishing-beskyttelser? Det skyldes sandsynligvis det menneskelige element. Medarbejdere skal faktisk bruge disse værktøjer til, at de kan være effektive. Ud over det kan arbejdere engagere sig i andre usikre aktiviteter, der gør dem sårbare over for phishing-forsøg, som f.eks. at logge ind på deres arbejdskonto på ikke-godkendte, ikke-beskyttede personlige enheder.

Den tidligere nævnte undersøgelse fandt også, at medarbejdere kun rapporterer 2,1% af angrebene. Mangel på kommunikation kan gøre det svært at se, hvor og hvordan sikkerhedsforanstaltninger skal forbedres.

Hvordan beskytte sig mod stigende phishing-angreb

Givet denne alarmerende tendens, bør virksomheder og enkeltbrugere tage skridt til at beskytte sig. Implementering af AI-anti-phishing-værktøjer er en god start, men det kan ikke være det eneste foranstaltning. Kun 7% af sikkerhedsteams bruger ikke eller planlægger at bruge AI, og alligevel består phishing’s dominans, så virksomheder må også beskæftige sig med det menneskelige element.

Da mennesker er den svageste led i forsvaret mod phishing-angreb, bør de være fokus for afværningsforanstaltninger. Organisationer bør gøre sikkerhedsbedste-praksis til en mere fremtrædende del af medarbejder-onboarding og løbende træning. Disse programmer bør omfatte, hvordan man kan spotte phishing-angreb, hvorfor det er et problem og simuleringer til at teste deres viden tilbageholdelse efter træning.

At bruge stærkere identitets- og adgangsstyringværktøjer er også vigtigt, da disse hjælper med at stoppe succesfulde angreb, efter at de er kommet ind i en konto. Selv erfarne medarbejdere kan begå fejl, så man bør kunne spotte og stoppe kompromitterede konti, før de kan forvolde omfattende skade.

AI er et kraftfuldt værktøj til både godt og ondt

AI er en af de mest disruptive teknologier i nyere historie. Om det er godt eller dårligt afhænger af, hvordan det bruges.

Det er vigtigt at erkende, at AI kan hjælpe cyberkriminelle lige så meget – hvis ikke mere – end sikkerhedsprofessionelle. Når organisationer erkender disse risici, kan de tage mere effektive skridt til at tackle stigende phishing-angreb.