AI i phishing: Hvem drar mest nytte av det, angriperne eller forsvarerne?

Ettersom cyberkriminalitet har økt, har sikkerhetsbransjen måttet omfavne banebrytende teknologi for å holde tritt. Kunstig intelligens (AI) har raskt blitt ett av de mest nyttige verktøyene for å stoppe cyberangrep, men angripere kan også bruke det.

Phishing er den vanligste typen cyberkriminalitet i dag, og langt flere selskaper har blitt mer bevisst på denne voksende trusselen. Flere har implementert AI-verktøy for å stoppe det. Likevel øker cyberkriminelle sin bruk av AI i phishing. Her er en nærmere titt på hvordan begge parter bruker denne teknologien og hvem som drar mest nytte av det.

Hvordan AI hjelper til å bekjempe phishing

Phishing-angrep utnytter menneskers naturlige tendens til nysgjerrighet og frykt. Fordi denne sosiale ingeniringen er så effektiv, er en av de beste måtene å beskytte seg mot det å sikre at man ikke ser det i det hele tatt. Det er der AI kommer inn.

Anti-phishing AI-verktøy kommer vanligvis i form av avanserte e-postfilter. Disse programmene skanner innkommende meldinger etter tegn på phishing-forsøk og sender automatisk mistenkelige e-poster til søppelposten. Noen nyere løsninger kan oppdage phishing-e-poster med 99,9% nøyaktighet ved å generere ulike versjoner av svindelmedlinger basert på ekte eksempler for å trene seg selv til å oppdage variasjoner.

Ettersom sikkerhetsforskere oppdager flere phishing-e-poster, kan de gi disse modellene mer data, noe som gjør dem enda mer nøyaktige. AI sin kontinuerlige læringskapasitet hjelper også til å finjustere modellene for å redusere feilpositiver.

AI kan også hjelpe til å stoppe phishing-angrep når du klikker på en skadelig lenke. Automatisert overvåkingsprogramvare kan etablere en basis for normal atferd for å oppdage avvik som sannsynligvis vil oppstå når noen andre bruker kontoen din. De kan deretter låse ned profilen og varsle sikkerhetsteam før inntrengeren gjør for mye skade.

Hvordan angripere bruker AI i phishing

AI sin potensiale for å stoppe phishing-angrep er imponerende, men det er også et kraftig verktøy for å generere phishing-e-poster. Ettersom generativ AI som ChatGPT har blitt mer tilgjengelig, gjør det phishing-angrep mer effektive.

Spearphishing — som bruker personlige detaljer for å lage brukerspesifikke meldinger — er en av de mest effektive typene phishing. En e-post som får alle dine personlige opplysninger riktige, vil naturligvis være mye mer overbevisende. Likevel har disse meldingene tradisjonelt vært vanskelige og tidskrevende å lage, spesielt i stor skala. Det er ikke lenger tilfelle med generativ AI.

AI kan generere store mengder tilpassede phishing-meldinger på en brøkdel av tiden det ville ta en menneske. Det er også bedre enn mennesker til å skrive overbevisende falske meldinger. I en studie fra 2021, så AI-genererte phishing-e-poster en betydelig høyere klikkrate enn de som mennesker skrev — og det var før ChatGPTs lansering.

Like som markedsførere bruker AI for å tilpasse kundekontakt-kampanjer, kan cyberkriminelle bruke det til å lage effektive, brukerspesifikke phishing-meldinger. Ettersom generativ AI forbedres, vil disse falske meldingene bare bli mer overbevisende.

Angriperne forblir i ledelsen takket være menneskelige svakheter

Med angripere og forsvarere som tar i bruk AI, hvilken side har sett de mest fremtredende fordelene? Hvis du ser på nyere cyberkriminalitets-trender, vil du se at cyberkriminelle har blomstret til tross for mer avanserte beskyttelser.

Business e-post-kompromitt-angrep økte med 81% i andre halvår 2022 og ansatte åpnet 28% av disse meldingene. Dette er en del av en lengre trend med 175% økning over de siste to årene, noe som tyder på at phishing vokser raskere enn noen gang. Disse angrepene er effektive, stjeler 17 700 dollar per minutt, hvilket sannsynligvis er grunnen til at de står bak 91% av cyberangrepene.

Hvorfor har phishing vokst så mye til tross for at AI har forbedret anti-phishing-beskyttelsen? Det skyldes sannsynligvis det menneskelige elementet. Ansatte må faktisk bruke disse verktøyene for at de skal være effektive. Ut over det kan arbeidere engasjere seg i andre usikre aktiviteter som gjør dem utsatt for phishing-forsøk, som å logge inn på arbeidskontoer på ikke-godkjente, ubeskyttede personlige enheter.

Den ovennevnte undersøkelsen fant også at arbeidere rapporterer bare 2,1% av angrepene. Mangelen på kommunikasjon kan gjøre det vanskelig å se hvor og hvordan sikkerhetstiltakene må forbedres.

Hvordan beskytte seg mot økende phishing-angrep

Gitt denne alarmerende trenden, bør bedrifter og enkeltbrukere ta skritt for å holde seg trygge. Å implementere AI-anti-phishing-verktøy er en god start, men det kan ikke være den eneste måte. Bare 7% av sikkerhetsteamene ikke bruker eller planlegger å bruke AI, likevel består phishingens dominans, så bedrifter må også ta hånd om det menneskelige elementet.

Fordi mennesker er den svakeste lenken mot phishing-angrep, bør de være fokus for forebyggende tiltak. Organisasjoner bør gjøre sikkerhetsbeste-praksis en mer fremtredende del av ansatt-opplæring og kontinuerlig opplæring. Disse programmene bør inkludere hvordan man kan oppdage phishing-angrep, hvorfor det er et problem og simuleringer for å teste deres kunnskapsbeholdning etter opplæring.

Å bruke sterkere identitets- og tilgangsforvaltningsverktøy er også viktig, da disse hjelper til å stoppe vellykkede angrep etter at de har kommet inn i en konto. Selv erfarne ansatte kan gjøre feil, så du bør være i stand til å oppdage og stoppe angrep før de forårsaker omfattende skade.

AI er et kraftig verktøy for både godt og vondt

AI er en av de mest banebrytende teknologiene i nyere historie. Om det er godt eller dårlig, avhenger av bruken.

Det er viktig å erkjenne at AI kan hjelpe cyberkriminelle like mye — hvis ikke mer — enn sikkerhetsproffene. Når organisasjoner erkjenner disse risikoene, kan de ta mer effektive skritt for å håndtere økende phishing-angrep.