AI i Phishing: Får Angripare eller Försvarare Mer Nytta?

Sedan cyberbrotten har ökat, har säkerhetsbranschen varit tvungen att anta banbrytande teknik för att hålla jämna steg. Artificiell intelligens (AI) har snabbt blivit ett av de mest användbara verktygen för att stoppa cyberattacker, men angripare kan också använda det. Senaste phishing-trender är ett utmärkt exempel på båda sidor av frågan.

Phishing är den vanligaste typen av cyberbrott idag med råge. Sedan fler företag har blivit medvetna om denna växande hot, har fler implementerat AI-verktyg för att stoppa det. Men cyberkriminella ökar också sin användning av AI i phishing. Här är en närmare titt på hur båda sidor använder denna teknik och vem som har nytta av den mest.

Hur AI Hjälper Till Att Bekämpa Phishing

Phishingattacker utnyttjar människors naturliga tendens till nyfikenhet och rädsla. Eftersom denna sociala ingenjörskonst är så effektiv, är en av de bästa sätten att skydda sig mot den att se till att man inte ser den från början. Där kommer AI in.

Anti-phishing AI-verktyg kommer vanligtvis i form av avancerade e-postfilter. Dessa program skannar dina inkommande meddelanden efter tecken på phishingförsök och skickar automatiskt misstänkta e-postmeddelanden till din skräppostmapp. Vissa nyare lösningar kan upptäcka phishing-e-post med 99,9% noggrannhet genom att generera olika versioner av bedrägerimeddelanden baserat på riktiga exempel för att träna sig att upptäcka variationer.

Så länge säkerhetsforskare upptäcker fler phishing-e-post, kan de tillhandahålla dessa modeller med mer data, vilket gör dem ännu mer exakta. AI:s kontinuerliga lärandeförmåga hjälper också till att förbättra modellerna för att minska falska positiva.

AI kan också hjälpa till att stoppa phishingattacker när du klickar på en skadlig länk. Automatiserad övervakningsprogramvara kan etablera en baslinje för normalt beteende för att upptäcka avvikelser som sannolikt kommer att uppstå när någon annan använder ditt konto. De kan sedan låsa kontot och varna säkerhetsteam innan inkräktaren gör för mycket skada.

Hur Angripare Använder AI i Phishing

AI:s potential för att stoppa phishingattacker är imponerande, men det är också ett kraftfullt verktyg för att generera phishing-e-post. Sedan generativ AI som ChatGPT har blivit mer tillgänglig, har det gjort phishingattacker mer effektiva.

Spearphishing — som använder personliga detaljer för att skapa användarspecifika meddelanden — är en av de mest effektiva typerna av phishing. En e-post som får all din personliga information rätt kommer naturligtvis att vara mycket mer övertygande. Men dessa meddelanden har traditionellt varit svåra och tidskrävande att skapa, särskilt i stor skala. Det är inte fallet längre med generativ AI.

AI kan generera stora mängder anpassade phishing-meddelanden på en bråkdel av den tid det skulle ta en människa. Det är också bättre än människor på att skriva övertygande falska meddelanden. I en studie från 2021 såg AI-genererade phishing-e-post en betydligt högre klickfrekvens än de som skrevs av människor — och det var innan ChatGPT:s release.

På samma sätt som marknadsförare använder AI för att anpassa sin kundkontakt, kan cyberkriminella använda det för att skapa effektiva, användarspecifika phishing-meddelanden. Ju bättre generativ AI blir, desto mer övertygande kommer dessa falska meddelanden att bli.

Angripare Förblir i Ledningen Tack Vare Mänskliga Svagheter

Med angripare och försvarare som tar tillvara på AI, vilken sida har sett de mest framträdande fördelarna? Om du tittar på senaste cyberbrottstrender, kommer du att se att cyberkriminella har blomstrat trots mer avancerade skydd.

Business email compromise-attacker ökte med 81% under den andra halvan av 2022 och anställda öppnade 28% av dessa meddelanden. Det är en del av en längre trend med 175% ökning under de senaste två åren, vilket tyder på att phishing växer snabbare än någonsin. Dessa attacker är effektiva, stjäl 17 700 dollar per minut, vilket är förmodligen varför de ligger bakom 91% av cyberattacker.

Varför har phishing växt så mycket trots att AI förbättrar anti-phishing-skydd? Det beror troligen på den mänskliga faktorn. Anställda måste faktiskt använda dessa verktyg för att de ska vara effektiva. Utöver det kan arbetare engagera sig i andra osäkra aktiviteter som gör dem benägna att bli offer för phishing-försök, som att logga in på sina arbetskonton på obehöriga, oskyddade personliga enheter.

Den tidigare nämnda undersökningen fann också att arbetare rapporterar endast 2,1% av attackerna. Denna brist på kommunikation kan göra det svårt att se var och hur säkerhetsåtgärder måste förbättras.

Hur Man Skyddar Sig Mot Ökande Phishingattacker

Med tanke på denna alarmerande trend, bör företag och enskilda användare vidta åtgärder för att hålla sig säkra. Att implementera AI-anti-phishing-verktyg är ett bra första steg, men det kan inte vara den enda åtgärden. Bara 7% av säkerhetsteam använder eller planerar att använda AI, men phishing förblir dominant, så företag måste också ta itu med den mänskliga faktorn.

Eftersom människor är den svagaste länken mot phishingattacker, bör de vara fokus för åtgärder för att mildra hotet. Organisationer bör göra säkerhetsbästa praxis till en mer framträdande del av anställdas introduktions- och fortbildning. Dessa program bör omfatta hur man upptäcker phishingattacker, varför det är ett problem och simuleringar för att testa deras kunskapsretention efter utbildning.

Att använda starkare identitets- och åtkomsthanteringsverktyg är också viktigt, eftersom dessa hjälper till att stoppa lyckade intrång efter att de har kommit in på ett konto. Även erfarna anställda kan göra misstag, så du bör kunna upptäcka och stoppa intrång i konton innan de orsakar omfattande skada.

AI är Ett Kraftfullt Verktyg för Både Gott och Ont

AI är en av de mest disruptiva teknologierna i modern historia. Om det är bra eller dåligt beror på hur det används.

Det är viktigt att erkänna att AI kan hjälpa cyberkriminella lika mycket — om inte mer — som säkerhetsproffs. När organisationer erkänner dessa risker, kan de vidta mer effektiva åtgärder för att hantera ökande phishingattacker.