AI i Phishing: Får Angripare eller Försvarare Mer Nytta?

Såsom cyberbrotten har vuxit, har säkerhetsbranschen varit tvungen att anta banbrytande teknik för att hålla jämna steg. Artificiell intelligens (AI) har snabbt blivit ett av de mest användbara verktygen för att stoppa cyberattacker, men angripare kan också använda det. De senaste phishing-trenderna är ett utmärkt exempel på båda sidor av frågan.

Phishing är den vanligaste typen av cyberbrott idag med råge. När fler företag har blivit medvetna om denna växande hotbild, har fler implementerat AI-verktyg för att stoppa det. Men cyberkriminella ökar också sin användning av AI i phishing. Här är en närmare titt på hur båda sidor använder denna teknik och vem som drar mest nytta av den.

Hur AI Hjälper Till Att Bekämpa Phishing

Phishingattacker utnyttjar människors naturliga tendens till nyfikenhet och rädsla. Eftersom denna sociala ingenjörskonst är så effektiv, är en av de bästa sätten att skydda sig mot den att se till att man inte ser den från början. Där kommer AI in.

Anti-phishing-AI-verktyg kommer vanligtvis i form av avancerade e-postfilter. Dessa program skannar dina inkommande meddelanden efter tecken på phishingförsök och skickar automatiskt misstänkta e-postmeddelanden till din skräppostmapp. Vissa nyare lösningar kan upptäcka phishing-e-postmeddelanden med 99,9% noggrannhet genom att generera olika versioner av bedrägerimeddelanden baserat på riktiga exempel för att träna sig att upptäcka variationer.

När säkerhetsforskare upptäcker fler phishing-e-postmeddelanden, kan de tillhandahålla dessa modeller med mer data, vilket gör dem ännu mer exakta. AI:s kontinuerliga lärande förmågor hjälper också till att förbättra modellerna för att minska falska positiva.

AI kan också hjälpa till att stoppa phishingattacker när du klickar på en skadlig länk. Automatiserad övervakningsprogramvara kan etablera en baslinje för normalt beteende för att upptäcka avvikelser som sannolikt kommer att uppstå när någon annan använder ditt konto. De kan sedan låsa kontot och varna säkerhetsteam innan inträngaren gör för mycket skada.

Hur Angripare Använder AI i Phishing

AI:s potential för att stoppa phishingattacker är imponerande, men det är också ett kraftfullt verktyg för att generera phishing-e-postmeddelanden. När generativ AI som ChatGPT har blivit mer tillgänglig, har det gjort phishingattacker mer effektiva.

Spearphishing – som använder personliga detaljer för att skapa användarspecifika meddelanden – är en av de mest effektiva typerna av phishing. Ett e-postmeddelande som får alla dina personliga uppgifter rätt kommer naturligtvis att vara mycket mer övertygande. Men dessa meddelanden har traditionellt varit svåra och tidskrävande att skapa, särskilt i stor skala. Det är inte fallet längre med generativ AI.

AI kan generera stora mängder anpassade phishingmeddelanden på en bråkdel av den tid det skulle ta en människa. Det är också bättre än människor på att skriva övertygande falska meddelanden. I en studie från 2021 såg AI-genererade phishing-e-postmeddelanden en betydligt högre klickfrekvens än de som skrevs av människor – och det var innan ChatGPT:s lansering.

På samma sätt som marknadsförare använder AI för att anpassa sin kundkontakt, kan cyberkriminella använda det för att skapa effektiva, användarspecifika phishingmeddelanden. När generativ AI förbättras, kommer dessa falska meddelanden att bli ännu mer övertygande.

Angripare Förblir i Ledningen Tack Vare Mänskliga Svagheter

Med angripare och försvarare som tar tillvara på AI, vilken sida har sett de mest framträdande fördelarna? Om du tittar på de senaste cyberbrottstrenderna, ser du att cyberkriminella har frodats trots mer avancerade skydd.

Business email compromise-attacker ökat med 81% under den andra halvan av 2022 och anställda öppnade 28% av dessa meddelanden. Det är en del av en längre trend med 175% ökning under de senaste två åren, vilket tyder på att phishing växer snabbare än någonsin. Dessa attacker är effektiva, stjäl 17 700 dollar per minut, vilket är antagligen varför de ligger bakom 91% av cyberattacker.

Varför har phishing ökat så mycket trots att AI har förbättrat anti-phishing-skydd? Det beror troligen på den mänskliga faktorn. Anställda måste faktiskt använda dessa verktyg för att de ska vara effektiva. Utöver det kan arbetare engagera sig i andra osäkra aktiviteter som gör dem benägna att försöka med phishing, som att logga in på sina arbetskonton på obehöriga, oskyddade personliga enheter.

Den tidigare nämnda undersökningen fann också att arbetare rapporterar endast 2,1% av attackerna. Denna brist på kommunikation kan göra det svårt att se var och hur säkerhetsåtgärder måste förbättras.

Hur Man Skyddar Sig Mot Ökande Phishingattacker

Med tanke på denna alarmerande trend, bör företag och enskilda användare vidta åtgärder för att stanna säkra. Att implementera AI-anti-phishing-verktyg är en bra början, men det kan inte vara den enda åtgärden. Endast 7% av säkerhetsteam använder eller planerar att använda AI, men phishingens dominans består, så företag måste också ta itu med den mänskliga faktorn.

Eftersom människor är den svagaste länken mot phishingattacker, bör de vara fokus för åtgärder för att mildra dem. Organisationer bör göra säkerhetsbästa praxis till en mer framträdande del av anställdas introduktions- och fortbildning. Dessa program bör omfatta hur man upptäcker phishingattacker, varför det är ett problem och simuleringar för att testa deras kunskapsbehållning efter utbildning.

Att använda starkare identitets- och åtkomsthanteringsverktyg är också viktigt, eftersom dessa hjälper till att stoppa framgångsrika intrång efter att de har kommit in i ett konto. Även erfarna anställda kan göra misstag, så man bör kunna upptäcka och stoppa intrång i konton innan de orsakar omfattande skada.

AI är Ett Kraftfullt Verktyg för Både Gott och Ont

AI är en av de mest disruptiva teknologierna i modern historia. Om det är bra eller dåligt beror på hur det används.

Det är viktigt att erkänna att AI kan hjälpa cyberkriminella lika mycket – om inte mer – än säkerhetsproffs. När organisationer erkänner dessa risker, kan de vidta mer effektiva åtgärder för att hantera ökande phishingattacker.