Kan AI skrive en mer overbevisende phising-e-post enn mennesker?

Naturlig språkbehandling og avanserte oversettelsesfunksjoner gjør generativ AI til et uvurderlig verktøy for hackere. AI-genererte phising-e-poster kan ikke være farligere enn menneskeskapt svindelinnhold, selv om. Hva bør brukere og sikkerhetseksperten vite om AIens rolle i phising og cyberangrep?

Hvordan AI skriver phising-e-poster

Rapportert phisinginnhold økte med 61% fra 2021 til 2022. Fra skadelige URL-er til e-postsvindel, blir phising stadig mer vanlig hvert år. AI er det nyeste verktøyet hackere tar i bruk for å fremme phisingkampanjer. Mens AIens naturlige språkbehandling er nyttig, kan hackere utnytte den til å lage mer effektivt phisinginnhold.

Tilgjengeligheten av AI-as-a-Service-plattformer som ChatGPT gjør det enklere enn noen gang for noen å generere innhold. En hacker kunne vise en stor språkmodell AI tusenvis av eksempler på legitime e-poster, og deretter be den om å lage originale e-poster basert på disse. Naturlig språkbehandling (NLP) gjør at AI kan forstå og gjenskape realistisk skrevet innhold — et perfekt verktøy i phisingangrep.

Ideelt sett genererer AI en original e-post som etterligner en menneskeskrevet e-post. Hackeren kan be den om å tilpasse meldingen til å inkludere detaljer om et bestemt selskap, person eller sted. AI kan sogar oversette meldingen til et annet språk. Hackere kan effektivt lage helt originale, personaliserte phising-e-poster på bare noen øyeblikk, og dermed slippe å gjenta en og samme skadelig e-post blant mange mål.

Er AI-genererte phising-e-poster effektive?

Mulighetene for AI-drevet phising kan høres intimiderende ut, men er de farligere enn menneskeskapt phisinginnhold? Fordelene med AI-genererte phising-e-poster kommer hovedsakelig ned til mer effektive arbeidsflyter for hackere.

Tidlige forskningsstudier har vist at AI-genererte phising-e-poster er omtrent like overbevisende som menneskeskapt phising-e-post. Hackere er også begrenset i tilgangen til AI-as-a-Service-plattformer. De fleste store utviklere — inkludert OpenAI — har sikkerhetstiltak for å forhindre ulovlige AI-modellapplikasjoner.

Hovedfordelene med AI for phisinghackere er effisiens og språk. Å bruke AI til å generere svindel-e-poster er raskere enn å skrive dem manuelt, og gjør det mulig for hackere å lage en større variasjon av phising-e-poster. I tillegg kan de angripe ofre over hele verden, takket være lett tilgjengelige AI-oversettelsesverktøy med NLP-egenskaper.

Så, AI-genererte phising-e-poster øker risikoen for phisingangrep, men kan ikke nødvendigvis være mer overbevisende enn menneskeskapt innhold.

Hvordan forsvare seg mot AI-generert phising

AI er et nyttig verktøy for hackere, men det er ikke feilfritt. Sikkerhetsteknologi og brukere kan også fremme sine forsvarstrategier ettersom phisingangrep blir smartere. Brukere bør starte med å holde seg oppdatert om advarselsflagg for phisinginnhold, da disse vil forbli relevante selv med AI-genererte e-poster.

Selv om det kan bli vanskeligere å oppdage phising-e-poster med et blikk, kan visse sikkerhetstiltak minimere eller eliminere muligheten for at phising skal kunne skade. I tillegg kan nye oppdaggelses-teknologier fange både AI- og menneskeskrevne skadelige e-poster.

Bytt til sky-lagring

Å bytte til sky-lagring er en god måte å minimere trusselen fra phising-e-poster og cyberangrep. Den isolerte naturen til konvensjonell data-lagring gjør den svært sårbar for utnyttelse av hackere. Alt en hacker trenger å gjøre er å få kontroll over en harddisk eller server, og de kan holde all en persons data som gissel.

Sky-lagring unngår denne trusselen. Ettersom dataene ikke er knyttet til en bestemt enhet, er det mye vanskeligere for hackere å slette eller skade noen informasjon. Sky-basert sikkerhet kan også forbedre motstandsevnen mot hacking-forsøk.

For eksempel kan brukere implementere automatiserte sårbarhetsskanninger for å finne svakheter i sin sky-sikkerhet. Dette er bra for å forhindre at hackere bruker bakdører eller stjålne legitimasjoner for å få tilgang til data i skyen. Selv om de gjør det, vil det være vanskelig for dem å kontrollere noen data fullstendig, ettersom sky-lagring er så spredt.

Opprett en DIY-verifiseringssystem

En DIY-løsning for å hjelpe med å avskrekke phising-meldinger av alle typer er å etablere en kode-system blant betrodde korrespondenter. Dette kan inkludere personer som familie, venner og kolleger. Hver gang de i gruppen e-poster hverandre, kunne de skrive en bestemt kode-frase for å verifisere at meldingen faktisk er fra dem.

Kode-systemet trenger ikke å være overdrevent komplisert. Ideen er bare å legge til en faktor til e-poster en hacker eller AI ikke pålitelig kan vite på forhånd. Gjør kode-frasen til noe uvanlig, så det er usannsynlig at det ofte finnes i en AI-s trening-e-poster.

For eksempel kunne koden være navnet på en fiktiv bosetting, som “Agloe, New York”. Fiktive bosettinger er usannsynlig å finnes ofte i e-poster, ettersom de er fiktive steder bare lagt til i kart for opphavsrettsformål.

Bruke AI-phising-oppdaggelse

Hackere er ikke de eneste som bruker AI til å innovere sin metode. Brukere og sikkerhetseksperten kan utnytte AI-modeller til å oppdage phising-innhold, uansett om det er en menneske eller en AI som skriver det.

For eksempel kan utviklere bruke maskinlæring til å overvåke og spore de naturlige kommunikasjonsmønstrene til legitime e-post-korrespondenter. Hvis AI kunne raskt lære en persons unike kommunikasjonsstil, kunne den gjenkjenne falske e-poster som ikke matcher. Dette gjelder uansett om en menneske eller en AI skrev e-posten.

En av de største styrkene med AI-drevet phising er også en stor svakhet. Hackere kan effektivt lage troverdige falske e-poster med AI, men kommunikasjonsstilen til disse e-postene kan ikke effektivt personliggjøres. En hacker har vanligvis ikke den tekniske ekspertisen eller ressursene til å trene en AI til å replikere en bestemt persons skrivestil nøyaktig. Phising-oppdaggelse AI-modeller kan utnytte denne svakheten til å forsvare brukere.

Forstå risikoen for AI-drevet phising

AI kan være et verdifullt verktøy for hackere når de lager phising-e-poster. Imidlertid er AI-genererte e-poster ikke nødvendigvis mer overbevisende enn menneskeskapt phising-innhold. Hoved-advarselsflaggene for phising — som急gende oppfordringer til handling — forbli relevante uansett hvem eller hva som lager phising-e-posten. Brukere og sikkerhetseksperten kan adoptere innovative teknikker og teknologier for å beskytte sine data mot AI-drevne phising-kampanjer.