Kan AI skrive en mer overbevisende phishing-e-post enn mennesker?

Naturlig språkbehandling og avanserte oversettelseskapasiteter gjør generativ AI til et uvurderlig verktøy for hackere. AI-genererte phishing-e-poster kan ikke være farligere enn menneskeskapte svindelinnhold, selv om. Hva bør brukere og sikkerhetseksperter vite om AI sin rolle i phishing og cyberangrep?

How AI skriver phishing-e-poster

Rapportert phishing-innhold økte med 61% fra 2021 til 2022. Fra skadelige URL-er til e-post-svindel, blir phishing stadig mer vanlig hvert år. AI er det nyeste verktøyet hackere tar i bruk for å fremme phishing-kampanjer. Mens AI sin naturlige språkbehandling er nyttig, kan hackere utnytte den til å lage mer effektivt phishing-innhold.

Tilgjengeligheten av AI-as-a-Service-plattformer som ChatGPT gjør det enklere enn noen gang for noen å generere innhold. En hacker kunne vise en stor språkmodell AI tusenvis av eksempler på legitime e-poster, og deretter be det om å lage originale e-poster basert på disse. Naturlig språkbehandling (NLP) lar AI-en forstå og gjenskape realistisk skrevet innhold — et perfekt verktøy i phishing-angrep.

Ideelt sett genererer AI-en en original e-post som etterligner en menneskeskrevet e-post. Hackeren kan be det om å tilpasse meldingen til å inkludere detaljer om et bestemt selskap, person eller sted. AI-en kan sogar oversette meldingen til et annet språk. Hackere kan effektivt lage helt originale, tilpassede phishing-e-poster på bare noen øyeblikk, og dermed slippe å resirkulere en skadelig e-post blant mange mål.

Er AI-genererte phishing-e-poster effektive?

Mulighetene for AI-drevet phishing kan høres intimiderende ut, men er de farligere enn menneskeskapte phishing-innhold? Fordelene med AI-genererte phishing-e-poster kommer hovedsakelig ned til mer effektive arbeidsflyter for hackere.

Tidlige forskningsstudier har vist at AI-genererte phishing-e-poster er omtrent like overbevisende som menneskeskapte phishing-e-poster. Hackere er også begrenset i deres tilgang til AI-as-a-Service-plattformer. De fleste store utviklere — inkludert OpenAI — har sikkerhetstiltak for å forhindre ulovlige AI-modellapplikasjoner.

Hovedfordelene med AI for phishing-hackere er effisiens og språk. Å bruke AI til å generere svindel-e-poster er raskere enn å skrive dem manuelt, og lar hackere lage en større variasjon av phishing-e-poster. I tillegg kan de målrette ofre over hele verden, takket være lett tilgjengelige AI-oversettelsesverktøy med NLP-kapasiteter.

Så, AI-genererte phishing-e-poster øker risikoen for phishing-angrep, men kan ikke nødvendigvis være mer overbevisende enn menneskeskapte innhold.

How to forsvare seg mot AI-genererte phishing

AI er et nyttig verktøy for hackere, men det er ikke feilfritt. Sikkerhetsteknologi og brukere kan også fremme sine forsvarstrategier når phishing-angrep blir smartere. Brukere bør starte med å holde seg oppdatert om advarselssignaler for phishing-innhold, da disse vil forbli relevante selv med AI-genererte e-poster.

Selv om det kan bli vanskeligere å oppdage phishing-e-poster på ett øyeblikk, kan visse sikkerhetstiltak minimere eller eliminere muligheten for at phishing skal kunne skade. Pluss, nye oppdaggings-teknologier kan fange både AI- og menneskeskrevne skadelige e-poster.

Bytt til sky-lagring

Å bytte til sky-lagring er en god måte å minimere trusselen fra phishing-e-poster og cyberangrep. Den isolerte naturen til konvensjonell data-lagring gjør den svært sårbar for utnyttelse av hackere. Alt en hacker trenger å gjøre er å få kontroll over en harddisk eller en server, og de kan holde all en persons data som gissel.

Sky-lagring unngår denne trusselen. Siden dataene ikke er knyttet til en bestemt enhet, er det mye vanskeligere for hackere å slette eller skade noen informasjon. Sky-basert sikkerhet kan også forbedre motstandskraften mot hacking-forsøk.

For eksempel kan brukere implementere automatiserte sårbarhetsskanninger for å finne svakheter i deres sky-sikkerhet. Dette er bra for å forhindre at hackere bruker bakdører eller stjålne legitimasjoner for å få tilgang til data i skyen. Selv om de gjør det, vil det være vanskelig for dem å kontrollere noen data fullstendig, siden sky-lagring er så spredt.

Opprett en DIY-verifiseringssystem

En DIY-løsning for å hjelpe å avskrekke phishing-beskjeder av alle slag er å etablere en kode-system blant pålitelige korrespondenter. Dette kunne inkludere personer som familie, venner og kolleger. Hver gang de i gruppen e-poster hverandre, kunne de skrive en bestemt kode-frase for å verifisere at meldingen faktisk er fra dem.

Kode-systemet trenger ikke å være overdrevent komplisert. Ideen er bare å legge til en faktor til e-poster som en hacker eller AI ikke kunne pålitelig vite på forhånd. Gjør kode-frasen til noe uvanlig, så det er usannsynlig at det ofte finnes i en AI sin treningse-poster.

For eksempel kunne koden være navnet på en fiktiv bosetting, som “Agloe, New York”. Fiktive bosettinger er usannsynlig å finnes ofte i e-poster, siden de er fiktive steder som bare er lagt til kart for opphavsrettsformål.

Bruk AI-phishing-oppdaging

Hackere er ikke de eneste som bruker AI til å innovere sin metode. Brukere og sikkerhetseksperter kan også utnytte AI-modeller til å oppdage phishing-innhold, uansett om det er skrevet av en menneske eller en AI.

For eksempel kan utviklere bruke maskinlæring til å overvåke og spore de naturlige kommunikasjonsmønster til legitime e-post-korrespondenter. Hvis AI kunne raskt lære en enkelt persons unike kommunikasjonsstil, kunne den gjenkjenne falske e-poster som ikke matcher. Dette gjelder uansett om e-posten er skrevet av en menneske eller en AI.

En av de største styrkene med AI-drevet phishing er også en stor svakhet. Hackere kan effektivt lage overbevisende falske e-poster med AI, men kommunikasjonsstilen til disse e-postene kan ikke effektivt tilpasses. En hacker har vanligvis ikke den tekniske ekspertisen eller ressursene til å trene en AI til å gjenskape en bestemt persons skrivestil nøyaktig. Phishing-oppdaging AI-modeller kan utnytte denne svakheten til å forsvare brukere.

Forstå risikoen med AI-drevet phishing

AI kan være et verdifullt verktøy for hackere når de lager phishing-e-poster. Imidlertid er AI-genererte e-poster ikke nødvendigvis mer overbevisende enn menneskeskapte phishing-innhold. Hoved-advarselssignalene for phishing — som for eksempel急ge oppfordringer til handling — forbli relevante uansett hvem eller hva som lager phishing-e-posten. Brukere og sikkerhetseksperter kan adoptere innovative teknikker og teknologier for å beskytte sine data mot AI-drevne phishing-kampanjer.