Poate AI să scrie un e-mail de phishing mai convingător decât oamenii?

Procesarea limbajului natural și capabilitățile avansate de traducere fac din IA generativă un instrument de neprețuit pentru hackeri. Totuși, e-mailurile de phishing generate de AI nu pot fi mai periculoase decât conținutul înșelătorie generat de oameni. Ce ar trebui să știe utilizatorii și profesioniștii în securitate despre rolul AI în phishing și atacuri cibernetice?

Cum scrie AI e-mailuri de phishing

Conținut de tip phishing raportat a crescut cu 61% față de 2021 până în 2022. De la adrese URL rău intenționate la escrocherii prin e-mail, phishing-ul devine din ce în ce mai răspândit în fiecare an. AI este cel mai recent instrument pe care hackerii îl adoptă pentru a promova campaniile de phishing. În timp ce procesarea limbajului natural de către AI este benefică, hackerii o pot folosi pentru a crea conținut de phishing mai eficient.

Disponibilitatea platformelor AI-as-a-Service, cum ar fi ChatGPT, face ca oricine să genereze conținut mai ușor ca niciodată. Un hacker ar putea arăta unui model de limbă mare AI mii de exemple de e-mailuri legitime, apoi i-ar putea cere să creeze e-mailuri originale pe baza acestora. Procesarea limbajului natural (NLP) permite AI să înțeleagă și să recreeze conținut scris realist - un instrument perfect în atacurile de phishing.

În mod ideal, AI generează un e-mail original care imită un e-mail scris de om. Hackerul îi poate cere să personalizeze mesajul pentru a include detalii despre o anumită companie, persoană sau loc. AI poate chiar traduce mesajul într-o altă limbă. Hackerii pot crea în mod eficient e-mailuri de phishing complet originale, personalizate în câteva momente, permițându-le să se îndepărteze de reciclarea unui e-mail rău intenționat printre multe ținte.

Sunt eficiente e-mailurile de phishing generate de AI? 

Posibilitățile de phishing bazat pe inteligență artificială pot părea intimidant, dar sunt ele mai periculoase decât conținutul de phishing creat de oameni? Avantajele e-mailurilor de phishing generate de AI se reduc în principal la fluxuri de lucru mai eficiente pentru hackeri.

Primele studii de cercetare au arătat că e-mailurile de phishing generate de AI sunt la fel de convingătoare ca e-mailuri de phishing generate de oameni. Hackerii sunt, de asemenea, limitati în accesul lor la platformele AI-as-a-Service. Majoritatea dezvoltatorilor mari, inclusiv OpenAI, au măsuri de protecție pentru a preveni aplicațiile ilegale de model AI. 

Principalele avantaje ale AI pentru hackerii de tip phishing sunt eficiența și limbajul. Utilizarea AI pentru a genera e-mailuri înșelătorii este mai rapidă decât scrierea manuală a acestora, permițând hackerilor să creeze o varietate mai mare de e-mailuri de phishing. În plus, pot viza victimele oriunde în lume, datorită instrumentelor de traducere AI ușor accesibile cu capabilități NLP.

Așadar, e-mailurile de phishing generate de inteligență artificială cresc riscul atacurilor de phishing, dar s-ar putea să nu fie neapărat mai convingătoare decât conținutul generat de oameni.

Cum să vă apărați împotriva phishingului generat de AI

AI este un instrument util pentru hackeri, dar nu este sigur. Tehnologia de securitate și utilizatorii își pot avansa și strategiile de apărare pe măsură ce atacurile de phishing devin mai inteligente. Utilizatorii ar trebui să înceapă prin a fi la curent cu acest lucru semnale roșii ale conținutului de phishing, deoarece acestea vor rămâne relevante chiar și cu e-mailurile generate de AI.

Deși poate deveni mai greu să detectați e-mailurile de phishing dintr-o privire, anumiți pași de securitate pot minimiza sau elimina potențialul ca phishingul să provoace daune. În plus, noile tehnologii de detectare pot captura atât e-mailuri rău intenționate, cât și scrise de oameni.

Comutați la Cloud Storage

Trecerea la stocarea în cloud este o modalitate excelentă de a minimiza amenințarea e-mailurilor de phishing și a atacurilor cibernetice. Natura izolată a stocării convenționale a datelor o face extrem de vulnerabilă la exploatarea de către hackeri. Tot ce trebuie să facă un hacker este să obțină controlul asupra unui hard disk sau server și poate ține ostatic toate datele cuiva.

Stocarea în cloud evită această amenințare. Deoarece datele nu se leagă de niciun dispozitiv specific, este mult mai dificil pentru hackeri să ștergă sau să deterioreze orice informație. Securitatea cibernetică bazată pe cloud poate îmbunătăți, de asemenea, rezistența la încercările de hacking.

De exemplu, utilizatorii pot implementa scanări automate ale vulnerabilităților găsesc slăbiciuni în norul lor Securitate. Acest lucru este excelent pentru a împiedica hackerii să folosească ușile din spate sau acreditările furate pentru a accesa datele din cloud. Chiar dacă o fac, le va fi dificil să controleze pe deplin orice date, deoarece stocarea în cloud este atât de dispersată.

Creați un sistem de verificare DIY

O soluție DIY pentru a ajuta la descurajarea mesajelor de phishing de orice fel este stabilirea unui sistem de coduri printre corespondenții de încredere. Aceasta ar putea include oameni precum familia, prietenii și colegii de muncă. De fiecare dată când cei din grup e-mail unul altuia, ei ar putea scrie o anumită frază de cod pentru a verifica dacă mesajul este de fapt de la ei.

Acest sistem de cod nu trebuie să fie excesiv de complicat. Ideea este pur și simplu de a adăuga un factor la e-mailurile pe care un hacker sau o inteligență artificială nu le-ar putea cunoaște în mod fiabil dinainte. Faceți din fraza de cod ceva neobișnuit, astfel încât să fie puțin probabil să fie găsită frecvent în e-mailurile de antrenament ale unei inteligențe artificiale.

De exemplu, codul ar putea fi numele unei așezări fantomă, cum ar fi „Agloe, New York”. Este puțin probabil ca așezările fantomă să apară frecvent în e-mailuri, deoarece sunt locuri fictive pur și simplu adăugate pe hărți în scopuri de drepturi de autor.

Utilizați Detectarea phishing prin AI

Hackerii nu sunt singurii care folosesc AI pentru a-și inova metodologia. Utilizatorii și profesioniștii în securitate pot folosi modele AI pentru a detecta conținutul de phishing, indiferent dacă îl scrie un om sau un AI.

De exemplu, dezvoltatorii pot folosi machine learning pentru monitorizați și urmăriți comunicarea naturală modele de corespondenți legitimi de e-mail. Dacă AI ar putea învăța rapid stilul unic de comunicare al unui individ, ar putea recunoaște e-mailurile false care nu se potrivesc. Acest lucru se aplică indiferent dacă un om sau AI a scris e-mailul.

Unul dintre cele mai mari puncte forte ale phishing-ului alimentat de AI este, de asemenea, un defect major. Hackerii pot crea în mod eficient e-mailuri false credibile cu ajutorul inteligenței artificiale, dar stilul de comunicare al acelor e-mailuri nu poate fi personalizat eficient. De obicei, un hacker nu are expertiza tehnică sau resursele necesare pentru a antrena o IA pentru a reproduce cu acuratețe stilul de scriere al unei anumite persoane. Modelele AI de detectare a phishingului pot valorifica această slăbiciune pentru a apăra utilizatorii.

Înțelegerea riscului de phishing alimentat de AI

AI poate fi un instrument valoros pentru hackeri atunci când creează e-mailuri de phishing. Cu toate acestea, e-mailurile generate de AI nu sunt neapărat mai convingătoare decât conținutul de phishing generat de oameni. Principalele semnale roșii ale phishingului, cum ar fi apelurile urgente la acțiune, rămân relevante, indiferent de cine sau ce creează e-mailul de phishing. Utilizatorii și profesioniștii în securitate pot adopta tehnici și tehnologii inovatoare pentru a-și proteja datele de campaniile de phishing bazate pe inteligență artificială.