Poate AI să Scrie un E-mail de Phishing Mai Convingător Decât Oamenii?

Procesarea limbajului natural și capacitățile avansate de traducere fac ca inteligența artificială generativă să fie un instrument de neprețuit pentru hackeri. E-mailurile de phishing generate de AI pot să nu fie mai periculoase decât conținutul de phishing creat de oameni, totuși. Ce ar trebui să știe utilizatorii și specialiștii în securitate despre rolul AI în phishing și atacuri cibernetice?

Cum Scrie AI E-mailuri de Phishing

Conținutul de phishing raportat a crescut cu 61% de la 2021 la 2022. De la URL-uri maligne la escrocherii prin e-mail, phishingul devine din ce în ce mai prevalent în fiecare an. AI este ultimul instrument pe care hackerii îl adoptă pentru a avansa campaniile de phishing.

Disponibilitatea platformelor de servicii AI, cum ar fi ChatGPT, face ca generarea de conținut să fie mai ușoară ca niciodată pentru oricine. Un hacker ar putea prezenta un model de limbaj mare AI cu mii de exemple de e-mailuri legitime, apoi să îi ceară să creeze e-mailuri originale pe baza acestora. Procesarea limbajului natural (NLP) permite AI să înțeleagă și să recreeze conținut scris realist — un instrument perfect în atacurile de phishing.

Ideal, AI generează un e-mail original care imită un e-mail scris de un om. Hackerul poate să îi ceară să personalizeze mesajul pentru a include detalii despre o anumită companie, persoană sau loc. AI poate chiar să traducă mesajul într-o altă limbă. Hackerii pot crea eficient e-mailuri de phishing complet originale și personalizate în doar câteva momente, permițându-le să se îndepărteze de reciclarea unui singur e-mail malign printre mai multe ținte.

Sunt E-mailurile de Phishing Generate de AI Efective?

Posibilitățile phishingului bazat pe AI pot părea intimidante, dar sunt ele mai periculoase decât conținutul de phishing creat de oameni? Avantajele e-mailurilor de phishing generate de AI se rezumă în principal la fluxuri de lucru mai eficiente pentru hackeri.

Studiile de cercetare inițiale au arătat că e-mailurile de phishing generate de AI sunt aproximativ la fel de convingătoare ca e-mailurile de phishing create de oameni. Hackerii sunt, de asemenea, limitați în accesul lor la platformele de servicii AI. Majoritatea dezvoltatorilor — inclusiv OpenAI — au măsuri de siguranță pentru a preveni aplicațiile ilegale ale modelului AI.

Principalele avantaje ale AI pentru hackerii de phishing sunt eficiența și limba. Utilizarea AI pentru a genera e-mailuri de escrocherie este mai rapidă decât scrierea lor manuală, permițând hackerilor să creeze o varietate mai mare de e-mailuri de phishing. În plus, pot ținti victime din orice parte a lumii, datorită instrumentelor de traducere AI ușor accesibile cu capacități NLP.

Prin urmare, e-mailurile de phishing generate de AI cresc riscul de atacuri de phishing, dar nu sunt neapărat mai convingătoare decât conținutul de phishing creat de oameni.

Cum să Vă Aparăți Împotriva E-mailurilor de Phishing Generate de AI

AI este un instrument util pentru hackeri, dar nu este infailibil. Tehnologia de securitate și utilizatorii pot, de asemenea, să-și îmbunătățească strategiile de apărare pe măsură ce atacurile de phishing devin mai inteligente. Utilizatorii ar trebui să înceapă prin a rămâne la curent cu semnele de avertizare ale conținutului de phishing, deoarece acestea vor rămâne relevante chiar și cu e-mailurile generate de AI.

Deși poate deveni mai greu să detectați e-mailurile de phishing la o privire, anumite măsuri de securitate pot minimiza sau elimina potențialul de a cauza daune. În plus, noile tehnologii de detectare pot prinde atât e-mailurile maligne scrise de oameni, cât și cele generate de AI.

Comutați la Stocarea în Cloud

Schimbarea la stocarea în cloud este o modalitate excelentă de a minimiza amenințarea e-mailurilor de phishing și a atacurilor cibernetice. Natura izolată a stocării de date convenționale o face foarte vulnerabilă la exploatarea de către hackeri. Tot ce trebuie să facă un hacker este să obțină controlul asupra unui hard disk sau server, și poate ține toate datele cuiva ostatic.

Stocarea în cloud evită această amenințare. Deoarece datele nu sunt legate de niciun dispozitiv specific, este mult mai greu pentru hackeri să șteargă sau să deterioreze orice informație. Securitatea cloud-based poate, de asemenea, să îmbunătățească reziliența la încercările de hacking.

De exemplu, utilizatorii pot implementa scanări automate de vulnerabilități pentru a găsi slăbiciuni în securitatea cloud. Acest lucru este excelent pentru prevenirea hackerilor să utilizeze backdoor-uri sau credențiale furate pentru a accesa date în cloud. Chiar și dacă reușesc, va fi greu pentru ei să controleze pe deplin orice dată, deoarece stocarea în cloud este atât de dispersată.

Creați Un Sistem de Verificare DIY

O soluție DIY pentru a descuraja mesajele de phishing de orice fel este stabilirea unui sistem de coduri între corespondenți de încredere. Acesta ar putea include oameni precum familia, prietenii și colegii de muncă. De fiecare dată când cei din grup își trimit e-mailuri, ar putea să scrie o frază de cod specifică pentru a verifica că mesajul este într-adevăr de la ei.

Acest sistem de coduri nu trebuie să fie prea complicat. Ideea este pur și simplu să adăugați un factor la e-mailuri pe care un hacker sau AI nu l-ar putea cunoaște în mod fiabil dinainte. Faceți fraza de cod ceva neobișnuit, astfel încât să fie puțin probabil să fie găsită în mod obișnuit în e-mailurile de antrenament AI.

De exemplu, codul ar putea fi numele unei așezări fantomă, cum ar fi „Agloe, New York”. Așezările fantomă sunt puțin probabil să apară frecvent în e-mailuri, deoarece sunt locuri fictive adăugate pe hărți în scopuri de copyright.

Folosiți Detectarea de Phishing Bazată pe AI

Hackerii nu sunt singurii care utilizează AI pentru a-și inova metodologia. Utilizatorii și specialiștii în securitate pot, de asemenea, să utilizeze modele de AI pentru a detecta conținutul de phishing, indiferent dacă este scris de un om sau de un AI.

De exemplu, dezvoltatorii pot utiliza învățarea automată pentru a monitoriza și urmări modelele de comunicare naturală ale corespondenților legitimi de e-mail. Dacă AI ar putea învăța rapid stilul de comunicare unic al unei persoane, ar putea recunoaște e-mailuri false care nu se potrivesc. Acest lucru se aplică indiferent dacă e-mailul a fost scris de un om sau de un AI.

Una dintre cele mai mari puteri ale phishingului bazat pe AI este, de asemenea, o slăbiciune majoră. Hackerii pot crea eficient e-mailuri false credibile cu AI, dar stilul de comunicare al acestor e-mailuri nu poate fi personalizat eficient. Un hacker nu are, de obicei, expertiza tehnică sau resursele pentru a antrena un AI pentru a reproduce cu acuratețe stilul de scriere al unei persoane specifice. Modelele de detectare a phishingului bazate pe AI pot exploata această slăbiciune pentru a apăra utilizatorii.

Înțelegerea Riscului de Phishing Bazat pe AI

AI poate fi un instrument valoros pentru hackeri atunci când creează e-mailuri de phishing. Cu toate acestea, e-mailurile generate de AI nu sunt neapărat mai convingătoare decât conținutul de phishing creat de oameni. Principalele semne de avertizare ale phishingului — cum ar fi apelurile urgente la acțiune — rămân relevante, indiferent de cine sau ce creează e-mailul de phishing. Utilizatorii și specialiștii în securitate pot adopta tehnici și tehnologii inovatoare pentru a-și proteja datele de campaniile de phishing bazate pe AI.