Poate AI să Scrie un E-mail de Phishing Mai Convingător Decât Oamenii?

Procesarea limbajului natural și capacitățile avansate de traducere fac ca inteligența artificială generativă să fie un instrument de neprețuit pentru hackeri. E-mailurile de phishing generate de AI nu sunt neapărat mai periculoase decât conținutul de scam generat de oameni. Ce ar trebui să știe utilizatorii și profesioniștii în securitate despre rolul AI în phishing și atacuri cibernetice?

Cum Scrie AI E-mailuri de Phishing

Conținutul de phishing raportat a crescut cu 61% din 2021 până în 2022. De la URL-uri maligne la e-mailuri de scam, phishingul devine din ce în ce mai prevalent în fiecare an. AI este ultimul instrument pe care hackerii îl adoptă pentru a avansa campaniile de phishing. În timp ce procesarea limbajului natural a AI este benefică, hackerii pot să o exploateze pentru a crea conținut de phishing mai eficient.

Disponibilitatea platformelor AI-as-a-Service, cum ar fi ChatGPT, face ca generarea de conținut să fie mai ușoară ca niciodată pentru oricine. Un hacker ar putea să arate unui model de limbaj mare AI mii de exemple de e-mailuri legitime, apoi să îi ceară să creeze e-mailuri originale pe baza acestora. Procesarea limbajului natural (NLP) permite AI să înțeleagă și să recreeze conținut scris realist — un instrument perfect în atacurile de phishing.

Ideal, AI generează un e-mail original care imită un e-mail scris de un om. Hackerul poate să îi ceară să personalizeze mesajul pentru a include detalii despre o anumită companie, persoană sau loc. AI poate chiar să traducă mesajul într-o altă limbă. Hackerii pot crea eficient e-mailuri de phishing complet originale și personalizate în doar câteva momente, permițându-le să se îndepărteze de reciclarea unui singur e-mail malign printre multe ținte.

Sunt E-mailurile de Phishing Generate de AI Efective?

Posibilitățile de phishing bazate pe AI pot părea intimidante, dar sunt ele mai periculoase decât conținutul de phishing creat de oameni? Avantajele e-mailurilor de phishing generate de AI se reduc în principal la fluxuri de lucru mai eficiente pentru hackeri.

Studiile de cercetare din primii ani au arătat că e-mailurile de phishing generate de AI sunt aproximativ la fel de convingătoare ca e-mailurile de phishing generate de oameni. Hackerii sunt, de asemenea, limitați în accesul lor la platformele AI–as-a-Service. Majoritatea dezvoltatorilor — inclusiv OpenAI — au măsuri de siguranță pentru a preveni aplicațiile ilegale ale modelului AI.

Principalele avantaje ale AI pentru hackerii de phishing sunt eficiența și limba. Utilizarea AI pentru a genera e-mailuri de scam este mai rapidă decât scrierea manuală a acestora, permițând hackerilor să creeze o varietate mai mare de e-mailuri de phishing. În plus, pot ținti victime din întreaga lume, datorită uneltelor de traducere AI ușor accesibile cu capacități NLP.

Așadar, e-mailurile de phishing generate de AI cresc riscul de atacuri de phishing, dar nu sunt neapărat mai convingătoare decât conținutul generat de oameni.

Cum să Ne Aparăm Împotriva E-mailurilor de Phishing Generate de AI

AI este un instrument util pentru hackeri, dar nu este infailibil. Tehnologia de securitate și utilizatorii pot, de asemenea, să-și avanseze strategiile de apărare pe măsură ce atacurile de phishing devin mai inteligente. Utilizatorii ar trebui să înceapă prin a rămâne la curent cu semnele de avertizare ale conținutului de phishing, deoarece acestea vor rămâne relevante chiar și cu e-mailurile generate de AI.

Deși poate deveni mai greu de detectat e-mailurile de phishing la o privire, anumite măsuri de securitate pot minimiza sau elimina potențialul de a cauza daune. În plus, noile tehnologii de detectare pot prinde atât e-mailurile maligne scrise de AI, cât și de oameni.

Comutați la Stocarea în Cloud

Schimbarea la stocarea în cloud este o modalitate excelentă de a minimiza amenințarea e-mailurilor de phishing și a atacurilor cibernetice. Natura izolată a stocării convenționale de date o face extrem de vulnerabilă la exploatarea de către hackeri. Tot ce trebuie să facă un hacker este să obțină controlul asupra unui disc dur sau server, și poate ține toate datele cuiva ostatic.

Stocarea în cloud ocolește această amenințare. Deoarece datele nu sunt legate de niciun dispozitiv specific, este mult mai dificil pentru hackeri să șteargă sau să deterioreze orice informație. Securitatea cibernetică bazată pe cloud poate, de asemenea, să îmbunătățească reziliența la încercările de hacking.

De exemplu, utilizatorii pot implementa scanări automate de vulnerabilități pentru a găsi slăbiciuni în securitatea cloud. Acest lucru este excelent pentru prevenirea hackerilor să utilizeze backdoor-uri sau credențiale furate pentru a accesa date în cloud. Chiar și dacă reușesc, va fi dificil pentru ei să controleze datele în totalitate, deoarece stocarea în cloud este atât de dispersată.

Creați Un Sistem de Verificare DIY

O soluție DIY pentru a ajuta la descurajarea mesajelor de phishing de orice fel este stabilirea unui sistem de coduri între corespondenți de încredere. Acesta ar putea include persoane precum familia, prietenii și colegii de muncă. De fiecare dată când cei din grup își trimit e-mailuri, ar putea să scrie o frază de cod specifică pentru a verifica că mesajul este realmente de la ei.

Acest sistem de coduri nu trebuie să fie prea complicat. Ideea este pur și simplu să adăugați un factor la e-mailuri pe care un hacker sau AI nu ar putea să le cunoască în mod fiabil dinainte. Faceți fraza de cod ceva neobișnuit, astfel încât să fie puțin probabil să fie găsită frecvent în e-mailurile de antrenament AI.

De exemplu, codul ar putea fi numele unei așezări fantomă, cum ar fi „Agloe, New York”. Așezările fantomă sunt puțin probabil să apară frecvent în e-mailuri, deoarece sunt locuri fictive adăugate pe hărți pentru scopuri de copyright.

Folosiți Detectarea de Phishing Bazată pe AI

Hackerii nu sunt singurii care folosesc AI pentru a inova metodele lor. Utilizatorii și profesioniștii în securitate pot, de asemenea, să folosească modele de AI pentru a detecta conținutul de phishing, indiferent dacă este scris de un om sau de un AI.

De exemplu, dezvoltatorii pot folosi învățarea automată pentru a monitoriza și urmări modelele naturale de comunicare ale corespondenților legitimi de e-mail. Dacă AI ar putea să învețe rapid stilul de comunicare unic al unei persoane, ar putea să recunoască e-mailurile false care nu se potrivesc. Acest lucru se aplică indiferent dacă e-mailul a fost scris de un om sau de un AI.

Una dintre cele mai mari puteri ale phishing-ului bazat pe AI este, de asemenea, o slăbiciune majoră. Hackerii pot crea eficient e-mailuri de phishing credibile cu AI, dar stilul de comunicare al acestor e-mailuri nu poate fi personalizat eficient. Un hacker nu are, de obicei, expertiza tehnică sau resursele pentru a antrena un AI să reproducă cu acuratețe stilul de scriere al unei persoane specifice. Modelele de detectare a phishing-ului bazate pe AI pot să exploateze această slăbiciune pentru a apăra utilizatorii.

Înțelegerea Riscului de Phishing Bazat pe AI

AI poate fi un instrument valoros pentru hackeri atunci când creează e-mailuri de phishing. Cu toate acestea, e-mailurile generate de AI nu sunt neapărat mai convingătoare decât conținutul de phishing generat de oameni. Principalele semne de avertizare ale phishing-ului — cum ar fi apelurile urgente la acțiune — rămân relevante, indiferent de cine sau ce creează e-mailul de phishing. Utilizatorii și profesioniștii în securitate pot adopta tehnici și tehnologii inovatoare pentru a-și proteja datele de campaniile de phishing bazate pe AI.