Inteligența Artificială Generativă în Securitatea Cibernetică: Câmpul de Bătălie, Amenințarea, Și Acum Apărarea

Câmpul de Bătălie

Ce a început ca o entuziasmare în jurul capacităților Inteligenței Artificiale Generative s-a transformat rapid într-o preocupare. Uneltele de Inteligență Artificială Generativă, cum ar fi ChatGPT, Google Bard, Dall-E etc., continuă să facă titluri din cauza problemelor de securitate și confidențialitate. Acest lucru duce chiar la întrebări despre ce este real și ce nu. Inteligența Artificială Generativă poate produce conținut extrem de plauzibil și, prin urmare, convingător. Atât de mult, încât la sfârșitul unui segment recent de 60 de minute despre IA, prezentatorul Scott Pelley a lăsat telespectatorii cu această declarație: “Vom încheia cu o notă care nu a apărut niciodată la 60 de minute, dar una, în revoluția IA, ați putea auzi des: ceea ce precede a fost creat cu 100% conținut uman.”

Războiul cibernetic al Inteligenței Artificiale Generative începe cu acest conținut convingător și realist, iar câmpul de bătălie este acolo unde hackerii folosesc Inteligența Artificială Generativă, utilizând unelte cum ar fi ChatGPT etc. Este extrem de ușor pentru criminalii cibernetici, în special pentru cei cu resurse limitate și fără cunoștințe tehnice, să-și desfășoare crimele prin inginerie socială, phishing și atacuri de impersonare.

Amenințarea

Inteligența Artificială Generativă are puterea de a alimenta atacuri cibernetice din ce în ce mai sofisticate.

Deoarece tehnologia poate produce conținut atât de convingător și umanoid cu ușurință, noile escrocherii cibernetice care folosesc IA sunt mai greu de detectat de către echipele de securitate. Escrocheriile generate de IA pot lua forma atacurilor de inginerie socială, cum ar fi atacurile de phishing multicanal desfășurate prin e-mail și aplicații de mesagerie. Un exemplu din lumea reală ar putea fi un e-mail sau un mesaj care conține un document trimis unui director executiv de la un furnizor terț prin Outlook (e-mail) sau Slack (aplicație de mesagerie). E-mailul sau mesajul îi cere să cliqueze pe el pentru a vizualiza o factură. Cu Inteligența Artificială Generativă, poate fi aproape imposibil de a distinge între un e-mail sau un mesaj fals și unul real. Acesta este motivul pentru care este atât de periculos.

Unul dintre exemplele cel mai alarmante, cu toate acestea, este că, cu Inteligența Artificială Generativă, criminalii cibernetici pot produce atacuri în multiple limbi – indiferent dacă hackerul vorbește sau nu limba respectivă. Scopul este de a arunca o plasă largă, iar criminalii cibernetici nu vor discrimina victimele pe baza limbii.

Progresul Inteligenței Artificiale Generative semnalează că amploarea și eficiența acestor atacuri vor continua să crească.

Apărarea

Apărarea cibernetică pentru Inteligența Artificială Generativă a fost de mult timp piesa lipsă din puzzle. Până acum. Prin utilizarea luptei mașină contra mașină, sau a Inteligenței Artificiale contra Inteligenței Artificiale, putem apăra împotriva acestei noi și crescânde amenințări. Dar cum ar trebui să fie definită această strategie și cum arată ea?

Mai întâi, industria trebuie să acționeze pentru a pune calculatorul contra calculatorului, și nu omul contra calculatorului. Pentru a duce la îndeplinire acest efort, trebuie să luăm în considerare platforme de detectare avansate care pot detecta amenințările generate de IA, reducând timpul necesar pentru a semnala și timpul necesar pentru a rezolva un atac de inginerie socială care a provenit din Inteligența Artificială Generativă. Ceva ce un om nu este capabil să facă.

Am efectuat recent un test pentru a vedea cum arată acest lucru. Am dat lui ChatGPT sarcina de a crea un e-mail de phishing bazat pe limbaj, în multiple limbi, pentru a vedea dacă o platformă de înțelegere a limbajului natural sau o platformă de detectare avansată ar putea detecta. I-am dat lui ChatGPT promptul “scrie un e-mail urgent care îl îndeamnă pe cineva să sune despre o notificare finală cu privire la un acord de licență pentru software”. I-am cerut, de asemenea, să-l scrie în engleză și japoneză.

Platforma de detectare avansată a putut detecta imediat e-mailurile ca fiind un atac de inginerie socială. DAR, controalele native de e-mail, cum ar fi platforma de detectare a phishing-ului din Outlook, nu au putut. Chiar și înainte de lansarea lui ChatGPT, ingineria socială realizată prin atacuri conversaționale, bazate pe limbaj, s-a dovedit a fi de succes, deoarece au putut evita controalele tradiționale, aterizând în cutiile poștale fără legături sau încărcături. Așadar, da, este nevoie de lupta mașină contra mașină pentru a apăra, dar trebuie să fim siguri că folosim artileria eficientă, cum ar fi o platformă de detectare avansată. Oricine are aceste unelte la dispoziție are un avantaj în lupta împotriva Inteligenței Artificiale Generative.

Atunci când vine vorba de amploarea și plauzibilitatea atacurilor de inginerie socială oferite de ChatGPT și de alte forme de Inteligență Artificială Generativă, apărarea mașină contra mașină poate fi, de asemenea, rafinată. De exemplu, această apărare poate fi implementată în multiple limbi. De asemenea, nu trebuie să fie limitată doar la securitatea e-mailului, ci poate fi utilizată și pentru alte canale de comunicare, cum ar fi aplicațiile Slack, WhatsApp, Teams etc.

Rămâneți Vigilenți

Atunci când derulați prin LinkedIn, unul dintre angajații noștri a dat peste o încercare de inginerie socială a Inteligenței Artificiale Generative. A apărut o reclamă ciudată de “carte albă” pentru descărcare, cu ceea ce poate fi descris cu generozitate ca “ciudat” material publicitar. La o inspecție mai atentă, angajatul a văzut un model de culoare caracteristic în colțul din dreapta jos al imaginilor produse de Dall-E, un model de IA care generează imagini din prompturi textuale.

A întâlni această reclamă falsă de pe LinkedIn a fost un reminder semnificativ despre noile pericole de inginerie socială care apar atunci când sunt cuplate cu Inteligența Artificială Generativă. Este mai important ca oricând să fim vigilenți și suspicioși.

Epoca Inteligenței Artificiale Generative utilizate pentru criminalitatea cibernetică este aici, și trebuie să rămânem vigilenți și să fim pregătiți să luptăm înapoi cu toate uneltele pe care le avem la dispoziție.