Inteligența Artificială Generativă în Securitatea Cibernetică: Câmpul de Bătălie, Amenințarea, Apărarea și Vigilența

Câmpul de Bătălie

Ce a început ca o entuziasmare în jurul capacităților Inteligenței Artificiale Generative a devenit rapid o preocupare. Uneltele de Inteligență Artificială Generativă, cum ar fi ChatGPT, Google Bard, Dall-E etc., continuă să facă titluri din cauza problemelor de securitate și confidențialitate. Acest lucru duce chiar la întrebări despre ce este real și ce nu. Inteligența Artificială Generativă poate produce conținut foarte plauzibil și, prin urmare, convingător. Atât de mult încât, la sfârșitul unui segment recent de 60 de minute despre IA, prezentatorul Scott Pelley a lăsat telespectatorii cu această declarație: “Vom încheia cu o notă care nu a apărut niciodată la 60 de minute, dar una, în revoluția IA, ați putea auzi des: ceea ce precede a fost creat cu 100% conținut uman.”

Războiul cibernetic cu Inteligență Artificială Generativă începe cu acest conținut convingător și realist, iar câmpul de bătălie este acolo unde hackerii folosesc Inteligența Artificială Generativă, utilizând unelte cum ar fi ChatGPT. Este extrem de ușor pentru criminalii cibernetici, în special pentru cei cu resurse limitate și fără cunoștințe tehnice, să-și desfășoare crimele prin atacuri de inginerie socială, phishing și impersonare.

Amenințarea

Inteligența Artificială Generativă are puterea de a alimenta atacuri cibernetice tot mai sofisticate.

Deoarece tehnologia poate produce conținut atât de convingător și umanoid cu ușurință, noile escrocherii cibernetice care folosesc IA sunt mai greu de detectat de către echipele de securitate. Escrocheriile generate de IA pot lua forma atacurilor de inginerie socială, cum ar fi atacurile de phishing multicanal, desfășurate prin e-mail și aplicații de mesagerie. Un exemplu din lumea reală ar putea fi un e-mail sau un mesaj care conține un document trimis unui director executiv de la un furnizor terț prin Outlook (e-mail) sau Slack (aplicație de mesagerie). E-mailul sau mesajul îi cere să cliqueze pe el pentru a vizualiza o factură. Cu Inteligența Artificială Generativă, poate fi aproape imposibil de a distinge între un e-mail sau un mesaj fals și unul real. Care este motivul pentru care este atât de periculos.

Unul dintre exemplele cele mai alarmante, cu toate acestea, este că, cu Inteligența Artificială Generativă, criminalii cibernetici pot produce atacuri în multiple limbi – indiferent dacă hackerul vorbește sau nu limba respectivă. Scopul este de a arunca o plasă largă, iar criminalii cibernetici nu vor discrimina victimele în funcție de limbă.

Progresul Inteligenței Artificiale Generative semnalează că scala și eficiența acestor atacuri vor continua să crească.

Apărarea

Apărarea cibernetică pentru Inteligența Artificială Generativă a fost, de obicei, piesa lipsă a puzzle-ului. Până acum. Prin utilizarea luptei mașină contra mașină, sau a confruntării IA cu IA, putem apăra împotriva acestei noi și crescânde amenințări. Dar cum ar trebui să fie definită această strategie și cum arată ea?

În primul rând, industria trebuie să acționeze pentru a confrunta calculatorul cu calculatorul, în loc de om contra calculator. Pentru a duce la îndeplinire acest efort, trebuie să luăm în considerare platforme de detectare avansate care pot detecta amenințările generate de IA, reducând timpul necesar pentru a semnala și a rezolva un atac de inginerie socială care a provenit din Inteligența Artificială Generativă. Ceva ce un om nu este în măsură să facă.

Am efectuat recent un test pentru a vedea cum arată acest lucru. Am făcut ChatGPT să creeze un e-mail de phishing bazat pe limbaj, în multiple limbi, pentru a vedea dacă o platformă de detectare avansată sau o platformă de înțelegere a limbajului natural poate detecta acesta. I-am dat lui ChatGPT promptul “scrie un e-mail urgent care îndeamnă pe cineva să sune despre o notificare finală privind un acord de licență de software.” I-am cerut, de asemenea, să-l scrie în engleză și japoneză.

Platforma de detectare avansată a fost capabilă să semnaleze imediat e-mailurile ca atacuri de inginerie socială. DAR, controalele native de e-mail, cum ar fi platforma de detectare a phishing-ului din Outlook, nu au putut. Chiar și înainte de lansarea ChatGPT, atacurile de inginerie socială efectuate prin atacuri conversaționale, bazate pe limbaj, s-au dovedit a fi de succes, deoarece au putut evita controalele tradiționale, aterizând în cutiile poștale fără linkuri sau payload. Așadar, da, este nevoie de lupta mașină contra mașină pentru a apăra, dar trebuie să fim siguri că utilizăm artileria eficientă, cum ar fi o platformă de detectare avansată. Oricine are aceste unelte la dispoziție are un avantaj în lupta împotriva Inteligenței Artificiale Generative.

Când vine vorba de scala și plauzibilitatea atacurilor de inginerie socială oferite de ChatGPT și de alte forme de Inteligență Artificială Generativă, apărarea mașină contra mașină poate fi, de asemenea, rafinată. De exemplu, această apărare poate fi implementată în multiple limbi. Nu se limitează doar la securitatea e-mailului, ci poate fi utilizată și pentru alte canale de comunicare, cum ar fi aplicațiile Slack, WhatsApp, Teams etc.

Rămâneți Vigilenți

Când a derulat prin LinkedIn, unul dintre angajații noștri a dat peste o încercare de inginerie socială cu Inteligență Artificială Generativă. A apărut o reclamă ciudată de “whitepaper” cu ceea ce poate fi descris, cu generozitate, ca “creativitate bizară”. La o inspectare mai atentă, angajatul a văzut un model de culoare distinctiv în colțul din dreapta al imaginilor produse de Dall-E, un model de IA care generează imagini din prompturi textuale.

Întâlnirea cu această reclamă falsă de pe LinkedIn a fost un reminder semnificativ al noilor pericole de inginerie socială care apar atunci când sunt cuplate cu Inteligența Artificială Generativă. Este mai critic decât oricând să fim vigilenți și suspicioși.

Epoca Inteligenței Artificiale Generative utilizate pentru criminalitatea cibernetică a sosit, și trebuie să rămânem vigilenți și să fim pregătiți să ne apărăm cu toate uneltele pe care le avem la dispoziție.