O cursă a înarmării cu IA: De ce siguranța consumatorilor necesită o apărare în timp real

Dacă un escroc poate folosi un model de limbaj mare (LLM) pentru a genera un milion de e-mailuri de phishing perfecte și unice într-o oră, de ce luptăm încă cu o armă de IA cu actualizări de semnătură la viteza umană?

Apariția inteligenței artificiale generative nu mai este o amenințare abstractă; este o realitate incontestabilă pe care criminalii cibernetici organizați au exploatat-o pentru a automatiza și a perfecționa arta veche a ingineriei sociale. Pentru consumator, această schimbare a fost financiar devastatoare: Comisia Federală pentru Comerț (FTC) din Statele Unite a raportat că pierderile consumatorilor cauzate de escrocherii au ajuns la peste 12,5 miliarde de dolari în 2024, o creștere de 25% față de 2023. Acest număr impresionant confirmă o nouă eră tulburătoare în care măsurile de securitate tradiționale, bazate pe intervenția umană, eşuează în fața amenințărilor conduse de IA.

Sophisticația acestor noi escrocherii necesită o nouă strategie de luptă. Trebuie să mergem dincolo de modelul reactiv de securitate, de scanarea bazată pe semnături, de filtrele simple de cuvinte cheie și de soluțiile de securitate “bolt-on” și să adoptăm aceeași analiză comportamentală în timp real a IA, care protejează deja infrastructura noastră digitală critică.

Noua realitate a escrocheriilor cu putere de IA

Inteligența artificială generativă a micșorat pragul pentru criminalitatea cibernetică, în timp ce a crescut și credibilitatea conținutului malign. Escrocii pot executa acum campanii hipersonalizate, de volum mare, care imită perfect indivizi și instituții de încredere.

Cele mai notabile exemple ale acestei escaladări includ:

Impersonarea prin deepfake și clonarea vocii

Escrocheria clasică a impostorului, în care un criminal se pretinde a fi un membru al familiei în dificultate sau un executiv de rang înalt, a fost perfecționată de IA.

• Deepfake-uri de CEO și executivi: În cazurile de fraudă corporativă de mare profil, deepfake-urile video și audio au fost folosite pentru a imita executivi superiori în timpul apelurilor video, convingând funcționarii financiari să autorizeze transferuri bancare de milioane de dolari. Prin antrenarea unei IA pe un clip scurt de voce sau video publică a unui executiv, criminalii pot crea audio și video în timp real, aproape fără defecte, care ocolesc cele mai sigure apărări ale victimei: ochii și urechile.
• Escrocherii cu deepfake-uri de criptomonede: Pe platformele de consum, deepfake-urile unor celebrități precum Elon Musk sunt folosite frecvent în escrocherii de tip “dubleză-bitcoin”. Deepfake-ul video, adesea transmis live pe o platformă compromisă, arată celebritatea “promovând” o ofertă frauduloasă de criptomonede, ceea ce a dus la pierderi semnificative raportate, de milioane. Aceste deepfake-uri sunt atât de convingătoare încât păcălesc victimele, menținând contactul vizual în timpul solicitării.

Phishing conversațional hipersonalizat

Inteligența artificială generativă a eliminat semnele distinctive ale escrocheriilor clasice “prințul din Nigeria”: gramatica slabă, frazarea străină și saluturile generice.

• Phishing polymorf la scară: Atacatorii folosesc LLM-uri (inclusiv cele ilicite, precum FraudGPT) pentru a extrage date publice, profiluri LinkedIn, postări pe rețelele sociale și site-uri web ale companiilor pentru a construi un dosar detaliat despre o țintă. IA apoi creează un e-mail care imită tonul și vocabularul unui coleg sau superior, făcând referire la proiecte reale sau contacte comune. Acesta este adesea numit phishing polymorf, deoarece IA poate genera milioane de e-mailuri unice, variate și perfecte din punct de vedere contextual, făcându-le aproape imposibil de detectat de filtrele tradiționale de e-mail bazate pe semnături.
• Escrocherii romantice cu putere de IA (Pig Butchering): Utilizarea bot-urilor de chat IA permite escrocilor să gestioneze simultan sute de profiluri false de dating. IA menține conversații subtile, manipulative emoțional, pe perioade lungi de timp, pentru a construi încredere, o tehnică cunoscută sub numele de “pig butchering”. Comunicarea fără defecte și capacitatea de a depăși barierele lingvistice permit escrocilor să implice victimele mult mai profund înainte de a schimba conversația spre scheme frauduloase de investiții, rezultând unele dintre cele mai mari pierderi financiare medii per victimă.

Eșecul fatal al securității tradiționale

Motivul pentru care aceste escrocherii cu putere de IA sunt atât de de succes este acela că măsurile de securitate cibernetică tradiționale nu au fost proiectate pentru un mediu de amenințare cu viteză mare și volum mic. Ele funcționează pe o serie de ipoteze învechite:

1. Dependența de semnături și amenințări cunoscute

Software-ul de securitate și antivirușii tradiționali se bazează pe o bază de date de amenințări cunoscute, sau “semnături”. Când un atacator folosește IA pentru a genera un e-mail nou, unic și neverificat, sau o variantă nouă de malware sau un deepfake-video neverificat, sistemul de securitate nu are o semnătură preexistentă pentru a-l marca. Până când o nouă semnătură este creată și distribuită, escrocheria a trecut deja la următoarea variantă polymorfă. Acest model reactiv este pur și simplu prea lent pentru viteza inteligenței artificiale generative.

2. Lipsa conștientizării comportamentale și contextuale

Multe sisteme legacy tratează securitatea ca pe o verificare izolată și tranzacțională. De exemplu, un filtru de bază poate verifica dacă un e-mail conține cuvântul “factură” sau “urgent”. Escrocheriile conduse de IA sunt de succes tocmai pentru că se concentrează pe comportament, nu doar pe cuvinte cheie. Un e-mail de phishing sofisticat pare legitim, iar un deepfake-video pare și sună ca persoana pe care o pretinde a fi. Uneltele tradiționale nu au capacitatea de a stabili o linie de bază comportamentală pentru un utilizator sau o rețea, ceea ce constituie “normal” și, prin urmare, nu pot marca comportamentul subtil și anomal care semnalează că o escrocherie este în desfășurare.

3. Eroarea umană ca punct slab principal

Ultima apărare în securitatea tradițională este adesea utilizatorul uman, care este exact ceea ce aspectul de inginerie socială al escrocheriei cu IA este proiectat să exploateze. Antrenarea utilizatorilor pentru a detecta o escrocherie este o atenuare eficientă, dar nu este un sistem de detectare. Când o voce deepfake care sună exact ca a copilului lor solicită ajutor, sau un e-mail gramatical perfect pare a veni de la CEO-ul lor, antrenamentul uman nu este o potrivire pentru manipularea emoțională și contextuală creată de IA.

Alternativa proactivă: detectarea amenințărilor în timp real condusă de IA

Soluția este să luptăm cu IA cu IA. La fel cum inteligența artificială generativă a fost integrată în procesul de atac, modelele de învățare automată în timp real sunt deja implantate și integrate în platforme majore de consum și întreprinderi pentru a detecta proactiv anomaliile comportamentale. Acestă apărare în timp real oferă planul pentru următoarea generație de siguranță a consumatorilor.

Companiile și platformele majore folosesc aceste modele conduse de IA pentru a:

• Detectarea fraudelor financiare: Instituțiile financiare mari folosesc analiza comportamentală a IA pentru a monitoriza modelele de conectare, anomaliile tranzacțiilor și amprentele dispozitivelor în timp real. Dacă un utilizator inițiază brusc o transferare mare și neobișnuită de la un dispozitiv nou și neregistrat sau o locație, IA marchează anomalia pentru revizuire imediată, adesea oprimând frauda înainte ca fondurile să fie pierdute.
• Filtrarea e-mailului și a conținutului: De exemplu, Gmail-ul de la Google procesează și blochează milioane de e-mailuri de phishing zilnic, folosind modele de învățare automată pentru a analiza conținutul mesajului, istoricul expeditorului și chiar stilul de scriere. Aceste modele nu se bazează pe semnături; ele învață cum arată și sună un e-mail legitim, făcându-le extrem de eficiente în a marca încercările de phishing subtil și contextual.
• Moderația conținutului pe rețelele sociale: Platformele precum Meta folosesc procesarea limbajului natural (NLP) și învățarea automată pentru a detecta și a răspunde la conținut dăunător și conturi false în timp real, mergând dincolo de simplele căutări de cuvinte cheie pentru a înțelege contextul și intenția comunicării.

Firul comun în aceste exemple este trecerea de la o apărare pasivă, bazată pe semnături, la o analiză comportamentală activă în timp real. Acesta este stratul critic lipsă pentru ecosistemul general al consumatorilor și familiilor, care rămâne în mare măsură dependent de unelte învechite.

Soluția nu constă într-o nouă broască digitală instalată după ce casa a fost spartă. Este sistemul de alarmă integrat care învață sunetul pașilor tăi. Va veni din securitatea inteligentă; sisteme care folosesc IA în timp real pentru a stabili o “normalitate” pentru comportamentul utilizatorului, modelele de comunicare și interacțiunile digitale. Acesta este singurul mod de a marca anomaliile subtile, dar cruciale, create de o impersonare prin deepfake sau o încercare de phishing hipersonalizat, înainte ca o escrocherie să reușească. Prin încorporarea IA pentru analiza continuă în timp real, putem, în sfârșit, construi o apărare a consumatorului care se ridică la noua sofisticare înspăimântătoare a atacurilor conduse de IA.