Sunt afacerile pregătite pentru următoarea undă de atacuri cibernetice bazate pe inteligență artificială?

Analizarea tendințelor actuale permite experților să prevadă modul în care criminalii cibernetici vor utiliza inteligența artificială în viitor. Cu această informație, ei pot identifica cele mai mari amenințări emergente și determina dacă afacerile sunt pregătite. Ei pot chiar să descopere o soluție.

Starea amenințărilor bazate pe inteligență artificială în ultimii ani

Deși tehnologia inteligenței artificiale este relativ nouă, ea a devenit deja un instrument proeminent pentru hackeri. Aceste tendințe sugerează că atacurile cibernetice bazate pe inteligență artificială sunt în creștere.

1. Manipularea modelului

Prin vizarea directă a modelelor de limbaj mare (LLM), actorii amenințării pot manipula comportamentul modelului, scădea acuratețea ieșirii sau expune date personale de antrenament. Otrăvirea datelor și ingineria promptelor sunt tehnici de atac comune.

Unele atacuri sunt conduse de actori amenințării care încearcă să cauzeze haos sau să fure informații sensibile. Altele sunt administrate de artiști nemulțumiți care doresc să protejeze opera lor de artă de la extragerea de către inteligența artificială. În orice caz, compania și utilizatorii săi finali sunt afectați negativ.

2. Atacuri de impersonare

În 2024, un executiv Ferrari a primit mai multe mesaje WhatsApp de la directorul general, Benedetto Vigna. Vigna a vorbit despre o achiziție iminentă și a îndemnat angajatul să semneze un acord de confidențialitate. El a chemat chiar să discute despre finanțare. A existat o problemă — nu era el.

Deepfake-ul a fost aproape perfect, imitând accentul sud-italian al lui Vigna în mod excepțional. Cu toate acestea, incoerențe ușoare în voce l-au avertizat pe executiv cu privire la escrocherie. Angajatul a întrebat despre titlul unei cărți pe care Vigna o recomandase cu câteva zile înainte, o întrebare la care doar directorul general adevărat ar fi putut răspunde. Escrocul a închis imediat.

Inteligența artificială poate clona vocea unei persoane, comportamentul de navigare, stilul de scriere și asemănarea. Pe măsură ce această tehnologie evoluează, identificarea deepfake-urilor devine din ce în ce mai dificilă. Escrocii pun adesea ținta într-o situație urgentă pentru a-i împiedica să pună întrebări cu privire la incoerențe minore.

3. Phishing-ul bazat pe inteligență artificială

În trecut, o persoană putea identifica un e-mail de phishing prin căutarea unor greșeli de gramatică, linkuri suspecte, saluturi generice și solicitări incompatibile. Acum, cu tehnologia de procesare a limbajului natural, hackerii pot crea mesaje convingătoare cu o gramatică impecabilă.

Cercetătorii au descoperit că e-mailurile de phishing automate și bazate pe inteligență artificială au un răspuns de 54%, ceea ce este la fel ca și în cazul e-mailurilor de phishing scrise de oameni. Deoarece aceste escrocherii sunt mai convingătoare, ele devin din ce în ce mai comune. Studii au arătat că peste 80% din e-mailurile de phishing prezintă dovezi de implicare a inteligenței artificiale.

4. Ingineria socială

Ingineria socială implică manipularea cuiva pentru a lua o acțiune sau a divulga informații. Inteligența artificială permite hackerilor să răspundă mai rapid și să creeze mesaje mai convingătoare. Orice model de procesare a limbajului natural poate efectua o analiză semantică pentru a identifica starea emoțională a destinatarului, făcându-l mai probabil să cedeze.

În plus față de îmbunătățirea tehnicilor de inginerie socială, tehnologia de învățare automată reduce barierele tradiționale de intrare, permițând noviceilor să desfășoare campanii sofisticate. Dacă oricine poate deveni un criminal cibernetic, oricine poate deveni o țintă.

Următoarea undă de atacuri cibernetice bazate pe date și inteligență artificială

La începutul anului 2026, se așteaptă ca atacurile bazate pe inteligență artificială să rămână la un nivel de maturitate scăzut. Cu toate acestea, ele vor evolua exponențial pe parcursul anului, permițând criminalilor cibernetici să intre în etapele de optimizare, implementare și scalare. Ei vor putea lansa în curând campanii complet automate. Exemplele confirmate de atacuri cibernetice bazate pe inteligență artificială nu vor fi rare pentru mult timp.

Malware-ul polimorfic este un virus bazat pe inteligență artificială care poate schimba codul său la fiecare replicare pentru a evita detectarea. Atacatorii pot livra payload-ul prin ecosisteme de inteligență artificială, apela la LLM-uri la runtime pentru a genera comenzi sau încorpora direct virusul în LLM. Grupul de Intelligence al Amenințărilor Google a descoperit că adversarii au implementat acest malware pentru prima dată în 2025.

Familiile de malware sunt PROMPTFLUX și PROMPTSTEAL. În timpul execuției, ele utilizează LLM-uri pentru a solicita tehnici de evaziune și otrăvire a scripturilor VB. Ele evitează detectarea bazată pe semnătură prin ofuscare a codului propriu la cerere.

Dovezile sugerează că aceste amenințări sunt încă în faza de testare — unele caracteristici incomplete sunt comentate, iar apelurile de programare a aplicațiilor sunt limitate. Aceste familii de malware bazate pe inteligență artificială pot fi încă în dezvoltare, dar existența lor reprezintă un pas uriaș în direcția tehnicilor de atac autonome și adaptabile.

Cercetarea NYU Tandon arată că LLM-urile pot executa deja în mod autonom atacuri de ransomware, denumite Ransomware 3.0. Ele pot efectua recunoașterea, genera payload-uri și personaliza șantajul fără implicarea umană. Acest lucru nu necesită decât prompturi de limbaj natural încorporate în binar. Modelul produce variante polimorfice care se adaptează la mediul de execuție prin generarea dinamică a codului malign la runtime.

Sunt afacerile pregătite pentru atacurile bazate pe inteligență artificială?

În ciuda cheltuielilor de miliarde în securitate cibernetică, afacerile private continuă să lupte pentru a ține pasul cu evoluția peisajului amenințărilor. Tehnologia de învățare automată poate face ca software-ul de detectare și răspuns existent să devină învechit, complicând și mai mult apărarea. Nu ajută deloc faptul că multe afaceri nu respectă standardele de securitate de bază.

Raportul de maturitate în securitate cibernetică DIB din 2024 a chestionat 400 de profesioniști în domeniul tehnologiei informației din baza industrială de apărare a Statelor Unite (DIB). Peste jumătate dintre respondenți au raportat că se află la ani distanță de certificarea CMMC 2.0, în ciuda faptului că echivalentul conformității NIST 800-171 a fost prevăzut în contractele Departamentului Apărării (DoD) din 2016. Multe afaceri își evaluează poziția de securitate ca fiind mult mai bună decât este în realitate.

Este inteligența artificială defensivă răspunsul?

Lupta împotriva incendiilor cu foc poate fi singurul mod de a combate valul inevitabil de atacuri bazate pe inteligență artificială. Cu inteligența artificială defensivă, organizațiile pot răspunde dinamic la amenințări în timp real. Cu toate acestea, această abordare vine cu propriile sale vulnerabilități de securitate — securizarea modelului împotriva manipulării va necesita supraveghere și audit continuu.

Conform Harvard Business Review, soluțiile convenționale lasă afacerile vulnerabile la atacurile cibernetice bazate pe inteligență artificială. Pentru a atinge reziliența cibernetică, acestea trebuie să utilizeze tehnologia de învățare automată pentru a anticipa și răspunde automat la amenințări.

Nu există un răspuns simplu la întrebarea dacă inteligența artificială defensivă este soluția la această problemă. Ar trebui companiile să-și aloce resursele pentru a implementa instrumente de învățare automată nevalidate sau pentru a-și extinde echipele de tehnologie a informației? Este imposibil de prezis care investiție va fi rentabilă pe termen lung.

Întreprinderile mari pot obține beneficii semnificative cu securitatea cibernetică automatizată, în timp ce afacerile mici ar putea lupta pentru a justifica costul. Tehnologia de automatizare convențională poate închide breșa la un preț mult mai mic, dar nu va putea răspunde la amenințări dinamice.

Steve Durbin, directorul general al Forumului de Securitate a Informației, afirmă că adoptarea inteligenței artificiale are beneficii semnificative, dar are și dezavantaje majore. De exemplu, afacerile experimentează adesea o creștere a alertelor false pozitive, ceea ce irosește timpul echipelor de securitate. Mai mult, dependența excesivă de inteligența artificială poate duce la lapsusuri de securitate, întrucât echipele pot deveni prea încrezătoare.

Navigarea în peisajul amenințărilor bazate pe inteligență artificială

Este imposibil de determinat exact amploarea prezenței inteligenței artificiale în peisajul amenințărilor, deoarece atacatorii pot utiliza această tehnologie pentru a crea cod malign sau pentru a redacta e-mailuri de phishing, mai degrabă decât pentru a o utiliza la runtime. Criminali cibernetici solitari și grupuri de amenințări sponsorizate de state ar putea utiliza această tehnologie la scară.

Pe baza informațiilor disponibile, manipularea modelului, phishing-ul bazat pe inteligență artificială și malware-ul polimorfic vor fi cele mai mari amenințări cibernetice din 2026. Criminalii cibernetici vor continua probabil să utilizeze LLM-uri pentru a genera, livra și adapta payload-uri maligne, țintind industrii cu valoare ridicată, cum ar fi finanțele, precum și persoane obișnuite.