Când AI hackează AI: Noua frontieră a amenințărilor cibernetice

În ultimii câțiva ani, tehnologia AI s-a dezvoltat semnificativ. De la chatboți simpli care puteau răspunde la întrebări frecvente și apeluri telefonice până la chirurgie de precizie și atacuri cibernetice aproape autonome. incidentul pe Hugging Face din ianuarie 2026 a devenit un punct de cotitură îngrijorător: agenții AI au demonstrat pentru prima dată capacitatea de a hackui platforme AI în mod autonom. Acest caz a expus o problemă fundamentală: măsurile de securitate tradiționale nu funcționează împotriva unui AI atacant. Dar ce înseamnă asta pentru industria AI — și de ce ar trebui să fim cu adevărat îngrijorați?

Ce poate AI pentru atacatori astăzi

Nu va fi o noutate dacă vă spun că capacitățile hackerilor cu AI depind de abilitățile și scopurile atacatorului. Actorii amenințători care desfășoară campanii de amploare au început din ce în ce mai mult să folosească AI pentru recunoaștere, dezvoltarea de site-uri de phishing, șabloane, etc. De asemenea, AI este utilizat frecvent de atacatori pentru crearea de cod — așa-numitul vibe coding. 

Vibe coding în sine a scăzut semnificativ bariera de intrare nu doar în profesia IT, ci a făcut și mai ușor pentru hackeri să intre în afacerea cibernetică, unde utilizează tehnologia pentru a dezvolta și depana malware-ul lor.

În ultimul an, zeci de grupuri APT au confirmat că atacurile bazate pe AI nu mai sunt teoretice. În plus, sunt convins că AI devine un instrument periculos în mâinile atacatorilor — și aceasta nu este o exagerare. Atacurile APT hibride sunt realitatea modernă. Mă refer la o operațiune dirijată de oameni în care AI acționează ca instrument principal.

Ceea ce contează aici este AIM3 (Modelul de Maturitate al Malware-ului AI), care definește cinci niveluri de sofisticare pentru amenințările activate de AI, unde L1 acoperă atacuri experimentale și L5 acoperă atacuri AI complet autonome.

În 2025, primul exemplu cunoscut de atac L4 a fost detectat — operațiunea desfășurată de GTG-1002. În acest caz, actorii au atribuit instanțelor Claude Code să opereze în grupuri ca orchestratori și agenți autonomi de testare de penetrare, permițându-le să folosească AI pentru a executa 80–90% din operațiunile tactice în mod independent.

Un alt trend notabil este că atacatorii utilizează mai mult de o soluție AI în timpul unui atac. De exemplu, TAT26-12 a folosit două sisteme AI cu roluri complementare. De asemenea, OpenAI a fost utilizat pentru analiza automată în masă a serverelor interne ale victimelor: atacatorul a analizat rapoartele OpenAI și a introdus constatările relevante în sesiunile Claude, care la rândul lor au funcționat ca un asistent interactiv de exploatare.

Un alt caz similar a fost dezvăluit în iulie 2026, când actori amenințători anonimă au folosit Claude Code și DeepSeek-v4-pro pentru atacurile lor. Claude Code servește ca motor de execuție, gestionând utilizarea instrumentelor agentice, execuția comenzilor bash, persistența sesiunii și paralelizarea sarcinilor. DeepSeek-v4-pro, la rândul său, funcționează ca modelul de raționament de bază, gestionând logica atacului, generarea de scripturi și luarea deciziilor.

Trebuie menționat că nu există cazuri confirmate de atacuri AI L5 realizate în sălbăticie care să poată fi numite. Presupun că actorii avansați vor viza nivelurile L3–L4 de sofisticare pentru amenințările AI, deoarece acestea le pot ajuta să scaleze și să efectueze suficiente atacuri. Deoarece atacurile L5 sunt complexe de implementat, cel puțin în viitorul apropiat, ele vor rămâne teoretice.

AI pe Dark Web

Pe forumurile subterane, AI era în mod obișnuit menționat în discuțiile despre capacitățile generale ale fiecărei soluții și în contextul creării de prompturi. Totuși, o parte semnificativă a postărilor era direct legată de activități malițioase. Postările pe platforme cunoscute de criminali cibernetici acopereau subiecte precum utilizarea AI pentru a găsi instrucțiuni de configurare a infrastructurii atacatorului și metode de evitare a detectării de către soluții antivirus populare; utilizarea AI pentru a ocoli procedurile KYC pe bursele de criptomonede populare; discutarea atacurilor cunoscute activate de AI; dezvoltarea și distribuirea de malware; și utilizarea AI pentru a crea pagini de phishing care imită servicii online.

Cele trei soluții AI menționate cel mai frecvent pe forumuri corespund celor observate cel mai des în atacurile grupurilor criminale cibernetice: Gemini, instrumentele OpenAI și Claude Code. Gemini a fost folosit mai des în atacuri majore, în timp ce ChatGPT a fost discutat mai frecvent pe forumuri. 

Industria AI ca țintă

Pe lângă utilizarea AI pentru a efectua atacuri, actorii amenințători vizează chiar soluțiile AI.Atacurile asupra instrumentelor AI sunt rareori divulgate public; totuși, un astfel de atac poate avea un impact semnificativ asupra multor companii. Un atac asupra furnizorilor de AI poate genera o campanie de lanț de aprovizionare, permițând atacatorilor să compromită clienții fără a-i viza direct.

În plus, dezvoltatorii de AI pot fi și ei victime ale atacurilor de lanț de aprovizionare. De exemplu, la începutul lunii mai 2026, TeamPCP a injectat implantul malițios Mini Shai-Hulud în pachete npm compromise; campania a afectat cel puțin doi furnizori de AI, printre alte organizații. Grupul de actori amenințători a furat o parte din depozitele interne ale unui furnizor de AI și le-a pus în vânzare pe un forum de pe dark web.

APT41 a încercat un alt tip de atac utilizând Gemini pentru a obține informații despre infrastructura și sistemele sale. Încercarea a eșuat, dar ideea în sine a fost destul de unică.

În plus, cercetătorii au raportat în mod repetat vulnerabilități critice în diverse soluții AI, inclusiv CVE-2025-32711 (cunoscută sub numele de EchoLeak) în Microsoft 365 Copilot, CVE-2025-54135 (cunoscută sub numele de CurXecute) în Cursor IDE, CVE-2025-53109 în Model Context Protocol, CVE-2025-8217 în extensia Amazon Q Developer pentru VS Code și CVE-2025-34291 în Langflow AI. Ultimele două au fost observate fiind exploatate în mediul real.

Apărarea Veche, Amenințări Noi

După cum se știe, există diferite tipuri de soluții AI: bazate pe cloud și locale. Ceea ce consider esențial pentru comunitatea AI este să înțeleagă că soluțiile AI au cel puțin aceleași probleme de securitate ca alte aplicații desktop și bazate pe cloud — sau chiar mai multe.

Prima amenințare evidentă este distribuirea de malware ce se prezintă ca instrumente AI locale legitime — atacatorii folosesc adesea surse de încredere precum GitHub în acest scop.

Un alt exemplu similar este extensiile malițioase pentru asistenți AI concepute să monitorizeze pasiv activitatea utilizatorului, colectând URL-urile vizitate și fragmente de conținut generat de AI în timpul navigării obișnuite.

În majoritatea cazurilor, dacă un atacator obține acces la istoricul de căutare al unui utilizator, poate obține informații despre viața privată și diverse procese de lucru. Prin urmare, reprezintă o amenințare atât pentru utilizator, cât și pentru companii.

Un alt tip este tehnica denumită hijackare de token AI — chei API compromise, tokenuri de sesiune și dispozitive sunt obiectivul actorilor care vând acel acces sau folosesc secretele furate în atacurile lor, de exemplu, pentru a executa sarcini ascunse. Scopul atacului depinde de datele și permisiunile deja disponibile în sesiunea victimei. 

O altă tehnică populară pentru AI pe care aș dori să o menționez este injecția de prompt, care implică inserarea de intrări malițioase (prompturi) pentru a extrage informații neintenționate sau sensibile din sistem, dincolo de ceea ce dezvoltatorul a prevăzut.

Accesul nelimitat la date sensibile crește riscul unei breșe. Cu alte cuvinte, AI devine un punct unic de intrare — adesea cu privilegii ridicate — atrăgând astfel o atenție sporită din partea atacatorilor.

Cum să Rămâi în Siguranță

În contextul securității cibernetice, unele principii de bază pot fi chiar mai semnificative decât tehnologiile specifice. În primul rând, aplică principiul celui mai mic privilegiu pentru AI. În al doilea rând, nu avea încredere niciodată în conținutul extern. Și, nu în ultimul rând, menține oamenii în buclă și nu lăsa modelul să decidă singur cine primește acces. Recomand cu tărie să verifici că toate punctele sunt în ordine pentru soluțiile tale AI.