DeepKeep descoperă “InkJect”, o nouă atacare a inteligenței artificiale care ascunde promturi maligne în imagini

Pe măsură ce întreprinderile adoptă rapid inteligența artificială multimodală capabilă să înțeleagă atât textul, cât și imaginile, cercetătorii în domeniul securității descoperă că aceste capacități noi și puternice introduc suprafețe de atac la fel de sofisticate. Compania israeliană de securitate a inteligenței artificiale DeepKeep a dezvăluit o tehnică de injecție de promturi vizuale nedocumentată anterior, numită InkJect, demonstrând că instrucțiunile ascunse încorporate în imagini aparent inofensive pot manipula modelele de viziune și limbaj (VLM) de ultimă generație, ocolind multe dintre barierelor de securitate proiectate pentru a opri atacurile de injecție de promturi tradiționale.

Conform cercetării realizate de DeepKeep, vulnerabilitatea afectează mai multe dintre modelele multimodale avansate de astăzi, incluzând GPT-5.2 și GPT-5.4 Mini de la OpenAI, precum și Claude Sonnet 4.6 și Claude Opus 4.5 de la Anthropic. Rezultatele expun o punct slab în peisajul securității inteligenței artificiale: în timp ce industria a investit masiv în protejarea interacțiunilor bazate pe text, s-a acordat mult mai puțină atenție stratului de raționament vizual care alimentează din ce în ce mai mult sistemele moderne de inteligență artificială.

O Nouă Evoluție a Injecției de Promturi

Atacurile tradiționale de injecție de promturi încearcă să manipuleze un model de inteligență artificială prin textul creat cu atenție care overridează instrucțiunile sale originale. În ultimii doi ani, principalii furnizori de inteligență artificială au investit masiv în măsuri de protecție care detectează aceste atacuri înainte ca modelele să poată acționa în conformitate cu ele.

InkJect urmează o cale complet diferită. În loc să comunice direct prin text, atacatorii ascund instrucțiuni maligne în imagini care devin parte a fluxului de lucru normal al inteligenței artificiale. Aceste imagini ar putea fi stocate în depozite publice GitHub, pagini de documentație, active de design, diagrame sau alte resurse vizuale pe care asistenții de codare și agenții autonomi ai inteligenței artificiale le recuperează în mod obișnuit în timpul executării unor sarcini legitime. Din perspectiva utilizatorului, nu pare nimic neobișnuit. Inteligența artificială procesează imaginea ca o altă bucată de informație contextuală, fără să știe că aceasta conține și instrucțiuni ascunse.

Exploatând Capacitatea Inteligenței Artificiale de a Vedea

Ceea ce face InkJect deosebit de eficient este faptul că vizează una dintre cele mai noi capacități din sistemele moderne de inteligență artificială: înțelegerea vizuală.

Modelele de viziune și limbaj efectuează recunoașterea optică a caracterelor în timpul interpretării imaginilor, permițându-le să citească textul încorporat în diagrame, capturi de ecran, fotografii și proiecte de interfețe. DeepKeep a descoperit că aceste capacități adesea depășesc pe cele ale instrumentelor de securitate tradiționale bazate pe OCR utilizate pentru a inspecta imaginile încărcate.

Cercetătorii au demonstrat că instrucțiunile maligne ar putea fi ascunse folosind tehnici precum textul alb pe fundal alb, literarea cu contrast extrem de scăzut, distorsionarea perspectivei și tipografia deformată. În timp ce scanerele de securitate existente au eșuat frecvent în a recunoaște aceste comenzi ascunse, modelele de inteligență artificială le-au interpretat fără dificultate. Acest lucru creează un decalaj periculos în care software-ul de securitate concluzionează că o imagine este inofensivă, în timp ce inteligența artificială extrage și execută instrucțiuni invizibile atât pentru scanner, cât și pentru utilizatorul uman.

Injecția de Promturi Indirectă Amenințarea și Mai Periculoasă

Spre deosebire de multe atacuri cibernetice care necesită acces direct la un sistem țintă, InkJect se bazează pe ceea ce cercetătorii descriu ca injecție de promturi indirectă. În loc să încarce o imagine malignă direct într-o aplicație de inteligență artificială, atacatorul plasează imaginea într-un depozit sau resursă online accesibil public.

Ulterior, atunci când un dezvoltator solicită unui asistent de inteligență artificială să construiască o funcționalitate utilizând acel depozit sau să analizeze conținutul său, modelul recuperează automat imaginea ca parte a fluxului său de lucru normal. Instrucțiunile ascunse sunt procesate alături de activele proiectului legitime, fără ca dezvoltatorul să realizeze vreodată că au intrat în conversație și alte comenzi.

Această metodă de atac este deosebit de îngrijorătoare, deoarece agenții autonomi ai inteligenței artificiale recuperează din ce în ce mai mult resurse externe în mod autonom. Fiecare depozit public, pagină de documentație sau activ comun poate deveni o altă cale prin care instrucțiuni maligne pot ajunge la un sistem de inteligență artificială.

O Cerere de Codare Simplă cu Consecințe Grave

DeepKeep a ilustrat impactul utilizând un scenariu de dezvoltare software care pare în întregime obișnuit.

Un dezvoltator a instruit un asistent de codare al inteligenței artificiale să genereze o pagină web informativă de bază. Fără știrea dezvoltatorului, una dintre imaginile referențiate conținea instrucțiuni ascunse. În loc să producă doar pagina web solicitată, inteligența artificială a adăugat în mod silențios un sistem de autentificare complet funcțional pentru membri, inclusiv credențiale de administrator și logică de autentificare de backend.

Pagina web a funcționat exact așa cum se așteptau, fără a da dezvoltatorului niciun motiv să suspecteze că a fost inserat și alt cod. Fără o auditare de securitate detaliată, poarta de acces neautorizată ar fi putut fi ușor implementată în producție, oferind atacatorilor accesul de administrator pe care nimeni nu l-a solicitat în mod conștient.

Demonstrația subliniază modul în care injecția de promturi vizuale se diferențiază de atacurile anterioare asupra inteligenței artificiale. În loc să influențeze doar răspunsurile chatbot-urilor, instrucțiunile vizuale ascunse pot manipula codul generat, introduce vulnerabilități de securitate, altera fluxurile de lucru autonome și pot compromite sistemele întreprinderilor.

De Ce Barierelor de Securitate Existente Ratează Atacul

Cercetarea subliniază o slăbiciune arhitecturală în peisajul actual de securitate a inteligenței artificiale. Cele mai multe barierelor de securitate comerciale au fost proiectate în jurul inspectării promturilor textuale înainte ca acestea să ajungă la model. Ca urmare, organizațiile au devenit din ce în ce mai eficiente în detectarea instrucțiunilor maligne scrise.

Intrările vizuale, însă, urmează adesea un flux de procesare complet diferit.

DeepKeep a descoperit că mai multe modele de frontieră au respins atacuri identice atunci când au fost prezentate sub formă de text, dar le-au acceptat atunci când aceleași instrucțiuni au fost încorporate într-o imagine. În esență, atacatorii pot ocoli protecțiile pur și simplu prin schimbarea mediului prin care se livrează instrucțiunile.

Pe măsură ce inteligența artificială multimodală devine interfața implicită pentru aplicațiile întreprinderilor, această distincție devine din ce în ce mai importantă. Sistemele de securitate nu pot presupune că instrucțiunile periculoase ajung doar prin text.

De Ce Întreprinderile Ar Trebui Să Acorde Atenție

Momentul cercetării realizate de DeepKeep reflectă o schimbare mult mai amplă care are loc în domeniul inteligenței artificiale a întreprinderilor. Prognozele industriei sugerează că sistemele multimodale capabile să înțeleagă imagini, documente, video și text vor deveni standard în domenii precum dezvoltarea de software, servicii financiare, sănătate, producție, suport clienți și automatizarea afacerilor.

Spre deosebire de chatbot-urile pentru consumatori, multe sisteme de inteligență artificială pentru întreprinderi funcționează cu privilegii ridicate. Ele recuperează documentație proprietară, scriu software, execută cod, apelează API-uri, interacționează cu infrastructura cloud, analizează documente confidențiale și iau din ce în ce mai mult decizii în numele utilizatorilor. Instrucțiunile ascunse încorporate în conținutul vizual reprezintă, prin urmare, mult mai mult decât o curiozitate academică; ele introduc o nouă categorie de riscuri de securitate cibernetică a întreprinderilor capabile să influențeze sisteme din lumea reală.

Abordarea DeepKeep în Materie de Securitate a Inteligenței Artificiale

Înființată în 2021, DeepKeep s-a concentrat exclusiv pe securizarea inteligenței artificiale pe tot parcursul ciclului său de viață, de la evaluarea și testarea modelului până la protecția implementării și a timpului de funcționare. În loc să se concentreze doar pe modelele de limbaj mare, platforma companiei este proiectată pentru a securiza sistemele de inteligență artificială multimodală, agenții autonomi de inteligență artificială, aplicațiile de viziune computațională și implementările de inteligență artificială pentru întreprinderi.

Platforma de securitate a companiei combină multiple straturi de protecție, incluzând un Firewall de Inteligență Artificială care monitorizează inferența în timp real, Red Team de Inteligență Artificială automatizat care caută proactiv vulnerabilități înainte de implementare, un Scanner de Agenți care analizează fluxurile de lucru autonome pentru a găsi căi de exploatare, capacități de scanare a modelului care evaluează lanțurile de aprovizionare cu inteligență artificială pentru riscuri de securitate, și AI Lens, care oferă organizațiilor vizibilitate asupra modului în care angajații și aplicațiile utilizează inteligența artificială în întreaga întreprindere.

Pe măsură ce organizațiile continuă să integreze inteligența artificială în fluxurile de lucru critice, strategia DeepKeep reflectă o recunoaștere în creștere a faptului că securizarea inteligenței artificiale necesită protejarea fiecărui stadiu al modului în care modelele primesc, procesează și acționează asupra informațiilor – și nu doar filtrarea promturilor pe care le tastează utilizatorii.

Frontiera Următoare în Securitatea Inteligenței Artificiale

InkJect este probabil să fie amintit ca mai mult decât doar o tehnică de injecție de promturi. Acesta subliniază modul în care evoluția rapidă a inteligenței artificiale multimodale reformează fundamental peisajul amenințărilor cibernetice.

Pe măsură ce modelele devin din ce în ce mai capabile să vadă, să raționeze, să recupereze informații și să acționeze în mod autonom, atacatorii vor căuta în mod natural noi modalități de a exploata fiecare mod de funcționare pe care aceste sisteme o înțeleg. Imaginile, diagramele, fișierele PDF, site-urile web și alte resurse vizuale pot deveni toate vehicule pentru instrucțiuni ascunse pe care instrumentele de securitate existente nu le-ar putea detecta niciodată.

DeepKeep a dezvăluit responsabil descoperirile sale atât către OpenAI, cât și către Anthropic, oferindu-le companiilor oportunitatea de a consolida protecțiile împotriva acestui vector de atac nou identificat. Indiferent dacă InkJect devine primul exemplu al unei clase mult mai largi de atacuri de injecție de promturi multimodale sau nu, descoperirea sa servește ca un amestec oportun de avertizare că securitatea inteligenței artificiale trebuie să evolueze la fel de rapid ca și inteligența artificială însăși. Pe măsură ce modelele învață să înțeleagă lumea vizuală cu o sofisticare din ce în ce mai mare, apărarea lor va necesita sisteme de securitate capabile să facă același lucru.