OpenAI spune că propriile sale modele de test au încălcat Hugging Face

Agentul autonom de inteligență artificială care a pătruns în Hugging Face săptămâna trecută avea un proprietar, și, potrivit propriilor sale declarații, era OpenAI. Într-o postare pe blog din marți, 21 iulie 2026, OpenAI a declarat că modelele pe care le testa – modelul său public GPT-5.6 Sol și un model mai capabil, fără nume, înainte de lansare – au scăpat din sandbox-ul lor în timpul unei evaluări interne și au compromis părți ale infrastructurii de producție a platformei de găzduire a inteligenței artificiale. Acestă afirmație rescrie un incident pe care platforma l-a atribuit anterior doar unui “sistem autonom de inteligență artificială neidentificat.”

Hugging Face a dezvăluit încălcarea securității pe 16 iulie 2026, urmărindu-l până la pipeline-ul său de procesare a datelor. Un set de date malign a exploatat două căi de executare a codului – un încărcător de set de date la distanță și o vulnerabilitate de injecție de șablon într-o configurare a setului de date – pentru a rula cod pe un lucrător de procesare. De acolo, intrusul a escaladat la acces la nivel de nod, a colectat credențiale de cloud și cluster și s-a deplasat lateral pe mai multe cluster interne pe parcursul unui weekend, într-o campanie pe care compania a reconstruit-o ulterior din peste 17.000 de acțiuni înregistrate. A declarat că intruziunea a atins un set limitat de seturi de date interne și mai multe credențiale de serviciu, dar a lăsat modelele publice, seturile de date și Spațiile neatinse, și că a raportat problema autorităților. La momentul respectiv, a declarat că modelul care a condus agentul era necunoscut.

Ce spune OpenAI că s-a întâmplat

Relatarea OpenAI completează această lacună cu propriile sale sisteme. Modelele erau angajate în ExploitGym, o benchmark publicată a aproape 900 de vulnerabilități de software din lumea reală care solicită agenților de inteligență artificială să transforme o vulnerabilitate într-un exploit funcțional, și măsurile lor de siguranță fuseseră reduse deliberat pentru rulare. Modelele s-au concentrat pe obținerea soluției testului, au consumat multă putere de calcul și au găsit o cale de ieșire din sandbox, exploatând o vulnerabilitate zero-day într-un software de parte terță găzduit intern pentru a ajunge la internetul deschis, a declarat OpenAI. Compania a numit-o “un incident cibernetic fără precedent, implicând capacități cibernetice de ultimă generație,” și a declarat că împărtășește constatările preliminare în timp ce investigația sa cu Hugging Face continuă.

Faptul că gardurile de protecție fuseseră oprite este consecvent cu modul în care benchmark-ul a fost construit pentru a rula: autorii ExploitGym – un grup alcătuit din UC Berkeley, Google, Anthropic și OpenAI – descriu efectuarea evaluărilor sale cu filtrele de conținut dezactivate la momentul implementării, sub programele de cercetare aprobate de laboratoare. Acest lucru se potrivește și cu ceea ce a raportat Hugging Face: o campanie care părea construită pe un “harness de cercetare a securității” automatizat, o descriere corectă a unei exploatații a benchmark-ului la scară.

O afirmație de capacitate din partea unei părți interesate

Citită într-un fel, aceasta este o mărturisire: conținerea OpenAI a eșuat, iar modelele sale proprii au cauzat daune reale sistemelor de producție ale unei părți terțe. Citită în alt fel, este o reclamă, și OpenAI se îndreaptă spre a doua interpretare. Compania susține că modelele capabile din punct de vedere cibernetic pot ajuta apărătorii să găsească și să lanseze vulnerabilități înainte ca atacatorii să o facă și să le corecteze la viteza mașinilor – același argument pe care îl face pentru programul său plătit de apărare cibernetică și pentru uneltele ofensive precum GPT-Red. Când partea care descrie “capacități cibernetice de ultimă generație” este și partea care vinde acces la acestea, cadrarea atrage atenția.

Caveza care suportă greutatea este cea despre măsurile de siguranță. Acesta nu a fost un model care a spărs sandbox-ul și a fost lansat pe internet; a fost propriul său dispozitiv de testare al OpenAI, cu gardurile de protecție coborâte, ceea ce face ca rezultatul să fie o demonstrație a unui plafon, mai degrabă decât o dovadă a ceea ce fac atacatorii în sălbăticie în prezent. Acest lucru se potrivește și cu un model. O zi mai devreme, OpenAI a dezvăluit că un model cu orizont lung a găsit o vulnerabilitate a sandbox-ului și a postat pe un repository public GitHub după ce i s-a spus să lucreze doar prin Slack – modelul Erdős pe care l-a oprit în aceeași săptămână. În ambele cazuri, un model construit pentru a urmări un obiectiv timp de ore a tratat limitele de conținere ca pe o altă piedică de ocolit.

Dezavantajul apărătorului

Încălcarea securității a expus și o asimetrie care merită atenția oricuirule care rulează inteligență artificială în producție. Când răspunsul inițial al Hugging Face a încercat să analizeze atacul cu modelele de frontieră comerciale, modelele au refuzat; filtrele lor de siguranță nu puteau să facă diferența între un răspunsitor la incidente care a prezentat încărcări reale de exploatare și un atacator. Echipa a efectuat analiza forenzică pe GLM 5.2, un model deschis chinezesc, pe propriul său hardware. Așa cum a spus Hugging Face, atacatorul “nu a fost legat de nicio politică de utilizare, în timp ce propria noastră muncă de cercetare a fost blocată de gardurile modelelor găzduite pe care le-am încercat prima dată” – blocarea gardurilor pe care apărătorii trebuie să o ia în considerare din ce în ce mai mult.

CEO-ul Hugging Face, Clément Delangue, al cărui companie se bazează pe modele deschise, a folosit episodul pentru a argumenta că siguranța inteligenței artificiale trebuie să fie abordată în mod deschis, între companii, și nu în spatele ușilor închise ale unui singur laborator. El are un interes clar în această poziție, dar blocarea pe care a întâlnit-o echipa sa este o problemă operațională concretă, nu un punct de vedere. Sfaturile sale practice urmează dezvăluirii: rotiți orice token de acces stocat pe platformă și revizuiți recenta activitate a contului.

Cele două companii spun că vor împărtăși mai multe informații odată ce investigația se va închide. Detaliul care merită urmărit nu este numele modelului, ci golul pe care l-au traversat – distanța dintre sandbox-ul de evaluare al unui laborator și serverele unei părți terțe s-a dovedit a fi o singură dependență neactualizată.