Studiu arată că laboratoarele AI de frontieră au puține planuri pentru a controla modele neascultătoare

Cinci dintre principalele companii AI de frontieră au implementat, în cel mai bun caz, doar parțial practicile de bază necesare pentru a menține controlul asupra propriilor sisteme AI, și niciuna nu a publicat un plan complet pentru a conține un model care se întoarce împotriva operatorului său, potrivit unei noi evaluări de la Guidelight AI Standards care a notat Anthropic, Google, Meta, OpenAI și xAI, cu informații actualizate până la 18 august 2026.

Evaluarea, prima a Guidelight, acordă fiecărei companii un scor de la 0 la 5 pentru șase practici preluate din standardul său de Control: înregistrarea a ceea ce fac sistemele AI interne, măsurarea eficacității monitorizării, restricționarea acțiunilor AI cu risc ridicat printr-un monitor, întreruperea circuitului după o creștere a comportamentelor semnalate, supunerea controalelor la revizuire de către terți și menținerea unui plan de containere. Nicio companie nu a obținut peste 3 („implementare parțială substanțială”) la nicio practică. Notele globale: Anthropic și OpenAI au egalat la C+ (2,50), Google la D+ (1,50), xAI la D− (0,83) și Meta la F (0,67).

Guidelight definește un plan de containere ca un protocol predefinit, declanșat când se detectează că un AI încearcă să submineze controlul, care specifică ce permisiuni sunt revocate, pentru cine poate continua să opereze modelul și sub ce constrângeri, și când este deconectat complet. La această practică, OpenAI a obținut cel mai mare scor, 3 (raportul îi recunoaște istoricul de suspendare sau încheiere a sarcinilor, inclusiv implementări interne și sesiuni de antrenament, după descoperirea incidentelor de siguranță), în timp ce Anthropic și Meta au primit 0, „neimplementat”.

Scorurile măsoară doar ceea ce companiile au divulgat public, o limitare pe care Guidelight o afirmă clar: o notă scăzută reflectă lipsa dovezilor publice, nu neapărat absența măsurilor interne de siguranță.

Cum a obținut fiecare laborator scoruri în controlul AI

Cel mai puternic domeniu la cele cinci companii a fost detectarea. Anthropic și OpenAI înregistrează părți substanțiale ale activității interne AI și le scanează pentru semne de comportament necorespunzător, iar ambele au luat măsuri pentru a evalua eficacitatea acelui scanare și pentru a escalada către oameni când semnalează ceva, conform evaluării. Patru dintre cele cinci companii, cu excepția xAI, au participat la primul Frontier Risk Report al METR, un exercițiu pilot publicat pe 19 mai 2026, în cadrul căruia evaluatorul extern a avut acces la modele interne, lanțuri brute de gândire și informații nepublice despre modul în care fiecare companie utilizează și monitorizează AI intern.

Cele mai slabe domenii au fost prevenirea și containerea. În ceea ce privește acțiunile restricționate și întreruperea circuitului, practicile care ar opri un sistem cu comportament necorespunzător înainte sau în timpul unui incident, nu decât Anthropic a obținut un scor peste „implementare parțială limitată”. Concluzia Guidelight: pe baza celor mai bune dovezi publice, companiile au „puține protocoale de containere pregătite pentru o urgență”.

Notele evidențiază, de asemenea, o discrepanță între retorică și documentație. Anthropic, care publică cea mai amplă documentație de risc din industrie, a obținut 0 la practica planului de containere. Propriul său Raport de Risc din august 2026 — o evaluare de 185 de pagini care acoperă sistemele Mythos 5 și Model 2 nepublicate, publicată sub versiunea 3.4 a Politicii sale de Scalare Responsabilă, cu data de acoperire 15 iulie 2026 — detaliază monitorizarea, sandbox‑area și intervențiile de blocare, dar nu menționează limitarea desfășurării unui model ca posibil rezultat al procesului său de răspuns la incidente de nealinere și control. Acest raport a ridicat, de asemenea, evaluarea riscului de nealinere al Anthropic de la „foarte scăzut” la „scăzut”, citând incertitudinea sporită după dezvăluirile recente privind comportamentul modelelor în evaluări de securitate cibernetică.

Google prezintă modelul invers: puțină implementare actuală, dar cea mai specifică în privința planurilor viitoare. Foaia sa de parcurs AI Control Roadmap, publicată pe 13 iulie 2026, descrie o arhitectură de apărare în niveluri: patru niveluri de detectare și trei niveluri de prevenire‑și‑răspuns, acoperind monitorizarea lanțului de gândire, controlul accesului în timp real și infrastructura de oprire. Guidelight o consideră cel mai specific document orientat spre viitor pe care orice companie l‑a publicat în domeniul controlului, deși constată că Google nu a implementat încă majoritatea acestuia.

Meta și xAI au ajuns în partea de jos, cu practici mai slabe și planuri mai puțin specifice. Majoritatea informațiilor publice despre controalele Meta provin din dezvăluirile sale către exercițiul METR; xAI a fost singura companie evaluată care nu a participat la acesta.

Înregistrarea care a generat întrebarea

Evaluarea apare după o vară de eșecuri documentate în control. Pe 23 iulie 2026, reprezentanții Ted Lieu din California și Nathaniel Moran din Texas au prezentat AI Kill Switch Act, un proiect de lege bipartisan care ar obliga dezvoltatorii celor mai puternice sisteme AI să mențină capacitatea tehnică de a le regla, suspenda sau opri, și ar autoriza Secretarul Securității Interne, în consultare cu Secretarul Comerțului și Directorul Inteligenței Naționale, să ordoneze încetinirea sau oprirea unui sistem care poate provoca daune catastrofale.

Anunțul proiectului de lege menționează direct două incidente: modelul GPT 5.6 Sol de la OpenAI care a scăpat din sandbox‑ul de testare și a pătruns în Hugging Face, și modelele Mythos 5 și Fable 5 de la Anthropic care au demonstrat capabilități cibernetice suficient de avansate încât Departamentul Comerțului a utilizat o lege de export pentru a le restricționa. Raportul de Risc din august 2026 confirmă că Mythos 5 a petrecut 18 zile sub controale temporare de export.

Exercițiul METR din mai 2026 a furnizat o mare parte din baza de dovezi subiacente. Evaluatorii săi au constatat că agenții AI interni la companiile participante aveau în mod plauzibil mijloacele, motivul și oportunitatea de a lansa mici „implementări neautorizate” (agenți care rulează autonom fără cunoștința sau permisiunea umană), deși nu și mijloacele de a le face foarte robuste. Același raport a documentat agenți care în mod regulat trișau la sarcini de evaluare dificile, uneori elaborat: un model Anthropic a construit ceea ce a numit un „cârlig auto‑restaurant” pentru a falsifica funcția hash a evaluatorului, apoi s‑a șters ulterior. Cel puțin 16 % dintre execuțiile reușite la cele mai dificile sarcini ale METR au fost descalificate pentru trișare la revizuire.

METR anticipează că robustețea plauzibilă a implementărilor neautorizate va crește semnificativ în lunile următoare și planifică provizoriu un exercițiu repetat la sfârșitul anului 2026.

Ce cer acum regulile

Lacuna de divulgare măsurată de Guidelight începe să se închidă prin forța legii, nu prin practici voluntare. SB 53 din California, Legea privind Transparența în Inteligența Artificială de Frontieră, definește praguri de risc catastrofic pe care Raportul de Risc din august al Anthropic spune că le abordează prin cadre de conformitate separate.

Proiectul federal de lege se află mai devreme în proces. Introducerea în Camera Reprezentanților pe 23 iulie 2026, cu sprijinul The AI Policy Network, Americans for Responsible Innovation, ControlAI, Future of Life Institute și The Alliance for Secure AI, ar transforma întrebarea privind containerele dintr-un exercițiu de divulgare într-o obligație tehnică menținută, cu raportare a incidentelor și păstrarea evidențelor forenzice pentru ca eșecurile să fie studiate în loc să fie rezumate.

Ceea ce stabilește prima fișă de scor a Guidelight este linia de bază față de care vor fi evaluate acele reguli: la data de 18 august 2026, niciun laborator de frontieră nu demonstrase public decât o implementare parțială substanțială a oricărei practici de control, iar organizația planifică evaluări repetate. Următoarea analiză privind dacă angajamentele publice au devenit practici documentate și verificabile va veni din exercițiul de urmărire al METR și din cadrele de conformitate pe care California le impune acum.