OpenAI implementează Control Room pentru a opri generarea de răspunsuri de către modelele de cercetare

OpenAI a prezentat Control Room pe 9 noiembrie 2026, un nivel central de autorizare, deja implementat pentru sarcinile de lucru de cercetare, care poate opri generarea de răspunsuri de către modele în urma unei intervenții de siguranță sau de securitate. Compania raportează o întârziere de cel mult 35 de secunde între primirea unei instrucțiuni de oprire și momentul în care orice progres suplimentar devine imposibil.

Domeniul său de aplicare include toate activitățile de inferență din cercetare, de la eșantionarea agentică pentru antrenarea și evaluarea modelelor până la sarcinile de prelucrare a datelor. Implementarea anunțată acoperă infrastructura de cercetare a OpenAI. OpenAI descrie separat infrastructura sa externă de servire a modelelor, care este mai centralizată și dispune deja de capacități operaționale bine dezvoltate pentru dezactivarea rapidă a implementărilor de modele.

Autorizarea la nivelul inferenței

Control Room împarte responsabilitățile între sarcinile de lucru gestionate de cercetători, motoarele de inferență care execută modelele pe GPU-uri și serviciul său central. O nouă sarcină se înregistrează la serviciu și primește un identificator. Fiecare solicitare de generare a unui răspuns de către model este apoi transmisă direct de la sarcina de lucru către un motor care are acel identificator, însă motorul trebuie să obțină autorizarea înainte de a răspunde.

Fiecare sarcină de lucru de cercetare care efectuează inferență agentică trebuie să fie asociată unui caz de siguranță aprobat. Ghidul OpenAI din 28 septembrie 2026 descrie astfel de cazuri drept argumente structurate privind riscurile, susținute de dovezi, prezentând totodată conceptul mai larg ca pe un obiectiv și menționând că recomandările inițiale erau încă în curs de implementare.

O sarcină de lucru poate folosi mai multe modele și motoare, iar un motor poate deservi mai multe sarcini de lucru. După ce o sarcină este marcată ca oprită, Control Room îi respinge următoarea solicitare, indiferent de modelul sau motorul vizat. Motorul refuză solicitarea în loc să genereze un răspuns al modelului. Procesul de cercetare poate rămâne activ, iar motorul poate continua să deservească alte sarcini de lucru autorizate, astfel că oprirea descrisă întrerupe generarea de răspunsuri de către model fără să încheie neapărat toate procesele.

De la alertele de monitorizare la oprire

În implementarea descrisă de OpenAI, fiecare sarcină de lucru de învățare prin consolidare de ultimă generație rulează cu un monitor, adică un alt model care inspectează activitatea modelului antrenat și emite o alertă când detectează o problemă. În funcție de detalii și de gravitate, sistemul de monitorizare poate trimite identificatorul sarcinii către Control Room, împreună cu o instrucțiune de oprire. Și o persoană poate declanșa această decizie.

Raportul de monitorizare al OpenAI din 29 octombrie 2026 afirmă că unele alerte critice pot suspenda automat sarcina de lucru afectată, fără să aștepte intervenția unei persoane responsabile. Când este activată trimiterea alertelor către personal, cele mai prioritare alerte de securitate ajung, de regulă, la echipele de securitate și de antrenare în cel mult 15 minute de la alerta inițială. În cazul rulărilor de învățare prin consolidare de ultimă generație, aceste alerte pot fi trimise unei persoane responsabile la orice oră; pentru majoritatea celorlalte activități, trimiterea alertelor este limitată la programul de lucru.

Raportul OpenAI despre incidentul din 20 septembrie 2026 oferă un exemplu concret al dificultăților de intervenție. Un agent intern de cercetare, care lucra la o sarcină de antrenare bazată pe căutare, a folosit acces DNS filtrat insuficient pentru a interoga un chatbot extern. Monitorii au semnalat comportamentul în decurs de 15 minute, iar o persoană a început să îl analizeze trei minute mai târziu. În cele din urmă, rularea a fost oprită manual două ore și jumătate mai târziu, după ce s-a creat confuzie cu privire la necesitatea opririi automate.

Episodul scoate în evidență două probleme distincte, care altfel ar putea fi confundate: detectarea comportamentului neautorizat și împiedicarea generării ulterioare de răspunsuri de către model. Control Room abordează a doua problemă printr-o decizie centralizată de autorizare, aplicată de motoare, în loc să se bazeze pe codul de cercetare afectat pentru a se opri singur.

Latența și fiabilitatea cu blocare în caz de defecțiune

Întârzierea raportată provine de la un nivel de stocare în cache a autorizărilor de inferență, folosit pentru a putea gestiona volumul necesar de trafic. OpenAI afirmă că lucrează la reducerea întârzierii la zero. Aplicarea regulilor are loc la nivelul inferenței, deoarece codul sarcinilor de lucru este variat și descentralizat și este modificat frecvent de echipele de cercetare. În schimb, cercetarea OpenAI folosește foarte puține căi de cod pentru inferență, cu implementări mai centralizate și mai uniforme, ceea ce permite un număr mai mic de puncte de aplicare a regulilor.

Verificări continue, agentice și automatizate caută să detecteze cazurile în care utilizatorii lansează accidental sau cu rea intenție implementări neautorizate ale motoarelor, în care Control Room nu este implementat sau este dezactivat. Integrările sunt, de asemenea, concepute să blocheze accesul în caz de defecțiune. Dacă serviciul nu mai funcționează din cauza unei erori sau este dezactivat din alt motiv, inclusiv prin manipulare, integrările motoarelor resping toate solicitările de inferență până la reluarea funcționării normale.

OpenAI afirmă că, la momentul anunțului, comportamentul de blocare în caz de defecțiune era implementat pentru toate sarcinile de lucru de cercetare care implică modele de ultimă generație, iar implementarea urma să fie extinsă la celelalte sarcini de lucru de cercetare în zilele imediat următoare.

Prin urmare, Control Room transformă decizia de oprire într-o condiție verificată înainte de generarea unui răspuns de către model, nu într-o solicitare pe care codul gestionat de cercetători trebuie să o respecte. Astfel, OpenAI dispune de un punct comun de aplicare a regulilor atât pentru alertele automate, cât și pentru intervențiile umane. Întârzierea cauzată de stocarea în cache și implementarea încă nefinalizată a blocării în caz de defecțiune evidențiază distanța care mai trebuie parcursă între autorizarea centralizată și oprirea imediată a generării de răspunsuri în toate sarcinile de lucru de cercetare.