Parteneriate
OpenAI semnează acorduri cu patru evaluatori independenți pentru evaluări integrate de siguranță

Puncte cheieAccesul susținut la punctele de control și la datele de antrenament le permite…
Vezi mai mult
- Accesul susținut la punctele de control și la datele de antrenament le permite evaluatorilor să testeze eșecuri pe care monitorii proprii ai OpenAI le-ar putea rata.
- Apollo Research investighează dacă modelele ar putea acționa în secret împotriva dezvoltatorilor și dacă măsurile de protecție ar detecta acest lucru.
- Comitetul pentru Siguranță și Securitate primește rapoarte neredactate și poate discuta în privat cu evaluatorii în timpul revizuirilor.
OpenAI a anunțat la 16 noiembrie 2026 că a semnat acorduri cu Apollo Research, METR, Transluce și Goodfire pentru prima etapă a evaluărilor sale integrate. Cele patru organizații vor evalua alinierea și măsurile de protecție în timpul antrenării și al utilizării interne, având acces care poate include puncte de control ale modelelor, codul sursă, datele de antrenare și sistemele de monitorizare.
Caracteristica definitorie este accesul susținut, pe o perioadă îndelungată, la modele și sisteme interne, mai ales la cele legate de argumentația OpenAI privind siguranța. OpenAI afirmă că accesul le va permite evaluatorilor să examineze dovezi și context, să efectueze evaluări independente și să descopere deficiențe pe care compania poate nu le-a anticipat. De asemenea, OpenAI prezintă rapoartele publice rezultate din evaluări drept o modalitate de a le oferi oamenilor o imagine mai clară asupra modului în care laboratoarele evaluează și gestionează riscurile.
Mandate diferite pentru fiecare evaluator
Apollo Research va analiza dacă modelele ar putea acționa pe ascuns împotriva intențiilor dezvoltatorilor lor și dacă măsurile de protecție ale OpenAI ar detecta un astfel de comportament. Evaluarea în două etape vizează patru ipoteze: antrenarea nu a stimulat comportamente subversive, evaluările riguroase și testarea adversarială nu provoacă astfel de comportamente, modelele nu au încercat să le manifeste în timpul utilizării interne, iar raționamentul care le-ar sta la bază ar putea fi detectat.
În prima etapă a evaluării Apollo, OpenAI va pune la dispoziție modele publice selectate și modele nelansate, precum și puncte de control ale antrenării, date relevante de antrenare și rezultate ale evaluărilor, înregistrări ale intervențiilor asupra antrenării, sisteme de monitorizare și comportamente semnalate. Apollo va avea, de asemenea, acces la cercetători care pot oferi context, precum și la instrumentele și resursele de calcul necesare pentru testare independentă.
Goodfire va integra în echipă cercetători specializați în interpretabilitate, adică în analiza mecanismelor interne ale modelelor, și își va folosi platforma pentru monitorizarea rundelor de antrenare, depanare și aliniere. Cercetătorii OpenAI sunt publicul principal căruia îi sunt destinate rezultatele, pe care le vor folosi pentru a îmbunătăți siguranța. Goodfire va publica, de asemenea, concluziile și lecțiile desprinse pe măsură ce colaborarea avansează.
Prima evaluare a alinierii realizată de METR se concentrează asupra a ceea ce OpenAI descrie drept cea mai amplă rundă de învățare prin consolidare de până acum, inclusiv asupra deficiențelor pe care testele și sistemele de monitorizare existente este posibil să nu le fi detectat. În limitele rundei selectate și ale accesului, resurselor și măsurilor de siguranță convenite, METR și-ar stabili independent prioritățile și ar relua iterativ căutările, analizele și experimentele de provocare a modelelor. Accesul său va include punctele de control relevante, secvențele de antrenare și de evaluare, precum și înregistrările monitorizării nealinierii. Scopul inițial se limitează la runda respectivă și nu se extinde la o analiză amplă a nealinierii.
O evaluare separată a sistemului de monitorizare al METR este mai puțin bine definită. Organizațiile au convenit, în principiu, să desfășoare un exercițiu mai amplu, dar acesta rămâne în așteptare până când vor ajunge la un acord privind scopul său.
Transluce va începe prin a examina calitatea și gradul de acoperire ale evaluărilor alinierii după antrenare realizate de OpenAI. Accesul său va include modele publice selectate și modele nelansate, rezultate ale evaluărilor, date comportamentale justificative, documentația privind argumentația de siguranță și acces la cercetători, precum și instrumente și resurse de calcul.
Cele două părți intenționează, de asemenea, să desfășoare la începutul anului 2027 o evaluare ulterioară, cu o durată de aproximativ opt săptămâni. Aceasta ar extinde accesul la modele suplimentare, ar oferi acces mai amplu la evaluările alinierii și ar furniza informații despre modul în care rezultatele evaluărilor influențează deciziile privind lansarea. Anunțul o descrie drept o intenție comună, distingând-o astfel de evaluarea inițială.
Accesul este însoțit de măsuri de securitate și supraveghere
Fiecare colaborare începe cu stabilirea de comun acord a scopului, precum și a accesului, resurselor și măsurilor de siguranță necesare desfășurării activității. Protocoalele prevăd că evaluatorii au libertatea de a urmări dovezile, de a-și rafina metodele și de a propune evaluări suplimentare atunci când constatările le justifică, precum și existența unui proces de soluționare a cererilor privind accesul suplimentar.
Atunci când accesul direct ar putea expune proprietate intelectuală sensibilă, cum ar fi ponderile sau arhitectura modelelor, OpenAI va lua în considerare alternative, inclusiv colaborarea evaluatorilor cu cercetătorii săi pentru efectuarea analizelor. Evaluatorii care gestionează informații confidențiale sensibile vor lucra la sediile OpenAI, folosind dispozitivele companiei. Se așteaptă ca aceștia să respecte cel puțin aceleași standarde de securitate ca angajații OpenAI, iar pentru unele experimente pot fi impuse cerințe mai stricte.
Supravegherea revine Comitetului pentru siguranță și securitate, un comitet independent de supraveghere al Consiliului de administrație al OpenAI Foundation. Comitetul va primi rapoarte fără redactări și va putea discuta cu evaluatorii pe durata activității, inclusiv în privat. Disputele vor fi trimise mai întâi Grupului consultativ pentru siguranță și directorilor OpenAI, care le vor soluționa într-un termen stabilit. Comitetul trebuie informat prompt atunci când disputele sunt escaladate, iar chestiunile nerezolvate îi vor fi înaintate.
Discuțiile cu angajații ridică o problemă distinctă de transparență. Acestea au loc cu condiția să nu fie făcute publice, ceea ce înseamnă că pot contribui la evaluări, dar nu pot fi publicate și nici atribuite angajaților. Evaluatorii pot solicita o declarație atestată de OpenAI, care să verifice, să corecteze sau să clarifice ceva aflat în cadrul acestor discuții. Apoi, ei pot publica declarația atestată sau pot dezvălui că OpenAI a refuzat să o ateste, creând astfel o cale limitată de a face publice informații obținute în mod confidențial.
Drepturi de publicare și declarații financiare
Evaluatorii își păstrează independența în publicarea evaluărilor, în timp ce OpenAI își rezervă dreptul de a redacta informațiile confidențiale. De asemenea, poate solicita amânarea dezvăluirii responsabile pentru a aborda constatările care ar putea crea riscuri de securitate sau de siguranță și pentru a remedia problemele nerezolvate. OpenAI afirmă că rapoartele publice ar trebui să explice constatările și limitele acestora, în timp ce rapoartele confidențiale mai detaliate le oferă organismelor de supraveghere dovezile de care au nevoie pentru a acționa.
Aranjamentele financiare diferă de la un participant la altul. Apollo Research și Goodfire acceptă o remunerație care nu depinde de rezultatele evaluărilor lor. METR și Transluce nu acceptă compensații financiare, deși pot accepta credite API sau resurse de calcul pentru a le folosi în evaluările lor.
Procesele privind declararea conflictelor de interese și perioadele de așteptare sunt încă în curs de elaborare împreună cu evaluatorii. OpenAI le cere angajaților terți participanți să respecte o scurtă perioadă de așteptare înainte de a lucra în cadrul unei alte companii care dezvoltă AI, pentru a reduce riscul divulgării involuntare a informațiilor confidențiale.
OpenAI se așteaptă ca, la început, să apară dificultăți legate de accesul tehnic, spațiu și securitate, afirmă că protocoalele vor evolua și descrie colaborările integrate pe termen mai lung drept obiectivul urmărit, având în vedere evaluări viitoare privind conformitatea cu cadrul de siguranță, cultura organizațională și procesele.
Prima fază stabilește un test concret de guvernanță: dacă accesul aprofundat la mediul intern și publicarea independentă pot furniza dovezi publice utile despre deficiențele pe care testele interne nu le detectează, în timp ce OpenAI menține domeniile de evaluare convenite, controalele de securitate la fața locului, drepturile de redactare și posibilitatea amânării dezvăluirii.












