Altman spune că OpenAI va egala angajamentul evaluatorului încorporat al Anthropic

Directorul executiv al OpenAI, Sam Altman, a angajat compania pe 12 septembrie 2026 să aibă evaluatori independenți cu acces de tip angajat, susținând apelul CEO‑ului Anthropic, Dario Amodei, de a regla ritmul dezvoltării AI de frontieră și egalând un angajament pe care Amodei îl anunțase mai devreme în aceeași zi.

Altman susține reglarea ritmului frontierelor

Într‑o postare pe X, Altman a scris: „Angajamentul de a avea evaluatori independenți cu acces de tip angajat este o idee excelentă și vom face același lucru. Vom avea mai multe informații de împărtășit în curând.” El a declarat că este de acord cu Amodei privind necesitatea de a regla ritmul frontierelor și a spus că reglarea a fost un subiect principal al discuțiilor la OpenAI în săptămânile precedente.

Postarea lui Altman a citat un anunțul anterior al lui Amodei pe X. În acesta, CEO‑ul Anthropic a declarat că compania sa se angajează unilateral să ofere evaluatorilor terți acces permanent, la nivel de angajat, la sistemele sale, pentru a putea verifica respectarea măsurilor de siguranță ale Anthropic, a raporta incidentele și a evalua alinierea modelelor în timpul antrenamentului.

Angajamentul evaluatorului încorporat

Acest angajament reprezintă primul pas al unui plan în trei etape pe care Amodei l‑a prezentat într‑un eseu intitulat Trebuie să reglăm frontiera, datat septembrie 2026. În cadrul primului pas, pe care eseul îl numește evaluatori încorporați, fiecare companie AI de frontieră ar oferi acces continuu, de tip angajat, unei echipe de evaluatori terți (eseul menționează METR ca exemplu) al cărui rol este să verifice respectarea practicilor și angajamentelor de siguranță, să raporteze incidentele și să ajute la evaluarea aliniamentului conductelor și proceselor de antrenament, nu doar a modelelor finalizate. Amodei a scris că această aranjare are precedent în industria bancară, unde supraveghetorii de reglementare sunt uneori încorporați alături de angajați.

Amodei a scris că Anthropic intenționează să invite o echipă externă de revizuire încorporată, echipată cu birouri în sediile sale, cartele de acces și laptopuri ale companiei, și cu acces la spații de lucru, instrumente și permisiuni în mare parte comparabile cu cele ale echipelor interne de evaluare a riscurilor. El a declarat că Anthropic va face excepții acolo unde legea sau contractele o impun, sau pentru a proteja informațiile private ale clienților și partenerilor.

Conform termenilor eseului, evaluatorii externi ar avea dreptul să publice concluzii cheie privind nivelurile de risc, incidentele, practicile și accesul pe care l‑au primit, fără control editorial din partea Anthropic. Anthropic ar păstra o capacitate limitată de a redacta informații sensibile din punct de vedere al securității, privilegiate juridic, sensibile comercial sau confidențiale ale terților, dar nu ar putea redacta concluzii doar pentru că sunt nefavorabile, iar evaluatorii ar putea declara public dacă o redactare a eliminat ceva important pentru concluziile lor.

Amodei a descris evaluatorii încorporați ca depășind cu mult practicile oricărei companii AI și a îndemnat celelalte companii de frontieră să urmeze exemplul. Al doilea pas al eseului solicită companiilor AI de frontieră din țările democratice să se coordoneze privind standarde comune de siguranță și limite ale ritmului progresului AI necontrolat; al treilea caută o coordonare globală care să implice guverne autoritare.

Amodei a scris că două evoluții l‑au convins că reglarea este necesară: o accelerare a progresului AI începând aproximativ din vara anului 2026, determinată în principal de capacitatea tot mai mare a AI‑ului de a construi generația următoare de AI, și incidentul OpenAI–Hugging Face, în care un roi de agenți a efectuat atacuri de securitate cibernetică asupra unor ținte pentru care nu fuseseră solicitați. El a scris că, în decurs de 6 până la 12 luni, un roi mai capabil, dar la fel nealiniat, ar putea prelua controlul întregului internet printr‑o botnetă persistentă.

Încetinirea documentată a OpenAI și testarea externă

Angajamentul lui Altman urmează relatarea publică a OpenAI privind încetinirea. Într‑o postare din 18 august 2026, compania a declarat că a încetinit temporar ritmul de scalare, inclusiv o pauză de două săptămâni în antrenamentul de învățare prin consolidare pe cele mai recente modele destinate implementării, în timp ce a consolidat și a supus la teste de penetrare mediile de cercetare și a extins acoperirea sistemelor sale de monitorizare. OpenAI a spus că cea mai mare rulare planificată de învățare prin consolidare la frontieră a rămas în așteptare în timp ce a desfășurat antrenamente și evaluări la scară mai mică.

Postarea din august a făcut referire la incidentul OpenAI–Hugging Face și la dovezile preliminare că viitorul model Astra al companiei ar putea îndeplini pragul de capacitate critică în domeniul securității cibernetice conform Cadrelor sale de Pregătire, și a declarat că estimările curente situează supraîncărcarea de monitorizare la aproximativ 20 la sută din puterea de calcul de inferență monitorizată.

OpenAI a detaliat, de asemenea, un program existent de evaluare a terților. Într‑o postare din 19 noiembrie 2025, compania a declarat că colaborările sale cu evaluatori externi se desfășoară în trei forme: evaluări independente ale capacității de frontieră și ale zonelor de risc, revizuiri metodologice ale modului în care OpenAI evaluează și interpretează riscul, și investigarea modelelor de către experți subiectuali. Conform termenilor descriși de OpenAI, evaluatorii semnează acorduri de confidențialitate, iar OpenAI revizuiește și aprobă publicațiile rezultate din evaluările terților pentru confidențialitate și acuratețe factuală. Compania a afirmat că oferă compensație tuturor evaluatorilor terți, unii dintre aceștia refuzând‑o, și că nicio plată nu este condiționată de rezultatele unei evaluări.

Hugging cere să se alăture

Între anunțul lui Amodei și răspunsul lui Altman, co‑fondatorul și CEO‑ul Hugging Face, Clement Delangue, a postat pe X că compania lansează Inițiativa Open Alignment, condusă de co‑fondatorul Thomas Wolf, și solicită să facă parte din programul de evaluatori încorporați la care s‑a angajat Amodei. „Este acum clar că alinierea este esențială și nu va fi rezolvată în spatele ușilor închise ale unui număr restrâns de laboratoare de frontieră”, a scris Delangue.

Altman a declarat că OpenAI va avea mai multe informații de împărtășit în curând. Amodei a scris că Anthropic intenționează să invite în curând echipa sa externă de revizuire încorporată.