Anthropic integrează șase evaluatori METR, oferindu-le acces similar celui al angajaților

Anthropic a anunțat pe 15 octombrie 2026 că a început să ofere acces similar celui al angajaților unei echipe METR integrate în companie. METR este o organizație nonprofit care evaluează modele de inteligență artificială de frontieră. Șase angajați METR au fost integrați în companie și au primit echipamente de serviciu, spațiu de birouri și acces la instrumente și sisteme interne.

Anunțul vine după ce Anthropic s-a angajat, în septembrie 2026, să consolideze evaluarea independentă, realizată de terți, a modelelor și practicilor sale de siguranță și a semnat Acordul de la Casa Albă privind superinteligența, prin care companiile s-au angajat să colaboreze cu auditori sau evaluatori independenți din afara organizației. Anthropic a declarat că a colaborat cu METR în ultimul an la mai multe evaluări ale rapoartelor sale privind riscurile.

Condițiile accesului similar celui al angajaților

Anthropic a declarat că accesul echipei integrate la instrumentele și sistemele interne este aproximativ la același nivel cu cel de care dispun propriile echipe de evaluare a riscurilor. Cu excepția unui număr mic de categorii clar definite — date despre clienți, informații protejate de secretul profesional avocat-client și informații despre arhitectura modelelor — angajații Anthropic sunt încurajați să împărtășească informații cu echipa la fel cum ar face-o cu un coleg care lucrează la riscurile legate de aliniere.

O notă de subsol din anunț explică excepția privind arhitectura. Întrucât evaluatorii, la fel ca inspectorii bancari, pot lucra și cu alte companii, Anthropic a declarat că este precaută în privința riscului de divulgare accidentală: informațiile despre arhitecturi prezintă un risc ridicat de astfel de divulgări, iar relevanța lor pentru evaluarea riscurilor este, de regulă, redusă. Când informațiile despre arhitectură sunt foarte relevante, Anthropic va încerca, în general, să le împărtășească, deși acest lucru va necesita aprobări interne explicite.

Conform condițiilor de publicare ale acordului, METR își va publica analiza nivelurilor de risc, a incidentelor sau a practicilor Anthropic. Anthropic nu poate împiedica publicarea, dar poate solicita METR să elimine informațiile care se încadrează în categorii restrânse, definite în prealabil. METR poate descrie public eliminările și poate spune dacă le consideră justificate, atât timp cât nu dezvăluie informațiile eliminate.

Colaborarea se limitează la o echipă restrânsă, care lucrează în baza unor acorduri executorii, iar ceilalți angajați METR, inclusiv cercetătorii care lucrează cu Anthropic la alte proiecte, sunt ținuți separat de activitatea echipei integrate. Anthropic a descris evaluarea realizată de o echipă integrată drept o modalitate prin care câteva persoane calificate, care lucrează conform standardelor sale de securitate, pot observa îndeaproape modul în care operează compania. Totodată, a precizat că aceasta nu este o cale prin care alte organizații să obțină acces la informațiile sale sau la cele ale clienților și partenerilor săi.

Motivele Anthropic pentru evaluarea independentă

Pe măsură ce modelele au devenit mai puternice, a fost nevoie de măsuri de protecție mai solide și de evaluări ale riscurilor mai dificile, a declarat compania. Anthropic a spus că dorește să răspundă public pentru deciziile pe care le ia, dar nu poate face publice toate informațiile relevante pentru activitatea sa în domeniul siguranței, deoarece unele ar putea fi utile actorilor rău intenționați sau sunt sensibile din punct de vedere comercial, cum ar fi informațiile despre resursele de calcul sau despre antrenare. În schimb, le oferă evaluatorilor terți acces amplu la informațiile sale și le cere să împărtășească dovezi și concluzii argumentate despre riscurile implicate de dezvoltarea modelelor sale, cu scopul de a reduce diferența dintre ceea ce înțeleg evaluatorii despre sistemele unei companii care dezvoltă inteligență artificială de frontieră și ceea ce înțelege compania însăși.

Anunțul enumeră patru cerințe pentru evaluarea modelelor de inteligență artificială de frontieră: expertiză în evaluarea capabilităților acestor modele, inclusiv înțelegerea modurilor în care evaluările pot eșua, cum ar fi falsificarea alinierii; independență, ceea ce înseamnă că evaluatorii nu ar trebui să dețină participații la compania evaluată și nici să depindă de aceasta din punct de vedere financiar sau operațional; acces suficient pentru o evaluare relevantă a riscurilor, care să depășească accesul la cele mai recente modele și să includă vizibilitate asupra modului în care au fost antrenate modelele și asupra funcționării măsurilor de protecție; și libertatea de a publica observații și evaluări despre un model sau un proces.

Anthropic a făcut o analogie cu supravegherea bancară, recunoscând totodată că analogia nu este exactă: băncile cunosc mai bine decât cei din afară propriile poziții de risc, așa că autoritățile de reglementare desemnează inspectori permanenți care să lucreze în interiorul celor mai mari bănci, iar dacă asumarea riscurilor de către o bancă ar putea pune în pericol publicul, terții încearcă să anticipeze acest lucru.

Trei niveluri de acces

Anthropic a declarat că dezvoltă trei niveluri de acces pentru evaluatori. La primul nivel, evaluatorii desfășoară investigații de risc cu un domeniu restrâns; Anthropic decide ce acces să le acorde, iar evaluatorii își pot publica rezultatele cu aprobarea Anthropic. La al doilea nivel, evaluatorii pot publica fără aprobarea Anthropic și au acces la mai multe informații, deși Anthropic poate solicita în continuare eliminarea anumitor categorii de informații, în timp ce evaluatorii își pot publica opiniile despre justificarea eliminărilor. Al treilea nivel este acordul cu METR: acces similar celui al angajaților și drepturi de publicare asemănătoare celor de la al doilea nivel.

Anthropic a declarat că speră ca, în timp, să aibă mai mulți evaluatori la al treilea nivel, fiecare echipă publicând propria analiză a profilului său de risc și a deciziilor-cheie.

SecureBio, Accenture și discuțiile preliminare

SecureBio se află în prezent în primul nivel. Organizația analizează capitolul despre arme chimice și biologice din Raportul privind riscurile al Anthropic din august 2026, după ce a încheiat și publicat o analiză-pilot a raportului anterior privind riscurile. Anthropic a declarat că, după încheierea acestei analize, va lua în considerare trecerea la proiecte care oferă acces sporit și drepturi de publicare extinse.

Anthropic a declarat că, împreună cu Accenture și Faculty, lucrează la un parteneriat care să includă evaluarea și testarea adversarială a modelelor, realizarea de evaluări ale alinierii, testarea măsurilor de protecție ale modelelor și dezvoltarea capacităților în cadrul organizațiilor.

Anthropic a mai declarat că poartă discuții preliminare cu alte câteva organizații, printre care Hugging Face. Deoarece aceste parteneriate se află încă într-un stadiu incipient, Anthropic le oferă evaluatorilor respectivi informații mai limitate, iar drepturile lor de publicare sunt mai restrânse, în timp ce verifică dacă partenerii protejează informațiile confidențiale și dispun de resursele și expertiza necesare. Pe măsură ce parteneriatele avansează și se consolidează încrederea, obiectivul Anthropic este să integreze pe deplin mai mulți evaluatori independenți, a declarat compania.

Angajamentul din septembrie

În septembrie 2026, cofondatorul Anthropic, Dario Amodei, a publicat un eseu, „Trebuie să ținem în frâu ritmul progresului tehnologic de vârf”, în care a prezentat integrarea evaluatorilor cu acces comparabil cu cel al angajaților drept primul pas dintr-un plan în trei etape pentru a tempera ritmul dezvoltării inteligenței artificiale de frontieră. Amodei a scris că Anthropic se angajează unilateral să facă acest pas și a cerut guvernelor să le impună și celorlalte companii de frontieră să procedeze la fel. El a scris că „trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială”, astfel încât prevenirea riscurilor să aibă timp să țină pasul cu progresul capacităților.

Eseul afirma că Anthropic intenționează să invite o echipă externă de evaluare integrată în companie, căreia să-i pună la dispoziție birouri în sediile sale, ecusoane de acces și laptopuri ale companiei; acces la spații de lucru, instrumente și permisiuni în mare parte comparabile cu cele de care dispun echipele interne de evaluare a riscurilor, cu unele excepții atunci când acest lucru este impus de lege sau de contracte ori este necesar pentru a proteja informațiile private ale clienților și partenerilor; precum și un contract care să le acorde evaluatorilor externi dreptul de a publica principalele constatări privind nivelurile de risc, incidentele, practicile și accesul pe care l-au primit sau nu l-au primit, Anthropic neavând niciun control editorial asupra publicării. Conform condițiilor avute în vedere, Anthropic și-ar păstra o posibilitate limitată de a redacta informații sensibile din punctul de vedere al securității, protejate prin privilegiu legal, sensibile din punct de vedere comercial sau confidențiale ale unor terți, dar nu ar putea redacta constatări doar pentru că sunt nefavorabile; evaluatorii ar putea, de asemenea, să declare public dacă o redactare a eliminat ceva important pentru concluziile lor.

Anthropic a declarat că integrează evaluatori în mod voluntar și consideră că toate companiile de frontieră din domeniul inteligenței artificiale ar trebui să procedeze la fel. Compania a spus că avansează rapid cu mai mulți evaluatori, învață activ ce tipuri de parteneriate funcționează și se angajează să comunice noutăți pe măsură ce activitatea progresează.