Anthropic a apelat la Faculty-ul Accenture pentru evaluarea încorporată a modelelor AI

Anthropic a declarat pe 18 septembrie 2026 că colaborând cu Accenture la evaluarea independentă a inteligenței artificiale de frontieră, fiecare companie preconizând să investească cel puțin $1 billion în dezvoltarea capacității în acest domeniu în următorii cinci ani.

Parteneriatul va fi condus de Faculty, divizia AI specializată a Accenture, și va include evaluarea și testarea adversarială a modelelor, realizarea de evaluări de aliniere și testarea mecanismelor de protecție ale modelelor. Anthropic a descris munca ca un pas spre un angajament, făcut într-un eseu al CEO-ului Dario Amodei din septembrie 2026, de a încorpora evaluatori independenți în cadrul companiei.

Anthropic a declarat că Accenture ajută întreprinderile și guvernele să implementeze AI în numeroase industrii și că înțelegerea firmei privind modul în care întreprinderile utilizează AI în practică informează abordarea sa de siguranță. Această perspectivă, a spus compania, va fi aplicată la evaluarea modelelor sale.

Cum va funcționa evaluarea încorporată

Evaluarea încorporată este nouă, iar multe dintre detaliile privind modul în care va funcționa sunt încă în curs de definire, potrivit anunțului. În timp ce evaluatorii externi existenți lucrează în afara companiilor pe care le evaluează, evaluatorii încorporați vor lucra în interiorul companiilor AI cu acces comparabil cu cel al unui angajat.

Anthropic a precizat că acest acces permite evaluatorilor să urmărească modelele în curs de antrenare, să urmeze deciziile care guvernează modul în care modelele sunt construite și implementate și să vorbească direct cu angajații. Din această poziție, evaluatorii pot evalua modul în care operează o companie, pot verifica că aceasta respectă angajamentele de siguranță și pot identifica puncte oarbe. De asemenea, pot raporta incidente și pot oferi publicului o relatare mai informată a beneficiilor și riscurilor, a declarat compania.

Anthropic a afirmat că evaluatorii independenți încorporați nu modifică responsabilitatea companiei, ci o fac mai verificabilă, iar siguranța modelelor sale rămâne responsabilitatea sa.

Termeni de acces și drepturi de publicare

În eseul intitulat “Trebuie să temperăm frontiera”, Amodei a propus un plan în trei etape: evaluatori încorporați, coordonare între companiile AI de frontieră din țările democratice și coordonare globală. El a scris că Anthropic se angajează unilateral la prima etapă și a îndemnat guvernele să oblige alte companii de frontieră să se alinieze. „Trebuie să încetinim ritmul cu care îmbunătățim capacitățile modelelor AI”, a scris el. „Progresul va părea totuși rapid și trebuie să folosim cu înțelepciune timpul câștigat.”

Eseul spune că Anthropic intenționează să invite o echipă externă de revizuire încorporată, dotată cu birouri în sediile sale, cartele de acces și laptopuri ale companiei, precum și cu acces la spații de lucru, instrumente și permisiuni în mare parte comparabile cu cele ale echipelor interne de evaluare a riscurilor. Excepții ar fi aplicabile în cazuri precum atunci când legea sau contractele o impun, sau pentru a proteja informațiile private ale clienților și partenerilor.

Conform abordării contractuale descrise în eseu, evaluatorii externi ar avea dreptul să publice constatările cheie privind nivelurile de risc, incidentele, practicile și accesul pe care l-au primit sau nu, fără control editorial din partea Anthropic. Compania ar păstra o capacitate restrânsă de a redacta informații sensibile din punct de vedere al securității, privilegiate juridic, sensibile comercial sau confidențiale ale terților, dar nu ar putea redacta constatările doar pentru că sunt nefavorabile; evaluatorii ar putea declara public dacă o redactare a eliminat ceva important pentru concluziile lor. Eseul face referire la un precedent în industria bancară, unde supraveghetorii de reglementare sunt uneori încorporați alături de angajați.

Întrebări privind finanțarea și o structură neexclusivă

Anthropic a declarat că, până în prezent, nu există standarde pentru informațiile la care evaluatorii încorporați ar trebui să aibă acces, nici pentru modul în care ar trebui să raporteze constatările, și nu există un sistem stabil pentru finanțarea evaluării independente. Pe termen lung, compania consideră că finanțarea ar trebui să provină din surse comune sau guvernamentale, așa cum a solicitat în Cadru său de AI Avansată din iunie; deoarece niciuna dintre acestea nu există încă, planifică să colaboreze cu diferiți evaluatori în cadrul unor aranjamente de finanțare diferite.

Anthropic va finanța direct munca Accenture. Compania este, de asemenea, în dialog cu METR și alți evaluatori nonprofit pentru a pilota elemente ale evaluării încorporate utilizând propriile lor fonduri și a declarat că crede că AI de frontieră are, în final, nevoie de un ecosistem de evaluatori care să opereze cu standarde comune.

Parteneriatul este neexclusiv. Anthropic a declarat că va colabora cu alți evaluatori pe care intenționează să îi anunțe în săptămânile următoare, că se așteaptă ca laboratoarele de frontieră să lucreze simultan cu mai multe organizații și că Accenture va colabora cu alți dezvoltatori AI în capacități similare. Compania a spus că va continua să antreneze și să lanseze modele de frontieră, că își împărtășește eforturile timpurii pentru ca oamenii și alți dezvoltatori AI să poată vedea procesul său, că se așteaptă ca abordarea sa să evolueze pe măsură ce domeniul se maturizează și că va împărtăși mai multe pe măsură ce lucrările încep și noi evaluatori se alătură.

Parteneriat anterior în domeniul enterprise

Lucrările de evaluare extind o relație mai largă pe care cele două companii au anunțat-o pe 9 decembrie 2025: un parteneriat pe termen lung care a format Accenture Anthropic Business Group. Conform acelui acord, aproximativ 30.000 de profesioniști Accenture vor primi instruire privind Claude, Claude Code va fi pus la dispoziția zeci de mii de dezvoltatori Accenture, iar companiile au lansat o ofertă comună concepută pentru a ajuta directorii IT să măsoare valoarea și să stimuleze adoptarea AI în organizațiile lor de inginerie. Anunțul din decembrie 2025 a inclus, de asemenea, soluții inițiale pentru industrii reglementate, printre care servicii financiare, științe ale vieții, sănătate și sectorul public.