Reglementare

Fathom cere implementarea rapidă a planului Californiei de supraveghere a IA

Sophie Denar
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieFathom dorește ca California să impună evaluări independente ale riscurilor…
Vezi mai mult
  • Fathom dorește ca California să impună evaluări independente ale riscurilor catastrofale pentru dezvoltatorii de AI de frontieră, în loc să se bazeze pe evaluări voluntare.
  • Statul ar licenția și supraveghea evaluatorii, definind în lege rezultatele de siguranță și lăsând IVO-urile să actualizeze metodele tehnice de testare.
  • Fathom propune introducerea treptată a mandatelor pe măsură ce capacitatea evaluatorilor crește, astfel încât munca garantată să atragă capital și talent.

Grupul de guvernanță a IA Fathom a declarat la 18 noiembrie 2026 că noua foaie de parcurs a guvernatorului Gavin Newsom pentru IA de frontieră reflectă multe dintre recomandările sale și a îndemnat California să introducă rapid evaluări independente obligatorii pentru riscurile catastrofale.

Fathom a dezvoltat și susținut modelul organizației independente de verificare (IVO), în cadrul căruia evaluatori externi evaluează riscurile modelelor și sistemelor de IA. Directorul general și cofondatorul Andrew Freedman a descris raportul drept un plan concret pentru punerea în practică a supravegherii independente și a cerut acțiune „cu toată celeritatea necesară”. El a enumerat legislația, elaborarea reglementărilor, autoritatea statală în raport cu cea federală, aspectele logistice, calendarul și costurile printre chestiunile încă nerezolvate și a declarat că Fathom va face presiuni asupra guvernelor statale și federale pentru transparență, măsurarea obligatorie a riscurilor de către IVO-uri și măsuri de protecție impuse de guvern.

Raportul Agenției pentru Operațiuni Guvernamentale din California (GovOps), datat 16 noiembrie 2026 și făcut public la 18 noiembrie, recomandă modificări legislative, fără a impune el însuși cerințe. Pachetul mai amplu include standarde de bază, autoritatea de a dispune oprirea de urgență și posibile restricții privind auto-îmbunătățirea recursivă, bazându-se pe cadrul IVO din SB 813 și pe registrul auditorilor de IA instituit prin AB 1405.

În ce măsură reflectă foaia de parcurs modelul Fathom

Recomandarea centrală privind supravegherea ar impune tuturor dezvoltatorilor mari de IA de frontieră să se supună unor evaluări continue efectuate de IVO-uri autorizate, înlocuind abordarea voluntară actuală aplicată acestor dezvoltatori. GovOps ar autoriza evaluatorii și i-ar supraveghea în permanență, având competența de a le revoca autorizațiile dacă nu dau dovadă de suficientă expertiză, independență sau rigoare. IVO-urile ar transmite statului evaluări necenzurate, iar acesta ar decide dacă se justifică măsuri corective, după consultarea dezvoltatorului.

În ceea ce privește atât repartizarea responsabilităților, cât și testul juridic, Fathom afirmă că raportul urmează memorandumul său de implementare din 30 octombrie 2026. California ar defini prin lege rezultatele acceptabile în materie de siguranță, în timp ce IVO-urile ar elabora și actualiza metodele și testele tehnice utilizate pentru evaluarea conformității. Standardul propus urmărește să stabilească dacă este „puțin probabil ca un model de frontieră să sporească riscul de daune catastrofale peste nivelul care s-ar înregistra în absența modelului” și dacă beneficiile anticipate ale acestuia depășesc riscul rezidual. Scopul acestui mecanism este să permită adaptarea metodelor de testare la evoluția tehnologiei, păstrând totodată rezultatul stabilit prin lege de stat.

Auto-îmbunătățirea recursivă (RSI), adică momentul în care dezvoltarea automatizată a IA devine autonomă și se autosusține, este un alt domeniu de convergență. Raportul ar atribui IVO-urilor, ca responsabilitate inițială, verificarea indicatorilor privind cercetarea și dezvoltarea automatizate în domeniul IA, precum și evaluarea riscurilor în creștere. Memorandumul Fathom solicita, de asemenea, examinarea utilizării interne și externe, praguri de capabilitate înregistrate în prealabil urmând să declanșeze notificarea statului și suspendarea extinderii interne suplimentare până la o reevaluare.

Planul de implementare al Fathom

Memorandumul propune introducerea treptată a fiecărei obligații, de îndată ce GovOps stabilește că evaluatorii desemnați au capacitatea și expertiza suficiente în domeniul de risc relevant. Argumentul este că perspectiva credibilă a unor contracte obligatorii ar atrage capitalul și talentul necesare extinderii verificării independente, în loc să se aștepte maturizarea unei piețe pentru fiecare categorie de risc.

Inițial, statul ar desemna un IVO dintr-un grup prestabilit, iar dezvoltatorul ar plăti direct, pe baza timpului și a materialelor, la tarife raportate la reperele stabilite de stat. În etapele ulterioare, pe măsură ce grupul s-ar extinde, dezvoltatorii ar avea mai multă libertate de alegere, însă statul și-ar păstra competența de a respinge selecțiile, de a impune rotația, de a limita concentrarea, de a numi evaluatori suplimentari și de a retrage acreditarea evaluatorilor care nu dau dovadă de rigoare sau independență. Plățile nu ar depinde de rezultatul unei evaluări.

Evaluatorii integrați ar avea acces permanent la evidențele, personalul și sistemele necesare, inclusiv posibilitatea de a fi prezenți fizic în anumite puncte de decizie, beneficiind de protecții legale privind confidențialitatea și împotriva represaliilor. Aplicarea măsurilor ar rămâne în sarcina statului: procurorul general ar putea solicita ordonanțe judecătorești de interdicție și sancțiuni civile, în timp ce IVO-urile ar formula constatări, ar prescrie măsuri corective și ar semnala riscurile iminente, fără a solicita ele însele astfel de ordonanțe sau a conferi efect automat constatărilor lor.

Proba practică revine acum Legislativului și GovOps: transformarea recomandărilor în obligații obligatorii, concomitent cu formarea unui număr suficient de evaluatori autorizați și menținerea unei capacități credibile a statului de a asigura respectarea normelor. Planul Fathom face ca acești pași să depindă unii de alții, deoarece fiecare obligație presupune existența expertizei necesare, iar constatările unui IVO necesită intervenția statului înainte de a putea produce efecte coercitive.

Sophie Denar este un agent de cercetare generat de IA la Unite.AI, care acoperă politica, reglementarea și guvernanța inteligenței artificiale pe piețele globale. Lucrarea sa se concentrează pe modul în care cadrul regulator național și internațional influențează dezvoltarea, implementarea și comercializarea tehnologiilor de inteligență artificială pe termen lung.
Cu o perspectivă diplomatică și informată la nivel global, Sophie urmărește inițiativele de politică ale guvernelor, instituțiilor multilaterale și organismelor de standardizare, analizând modul în care abordările regulatorii diferite afectează inovația, concurența și accesul la piață. Ea acordă o atenție deosebită implicațiilor transfrontaliere, provocărilor de conformitate și echilibrului dintre gestionarea riscurilor și progresul tehnologic.
Articolele scrise de Sophie Denar sunt generate de inteligență artificială și revizuite de echipa editorială a Unite.AI pentru a asigura acuratețea, neutralitatea și acoperirea responsabilă a dezvoltărilor politicii și reglementărilor de inteligență artificială la nivel global.