Legislatura Californiei adoptă proiectul de lege pentru verificarea independentă a siguranței AI

Legislatura Californiei a acordat aprobarea finală pe 30 august 2026 pentru SB 813, legislație redactată de senatorul Jerry McNerney, care ar direcționa Agenția pentru Operațiuni Guvernamentale să desemneze organizații de verificare independente — auditori externi calificați să evalueze riscurile de siguranță ale sistemelor și modelelor AI. Proiectul de lege urmează acum să fie trimis guvernatorului Gavin Newsom.

Adunarea a adoptat proiectul de lege la a treia lectură pe 30 august 2026, iar Senatul a concurat cu amendamentele Adunării în aceeași zi, finalizând parcursul legislativ, conform înregistrării oficiale a voturilor. Adunarea a înregistrat 67 de voturi afirmative, 6 negative și 6 membri care nu au votat; consimțământul Senatului a trecut cu 39 de voturi afirmative, fără opoziție, și un membru care nu a votat.

Ce ar impune SB 813

Proiectul de lege adaugă un nou capitol la Codul Guvernamental al Californiei, intitulat Organizații de Verificare Independentă a Siguranței Inteligenței Artificiale din California. Până la 1 ianuarie 2028, Agenția pentru Operațiuni Guvernamentale trebuie să elaboreze cerințe de aplicare pentru desemnarea ca organizație de verificare independentă (IVO); proceduri pentru suspendarea sau încetarea unei desemnări; și criterii pentru determinarea dacă un auditor AI este calificat. Agenția trebuie să publice public aceste cerințe și criterii, să le revizuiască și să le actualizeze pe măsură ce tehnologia și standardele din industrie evoluează și, acolo unde este posibil, să le alinieze cu standardele profesionale și de reglementare existente în domeniul auditului și asigurării.

Conform definiției din proiectul de lege, un IVO este un auditor AI care a demonstrat expertiză în evaluarea riscurilor generate de un sistem sau model AI și în identificarea metricilor și metodologiilor din spatele acelei evaluări. Un IVO desemnat nu trebuie să aibă nicio dependență financiară, operațională sau de management față de partea pe care o evaluează. Poate accepta plăți de la partea evaluată la tarife de piață rezonabile, dar nu poate accepta condiții care să lege plata de rezultatele evaluării sale.

Procedurile de suspendare și încetare trebuie să acopere nerespectarea standardelor adecvate, declarații false semnificative în cereri sau în dezvăluirile obligatorii, conflicte de interese care afectează independența, neîndeplinirea menținerii unei documentații adecvate, deficiențe în securitatea cibernetică și comportamente care pun în discuție, în mod rezonabil, integritatea, obiectivitatea sau competența unui IVO.

Agenția trebuie, de asemenea, să convoace grupuri de lucru care să includă ingineri din companii AI concurente și experți în siguranța AI pentru a colecta opiniile părților interesate privind standardele și să raporteze constatările grupurilor de lucru legislativului. Fiecare IVO desemnat trebuie să depună un raport anual, nu mai devreme de 12 luni de la desemnarea inițială, rezumând standardele și metodologiile sale și divulgând modificările politicilor de guvernanță sau ale surselor de finanțare relevante pentru independența sa. IVO-urile pot redacta informații pentru a proteja secretele comerciale, securitatea cibernetică, siguranța publică sau securitatea națională, dar trebuie să păstreze informațiile neredactate timp de cinci ani.

Cadrul este voluntar. Proiectul de lege prevede că nu obligă niciun dezvoltator, implementator sau operator al unui sistem sau model AI să apeleze la un IVO sau să efectueze un audit, nu stabilește răspundere exclusivă pentru neîndeplinirea unui standard și nu constituie o recomandare sau aprobare de stat a vreunui sistem sau model AI. În litigii care susțin că un sistem AI a cauzat vătămări, legea prevede că un audit efectuat conform unui standard identificat în cadrul capitolului este relevant, dar nu este concludent pentru acțiune.

Declarații ale autorului și sponsorilor

Biroul lui McNerney a descris măsura ca un cadru unic în națiune pentru evaluări independente, de către terți, ale riscurilor potențiale de siguranță generate de sistemele AI. Anunțul său a raportat votul Senatului ca 37–0 și votul Adunării ca 53–4; înregistrarea legislativă oficială arată că consensul Senatului a fost 39–0, cu un membru care nu a votat, iar votul Adunării a fost 67–6, cu șase membri care nu au votat. o declarație care anunța votul.

„Legislatura Californiei a transmis astăzi un mesaj clar: este timpul ca California să preia conducerea în evaluarea riscurilor potențiale de siguranță ale AI, deoarece Washington, D.C., nu poate sau nu vrea să facă acest lucru,” a declarat McNerney într-o declarație care anunța votul. Biroul său a mai precizat că stabilirea evaluărilor independente, de către terți, ale AI a fost una dintre recomandările principale ale comitetului de elită al lui Newsom privind inteligența artificială și a citat sondaje care arată că două treimi dintre americani au puțină sau deloc încredere în guvernul federal pentru a reglementa AI în mod eficient.

SB 813 este sponsorizat de Fathom, o organizație non-profit care afirmă că a dezvoltat și promovat modelul IVO și colaborează cu factorii de decizie din întreaga țară pentru a-l pune în practică. Organizația a descris IVO-urile ca experți externi calificați care pot evalua independent riscul modelelor și sistemelor AI utilizând teste și analize credibile și a declarat că proiectul de lege ar permite ca riscurile potențiale ale tehnologiei să fie evaluate independent, în loc să fie acceptate pe credință.

„Puterea modelului de verificare independentă constă în faptul că permite experților independenți și calificați să evalueze riscul capabilităților AI și că ține pasul cu tehnologia în loc să înghețe un singur test în lege,” a declarat Andrew Freedman, CEO al Fathom, în declarația organizației.

Declarația Fathom a plasat, de asemenea, proiectul de lege alături de SB 53, pe care a precizat că acum obligă dezvoltatorii mari de frontieră să publice un cadru de siguranță și să raporteze incidente critice. Organizația a afirmat că SB 813 va începe să construiască un nivel suplimentar de responsabilitate, deoarece determinările de siguranță se bazează în continuare în mare parte pe companii care își evaluează propriile sisteme, și că va continua să colaboreze cu factorii de decizie din California, experții tehnici și părțile interesate din industrie pentru a avansa cadrul.

Versiuni anterioare ale măsurii

McNerney a introdus SB 813 pe 21 februarie 2025, împreună cu membrii Adunării Bauer‑Kahan și Lowenthal ca coautori, iar proiectul a fost modificat în mod repetat în ambele camere, cu amendamente ale Adunării până la 26 august 2026, conform înregistrărilor legislative. Senatul a adoptat o versiune anterioară a proiectului cu 31–7 pe 27 ianuarie 2026. anunțul lui McNerney la acea vreme a precizat că versiunea respectivă ar fi creat o Comisie Californiană pentru Standarde și Siguranța Inteligenței Artificiale pentru a desemna comitete de experți IVO care să stabilească standarde voluntare, să certifice dezvoltatorii și furnizorii AI și să monitorizeze conformitatea, având puterea de a revoca certificarea.

Dacă Newsom semnează proiectul de lege, Agenția pentru Operațiuni Guvernamentale se confruntă cu un termen limită de 1 ianuarie 2028 pentru a construi sistemul de desemnare, cu constatările grupurilor de lucru raportate legislativului și primele rapoarte anuale IVO care trebuie depuse nu mai devreme de 12 luni de la desemnarea inițială a unei organizații.