Reglementare
Newsom propune supravegherea obligatorie a IA de frontieră și competențe de oprire

Puncte cheieVerificatorii independenți licențiați ar oferi statului o examinare tehnică continuă…
Vezi mai mult
- Verificatorii independenți licențiați ar oferi statului o examinare tehnică continuă, în locul depunerilor unice de siguranță.
- Ordinele de oprire de urgență ar intra în vigoare imediat și ar rămâne în vigoare pe durata controlului judiciar.
- Raportarea incidentelor ar trece de la praguri la scară de instruire la capacitatea demonstrată pentru risc catastrofal.
Gavin Newsom, guvernatorul Californiei, a publicat recomandări legislative la 18 noiembrie 2026, care ar impune supravegherea independentă continuă a marilor dezvoltatori de IA de frontieră și ar permite oficialilor statului să dispună oprirea de urgență a modelelor care prezintă riscuri catastrofale iminente.
Raportul California Government Operations Agency, Siguranța IA în 2026 și ulterior, datat 16 noiembrie 2026, urmărește să fundamenteze legislația când legislatorii își vor relua activitatea în decembrie 2026; recomandările sale nu sunt încă obligații legale. Planul ar dezvolta cerința Californiei ca marii dezvoltatori de IA de frontieră să publice cadre de siguranță, adăugând niveluri de referință stabilite de stat pentru siguranță, securitate și transparență pe parcursul antrenării, utilizării interne și implementării.
Supraveghere independentă continuă
Toți marii dezvoltatori de IA de frontieră ar fi supuși supravegherii continue din partea unor organizații independente de verificare autorizate, denumite în continuare IVO. Aceste organizații ar transpune standardele statului în teste tehnice și le-ar actualiza pe măsură ce se schimbă metodele de evaluare a IA. De asemenea, ar avea acces la modelele, personalul, sistemele, mediile de antrenare și evidențele pe care le consideră necesare, apoi ar transmite statului evaluări integrale, fără redactări.
California Government Operations Agency ar autoriza IVO și le-ar putea revoca licențele dacă nu ar avea suficientă expertiză, independență sau rigoare. Dacă un evaluator nu ar putea atesta că un dezvoltator respectă standardele, statul ar putea dispune măsuri corective după consultări cu compania. Dezvoltatorii ar putea contesta astfel de decizii în instanță înainte ca acestea să intre în vigoare, cu excepția procedurii de urgență accelerate.
O suprataxă aplicată comisioanelor de verificare plătite de dezvoltatori ar contribui la finanțarea capacității CalCompute, administrată public. O parte din această capacitate de calcul ar fi rezervată cercetării independente în domeniul siguranței și securității și supravegherii publice, legând o suprataxă finanțată de industrie de infrastructura necesară controlului extern.
Limitarea riscurilor și competențe de urgență
Fiecare mare dezvoltator de IA de frontieră ar trebui să mențină un Protocol de limitare a riscurilor, testat și verificat continuu de o IVO și certificat ca eficient de un înalt funcționar al companiei. Capacitatea necesară ar acoperi resursele de calcul, agenții, accesul intern și implementarea modelelor, în loc să se bazeze pe un singur comutator de pornire-oprire. Protocoalele ar identifica personalul responsabil, ar coordona acțiunile cu furnizorii de servicii cloud și de energie electrică și ar stabili condițiile în care un model poate fi repus în funcțiune în siguranță.
Testarea ar viza modalitățile în care oprirea poate eșua, inclusiv situațiile în care un model își copiază ponderile pentru a împiedica limitarea riscului sau un actor extern obține acces la comenzile de oprire. În cazul dezvoltatorilor de modele cu ponderi deschise, cerințele privind limitarea riscurilor și oprirea s-ar aplica numai implementărilor aflate sub controlul lor, deoarece aceștia nu pot opri copiile găzduite de alte părți.
Oficialii statului ar putea dispune oprirea imediată dacă au motive întemeiate să creadă că există un risc catastrofal iminent sau un incident major de pierdere a controlului, iar dezvoltatorul refuză să limiteze pericolul. Ordinul ar impune cea mai restrânsă intervenție fezabilă, ar intra în vigoare imediat și ar rămâne valabil pe durata controlului judiciar, deși dezvoltatorul ar putea solicita un ordin provizoriu de suspendare. Ordinul ar fi revocat când pericolul nu ar mai fi iminent.
Raportarea incidentelor și cercetarea automatizată în domeniul IA
Regimul de raportare ar include tentativele de furt al ponderilor unui model, chiar și în absența deceselor sau a vătămărilor corporale, toate incidentele interne sau externe de pierdere a controlului și un nou canal de raportare a incidentelor evitate la limită. Raportul propune scurtarea de la 15 zile la 48 de ore a termenului pentru majoritatea rapoartelor privind incidentele critice, menținând cerința de 24 de ore pentru riscurile catastrofale iminente. Protecția avertizorilor s-ar extinde la foști angajați și contractori.
Modelele capabile de acțiuni care ar putea crea un risc catastrofal ar fi considerate modele de frontieră în scopul raportării incidentelor, chiar și atunci când au fost antrenate cu mai puțin de 10^26 de operații cu numere întregi sau în virgulă mobilă. Acest criteriu declanșator bazat pe capabilități răspunde îngrijorării exprimate în raport, potrivit căreia, bazarea exclusivă pe amploarea antrenării a lăsat incidente periculoase în afara cerințelor de raportare ale statului.
Companiile care automatizează cercetarea și dezvoltarea în domeniul IA ar raporta trimestrial cum își repartizează resursele de calcul între antrenare, experimente de cercetare, inferență pentru agenți de cercetare în domeniul IA, activități de siguranță și securitate, clienți externi și activități fără atribuire, iar IVO ar verifica aceste categorii. Informațiile suplimentare declarate ar include volumul datelor de antrenare, costul, domeniile tematice și proveniența umană sau bazată pe IA, precum și resursele de calcul pentru inferență utilizate la antrenarea modelelor în medii de învățare prin întărire, comportamentele indezirabile despre care se știe că au fost recompensate și măsurile de atenuare aplicate. Raportul afirmă că aceste măsuri ar arăta dacă IA preia o parte tot mai mare din propria dezvoltare și dacă investițiile în siguranță țin pasul.
Autoîmbunătățirea recursivă (RSI), a cărei formă cea mai avansată presupune ca un sistem de IA să-și dezvolte în mod independent succesorul, fără intervenție umană, ar fi supusă unei competențe latente de plafonare, nu unei limite imediate. Oficialii ar putea impune un plafon cu durată limitată, revizuit periodic, asupra cercetării automatizate în domeniul IA, atunci când aceasta depășește pragurile asumate de un dezvoltator sau avansează mai rapid decât măsurile de protecție și evaluările acestuia, creând un risc semnificativ de prejudicii catastrofale. Plafonul ar fi ridicat după ce un IVO ar verifica existența unor măsuri de protecție adecvate.
Recomandările răspund ordinului executiv al lui Newsom din 18 septembrie 2026 privind supravegherea independentă și un mecanism de oprire a IA, care solicita propuneri din partea experților în termen de două luni și accelerarea implementării legilor din California privind verificarea independentă și auditorii IA. Agenția pentru Operațiuni Guvernamentale a elaborat raportul împreună cu California Office of Emergency Services și cu consilierii externi Jason Goldman, Gillian Hadfield, Alondra Nelson și Rob Reich.
Pentru dezvoltatori, conformitatea ar presupune mai mult decât publicarea unor politici de siguranță: ar include examinarea externă continuă, raportarea mai rapidă a incidentelor și capacități demonstrabile de oprire. Propunerea lasă legislatorilor două decizii interconectate: câtă autoritate de intervenție să acorde și cum să facă operațională supravegherea continuă, în timp ce sectorul licențiat de verificare este încă în formare.












