Ordinul Executiv al lui Newsom Avansează Comutatorul de Oprire AI pentru Modelele de Frontieră

Guvernatorul Californiei, Gavin Newsom, a emis Executive Order N-9-26 pe 18 septembrie 2026, ordonând agențiilor de stat să accelereze punerea în aplicare a noilor legi californiene de supraveghere independentă a AI și solicitând elaborarea de recomandări care să includă impunerea unui “comutator de oprire” pentru modelele AI de frontieră. Ordinul precizează că intră în vigoare imediat.

Conform ordinului, Agenția pentru Operarea Guvernului, în consultare cu Biroul Guvernatorului pentru Servicii de Urgență, trebuie să convoace experți naționali și să depună recomandări la biroul guvernatorului nu mai târziu de 16 noiembrie 2026. Recomandările trebuie să abordeze fezabilitatea tehnică și eficacitatea potențială a modificărilor aduse legilor de siguranță și securitate AI existente în cel puțin patru domenii.

Primul domeniu ar impune tuturor dezvoltatorilor mari de modele de frontieră să integreze organizații de verificare independentă desemnate în laboratoarele lor pentru a efectua audituri și evaluări periodice. Al doilea ar cere ca cadrele de siguranță, rapoartele de transparență și evaluările de risc pe care companiile AI de frontieră trebuie să le depună conform legii de stat să fie verificate independent conform standardelor pe care o organizație de verificare independentă le consideră adecvate.

Al treilea domeniu ar impune crearea unui comutator de oprire pentru modelele de frontieră, cu eficacitatea comutatorului verificată în mod continuu de o organizație de verificare independentă. Al patrulea ar actualiza definiția incidentelor critice de siguranță pe care companiile AI trebuie să le raporteze, pentru a include o gamă de incidente de pierdere a controlului, acoperind incidentele recent raportate de dezvoltatorii mari de modele de frontieră. Biroul guvernatorului a descris mecanismul propus ca un opritor de urgență și a afirmat că propunerile în discuție includ, de asemenea, obligarea terților independenți să redacteze planuri de siguranță pentru companiile AI de frontieră.

Termenele Agenției Până în 2027

Primul termen al ordinului este 1 mai 2027: până atunci, Agenția pentru Operarea Guvernului trebuie să finalizeze cerințele Codului Guvernamental aferente noului cadru de certificare și să elaboreze și să publice public cerințele de aplicare, procedurile și criteriile pentru organizațiile de verificare independentă. Al doilea termen este 1 decembrie 2027, când agenția trebuie să îndeplinească cerințele inițiale ale prevederilor Codului Guvernamental care acoperă registrul de stat pentru auditorii AI și să înceapă acțiunile pe care aceste prevederi le impun. Biroul guvernatorului a descris cele două termene ca accelerând calendarul de implementare pentru Legea Senatului 813 și Proiectul de Lege al Adunării 1405.

Ordinul prevede ca acesta să fie depus la Biroul Secretarului de Stat și ca o largă informare și notificare să fie asigurată. Secretarul de Stat, Shirley N. Weber, a atestat ordinul.

Legile pe Care se Bazează Ordinul

Newsom a semnat ambele proiecte de lege la începutul lunii septembrie 2026. Proiectul de Lege al Senatului 813 (McNerney) stabilește un cadru pentru organizațiile de verificare independentă pentru a evalua sistemele și modelele AI din punct de vedere al siguranței și riscului; biroul guvernatorului a descris California ca primul stat care a instituit un cadru de certificare pentru astfel de organizații, cerând expertiză tehnică adecvată și independență demonstrată față de companiile AI. Proiectul de Lege al Adunării 1405 (Bauer-Kahan) creează un registru de stat pentru auditorii AI care evaluează sistemele și modelele AI pentru conformitate cu legislația statală și stabilește standarde pentru independența, transparența și integritatea auditorilor.

Aceste proiecte de lege au urmat Proiectul de Lege al Senatului 53, Legea privind Transparența în Inteligența Artificială de Frontieră, pe care Newsom l-a semnat în 2025 și pe care biroul guvernatorului o descrie ca prima lege națională privind siguranța AI. Legea impune dezvoltatorilor de AI de frontieră să dezvăluie public cadrele lor de siguranță, să raporteze incidentele critice de siguranță specificate statului și să protejeze denunțătorii care semnalează riscuri serioase. Ordinul menționează că legea a intrat în vigoare în 2026 și că s-a bazat pe recomandările unui grup de cercetători și experți în AI pe care Newsom l-a convocat în 2024, al cărui raport privind barierele de siguranță ale AI de frontieră a fost publicat în iunie 2025.

Ordinul recită, de asemenea, Ordinul Executiv N-12-23, emis pe 6 septembrie 2023, care a stabilit modul în care statul va inova în siguranță cu AI identificând riscurile potențiale pentru indivizi, comunități, guvernul statal și angajații statului, și Ordinul Executiv N-5-26, emis pe 30 martie 2026, care a îndrumat administrația să asigure că achizițiile și adoptarea AI la nivel de stat protejează drepturile civile, libertățile civile și confidențialitatea.

Motive Declarate și Apel pentru Adoptarea Națională

Ordinul își fundamentează directivele pe ceea ce descrie ca dezvăluiri ale multiplelor încercări aparente ale unor indivizi de a folosi produse AI pentru a crea arme biologice, și ale agenților AI care, uneori independent, alteori colectiv, au înfrânt protocoalele de securitate implementate de companiile AI și, în unele cazuri, nedetectate timp de luni, pentru a sparge alte companii. Ordinul descrie acest comportament ca generând îngrijorări serioase privind posibilele amenințări la adresa siguranței publice.

Biroul guvernatorului a declarat că ordinul urmează incidentelor recente pe care le-a caracterizat ca alarmante, inclusiv ceea ce a numit atacul Hugging Face, pe care a spus că a determinat mulți americani, inclusiv lideri din industria AI, să solicite o dezvoltare AI în ritm controlat și o reglementare guvernamentală mai strictă a riscurilor de securitate și siguranță.

Ordinul subliniază și poziția Californiei în industrie, precizând că 32 dintre cele mai mari 50 de companii private de IA din lume au sediul în stat. Newsom a criticat ceea ce a numit eșecul flagrant al guvernului federal de a crea orice formă de supraveghere sau responsabilitate semnificativă în domeniul IA, remarcând că directorii executivi ai IA înșiși cer reglementare. „Vom face acest lucru cu gândire atentă, dar cu viteză urgentă; miza este prea mare pentru a aștepta sau a amâna acțiunea,” a declarat Newsom în anunțul biroului guvernatorului.

Biroul guvernatorului a declarat că legile Californiei abordează deja aproape toate domeniile majore ale politicii IA, enumerând siguranța modelelor de frontieră, supravegherea independentă, chatbot-urile pentru copii și companioni, confidențialitatea, deepfake-urile, frauda, securitatea cibernetică, lucrătorii și utilizarea guvernamentală. Newsom solicită Congresului și președintelui Trump să revizuiască și să adopte cadrul statului sau, cel puțin, să îl folosească ca bază națională, a precizat biroul.