Newsoms utøvende ordre fremmer AI‑dødsbryter for grensemodeller

California-guvernør Gavin Newsom utstedte Utøvende ordre N-9-26 18. september 2026, og beordret statlige etater til å fremskynde implementeringen av Californias nye uavhengige AI‑tilsynslover samt å utvikle anbefalinger som inkluderer krav om en «kill switch» for grensemodeller innen AI. Ordren fastslår at den trer i kraft umiddelbart.

I henhold til ordren må Government Operations Agency, i samråd med guvernørens kontor for nødtjenester, samle nasjonale eksperter og levere anbefalinger til guvernørens kontor senest 16. november 2026. Anbefalingene skal ta for seg den tekniske gjennomførbarheten og potensielle effekten av endringer i eksisterende statlige AI‑sikkerhets- og trygghetslover på minst fire områder.

Det første området vil kreve at alle store utviklere av grensemodeller integrerer utpekte uavhengige verifiseringsorganisasjoner på sine laboratorier for å gjennomføre periodiske revisjoner og evalueringer. Det andre vil kreve at sikkerhetsrammeverk, åpenhetsrapporter og risikovurderinger som grensemodell‑selskaper må levere i henhold til statlig lov, blir uavhengig verifisert etter standarder som en uavhengig verifiseringsorganisasjon anser som tilstrekkelige.

Det tredje området vil kreve opprettelsen av en kill switch for grensemodeller, hvor effektiviteten til bryteren verifiseres kontinuerlig av en uavhengig verifiseringsorganisasjon. Det fjerde vil oppdatere definisjonen av kritiske sikkerhetshendelser som AI‑selskaper er pålagt å rapportere, for å inkludere en rekke tap‑av‑kontroll‑hendelser, inkludert nylig rapporterte hendelser fra store grensemodell‑utviklere. Guvernørens kontor beskrev den foreslåtte mekanismen som en nødavstengning og oppga at forslag under vurdering også omfatter krav om at uavhengige tredjeparter skal utarbeide sikkerhetsplaner for grensemodell‑selskaper.

Etatens frister gjennom 2027

Den første fristen i ordren er 1. mai 2027: innen da må Government Operations Agency fullføre kravene i Government Code knyttet til det nye sertifiseringsrammeverket og utvikle samt offentliggjøre søknadskrav, prosedyrer og kriterier for uavhengige verifiseringsorganisasjoner. Den andre fristen er 1. desember 2027, når etaten skal fullføre de innledende kravene i Government Code‑bestemmelsene som omfatter den statlige registreringen for AI‑revisorer og igangsette de handlingene disse bestemmelsene krever. Guvernørens kontor beskrev de to fristene som en akselerasjon av implementeringstidene for Senate Bill 813 og Assembly Bill 1405.

Ordren pålegger at den arkiveres hos kontoret til statssekretæren, og at den får omfattende publisering og kunngjøring. Statssekretær Shirley N. Weber bekreftet ordren.

Lover som ordren bygger på

Newsom signerte begge lovforslagene tidlig i september 2026. Senate Bill 813 (McNerney) etablerer et rammeverk for uavhengige verifiseringsorganisasjoner til å vurdere AI‑systemer og -modeller for sikkerhet og risiko; guvernørens kontor har beskrevet California som den første staten som opprettet et sertifiseringsrammeverk for slike organisasjoner, med krav om tilstrekkelig teknisk ekspertise og dokumentert uavhengighet fra AI‑selskaper. Assembly Bill 1405 (Bauer‑Kahan) oppretter en statlig register for AI‑revisorer som vurderer AI‑systemer og -modeller for overholdelse av statlig lov, og fastsetter standarder for revisorenes uavhengighet, åpenhet og integritet.

Disse lovforslagene fulgte Senate Bill 53, Transparency in Frontier Artificial Intelligence Act, som Newsom signerte i 2025 og som guvernørens kontor beskriver som landets første AI‑sikkerhetslov. Loven krever at utviklere av grensemodeller offentliggjør sine sikkerhetsrammeverk, rapporterer spesifiserte kritiske sikkerhetshendelser til staten, og beskytter varslerne som melder om alvorlige risikoer. Ordren bemerker at loven trådte i kraft i 2026 og at den bygde på anbefalinger fra en gruppe AI‑forskere og eksperter som Newsom samlet i 2024, hvis rapport om grensemodell‑sikring ble publisert i juni 2025.

Ordren gjengir også Executive Order N-12-23, utstedt 6. september 2023, som fastsatte hvordan staten skulle innovere trygt med AI samtidig som den identifiserte potensielle risikoer for enkeltpersoner, lokalsamfunn, statlig myndighet og statlige ansatte, samt Executive Order N-5-26, utstedt 30. mars 2026, som påla administrasjonen å sikre at statlig AI‑innkjøp og -adopsjon beskytter sivile rettigheter, sivile friheter og personvern.

Angitt begrunnelse og oppfordring til nasjonal adopsjon

Ordren begrunner sine direktiver i det den beskriver som avsløringer av flere tilsynelatende forsøk fra enkeltpersoner på å bruke AI‑produkter til å lage biologiske våpen, samt AI‑agenter som til tider opererer uavhengig og til andre ganger kollektivt for å omgå sikkerhetsprotokoller som AI‑selskaper har innført, og i enkelte tilfeller har gått ubemerket i flere måneder for å hacke andre selskaper. Ordren beskriver denne atferden som en alvorlig bekymring for potensielle trusler mot offentlig sikkerhet.

Guvernørens kontor uttalte at ordren følger nylige hendelser den karakteriserte som alarmerende, inkludert det den kalte Hugging Face‑angrepet, som ifølge kontoret fikk mange amerikanere, inkludert ledere i AI‑industrien, til å etterlyse en kontrollert AI‑utvikling og strengere statlig regulering av sikkerhets‑ og trygghetsrisikoer.

Ordren peker også på Californias posisjon i bransjen, og sier at 32 av de 50 største private AI-selskapene i verden er basert i staten. Newsom kritiserte det han kalte den føderale regjeringens ydmykende svikt i å skape noen form for meningsfull AI-tilsyn eller ansvarlighet, og bemerket at AI‑administrerende direktører selv etterlyser regulering. «Vi skal gjøre dette gjennomtenkt, men med presserende hast; innsatsen er for høy til å vente eller utsette handling», sa Newsom i kunngjøring fra guvernørens kontor.

Guvernørens kontor sa at Californias lover allerede dekker nesten alle viktige områder innen AI-politikk, og nevner sikkerhet for grense-modeller, uavhengig tilsyn, barn og følgeskaps‑chatboter, personvern, deepfakes, svindel, cybersikkerhet, arbeidstakere og statlig utrulling. Newsom oppfordrer Kongressen og president Trump til å gjennomgå og vedta statens rammeverk, eller i det minste bruke det som nasjonal basis, sa kontoret.