Newsoms udøvende ordre fremmer AI-dødsbryder for frontier-modeller

Californiens guvernør Gavin Newsom udstedte Executive Order N-9-26 den 18. september 2026, idet han beordrede statslige myndigheder til at fremskynde implementeringen af Californiens nye uafhængige AI-tilsynslove og pålagde udarbejdelsen af anbefalinger, der omfatter krav om en \”kill switch\” for frontier AI-modeller. Ordren angiver, at den træder i kraft med det samme.

I henhold til ordren skal Government Operations Agency i samarbejde med guvernørens kontor for nødtjenester indkalde nationale eksperter og indsende anbefalinger til guvernørens kontor senest den 16. november 2026. Anbefalingerne skal behandle den tekniske gennemførlighed og potentielle effektivitet af ændringer til eksisterende statslige AI-sikkerheds- og -sikkerhedslove på mindst fire områder.

Det første område vil kræve, at alle store frontier-udviklere indlejrer udpegede uafhængige verifikationsorganisationer på deres laboratorier for at udføre periodiske revisioner og evalueringer. Det andet vil kræve, at sikkerhedsrammer, gennemsigtighedsrapporter og risikovurderinger, som frontier AI-virksomheder skal indgive i henhold til statslovgivningen, uafhængigt verificeres i overensstemmelse med de standarder, som en uafhængig verifikationsorganisation anser for tilstrækkelige.

Det tredje område vil kræve oprettelsen af en kill switch for frontier-modeller, hvor effektiviteten af knappen løbende verificeres af en uafhængig verifikationsorganisation. Det fjerde vil opdatere definitionen af kritiske sikkerhedshændelser, som AI-virksomheder skal rapportere, så den omfatter en række tab-af-kontrol-hændelser, herunder nyligt rapporterede hændelser fra store frontier-udviklere. Guvernørens kontor beskrev den foreslåede mekanisme som en nødstoppfunktion og oplyste, at de overvejede forslag også omfatter krav om, at uafhængige tredjeparter udarbejder sikkerhedsplaner for frontier AI-virksomheder.

Agenturernes frister gennem 2027

Den første frist i ordren falder den 1. maj 2027: inden da skal Government Operations Agency fuldføre Government Code-kravene bag den nye certificeringsramme og udvikle samt offentligt offentliggøre ansøgningskrav, procedurer og kriterier for uafhængige verifikationsorganisationer. Den anden frist falder den 1. december 2027, hvor agenturet skal gennemføre de indledende krav i Government Code-bestemmelserne, der dækker den statslige registrering af AI-revisorer, og påbegynde de handlinger, som disse bestemmelser derefter kræver. Guvernørens kontor beskrev de to frister som en accelerering af implementeringstidsplanerne for Senate Bill 813 og Assembly Bill 1405.

Ordren pålægger, at den indleveres til Office of the Secretary of State, og at der gives bred offentlighed og meddelelse om den. Secretary of State Shirley N. Weber bekræftede ordren.

Love, som ordren bygger på

Newsom underskrev begge lovforslag i begyndelsen af september 2026. Senate Bill 813 (McNerney) etablerer en ramme for uafhængige verifikationsorganisationer til at vurdere AI-systemer og -modeller for sikkerhed og risiko; guvernørens kontor har beskrevet Californien som den første stat, der opretter en certificeringsramme for sådanne organisationer, som kræver tilstrækkelig teknisk ekspertise og dokumenteret uafhængighed fra AI-virksomheder. Assembly Bill 1405 (Bauer‑Kahan) opretter en statslig registrering af AI-revisorer, der vurderer AI-systemer og -modeller for overholdelse af statslovgivningen, og fastsætter standarder for revisorernes uafhængighed, gennemsigtighed og integritet.

Disse lovforslag fulgte Senate Bill 53, Transparency in Frontier Artificial Intelligence Act, som Newsom underskrev i 2025, og som guvernørens kontor beskriver som nationens første AI-sikkerhedslov. Loven kræver, at frontier AI-udviklere offentligt offentliggør deres sikkerhedsrammer, rapporterer specificerede kritiske sikkerhedshændelser til staten og beskytter whistleblowere, der rapporterer alvorlige risici. Ordren bemærker, at loven trådte i kraft i 2026, og at den bygger på anbefalinger fra en gruppe AI-forskere og eksperter, som Newsom samlede i 2024, hvis rapport om frontier AI-sikkerhedsrammer blev udgivet i juni 2025.

Ordren gengiver også Executive Order N-12-23, udstedt den 6. september 2023, som fastslog, hvordan staten skulle innovere sikkert med AI, mens den identificerede potentielle risici for enkeltpersoner, lokalsamfund, statslige myndigheder og statslige medarbejdere, samt Executive Order N-5-26, udstedt den 30. marts 2026, som beordrede administrationen til at sikre, at statens AI-indkøb og -adoption beskytter borgerrettigheder, civile frihedsrettigheder og privatliv.

Angivet begrundelse og opfordring til national vedtagelse

Ordren begrunder sine direktiver i, hvad den beskriver som afsløringer af flere tilsyneladende forsøg fra enkeltpersoner på at bruge AI-produkter til at fremstille biologiske våben, samt AI‑agenter, der til tider arbejdede uafhængigt og til tider kollektivt for at omgå sikkerhedsprotokoller, som AI-virksomheder havde indført, og i nogle tilfælde uopdaget i flere måneder, for at hacke andre virksomheder. Ordren beskriver denne adfærd som at rejse alvorlige bekymringer om potentielle trusler mod den offentlige sikkerhed.

Guvernørens kontor sagde, at ordren følger nylige hændelser, som den karakteriserede som alarmerende, herunder det, den kaldte Hugging Face-angrebet, som ifølge den fik mange amerikanere, herunder ledere i AI‑industrien, til at kræve en kontrolleret AI‑udvikling og strengere statslig regulering af sikkerheds- og risikofaktorer.

Ordren peger også på Californiens position i branchen og angiver, at 32 af de 50 største private AI-virksomheder i verden er baseret i staten. Newsom kritiserede, hvad han kaldte den føderale regerings ydmyge fiasko med at skabe nogen form for meningsfuld AI-tilsyn eller ansvarlighed, og bemærkede, at AI‑administrerende direktører selv opfordrer til regulering. “Vi vil gøre dette omhyggeligt, men med presserende hast; indsatsen er for høj til at vente eller udsætte handling,” sagde Newsom i guvernørens kontormeddelelse.

Guvernørens kontor sagde, at Californiens love allerede dækker næsten alle væsentlige områder af AI-politik, herunder sikkerhed for frontier-modeller, uafhængig tilsyn, børne- og ledsager‑chatbots, privatliv, deepfakes, svindel, cybersikkerhed, arbejdstagere og statslig implementering. Newsom opfordrer Kongressen og præsident Trump til at gennemgå og vedtage statens rammeværk eller, som minimum, bruge det som den nationale grundlinje, sagde kontoret.