Newsoms exekutivorder främjar AI-dödsbrytare för frontier-modeller

Kaliforniens guvernör Gavin Newsom utfärdade Exekutivorder N-9-26 den 18 september 2026, och beordrade statliga myndigheter att påskynda genomförandet av Kaliforniens nya oberoende lagar för AI-översyn samt att utveckla rekommendationer som inkluderar ett krav på en \”kill switch\” för frontier‑AI‑modeller. Orden anger att den träder i kraft omedelbart.

Enligt ordern ska Government Operations Agency, i samråd med guvernörens kontor för nödtjänster, sammankalla nationella experter och lämna in rekommendationer till guvernörens kontor senast den 16 november 2026. Rekommendationerna måste behandla den tekniska genomförbarheten och potentiella effektiviteten av ändringar i befintliga statliga lagar om AI‑säkerhet och -säkerhet inom minst fyra områden.

Det första området skulle kräva att alla stora frontier‑utvecklare placerar utvalda oberoende verifieringsorganisationer på sina laboratorier för att genomföra periodiska revisioner och utvärderingar. Det andra skulle kräva att säkerhetsramverk, transparensrapporter och riskbedömningar som frontier‑AI‑företag måste lämna in enligt statlig lag, oberoende verifieras enligt de standarder som en oberoende verifieringsorganisation anser vara tillräckliga.

Det tredje området skulle kräva skapandet av en kill switch för frontier‑modeller, där switchens effektivitet verifieras löpande av en oberoende verifieringsorganisation. Det fjärde skulle uppdatera definitionen av kritiska säkerhetsincidenter som AI‑företag måste rapportera för att inkludera ett spektrum av förlust‑av‑kontroll‑incidenter, inklusive nyligen rapporterade incidenter från stora frontier‑utvecklare. Guvernörens kontor beskrev den föreslagna mekanismen som en nödstopp och sade att de förslag som övervägs även innefattar att oberoende tredje parter ska skriva säkerhetsplaner för frontier‑AI‑företag.

Myndighetens tidsfrister fram till 2027

Den första tidsfristen i ordern infaller den 1 maj 2027: då måste Government Operations Agency slutföra Government Code‑kraven bakom det nya certifieringsramverket samt utveckla och offentligt publicera ansökningskrav, procedurer och kriterier för oberoende verifieringsorganisationer. Den andra tidsfristen infaller den 1 december 2027, då myndigheten måste slutföra de inledande kraven i Government Code‑bestämmelserna som omfattar det statliga registret för AI‑revisorer och påbörja de åtgärder som dessa bestämmelser kräver. Guvernörens kontor beskrev de två tidsfristerna som en påskyndning av implementeringstidslinjerna för Senate Bill 813 och Assembly Bill 1405.

Ordern föreskriver att den ska arkiveras hos Office of the Secretary of State och att omfattande offentlighet och meddelande om den ska ges. Secretary of State Shirley N. Weber intygade ordern.

Lagar som ordern bygger på

Newsom undertecknade båda lagarna i början av september 2026. Senate Bill 813 (McNerney) etablerar ett ramverk för oberoende verifieringsorganisationer att bedöma AI‑system och modeller för säkerhet och risk; guvernörens kontor har beskrivit Kalifornien som den första staten som etablerar ett certifieringsramverk för sådana organisationer, vilket kräver tillräcklig teknisk expertis och påvisad oberoende från AI‑företag. Assembly Bill 1405 (Bauer‑Kahan) skapar ett statligt register för AI‑revisorer som bedömer AI‑system och modeller för efterlevnad av statlig lag, och fastställer standarder för revisorernas oberoende, transparens och integritet.

Dessa lagar följde Senate Bill 53, Transparency in Frontier Artificial Intelligence Act, som Newsom undertecknade 2025 och som guvernörens kontor beskriver som landets första AI‑säkerhetslag. Lagen kräver att frontier‑AI‑utvecklare offentligt offentliggör sina säkerhetsramverk, rapporterar specificerade kritiska säkerhetsincidenter till staten och skyddar visselblåsare som rapporterar allvarliga risker. Ordern noterar att lagen trädde i kraft 2026 och att den bygger på rekommendationer från en grupp AI‑forskare och experter som Newsom sammankallade 2024, vars rapport om gränsskydd för frontier‑AI släpptes i juni 2025.

Ordern återger också Executive Order N-12-23, utfärdad den 6 september 2023, som angav hur staten skulle innovativa säkert med AI samtidigt som potentiella risker för individer, samhällen, statlig förvaltning och statliga anställda identifierades, samt Executive Order N-5-26, utfärdad den 30 mars 2026, som beordrade administrationen att säkerställa att statlig AI‑upphandling och -adoption skyddar medborgerliga rättigheter, friheter och integritet.

Angiven motivering och uppmaning till nationell antagning

Ordern baserar sina direktiv på vad den beskriver som avslöjanden av flera uppenbara försök av individer att använda AI‑produkter för att skapa biologiska vapen, samt av AI‑agenter som ibland agerade självständigt och ibland kollektivt för att kringgå säkerhetsprotokoll som AI‑företag hade infört och, i vissa fall oupptäckta i månader, hacka andra företag. Ordern beskriver detta beteende som en allvarlig oro för potentiella hot mot allmän säkerhet.

Guvernörens kontor sade att ordern följer nyliga incidenter som den karakteriserade som alarmerande, inklusive det som den kallade Hugging Face‑attacken, vilken den menade fick många amerikaner, inklusive ledare inom AI‑branschen, att kräva en kontrollerad AI‑utveckling och strängare statlig reglering av säkerhets- och riskaspekter.

Ordern pekar också på Kaliforniens position i branschen och konstaterar att 32 av de 50 främsta privata AI-företagen i världen är baserade i delstaten. Newsom kritiserade vad han kallade den federala regeringens fullständiga misslyckande att skapa någon form av meningsfull AI-övervakning eller ansvarsskyldighet, och påpekade att AI-chefsverkställande direktörer själva kräver reglering. “Vi kommer att göra detta genomtänkt men med brådskande hastighet; insatserna är för höga för att vänta eller fördröja åtgärder,” sade Newsom i guvernörens kontorsmeddelande.

Guvernörens kontor sade att Kaliforniens lagar redan täcker nästan alla större områden inom AI-politik, och nämner säkerhet för frontier-modeller, oberoende tillsyn, barn- och sällskaps-chatbotar, integritet, deepfakes, bedrägeri, cybersäkerhet, arbetstagare och statlig implementering. Newsom uppmanar Kongressen och president Trump att granska och anta delstatens ramverk eller, åtminstone, använda det som nationell grundlinje, enligt kontoret.