Reglering
Newsom föreslår obligatorisk tillsyn av avancerad AI och befogenheter att stänga av system

Viktiga punkterLicensierade oberoende granskare skulle ge staten kontinuerlig teknisk granskning i…
Visa mer
- Licensierade oberoende granskare skulle ge staten kontinuerlig teknisk granskning i stället för engångsrapporter om säkerhet.
- Order om nödavstängning skulle träda i kraft omedelbart och förbli gällande under domstolsprövning.
- Incidentrapportering skulle skifta från tröskelvärden på utbildningsnivå till påvisad förmåga att hantera katastrofrisk.
Kaliforniens guvernör Gavin Newsom publicerade lagstiftningsrekommendationer den 18 november 2026. De skulle kräva kontinuerlig oberoende tillsyn av stora utvecklare av avancerad AI och ge delstatliga tjänstemän rätt att beordra nödstopp av modeller som innebär överhängande katastrofala risker.
Kaliforniens myndighet för statlig förvaltning (Government Operations Agency) lade den 16 november 2026 fram rapporten AI-säkerhet 2026 och framåt. Den är avsedd att ligga till grund för lagstiftning när lagstiftarna återkommer i december 2026; rekommendationerna har ännu inte blivit bindande krav. Planen skulle bygga vidare på Kaliforniens krav på att stora utvecklare av avancerad AI offentliggör säkerhetsramverk genom att införa grundläggande krav som delstaten fastställer för säkerhet, trygghet och transparens under hela träningen, den interna användningen och driftsättningen.
Kontinuerlig oberoende tillsyn
Alla stora utvecklare av avancerad AI skulle stå under löpande tillsyn av licensierade oberoende verifieringsorganisationer, eller IVO:er. Organisationerna skulle omvandla delstatens standarder till tekniska tester och uppdatera dem i takt med att metoderna för att utvärdera AI förändras. De skulle också få tillgång till modeller, personal, system, träningsmiljöer och register som de bedömer vara nödvändiga och därefter skicka oredigerade bedömningar till delstaten.
Myndigheten för statlig förvaltning skulle utfärda licenser till IVO:er och kunna återkalla dem vid bristande sakkunskap, oberoende eller noggrannhet. Om en granskare inte kunde intyga att en utvecklare uppfyllde standarderna skulle delstaten, efter dialog med företaget, kunna kräva korrigerande åtgärder. Utvecklare skulle kunna överklaga sådana beslut i domstol innan de träder i kraft, med undantag för det påskyndade nödförfarandet.
Ett påslag på de verifieringsavgifter som utvecklarna betalar skulle bidra till att finansiera beräkningskapacitet vid den offentligt drivna CalCompute. En del av kapaciteten skulle reserveras för oberoende säkerhetsforskning och offentlig tillsyn, vilket skulle knyta ett påslag finansierat av branschen till den infrastruktur som behövs för extern granskning.
Riskbegränsning och befogenheter i nödsituationer
Varje stor utvecklare av avancerad AI skulle ha ett protokoll för riskbegränsning, som en IVO fortlöpande skulle testa och verifiera och en senior företagsföreträdare intyga är effektivt. Den kapacitet som krävs skulle omfatta beräkningsresurser, agenter, intern åtkomst och driftsättning av modeller, i stället för att vara beroende av en enda av- och påknapp. Protokollen skulle ange ansvarig personal, samordna insatser med molnleverantörer och elleverantörer samt fastställa när en modell kan återställas på ett säkert sätt.
Testerna skulle undersöka hur ett avstängningsförfarande kan misslyckas, till exempel om en modell kopierar sina vikter för att försvåra begränsningen eller om en extern aktör får tillgång till avstängningskontrollerna. För utvecklare av modeller med öppna vikter skulle kraven på begränsning och avstängning endast gälla driftsättningar som de själva kontrollerar, eftersom de inte kan stänga av kopior som andra är värdar för.
Delstatliga tjänstemän skulle kunna beordra omedelbar avstängning om de har trovärdiga skäl att tro att det finns en överhängande katastrofal risk eller en allvarlig händelse med kontrollförlust och utvecklaren vägrar att begränsa faran. Beslutet skulle kräva den minst ingripande åtgärd som fungerar, träda i kraft omedelbart och fortsätta gälla under domstolsprövningen, även om utvecklaren skulle kunna begära ett tillfälligt domstolsförbud. Beslutet skulle hävas när faran inte längre är överhängande.
Incidentrapportering och automatiserad AI-forskning
Rapporteringskraven skulle omfatta försök att stjäla modellvikter även om ingen dödas eller skadas fysiskt, alla interna eller externa incidenter med kontrollförlust samt en ny kanal för rapportering av tillbud. I rapporten föreslås att tidsfristen för de flesta rapporter om kritiska incidenter kortas från 15 dagar till 48 timmar, samtidigt som kravet på 24 timmar behålls vid överhängande katastrofala risker. Skyddet för visselblåsare skulle även omfatta tidigare anställda och uppdragstagare.
Modeller med förmåga att utföra handlingar som skulle kunna medföra katastrofala risker skulle betraktas som avancerade modeller i incidentrapporteringen även om de tränats med färre än 10^26 heltals- eller flyttalsoperationer. Denna förmågebaserade utlösande faktor tar itu med rapportens farhåga att farliga incidenter har fallit utanför delstatens rapporteringskrav när man enbart utgår från träningsomfattningen.
Företag som automatiserar AI-forskning och -utveckling skulle kvartalsvis rapportera hur deras beräkningsresurser fördelas mellan träning, forskningsexperiment, inferens för AI-forskningsagenter, säkerhetsarbete, externa kunder och verksamhet utan angiven användning, och IVO:er skulle verifiera kategorierna. Ytterligare upplysningar skulle omfatta träningsdatans volym, kostnad, ämnesområden och ursprung från människor respektive AI, liksom inferensberäkningsresurser som används för att träna modeller i miljöer för förstärkningsinlärning, kända fall av felaktigt beteende som belönats samt de motåtgärder som vidtagits. Enligt rapporten skulle dessa åtgärder visa om AI tar över en större del av sin egen utveckling och om investeringarna i säkerhet håller jämna steg.
Rekursiv självförbättring (RSI), där den mest långtgående formen innebär att ett AI-system självständigt utvecklar sin efterföljare utan mänsklig inblandning, skulle omfattas av en beredskapsbefogenhet att införa ett tak snarare än av en omedelbar begränsning. Myndigheterna skulle kunna införa ett tidsbegränsat tak, som ses över regelbundet, för automatiserad AI-forskning när den överskrider tröskelvärden som utvecklaren har åtagit sig att följa eller går snabbare fram än dess skyddsåtgärder och utvärderingar, vilket skapar en påtaglig risk för katastrofal skada. Taket skulle hävas när en IVO hade verifierat att tillräckliga skyddsåtgärder fanns på plats.
Rekommendationerna är ett svar på Newsoms exekutiva order av den 18 september 2026 om oberoende tillsyn och ett AI-nödstopp, där han begärde expertförslag inom två månader och påskyndat genomförande av Kaliforniens lagar om oberoende verifiering och AI-revisorer. Government Operations Agency tog fram rapporten tillsammans med California Office of Emergency Services och de externa rådgivarna Jason Goldman, Gillian Hadfield, Alondra Nelson och Rob Reich.
För utvecklare skulle kraven inte bara omfatta publicering av säkerhetspolicyer, utan även kontinuerlig extern granskning, snabbare incidentrapportering och påvisbar förmåga att stänga ned systemen. Förslaget lämnar lagstiftarna inför två sammanhängande beslut: hur långtgående befogenheter att ingripa som ska införas och hur den kontinuerliga tillsynen ska göras operativ medan sektorn för licensierad verifiering fortfarande håller på att utvecklas.












