Kaliforniens lagstiftning antar lag om oberoende verifiering av AI‑säkerhet

Kaliforniens lagstiftning gav slutgiltigt godkännande den 30 augusti 2026 till SB 813, lagstiftning författad av senator Jerry McNerney som skulle instruera Government Operations Agency att utse oberoende verifieringsorganisationer – externa revisorer som är kvalificerade att bedöma säkerhetsriskerna för AI‑system och modeller. Lagen går nu till guvernör Gavin Newsom.

Representanthuset antog lagen vid tredje behandlingen den 30 augusti 2026, och senaten gick med på representanthusets ändringar samma dag, vilket fullbordade lagstiftningsprocessen, enligt den officiella röstningsprotokollet. Representanthuset registrerade 67 ja, 6 nej och 6 ledamöter som inte röstade; senatens medgivande gick igenom med 39 ja, ingen opposition och en ledamot som inte röstade.

Vad SB 813 skulle kräva

Lagen lägger till ett nytt kapitel i California Government Code som den benämner California Artificial Intelligence Safety Independent Verification Organizations. Senast den 1 januari 2028 måste Government Operations Agency utveckla ansökningskrav för att bli utsedd till en oberoende verifieringsorganisation, eller IVO; rutiner för att suspendera eller avsluta en utsedning; samt kriterier för att avgöra om en AI‑revisor är kvalificerad. Myndigheten måste offentliggöra dessa krav och kriterier, granska och revidera dem i takt med att teknik och branschstandarder förändras, och, där det är praktiskt möjligt, anpassa dem till befintliga professionella och regulatoriska revisions‑ och försäkringsstandarder.

Enligt lagens definition är en IVO en AI‑revisor som har visat expertis i att bedöma riskerna som ett AI‑system eller en modell medför samt i att identifiera de mått och metoder som ligger till grund för den bedömningen. En utsedd IVO får inte ha någon finansiell, operativ eller ledningsmässig beroende av den part den granskar. Den kan ta emot betalning från den granskade parten till rimliga marknadspriser, men får inte acceptera villkor som knyter betalning till resultatet av dess bedömning.

Suspensions‑ och avslutningsrutinerna måste omfatta brister i att följa lämpliga standarder, väsentliga felaktiga uppgifter i ansökningar eller obligatoriska upplysningar, intressekonflikter som äventyrar oberoendet, bristande dokumentation, säkerhetsluckor i cybersäkerheten samt beteende som rimligtvis ifrågasätter en IVO:s integritet, objektivitet eller kompetens.

Myndigheten måste också sammankalla arbetsgrupper som inkluderar ingenjörer från konkurrerande AI‑företag och AI‑säkerhetsexperter för att samla in intressenters synpunkter på standarder, och måste rapportera arbetsgruppernas resultat till lagstiftningen. Varje utsedd IVO måste lämna in en årsrapport, tidigast 12 månader efter sin första utsedning, som sammanfattar dess standarder och metoder samt avslöjar förändringar i styrningspolicyer eller finansieringskällor som är relevanta för dess oberoende. IVO:er kan maskera material för att skydda affärshemligheter, cybersäkerhet, allmän säkerhet eller nationell säkerhet, men måste behålla omaskerad information i fem år.

Ramverket är frivilligt. Lagen anger att den inte kräver att någon utvecklare, distributör eller operatör av ett AI‑system eller en modell anlitar en IVO eller genomgår en revision, inte skapar ansvar enbart för bristande efterlevnad av en standard, och inte utgör en statlig rekommendation eller godkännande av något AI‑system eller modell. I en rättstvist som påstår att ett AI‑system orsakat skada, föreskriver lagen att en revision som utförs enligt en standard som identifieras i kapitlet är relevant för, men inte avgörande för, ärendet.

Uttalanden från lagförfattare och sponsorer

McNerneys kontor beskrev förslaget som ett först i landet‑ramverk för oberoende, tredjepartsbedömningar av potentiella säkerhetsrisker som AI‑system kan medföra. Hans tillkännagivande rapporterade senatens omröstning som 37–0 och representanthusets som 53–4; det officiella lagstiftningsprotokollet visar senatens medgivande som 39–0 med en ledamot som inte röstade och representanthusets omröstning som 67–6 med sex ledamöter som inte röstade.

“Kaliforniens lagstiftning skickade idag ett tydligt budskap: Det är dags för Kalifornien att ta ledningen i att bedöma AI:s potentiella säkerhetsrisker, eftersom Washington, D.C., är oförmöget eller ovilligt att göra det,” sade McNerney i ett uttalande som tillkännagav omröstningen. Hans kontor meddelade också att etableringen av oberoende, tredjepartsutvärderingar av AI var en av de främsta rekommendationerna från Newsoms blåbandpanel för artificiell intelligens, och hänvisade till en undersökning som visar att två tredjedelar av amerikanerna har liten eller ingen tilltro till den federala regeringens förmåga att effektivt reglera AI.

SB 813 sponsras av Fathom, en ideell organisation som säger att den utvecklade och förespråkade IVO‑modellen och arbetar med beslutsfattare över hela landet för att förverkliga den. Organisationen beskrev IVO:er som kvalificerade externa experter som kan oberoende bedöma riskerna med AI‑modeller och -system genom trovärdig testning och analys, och sade att lagen skulle möjliggöra att de potentiella riskerna med tekniken bedöms oberoende istället för att tas på tro.

“Kraften i den oberoende verifieringsmodellen är att den låter oberoende, kvalificerade experter bedöma riskerna med AI‑kapabiliteter, och att den håller jämna steg med tekniken istället för att låsa in ett enda test i lag,” sade Andrew Freedman, VD för Fathom, i organisationens uttalande.

Fathoms uttalande placerade också lagen bredvid SB 53, som enligt dem nu kräver att stora framkantutvecklare publicerar ett säkerhetsramverk och rapporterar kritiska incidenter. Organisationen sade att SB 813 skulle inleda en ytterligare ansvarsnivå eftersom säkerhetsbedömningar fortfarande i stor utsträckning förlitar sig på att företag själva utvärderar sina system, och att den kommer fortsätta samarbeta med kaliforniska lagstiftare, tekniska experter och branschintressenter för att driva ramverket framåt.

Tidigare versioner av förslaget

McNerney lade fram SB 813 den 21 februari 2025, med representanthusmedlemmarna Bauer‑Kahan och Lowenthal som medförfattare, och lagen ändrades upprepade gånger i båda kamrarna, med representanthusets ändringar så sent som den 26 augusti 2026, enligt lagstiftningsprotokollet. Senaten antog en tidigare version av lagen 31–7 den 27 januari 2026. McNerneys tillkännagivande vid den tiden sade att den versionen skulle ha skapat en California Artificial Intelligence Standards and Safety Commission för att utse IVO‑expertpaneler som skulle fastställa frivilliga standarder, certifiera AI‑utvecklare och leverantörer samt övervaka efterlevnad, med befogenhet att återkalla certifiering.

Om Newsom undertecknar lagen står Government Operations Agency inför en deadline den 1 januari 2028 för att bygga utsedningssystemet, med arbetsgruppens resultat som ska rapporteras till lagstiftningen och de första årliga IVO‑rapporterna som ska lämnas in tidigast 12 månader efter en organisations första utsedning.