Californiens lovgivende forsamling vedtager lovforslag om uafhængig verifikation af AI-sikkerhed

Californiens lovgivende forsamling gav endelig godkendelse den 30. august 2026 til SB 813, lovgivning udarbejdet af senator Jerry McNerney, som vil pålægge Government Operations Agency at udpege uafhængige verifikationsorganisationer — eksterne revisorer, der er kvalificerede til at vurdere sikkerhedsrisiciene ved AI‑systemer og -modeller. Lovforslaget går nu videre til guvernør Gavin Newsom.

Forsamlingen vedtog lovforslaget ved tredje behandling den 30. august 2026, og Senatet tilsluttede sig forsamlingens ændringer samme dag, hvilket fuldførte den lovgivende vedtagelse ifølge det officielle afstemningsregister. Forsamlingen registrerede 67 ja‑stemmer, 6 nej‑stemmer og 6 medlemmer, der ikke stemte; Senatets godkendelse gik igennem med 39 ja‑stemmer, ingen modstand og ét medlem, der ikke stemte.

Hvad SB 813 vil kræve

Lovforslaget tilføjer et nyt kapitel til California Government Code, som det kalder California Artificial Intelligence Safety Independent Verification Organizations. Senest den 1. januar 2028 skal Government Operations Agency udarbejde ansøgningskrav for udpegning som en uafhængig verifikationsorganisation (IVO); procedurer for suspension eller ophør af en udpegning; samt kriterier for at fastslå, om en AI‑revisor er kvalificeret. Agenturet skal offentliggøre disse krav og kriterier, gennemgå og revidere dem i takt med, at teknologi og branchestandarder ændrer sig, og, hvor det er muligt, tilpasse dem til eksisterende professionelle og regulatoriske revisions‑ og sikringsstandarder.

Ifølge lovforslaget er en IVO en AI‑revisor, der har demonstreret ekspertise i at vurdere de risici, som et AI‑system eller -model udgør, samt i at identificere de måleparametre og metoder, der ligger til grund for denne vurdering. En udpeget IVO må ikke have nogen finansiel, operationel eller ledelsesmæssig afhængighed af den part, den vurderer. Den kan modtage betaling fra den vurderede part til rimelige markedspriser, men den må ikke acceptere vilkår, der gør betalingen afhængig af resultatet af dens vurdering.

Suspensions‑ og ophørsprocedurerne skal omfatte overtrædelser af relevante standarder, væsentlige fejlagtige oplysninger i ansøgninger eller påkrævede oplysningskrav, interessekonflikter, der underminerer uafhængigheden, manglende vedligeholdelse af tilstrækkelig dokumentation, svagheder i cybersikkerheden samt adfærd, der med rimelighed sætter spørgsmålstegn ved IVO’ens integritet, objektivitet eller kompetence.

Agenturet skal også samle arbejdsgrupper, der inkluderer ingeniører fra konkurrerende AI‑virksomheder samt AI‑sikkerhedseksperter, for at indhente interessenternes input til standarderne, og skal rapportere arbejdsgruppernes resultater til den lovgivende forsamling. Hver udpeget IVO skal indsende en årlig rapport, tidligst 12 måneder efter den første udpegning, som opsummerer deres standarder og metoder samt afslører ændringer i styringspolitikker eller finansieringskilder, der er relevante for deres uafhængighed. IVO’er kan udelade oplysninger i det offentliggjorte materiale for at beskytte forretningshemmeligheder, cybersikkerhed, offentlig sikkerhed eller national sikkerhed, men skal bevare uredigeret information i fem år.

Rammen er frivillig. Lovforslaget fastslår, at det ikke pålægger nogen udvikler, implementerer eller operatør af et AI‑system eller -model at engagere en IVO eller gennemgå en revision, ikke etablerer ansvar udelukkende for manglende overholdelse af en standard, og ikke udgør en statslig anbefaling eller godkendelse af noget AI‑system eller -model. I retssager, der påstår, at et AI‑system har forårsaget skade, fastsætter lovforslaget, at en revision udført i overensstemmelse med en standard identificeret i kapitlet er relevant for, men ikke afgørende for, sagen.

Udtalelser fra forslagsstiller og sponsor

McNerneys kontor beskrev forslaget som en ramme, der er den første af sin art i USA for uafhængige, tredjeparts‑vurderinger af potentielle sikkerhedsrisici ved AI‑systemer. Hans meddelelse rapporterede senatets afstemning som 37‑0 og forsamlingens som 53‑4; det officielle lovgivningsarkiv viser senatets godkendelse som 39‑0 med ét medlem, der ikke stemte, og forsamlingens som 67‑6 med seks medlemmer, der ikke stemte.

“Californiens lovgivende forsamling sender i dag et klart budskab: Det er på tide, at Californien tager føringen i at vurdere AI’s potentielle sikkerhedsrisici, da Washington, D.C. er ude af stand eller uvillig til at gøre det,” sagde McNerney i en erklæring, der annoncerede afstemningen. Hans kontor tilføjede, at etableringen af uafhængige tredjeparts‑evalueringer af AI var en af de primære anbefalinger fra Newsoms ekspertpanel om kunstig intelligens, og henviste til meningsmålinger, der viser, at to‑tredjedele af amerikanerne har lille eller ingen tillid til den føderale regering til effektivt at regulere AI.

SB 813 sponsoreres af Fathom, en nonprofitorganisation, der hævder at have udviklet og fremmet IVO‑modellen og arbejder med beslutningstagere over hele landet for at implementere den. Organisationen beskrev IVO’er som kvalificerede eksterne eksperter, der uafhængigt kan vurdere risikoen ved AI‑modeller og -systemer ved hjælp af troværdige tests og analyser, og sagde, at lovforslaget vil gøre det muligt at vurdere de potentielle risici ved teknologien uafhængigt i stedet for at tage dem på tro.

“Styrken ved den uafhængige verifikationsmodel er, at den lader uafhængige, kvalificerede eksperter vurdere risikoen ved AI‑kapaciteter, og den holder trit med teknologien i stedet for at fryse en enkelt test ind i loven,” sagde Andrew Freedman, Fathoms administrerende direktør, i organisationens erklæring.

Fathoms erklæring placerede også lovforslaget sammen med SB 53, som ifølge dem nu kræver, at store udviklere af de mest avancerede AI-modeller offentliggør en sikkerhedsramme og rapporterer kritiske hændelser. Organisationen sagde, at SB 813 vil begynde at opbygge et yderligere lag af ansvarlighed, fordi sikkerhedsvurderinger stadig i høj grad afhænger af, at virksomheder vurderer deres egne systemer, og at de vil fortsætte samarbejdet med californiske beslutningstagere, tekniske eksperter og brancheinteressenter for at fremme rammen.

Tidligere versioner af forslaget

McNerney indførte SB 813 den 21. februar 2025 sammen med forsamlingens medlemmer Bauer‑Kahan og Lowenthal som medforfattere, og lovforslaget blev gentagne gange ændret i begge kamre, med forsamlingens ændringer så sent som den 26. august 2026, ifølge lovgivningsarkivet. Senatet vedtog en tidligere version af lovforslaget 31‑7 den 27. januar 2026. McNerneys meddelelse på det tidspunkt sagde, at den version ville have oprettet en California Artificial Intelligence Standards and Safety Commission til at udpege IVO‑ekspertpaneler, som ville fastsætte frivillige standarder, certificere AI‑udviklere og -leverandører samt overvåge overholdelse, med beføjelse til at tilbagekalde certificering.

Hvis Newsom underskriver lovforslaget, står Government Operations Agency over for en frist den 1. januar 2028 for at opbygge udpegningssystemet, med arbejdsgruppens resultater, der skal rapporteres til lovgivningen, og de første årlige IVO‑rapporter forfalder tidligst 12 måneder efter en organisations første udpegning.