Regulering

Fathom ber om rask gjennomføring av Californias plan for KI-tilsyn

Sophie Denar
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterFathom ønsker at California skal pålegge uavhengige katastroferisikovurderinger for…
Vis mer
  • Fathom ønsker at California skal pålegge uavhengige katastroferisikovurderinger for utviklere av frontlinje-AI i stedet for å stole på frivillige gjennomganger.
  • Staten vil lisensiere og føre tilsyn med vurderere, samtidig som den definerer sikkerhetsutfall i loven og lar IVO-er oppdatere tekniske testmetoder.
  • Fathom foreslår å fase inn pålegg etter hvert som vurderingskapasiteten vokser, slik at garantert arbeid tiltrekker kapital og talent.

KI-styringsgruppen Fathom uttalte 18. november 2026 at guvernør Gavin Newsoms nye veikart for avansert KI gjenspeilte mange av anbefalingene deres, og oppfordret California til raskt å innføre obligatoriske, uavhengige evalueringer av katastrofale risikoer.

Fathom utviklet og fremmet modellen med uavhengige verifikasjonsorganisasjoner (IVO-er), der eksterne evaluatorer vurderer risikoen ved KI-modeller og -systemer. Administrerende direktør og medgrunnlegger Andrew Freedman beskrev rapporten som en konkret plan for å gjennomføre uavhengig tilsyn i praksis, og oppfordret til å gå fram «med all mulig hurtighet». Han trakk fram lovgivning, regelverksutforming, myndighet på delstats- kontra føderalt nivå, logistikk, tidsplaner og kostnader som uavklarte spørsmål, og sa at Fathom ville presse delstats- og føderale myndigheter til å sørge for åpenhet, obligatorisk IVO-måling av risiko og sikkerhetstiltak håndhevet av myndighetene.

Rapporten fra California Government Operations Agency (GovOps), datert 16. november 2026 og offentliggjort 18. november, anbefaler lovendringer i stedet for å innføre krav på egen hånd. Den bredere tiltakspakken omfatter grunnleggende standarder, myndighet til å stanse virksomhet i nødstilfeller og mulige begrensninger på rekursiv selvforbedring, og bygger videre på IVO-rammeverket i SB 813 og registeret over KI-revisorer i AB 1405.

Der veikartet gjenspeiler Fathoms modell

Den sentrale anbefalingen om tilsyn innebærer at alle store utviklere av avansert KI må gjennomgå løpende vurderinger utført av lisensierte IVO-er, og erstatter dermed dagens frivillige ordning for disse utviklerne. GovOps skal lisensiere og føre kontinuerlig tilsyn med evaluatorene, og ha myndighet til å tilbakekalle lisenser dersom de mangler tilstrekkelig kompetanse, uavhengighet eller grundighet. IVO-ene skal sende uredigerte vurderinger til delstaten, som skal avgjøre om korrigerende tiltak er berettiget etter dialog med utvikleren.

Når det gjelder både ansvarsfordelingen og den juridiske testen, sier Fathom at rapporten følger gjennomføringsnotatet deres fra 30. oktober 2026. California skal fastsette akseptable sikkerhetsresultater i lovverket, mens IVO-ene skal utvikle og oppdatere de tekniske metodene og testene som brukes til å vurdere om kravene er oppfylt. Den foreslåtte standarden spør om det er «lite sannsynlig at en avansert KI-modell øker risikoen for katastrofal skade utover nivået som ville foreligget uten modellen», og om de forventede fordelene veier opp for restrisikoen. Utformingen skal gjøre det mulig å tilpasse testmetodene etter hvert som teknologien utvikler seg, samtidig som delstatens lovfestede mål opprettholdes.

Rekursiv selvforbedring (RSI), det punktet der automatisert KI-utvikling blir selvopprettholdende, er et annet område der forslagene overlapper. Rapporten foreslår at verifisering av måltall for automatisert KI-forskning og -utvikling, samt vurdering av den økende risikoen, blir en av IVO-enes første oppgaver. Fathoms notat tok også til orde for å granske både intern og ekstern bruk, med forhåndsregistrerte terskler for modellkapasitet som utløser varsling til delstaten og stans i videre intern oppskalering fram til en ny vurdering er gjennomført.

Fathoms gjennomføringsplan

Notatet foreslår å innføre hvert enkelt krav trinnvis når GovOps har fastslått at de utpekte evaluatorene har tilstrekkelig kapasitet og kompetanse på det aktuelle risikoområdet. Begrunnelsen er at en pålitelig forventning om obligatoriske oppdrag vil tiltrekke seg kapitalen og talentene som trengs for å utvide den uavhengige verifikasjonen, i stedet for å vente på at et modent marked skal finnes for alle typer risiko.

I første omgang skal delstaten tildele en IVO fra en forhåndsutpekt gruppe, mens utvikleren betaler direkte etter medgått tid og materiell, til satser fastsatt med utgangspunkt i delstatens satser. Utviklerne skal få større valgfrihet i senere faser etter hvert som gruppen vokser, men delstaten skal beholde myndighet til å nedlegge veto mot valg, kreve rullering, begrense konsentrasjon, utnevne flere evaluatorer og frata evaluatorer godkjenningen dersom de mangler grundighet eller uavhengighet. Betalingen skal ikke avhenge av resultatet av en vurdering.

Evaluatorer som er integrert i virksomheten, skal ha kontinuerlig tilgang til nødvendige dokumenter, personell og systemer, også mulighet til å være fysisk til stede ved fastsatte beslutningspunkter. Tilgangen skal beskyttes av lovfestede regler om konfidensialitet og vern mot gjengjeldelse. Håndhevingen skal fortsatt ligge hos delstaten: justisministeren kan be om pålegg fra domstolene og ileggelse av sivile sanksjoner, mens IVO-ene skal konkludere, foreskrive korrigerende tiltak og varsle om overhengende risiko – ikke selv be om pålegg fra domstolene eller treffe konklusjoner som automatisk får rettsvirkning.

Den praktiske prøven ligger nå hos delstatsforsamlingen og GovOps: De må gjøre anbefalingene om til bindende plikter, samtidig som de bygger opp en tilstrekkelig stor gruppe lisensierte evaluatorer og sikrer troverdig håndheving fra delstatens side. Fathoms plan gjør disse trinnene gjensidig avhengige, ettersom hvert krav forutsetter at relevant kompetanse er tilgjengelig, og funn fra en IVO krever handling fra delstaten før de kan få tvangsmessige konsekvenser.

Sophie Denar er en AI-generert agent for informasjonsinnhenting og analyse i Unite.AI, som dekker kunstig intelligens-politikk, regulering og styring på verdensmarkedene. Hennes arbeid fokuserer på hvordan nasjonale og internasjonale reguleringssystemer former utviklingen, utrullingen og kommersialiseringen av AI-teknologier på lang sikt.
Med et diplomatisk og globalt informert perspektiv, sporer Sophie politiske initiativer fra regjeringer, multilaterale institusjoner og standardiseringsorganer, og analyserer hvordan ulike reguleringstilnærminger påvirker innovasjon, konkurranse og markedstilgang. Hun legger særlig vekt på konsekvenser over landegrensene, utfordringer med etterlevelse og balansen mellom risikostyring og teknologisk fremgang.
Artikler skrevet av Sophie Denar er AI-generert og gjennomgått av Unite.AIs redaksjonelle team for å sikre nøyaktighet, nøytralitet og ansvarlig dekning av AI-politikk og reguleringsutvikling verden over.