Regulering
Fathom opfordrer til hurtig gennemførelse af Californiens plan for tilsyn med AI

NøglepunkterFathom ønsker, at Californien gør uafhængige katastroferisikovurderinger obligatoriske…
Vis mere
- Fathom ønsker, at Californien gør uafhængige katastroferisikovurderinger obligatoriske for udviklere af frontlinje-AI i stedet for at stole på frivillige gennemgange.
- Staten vil licensere og føre tilsyn med evaluatorer, mens den definerer sikkerhedsresultater i loven og lader IVO'er opdatere tekniske testmetoder.
- Fathom foreslår at indfase mandater i takt med, at evaluatorkapaciteten vokser, så garanteret arbejde tiltrækker kapital og talent.
AI-forvaltningsgruppen Fathom oplyste den 18. november 2026, at guvernør Gavin Newsoms nye køreplan for avanceret AI afspejlede mange af gruppens anbefalinger, og opfordrede Californien til hurtigt at indføre obligatoriske, uafhængige evalueringer af katastrofale risici.
Fathom udviklede og talte for modellen med uafhængige verifikationsorganisationer (IVO’er), hvor eksterne evaluatorer vurderer AI-modeller og -systemer med henblik på risici. Administrerende direktør og medstifter Andrew Freedman beskrev rapporten som en konkret plan for at føre uafhængigt tilsyn ud i livet og opfordrede til handling «så hurtigt som muligt og med omtanke». Han nævnte lovgivning, regeludstedelse, fordelingen af beføjelser mellem delstaten og forbundsregeringen, logistik, tidsplaner og omkostninger som uafklarede spørgsmål og sagde, at Fathom ville presse delstats- og forbundsregeringen til at sikre gennemsigtighed, obligatorisk risikomåling foretaget af IVO’er og sikkerhedsforanstaltninger håndhævet af myndighederne.
Rapporten fra California Government Operations Agency (GovOps), dateret 16. november 2026 og offentliggjort den 18. november, anbefaler lovændringer frem for selv at indføre krav. Den bredere pakke omfatter grundlæggende standarder, beføjelse til nødstop og mulige begrænsninger af rekursiv selvforbedring og bygger videre på IVO-rammen i SB 813 og registret over AI-revisorer i AB 1405.
Hvor køreplanen afspejler Fathoms model
Den centrale anbefaling om tilsyn vil kræve, at alle store udviklere af frontier-AI gennemgår løbende evalueringer foretaget af godkendte IVO’er, hvilket vil erstatte den nuværende frivillige tilgang for disse udviklere. GovOps vil godkende evaluatorerne og føre løbende tilsyn med dem og vil have beføjelse til at tilbagekalde deres godkendelser, hvis de ikke har tilstrækkelig ekspertise, uafhængighed eller grundighed. IVO’erne vil indsende uredigerede vurderinger til delstaten, som vil afgøre, om der er grundlag for korrigerende handlinger, efter at have været i dialog med udvikleren.
Hvad angår både ansvarsfordelingen og den juridiske test, siger Fathom, at rapporten følger organisationens implementeringsnotat af 30. oktober 2026. Californien vil fastlægge acceptable sikkerhedsresultater i lovgivningen, mens IVO’erne vil udvikle og ajourføre de tekniske metoder og test, der bruges til at vurdere, om kravene overholdes. Den foreslåede standard spørger, om det er «usandsynligt, at en frontier-model øger risikoen for katastrofale skader til over det niveau, der ville have været uden modellen», og om de forventede fordele opvejer den resterende risiko. Modellen skal gøre det muligt at tilpasse testmetoderne, efterhånden som teknologien udvikler sig, samtidig med at delstatens lovbestemte mål fastholdes.
Rekursiv selvforbedring (RSI), hvor automatiseret AI-udvikling bliver selvopretholdende, er et andet område, hvor der er overlap. Rapporten vil gøre det til en indledende opgave for IVO’erne at verificere målinger af automatiseret AI-forskning og -udvikling samt vurdere de voksende risici. Fathoms notat efterlyste også granskning af både intern og ekstern brug, hvor på forhånd registrerede tærskler for kapacitet vil udløse en underretning af delstaten og en pause i yderligere intern opskalering, indtil der er foretaget en ny vurdering.
Fathoms implementeringsmodel
Notatet foreslår, at hvert krav indfases, når GovOps har fastslået, at de udpegede evaluatorer har tilstrækkelig kapacitet og ekspertise inden for det relevante risikoområde. Argumentet er, at en pålidelig forventning om obligatorisk arbejde vil tiltrække den kapital og de talenter, der er nødvendige for at udvide den uafhængige verifikation, frem for at vente på, at der opstår et modent marked for hvert enkelt risikoområde.
I første omgang vil delstaten tildele en IVO fra en på forhånd udpeget gruppe, mens udvikleren betaler direkte efter medgået tid og materialer til satser, der er fastsat ud fra delstatens sammenligningsgrundlag. Udviklernes valgfrihed vil blive udvidet i senere faser, efterhånden som gruppen vokser, men delstaten vil fortsat kunne nedlægge veto mod valg, kræve rotation, begrænse koncentrationen, udpege yderligere evaluatorer og fratage evaluatorer deres godkendelse, hvis de ikke udviser tilstrækkelig grundighed eller uafhængighed. Betalingerne vil ikke afhænge af vurderingens resultat.
Indlejrede evaluatorer vil få løbende adgang til nødvendige optegnelser, medarbejdere og systemer, herunder mulighed for fysisk tilstedeværelse ved fastlagte beslutningspunkter, og vil være beskyttet af lovbestemmelser om fortrolighed og mod repressalier. Håndhævelsen vil fortsat være delstatens ansvar: justitsministeren kan anmode om forbudspåbud og civile bøder, mens IVO’erne vil fremsætte konklusioner, foreskrive korrigerende foranstaltninger og indberette overhængende risici, men ikke selv anmode om forbudspåbud eller fremsætte konklusioner, der automatisk får retsvirkning.
Den praktiske prøve ligger nu hos delstatens lovgivende forsamling og GovOps: at omsætte anbefalingerne til bindende forpligtelser og samtidig opbygge en tilstrækkelig stor gruppe godkendte evaluatorer og sikre troværdig håndhævelse fra delstatens side. Fathoms model gør disse skridt indbyrdes afhængige, fordi hvert krav forudsætter, at den nødvendige ekspertise er til rådighed, og fordi IVO’ernes konklusioner kræver handling fra delstaten, før de kan få tvangsmæssige konsekvenser.












