Reglering
Fathom uppmanar Kalifornien att snabbt genomföra sin plan för AI-tillsyn

Viktiga punkterFathom vill att Kalifornien ska införa obligatoriska oberoende katastrofriskbedömningar…
Visa mer
- Fathom vill att Kalifornien ska införa obligatoriska oberoende katastrofriskbedömningar för utvecklare av frontlinje-AI i stället för att förlita sig på frivilliga granskningar.
- Delstaten skulle licensiera och övervaka bedömare samtidigt som den definierar säkerhetsutfall i lag och låter IVO:er uppdatera tekniska testmetoder.
- Fathom föreslår att mandaten fasas in i takt med att bedömarnas kapacitet växer så att garanterat arbete attraherar kapital och talang.
AI-styrningsgruppen Fathom uppgav den 18 november 2026 att guvernör Gavin Newsoms nya färdplan för frontier-AI återspeglade många av gruppens rekommendationer och uppmanade Kalifornien att snabbt införa obligatoriska oberoende utvärderingar av katastrofrisker.
Fathom utvecklade och förespråkade modellen med oberoende verifieringsorganisationer (IVO), där externa utvärderare bedömer riskerna med AI-modeller och AI-system. Vd:n och medgrundaren Andrew Freedman beskrev rapporten som en konkret plan för att omsätta oberoende tillsyn i praktiken och uppmanade till handling ”med all tillbörlig skyndsamhet”. Han räknade upp lagstiftning, regelgivning, ansvarsfördelningen mellan delstat och federal nivå, logistik, tidsplan och kostnader som olösta frågor. Han sade också att Fathom skulle verka för transparens hos delstatliga och federala myndigheter, obligatorisk riskmätning genom IVO:er och skyddsåtgärder som upprätthålls av myndigheterna.
Rapporten från California Government Operations Agency (GovOps), daterad den 16 november 2026 och offentliggjord den 18 november, rekommenderar lagändringar i stället för att själv införa krav. Det bredare åtgärdspaketet omfattar grundläggande standarder, befogenhet att besluta om akuta avstängningar och eventuella begränsningar av rekursiv självförbättring. Det bygger vidare på IVO-ramverket i SB 813 och registret över AI-revisorer i AB 1405.
Där färdplanen återspeglar Fathoms modell
Den centrala rekommendationen om tillsyn skulle kräva att alla stora utvecklare av frontier-AI genomgår fortlöpande granskningar av licensierade IVO:er, vilket skulle ersätta den nuvarande frivilliga ordningen för dessa utvecklare. GovOps skulle licensiera utvärderarna och utöva löpande tillsyn över dem, med befogenhet att återkalla licenser om de saknar tillräcklig sakkunskap, oberoende eller noggrannhet. IVO:erna skulle lämna in oredigerade bedömningar till delstaten, som efter dialog med utvecklaren skulle avgöra om korrigerande åtgärder behövdes.
När det gäller både ansvarsfördelningen och det rättsliga testet säger Fathom att rapporten följer organisationens genomförandememo från den 30 oktober 2026. Kalifornien skulle i lag fastställa godtagbara säkerhetsutfall, medan IVO:erna skulle utarbeta och uppdatera de tekniska metoder och tester som används för att bedöma efterlevnaden. Den föreslagna standarden frågar om en frontier-modell ”sannolikt inte ökar risken för katastrofal skada utöver den nivå som skulle råda utan modellen” och om modellens förväntade fördelar väger tyngre än den kvarstående risken. Utformningen är tänkt att göra det möjligt att anpassa testmetoderna i takt med den tekniska utvecklingen, samtidigt som delstatens lagstadgade mål upprätthålls.
Rekursiv självförbättring (RSI), den punkt då automatiserad AI-utveckling blir självgående, är ett annat område där modellerna överlappar. Rapporten skulle göra det till en inledande uppgift för IVO:erna att verifiera mått på automatiserad AI-forskning och AI-utveckling samt bedöma de växande riskerna. Fathoms memo efterlyste också granskning av både intern och extern användning, där förhandsregistrerade tröskelvärden för förmåga skulle utlösa en underrättelse till delstaten och ett uppehåll i ytterligare intern uppskalning i väntan på en ny bedömning.
Fathoms genomförandemodell
Memot föreslår att varje krav införs stegvis när GovOps bedömer att utsedda utvärderare har tillräcklig kapacitet och sakkunskap inom det relevanta riskområdet. Motiveringen är att en tillförlitlig förväntan om obligatoriska uppdrag skulle locka till sig det kapital och den kompetens som krävs för att bygga ut den oberoende verifieringen, i stället för att invänta en mogen marknad för varje riskområde.
Till en början skulle delstaten utse en IVO från en på förhand fastställd grupp, medan utvecklaren betalade direkt enligt löpande räkning för arbetad tid och material, till priser som jämförts med delstatens riktmärken. Utvecklarna skulle få större valfrihet i senare faser i takt med att gruppen växte, men delstaten skulle behålla befogenheten att lägga in veto mot val, kräva rotation, begränsa koncentrationen, utse ytterligare granskare och frånta utvärderare deras certifiering om de saknade noggrannhet eller oberoende. Betalningarna skulle inte vara beroende av bedömningens utfall.
Inbäddade utvärderare skulle fortlöpande få tillgång till nödvändiga handlingar, personal och system, inklusive möjlighet att vara fysiskt närvarande vid fastställda beslutspunkter. Tillgången skulle skyddas av lagstadgad sekretess och skydd mot repressalier. Tillsynen skulle förbli delstatens ansvar: delstatens justitieminister skulle kunna begära förelägganden och civilrättsliga sanktioner, medan IVO:erna skulle fastställa sina bedömningar, föreskriva korrigerande åtgärder och rapportera överhängande risker, i stället för att själva begära förelägganden eller utfärda bedömningar som får automatisk rättsverkan.
Den praktiska utmaningen ligger nu hos delstatsparlamentet och GovOps: att omvandla rekommendationerna till bindande skyldigheter och samtidigt bygga upp en tillräckligt stor grupp licensierade utvärderare och upprätthålla en trovärdig tillsyn från delstatens sida. I Fathoms modell är dessa steg ömsesidigt beroende, eftersom varje krav förutsätter att sakkunskap finns tillgänglig och IVO:ernas bedömningar kräver åtgärder från delstaten för att kunna leda till tvingande konsekvenser.












