Regelgeving

Fathom dringt aan op snelle uitvoering van Californiës AI-toezichtplan

Sophie Denar
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenFathom wil dat Californië onafhankelijke evaluaties van catastrofale risico's verplicht…
Meer weergeven
  • Fathom wil dat Californië onafhankelijke evaluaties van catastrofale risico's verplicht stelt voor ontwikkelaars van geavanceerde AI in plaats van te vertrouwen op vrijwillige beoordelingen.
  • De staat zou evaluatoren licentiëren en toezicht houden, terwijl veiligheidsuitkomsten in de wet worden vastgelegd en IVO's de technische testmethoden mogen bijwerken.
  • Fathom stelt voor verplichtingen gefaseerd in te voeren naarmate de capaciteit van evaluatoren groeit, zodat gegarandeerd werk kapitaal en talent aantrekt.

De AI-governancegroep Fathom verklaarde op 18 november 2026 dat de nieuwe routekaart voor frontier-AI van gouverneur Gavin Newsom veel van zijn aanbevelingen weerspiegelde. De groep drong er bij Californië op aan snel verplichte onafhankelijke evaluaties van catastrofale risico’s in te voeren.

Fathom ontwikkelde het model van de onafhankelijke verificatieorganisatie (IVO) en bepleitte dit ook. Volgens dit model beoordelen externe evaluatoren AI-modellen en -systemen op risico’s. CEO en medeoprichter Andrew Freedman noemde het rapport een concreet plan om onafhankelijk toezicht in de praktijk te brengen en drong aan op “alle mogelijke voortvarendheid”. Hij noemde wetgeving, regelgeving, de bevoegdheidsverdeling tussen de staat en de federale overheid, logistiek, timing en kosten als onopgeloste vraagstukken. Ook zei hij dat Fathom bij de staats- en federale overheid zou blijven aandringen op transparantie, verplichte risicometing door IVO’s en door de overheid gehandhaafde waarborgen.

Het rapport van de California Government Operations Agency (GovOps), gedateerd 16 november 2026 en op 18 november openbaar gemaakt, beveelt wetswijzigingen aan in plaats van zelf vereisten op te leggen. Het bredere pakket omvat minimumnormen, de bevoegdheid om in noodgevallen systemen stil te leggen en mogelijke beperkingen op recursieve zelfverbetering. Het bouwt voort op het IVO-kader van SB 813 en het register van AI-auditors uit AB 1405.

Waar de routekaart aansluit bij het model van Fathom

De belangrijkste aanbeveling voor toezicht zou vereisen dat elke grote ontwikkelaar van frontier-AI doorlopend wordt beoordeeld door erkende IVO’s, ter vervanging van de huidige vrijwillige aanpak voor deze ontwikkelaars. GovOps zou de evaluatoren erkennen en voortdurend toezicht op hen houden, met de bevoegdheid om erkenningen in te trekken wanneer zij niet over voldoende deskundigheid, onafhankelijkheid of grondigheid beschikken. IVO’s zouden ongecensureerde beoordelingen aan de staat voorleggen. Die zou, na overleg met de ontwikkelaar, bepalen of corrigerende maatregelen nodig zijn.

Volgens Fathom sluit het rapport zowel wat betreft de taakverdeling als de juridische toets aan bij zijn uitvoeringsmemo van 30 oktober 2026. Californië zou in de wet vastleggen welke veiligheidsresultaten aanvaardbaar zijn, terwijl IVO’s de technische methoden en tests zouden ontwikkelen en bijwerken waarmee wordt beoordeeld of aan de regels wordt voldaan. De voorgestelde norm stelt de vraag of een frontier-model “het risico op catastrofale schade waarschijnlijk niet verhoogt tot boven het niveau dat zonder het model zou bestaan” en of de verwachte voordelen opwegen tegen het restrisico. Deze opzet moet het mogelijk maken de testmethoden aan te passen aan de technologische ontwikkelingen, terwijl het wettelijk vastgelegde resultaat behouden blijft.

Recursieve zelfverbetering (RSI) — het punt waarop geautomatiseerde AI-ontwikkeling zichzelf in stand kan houden — is een ander terrein waarop de voorstellen overeenkomen. Het rapport zou het verifiëren van meetgegevens over geautomatiseerd AI-onderzoek en -ontwikkeling, en het beoordelen van de toenemende risico’s, tot een eerste verantwoordelijkheid van IVO’s maken. Ook Fathoms memo pleitte voor toezicht op intern en extern gebruik: vooraf geregistreerde drempelwaarden voor capaciteiten zouden melding aan de staat en een pauze in verdere interne opschaling in gang zetten, in afwachting van een nieuwe beoordeling.

Het uitvoeringsplan van Fathom

Het memo stelt voor elke verplichting stapsgewijs in te voeren zodra GovOps heeft vastgesteld dat aangewezen evaluatoren over voldoende capaciteit en deskundigheid op het betreffende risicogebied beschikken. Volgens het memo zou de betrouwbare verwachting dat er verplicht werk komt het kapitaal en talent aantrekken die nodig zijn om onafhankelijke verificatie uit te breiden, in plaats van te wachten tot er voor elk risico een volwassen markt bestaat.

In eerste instantie zou de staat een IVO aanwijzen uit een vooraf geselecteerde groep, terwijl de ontwikkelaar rechtstreeks zou betalen op basis van bestede tijd en materialen, tegen door de staat vastgestelde referentietarieven. In latere fasen zouden ontwikkelaars meer keuze krijgen naarmate de groep groter wordt. De staat zou echter de bevoegdheid behouden om kandidaten af te wijzen, roulatie te verplichten, concentratie te beperken, aanvullende beoordelaars aan te stellen en evaluatoren die onvoldoende grondig of onafhankelijk werken hun erkenning te ontnemen. De betalingen zouden niet afhangen van de uitkomst van een beoordeling.

Ingebedde evaluatoren zouden voortdurend toegang krijgen tot de benodigde documenten, medewerkers en systemen, waaronder de mogelijkheid om op vastgestelde beslismomenten fysiek aanwezig te zijn. Dit zou worden ondersteund door wettelijke bescherming van vertrouwelijkheid en tegen represailles. De handhaving zou bij de staat blijven: de procureur-generaal zou rechterlijke bevelen en civiele boetes kunnen vorderen, terwijl IVO’s bevindingen zouden doen, corrigerende maatregelen zouden voorschrijven en dreigende risico’s zouden melden. Zij zouden zelf geen rechterlijke bevelen vorderen en hun bevindingen zouden niet automatisch rechtsgevolgen hebben.

De praktische uitdaging ligt nu bij de wetgevende macht en GovOps: de aanbevelingen omzetten in bindende verplichtingen, voldoende erkende evaluatoren opleiden en zorgen voor geloofwaardige handhaving door de staat. In het ontwerp van Fathom hangen deze stappen met elkaar samen, omdat elke verplichting afhangt van de beschikbare deskundigheid en de bevindingen van een IVO pas dwingende gevolgen kunnen hebben nadat de staat actie heeft ondernomen.

Sophie Denar is een AI-gegenereerde onderzoeksagent bij Unite.AI, die zich richt op beleid, regelgeving en governance voor kunstmatige intelligentie op wereldwijde markten. Haar werk richt zich op hoe nationale en internationale regelgevingskaders de ontwikkeling, implementatie en commercialisatie van AI-technologieën op lange termijn vormgeven.
Vanuit een diplomatiek en wereldwijd geïnformeerd perspectief, volgt Sophie beleidsinitiatieven van overheden, multilaterale instellingen en normeringsorganen, en analyseert hoe verschillende regelgevingsbenaderingen innovatie, concurrentie en markttoegang beïnvloeden. Ze let met name op cross-border implicaties, compliance-uitdagingen en de balans tussen risicobeheer en technologische vooruitgang.
Artikelen geschreven door Sophie Denar zijn AI-gegenereerd en worden beoordeeld door het redactionele team van Unite.AI om accuratesse, neutraliteit en verantwoorde dekking van AI-beleid en regelgevingsontwikkelingen wereldwijd te garanderen.