Californiëse wetgevende macht keurt onafhankelijke AI-veiligheidsverificatiewet goed

De Californiëse wetgevende macht gaf op 30 augustus 2026 definitieve goedkeuring aan SB 813, wetgeving opgesteld door senator Jerry McNerney die de Government Operations Agency zou opdracht geven onafhankelijke verificatie‑organisaties aan te wijzen — externe auditors die gekwalificeerd zijn om de veiligheidsrisico’s van AI‑systemen en -modellen te beoordelen. Het wetsvoorstel gaat nu naar gouverneur Gavin Newsom.

De Kamer keurde het wetsvoorstel op 30 augustus 2026 in derde lezing goed, en de Senaat stemde diezelfde dag in met de amendementen van de Kamer, waarmee de wetgevende goedkeuring voltooid was, volgens het officiële stemregister. De Kamer noteerde 67 voor, 6 tegen en 6 leden die niet stemden; de Senaatsinstemming ging door met 39 voor, geen tegenstemmen en één lid dat niet stemde.

Wat SB 813 zou vereisen

Het wetsvoorstel voegt een nieuw hoofdstuk toe aan de California Government Code dat het benoemt tot California Artificial Intelligence Safety Independent Verification Organizations. Op of vóór 1 januari 2028 moet de Government Operations Agency aanvraagvereisten ontwikkelen voor de aanwijzing als onafhankelijke verificatie‑organisatie, of IVO; procedures voor het opschorten of beëindigen van een aanwijzing; en criteria om te bepalen of een AI‑auditor gekwalificeerd is. Het agentschap moet die vereisten en criteria openbaar maken, ze herzien en aanpassen naarmate technologie‑ en industriestandaarden veranderen, en, waar haalbaar, afstemmen op bestaande professionele en regelgevende audit‑ en assurance‑standaarden.

Volgens de definitie in het wetsvoorstel is een IVO een AI‑auditor die aantoonbare expertise heeft in het beoordelen van de risico’s die een AI‑systeem of -model met zich meebrengt en in het identificeren van de meetwaarden en methodologieën achter die beoordeling. Een aangewezen IVO mag geen financiële, operationele of management‑afhankelijkheid hebben van de partij die zij beoordeelt. Zij mag betaling van de beoordeelde partij aanvaarden tegen redelijke marktprijzen, maar mag geen voorwaarden accepteren die betaling koppelen aan de resultaten van haar beoordeling.

De procedures voor opschorting en beëindiging moeten falen om zich aan passende standaarden te houden, materiële misrepresentaties in aanvragen of verplichte openbaarmakingen, belangenconflicten die de onafhankelijkheid ondermijnen, het niet bijhouden van adequate documentatie, beveiligingslacunes en gedrag dat redelijkerwijs de integriteit, objectiviteit of competentie van een IVO in twijfel trekt, omvatten.

Het agentschap moet tevens werkgroepen bijeenroepen met ingenieurs van concurrerende AI‑bedrijven en AI‑veiligheidsexperts om input van belanghebbenden over standaarden te verzamelen, en moet de bevindingen van de werkgroepen aan de wetgevende macht rapporteren. Elke aangewezen IVO moet een jaarlijks verslag indienen, niet eerder dan 12 maanden na haar eerste aanwijzing, waarin zij haar standaarden en methodologieën samenvat en wijzigingen in governance‑beleid of financieringsbronnen die relevant zijn voor haar onafhankelijkheid openbaar maakt. IVO’s mogen materiaal redigeren om handelsgeheimen, cyberbeveiliging, openbare veiligheid of nationale veiligheid te beschermen, maar moeten de ongeredigeerde informatie vijf jaar bewaren.

Het kader is vrijwillig. Het wetsvoorstel stelt dat het geen enkele ontwikkelaar, uitrolder of exploitant van een AI‑systeem of -model verplicht een IVO in te schakelen of een audit te ondergaan, geen aansprakelijkheid vestigt uitsluitend voor het niet naleven van een standaard, en geen staatsaanbeveling of -goedkeuring vormt voor enig AI‑systeem of -model. In een rechtszaak waarin wordt beweerd dat een AI‑systeem schade heeft veroorzaakt, bepaalt het wetsvoorstel dat een audit uitgevoerd volgens een onder het hoofdstuk geïdentificeerde standaard relevant is voor, maar niet doorslaggevend voor, de zaak.

Verklaring van auteur en sponsor

Het kantoor van McNerney beschreef het wetsvoorstel als een eerste‑in‑de‑natie‑kader voor onafhankelijke, externe beoordelingen van potentiële veiligheidsrisico’s die AI‑systemen met zich meebrengen. Zijn aankondiging meldde de stemming in de Senaat als 37–0 en de stemming in de Kamer als 53–4; het officiële wetgevingsregister vermeldt de Senaatsinstemming als 39–0 met één niet‑stemmer en de stemming in de Kamer als 67–6 met zes niet‑stemmers.

“The California Legislature today sent a clear message: It’s time for California to take the lead in assessing AI’s potential safety risks, since Washington, D.C., is unable or unwilling to do so,” McNerney said in a statement announcing the vote. His office also said that establishing independent, third-party evaluations of AI was one of the primary recommendations of Newsom’s blue-ribbon panel on artificial intelligence, and cited polling indicating that two-thirds of Americans have little or no confidence in the federal government to regulate AI effectively.

SB 813 wordt gesponsord door Fathom, een non‑profitorganisatie die beweert het IVO‑model te hebben ontwikkeld en gepromoot en samenwerkt met beleidsmakers in het hele land om het in de praktijk te brengen. De organisatie omschreef IVO’s als gekwalificeerde externe experts die onafhankelijk het risico van AI‑modellen en -systemen kunnen beoordelen met behulp van geloofwaardige tests en analyses, en stelde dat het wetsvoorstel de potentiële risico’s van de technologie onafhankelijk laat beoordelen in plaats van op geloof te baseren.

“The power of the independent verification model is that it lets independent, qualified experts assess the risk of AI capabilities, and it keeps pace with the technology instead of freezing a single test into law,” said Andrew Freedman, Fathom’s CEO, in the organization’s statement.

De verklaring van Fathom plaatste het wetsvoorstel ook naast SB 53, dat volgens hen nu grote frontier‑ontwikkelaars verplicht een veiligheidskader te publiceren en kritieke incidenten te rapporteren. De organisatie stelde dat SB 813 een extra laag verantwoording zal creëren omdat veiligheidsbepalingen nog grotendeels afhankelijk zijn van bedrijven die hun eigen systemen beoordelen, en dat zij zullen blijven samenwerken met Californiëse beleidsmakers, technische experts en industriële belanghebbenden om het kader verder te ontwikkelen.

Eerdere versies van het wetsvoorstel

McNerney introduceerde SB 813 op 21 februari 2025, met de Kamerleden Bauer‑Kahan en Lowenthal als mede‑auteurs, en het wetsvoorstel werd herhaaldelijk gewijzigd in beide kamers, met Kamer‑amendementen tot zo recent als 26 augustus 2026, volgens het wetgevingsregister. De Senaat keurde een eerdere versie van het wetsvoorstel goed met 31–7 op 27 januari 2026. McNerney’s aankondiging destijds stelde dat die versie een California Artificial Intelligence Standards and Safety Commission zou oprichten om IVO‑expertpanels aan te wijzen die vrijwillige standaarden zouden vaststellen, AI‑ontwikkelaars en -leveranciers zouden certificeren en de naleving zouden monitoren, met de bevoegdheid om certificering in te trekken.

Als Newsom het wetsvoorstel ondertekent, heeft de Government Operations Agency een deadline van 1 januari 2028 om het aanwijzingssysteem op te zetten, waarbij de bevindingen van de werkgroepen aan de wetgevende macht moeten worden gerapporteerd en de eerste jaarlijkse IVO‑rapporten niet eerder dan 12 maanden na de eerste aanwijzing van een organisatie verschuldigd zijn.