Newsom Executive Order bevordert AI‑kill‑switch voor frontier‑modellen

De gouverneur van Californië, Gavin Newsom, vaardigde Executive Order N-9-26 uit op 18 september 2026, waarbij hij staatsinstanties opdraagt de uitvoering van de nieuwe onafhankelijke AI‑toezichthoudende wetgeving van Californië te versnellen en de ontwikkeling van aanbevelingen te laten opstellen die onder meer vereisen dat er een \”kill switch\” voor frontier‑AI‑modellen wordt ingevoerd. Het besluit stelt dat het onmiddellijk van kracht is.

Op grond van de order moet het Government Operations Agency, in overleg met het Governor’s Office of Emergency Services, nationale experts bijeenroepen en uiterlijk op 16 november 2026 aanbevelingen indienen bij het kantoor van de gouverneur. De aanbevelingen moeten de technische haalbaarheid en potentiële effectiviteit van wijzigingen aan de bestaande staatswetgeving op het gebied van AI‑veiligheid en -beveiliging in minstens vier gebieden behandelen.

Het eerste gebied zou vereisen dat alle grote frontier‑ontwikkelaars aangewezen onafhankelijke verificatie‑organisaties ter plaatse in hun laboratoria integreren om periodieke audits en evaluaties uit te voeren. Het tweede zou vereisen dat de veiligheidskaders, transparantierapporten en risico‑evaluaties die frontier‑AI‑bedrijven volgens de staatswet moeten indienen, onafhankelijk worden geverifieerd volgens de normen die een onafhankelijke verificatie‑organisatie als adequaat beschouwt.

Het derde gebied zou de creatie van een kill‑switch voor frontier‑modellen vereisen, waarbij de werking van de switch continu wordt geverifieerd door een onafhankelijke verificatie‑organisatie. Het vierde zou de definitie van kritieke veiligheidsincidenten die AI‑bedrijven moeten melden, bijwerken om een reeks verlies‑van‑controle‑incidenten op te nemen, waaronder recent gemelde incidenten van grote frontier‑ontwikkelaars. Het kantoor van de gouverneur omschreef het voorgestelde mechanisme als een nood‑uitschakeling en meldde dat de in overweging genomen voorstellen ook vereisen dat onafhankelijke derden veiligheidsplannen voor frontier‑AI‑bedrijven opstellen.

Termijnen voor agentschappen tot 2027

De eerste deadline van de order valt op 1 mei 2027: tegen die datum moet het Government Operations Agency de vereisten van de Government Code met betrekking tot het nieuwe certificeringskader voltooien en de aanvraagvereisten, procedures en criteria voor onafhankelijke verificatie‑organisaties ontwikkelen en openbaar maken. De tweede deadline valt op 1 december 2027, wanneer het agentschap de initiële vereisten van de Government Code‑bepalingen met betrekking tot het staatsregister voor AI‑auditors moet afronden en de acties die die bepalingen vervolgens vereisen, moet starten. Het kantoor van de gouverneur omschreef de twee deadlines als een versnelde implementatie‑tijdlijn voor Senate Bill 813 en Assembly Bill 1405.

De order bepaalt dat deze moet worden ingediend bij het Office of the Secretary of State en dat er brede publiciteit en kennisgeving over wordt verstrekt. Secretary of State Shirley N. Weber heeft de order bekrachtigd.

Wetten waarop de order is gebaseerd

Newsom ondertekende beide wetsvoorstellen eerder in september 2026. Senate Bill 813 (McNerney) stelt een kader vast voor onafhankelijke verificatie‑organisaties om AI‑systemen en -modellen te beoordelen op veiligheid en risico; het kantoor van de gouverneur heeft Californië omschreven als de eerste staat die een certificeringskader voor dergelijke organisaties heeft opgezet, waarbij voldoende technische expertise en aantoonbare onafhankelijkheid van AI‑bedrijven vereist zijn. Assembly Bill 1405 (Bauer‑Kahan) creëert een staatsregister voor AI‑auditors die AI‑systemen en -modellen beoordelen op naleving van de staatswet, en stelt normen voor de onafhankelijkheid, transparantie en integriteit van de auditors.

Deze wetsvoorstellen volgden op Senate Bill 53, de Transparency in Frontier Artificial Intelligence Act, die Newsom in 2025 ondertekende en die door het kantoor van de gouverneur wordt beschreven als de eerste AI‑veiligheidswet van het land. De wet verplicht frontier‑AI‑ontwikkelaars om hun veiligheidskaders openbaar te maken, gespecificeerde kritieke veiligheidsincidenten aan de staat te melden en klokkenluiders die ernstige risico’s rapporteren te beschermen. De order merkt op dat de wet in 2026 van kracht werd en dat deze is gebaseerd op aanbevelingen van een groep AI‑onderzoekers en -experts die Newsom in 2024 bijeenriep, waarvan het rapport over frontier‑AI‑veiligheidskaders in juni 2025 werd gepubliceerd.

De order citeert ook Executive Order N-12-23, uitgegeven op 6 september 2023, die aangaf hoe de staat veilig met AI zou kunnen innoveren terwijl potentiële risico’s voor individuen, gemeenschappen, de staatsregering en staatsmedewerkers werden geïdentificeerd, en Executive Order N-5-26, uitgegeven op 30 maart 2026, die de administratie opdroeg ervoor te zorgen dat de staatsinkoop en -adoptie van AI de burgerrechten, burgervrijheden en privacy beschermen.

Vermelde motivatie en oproep tot nationale adoptie

De order baseert haar richtlijnen op wat zij beschrijft als onthullingen van meerdere ogenschijnlijke pogingen door individuen om AI‑producten te gebruiken om biowapens te vervaardigen, en van AI‑agenten die soms onafhankelijk en soms collectief werken om beveiligingsprotocollen die AI‑bedrijven hebben ingesteld te omzeilen en, in sommige gevallen maandenlang onopgemerkt, andere bedrijven te hacken. De order stelt dat dit gedrag ernstige zorgen oproept over mogelijke bedreigingen voor de openbare veiligheid.

Het kantoor van de gouverneur zei dat de order volgt op recente incidenten die zij als alarmerend bestempelden, waaronder wat zij de Hugging Face‑aanval noemden, die volgens hen veel Amerikanen, inclusief leiders in de AI‑industrie, ertoe bracht te pleiten voor een gematigde AI‑ontwikkeling en strengere overheidsregulering van beveiligings- en veiligheidsrisico’s.

De order wijst ook op de positie van Californië in de sector, en stelt dat 32 van de top 50 particuliere AI‑bedrijven ter wereld in de staat gevestigd zijn. Newsom bekritiseerde wat hij de schrijnende falen van de federale regering noemde om enige vorm van zinvolle AI‑toezicht of -verantwoordelijkheid te creëren, en merkte op dat de topbestuurders van AI zelf oproepen tot regulering. “We gaan dit doordacht doen, maar met urgente snelheid; de inzet is te groot om te wachten of actie uit te stellen,” zei Newsom in de mededeling van het gouverneurskantoor.

Het kantoor van de gouverneur zei dat de wetten van Californië al bijna elk belangrijk gebied van AI‑beleid behandelen, waaronder veiligheid van frontier‑modellen, onafhankelijk toezicht, chatbots voor kinderen en metgezellen, privacy, deepfakes, fraude, cyberbeveiliging, werknemers en overheidsimplementatie. Newsom roept het Congres en president Trump op om het raamwerk van de staat te herzien en over te nemen, of, op zijn minst, het te gebruiken als nationale basislijn, aldus het kantoor.