Kalifornské zákonodárství schvaluje nezávislý zákon o ověřování bezpečnosti AI

Kalifornské zákonodárství dalo konečné schválení 30. srpna 2026 zákonu SB 813, legislativě navržené senátorem Jerrym McNerneyem, která by nařídila Agentuře pro vládní operace označit nezávislé ověřovací organizace – externí auditory kvalifikované k posouzení bezpečnostních rizik systémů a modelů AI. Zákon nyní putuje k guvernérovi Gavinovi Newsomovi.

Poslanecká sněmovna přijala zákon při třetím čtení 30. srpna 2026 a Senát souhlasil s pozměňovacími návrhy sněmovny téhož dne, čímž dokončil legislativní průchod, podle oficiálního záznamu hlasování. Sněmovna zaznamenala 67 hlasů pro, 6 proti a 6 členů nehlasujících; senátní souhlas prošel 39 hlasy pro, bez protistrany a jeden člen nehlasoval.

Co by SB 813 vyžadovalo

Zákon přidává nový oddíl do Kalifornského vládního zákoníku, který nazývá Kalifornské organizace pro nezávislé ověřování bezpečnosti umělé inteligence. Do 1. ledna 2028 musí Agentura pro vládní operace vypracovat požadavky na žádosti o označení jako nezávislá ověřovací organizace (IVO); postupy pro pozastavení nebo zrušení označení; a kritéria pro určení, zda auditor AI splňuje požadavky. Agentura musí tyto požadavky a kritéria zveřejnit, přezkoumávat a upravovat je s vývojem technologií a průmyslových standardů a tam, kde je to možné, sladit je s existujícími profesionálními a regulatorními standardy auditu a zajištění.

Podle definice zákona je IVO auditorem AI, který prokázal odbornost v hodnocení rizik, která představuje AI systém nebo model, a v identifikaci metrik a metodologií tohoto hodnocení. Označené IVO nesmí mít žádnou finanční, provozní ani řídící závislost na straně, kterou hodnotí. Může přijímat platby od hodnocené strany za rozumné tržní sazby, ale nesmí akceptovat podmínky, které by podmínily platbu výsledky svého hodnocení.

Postupy pro pozastavení a zrušení musí zahrnovat selhání v dodržování příslušných standardů, podstatná zkreslení v žádostech nebo povinných zveřejněních, střety zájmů, které narušují nezávislost, nedostatečnou dokumentaci, selhání v oblasti kybernetické bezpečnosti a chování, které rozumně zpochybňuje integritu, objektivitu nebo kompetenci IVO.

Agentura musí také svolat pracovní skupiny, které zahrnují inženýry z konkurenčních AI společností a odborníky na bezpečnost AI, aby získala vstupy zúčastněných stran k standardům, a musí předložit zjištění těchto pracovních skupin zákonodárství. Každé označené IVO musí předložit roční zprávu, nejdříve po 12 měsících od svého prvního označení, shrnující své standardy a metodologie a zveřejňující změny v politice řízení nebo zdrojích financování relevantních pro jeho nezávislost. IVO mohou redigovat materiály za účelem ochrany obchodních tajemství, kybernetické bezpečnosti, veřejné bezpečnosti nebo národní bezpečnosti, ale musí neodstraněné informace uchovávat po dobu pěti let.

Rámec je dobrovolný. Zákon uvádí, že nevyžaduje, aby jakýkoli vývojář, nasazovatel nebo provozovatel AI systému či modelu spolupracoval s IVO nebo podstoupil audit, nestanovuje odpovědnost pouze za nesplnění standardu a nepředstavuje státní doporučení či schválení jakéhokoli AI systému nebo modelu. V soudním sporu, kde se tvrdí, že AI systém způsobil škodu, zákon stanoví, že audit provedený v souladu se standardem uvedeným v tomto oddíle je relevantní, ale ne rozhodující pro rozhodnutí.

Prohlášení autora a sponzorů

Kancelář McNerneyho popisovala návrh jako první takový rámec v zemi pro nezávislé, třetí strany posuzující potenciální bezpečnostní rizika AI systémů. Jeho oznámení uvádělo, že senát hlasoval 37–0 a sněmovna 53–4; oficiální legislativní záznam uvádí senátní souhlas 39–0 s jedním nehlasujícím členem a sněmovní hlasování 67–6 s šesti nehlasujícími členy.

“Kalifornské zákonodárství dnes vyslalo jasné poselství: je čas, aby Kalifornie převzala vedení v hodnocení potenciálních bezpečnostních rizik AI, protože Washington, D.C., není schopen nebo ochoten to udělat,” řekl McNerney ve prohlášení oznamujícím hlasování. Jeho kancelář také uvedla, že zavedení nezávislých, třetích stran hodnocení AI bylo jedním z hlavních doporučení Newsomova výboru pro umělou inteligenci, a citovala průzkumy ukazující, že dvě třetiny Američanů mají malou nebo žádnou důvěru ve federální vládu při regulaci AI.

SB 813 sponzoruje Fathom, nezisková organizace, která uvádí, že vyvinula a prosazovala model IVO a spolupracuje s tvůrci politik po celé zemi na jeho praktickém uplatnění. Organizace popisuje IVO jako kvalifikované externí odborníky, kteří mohou nezávisle posoudit riziko AI modelů a systémů pomocí důvěryhodného testování a analýzy, a uvádí, že zákon umožní, aby potenciální rizika technologie byla nezávisle posouzena místo aby se na ně spoléhalo na víru.

“Síla modelu nezávislého ověřování spočívá v tom, že umožňuje nezávislým, kvalifikovaným odborníkům posoudit riziko schopností AI, a drží krok s technologií místo aby zakotvil jediný test v zákoně,” řekl Andrew Freedman, generální ředitel Fathomu, ve prohlášení organizace.

Prohlášení Fathomu také postavilo zákon vedle SB 53, který podle nich nyní vyžaduje, aby velcí vývojáři špičkových technologií zveřejnili bezpečnostní rámec a hlásili kritické incidenty. Organizace uvedla, že SB 813 zahájí vytváření další vrstvy odpovědnosti, protože rozhodování o bezpečnosti stále z velké části závisí na tom, že společnosti hodnotí vlastní systémy, a že bude i nadále spolupracovat s kalifornskými tvůrci politik, technickými odborníky a průmyslovými zúčastněnými stranami na posunu rámce vpřed.

Dřívější verze návrhu

McNerney představil SB 813 21. února 2025 spolu s poslanci Baurem-Kahanem a Lowenthalem jako spoluautory a zákon byl opakovaně pozměňován v obou komorách, přičemž poslední pozměňovací návrhy sněmovny pocházejí z 26. srpna 2026, podle legislativního záznamu. Senát přijal dřívější verzi zákona 31–7 dne 27. ledna 2026. McNerneyho oznámení v té době uvádělo, že tato verze by vytvořila Kalifornskou komisi pro standardy a bezpečnost umělé inteligence, která by označovala expertní panely IVO, stanovovala dobrovolné standardy, certifikovala vývojáře a dodavatele AI a sledovala soulad, s pravomocí odebrat certifikaci.

Pokud Newsom zákon podepíše, Agentura pro vládní operace čelí termínu 1. ledna 2028 pro vybudování systému označování, přičemž zjištění pracovních skupin budou předložena zákonodárství a první roční zprávy IVO budou podány nejdříve po 12 měsících od počátečního označení organizace.