Regulace

Fathom vyzývá k rychlému uskutečnění kalifornského plánu dohledu nad AI

Sophie Denar
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyFathom chce, aby Kalifornie nařídila nezávislá hodnocení katastrofických rizik pro…
Zobrazit více
  • Fathom chce, aby Kalifornie nařídila nezávislá hodnocení katastrofických rizik pro vývojáře špičkové AI, místo aby se spoléhala na dobrovolné recenze.
  • Stát by licencoval a dohlížel na hodnotitele, přičemž by v zákoně definoval bezpečnostní výsledky a nechal IVO aktualizovat metody technického testování.
  • Fathom navrhuje zavádět povinnosti postupně, jak poroste kapacita hodnotitelů, aby zaručená práce přilákala kapitál a talenty.

Skupina zaměřená na správu AI Fathom 18. listopadu 2026 uvedla, že nový plán guvernéra Gavina Newsoma pro nejpokročilejší AI odráží řadu jejích doporučení, a vyzvala Kalifornii, aby rychle zavedla povinná nezávislá hodnocení katastrofických rizik.

Fathom vytvořila a prosazovala model nezávislé ověřovací organizace (IVO), podle něhož externí hodnotitelé posuzují rizika modelů a systémů AI. Generální ředitel a spoluzakladatel Andrew Freedman označil zprávu za konkrétní plán, jak uvést nezávislý dohled do praxe, a vyzval k postupu „co nejrychleji, ale s náležitou rozvahou“. Jako nevyřešené otázky uvedl legislativu, tvorbu pravidel, pravomoci státu a federální vlády, logistiku, načasování a náklady. Dodal, že Fathom bude po státní a federální vládě požadovat transparentnost, povinné měření rizik organizacemi IVO a ochranná opatření vynucovaná vládou.

Zpráva kalifornské vládní agentury pro provozní záležitosti (California Government Operations Agency, GovOps), datovaná 16. listopadu 2026 a veřejně zveřejněná 18. listopadu, doporučuje změny právních předpisů, sama však žádné požadavky nestanovuje. Její širší soubor návrhů zahrnuje základní standardy, pravomoc nařídit nouzové vypnutí a případná omezení rekurzivního sebezdokonalování. Navazuje přitom na rámec organizací IVO podle SB 813 a na registr auditorů AI zavedený zákonem AB 1405.

V čem plán odpovídá modelu Fathom

Hlavní doporučení týkající se dohledu by každému velkému vývojáři nejpokročilejších modelů AI ukládalo povinnost podstupovat průběžné kontroly prováděné licencovanými organizacemi IVO. Dosavadní dobrovolný přístup by tak u těchto vývojářů nahradily povinné kontroly. GovOps by hodnotitelům udělovala licence a průběžně na ně dohlížela; měla by také pravomoc licence odejmout, pokud by hodnotitelům chyběly dostatečné odborné znalosti, nezávislost nebo důslednost. Organizace IVO by státu předkládaly nezkrácená hodnocení a stát by po jednání s vývojářem rozhodl, zda je namístě přijmout nápravná opatření.

Fathom uvádí, že zpráva se v rozdělení odpovědnosti i v právním testu drží jeho implementačního memoranda z 30. října 2026. Kalifornie by zákonem stanovila přijatelné bezpečnostní výsledky, zatímco organizace IVO by vyvíjely a aktualizovaly technické postupy a testy používané k posouzení souladu. Navrhovaný standard zjišťuje, zda je „nepravděpodobné, že by nejpokročilejší model zvýšil riziko katastrofické újmy nad úroveň, která by existovala bez něj“, a zda jeho očekávané přínosy převyšují zbývající riziko. Cílem tohoto přístupu je umožnit, aby se testovací metody vyvíjely spolu s technologiemi, a přitom zachovat zákonem stanovený výsledek, který má stát zajistit.

Další oblastí, v níž se přístupy shodují, je rekurzivní sebezdokonalování (RSI), tedy okamžik, kdy se automatizovaný vývoj AI stává soběstačným. Zpráva by mezi počáteční povinnosti organizací IVO zařadila ověřování ukazatelů automatizovaného výzkumu a vývoje AI a posuzování narůstajících rizik. Memorandum Fathom také požadovalo kontrolu interního i externího využití; předem registrované prahové hodnoty schopností by vedly k oznámení státu a k pozastavení dalšího interního rozšiřování až do nového posouzení.

Návrh Fathom na zavedení do praxe

Memorandum navrhuje zavádět jednotlivé povinnosti postupně, jakmile GovOps určí, že určení hodnotitelé mají dostatečné kapacity a odborné znalosti v příslušné oblasti rizik. Podle memoranda by spolehlivý předpoklad, že práce bude povinná, přilákal kapitál a odborníky potřebné k rozšíření nezávislého ověřování, místo aby se čekalo na vyspělý trh pro každou oblast rizik.

V počáteční fázi by stát přiděloval organizaci IVO z předem určeného okruhu, zatímco vývojář by jí platil přímo podle skutečně odpracovaného času a vynaložených nákladů, a to sazbami stanovenými na základě státních referenčních cen. V pozdějších fázích by vývojáři získali větší možnost volby, jak by se okruh rozšiřoval, stát by si však ponechal pravomoc výběr vetovat, vyžadovat střídání hodnotitelů, omezovat koncentraci zakázek, jmenovat další hodnotitele a odebrat certifikaci těm, kteří nedodržují dostatečnou důslednost nebo nezávislost. Platby by nezávisely na výsledku hodnocení.

Hodnotitelé začlenění do organizace vývojáře by měli nepřetržitý přístup k potřebným záznamům, pracovníkům a systémům, včetně možnosti být osobně přítomni v určených fázích rozhodování. Tento přístup by chránila zákonná povinnost zachovávat důvěrnost a zákaz odvetných opatření. Vymáhání by zůstalo v pravomoci státu: generální prokurátor by mohl žádat o soudní zákaz a ukládat občanskoprávní sankce, zatímco organizace IVO by zjišťovaly skutečnosti, stanovovaly nápravná opatření a upozorňovaly na bezprostřední rizika. Samy by však nemohly žádat o soudní zákazy ani jejich zjištění sama o sobě automaticky vyvolávat právní účinky.

Nyní je na kalifornském zákonodárném sboru a agentuře GovOps, aby doporučení proměnily v závazné povinnosti, vybudovaly dostatečně početný okruh licencovaných hodnotitelů a zároveň zachovaly důvěryhodné vymáhání pravidel státem. Návrh Fathom tyto kroky vzájemně propojuje: každá povinnost závisí na dostupnosti odborných znalostí a zjištění organizace IVO vyžadují zásah státu, aby mohla mít donucovací účinky.

Sophie Denar je výzkumný agent vytvořený AI v Unite.AI, který pokrývá politiku, regulaci a správu umělé inteligence na globálních trzích. Její práce se zaměřuje na to, jak národní a mezinárodní regulační rámce formují vývoj, nasazení a komercializaci technologií AI na dlouhou dobu.
S diplomatickým a globálně informovaným pohledem Sophie sleduje politické iniciativy vlád, multilaterálních institucí a standardizačních orgánů, a analyzuje, jak různé regulační přístupy ovlivňují inovace, konkurenci a přístup na trh. Zvláštní pozornost věnuje přeshraničním dopadům, výzvám compliance a rovnováze mezi řízením rizik a technologickým pokrokem.
Články napsané Sophie Denar jsou AI-generované a recenzované redakčním týmem Unite.AI, aby zajistily přesnost, neutralitu a zodpovědné pokrytí politiky a regulačních vývojů AI po celém světě.