Regulacje
Fathom wzywa do szybkiego wdrożenia kalifornijskiego planu nadzoru nad AI

Kluczowe punktyFathom chce, aby Kalifornia nałożyła na czołowych twórców AI obowiązek niezależnych…
Zobacz więcej
- Fathom chce, aby Kalifornia nałożyła na czołowych twórców AI obowiązek niezależnych ocen ryzyka katastroficznego, zamiast polegać na dobrowolnych przeglądach.
- Stan licencjonowałby i nadzorowałby oceniających, określając w prawie wyniki bezpieczeństwa i pozwalając IVO na aktualizację technicznych metod testowania.
- Fathom proponuje stopniowe wprowadzanie obowiązków w miarę wzrostu zdolności oceniających, aby gwarantowana praca przyciągała kapitał i talenty.
Grupa zajmująca się zarządzaniem AI, Fathom poinformowała 18 listopada 2026 r., że nowa mapa drogowa gubernatora Gavina Newsoma dotycząca zaawansowanej AI uwzględnia wiele jej zaleceń, i wezwała Kalifornię do szybkiego wprowadzenia obowiązkowych, niezależnych ocen ryzyka katastrofalnego.
Fathom opracowała i promowała model niezależnej organizacji weryfikującej (IVO), w którym zewnętrzni ewaluatorzy oceniają ryzyko związane z modelami i systemami AI. Dyrektor generalny i współzałożyciel Andrew Freedman określił raport jako konkretny plan wprowadzenia niezależnego nadzoru w życie i wezwał do działania „z całą należytą szybkością”. Wskazał, że nierozstrzygnięte pozostają kwestie legislacji, stanowienia przepisów, podziału kompetencji między stanem a władzami federalnymi, logistyki, harmonogramu i kosztów. Powiedział też, że Fathom będzie naciskać na władze stanowe i federalne, by zapewniły przejrzystość, wprowadziły obowiązkowy pomiar ryzyka przez IVO oraz ustanowiły zabezpieczenia egzekwowane przez rząd.
Raport California Government Operations Agency (GovOps), datowany na 16 listopada 2026 r. i opublikowany 18 listopada, zaleca zmiany legislacyjne, zamiast samodzielnie nakładać wymogi. Szerszy pakiet obejmuje podstawowe standardy, uprawnienia do awaryjnego wyłączania oraz możliwe ograniczenia samodoskonalenia rekurencyjnego, rozwijając ramy IVO ustanowione w SB 813 i rejestr audytorów AI przewidziany w AB 1405.
W jakim zakresie mapa drogowa odzwierciedla model Fathom
Główne zalecenie dotyczące nadzoru nakładałoby na każdego dużego dewelopera zaawansowanej AI obowiązek poddawania się regularnym ocenom prowadzonym przez licencjonowane IVO, zastępując obecne dobrowolne podejście wobec tych deweloperów. GovOps udzielałaby ewaluatorom licencji i sprawowałaby nad nimi stały nadzór, mając uprawnienia do cofnięcia licencji, gdyby brakowało im odpowiedniej wiedzy fachowej, niezależności lub rzetelności. IVO przekazywałyby stanowi nieocenzurowane oceny, a stan — po konsultacjach z deweloperem — decydowałby, czy należy podjąć działania naprawcze.
Fathom twierdzi, że zarówno podział odpowiedzialności, jak i test prawny opisany w raporcie odpowiadają zaleceniom z jej memorandum wdrożeniowego z 30 października 2026 r. Kalifornia określałaby w prawie akceptowalne rezultaty w zakresie bezpieczeństwa, a IVO opracowywałyby i aktualizowały metody techniczne oraz testy służące ocenie zgodności. Proponowany standard zakłada ocenę, czy model zaawansowanej AI „raczej nie zwiększy ryzyka szkód katastrofalnych ponad poziom, jaki występowałby bez tego modelu” oraz czy przewidywane korzyści przewyższają ryzyko resztkowe. Rozwiązanie to ma umożliwić dostosowywanie metod testowania do zmian technologicznych przy jednoczesnym zachowaniu określonego przez stan ustawowego rezultatu.
Samodoskonalenie rekurencyjne (RSI), czyli etap, na którym zautomatyzowany rozwój AI staje się samowystarczalny, to kolejny obszar zbieżności. Raport powierzałby IVO na początkowym etapie weryfikację wskaźników zautomatyzowanych badań i rozwoju AI oraz ocenę narastających zagrożeń. Memorandum Fathom zalecało również kontrolę wykorzystania systemów wewnątrz organizacji i poza nią: zarejestrowane z wyprzedzeniem progi zdolności powodowałyby obowiązek powiadomienia władz stanowych i wstrzymania dalszego zwiększania skali wykorzystania wewnętrznego do czasu ponownej oceny.
Plan wdrożenia Fathom
Memorandum proponuje stopniowe wprowadzanie każdego wymogu, gdy GovOps ustali, że wyznaczeni ewaluatorzy mają wystarczające zasoby i wiedzę fachową w danym obszarze ryzyka. Uzasadnia to tym, że wiarygodna perspektywa obowiązkowych zleceń przyciągnęłaby kapitał i specjalistów potrzebnych do rozwoju niezależnej weryfikacji, zamiast czekać na dojrzały rynek obejmujący każdy rodzaj ryzyka.
Początkowo stan wyznaczałby IVO z uprzednio wskazanej puli, a deweloper płaciłby bezpośrednio według rozliczenia czasu pracy i materiałów, po stawkach ustalonych w oparciu o poziomy referencyjne przyjęte przez stan. W kolejnych etapach deweloperzy zyskiwaliby większy wybór w miarę rozbudowy puli, ale stan zachowałby uprawnienia do zawetowania wyboru, wymagania rotacji, ograniczania koncentracji zleceń, powoływania dodatkowych asesorów oraz cofania akredytacji ewaluatorom, którym brakuje rzetelności lub niezależności. Wynagrodzenie nie zależałoby od wyniku oceny.
Ewaluatorzy działający na miejscu mieliby stały dostęp do niezbędnych dokumentów, personelu i systemów, w tym możliwość fizycznej obecności w określonych punktach decyzyjnych; chroniłyby ich ustawowe przepisy o poufności i zakazie działań odwetowych. Egzekwowanie przepisów pozostałoby w gestii władz stanowych: prokurator generalny mógłby występować o nakazy sądowe i kary cywilne, natomiast IVO formułowałyby ustalenia, zalecały działania naprawcze i zgłaszały bezpośrednie zagrożenia — nie występowałyby samodzielnie o nakazy sądowe ani nie nadawałyby swoim ustaleniom automatycznie mocy wykonawczej.
Praktyczne zadanie stojące przed legislaturą i GovOps polega teraz na przekształceniu zaleceń w wiążące obowiązki, przy jednoczesnym wykształceniu odpowiednio licznej grupy licencjonowanych ewaluatorów i utrzymaniu wiarygodnego egzekwowania przepisów przez stan. W planie Fathom te działania są od siebie zależne: wprowadzenie każdego wymogu wymaga dostępności odpowiedniej wiedzy fachowej, a ustalenia IVO muszą zostać podjęte przez władze stanowe, zanim będą mogły prowadzić do przymusowych konsekwencji.












