Regulacje
Kalifornijski Zgromadzenie Ustawodawcze przyjmuje ustawę o niezależnej weryfikacji bezpieczeństwa SI
Dodaj Unite.AI do preferowanych źródeł w Google
Kalifornijski Zgromadzenie Ustawodawcze udzieliło ostatecznej zgody 30 sierpnia 2026 r. na SB 813, ustawę autorstwa senatora Jerry’ego McNerney’ego, która nakazałaby Agencji Operacji Rządowych wyznaczenie niezależnych organizacji weryfikacyjnych — zewnętrznych audytorów uprawnionych do oceny ryzyka bezpieczeństwa systemów i modeli SI. Projekt ustawy trafia teraz do gubernatora Gavin Newsom.
Zgromadzenie przyjęło ustawę w trzecim czytaniu 30 sierpnia 2026 r., a Senat przyjął poprawki zgromadzenia tego samego dnia, kończąc proces legislacyjny, zgodnie z oficjalnym protokołem głosowań. Zgromadzenie odnotowało 67 głosów za, 6 przeciw i 6 członków nie głosujących; Senat przyjął poprawki 39 głosami za, bez sprzeciwu i z jednym członkiem nie głosującym.
Co wymagałby SB 813
Ustawa dodaje nowy rozdział do Kodeksu Rządowego Kalifornii, zatytułowany California Artificial Intelligence Safety Independent Verification Organizations. Do 1 stycznia 2028 r. lub wcześniej Agencja Operacji Rządowych musi opracować wymagania aplikacyjne dla wyznaczenia jako niezależna organizacja weryfikacyjna, czyli IVO; procedury zawieszania lub zakończenia wyznaczenia; oraz kryteria określające, czy audytor SI spełnia kwalifikacje. Agencja musi publicznie opublikować te wymagania i kryteria, przeglądać i aktualizować je w miarę zmian technologii i standardów branżowych oraz, o ile to możliwe, dostosować je do istniejących profesjonalnych i regulacyjnych standardów audytu i zapewnienia.
Zgodnie z definicją ustawy, IVO jest audytorem SI, który wykazał się wiedzą w ocenie ryzyka związanego z systemem lub modelem SI oraz w identyfikacji metryk i metodologii stojących za tą oceną. Wyznaczony IVO nie może mieć żadnej finansowej, operacyjnej ani zarządczej zależności od podmiotu, który ocenia. Może przyjmować płatności od ocenianego podmiotu po rozsądnych rynkowych stawkach, ale nie może przyjmować warunków, które uzależniają płatność od wyników oceny.
Procedury zawieszania i zakończenia muszą obejmować nieprzestrzeganie odpowiednich standardów, istotne nieprawdziwe informacje w aplikacjach lub wymaganych ujawnieniach, konflikty interesów naruszające niezależność, brak odpowiedniej dokumentacji, luki w cyberbezpieczeństwie oraz zachowania, które racjonalnie podważają integralność, obiektywność lub kompetencje IVO.
Agencja musi także powołać grupy robocze, w których znajdą się inżynierowie z konkurujących firm SI oraz eksperci ds. bezpieczeństwa SI, aby zebrać opinie interesariuszy na temat standardów, i musi przedstawić wyniki grup roboczych Zgromadzeniu. Każdy wyznaczony IVO musi składać coroczny raport, nie wcześniej niż 12 miesięcy po początkowym wyznaczeniu, podsumowujący jego standardy i metodologie oraz ujawniający zmiany w politykach zarządzania lub źródłach finansowania istotnych dla jego niezależności. IVO mogą redagować materiały w celu ochrony tajemnic handlowych, cyberbezpieczeństwa, bezpieczeństwa publicznego lub bezpieczeństwa narodowego, ale muszą przechowywać niecenzurowane informacje przez pięć lat.
Ramowy system jest dobrowolny. Ustawa stwierdza, że nie wymaga od żadnego twórcy, wdrożeniowca ani operatora systemu lub modelu SI skorzystania z IVO ani przeprowadzenia audytu, nie ustanawia odpowiedzialności wyłącznie za nieprzestrzeganie standardu i nie stanowi rekomendacji ani poparcia państwa dla jakiegokolwiek systemu lub modelu SI. W postępowaniu sądowym, w którym zarzuca się, że system SI spowodował szkodę, ustawa przewiduje, że audyt przeprowadzony zgodnie ze standardem określonym w rozdziale jest istotny, ale nie rozstrzygający w sprawie.
Oświadczenia autora i sponsora
Biuro McNerney’ego opisało projekt jako pierwsze w kraju ramy dla niezależnych, zewnętrznych ocen potencjalnych zagrożeń bezpieczeństwa stwarzanych przez systemy SI. Jego ogłoszenie podawało wynik głosowania w Senacie jako 37–0 oraz w Zgromadzeniu jako 53–4; oficjalny zapis legislacyjny wskazuje, że Senat przyjął poprawki 39–0 z jednym członkiem nie głosującym, a Zgromadzenie 67–6 z sześcioma członkami nie głosującymi.
„Kalifornijski Zgromadzenie Ustawodawcze dziś wysłało jasny sygnał: nadszedł czas, aby Kalifornia przejęła wiodącą rolę w ocenie potencjalnych zagrożeń bezpieczeństwa SI, ponieważ Waszyngton, D.C., nie jest w stanie lub nie chce tego zrobić,” powiedział McNerney w oświadczeniu ogłaszającym głosowanie. Jego biuro dodało również, że ustanowienie niezależnych, zewnętrznych ocen SI było jedną z głównych rekomendacji niebieskiej komisji Newsoma ds. sztucznej inteligencji, oraz przytoczyło sondaż wskazujący, że dwie trzecie Amerykanów ma małe lub żadne zaufanie do federalnego rządu w regulowaniu SI skutecznie.
SB 813 jest sponsorowane przez Fathom, organizację non‑profit, która twierdzi, że opracowała i promuje model IVO oraz współpracuje z decydentami w całym kraju, aby wprowadzić go w praktykę. Organizacja opisała IVO jako wykwalifikowanych zewnętrznych ekspertów, którzy mogą niezależnie ocenić ryzyko modeli i systemów SI, stosując wiarygodne testy i analizy, i stwierdziła, że ustawa pozwoli na niezależną ocenę potencjalnych zagrożeń technologii zamiast przyjmowania ich na wiarę.
„Moc modelu niezależnej weryfikacji polega na tym, że pozwala niezależnym, wykwalifikowanym ekspertom ocenić ryzyko możliwości SI i nadążać za technologią, zamiast zamrażać pojedynczy test w prawie,” powiedział Andrew Freedman, dyrektor generalny Fathom, w oświadczeniu organizacji.
Oświadczenie Fathom umieściło również ustawę obok SB 53, którą, jak podano, teraz wymaga od dużych deweloperów frontowych publikowania ram bezpieczeństwa i zgłaszania krytycznych incydentów. Organizacja stwierdziła, że SB 813 rozpocznie budowanie dodatkowej warstwy odpowiedzialności, ponieważ ustalenia dotyczące bezpieczeństwa wciąż w dużej mierze opierają się na ocenie własnych systemów przez firmy, i że będzie kontynuować współpracę z kalifornijskimi decydentami, ekspertami technicznymi i interesariuszami branży, aby posunąć ramy naprzód.
Wcześniejsze wersje projektu
McNerney wprowadził SB 813 21 lutego 2025 r., wraz z członkami Zgromadzenia Bauer‑Kahan i Lowenthal jako współautorami, a ustawa była wielokrotnie poprawiana w obu izbach, przy czym poprawki Zgromadzenia sięgały aż 26 sierpnia 2026 r., zgodnie z zapisem legislacyjnym. Senat przyjął wcześniejszą wersję ustawy 31‑7 27 stycznia 2026 r. Ogłoszenie McNerney’ego w tamtym czasie stwierdzało, że wersja ta miałaby utworzyć Kalifornijską Komisję Standardów i Bezpieczeństwa Sztucznej Inteligencji, aby wyznaczyć ekspertowe panele IVO, które ustalałyby dobrowolne standardy, certyfikowały twórców i dostawców SI oraz monitorowały zgodność, posiadając uprawnienie do cofnięcia certyfikacji.
Jeśli Newsom podpisze ustawę, Agencja Operacji Rządowych stanie przed terminem 1 stycznia 2028 r. na stworzenie systemu wyznaczania, a wyniki grup roboczych będą raportowane Zgromadzeniu, a pierwsze coroczne raporty IVO będą wymagane nie wcześniej niż 12 miesięcy po początkowym wyznaczeniu organizacji.
