Регулирование
Fathom призывает ускорить реализацию плана Калифорнии по надзору за ИИ

Ключевые моментыFathom хочет, чтобы Калифорния обязала разработчиков передового ИИ проводить…
Показать больше
- Fathom хочет, чтобы Калифорния обязала разработчиков передового ИИ проводить независимые оценки катастрофических рисков, а не полагаться на добровольные проверки.
- Штат будет лицензировать и контролировать оценщиков, определяя результаты в области безопасности в законе и позволяя IVO обновлять методы технического тестирования.
- Fathom предлагает поэтапно вводить мандаты по мере роста потенциала оценщиков, чтобы гарантированная работа привлекала капитал и таланты.
Группа по вопросам управления ИИ Fathom заявила 18 ноября 2026 года, что новая дорожная карта губернатора Гэвина Ньюсома в отношении передового ИИ отражает многие из ее рекомендаций, и призвала Калифорнию как можно скорее ввести обязательные независимые оценки катастрофических рисков.
Fathom разработала и отстаивала модель независимых организаций по верификации (IVO), в рамках которой сторонние оценщики проверяют модели и системы ИИ на предмет рисков. Генеральный директор и сооснователь Эндрю Фридман назвал доклад конкретным планом практического внедрения независимого надзора и призвал действовать «со всей возможной оперативностью». Среди нерешенных вопросов он перечислил законодательство, нормотворчество, разграничение полномочий штата и федеральных властей, логистику, сроки и расходы. Фридман заявил, что Fathom будет добиваться от властей штата и федерального правительства прозрачности, обязательного измерения рисков IVO и гарантий безопасности, обеспечиваемых государством.
Доклад Агентства Калифорнии по государственным операциям (GovOps), датированный 16 ноября 2026 года и опубликованный 18 ноября, рекомендует внести законодательные изменения, а не вводит требования самостоятельно. Более широкий пакет мер предусматривает базовые стандарты, полномочия по экстренной остановке и возможные ограничения на рекурсивное самосовершенствование; он опирается на заложенную в SB 813 модель IVO и реестр аудиторов ИИ, предусмотренный AB 1405.
В чем дорожная карта отражает модель Fathom
Ключевая рекомендация доклада по надзору предусматривает, что все крупные разработчики передовых систем ИИ должны будут проходить регулярные проверки у лицензированных IVO, что заменит действующий добровольный подход к таким разработчикам. GovOps будет лицензировать оценщиков и осуществлять постоянный надзор за ними, получив право отзывать лицензии при недостатке у них компетенций, независимости или тщательности. IVO будут передавать штату неотредактированные заключения, а штат после взаимодействия с разработчиком будет решать, требуются ли корректирующие меры.
По словам Fathom, и в вопросе распределения обязанностей, и в отношении юридического критерия доклад следует положениям ее меморандума о реализации от 30 октября 2026 года. Калифорния закрепит в законе приемлемые результаты в области безопасности, а IVO будут разрабатывать и обновлять технические методы и тесты для оценки соответствия. Предлагаемый стандарт предполагает выяснить, «маловероятно ли, что передовая модель повысит риск катастрофического вреда выше уровня, который существовал бы без этой модели», и перевешивают ли ожидаемые выгоды остаточный риск. Такая конструкция призвана позволить менять методы тестирования по мере развития технологий, сохраняя при этом установленный законом результат, которого требует штат.
Рекурсивное самосовершенствование (RSI) — момент, когда автоматизированная разработка ИИ становится самоподдерживающейся, — еще одна область совпадения подходов. Согласно докладу, первоначальной обязанностью IVO станет проверка показателей автоматизированных исследований и разработок в области ИИ, а также оценка растущих рисков. В меморандуме Fathom также предлагалось изучать внутреннее и внешнее применение таких систем: заранее установленные пороговые значения возможностей должны запускать уведомление штата и приостанавливать дальнейшее наращивание масштабов внутри организации до повторной оценки.
План Fathom по реализации
В меморандуме предлагается поэтапно вводить каждое обязательное требование, как только GovOps установит, что назначенные оценщики располагают достаточными ресурсами и компетенциями в соответствующей области риска. В документе утверждается, что надежные гарантии наличия обязательной работы привлекут капитал и специалистов, необходимые для расширения независимой верификации, вместо того чтобы ждать формирования зрелого рынка в каждой области риска.
На начальном этапе штат будет назначать IVO из заранее определенного пула, а разработчик будет напрямую оплачивать фактически затраченное время и материалы по ставкам, установленным штатом. По мере расширения пула на последующих этапах разработчики получат больше возможностей выбирать оценщиков, однако штат сохранит право отклонять выбранные кандидатуры, требовать ротации, ограничивать концентрацию, назначать дополнительных оценщиков и лишать аккредитации тех, кто не обеспечивает необходимую тщательность или независимость. Размер оплаты не будет зависеть от результатов оценки.
Встроенные оценщики получат постоянный доступ к необходимой документации, персоналу и системам, в том числе возможность лично присутствовать в определенные моменты принятия решений. Этот доступ будет обеспечен установленными законом гарантиями конфиденциальности и защиты от ответных мер. Принудительное исполнение требований останется в ведении штата: генеральный прокурор сможет добиваться судебных запретов и гражданских штрафов, тогда как IVO будут делать выводы, предписывать корректирующие меры и сообщать о непосредственных рисках, но не обращаться за судебными запретами самостоятельно и не наделять свои выводы автоматической юридической силой.
Теперь практическая задача стоит перед законодательным собранием и GovOps: превратить рекомендации в обязательные требования, подготовить достаточное число лицензированных оценщиков и сохранить действенный механизм государственного контроля за соблюдением требований. В плане Fathom эти шаги взаимозависимы: выполнение каждого требования зависит от наличия необходимых компетенций, а для того, чтобы выводы IVO повлекли принудительные меры, требуется вмешательство штата.












