Калифорнийский законодательный орган принял закон о независимой проверке безопасности ИИ

Калифорнийский законодательный орган дал окончательное одобрение 30 августа 2026 года SB 813, законопроекту, инициированному сенатором Джерри МакНерни, который предписывает Агентству государственных операций назначать независимые организации по верификации — внешних аудиторов, квалифицированных для оценки рисков безопасности систем и моделей ИИ. Законопроект теперь направлен губернатору Gavin Newsom.

Палата представителей приняла законопроект на третьем чтении 30 августа 2026 года, а Сенат согласовал поправки Палаты в тот же день, завершив законодательный процесс, согласно официальному протоколу голосования. В Палате было зафиксировано 67 голосов «за», 6 «против» и 6 членов, воздержавшихся от голосования; согласование в Сенате прошло с 39 голосами «за», без оппозиции, и один член воздержался.

Что потребует SB 813

Законопроект добавляет новую главу в Кодекс правительства Калифорнии, которую он называет «Калифорнийские независимые организации по верификации безопасности искусственного интеллекта». До 1 января 2028 года или раньше Агентство государственных операций должно разработать требования к заявкам для получения статуса независимой организации по верификации (IVO); процедуры приостановления или прекращения статуса; а также критерии, определяющие, соответствует ли аудитор ИИ требованиям. Агентство обязано публично опубликовать эти требования и критерии, пересматривать и обновлять их по мере изменения технологий и отраслевых стандартов и, где это возможно, согласовывать их с существующими профессиональными и регуляторными стандартами аудита и обеспечения.

Согласно определению закона, IVO — это аудитор ИИ, продемонстрировавший экспертизу в оценке рисков, связанных с системой или моделью ИИ, и в определении метрик и методологий такой оценки. Назначенный IVO не должен иметь финансовой, операционной или управленческой зависимости от проверяемой стороны. Он может принимать оплату от проверяемой стороны по разумным рыночным ставкам, но не может принимать условия, связывающие оплату с результатами своей оценки.

Процедуры приостановления и прекращения должны охватывать нарушения соответствия установленным стандартам, существенные искажения в заявках или обязательных раскрытиях, конфликты интересов, подрывающие независимость, отсутствие надлежащей документации, пробелы в кибербезопасности и поведение, которое ставит под сомнение целостность, объективность или компетентность IVO.

Агентство также должно созвать рабочие группы, включающие инженеров конкурирующих компаний, разрабатывающих ИИ, и экспертов по безопасности ИИ, чтобы собрать мнения заинтересованных сторон о стандартах, и представить выводы этих групп Законодательному собранию. Каждый назначенный IVO обязан подавать ежегодный отчёт, не ранее чем через 12 месяцев после получения статуса, в котором суммируются его стандарты и методологии и раскрываются изменения в политике управления или источниках финансирования, влияющих на независимость. IVO могут редактировать материал для защиты коммерческих тайн, кибербезопасности, общественной безопасности или национальной безопасности, но обязаны хранить ненарезанную информацию в течение пяти лет.

Эта система добровольна. Законопроект заявляет, что он не обязывает ни разработчика, ни внедрителя, ни оператора системы или модели ИИ привлекать IVO или проходить аудит, не устанавливает ответственность исключительно за несоблюдение стандарта и не представляет собой государственную рекомендацию или одобрение какой-либо системы или модели ИИ. В судебных разбирательствах, где утверждается, что система ИИ причинила вред, законопроект предусматривает, что аудит, проведённый в соответствии со стандартом, указанным в главе, является релевантным, но не окончательным доказательством.

Заявления автора и спонсоров

Офис МакНерни описал предложение как первый в стране механизм независимых, сторонних оценок потенциальных рисков безопасности ИИ‑систем. В его объявлении указано, что голосование в Сенате завершилось со счётом 37–0, а в Палате — 53–4; официальный законодательный протокол фиксирует согласование в Сенате 39–0 при одном воздержавшемся и голосование в Палате 67–6 при шести воздержавшихся.

«Калифорнийский законодательный орган сегодня отправил чёткое сообщение: пришло время Калифорнии взять на себя лидерство в оценке потенциальных рисков безопасности ИИ, поскольку Вашингтон, округ Колумбия, не в состоянии или не желает это делать», — сказал МакНерни в заявлении, объявляющем голосование. Его офис также отметил, что создание независимых, сторонних оценок ИИ было одной из основных рекомендаций экспертной группы Ньюсома по искусственному интеллекту, и привёл опрос, показывающий, что две трети американцев имеют низкий уровень доверия к федеральному правительству в вопросе эффективного регулирования ИИ.

SB 813 спонсирует Fathom, некоммерческая организация, заявляющая, что разработала и продвигает модель IVO и работает с законодателями по всей стране для её внедрения. Организация описывает IVO как квалифицированных внешних экспертов, способных независимо оценивать риски моделей и систем ИИ с использованием надёжных тестов и анализа, и заявляет, что законопроект позволит независимо оценивать потенциальные риски технологии, а не принимать их на веру.

«Сила модели независимой верификации в том, что она позволяет независимым, квалифицированным экспертам оценивать риск возможностей ИИ и идти в ногу с технологией, а не фиксировать один тест в законе», — сказал Эндрю Фридман, генеральный директор Fathom, в заявлении организации.

Заявление Fathom также сопоставило закон с SB 53, который, по их словам, теперь требует от крупных разработчиков передовых технологий публиковать рамки безопасности и отчитываться о критических инцидентах. Организация отметила, что SB 813 создаст дополнительный уровень ответственности, поскольку определение безопасности всё ещё в значительной степени зависит от компаний, оценивающих собственные системы, и заявила, что продолжит работать с калифорнийскими законодателями, техническими экспертами и отраслевыми заинтересованными сторонами для продвижения этой инициативы.

Ранние версии предложения

МакНерни внес SB 813 21 февраля 2025 года совместно с членами Палаты Бауэр‑Кахан и Лоутентал, а законопроект неоднократно поправлялся в обеих палатах, при этом поправки Палаты были внесены вплоть до 26 августа 2026 года, согласно законодательному протоколу. Сенат принял более раннюю версию законопроекта 31–7 27 января 2026 года. Объявление МакНерни в то время говорило, что эта версия создала бы Калифорнийскую комиссию по стандартам и безопасности искусственного интеллекта для назначения экспертных панелей IVO, которые бы устанавливали добровольные стандарты, сертифицировали разработчиков и поставщиков ИИ и контролировали соблюдение, обладая полномочием отзывать сертификаты.

Если Ньюсом подпишет закон, Агентство государственных операций столкнётся с дедлайном 1 января 2028 года для создания системы назначения, а выводы рабочих групп должны быть представлены Законодательному собранию, а первые ежегодные отчёты IVO должны быть поданы не ранее чем через 12 месяцев после первоначального назначения организации.