캘리포니아 주 의회, 독립 AI 안전 검증 법안 통과

캘리포니아 주 의회는 2026년 8월 30일에 SB 813에 최종 승인했으며, 이 법안은 제리 맥너니 상원의원이 발의한 것으로 정부 운영국이 AI 시스템 및 모델의 안전 위험을 평가할 자격을 갖춘 외부 감사인 독립 검증 기관을 지정하도록 합니다. 이제 이 법안은 게빈 뉴섬 주지사에게 전달됩니다.

의회는 2026년 8월 30일에 법안을 제3독회에서 통과시켰으며, 같은 날 상원도 의회의 수정안을 동의해 입법 통과를 완료했습니다. 공식 투표 기록에 따르면, 하원은 찬성 67표, 반대 6표, 기권 6표였으며, 상원은 찬성 39표로 반대 없이 통과했고, 한 명이 기권했습니다.

SB 813이 요구하는 내용

이 법안은 캘리포니아 정부법에 새로운 장을 추가하여 “캘리포니아 인공지능 안전 독립 검증 기관(California Artificial Intelligence Safety Independent Verification Organizations)”이라고 명명합니다. 2028년 1월 1일 이전에 정부 운영국은 독립 검증 기관(IVO) 지정 신청 요건, 지정 중단·해지 절차, AI 감사인이 자격을 갖추었는지 판단하는 기준을 마련해야 합니다. 해당 요건과 기준은 공개적으로 게시하고, 기술 및 산업 표준이 변함에 따라 검토·수정하며, 가능한 경우 기존 전문·규제 감사·보증 표준과 일치하도록 해야 합니다.

법 정의에 따르면, IVO는 AI 시스템이나 모델이 초래할 위험을 평가하고 그 평가에 사용되는 지표와 방법론을 식별할 전문성을 입증한 AI 감사인입니다. 지정된 IVO는 평가 대상과 재정·운영·경영적으로 의존 관계가 없어야 합니다. 합리적인 시장 가격으로 평가 대상으로부터 비용을 받을 수는 있지만, 평가 결과에 따라 비용 지급 조건을 달리할 수는 없습니다.

중단 및 해지 절차는 적절한 표준을 준수하지 않음, 신청서 또는 필수 공개 내용의 중대한 허위 진술, 독립성을 손상시키는 이해 충돌, 문서 유지 미비, 사이버 보안 위반, 그리고 IVO의 청렴성·객관성·능력을 의심하게 하는 행위 등을 포함해야 합니다.

또한 기관은 경쟁 AI 기업의 엔지니어와 AI 안전 전문가를 포함한 작업 그룹을 구성해 표준에 대한 이해관계자의 의견을 수렴하고, 그 결과를 입법부에 보고해야 합니다. 각 지정된 IVO는 최초 지정 후 최소 12개월이 지나야 연례 보고서를 제출해야 하며, 여기에는 적용 기준·방법론 요약과 독립성에 영향을 미칠 수 있는 거버넌스 정책·자금 출처 변경 사항이 포함됩니다. IVO는 영업 비밀·사이버 보안·공공 안전·국가 안보를 보호하기 위해 자료를 일부 삭제할 수 있지만, 원본 비삭제 자료는 5년간 보관해야 합니다.

이 프레임워크는 자발적입니다. 법안은 AI 시스템·모델의 개발자·배포자·운영자가 IVO를 이용하거나 감사를 받아야 한다고 강제하지 않으며, 표준 미준수만으로 책임을 묻지 않으며, 특정 AI 시스템·모델에 대한 주의 권고나 보증을 의미하지도 않습니다. AI 시스템으로 인한 피해를 주장하는 소송에서, 해당 장에서 지정한 표준에 따라 수행된 감사는 사건과 관련이 있지만 결정적인 증거는 아닙니다.

작성자 및 후원자 진술

맥너니 의원 사무실은 이 법안을 “AI 시스템이 초래할 잠재적 안전 위험에 대한 독립적인 제3자 평가를 위한 미국 최초의 프레임워크”라고 설명했습니다. 그의 발표에 따르면 상원 표결은 37대 0, 하원 표결은 53대 4였으며, 공식 입법 기록에는 상원 동의가 39대 0(한 명 기권)이고 하원 표결은 67대 6(여섯 명 기권)으로 기재되어 있습니다.

“캘리포니아 주 의회는 오늘 명확한 메시지를 보냈습니다: 워싱턴 D.C.가 이를 수행할 능력이나 의지가 없으므로, 캘리포니아가 AI의 잠재적 안전 위험을 평가하는 선두에 설 때입니다.”라고 맥너니는 표결을 알리는 성명에서 말했습니다. 그의 사무실은 또한 독립적인 제3자 AI 평가가 뉴섬 주지사의 인공지능 청색리본 위원회 주요 권고 중 하나였으며, 미국인의 3분의 2가 연방 정부가 AI를 효과적으로 규제할 능력에 거의 신뢰를 갖지 못한다는 여론 조사 결과를 인용했습니다.

SB 813은 IVO 모델을 개발·지원하고 전국 정책 입안자와 협력해 실현을 도모하는 비영리 단체 Fathom이 후원합니다. 이 조직은 IVO를 “신뢰할 수 있는 테스트와 분석을 통해 AI 모델 및 시스템의 위험을 독립적으로 평가할 수 있는 외부 전문가”라고 설명했으며, 이 법안이 기술이 제시하는 잠재적 위험을 신뢰에 맡기지 않고 독립적으로 평가할 수 있게 할 것이라고 밝혔습니다.

“독립 검증 모델의 강점은 독립적이고 자격을 갖춘 전문가가 AI 역량의 위험을 평가하게 함으로써, 단일 테스트를 법으로 고정시키는 대신 기술 발전에 발맞춰 나갈 수 있다는 점입니다.”라고 Fathom의 CEO 앤드류 프리드먼은 조직 성명에서 말했습니다.

Fathom은 또한 이 법안을 SB 53과 연계했으며, SB 53은 이제 대형 최전선 개발자에게 안전 프레임워크를 공개하고 중대한 사고를 보고하도록 요구한다고 밝혔습니다. 조직은 SB 813이 책임성의 추가적인 층을 구축할 것이며, 현재 안전 판단이 주로 기업 자체 평가에 의존하고 있기 때문에, 캘리포니아 정책 입안자·기술 전문가·산업 이해관계자와 계속 협력해 프레임워크를 추진할 것이라고 전했습니다.

법안의 이전 버전

맥너니 의원은 2025년 2월 21일에 SB 813을 발의했으며, 바우어-카한 의원과 로웬탈 의원이 공동 저자로 참여했으며, 양원에서 여러 차례 수정되었습니다. 하원 수정안은 2026년 8월 26일까지 최신이었으며, 입법 기록에 따르면 상원은 2026년 1월 27일에 이 법안의 이전 버전을 31대 7로 통과시켰습니다. 당시 맥너니 의원 발표에 따르면, 해당 버전은 캘리포니아 인공지능 표준 및 안전 위원회를 설립해 IVO 전문가 패널을 지정하고, 자발적 표준을 설정·AI 개발자·벤더를 인증하며, 준수 여부를 모니터링하고 인증을 취소할 권한을 부여할 예정이었습니다.

뉴섬 주지사가 이 법안에 서명하면, 정부 운영국은 2028년 1월 1일까지 지정 시스템을 구축해야 하며, 작업 그룹 결과를 입법부에 보고하고, 최초 지정 후 최소 12개월이 지난 시점부터 첫 번째 연례 IVO 보고서를 제출해야 합니다.