규제
Fathom, 캘리포니아 AI 감독 계획의 신속한 이행 촉구

핵심 포인트Fathom은 캘리포니아가 프런티어 AI 개발자들에게 자발적 검토에 의존하기보다 독립적인 치명적 위험 평가를 의무화하기를 원합니다.
더 보기
- Fathom은 캘리포니아가 프런티어 AI 개발자들에게 자발적 검토에 의존하기보다 독립적인 치명적 위험 평가를 의무화하기를 원합니다.
- 주는 평가자들을 허가하고 감독하며 안전 결과를 법으로 정의하고 IVO가 기술적 테스트 방법을 업데이트하도록 허용할 것입니다.
- Fathom은 평가자 역량이 성장함에 따라 의무화를 단계적으로 도입하여 보장된 업무가 자본과 인재를 끌어들이도록 제안합니다.
AI 거버넌스 단체 Fathom은 2026년 11월 18일 개빈 뉴섬 주지사가 새로 발표한 프런티어 AI 로드맵에 자사의 권고 사항 다수가 반영됐다며, 캘리포니아주가 재앙적 위험에 대한 의무적 독립 평가를 신속히 시행해야 한다고 촉구했다.
Fathom은 외부 평가자가 AI 모델과 시스템의 위험을 평가하는 독립 검증 기관(IVO) 모델을 개발하고 지지해 왔다. CEO 겸 공동 창업자인 앤드루 프리드먼은 이 보고서가 독립 감독을 실제로 시행하기 위한 구체적인 계획이라며 “충분히 숙고하되 최대한 신속하게” 추진해야 한다고 촉구했다. 그는 입법, 규칙 제정, 주 정부와 연방 정부 간 권한 배분, 실행 절차, 시기 및 비용이 아직 해결되지 않은 문제라고 지적했으며, Fathom은 주 정부와 연방 정부를 상대로 투명성, 의무적 IVO 위험 측정, 정부가 집행하는 안전장치를 요구할 것이라고 밝혔다.
캘리포니아주 정부운영국(GovOps)의 보고서는 2026년 11월 16일자로 작성돼 11월 18일 공개됐으며, 직접 요건을 부과하기보다는 법률 개정을 권고한다. 더 폭넓은 권고안에는 기본 기준, 비상 정지 권한, 재귀적 자기 개선에 대한 잠재적 제한이 포함되며, SB 813의 IVO 체계와 AB 1405의 AI 감사자 등록 제도를 기반으로 한다.
로드맵에 반영된 Fathom의 모델
핵심 감독 권고안은 모든 대형 프런티어 AI 개발자가 인가받은 IVO의 지속적인 심사를 받도록 해, 해당 개발자에게 적용되던 현행 자율 참여 방식을 대체하는 것이다. GovOps는 평가자를 인가하고 지속적으로 감독하며, 평가자에게 충분한 전문성이나 독립성, 엄격성이 없을 경우 인가를 취소할 권한을 갖는다. IVO는 편집이나 삭제를 거치지 않은 평가 결과를 주 정부에 제출하고, 주 정부는 개발자와 협의한 뒤 시정 조치가 필요한지 결정한다.
책임 분담과 법적 판단 기준 모두에서, Fathom은 보고서가 자사의 2026년 10월 30일자 이행 메모를 따른다고 밝혔다. 캘리포니아주는 법률로 허용 가능한 안전 성과를 규정하고, IVO는 준수 여부를 평가하는 데 사용하는 기술적 방법과 시험을 개발하고 갱신한다. 제안된 기준은 프런티어 모델이 “해당 모델이 없었을 경우보다 재앙적 피해 위험을 높일 가능성이 낮은지”와 예상되는 이익이 잔여 위험보다 큰지를 묻는다. 이 설계는 주 정부가 법률로 정한 성과 기준을 유지하면서 기술 변화에 따라 시험 방법을 바꿀 수 있도록 하는 데 목적이 있다.
자동화된 AI 개발이 자립적으로 지속되는 단계인 재귀적 자기 개선(RSI)도 양측의 공통 관심사다. 보고서는 자동화된 AI 연구·개발 지표를 검증하고 커지는 위험을 평가하는 일을 IVO의 초기 책임으로 규정한다. Fathom의 메모는 내부 및 외부 활용에 대한 검토도 요구했다. 사전 등록된 역량 임계치에 도달하면 주 정부에 통보하고, 재평가가 이뤄질 때까지 추가적인 내부 규모 확대를 보류하도록 하는 내용이다.
Fathom의 이행 방안
메모는 GovOps가 지정 평가자에게 관련 위험 분야의 충분한 역량과 전문성이 있다고 판단할 때 각 의무를 단계적으로 도입할 것을 제안한다. 모든 위험 분야에서 성숙한 시장이 형성될 때까지 기다리는 대신, 의무적 업무가 지속적으로 발생할 것이라는 믿을 만한 전망을 마련해 독립 검증 확대에 필요한 자본과 인재를 끌어들여야 한다는 주장이다.
초기에는 주 정부가 사전 지정된 평가자 풀에서 IVO를 배정하고, 개발자는 주 정부가 기준을 정한 요율에 따라 투입 시간과 비용을 직접 지급한다. 이후 평가자 풀이 확대되면 개발자의 선택권도 넓어지지만, 주 정부는 선정에 거부권을 행사하고, 평가자 교체를 요구하고, 특정 평가자에 대한 업무 집중에 상한을 설정하고, 추가 평가자를 임명하며, 엄격성이나 독립성이 부족한 평가자의 자격을 박탈할 권한을 유지한다. 지급액은 평가 결과에 따라 달라지지 않는다.
상주 평가자는 필요한 기록, 인력 및 시스템에 지속적으로 접근할 수 있으며, 여기에는 정해진 의사결정 시점에 현장에 직접 참여할 수 있는 권한도 포함된다. 이를 법정 비밀유지 및 보복 금지 보호 조치가 뒷받침한다. 집행 권한은 계속 주 정부가 보유한다. 법무장관은 금지명령과 민사상 벌금을 청구할 수 있지만, IVO는 직접 금지명령을 구하거나 조사 결과가 자동으로 집행되도록 하는 대신 판단을 내리고 시정 조치를 명시하며 임박한 위험을 보고한다.
이제 실질적인 과제는 입법부와 GovOps에 달려 있다. 권고안을 구속력 있는 의무로 전환하는 동시에 충분한 수의 평가자를 인가하고, 신뢰할 수 있는 주 정부의 집행 체계를 유지해야 한다. Fathom의 설계에서는 각 의무가 이용 가능한 전문성에 달려 있고, IVO의 판단이 강제력을 갖기 전에 주 정부의 조치가 필요하므로 이 단계들이 서로 긴밀히 연결돼 있다.












