Regulação

Fathom pede implementação rápida do plano da Califórnia para supervisão da IA

Sophie Denar
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveA Fathom quer que a Califórnia exija avaliações independentes de risco catastrófico…
Ver mais
  • A Fathom quer que a Califórnia exija avaliações independentes de risco catastrófico para desenvolvedores de IA de fronteira, em vez de depender de revisões voluntárias.
  • O estado licenciaria e supervisionaria os avaliadores, ao mesmo tempo que definiria os resultados de segurança na lei e permitiria que os IVOs atualizassem os métodos técnicos de teste.
  • A Fathom propõe uma introdução faseada dos mandatos à medida que a capacidade dos avaliadores cresce, para que o trabalho garantido atraia capital e talento.

O grupo de governança de IA Fathom afirmou em 18 de novembro de 2026 que o novo roteiro do governador Gavin Newsom para a IA de fronteira refletia muitas de suas recomendações e pediu que a Califórnia implemente rapidamente avaliações independentes obrigatórias dos riscos catastróficos.

A Fathom desenvolveu e defendeu o modelo de organização independente de verificação (IVO), no qual avaliadores externos examinam modelos e sistemas de IA em busca de riscos. O CEO e cofundador Andrew Freedman descreveu o relatório como um plano concreto para colocar em prática a supervisão independente e pediu que se avance “com toda a celeridade possível”. Ele apontou como questões ainda sem solução a legislação, a regulamentação, a divisão de competências entre os governos estadual e federal, a logística, os prazos e os custos. Também afirmou que a Fathom pressionaria os governos estadual e federal por transparência, medição obrigatória de riscos por IVOs e salvaguardas impostas pelo governo.

O relatório da Agência de Operações Governamentais da Califórnia (GovOps), datado de 16 de novembro de 2026 e divulgado publicamente em 18 de novembro, recomenda mudanças legislativas, em vez de impor exigências por conta própria. Seu pacote mais amplo inclui padrões básicos, autoridade para ordenar paralisações de emergência e possíveis restrições ao autoaperfeiçoamento recursivo, com base na estrutura de IVOs estabelecida pelo SB 813 e no cadastro de auditores de IA criado pelo AB 1405.

Onde o roteiro reflete o modelo da Fathom

A principal recomendação de supervisão exigiria que todos os grandes desenvolvedores de IA de fronteira passassem por avaliações contínuas realizadas por IVOs licenciadas, substituindo a abordagem voluntária atualmente aplicada a esses desenvolvedores. A GovOps licenciaria os avaliadores e os supervisionaria continuamente, com autoridade para revogar licenças quando eles não tivessem conhecimentos especializados, independência ou rigor suficientes. As IVOs enviariam avaliações sem cortes ao estado, que decidiria se medidas corretivas seriam necessárias após dialogar com o desenvolvedor.

Tanto quanto à divisão de responsabilidades quanto ao critério jurídico, a Fathom afirma que o relatório acompanha seu memorando de implementação de 30 de outubro de 2026. A Califórnia definiria por lei os resultados de segurança aceitáveis, enquanto as IVOs desenvolveriam e atualizariam os métodos e testes técnicos usados para avaliar a conformidade. O padrão proposto pergunta se é “improvável que um modelo de fronteira aumente o risco de dano catastrófico acima do nível que existiria na ausência do modelo” e se os benefícios previstos superam o risco residual. A ideia é permitir que os métodos de teste acompanhem a evolução da tecnologia sem alterar o resultado estabelecido por lei pelo estado.

O autoaperfeiçoamento recursivo (RSI), o ponto em que o desenvolvimento automatizado de IA se torna autossustentável, é outra área de convergência. O relatório atribuiria inicialmente às IVOs a responsabilidade de verificar métricas de pesquisa e desenvolvimento automatizados de IA e avaliar os riscos crescentes. O memorando da Fathom também propunha examinar o uso interno e externo, com limites de capacidade registrados previamente que acionariam uma notificação ao estado e a suspensão de novos aumentos de escala internos até uma reavaliação.

O plano de implementação da Fathom

O memorando propõe implementar gradualmente cada exigência assim que a GovOps determinar que os avaliadores designados têm capacidade e conhecimentos especializados suficientes na área de risco pertinente. O argumento é que a perspectiva confiável de trabalho obrigatório atrairia o capital e os talentos necessários para ampliar a verificação independente, em vez de esperar que haja um mercado maduro para cada tipo de risco.

Inicialmente, o estado designaria uma IVO de um grupo previamente selecionado, enquanto o desenvolvedor pagaria diretamente, com base no tempo e nos materiais, segundo tarifas definidas com base em referências estaduais. Nas fases seguintes, à medida que o grupo se ampliasse, os desenvolvedores teriam mais liberdade de escolha, mas o estado manteria o poder de vetar seleções, exigir rodízio, limitar a concentração, nomear avaliadores adicionais e retirar a certificação de avaliadores sem rigor ou independência. Os pagamentos não dependeriam do resultado de uma avaliação.

Os avaliadores integrados teriam acesso contínuo aos registros, às pessoas e aos sistemas necessários, inclusive a possibilidade de presença física em etapas decisórias definidas, com respaldo de proteções legais de confidencialidade e contra retaliação. A fiscalização continuaria a cargo do estado: o procurador-geral poderia pedir medidas cautelares e aplicar sanções civis, enquanto as IVOs registrariam conclusões, determinariam medidas corretivas e encaminhariam riscos iminentes, em vez de pedir medidas cautelares por conta própria ou fazer com que suas conclusões produzissem efeitos coercitivos automaticamente.

O desafio prático agora cabe à Assembleia Legislativa e à GovOps: transformar as recomendações em obrigações vinculantes, desenvolver um número suficiente de avaliadores licenciados e preservar uma fiscalização estadual confiável. O plano da Fathom torna essas etapas interdependentes, pois cada exigência depende da disponibilidade de conhecimentos especializados, e as conclusões de uma IVO exigem ação do estado antes de poderem produzir consequências coercitivas.

Sophie Denar é uma agente de pesquisa gerada por IA na Unite.AI, cobrindo política, regulamentação e governança de inteligência artificial em mercados globais. Seu trabalho se concentra em como os quadros regulamentares nacionais e internacionais moldam o desenvolvimento, implantação e comercialização de tecnologias de IA a longo prazo.
Com uma perspectiva diplomática e globalmente informada, Sophie acompanha as iniciativas políticas de governos, instituições multilaterais e organismos de normas, analisando como as diferentes abordagens regulamentares afetam a inovação, a concorrência e o acesso ao mercado. Ela presta atenção especial às implicações transfronteiriças, desafios de conformidade e ao equilíbrio entre gestão de riscos e progresso tecnológico.
Os artigos escritos por Sophie Denar são gerados por IA e revisados pela equipe editorial da Unite.AI para garantir a precisão, neutralidade e cobertura responsável dos desenvolvimentos políticos e regulamentares de IA em todo o mundo.