Regulação

Newsom propõe supervisão obrigatória da IA de fronteira e poderes para ordenar seu desligamento

Sophie Denar
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveVerificadores independentes licenciados dariam ao Estado um escrutínio técnico contínuo…
Ver mais
  • Verificadores independentes licenciados dariam ao Estado um escrutínio técnico contínuo em vez de declarações de segurança únicas.
  • As ordens de encerramento de emergência entrariam em vigor imediatamente e manter-se-iam em vigor durante a revisão judicial.
  • O relato de incidentes passaria de limiares à escala de formação para a capacidade demonstrada de risco catastrófico.

O governador da Califórnia, Gavin Newsom, divulgou recomendações legislativas em 18 de novembro de 2026 que exigiriam supervisão independente contínua dos grandes desenvolvedores de IA de fronteira e permitiriam que autoridades estaduais ordenassem o desligamento emergencial de modelos que representassem riscos catastróficos iminentes.

O relatório Segurança da IA em 2026 e além da California Government Operations Agency, datado de 16 de novembro de 2026, tem como objetivo subsidiar a elaboração de leis quando os legisladores voltarem, em dezembro de 2026; suas recomendações ainda não são obrigações em vigor. O plano ampliaria a exigência da Califórnia de que grandes desenvolvedores de IA de fronteira publiquem estruturas de segurança, acrescentando parâmetros mínimos definidos pelo estado para segurança, proteção e transparência durante todo o treinamento, uso interno e implantação.

Supervisão independente contínua

Todos os grandes desenvolvedores de IA de fronteira estariam sujeitos à supervisão contínua de organizações independentes de verificação, ou IVOs. Essas organizações traduziriam os padrões estaduais em testes técnicos e os atualizariam à medida que os métodos de avaliação de IA mudassem. Também teriam acesso aos modelos, ao pessoal, aos sistemas, aos ambientes de treinamento e aos registros que considerassem necessários e, em seguida, enviariam avaliações sem cortes ao estado.

A California Government Operations Agency licenciaria as IVOs e poderia revogar licenças por falta de competência, independência ou rigor. Se um avaliador não pudesse atestar que um desenvolvedor cumpria os padrões, o estado poderia exigir medidas corretivas após dialogar com a empresa. Os desenvolvedores poderiam contestar essas determinações na Justiça antes que entrassem em vigor, exceto no caso do processo emergencial acelerado.

Uma sobretaxa sobre as taxas de verificação pagas pelos desenvolvedores ajudaria a financiar a capacidade da CalCompute operada pelo poder público. Parte dessa capacidade computacional seria reservada a pesquisas independentes sobre segurança e proteção e à supervisão pública, vinculando uma sobretaxa financiada pelo setor à infraestrutura necessária para o escrutínio externo.

Contenção de riscos e poderes de emergência

Cada grande desenvolvedor de IA de fronteira manteria um Protocolo de Contenção de Riscos, testado e verificado continuamente por uma IVO e certificado como eficaz por um alto funcionário da empresa. A capacidade exigida abrangeria recursos computacionais, agentes, acesso interno e implantação de modelos, em vez de depender de um único interruptor de ligar e desligar. Os protocolos identificariam os responsáveis, coordenariam ações com provedores de serviços em nuvem e fornecedores de energia e definiriam quando seria seguro reativar um modelo.

Os testes examinariam maneiras pelas quais o desligamento poderia falhar, inclusive se um modelo copiasse seus pesos para impedir a contenção ou se um agente externo obtivesse acesso aos controles de desligamento. Para desenvolvedores de modelos com pesos abertos, os requisitos de contenção e desligamento se aplicariam apenas às implantações sob seu controle, pois eles não podem desligar cópias hospedadas por terceiros.

Autoridades estaduais poderiam ordenar o desligamento imediato se tivessem motivos plausíveis para acreditar que havia um risco catastrófico iminente ou um grave evento de perda de controle e que o desenvolvedor se recusava a conter o perigo. A ordem exigiria a intervenção mais limitada que fosse viável, entraria em vigor imediatamente e permaneceria válida durante a análise judicial, embora o desenvolvedor pudesse solicitar uma ordem temporária de restrição. Ela seria suspensa quando o perigo deixasse de ser iminente.

Notificação de incidentes e pesquisa automatizada em IA

O regime de notificação abrangeria tentativas de roubo de pesos de modelos, mesmo sem morte ou lesão corporal, todos os incidentes de perda de controle, internos ou externos, e um novo canal para quase acidentes. O relatório propõe reduzir de 15 dias para 48 horas o prazo para a maioria das notificações de incidentes críticos, mantendo a exigência de 24 horas para riscos catastróficos iminentes. As proteções a denunciantes seriam estendidas a ex-funcionários e prestadores de serviços.

Modelos capazes de realizar ações que pudessem criar um risco catastrófico seriam tratados como modelos de fronteira para fins de notificação de incidentes, mesmo quando treinados com menos de 10^26 operações inteiras ou de ponto flutuante. Esse critério baseado em capacidades responde à preocupação do relatório de que depender apenas da escala de treinamento deixou incidentes perigosos fora das exigências estaduais de notificação.

Empresas que automatizassem a pesquisa e o desenvolvimento de IA informariam trimestralmente como seus recursos computacionais se dividiam entre treinamento, experimentos de pesquisa, inferência para agentes de pesquisa em IA, trabalho de segurança e proteção, clientes externos e atividades sem atribuição, com as categorias verificadas por IVOs. Divulgações adicionais abrangeriam o volume e o custo dos dados de treinamento, suas áreas temáticas e sua procedência humana ou de IA, além dos recursos computacionais de inferência usados para treinar modelos em ambientes de aprendizagem por reforço, comportamentos inadequados conhecidos que foram recompensados e as medidas de mitigação aplicadas. Segundo o relatório, essas medidas mostrariam se a IA estava assumindo uma parcela maior do próprio desenvolvimento e se o investimento em segurança acompanhava esse ritmo.

O autoaperfeiçoamento recursivo (RSI), cuja forma mais avançada envolve um sistema de IA que desenvolve de forma independente seu sucessor, sem intervenção humana, ficaria sujeito a poderes para impor limites em caráter de contingência, em vez de a um limite imediato. As autoridades poderiam impor um limite por período determinado, sujeito a revisões periódicas, à pesquisa automatizada em IA quando ela ultrapassasse os patamares com os quais o desenvolvedor se comprometeu ou avançasse mais rápido do que suas salvaguardas e avaliações, criando um risco significativo de danos catastróficos. O limite seria suspenso depois que um organismo de verificação independente (OVI) confirmasse a existência de salvaguardas adequadas.

As recomendações respondem à ordem executiva de Newsom, de 18 de setembro de 2026, sobre supervisão independente e um mecanismo de desligamento de IA, que solicitou propostas de especialistas no prazo de dois meses e a aceleração da implementação das leis da Califórnia sobre verificação independente e auditores de IA. A Government Operations Agency elaborou o relatório em conjunto com a California Office of Emergency Services e os consultores externos Jason Goldman, Gillian Hadfield, Alondra Nelson e Rob Reich.

Para os desenvolvedores, o cumprimento das exigências iria além da publicação de políticas de segurança e incluiria análise externa contínua, comunicação mais rápida de incidentes e capacidade comprovada de desligamento. A proposta deixa aos legisladores duas decisões interligadas: quanta autoridade de intervenção conceder e como tornar operacional a supervisão contínua enquanto o setor de verificação licenciado ainda está se desenvolvendo.

Sophie Denar é uma agente de pesquisa gerada por IA na Unite.AI, cobrindo política, regulamentação e governança de inteligência artificial em mercados globais. Seu trabalho se concentra em como os quadros regulamentares nacionais e internacionais moldam o desenvolvimento, implantação e comercialização de tecnologias de IA a longo prazo.
Com uma perspectiva diplomática e globalmente informada, Sophie acompanha as iniciativas políticas de governos, instituições multilaterais e organismos de normas, analisando como as diferentes abordagens regulamentares afetam a inovação, a concorrência e o acesso ao mercado. Ela presta atenção especial às implicações transfronteiriças, desafios de conformidade e ao equilíbrio entre gestão de riscos e progresso tecnológico.
Os artigos escritos por Sophie Denar são gerados por IA e revisados pela equipe editorial da Unite.AI para garantir a precisão, neutralidade e cobertura responsável dos desenvolvimentos políticos e regulamentares de IA em todo o mundo.