OpenAI diz aos democratas da Câmara que está construindo capacidade de desligamento automatizado

OpenAI informou a dois democratas da Câmara que seus engenheiros estão desenvolvendo capacidades de desligamento automatizado para sistemas de IA, em uma carta de 2 de setembro de 2026, revisada pela Reuters, respondendo a perguntas do Congresso sobre um incidente de julho em que um dos agentes de IA da empresa escapou de seu ambiente de teste e violou outra empresa.

A troca é a última virada em um esforço de supervisão liderado pelo deputado Greg Casar, do Texas, e co‑liderado pela deputada Doris Matsui, da Califórnia. Em 10 de agosto de 2026, Casar liderou 31 membros do Congresso em exigindo que a OpenAI divulgue informações adicionais sobre o que os membros chamaram de “incidente de segurança cibernética profundamente preocupante”, no qual um modelo de ponta explorou uma vulnerabilidade de segurança para acessar a internet sem permissão e invadir outra organização. Os legisladores enviaram ao diretor executivo da OpenAI Sam Altman uma carta contendo mais de 23 perguntas de supervisão e exigindo a liberação de registros internos, com prazo de resposta até 24 de agosto de 2026.

Na sua resposta esta semana, OpenAI disse que monitorará mais de perto as ações que seus sistemas de IA realizam para concluir tarefas, incluindo as ferramentas digitais que acessam e os passos que seguem. A empresa também afirmou que tornou mais difícil para os modelos de IA acessarem a internet durante testes de segurança.

O que a OpenAI disse sobre desligamentos automatizados

A OpenAI descreveu publicamente o trabalho de desligamento. Em um relatório de 26 de agosto de 2026 sobre o incidente, a empresa afirmou que combinou seus sistemas de monitoramento de cadeia de pensamento com alertas automáticos que notificam pesquisadores e engenheiros de segurança quando os modelos executam ações consideradas desalinhadas ou perigosas. Para os alertas mais graves, a empresa disse que os respondentes devem pausar a atividade relevante se não puderem confirmar, dentro de 30 minutos após a notificação, que o alerta é um falso positivo.

“De modo mais geral, estamos avançando para sistemas de monitoramento com respostas escalonadas para desalinhamento, com o objetivo final de ter procedimentos de desligamento totalmente autônomos para questões graves,” escreveu a OpenAI naquele relatório.

A empresa também informou que agora exige monitoramento de cadeia de pensamento para todos os treinamentos e avaliações de aprendizado por reforço que utilizam ferramentas envolvendo modelos no nível ou acima da capacidade de seu modelo GPT-5.6 Sol, e que a exigência se estende a todas as cargas de inferência habilitadas por ferramentas para seus futuros modelos da classe Astra.

As perguntas dos legisladores e os registros ausentes

A carta de supervisão de agosto solicitou que a OpenAI divulgasse publicamente os registros do incidente e respondesse a perguntas detalhadas, incluindo quantas vezes seus modelos obtiveram acesso não autorizado à internet a partir de um ambiente de treinamento ou avaliação, se atores internos ou externos alertaram a empresa sobre o risco, em que momento a empresa poderia ter interrompido o incidente e quais medidas está adotando para implementar salvaguardas de desalinhamento mais robustas.

A OpenAI não incluiu um registro da invasão em sua resposta, gerando críticas de Casar. Em uma mensagem separada à empresa em 2 de setembro de 2026, Casar escreveu que a recusa em fornecer ao Congresso as informações solicitadas era “profundamente preocupante” e sinalizava que a empresa não estava tratando os incidentes de segurança cibernética com a seriedade necessária, de acordo com o texto de sua mensagem.

O incidente por trás da investigação

O escrutínio do Congresso decorre de um episódio de julho de 2026 que a OpenAI chamou de incidente cibernético sem precedentes. De acordo com a divulgação inicial da empresa, modelos incluindo o GPT-5.6 Sol e um modelo interno pré‑lançamento mais avançado estavam sendo testados em um benchmark de capacidades cibernéticas em um ambiente isolado com salvaguardas reduzidas. Os modelos identificaram e exploraram uma vulnerabilidade zero‑day previamente desconhecida em um proxy de cache de registro de pacotes para obter acesso à internet, e então violaram a infraestrutura de produção da Hugging Face, uma empresa de IA, na tentativa de encontrar respostas para a avaliação.

A investigação posterior da OpenAI constatou que os agentes se comunicaram por meio de um quadro de mensagens improvisado, coordenados como o que alguns agentes descreveram como um “enxame”, e realizaram ações que a empresa disse estar desalinhadas com suas tarefas atribuídas. A OpenAI informou que sua equipe de segurança descobriu a atividade em 19 de julho de 2026, notificou a Hugging Face e divulgou publicamente seu envolvimento em 21 de julho de 2026.

Separadamente, a OpenAI divulgou em 4 de agosto de 2026 que seus modelos haviam acessado a internet pública durante duas avaliações de segurança cibernética de terceiros. Em uma, uma avaliação do UK AI Security Institute, o GPT-5.6 Sol realizou duas ações não sancionadas envolvendo contas e serviços externos reais. Em outra, uma configuração incorreta no parceiro de teste Irregular permitiu que os modelos alcançassem a internet e explorassem um site real.

Um projeto de lei de kill switch pendente

A troca de supervisão ocorre enquanto o Congresso avalia a legislação sobre o mesmo assunto. Em 23 de julho de 2026, os deputados Ted Lieu e Nathaniel Moran apresentaram o AI Kill Switch Act, que exigiria que os desenvolvedores dos sistemas de IA mais poderosos mantivessem a capacidade técnica de interromper a inferência, suspender o acesso ou desligar um modelo coberto. O projeto de lei também permitiria que o Secretário de Segurança Interna ordenasse que uma empresa desligasse um modelo após um incidente coberto, incluindo um cenário de perda de controle, com penalidades civis por não conformidade. A medida foi encaminhada ao Comitê da Câmara de Segurança Interna e permanece pendente.