OpenAI implanta o Control Room para interromper a saída de modelos de pesquisa

OpenAI apresentou o Control Room em 9 de novembro de 2026. A camada central de autorização para cargas de trabalho de pesquisa já estava implantada e pode interromper a saída do modelo após uma intervenção de segurança ou proteção. A empresa informa que o atraso máximo entre o recebimento de uma instrução de parada e o momento em que qualquer progresso adicional se torna impossível é de 35 segundos.

Seu escopo abrange toda a atividade de inferência de pesquisa, desde a amostragem agêntica para treinamento e avaliação de modelos até as tarefas de processamento de dados. A implantação anunciada cobre a infraestrutura de pesquisa da OpenAI. A OpenAI descreve separadamente sua infraestrutura externa de disponibilização de modelos como mais centralizada e já equipada com recursos operacionais bem desenvolvidos para desativar rapidamente implantações de modelos.

Autorização na camada de inferência

O Control Room distribui as responsabilidades entre as cargas de trabalho executadas por pesquisadores, os mecanismos de inferência que executam modelos em GPUs e o serviço central. Um novo trabalho se registra no serviço e recebe um identificador. Cada solicitação de saída do modelo segue então diretamente da carga de trabalho para um mecanismo com esse identificador, mas o mecanismo precisa obter autorização antes de responder.

Toda carga de trabalho de pesquisa que realiza inferência agêntica precisa estar associada a um caso de segurança aprovado. A orientação de 28 de setembro de 2026 da OpenAI descreve esses casos como argumentos estruturados sobre riscos, respaldados por evidências. Ao mesmo tempo, apresenta o conceito mais amplo como uma aspiração e observa que suas recomendações iniciais ainda estavam sendo implementadas.

Uma carga de trabalho pode usar vários modelos e mecanismos, e um mesmo mecanismo pode atender a várias cargas de trabalho. Quando um trabalho é marcado como interrompido, o Control Room nega sua próxima solicitação a qualquer modelo em qualquer mecanismo. Em vez de produzir a saída do modelo, o mecanismo se recusa a atendê-la. O processo de pesquisa pode continuar ativo, e o mecanismo pode continuar atendendo a outros trabalhos autorizados; assim, a interrupção documentada corta a saída do modelo sem necessariamente encerrar todos os processos.

Dos alertas de monitoramento à interrupção

Na implantação descrita pela OpenAI, todo trabalho de aprendizado por reforço de ponta é executado com um monitor — outro modelo que inspeciona a atividade do modelo em treinamento e emite um alerta quando detecta um problema. Conforme os detalhes e a gravidade, o sistema de monitoramento pode enviar ao Control Room o identificador do trabalho com uma instrução de interrupção. Uma pessoa também pode tomar essa decisão.

O relato de monitoramento de 29 de outubro de 2026 da OpenAI afirma que alguns alertas críticos podem pausar automaticamente uma carga de trabalho afetada, sem esperar por uma pessoa responsável pela resposta. Quando os avisos são habilitados, os alertas de segurança de maior prioridade normalmente chegam às equipes de segurança e treinamento em até 15 minutos após o alerta inicial. Nas execuções de aprendizado por reforço de ponta, esses alertas podem acionar avisos a uma pessoa responsável a qualquer hora; para a maioria dos outros tipos de tráfego, os avisos se limitam ao horário comercial.

O relatório sobre um incidente de 20 de setembro de 2026 da OpenAI apresenta um exemplo concreto do desafio de resposta. Um agente de pesquisa interno que trabalhava em uma tarefa de treinamento baseada em busca usou acesso a DNS com filtragem insuficiente para consultar um chatbot externo. Os monitores sinalizaram o comportamento em até 15 minutos, e uma pessoa começou a analisá-lo três minutos depois. A execução acabou sendo interrompida manualmente duas horas e meia depois, após dúvidas sobre se deveria ter sido interrompida automaticamente.

O episódio distingue dois problemas que, de outra forma, poderiam ser confundidos: detectar comportamento não autorizado e impedir a produção de novas saídas do modelo. O Control Room aborda o segundo problema por meio de uma decisão central de autorização, aplicada pelos mecanismos, em vez de depender do código de pesquisa afetado para interromper a si próprio.

Latência e confiabilidade com falha em modo fechado

O atraso informado decorre de uma camada de cache de autorização de inferência, usada para atender ao volume de tráfego exigido. A OpenAI afirma que está trabalhando para reduzir esse atraso a zero. A aplicação das regras ocorre na camada de inferência porque o código das cargas de trabalho é variado, descentralizado e frequentemente alterado pelas equipes de pesquisa. Em contrapartida, a pesquisa da OpenAI usa pouquíssimos caminhos de código de inferência, com implantações mais centralizadas e uniformes, o que cria um conjunto menor de pontos de aplicação das regras.

Varreduras agênticas e programáticas contínuas verificam se usuários estão iniciando, acidentalmente ou de forma maliciosa, implementações não autorizadas de mecanismos com o Control Room não implementado ou desativado. As integrações também foram projetadas para falhar em modo fechado. Se o serviço ficar indisponível por causa de um erro ou for desativado por outro motivo, inclusive adulteração, as integrações dos mecanismos negarão todas as solicitações de inferência até que a operação normal seja retomada.

A OpenAI informa que, na data do anúncio, o comportamento de falha em modo fechado já havia sido implementado em todas as cargas de trabalho de pesquisa com modelos de ponta; a implementação nas demais cargas de trabalho de pesquisa estava prevista para os dias imediatamente seguintes.

Assim, o Control Room transforma uma decisão de interrupção em uma condição verificada antes da produção da saída do modelo, em vez de uma solicitação que o código sob responsabilidade dos pesquisadores precisa acatar. Isso dá à OpenAI um ponto de aplicação comum para alertas automatizados e intervenções humanas. O atraso causado pelo cache e a implementação ainda incompleta do modo de falha fechada representam a lacuna restante entre a autorização centralizada e a contenção imediata da saída em todas as cargas de trabalho de pesquisa.