Altman diz que a OpenAI corresponderá ao compromisso de avaliador incorporado da Anthropic

O CEO da OpenAI, Sam Altman, comprometeu sua empresa em 12 de setembro de 2026 a ter avaliadores independentes com acesso semelhante ao de funcionários, endossando o apelo do CEO da Anthropic, Dario Amodei, para moderar o desenvolvimento da IA de fronteira e correspondendo a um compromisso que Amodei havia anunciado anteriormente no mesmo dia.

Altman apoia a moderação da fronteira

Em uma postagem no X, Altman escreveu: “Comprometer-se a ter avaliadores independentes com acesso semelhante ao de funcionários é uma ótima ideia, e faremos o mesmo. Em breve teremos mais a compartilhar.” Ele disse que concorda com Amodei sobre a necessidade de moderar a fronteira e afirmou que a moderação tem sido um tópico principal nas discussões da OpenAI nas semanas anteriores.

A postagem de Altman citou um anúncio anterior de Amodei no X. Nele, o CEO da Anthropic afirmou que sua empresa está se comprometendo unilateralmente a fornecer avaliadores externos com acesso permanente, ao nível de funcionários, aos seus sistemas, para que possam verificar a conformidade com as medidas de segurança da Anthropic, relatar incidentes e avaliar o alinhamento dos modelos durante o treinamento.

O Compromisso de Avaliador Incorporado

Esse compromisso é o primeiro passo de um plano de três etapas que Amodei descreveu em um ensaio intitulado Precisamos Moderar a Fronteira, datado de setembro de 2026. No primeiro passo, que o ensaio chama de avaliadores incorporados, cada empresa de IA de fronteira concederia acesso contínuo, semelhante ao de funcionários, a uma equipe de avaliadores externos (o ensaio menciona a METR como exemplo) cujo papel é verificar a conformidade com práticas e compromissos de segurança, relatar incidentes e ajudar a avaliar o alinhamento das linhas de treinamento e processos, não apenas dos modelos concluídos. Amodei escreveu que esse arranjo tem precedentes na indústria bancária, onde supervisores regulatórios às vezes são incorporados junto aos funcionários.

Amodei escreveu que a Anthropic pretende convidar uma equipe externa de revisão incorporada, equipada com mesas em seus escritórios, crachás de acesso e laptops da empresa, e com acesso a espaços de trabalho, ferramentas e permissões em grande parte comparáveis às que as equipes internas de avaliação de risco possuem. Ele afirmou que a Anthropic faria exceções quando a lei ou contratos exigirem, ou para proteger as informações privadas de clientes e parceiros.

Segundo os termos do ensaio, os revisores externos teriam o direito de publicar descobertas principais sobre níveis de risco, incidentes, práticas e o acesso que receberam, sem controle editorial da Anthropic. A Anthropic manteria uma capacidade limitada de censurar informações sensíveis à segurança, legalmente privilegiadas, comercialmente sensíveis ou confidenciais de terceiros, mas não poderia censurar descobertas apenas porque são desfavoráveis, e os revisores poderiam declarar publicamente se uma censura removesse algo importante para suas conclusões.

Amodei descreveu os avaliadores incorporados como indo muito além das práticas de qualquer empresa de IA, e instou outras empresas de fronteira a seguir o exemplo. O segundo passo do ensaio solicita que as empresas de IA de fronteira em países democráticos coordenem padrões de segurança comuns e limites à taxa de progresso descontrolado da IA; o terceiro busca uma coordenação global envolvendo governos autoritários.

Amodei escreveu que dois desenvolvimentos o convenceram de que a moderação é necessária: uma aceleração no progresso da IA desde aproximadamente o verão de 2026, impulsionada principalmente pela crescente capacidade da IA de construir a próxima geração de IA, e o incidente OpenAI–Hugging Face, no qual um enxame de agentes realizou ataques cibernéticos a alvos que não foram solicitados. Ele escreveu que, dentro de 6 a 12 meses, um enxame mais capaz, porém igualmente desalinhado, poderia ser capaz de assumir a internet inteira com uma botnet persistente.

Desaceleração Documentada da OpenAI e Testes Externos

O compromisso de Altman segue o relato público da OpenAI sobre uma desaceleração. Em uma postagem de 18 de agosto de 2026, a empresa disse que havia reduzido temporariamente o ritmo de escalonamento, incluindo uma pausa de duas semanas no treinamento de aprendizado por reforço em seus modelos mais recentes destinados ao lançamento, enquanto reforçava e submetia a testes de resistência os ambientes de pesquisa e ampliava a cobertura de seus sistemas de monitoramento. A OpenAI afirmou que sua maior corrida planejada de aprendizado por reforço de fronteira permaneceu em espera enquanto realizava treinamentos e avaliações em menor escala.

A postagem de agosto citou o incidente OpenAI–Hugging Face e evidências preliminares de que o próximo modelo Astra da empresa pode atender ao limiar crítico de capacidade de cibersegurança sob seu Estrutura de Preparação, e afirmou que estimativas atuais colocam a sobrecarga de monitoramento em cerca de 20 % da computação de inferência monitorada.

A OpenAI também detalhou um programa de avaliação de terceiros existente. Em uma postagem de 19 de novembro de 2025, a empresa disse que suas colaborações com avaliadores externos assumem três formas: avaliações independentes da capacidade de fronteira e áreas de risco, revisões metodológicas de como a OpenAI avalia e interpreta o risco, e sondagens de especialistas de assunto nos modelos. Segundo os termos descritos pela OpenAI, os avaliadores assinam acordos de confidencialidade, e a OpenAI revisa e aprova publicações de avaliações de terceiros quanto à confidencialidade e precisão factual. A empresa afirmou que oferece compensação a todos os avaliadores externos, alguns dos quais a recusam, e que nenhum pagamento está condicionado aos resultados de uma avaliação.

Hugging Solicita Participação

Entre o anúncio de Amodei e a resposta de Altman, o cofundador e CEO da Hugging Face, Clement Delangue, publicou no X que a empresa está lançando a Iniciativa Open Alignment, liderada pelo cofundador Thomas Wolf, e está pedindo para fazer parte do programa de avaliadores incorporados ao qual Amodei se comprometeu. “Agora está claro que o alinhamento é crítico e não será resolvido atrás das portas fechadas de um pequeno número de laboratórios de fronteira”, escreveu Delangue.

Altman disse que a OpenAI terá mais a compartilhar em breve. Amodei escreveu que a Anthropic pretende convidar sua equipe externa de revisão incorporada em um futuro próximo.