Anthropic integra seis avaliadores da METR com acesso semelhante ao de funcionários

A Anthropic anunciou em 15 de outubro de 2026 que começou a conceder acesso semelhante ao de funcionários a uma equipe da METR integrada à empresa. A METR é uma organização sem fins lucrativos que avalia modelos de IA de ponta. Seis funcionários da METR foram integrados à empresa e receberam equipamentos corporativos, espaço de escritório e acesso a ferramentas e sistemas internos.

O anúncio vem após o compromisso assumido pela Anthropic em setembro de 2026 de fortalecer a avaliação independente de terceiros de seus modelos e práticas de segurança, bem como após a assinatura do Acordo da Casa Branca sobre Superinteligência, no qual empresas se comprometeram a trabalhar com auditores ou avaliadores externos independentes. A Anthropic afirmou que, no último ano, trabalhou com a METR em várias análises de seus Relatórios de Riscos.

Os termos do acesso semelhante ao de funcionários

A Anthropic afirmou que o acesso da equipe integrada às ferramentas e aos sistemas internos é, em linhas gerais, comparável ao concedido às suas próprias equipes de avaliação de riscos. Com exceção de algumas categorias claramente definidas — dados de clientes, informações protegidas pelo sigilo entre advogado e cliente e informações sobre arquiteturas de modelos —, os funcionários da Anthropic são incentivados a compartilhar informações com a equipe como fariam com um colega que trabalhasse com riscos de alinhamento.

Uma nota de rodapé do anúncio explica a exceção relativa às arquiteturas. Como os avaliadores, assim como os fiscais bancários, também podem trabalhar com outras empresas, a Anthropic afirmou que toma precauções para evitar possíveis vazamentos involuntários: informações sobre arquiteturas apresentam alto risco desse tipo de vazamento, e sua relevância para a avaliação de riscos costuma ser baixa. Quando as informações sobre arquiteturas são altamente relevantes, a Anthropic geralmente procura compartilhá-las, embora isso exija aprovações internas explícitas.

De acordo com os termos de publicação do acordo, a METR publicará sua análise dos níveis de risco, dos incidentes ou das práticas da Anthropic. A Anthropic não pode vetar a publicação, mas pode exigir que a METR remova informações que se enquadrem em categorias restritas e predefinidas. A METR pode caracterizar publicamente as remoções e dizer se acredita que foram justificadas, desde que não revele as informações removidas.

A colaboração se limita a uma pequena equipe que trabalha sob acordos juridicamente vinculantes, e os demais funcionários da METR — incluindo pesquisadores que trabalham com a Anthropic em outros projetos — ficam isolados do trabalho da equipe integrada. A Anthropic descreveu a avaliação integrada como uma forma de dar a algumas pessoas qualificadas, que trabalham segundo seus padrões de segurança, uma visão próxima de suas operações. A empresa afirmou que isso não permite que outras organizações obtenham suas informações, nem as de seus clientes e parceiros.

Por que a Anthropic defende a avaliação independente

Segundo a empresa, à medida que os modelos se tornaram mais poderosos, passaram a exigir salvaguardas mais robustas e avaliações de risco mais desafiadoras. A Anthropic afirmou que quer prestar contas publicamente pelas decisões que toma, mas não pode divulgar ao público todas as informações relevantes para seu trabalho de segurança, pois algumas poderiam ser úteis a agentes mal-intencionados ou são comercialmente sensíveis, como informações sobre capacidade computacional ou treinamento. Em vez disso, está dando a avaliadores terceirizados amplo acesso às suas informações e pedindo que compartilhem evidências e conclusões fundamentadas sobre os riscos envolvidos no desenvolvimento de seus modelos, com o objetivo de reduzir a diferença entre o que os avaliadores entendem sobre os sistemas de uma empresa de IA de ponta e o que a própria empresa entende.

O anúncio lista quatro requisitos para que avaliadores possam avaliar modelos de IA de ponta: experiência na avaliação das capacidades desses modelos, incluindo a compreensão das formas como as avaliações podem falhar, como no caso da simulação de alinhamento; independência, ou seja, não ter participação acionária na empresa avaliada nem depender dela financeira ou operacionalmente; acesso suficiente para avaliar os riscos de forma significativa, que vá além dos modelos mais recentes e permita conhecer como foram treinados e como funcionam as salvaguardas; e liberdade para publicar observações e avaliações sobre um modelo ou processo.

A Anthropic fez uma analogia com a supervisão bancária, reconhecendo que ela não é exata: os bancos conhecem melhor suas próprias posições de risco do que pessoas de fora, por isso os órgãos reguladores designam fiscais residentes para trabalhar dentro dos maiores bancos; e, se a tomada de riscos de um banco puder ameaçar o público, terceiros tentam identificar esse risco com antecedência.

Três níveis de acesso

A Anthropic afirmou que está desenvolvendo três níveis de acesso para avaliadores. No primeiro, eles conduzem investigações de risco com escopo restrito; a Anthropic decide que acesso conceder, e os avaliadores podem publicar suas conclusões com a aprovação da empresa. No segundo, os avaliadores podem publicar sem a aprovação da Anthropic e têm acesso a mais informações, embora a empresa ainda possa exigir a remoção de categorias específicas de informações; os avaliadores, por sua vez, podem publicar suas opiniões sobre se as remoções foram justificadas. O terceiro nível corresponde ao acordo com a METR: acesso semelhante ao de funcionários, com direitos de publicação semelhantes aos do segundo nível.

Com o tempo, afirmou a Anthropic, a empresa espera contar com vários avaliadores no terceiro nível, cada equipe publicando sua própria análise do perfil de risco da empresa e de suas principais decisões.

SecureBio, Accenture e conversas em estágio inicial

A SecureBio está atualmente no primeiro nível. A organização está analisando o capítulo sobre armas químicas e biológicas do Relatório de Riscos de agosto de 2026 da Anthropic, após concluir e publicar uma análise-piloto do relatório de riscos anterior. A Anthropic afirmou que, após a conclusão dessa análise, considerará transferir a SecureBio para projetos com maior acesso e direitos de publicação.

A Anthropic afirmou que está trabalhando com a Accenture e a Faculty para estabelecer uma parceria que inclua a avaliação e a realização de testes adversariais em modelos, avaliações de alinhamento, testes das salvaguardas dos modelos e o desenvolvimento de capacidades nas organizações.

A Anthropic também afirmou estar em conversas iniciais com várias outras organizações, incluindo a Hugging Face. Como essas parcerias ainda estão em fase inicial, a Anthropic fornece a esses avaliadores informações mais limitadas, e eles têm direitos de publicação mais restritos, enquanto a empresa confirma que os parceiros protegem as informações confidenciais e dispõem dos recursos e da experiência necessários. À medida que as parcerias avançarem e a confiança aumentar, afirmou a Anthropic, o objetivo é integrar plenamente mais avaliadores independentes.

O compromisso de setembro

Em setembro de 2026, o cofundador da Anthropic, Dario Amodei, publicou um ensaio, “Precisamos moderar o ritmo da fronteira”, que apresentou a integração de avaliadores com acesso semelhante ao dos funcionários como a primeira etapa de um plano de três etapas para moderar o desenvolvimento de IA de fronteira. Amodei escreveu que a Anthropic está se comprometendo unilateralmente com essa etapa e pediu aos governos que exijam que outras empresas de IA de fronteira façam o mesmo. Ele escreveu que “precisamos desacelerar o ritmo em que aprimoramos as capacidades dos modelos de IA”, para que a prevenção de riscos tenha tempo de acompanhar os avanços dessas capacidades.

O ensaio afirmou que a Anthropic pretende convidar uma equipe externa de revisão integrada à empresa, com mesas em seus escritórios, crachás de acesso e laptops corporativos; acesso a espaços de trabalho, ferramentas e permissões em geral comparáveis aos concedidos às equipes internas de avaliação de riscos, com algumas exceções quando exigidas por lei ou contrato, ou para proteger as informações privadas de clientes e parceiros; e um contrato que conceda aos revisores externos o direito de publicar as principais conclusões sobre níveis de risco, incidentes, práticas e o acesso que receberam ou não receberam, sem que a Anthropic tenha controle editorial sobre a publicação. Nos termos pretendidos, a Anthropic manteria uma capacidade limitada de ocultar informações confidenciais relacionadas à segurança, protegidas por sigilo jurídico, comercialmente sensíveis ou confidenciais de terceiros, mas não poderia ocultar conclusões apenas por serem desfavoráveis; os revisores poderiam declarar publicamente se uma omissão tivesse removido algo importante para suas conclusões.

A Anthropic afirmou que está integrando avaliadores voluntariamente e acredita que todas as empresas de IA de fronteira deveriam fazer o mesmo. A empresa declarou que está avançando rapidamente com vários avaliadores, aprendendo ativamente quais tipos de trabalho em parceria funcionam e que está comprometida a compartilhar atualizações ao longo do processo.