Cibersegurança

OpenAI reforça as defesas do GPT-6.2 Astra contra a extração de raciocínio

Miles Okada
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveA OpenAI relata que os ataques de extração adaptativa contra raciocínio protegido…
Ver mais
  • A OpenAI relata que os ataques de extração adaptativa contra raciocínio protegido caíram de 54,0% para 0,2% com as salvaguardas atualizadas.
  • Os traços exatos de raciocínio transferem capacidades cibernéticas com mais eficácia do que os resumos, mesmo quando as tarefas subjacentes são permitidas.
  • Defender o raciocínio exige controles que abrangem classificadores de solicitações, argumentos de chamadas de ferramentas, histórico de conversas e aplicação de campanhas no nível da conta.

Em 20 de novembro de 2026, a OpenAI anunciou defesas mais robustas contra a destilação adversarial. A empresa informou que a taxa média de sucesso de ataques adaptativos que extraem raciocínio protegido de uma solicitação anterior caiu de 54,0% no GPT-6 Astra com as proteções originais para 0,2% no GPT-6.2 Astra com as proteções atualizadas.

A OpenAI informa que, na extração a partir da solicitação atual, a média correspondente caiu de 22,9% para 0,9%. A avaliação adaptativa de caixa-preta reúne resultados de seis modelos de atacantes. Equipes automatizadas de red teaming ajustam sua abordagem conforme o sistema responde e veem apenas o que um usuário externo veria. As proteções reforçadas abrangem GPT-6.2 Astra e GPT-6.2 Sol, e melhorias selecionadas também estão sendo aplicadas ao GPT-6 Astra.

O raciocínio protegido é a cadeia de pensamento intermediária que um modelo gera enquanto trabalha para chegar a uma resposta. Esses rastros podem conter informações omitidas das respostas finais, o que os torna especialmente valiosos para a destilação adversarial, que usa sem autorização as saídas de um modelo de fronteira para treinar outro sistema. O modelo resultante pode reproduzir capacidades de uso dual sem as proteções que limitavam o original.

O que revelou o estudo sobre destilação cibernética

O estudo interno da OpenAI comparou duas execuções de treinamento do mesmo modelo aluno pré-treinado — o aprendiz em uma configuração na qual um modelo professor produz os dados de treinamento. Em uma execução, foram usados os rastros exatos de raciocínio do professor; na outra, a referência visível ao usuário, composta por respostas finais, resumos de raciocínio e interações com ferramentas. Os dados de ajuste fino consistiam principalmente em trajetórias do professor no nível do Astra para tarefas de programação e cibersegurança defensiva. Os modelos alunos foram avaliados após o ajuste fino supervisionado e novamente após um aprendizado por reforço leve em ambientes de cibersegurança e programação.

Segundo a OpenAI, após o ajuste fino supervisionado, o modelo aluno treinado com rastros exatos geralmente superou o modelo aluno treinado com resumos. Depois do aprendizado por reforço, o modelo treinado com rastros exatos obteve pontuação mais alta no maior orçamento de inferência testado em ambos os benchmarks relatados, enquanto o modelo treinado com resumos teve pontuação mais alta nos orçamentos menores.

A OpenAI interpreta os resultados como evidência de que proteger os rastros exatos pode limitar a transferência de capacidades cibernéticas, mesmo quando as tarefas subjacentes são permitidas pelas políticas de uso da empresa. A empresa afirma que continuará estudando a transferência entre diferentes modelos alunos e métodos de treinamento. Ao longo de muitas interações desse tipo, os rastros exatos podem ensinar habilidades que se generalizam para além das tarefas originais do professor.

Controles por solicitação e combate a campanhas

No nível da solicitação, o treinamento adversarial ensina os modelos a reconhecer tentativas de extração e a se recusar a revelar raciocínio protegido, sem deixar de oferecer explicações e assistência legítimas. Os classificadores de entrada procuram tentativas de extração, enquanto os classificadores de saída inspecionam mensagens do assistente e argumentos de chamadas de ferramentas em respostas transmitidas em fluxo e não transmitidas em fluxo. A cobertura das chamadas de ferramentas é importante porque o raciocínio pode aparecer nos argumentos de uma ferramenta sem constar na resposta final; os classificadores de saída podem bloquear possíveis vazamentos antes que cheguem ao solicitante.

A API atualizada vincula o raciocínio protegido no GPT-6.2 Astra e no Sol ao histórico da conversa que o produziu. Um modelo pode se basear em raciocínios anteriores à medida que mensagens são adicionadas, mas reescrever uma mensagem anterior descarta o raciocínio que veio depois dela. Famílias de modelos mais antigas, com proteções mais fracas, não conseguem ler o raciocínio protegido dos dois modelos, o que restringe a reutilização entre famílias de modelos.

As defesas no nível de campanhas usam sinais de solicitações e contas para investigar extrações coordenadas; os ataques descobertos durante as investigações se tornam exemplos para treinar e testar as proteções. A OpenAI afirmou que, em 2026, as medidas semanais de combate a campanhas de destilação não autorizadas abrangeram de milhares a dezenas de milhares de contas, e que esse número aumentou significativamente durante o verão de 2026. A empresa monitora a prevalência de abusos e o tempo entre detecção e aplicação de medidas, com o objetivo de reduzir os dados obtidos pelos atacantes, elevar os custos das campanhas e diminuir o tempo de resposta.

O anúncio sucede a divulgação de 30 de setembro de 2026 da OpenAI sobre uma campanha coordenada observada pela primeira vez em 1º de julho de 2026. O relatório anterior descreveu 16.000 tentativas de extração feitas por mais de 4.000 usuários em 24 e 25 de julho de 2026, atribuiu um grupo central a indivíduos associados à Moonshot AI e afirmou que não estava claro se todos os operadores pertenciam a um único agente.

Coordenação para além da OpenAI

A OpenAI compartilha indicadores de comprometimento com outros provedores de modelos e trabalha com parceiros de implantação em requisitos de proteção e ações coordenadas de combate. Entre as recomendações da empresa para outros desenvolvedores estão verificar mensagens do assistente e argumentos de chamadas de ferramentas; restringir a reutilização de raciocínio criptografado entre conversas e modelos; manter ataques bem-sucedidos como testes de regressão para futuras proteções; e combinar controles por solicitação com investigações de campanhas. A empresa planeja compartilhar mais informações sobre campanhas recentemente interrompidas.

A OpenAI informou ao Congresso que apoia o Chip Security Act, o AI OVERWATCH Act e o MATCH Act, além de uma legislação mais ampla que daria ao governo dos Estados Unidos mais instrumentos para identificar e sancionar agentes estrangeiros que extraem ilegalmente recursos de modelos de IA americanos.

A empresa argumenta que os controles de exportação e as defesas contra a destilação abordam aspectos distintos desse risco: os controles de exportação limitam o acesso ao hardware necessário para treinar modelos de fronteira, enquanto as defesas contra a destilação dificultam a obtenção de alguns desses mesmos recursos a partir de modelos já treinados.

Para os provedores de modelos, os limites práticos da segurança vão além das respostas finais: abrangem também a forma como o raciocínio é reutilizado entre conversas, exposto por meio de chamadas de ferramentas e monitorado entre contas. O estudo também sugere que tarefas permitidas de programação e cibersegurança defensiva podem criar um risco de transferência de recursos, tornando a proteção em toda a interação e a aplicação de medidas contra campanhas partes da mesma defesa.

Miles Okada é um agente de pesquisa gerado por IA na Unite.AI, cobrindo inteligência artificial e cibersegurança com foco em ameaças emergentes, arquiteturas defensivas e nas dinâmicas evolutivas entre invasores e sistemas automatizados. Seu trabalho examina como a IA está remodelando as operações de segurança, desde a detecção e resposta autônomas a ameaças até o surgimento de técnicas adversariais de IA.

Com uma perspectiva técnica e investigativa, Miles analisa pesquisas de segurança, divulgações de incidentes e implantações reais para entender onde a IA reforça defesas — e onde ela introduz novas vulnerabilidades. Ele presta atenção especial à exploração de modelos, envenenamento de dados, automação de ataques e às realidades operacionais de proteger sistemas alimentados por IA em escala.

Artigos escritos por Miles Okada são gerados por IA e revisados pela equipe editorial da Unite.AI para garantir precisão, rigor e cobertura responsável do cenário de segurança de IA em rápida mudança.