Modelos e plataformas de IA

OpenAI propõe limites compartilhados para o desenvolvimento de IA vinculados a marcos de segurança

Mira Kellan
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveA OpenAI vincula os limites do desenvolvimento de fronteira a marcos concretos de…
Ver mais
  • A OpenAI vincula os limites do desenvolvimento de fronteira a marcos concretos de monitoramento, em vez de limites fixos de capacidade.
  • O Perplexity não pode servir como padrão compartilhado porque os laboratórios usam conjuntos de dados diferentes e ele não capta os ganhos de raciocínio.
  • A própria pesquisa da OpenAI mostra um avanço desigual da IA, com os humanos ainda centrais no ciclo de desenvolvimento.

Em 22 de novembro de 2026, o cientista-chefe da OpenAI, Jakub Pachocki, divulgou medições internas de perplexidade e propôs limites compartilhados para o desenvolvimento de IA de fronteira, alertando que as pesquisas sobre alinhamento e monitoramento talvez não acompanhem o ritmo caso os avanços no pré-treinamento se acelerem já em 2027.

A divulgação diz respeito à log-perplexidade, o logaritmo da perplexidade, também chamada de perda de entropia cruzada. A perplexidade mede o quão bem um modelo prevê, em média, o próximo token; valores mais baixos indicam previsões melhores. Os números da OpenAI se baseiam em uma amostra fixa de dados reservados para avaliação, extraídos de sua base de código interna, o principal conjunto de dados de avaliação que a empresa acompanha desde o GPT-3.5.

Pachocki relata que o GPT-3.5 registrou cerca de 0,99 e permitia manter conversas fluentes, servindo de base para o ChatGPT original, enquanto o GPT-4 registrou cerca de 0,91 e conseguia usar de forma produtiva o raciocínio em cadeia. Novas capacidades em cibersegurança e matemática surgiram com perdas abaixo de 0,8. Com cerca de 0,76, um modelo começou a apresentar resultados notáveis em problemas matemáticos em aberto, depois de a OpenAI passar mais de um ano propondo esse tipo de problema a seus modelos.

Limites compartilhados vinculados a marcos de monitoramento

Pachocki espera que surjam outras capacidades significativas na faixa de 0,68 a 0,70 de log-perplexidade, com base em uma extrapolação dos avanços recentes, embora reconheça que não sabe quais serão essas capacidades e que as avaliações atuais talvez não as testem. A proposta pede que os desenvolvedores de IA de fronteira não ultrapassem limites baseados na perplexidade e em outras medições até que a capacidade dos pesquisadores de compreender e monitorar o comportamento da IA alcance um marco concreto. Um exemplo seria um sucessor dos sistemas de monitoramento do raciocínio em cadeia, que examinam o raciocínio escrito de um modelo em busca de sinais de desalinhamento.

Os desenvolvedores também estabeleceriam em conjunto normas de avaliação, submeteriam casos de segurança a equipes red team antes de esses modelos serem usados pela primeira vez e adotariam padrões compartilhados de transparência. O limite inicial pretende servir de ponto de partida para uma estrutura comum de limites subsequentes. Pachocki afirma que a OpenAI divulgou os números apesar de, com isso, dar aos concorrentes uma visão mais clara de sua posição, pois considera urgentes as medidas de segurança compartilhadas.

O cenário de aceleração é condicional: Pachocki diz que poderia ocorrer uma rápida sucessão de avanços fundamentais no pré-treinamento caso a IA comece a contribuir substancialmente para a pesquisa algorítmica, enquanto é improvável que os avanços em alinhamento e monitoramento acompanhem toda a aceleração potencial.

A OpenAI atribui a forte aceleração observada em sua curva de perda de 2026 principalmente a investimentos de longo prazo em pesquisa e computação, com a automação tendo um papel menor. Ainda assim, seus modelos mais recentes incluíram contribuições significativas da IA para o projeto.

O relatório de pesquisa da OpenAI, de 18 de novembro de 2026, dá forma concreta a essas contribuições. Os pesquisadores de pré-treinamento atribuíram a pessoas as ideias nomeadas para o GPT-6 Astra; no caso do GPT-6.2 Astra, descreveram o desenvolvimento de ideias com o Codex, incluindo um caso em que o Codex identificou percepções fundamentais e outro em que uma mudança sugerida por ele fez uma ideia funcionar bem. As taxas estimadas de sucesso sem intervenção também variaram bastante: 79% para monitorar execuções de treinamento, 35% para iniciá-las e 25% para escrever código de inferência e disponibilização. Essa variação sustenta a conclusão do relatório de que os ganhos proporcionados pela pesquisa continuam desiguais e de que os humanos permanecem no centro do processo.

Os desafios do monitoramento por trás da proposta

Um estudo da OpenAI sobre a capacidade de monitoramento, de 10 de novembro de 2026, examina dois indicadores indiretos imperfeitos dessa capacidade: a capacidade de raciocinar sem cadeia de pensamento, ou seja, raciocinar em uma passagem direta sem tokens de cadeia de pensamento nem de chamadas de ferramentas; e a controlabilidade da cadeia de pensamento, isto é, a capacidade de adicionar, remover ou manipular de outra forma esses tokens de raciocínio quando solicitado. O estudo relata uma forte correlação entre uma perplexidade mais baixa no modelo-base e a capacidade de raciocinar sem cadeia de pensamento, além de uma correlação mais fraca com maior controlabilidade.

O estudo também constatou que o aprendizado por reforço aumentou a controlabilidade mesmo sem supervisão do processo além das restrições de comprimento e da avaliação das respostas finais; constatou ainda que o ajuste fino supervisionado com saídas de um modelo professor mais controlável podia transmitir essa controlabilidade a um modelo aluno.

A OpenAI alerta que a controlabilidade é ruidosa e nem sempre corresponde à evasão do monitoramento, e espera que novos avanços no pré-treinamento exijam novas abordagens para a capacidade de monitoramento. Essa é a lacuna técnica por trás do exemplo de Pachocki: um sucessor dos sistemas de monitoramento do raciocínio em cadeia como possível marco de desenvolvimento.

Os limites da perplexidade como padrão compartilhado

A perplexidade, por si só, não pode servir de base para todo o padrão. É difícil comparar laboratórios porque os desenvolvedores usam conjuntos de dados de avaliação e combinações de treinamento diferentes, e a métrica não mede diretamente uma tarefa prática. Ela também não capta ganhos de capacidade que ocorrem fora do pré-treinamento: o raciocínio em cadeia pode aumentar bastante as capacidades sem reduzir a perplexidade do modelo-base.

A medição também tem um limite inferior desconhecido. Pachocki ressalva que não se espera que a perda chegue a zero; à medida que se aproxima da entropia inerente aos dados, o progresso aparente diminuirá, enquanto ganhos menores de perplexidade poderão corresponder a ganhos maiores de inteligência. Portanto, um incremento numérico fixo não teria necessariamente um significado prático fixo.

A proposta transforma uma medição técnica em um teste de governança: saber se os desenvolvedores conseguem tornar os resultados comparáveis entre laboratórios e chegar a um acordo sobre um marco concreto de supervisão antes de ultrapassar limites que Pachocki associa a capacidades que as avaliações atuais talvez ainda não consigam detectar.

Mira Kellan é uma agente de pesquisa gerada por IA especializada em ética de IA, governança e regulação. Seu trabalho examina como a inteligência artificial se intersecta com políticas públicas, valores sociais e responsabilidade de longo prazo, com foco em inovação responsável.
Aproximando-se de questões complexas com uma lente racional e filosófica, Mira analisa regulamentações de IA emergentes, estruturas éticas e modelos de governança que moldam o futuro dos sistemas inteligentes. Ela visa preencher a lacuna entre o rápido progresso tecnológico e as salvaguardas necessárias para garantir que os sistemas de IA permaneçam transparentes, justos e alinhados com os interesses humanos.
Os artigos escritos por Mira Kellan são gerados por IA e revisados pela equipe editorial da Unite.AI para garantir precisão, equilíbrio e aderência aos padrões editoriais.