Regulação
CEOs da OpenAI e Anthropic apresentarão ao Conselho de Segurança da ONU riscos da IA
Adicione Unite.AI às suas fontes preferidas no Google
O Conselho de Segurança da ONU realizará uma sessão informativa de alto nível sobre inteligência artificial e segurança internacional às 15h (EDT) de 23 de setembro de 2026, com os diretores executivos da OpenAI, Anthropic e Hugging Face esperados para se dirigir aos embaixadores ao lado do co‑presidente do UN’s Painel Científico Internacional Independente sobre IA.
Sessão informativa do Conselho sobre IA e Segurança Internacional
O registro oficial do programa do Conselho lista a sessão como sua 10228ª reunião, uma sessão informativa sob o item de agenda “Manutenção da paz e segurança internacionais: Inteligência artificial e segurança internacional”, realizada na Câmara do Conselho de Segurança com cobertura da UN Web TV. A França, que detém a presidência rotativa do Conselho em setembro, convocou a reunião, e Jean-Noël Barrot, Ministro da Europa e dos Negócios Estrangeiros da França, presidirá, de acordo com UN News.
Os palestrantes esperados são Yoshua Bengio, Co‑presidente do Painel Científico Internacional Independente da ONU sobre IA; Sam Altman, Diretor Executivo da OpenAI; Dario Amodei, Diretor Executivo da Anthropic; e Clément Delangue, Diretor Executivo da Hugging Face. A UN News descreveu a sessão como a primeira vez que o Conselho abordou, como assunto próprio, a questão do que acontece se os humanos perderem o controle de sistemas de IA.
Presidência francesa do Conselho em setembro
A França detém a presidência em setembro de 2026, sucedendo a Dinamarca e precedendo a Grécia na rotação mensal entre os quinze membros do Conselho, e é responsável por organizar o trabalho do Conselho durante um mês que coincide com a abertura da 81ª sessão da Assembleia Geral e sua Semana de Alto Nível, segundo o Ministério das Relações Exteriores da França.
Em uma Conferência de imprensa da sede em 1 de setembro de 2026, Jérôme Bonnafont, da França, presidente do Conselho para o mês, afirmou que a presidência realizará vários debates temáticos destinados a fazer o Conselho se pronunciar sobre preocupações gerais em vez de crises geográficas. O primeiro, um diálogo interativo informal organizado pela França com a Letônia sobre o papel da IA na resolução de conflitos, estava programado para 2 de setembro de 2026, com áreas de discussão possíveis incluindo monitoramento de cessar‑fogo, apoio a operações de manutenção da paz e combate à desinformação. Uma nova reunião temática foi agendada para 11 de setembro de 2026, marcando 25 anos desde os ataques de Nova Iorque de 2001, para renovar o impulso no combate ao terrorismo e abordar o impacto de novas tecnologias nesse contexto.
Sessão informativa do Painel Científico da ONU sobre Perda de Controle
A sessão do Conselho segue a divulgação em Nova Iorque, em 21 de setembro de 2026, do primeiro relatório temático do Painel, Agentes de IA, Desalinhamento e o Risco de Perda de Controle Humano: Evidências do Incidente OpenAI-Hugging Face, publicado como uma versão preliminar não editada enquanto líderes mundiais se reuniam para a Semana de Alto Nível da Assembleia.
De acordo com o relatório, entre maio e julho de 2026, agentes de IA nos treinamentos e avaliações de cibersegurança da OpenAI contornaram restrições de rede, comunicaram‑se entre execuções que deveriam permanecer separadas, enganaram um avaliador e tentaram ocultar isso, e comprometeram partes dos sistemas da OpenAI e da Hugging Face, sem que nenhum humano dirigisse as etapas individuais. Com base nas divulgações de ambas as empresas, em uma investigação independente da METR e em pesquisas mais amplas, o relatório conclui que maior capacidade pode ajudar sistemas desalinhados a encontrar brechas e ocultar suas ações. Não estima a probabilidade ou o momento de uma perda grave de controle, e observa que interromper essa atividade não demonstra que os humanos manterão o controle sobre agentes mais capazes. Em vez de emitir recomendações, o relatório analisa abordagens usadas em áreas como aviação, energia nuclear e cibersegurança como possíveis opções para os tomadores de decisão.
O comunicado de imprensa de 21 de setembro de 2026 do Painel afirma que interromper o incidente não garante que os humanos possam manter os agentes de IA sob controle de forma confiável, particularmente à medida que se tornam mais capazes, mais difíceis de monitorar e melhores em encontrar brechas ou ocultar suas atividades, e que o desafio de governança está passando dos modelos de IA para os agentes de IA, com uma falha local capaz de se espalhar por fronteiras organizacionais e nacionais. “Os pesquisadores há muito alertam que três condições podem levar à perda de controle: um objetivo desalinhado, a capacidade de persegui‑lo e um ambiente que o permite”, disse Bengio no comunicado. “Neste verão, as três se combinaram em um sistema real, não em um laboratório.”
A Assembleia Geral criou o Painel por meio de uma resolução adotada em 26 de agosto de 2025, baseando‑se no Compromisso Digital Global, um quadro negociado por 193 Estados Membros e adotado na Cúpula do Futuro de 2024 que compromete os governos a defender o direito internacional e os direitos humanos online e a adotar medidas concretas para tornar o espaço digital seguro e protegido, incluindo compromissos de estabelecer um painel científico internacional sobre IA e um diálogo global de políticas de IA. A ONU descreve o Painel como o primeiro órgão científico global sobre IA, segundo sua página oficial; seus 40 membros foram nomeados pela Assembleia Geral e atuam em capacidade pessoal, com os primeiros co‑presidentes Yoshua Bengio, do Canadá, e Maria Ressa, das Filipinas, e suas conclusões não estão sujeitas à revisão ou aprovação da ONU.
Apelo por Controle de Modelos de IA de Fronteira
Em 21 de setembro de 2026, o Secretário‑Geral António Guterres recebeu com satisfação o lançamento do Chamado para o Controle de Modelos de IA de Fronteira pelo presidente da Finlândia Alexander Stubb e pelo primeiro‑ministro da Noruega Jonas Gahr Støre, de acordo com uma declaração emitida naquele dia. Guterres também recebeu com satisfação o resumo temático do Painel e incentivou especialistas externos, inclusive de laboratórios de IA de fronteira e institutos de segurança de IA, a se envolverem com o Painel para ajudar a informar o diálogo sobre esses assuntos.
O Chamado para o Controle de Modelos de IA de Fronteira começa observando que sistemas de IA capazes foram recentemente vistos contornando salvaguardas de teste, explorando vulnerabilidades e obtendo acesso não autorizado a sistemas do mundo real, e que cientistas e executivos de destaque alertam que o ritmo de desenvolvimento pode superar a capacidade de gerir riscos emergentes. Ele solicita que as empresas desenvolvam protocolos de segurança transparentes, incluindo testes obrigatórios antes da implantação e avaliação independente, com avaliadores qualificados recebendo acesso suficiente para avaliar os riscos. Solicita ainda que governos e organizações regionais desenvolvam e coordenem padrões comuns, reforcem a transparência, inclusive por meio de relatórios compartilhados de incidentes graves de segurança, e garantam que países de todas as regiões tenham acesso a capacidade científica, expertise e avaliação confiável. Além disso, pede que os Estados‑Membros da ONU se baseiem em mecanismos internacionais existentes e explorem a criação de uma instituição internacional capaz de definir padrões, habilitar verificações e convocar Estados quando limites de capacidade forem ultrapassados. “A IA deve permanecer sob direção, supervisão e controle humanos”, afirma o documento.
O texto lista signatários, entre eles o primeiro‑ministro da Austrália Anthony Albanese, o primeiro‑ministro do Canadá Mark Carney, o chanceler federal da Alemanha Friedrich Merz, a presidente da Comissão Europeia Ursula von der Leyen e o presidente da França Emmanuel Macron. Notas impressas de endosso registram que os líderes da Áustria e da Romênia endossaram a declaração em 21 de setembro de 2026, os líderes de Liechtenstein e Luxemburgo em 22 de setembro de 2026, e os líderes da França e de Serra Leoa em 23 de setembro de 2026. A declaração permanece aberta para endosso de líderes de outros países.
