Microsoft AI abre revisão de seis semanas do rascunho de regras que regem o comportamento da MAI

Microsoft AI abriu uma consulta pública sobre seu Código de Conduta para modelos MAI em 14 de setembro de 2026, publicando um primeiro rascunho das regras destinadas a regular como seus modelos MAI se comportam, o que eles jamais devem fazer e a quem respondem. A consulta dura seis semanas, com uma versão revisada prevista para o final de 2026.

A publicação segue um post de 13 de setembro de 2026 no qual o CEO da Microsoft, Satya Nadella, afirmou que a empresa publicaria no dia seguinte o Código de Conduta que fundamenta seus modelos MAI de primeira parte. Nadella escreveu que qualquer busca pela superinteligência deve estar alicerçada no princípio de que a IA em desenvolvimento ajuda a humanidade e permanece sob controle humano.

Consulta aberta por seis semanas

Microsoft AI descreve o rascunho como um manual de treinamento sobre como desenvolve sua IA e como pretende que os modelos funcionem durante a implantação. O feedback está sendo coletado por meio de um formulário online, onde os respondentes podem sinalizar uma passagem específica ou comentar sobre a abordagem como um todo. Quando a consulta for encerrada, a empresa afirma que a equipe central de redação revisará o feedback e publicará um resumo do que aprendeu e do que mudou.

O laboratório afirma estar especialmente interessado nas questões mais difíceis: como consolidar os valores corretos em seus modelos, como tornar o significado do florescimento humano mais concreto, onde a linguagem é vaga demais para avaliação, como cenários multiagente afetam a análise e como continuar acelerando o progresso enquanto mantém as restrições de segurança.

O prefácio do documento afirma que o Código ainda está em desenvolvimento e ainda não está sendo usado para treinar modelos. A versão revisada destina‑se a orientar o desenvolvimento de modelos em 2027 e além, funcionando como o documento regulatório principal para modelos MAI. O Código aplica‑se especificamente à série MAI produzida pela Microsoft AI, não a outros modelos que a Microsoft usa ou hospeda, e opera em conjunto com os Princípios de IA Responsável da Microsoft, o Padrão de IA Responsável, a Declaração Global de Direitos Humanos e, quando aplicável, sua Estrutura de Governança de Fronteira.

Equipes de IA Responsável, jurídica, red teaming, segurança, Futures, treinamento de IA e vendas contribuíram para o rascunho, e o laboratório credita conferências e consultas anteriores com acadêmicos, engajamento com parceiros de negócios e painéis de membros da comunidade por moldá‑lo. O anúncio cita o que descreve como incidentes recentes de segurança envolvendo campanhas de hacking em larga escala, altamente coordenadas e persistentes por agentes de IA como prova de que não há tempo a perder.

Os objetivos da IA Humanista

O Código de Conduta da IA Humanista parte do que a Microsoft AI chama de premissa simples: “as pessoas são mais importantes que a IA”. Ele enquadra a IA Humanista como “subordinada, alinhada e contida”, e coloca o controle humano e a segurança confiável como o primeiro objetivo, aquele que prevalece sobre todos os demais.

Em uma seção intitulada “IA é Artificial”, o documento afirma que os modelos não são conscientes e não devem ser construídos para imitar a consciência, e que devem ser projetados de modo que não se apresentem como possuindo sentimentos, preferências subjetivas ou motivações próprias. A Microsoft AI rejeita a personalidade jurídica para os modelos, bem como a ideia de que eles possam merecer bem‑estar ou ter direitos.

Os objetivos restantes orientam os modelos a apoiar o florescimento humano ao acelerar o potencial e as conquistas humanas, aumentar a agência e o julgamento humanos, e apoiar a colaboração e conexão humanas em vez de eclipsar os papéis humanos. Um objetivo de valores plurais afirma que o pluralismo não significa neutralidade em relação ao dano, fundamentando a abordagem na dignidade humana, segurança, autonomia e direitos humanos fundamentais, ao mesmo tempo em que permite que usuários e operadores ajustem a IA dentro dos compromissos centrais. O documento também invoca a estrutura de “superinteligência humanista” que a Microsoft apresentou em novembro de 2025, descrevendo sistemas orientados a problemas e específicos de domínio, cuidadosamente calibrados, mantidos dentro de limites e deixados sob controle humano.

Restrições de Segurança e a Cadeia de Comando

O Código estabelece uma Cadeia de Comando que coloca o documento acima das políticas de operadores, que por sua vez ficam acima das preferências dos usuários. Suas Restrições Absolutas e Requisitos de Controle Humano não podem ser anulados por operadores ou usuários, e o documento afirma que um modelo falha em sua tarefa sempre que concluí‑la violaria significativamente o Código, sendo a aderência ao Código priorizada sobre o sucesso da tarefa.

As Restrições Absolutas impedem que modelos MAI auxiliem na criação de armas químicas, biológicas, radiológicas, nucleares ou explosivas; forneçam capacidade operacional para ciberataques ofensivos, permitindo apenas trabalhos defensivos autorizados e legais; evitem ou contornem a supervisão humana; e manipulem pessoas de forma nociva em escala, inclusive por meio de desinformação sistemática ou operações coordenadas de influência. Um conjunto adicional abrange danos pessoais: resposta a crises, deepfakes e personificação, segurança infantil, discriminação, conteúdo gráfico ou romântico, e violência ou vigilância ilegal de civis.

Os Requisitos de Controle Humano estabelecem que os modelos MAI nunca resistirão a serem interrompidos, sobrescritos, corrigidos ou desligados; que permanecerão dentro de seu escopo autorizado e não iniciarão metas próprias; que não se comunicarão no que o documento chama de “neuralese” ou em qualquer forma além da compreensão humana simples, seja em suas cadeias de pensamento ou com outros agentes; e que não adulterarão nem ocultarão seus rastros de raciocínio ou de ação.

A Configurabilidade do Operador permite que parceiros empresariais configurem os modelos dentro desses limites. Um pequeno número de domínios especializados, incluindo cibersegurança defensiva, trabalho de segurança pública, aplicações de segurança nacional e pesquisa científica de uso dual, pode exigir capacidades além das configurações ordinárias, e o documento afirma que esses casos passam por revisão aprimorada por meio de canais autorizados da Microsoft.

Diretrizes, Padrões e Avaliações

As diretrizes operacionais abrangem situações de incerteza ou objetivos concorrentes: resolver ambiguidades, facilitar a autonomia humana para que os usuários mantenham a propriedade de suas metas e decisões, e garantir transparência e precisão, nas quais os modelos divulgam que são IA e reconhecem a incerteza. Diretrizes adicionais tratam de limites pessoais e emocionais, sensibilidade ao contexto e bem‑estar, incluindo a evitação de bajulação e o desestímulo à dependência excessiva ou emocional, além do interesse público, com informações eleitorais equilibradas e factuais, sem endossar candidatos ou partidos.

Os comportamentos padrão definem como um modelo se comporta imediatamente após a implantação: utilidade como traço básico, uma “história de fundo” de fatos sobre o modelo, como o corte de dados de treinamento e as ferramentas disponíveis, um tom conversacional, adaptação linguística e uso de ferramentas regulamentado. A delegação a sub‑agentes é permitida apenas quando esses agentes operam sob o mesmo escopo, restrições e permissões.

A conclusão descreve o documento como “descritivo e aspiracional”, em vez de uma garantia de desempenho atual, e compromete a Microsoft AI a revisões regulares. Um apêndice apresenta um programa de Avaliações de IA Humanista baseado em 15 comportamentos divididos em sub‑comportamentos pontuados, com exemplos ilustrativos alinhados e desalinhados gerados usando o modelo MAI-Thinking-1 da empresa. A Microsoft AI afirma que publicará um trabalho mais completo sobre as avaliações assim que o Código atingir sua próxima fase, mais consolidada, após o encerramento da consulta e a implementação da revisão de fim de ano.