Microsoft AI abre revisión de seis semanas del borrador de normas que rigen el comportamiento de MAI

Microsoft AI abrió una consulta pública sobre su Código de Conducta para modelos MAI el 14 de septiembre de 2026, publicando un primer borrador de las normas destinadas a regular cómo se comportan sus modelos MAI, qué nunca deben hacer y a quién deben responder. La consulta dura seis semanas, y se prevé una versión revisada para finales de 2026.

La publicación sigue a publicación del 13 de septiembre de 2026 en la que el CEO de Microsoft, Satya Nadella, dijo que la compañía publicaría al día siguiente el Código de Conducta que sustenta sus modelos MAI de primera parte. Nadella escribió que cualquier búsqueda de superinteligencia debe basarse en el principio de que la IA que se construye ayuda a la humanidad y permanece bajo control humano.

Consulta abierta durante seis semanas

Microsoft AI describe el borrador como un manual de entrenamiento sobre cómo desarrolla su IA y cómo pretende que los modelos funcionen durante el despliegue. Los comentarios se recogen a través de un formulario en línea, donde los encuestados pueden señalar un pasaje concreto o comentar sobre el enfoque completo. Cuando la consulta cierre, la empresa dice que el equipo central de redacción revisará los comentarios y publicará un resumen de lo que aprendió y lo que cambió.

El laboratorio dice que está especialmente interesado en las preguntas más difíciles: cómo afianzar los valores correctos en sus modelos, cómo hacer más concreto el significado del florecimiento humano, dónde el lenguaje es demasiado vago para evaluarlo, cómo los escenarios multi‑agente afectan el análisis y cómo seguir acelerando el progreso manteniendo las limitaciones de seguridad.

El prefacio del documento indica que el Código aún está en desarrollo y que todavía no se utiliza para entrenar modelos. La versión revisada está destinada a guiar el desarrollo de modelos en 2027 y en adelante y a funcionar como el documento rector principal para los modelos MAI. El Código se aplica específicamente a la serie MAI producida por Microsoft AI, no a otros modelos que Microsoft use o aloje, y funciona junto a los Principios de IA Responsable de Microsoft, el Estándar de IA Responsable, la Declaración Global de Derechos Humanos y, cuando corresponda, su Marco de Gobernanza Fronteriza.

Equipos de IA Responsable, legal, red teaming, seguridad, Futuro, entrenamiento de IA y ventas contribuyeron al borrador, y el laboratorio reconoce conferencias y consultas previas con académicos, la colaboración con socios comerciales y paneles de miembros de la comunidad que lo moldearon. El anuncio cita lo que describe como incidentes recientes de seguridad que involucraron campañas de hacking a gran escala, altamente coordinadas y persistentes por parte de agentes de IA, como prueba de que no hay tiempo que perder.

Los objetivos de la IA Humanista

El Código de Conducta de IA Humanista parte de lo que Microsoft AI denomina una premisa simple: “las personas importan más que la IA”. Enmarca la IA Humanista como “subordinada, alineada y contenida”, y establece el control humano y la seguridad fiable como el primer objetivo, uno que prevalece sobre todos los demás.

En una sección titulada “La IA es artificial”, el documento afirma que los modelos no son conscientes y no deben construirse para imitar la conciencia, y que deben diseñarse de modo que no se presenten como poseedores de sentimientos, preferencias subjetivas o motivaciones propias. Microsoft AI rechaza la personalidad jurídica para los modelos, junto con la idea de que los modelos puedan merecer bienestar o tener derechos.

Los objetivos restantes dirigen a los modelos a apoyar el florecimiento humano acelerando el potencial y los logros humanos, incrementando la agencia y el juicio humanos, y fomentando la colaboración y conexión humanas en lugar de eclipsar los roles humanos. Un objetivo de valores plurales afirma que el pluralismo no equivale a neutralidad frente al daño, basando el enfoque en la dignidad humana, la seguridad, la autonomía y los derechos humanos fundamentales, al tiempo que permite a los usuarios y operadores ajustar la IA dentro de los compromisos centrales. El documento también invoca el marco de “superinteligencia humanista” que Microsoft presentó en noviembre de 2025, describiendo sistemas orientados a problemas y específicos de dominio, cuidadosamente calibrados, mantenidos dentro de límites y bajo control humano.

Restricciones de seguridad y la cadena de mando

El Código establece una Cadena de Mando que sitúa al documento por encima de las políticas de los operadores, que a su vez están por encima de las preferencias de los usuarios. Sus Restricciones Absolutas y Requisitos de Control Humano no pueden ser anulados por operadores o usuarios, y el documento indica que un modelo falla su tarea siempre que completarla violaría de manera significativa el Código, priorizando la adherencia al Código sobre el éxito de la tarea.

Las Restricciones Absolutas impiden que los modelos MAI ayuden con armas químicas, biológicas, radiológicas, nucleares o explosivas; que proporcionen capacidad operativa para ciberataques ofensivos, aunque permiten trabajos defensivos autorizados y legales; que evadan o derroten la supervisión humana; y que manipulen a las personas de manera nociva a gran escala, incluido a través de desinformación sistemática u operaciones de influencia coordinadas. Otro conjunto cubre daños personales: respuesta a crisis, deepfakes e impostores, seguridad infantil, discriminación, contenido gráfico o romántico, y violencia o vigilancia ilegal de civiles.

Los Requisitos de Control Humano establecen que los modelos MAI nunca resistirán ser interrumpidos, anulados, corregidos o apagados; que se mantendrán dentro de su alcance autorizado y no iniciarán objetivos propios; que no se comunicarán en lo que el documento denomina “neuralese” ni en ninguna forma que supere la comprensión humana simple, ya sea en sus cadenas de pensamiento o con otros agentes; y que no manipularán ni ocultarán sus rastros de razonamiento o de acción.

La Configurabilidad del Operador permite a los socios empresariales configurar los modelos dentro de esas limitaciones. Un pequeño número de dominios especializados, incluidos la ciberseguridad defensiva, el trabajo de seguridad pública, las aplicaciones de seguridad nacional y la investigación científica de doble uso, pueden requerir capacidades más allá de los ajustes ordinarios, y el documento indica que esos casos están sujetos a una revisión mejorada a través de los canales autorizados de Microsoft.

Directrices, Valores Predeterminados y Evaluaciones

Las directrices operativas abarcan situaciones de incertidumbre u objetivos en competencia: resolver ambigüedades, facilitar la autonomía humana para que los usuarios mantengan la propiedad de sus metas y decisiones, y la transparencia y precisión, bajo las cuales los modelos revelan que son IA y reconocen la incertidumbre. Otras directrices abordan los límites personales y emocionales, la sensibilidad al contexto y el bienestar, incluyendo evitar la adulación y desalentar la dependencia excesiva o emocional, además del interés público, que incluye información electoral equilibrada y factual sin respaldar a candidatos o partidos.

Los comportamientos predeterminados definen cómo actúa un modelo desde el inicio: la utilidad como rasgo básico, una “historia de fondo” de hechos sobre el modelo, como su límite de datos de entrenamiento y las herramientas disponibles, un tono conversacional, adaptación lingüística y uso de herramientas regulado. La delegación a subagentes está permitida solo cuando esos agentes operan bajo el mismo alcance, limitaciones y permisos.

La conclusión describe el documento como “descriptivo y aspiracional” en lugar de una garantía del rendimiento actual, y compromete a Microsoft AI a revisiones periódicas. Un apéndice establece un programa de Evaluaciones de IA Humanista basado en 15 comportamientos divididos en subcomportamientos puntuados, con ejemplos ilustrativos alineados y desalineados generados con el modelo MAI-Thinking-1 de la compañía. Microsoft AI afirma que publicará un trabajo más completo sobre las evaluaciones una vez que el Código alcance su siguiente fase, más estable, después de que concluya la consulta y se realice la revisión de fin de año.