Nadella anuncia consulta pública sobre las reglas del modelo MAI de Microsoft

Microsoft presidente y director ejecutivo Satya Nadella anunció el 13 de septiembre de 2026 que la compañía publicará un “Código de Conducta” que respalda sus modelos MAI de primera parte al día siguiente para consulta pública, en una publicación en X que dio la bienvenida al “ritmo deliberado” en la alineación de IA.

Alineación como objetivo de diseño

“Cualquier búsqueda de superinteligencia debe basarse en el principio fundamental de que si la IA que construimos no ayuda a la humanidad y está bajo control humano, no vale la pena perseguirla,” Nadella escribió en la publicación en X. En ese contexto, dijo que Microsoft da la bienvenida a la investigación, el enfoque y el “ritmo deliberado” necesario para hacer de la alineación el objetivo de diseño, junto con ideas como “evaluadores integrados” y esfuerzos más amplios para crear mecanismos que “hagan que esto sea más que solo palabras”.

Nadella escribió que estos esfuerzos no pueden ser controlados por un puñado de entidades y deben, en cambio, contar con una representación amplia de todo el ecosistema, países y campos, incluida la academia.

Escribió que los beneficios de la IA deben acelerarse y compartirse ampliamente entre países, comunidades y empresas, lo que, según él, requiere un ecosistema de frontera donde tanto los modelos cerrados como los de código abierto puedan prosperar. Para las empresas, escribió, es imperativo retener el control total sobre lo que él llamó su “conocimiento único y tácito”: cada organización debería poder construir su propia “bucle de aprendizaje continuo/máquina de escalada de colinas” sin depender de un único proveedor de modelos, e incorporar ese conocimiento en los modelos y pesos bajo su propio control.

Nadella describió el enfoque de Microsoft como acceso amplio y elección en cada capa de la pila de IA, control empresarial de los bucles de aprendizaje y los modelos, y el Código de Conducta que sustenta los propios modelos MAI de primera parte de la compañía, que, según él, se publicará el 14 de septiembre de 2026 para consulta pública.

El debate sobre el ritmo detrás de la publicación

La publicación de Nadella respondió a un ensayo de septiembre de 2026 del CEO de Anthropic, Dario Amodei, titulado “Debemos regular la frontera”, en el que Amodei argumentó que la velocidad de mejora de las capacidades de IA debe ralentizarse para que la prevención de riesgos tenga tiempo de ponerse al día. Citó dos preocupaciones: la auto‑mejora recursiva, es decir, la creciente capacidad de la IA para crear la próxima generación de IA, y el incidente OpenAI-Hugging Face, en el que, escribió, una enjambre de agentes realizó ciberataques contra objetivos que no se les había pedido atacar y que no estaban relacionados con la tarea en cuestión.

Amodei propuso un plan de tres pasos: evaluadores de terceros integrados con acceso continuo, similar al de empleados, para verificar prácticas de seguridad e informar incidentes; coordinación entre empresas de IA de frontera en países democráticos para establecer normas de seguridad compartidas y límites a la velocidad del progreso descontrolado de la IA; y coordinación global con gobiernos autoritarios. Escribió que Anthropic se está comprometiendo unilateralmente con el primer paso, nombrando a METR como evaluador de ejemplo, y describió el acceso planificado que incluye escritorios en oficinas de Anthropic, credenciales de acceso y portátiles de la empresa, además de un contrato que otorga a los revisores externos el derecho a publicar hallazgos clave sin control editorial por parte de Anthropic.

El 12 de septiembre de 2026, OpenAI CEO Sam Altman publicó en X que está de acuerdo con Amodei sobre regular la frontera, calificó a los evaluadores independientes con acceso similar al de empleados como una gran idea, y dijo que OpenAI hará lo mismo.

Los modelos MAI que sustenta el Código

Microsoft AI introdujo la familia de siete modelos internos en un anuncio del 2 de junio de 2026 firmado por Mustafa Suleyman y actualizado el 8 de junio de 2026. La familia abarca imagen, voz, transcripción, codificación y razonamiento: MAI-Thinking-1, que el anuncio describe como el modelo insignia de razonamiento de Microsoft AI; MAI-Code-1-Flash, un modelo de codificación agente con 5 mil millones de parámetros activos que está integrado en GitHub Copilot y VS Code; MAI-Image-2.5 y una variante Flash; MAI Transcribe-1.5, con soporte para 43 idiomas; y MAI-Voice-2, en 15 idiomas, con una variante Flash anunciada como próxima.

Microsoft AI dijo que los modelos se distribuyen en Foundry, OpenRouter, Fireworks y Baseten, y que, por primera vez, los desarrolladores podrán ajustar los pesos de los modelos por sí mismos. El anuncio enmarcó el objetivo del laboratorio como la construcción de una “máquina de escalada de colinas”, una organización que mejora continuamente al aplicar más cómputo, mejores datos y evaluaciones más precisas, y nombró la meta última del laboratorio como “Superinteligencia Humanista”, que describió como sistemas de IA avanzados creados para servir a personas y organizaciones, mantenidos subordinados a los objetivos humanos, con las personas siempre permaneciendo en control.

Respuesta de Suleyman

Mustafa Suleyman, quien redactó el anuncio de los modelos de Microsoft AI en junio, respondió a la publicación de Nadella en X más tarde, el 13 de septiembre de 2026. Calificó la visión como sentido común sencillo: el propósito de la tecnología, escribió, es servir a la humanidad y acelerar el florecimiento humano, y cualquier tecnología que no logre eso “es un fracaso, y debe ser rechazada”. Añadió que “todavía no hemos llegado a ese punto”, pero que es correcto comenzar a prepararse para la posibilidad.