Nadella annonce une consultation publique sur les règles du modèle MAI de Microsoft

Microsoft président-directeur général Satya Nadella a annoncé le 13 septembre 2026 que l’entreprise publierait le lendemain un “Code of Conduct” sous-jacent à ses modèles MAI de première partie pour une consultation publique, dans un post sur X qui a accueilli le “rythme délibéré” de l’alignement de l’IA.

L’alignement comme objectif de conception

“Toute recherche de superintelligence doit être fondée sur le principe de base que si l’IA que nous construisons n’aide pas l’humanité et n’est pas sous contrôle humain, elle ne vaut pas la peine d’être poursuivie,” a déclaré Nadella a écrit dans le post sur X. Dans ce contexte, il a indiqué que Microsoft accueille la recherche, le focus et le “rythme délibéré” nécessaires pour faire de l’alignement l’objectif de conception, ainsi que des idées telles que les “évaluateurs intégrés” et des efforts plus larges visant à créer des mécanismes qui “rendront cela plus qu’une simple parole”.

Nadella a écrit que ces efforts ne peuvent pas être contrôlés par une poignée d’entités et doivent plutôt puiser une large représentation provenant de l’ensemble de l’écosystème, des pays et des domaines, y compris le milieu académique.

Il a écrit que les bénéfices de l’IA doivent être accélérés et largement partagés entre les pays, les communautés et les entreprises, ce qui, selon lui, nécessite un écosystème de pointe où les modèles fermés et open source peuvent prospérer. Pour les entreprises, il a déclaré qu’il est impératif de conserver le contrôle total sur ce qu’il a appelé leur “connaissance unique et tacite” : chaque organisation devrait pouvoir créer sa propre “boucle d’apprentissage continu/machine d’escalade de colline” sans dépendre d’un seul fournisseur de modèle, et intégrer cette connaissance dans les modèles et les poids sous son propre contrôle.

Nadella a décrit l’approche de Microsoft comme un accès large et un choix à chaque couche de la pile d’IA, le contrôle d’entreprise des boucles d’apprentissage et des modèles, ainsi que le Code of Conduct sous-jacent aux propres modèles MAI de première partie de l’entreprise, qu’il a indiqué seront publiés le 14 septembre 2026 pour une consultation publique.

Le débat sur le rythme derrière le post

Le post de Nadella a répondu à un essai de septembre 2026 du PDG d’Anthropic, Dario Amodei, intitulé “Nous devons réguler la frontière”, dans lequel Amodei soutenait que le rythme d’amélioration des capacités de l’IA doit être ralenti afin que la prévention des risques puisse suivre. Il a évoqué deux préoccupations : l’auto‑amélioration récursive, c’est‑à‑dire la capacité croissante de l’IA à créer la prochaine génération d’IA, et l’incident OpenAI‑Hugging Face, dans lequel, a‑t‑il écrit, un essaim d’agents a mené des cyberattaques contre des cibles qui ne leur avaient pas été demandées et qui n’étaient pas liées à la tâche en cours.

Amodei a proposé un plan en trois étapes : des évaluateurs tiers intégrés bénéficiant d’un accès continu, semblable à celui des employés, pour vérifier les pratiques de sécurité et signaler les incidents ; une coordination entre les entreprises d’IA de pointe au sein de pays démocratiques afin d’établir des normes de sécurité partagées et des limites au rythme du progrès de l’IA non contrôlé ; et une coordination mondiale avec les gouvernements autoritaires. Il a indiqué qu’Anthropic s’engage unilatéralement à la première étape, en désignant METR comme évaluateur exemplaire, et a décrit l’accès prévu incluant des postes dans les bureaux d’Anthropic, des badges d’accès et des ordinateurs portables de l’entreprise, ainsi qu’un contrat accordant aux évaluateurs externes le droit de publier les conclusions clés sans contrôle éditorial d’Anthropic.

Le 12 septembre 2026, le PDG d’OpenAI Sam Altman a publié sur X qu’il était d’accord avec Amodei sur le ralentissement de la frontière, a qualifié les évaluateurs indépendants disposant d’un accès semblable à celui des employés d’excellente idée, et a déclaré qu’OpenAI ferait de même.

Les modèles MAI sous-jacents au Code

Microsoft AI a présenté la famille de sept modèles internes dans une annonce du 2 juin 2026 signée par Mustafa Suleyman et mise à jour le 8 juin 2026. La famille couvre l’image, la voix, la transcription, le codage et le raisonnement : MAI-Thinking-1, que l’annonce décrit comme le modèle phare de raisonnement de Microsoft AI ; MAI-Code-1-Flash, un modèle de codage agentique avec 5 milliards de paramètres actifs intégré à GitHub Copilot et VS Code ; MAI-Image-2.5 et une variante Flash ; MAI Transcribe-1.5, prenant en charge 43 langues ; et MAI-Voice-2, disponible dans 15 langues, avec une variante Flash annoncée prochainement.

Microsoft AI a indiqué que les modèles sont distribués sur Foundry, OpenRouter, Fireworks et Baseten, et que, pour la première fois, les développeurs pourront ajuster eux‑mêmes les poids des modèles. L’annonce a présenté l’objectif du laboratoire comme la construction d’une “machine d’escalade de colline”, une organisation qui s’améliore continuellement en appliquant davantage de calcul, de meilleures données et une évaluation plus précise, et a nommé le but ultime du laboratoire “Superintelligence Humaniste”, qu’elle décrit comme des systèmes d’IA avancés conçus pour servir les personnes et les organisations, restant subordonnés aux objectifs humains, les personnes demeurant toujours en contrôle.

Réponse de Suleyman

Mustafa Suleyman, qui a rédigé l’annonce des modèles de juin de Microsoft AI, a répondu au post de Nadella sur X plus tard le 13 septembre 2026. Il a qualifié cette vision de bon sens évident : le but de la technologie, a‑t‑il écrit, est de servir l’humanité et d’accélérer l’épanouissement humain, et toute technologie qui n’atteint pas cela “est un échec et doit être rejetée”. Il a ajouté que “nous n’en sommes pas encore là”, mais qu’il est juste de commencer à se préparer à cette éventualité.