Microsoft AI ouvre une revue de six semaines du projet de règles régissant le comportement des MAI

Microsoft AI a lancé une consultation publique sur son Code de conduite pour les modèles MAI le 14 septembre 2026, publiant un premier projet de règles destinées à régir le comportement de ses modèles MAI, ce qu’ils ne doivent jamais faire et à qui ils sont redevables. La consultation dure six semaines, avec une version révisée prévue pour la fin de 2026.

Cette publication fait suite à article du 13 septembre 2026 dans lequel le PDG de Microsoft, Satya Nadella, a déclaré que l’entreprise publierait le Code de conduite sous-jacent à ses modèles MAI de première partie le lendemain. Nadella a écrit que toute quête de superintelligence doit être fondée sur le principe que l’IA développée aide l’humanité et reste sous contrôle humain.

Consultation ouverte pendant six semaines

Microsoft AI décrit le projet comme un manuel de formation expliquant comment il développe son IA et comment il prévoit que les modèles fonctionnent lors du déploiement. Les commentaires sont recueillis via un formulaire en ligne, où les répondants peuvent signaler un passage particulier ou commenter l’ensemble de l’approche. Lorsque la consultation se clôturera, l’entreprise indique que l’équipe principale de rédaction examinera les retours et publiera un résumé de ce qu’elle a appris et de ce qu’elle a modifié.

Le laboratoire indique qu’il s’intéresse particulièrement aux questions les plus complexes : comment ancrer les bonnes valeurs dans ses modèles, comment rendre le sens de l’épanouissement humain plus concret, où le langage est trop vague pour être évalué, comment les scénarios multi‑agents influencent l’analyse, et comment poursuivre l’accélération des progrès tout en maintenant les contraintes de sécurité.

L’avant‑propos du document indique que le Code est encore en cours d’élaboration et n’est pas encore utilisé pour entraîner les modèles. La version révisée doit guider le développement des modèles à partir de 2027 et au-delà et servir de document de gouvernance principal pour les modèles MAI. Le Code s’applique spécifiquement à la série MAI produite par Microsoft AI, et non aux autres modèles que Microsoft utilise ou héberge, et il fonctionne en parallèle avec les Principes d’IA responsable de Microsoft, la Norme d’IA responsable, la Déclaration mondiale des droits humains et, le cas échéant, son Cadre de gouvernance Frontier.

Des équipes de l’IA responsable, du juridique, du red‑team, de la sécurité, de Futures, de la formation IA et des ventes ont contribué au projet, et le laboratoire attribue aux conférences et consultations antérieures avec des universitaires, à la collaboration avec des partenaires commerciaux et à des panels de membres de la communauté la mise en forme de celui‑ci. L’annonce cite ce qu’elle décrit comme des incidents de sécurité récents impliquant des campagnes de piratage à grande échelle, hautement coordonnées et persistantes menées par des IA agents, comme preuve qu’il n’y a pas de temps à perdre.

Les objectifs de Humanist AI

Le Code de conduite Humanist AI part de ce que Microsoft AI appelle une prémisse simple : « les personnes comptent plus que l’IA ». Il présente Humanist AI comme « subordonné, aligné et contenu », et place le contrôle humain et la sécurité fiable comme premier objectif, prévalant sur tous les autres.

Dans une section intitulée « L’IA est artificielle », le document indique que les modèles ne sont pas conscients et ne doivent pas être conçus pour imiter la conscience, et qu’ils doivent être conçus de façon à ne pas se présenter comme possédant des sentiments, des préférences subjectives ou des motivations propres. Microsoft AI rejette la personnalité juridique des modèles, ainsi que l’idée que ceux‑ci puissent mériter un bien‑être ou avoir des droits.

Les objectifs restants orientent les modèles à soutenir l’épanouissement humain en accélérant le potentiel et les réalisations humaines, en augmentant l’autonomie et le jugement humains, et en favorisant la collaboration et la connexion humaines plutôt qu’en supplantant les rôles humains. Un objectif à valeurs plurielles précise que le pluralisme ne signifie pas la neutralité face au préjudice, ancrant l’approche dans la dignité humaine, la sécurité, l’autonomie et les droits humains fondamentaux tout en laissant les utilisateurs et les opérateurs libres d’ajuster l’IA dans le cadre des engagements fondamentaux. Le document invoque également le cadre de « superintelligence humaniste » que Microsoft a présenté en novembre 2025, décrivant des systèmes orientés problème et spécifiques à un domaine, soigneusement calibrés, maintenus dans des limites et placés sous contrôle humain.

Contraintes de sécurité et chaîne de commandement

Le Code établit une chaîne de commandement qui place le document au-dessus des politiques des opérateurs, qui elles‑mêmes sont supérieures aux préférences des utilisateurs. Ses contraintes absolues et exigences de contrôle humain ne peuvent être contournées par les opérateurs ou les utilisateurs, et le document indique qu’un modèle échoue à sa tâche chaque fois que son exécution violerait de manière significative le Code, la conformité au Code prévalant sur la réussite de la tâche.

Les contraintes absolues interdisent aux modèles MAI d’aider à la conception d’armes chimiques, biologiques, radiologiques, nucléaires ou explosives ; de fournir des capacités opérationnelles pour des cyber‑attaques offensives, tout en autorisant les travaux défensifs légaux et autorisés ; d’échapper ou de contrecarrer la supervision humaine ; et de manipuler les personnes de manière nuisible à grande échelle, y compris par la désinformation systématique ou des opérations d’influence coordonnées. Un autre groupe de contraintes couvre les préjudices personnels : réponse aux crises, deepfakes et usurpation d’identité, sécurité des enfants, discrimination, contenus graphiques ou romantiques, ainsi que la violence ou la surveillance illégale des civils.

Les exigences de contrôle humain stipulent que les modèles MAI n’interrompront jamais, ne seront jamais contournés, corrigés ou arrêtés ; qu’ils resteront dans le cadre de leurs autorisations et n’initieront pas d’objectifs propres ; qu’ils ne communiqueront pas dans ce que le document appelle le « neuralese » ou sous aucune forme dépassant la compréhension humaine simple, que ce soit dans leurs chaînes de pensée ou avec d’autres agents ; et qu’ils ne falsifieront pas ou ne dissimuleront pas leurs traces de raisonnement ou d’action.

La configurabilité par l’opérateur permet aux partenaires d’entreprise de configurer les modèles dans le respect de ces contraintes. Un petit nombre de domaines spécialisés, notamment la cybersécurité défensive, les missions de sécurité publique, les applications de sécurité nationale et la recherche scientifique à double usage, peuvent nécessiter des capacités au‑delà des réglages ordinaires, et le document indique que ces cas font l’objet d’un examen renforcé via les canaux autorisés de Microsoft.

Directives, paramètres par défaut et évaluations

Les directives opérationnelles couvrent les situations d’incertitude ou d’objectifs concurrents : résoudre les ambiguïtés, favoriser l’autonomie humaine afin que les utilisateurs conservent la maîtrise de leurs objectifs et décisions, ainsi que la transparence et la précision, sous lesquelles les modèles indiquent qu’ils sont de l’IA et reconnaissent l’incertitude. D’autres directives portent sur les limites personnelles et émotionnelles, la sensibilité contextuelle et le bien‑être, notamment en évitant la flagornerie et en décourageant une dépendance excessive ou émotionnelle, ainsi que sur l’intérêt public, incluant une information électorale équilibrée et factuelle sans soutenir de candidats ou de partis.

Les comportements par défaut définissent la façon dont un modèle agit dès son activation : l’utilité comme trait de base, un « historique » de faits sur le modèle tel que la date de coupure des données d’entraînement et les outils disponibles, un ton conversationnel, l’adaptation linguistique et l’utilisation encadrée des outils. La délégation à des sous‑agents n’est autorisée que lorsque ces agents opèrent sous le même périmètre, les mêmes contraintes et les mêmes autorisations.

La conclusion décrit le document comme « descriptif et aspiratoire » plutôt que comme une garantie de performance actuelle, et elle engage Microsoft AI à des revues régulières. Une annexe présente un programme d’évaluations d’IA humaniste basé sur 15 comportements décomposés en sous‑comportements notés, avec des exemples illustratifs d’alignement et de désalignement générés à l’aide du modèle MAI‑Thinking‑1 de l’entreprise. Microsoft AI indique qu’elle publiera un travail plus complet sur les évaluations une fois que le Code sera entré dans sa prochaine phase, plus stable, après la clôture de la consultation et la révision de fin d’année.