Microsoft signe une norme contraignante de sécurité et de confidentialité de l’IA pour les écoles américaines

Le président de l’AFT, Randi Weingarten, le président de la United Federation of Teachers, Michael Mulgrew, et le vice‑président et président de Microsoft, Brad Smith, ont annoncé le National AI Safety & Privacy Standard pour les écoles le 9 septembre 2026, un accord signé qui permet aux districts scolaires américains d’ajouter des protections contractuellement contraignantes en matière de confidentialité et de sécurité de l’IA à leurs contrats clients Microsoft.

L’annonce, faite à New York, a présenté la norme comme une réponse à ce qu’elle a qualifié d’absence de règles fédérales et étatiques significatives régissant l’IA dans les écoles, et l’a décrite comme le premier accord de ce type après des mois de négociations. Les protections sont détaillées dans un Memorandum of Agreement contraignant entre la National Academy for AI Instruction et Microsoft Corporation, avec des places ouvertes pour que d’autres fournisseurs d’IA le signent. Weingarten et Smith ont signé l’accord le 7 septembre 2026.

Weingarten a déclaré que l’accord garantit trois objectifs fondamentaux: protéger la vie privée et les données des enfants, donner aux écoles un contrôle réel sur les outils d’IA en classe, et offrir transparence et informations aux parents. Elle a affirmé que les syndicats sont intervenus parce que personne d’autre, y compris le gouvernement fédéral, ne s’était mobilisé. « HIPAA et FERPA n’avaient jamais envisagé l’avènement de l’IA, » a‑t‑elle déclaré dans Microsoft’s announcement, « et en l’absence de ces protections, les entreprises technologiques doivent assumer la responsabilité des produits qu’elles créent et commercialisent auprès des élèves, des éducateurs et des communautés. »

Smith a déclaré que la norme fixe un niveau élevé en matière de confidentialité des enfants et de sécurité de l’IA et a indiqué que Microsoft étendra l’accord à chaque district scolaire du pays. Mulgrew, qui dirige l’affilié new‑yorkais de l’AFT comptant 200 000 membres, a affirmé que cela fournit aux familles et aux districts les informations et les protections de confidentialité qu’ils réclament et donne aux districts le pouvoir de résilier les accords et de réclamer des dommages aux fournisseurs qui enfreignent les règles.

Les dix principes contraignants

Le mémorandum énonce dix principes fondamentaux et indique que chacun constitue un engagement contraignant ; se conformer à certains mais pas à tous ne constitue pas une conformité. Le premier principe interdit au fournisseur d’utiliser toute donnée couverte, définie comme incluant les invites, les sorties d’IA, les fichiers téléchargés, les signaux comportementaux et les métadonnées, pour entraîner, affiner, étalonner ou autrement améliorer un modèle d’IA. L’interdiction s’applique rétroactivement aux données déjà collectées, lie les filiales, sous‑processus et partenaires tiers du fournisseur, et demeure en vigueur indéfiniment après la résiliation de l’accord. Une exception étroite autorise le traitement uniquement à des fins de sécurité et de sûreté, interdit explicitement l’amélioration générale du modèle, et exige, sur demande, une déclaration annuelle signée par un cadre supérieur confirmant qu’aucune donnée couverte n’a été utilisée pour l’entraînement en dehors de l’exception et qu’aucune dérivation n’a traversé des systèmes de sécurité vers d’autres modèles ou produits.

Le deuxième principe limite la collecte de données à ce qui est strictement nécessaire pour fournir le produit contractuel et interdit le suivi de géolocalisation précise, le suivi comportemental, l’enregistrement des frappes, le profilage à long terme et la collecte de données biométriques. La collecte de données auprès d’élèves de moins de 13 ans nécessite le consentement parental vérifiable conforme à la COPPA, la loi fédérale sur la confidentialité en ligne des enfants, lorsque ce consentement est légalement requis. Selon le troisième principe, le district et ses élèves possèdent exclusivement toutes les données couvertes. Le fournisseur ne peut jamais les vendre ni les utiliser à des fins publicitaires, doit fournir des exportations dans des formats lisibles par machine standard, doit supprimer les données des systèmes actifs dans les 180 jours suivant une demande de suppression, et doit stocker les données couvertes uniquement dans l’Union européenne ou en Amérique du Nord. Les données de télémétrie désidentifiées sont exclues pour la sécurité, la fiabilité et l’amélioration du produit, mais l’accord interdit leur utilisation pour l’entraînement de modèles génératifs, le profilage, la personnalisation ou la publicité.

Surveillance humaine, sécurité et application

Le quatrième principe exige un examen humain significatif avant que tout système d’IA couvert ne prenne des décisions pour les éducateurs ou les élèves. Il interdit les fonctionnalités de type compagnon ou orientées relation qui visent à favoriser un attachement émotionnel ou une dépendance, et il impose que les fonctionnalités agentiques à conséquences externes, c’est‑à‑dire les capacités d’agir au nom d’un élève en dehors des systèmes du fournisseur, soient désactivées par défaut, sauf si un administrateur du district autorisé les active. Les fournisseurs doivent également maintenir des protocoles de niveau crise pour les contenus à haut risque impliquant l’automutilation ou la violence. L’Académie instruira les éducateurs qu’ils ne peuvent pas utiliser l’IA pour la notation automatisée sans révision humaine, les décisions disciplinaires ou d’affectation automatisées, les évaluations émotionnelles ou psychologiques, ou la surveillance comportementale.

Le cinquième principe impose la détention de certifications indépendantes actuelles, notamment SOC 2 Type II, ISO 27001, ISO 27701 et ISO 42001 ou l’équivalent, ainsi que l’autorisation FedRAMP Moderate lorsque cela est requis. Les fournisseurs doivent informer le district d’une violation confirmée ou raisonnablement suspectée au plus tard 72 heures après en avoir pris connaissance, et doivent maintenir une page de confiance publique répertoriant les certifications, résumés d’audits et incidents de sécurité passés connus affectant les clients du secteur éducatif, mise à jour au moins chaque trimestre. Si une violation importante n’est pas corrigée, l’Académie ou l’AFT peuvent révoquer la participation du fournisseur et annoncer publiquement la révocation.

Les principes restants imposent des contrôles de sécurité incluant le chiffrement et l’authentification multifacteur, soutenus par des tests d’intrusion indépendants annuels ; des guides en langage clair et des FAQ pour les familles dans les 90 jours ; des fonctionnalités d’accessibilité et des tests d’équité auprès de populations étudiantes diversifiées, incluant une analyse d’équité indépendante financée par le fournisseur dans les 12 mois ; des contrôles contre le glissement fonctionnel et le verrouillage du fournisseur, avec des données exportables sans frais ; ainsi que des interdictions permanentes d’utiliser les données couvertes pour l’entraînement ou la vente, avec des obligations de suppression et de déclaration de violation qui survivent au contrat.

L’accord est valable deux ans à compter de la signature et doit être renouvelé par écrit pour se poursuivre ; un fournisseur peut se retirer avec un préavis écrit de 60 jours. Un avenant indique que Microsoft n’a pas encore réalisé d’évaluation indépendante ISO 42001 pour ses produits d’IA éducatifs et vise la certification d’ici le 31 décembre 2027, et que les interdictions de suivi ne s’appliquent pas à Speaker Coach ou Speaker Progress, deux outils d’accompagnement à la prise de parole en public, pendant les activités de prise de parole initiées par l’utilisateur.

Disponibilité et contexte syndical

La norme prolonge les travaux antérieurs de l’AFT. En 2024, le syndicat a publié ses « Garde‑fous de bon sens pour l’utilisation des technologies avancées dans les écoles », fondés sur neuf principes de base, et en 2025 il a annoncé la National Academy for AI Instruction pour former les éducateurs à l’usage et à la mauvaise utilisation des outils d’IA. Dans un discours de mai intitulé « Appareils éteints, yeux levés, mains‑sur‑le‑terrain », Weingarten a réclamé une interdiction des écrans du jardin d’enfants à la deuxième année, une interdiction de l’IA destinée aux élèves dans les écoles primaires et une interdiction des chatbots compagnons sociaux pour les élèves de moins de 16 ans. Selon l’annonce, des cadres similaires ont été adoptés par le Los Angeles Unified School District et les New York State United Teachers, et, la semaine précédant l’annonce, par les écoles publiques de New York City et le maire Zohran Mamdani.

En vertu de l’accord, chaque fournisseur participant doit rendre les protections substantielles de la norme disponibles aux clients du secteur éducatif sur demande dans les 90 jours suivant la date d’entrée en vigueur, intégrées à un accord existant de confidentialité des données, à une licence ou à un avenant. La fiche d’information de Microsoft indique que l’entreprise fournira également aux dirigeants de l’éducation et aux familles des informations en langage clair sur le fonctionnement de ses produits d’IA en classe, et précise qu’à compter du 1er novembre 2026, Microsoft rendra les protections accessibles à chaque district scolaire des États‑Unis, pouvant être ajoutées à de nouveaux ou existants accords sans renégociation ni renouvellement de contrat requis.