Microsoft underskriver bindende AI‑sikkerheds‑ og privatlivsstandard for amerikanske skoler

AFT‑præsident Randi Weingarten, United Federation of Teachers‑præsident Michael Mulgrew og Microsoft vicepræsident og præsident Brad Smith annoncerede den nationale AI‑sikkerheds‑ og privatlivsstandard for skoler den 9. september 2026, en underskrevet aftale, der giver amerikanske skolekredse mulighed for at tilføje kontraktligt håndhævelige AI‑privatlivs‑ og sikkerhedsbeskyttelser til deres Microsoft‑kundeaftaler.

Kunngørelsen, som blev holdt i New York, præsenterede standarden som et svar på det, de kaldte fraværet af meningsfulde føderale og statslige regler for AI i skoler, og beskrev den som den første aftale af sin art efter måneders forhandlinger. Beskyttelserne er fastlagt i et bindende Memorandum of Agreement mellem National Academy for AI Instruction og Microsoft Corporation, med åbne pladser for yderligere AI‑udbydere til at underskrive. Weingarten og Smith underskrev aftalen den 7. september 2026.

Weingarten sagde, at aftalen sikrer tre grundlæggende mål: beskyttelse af børns privatliv og data, give skoler reel kontrol over AI‑værktøjer i klasseværelset, samt give gennemsigtighed og information til forældre. Hun sagde, at fagforeningerne handlede, fordi ingen andre, inklusive den føderale regering, havde grebet ind. “HIPAA og FERPA forestillede sig aldrig fremkomsten af AI,” sagde hun i Microsofts meddelelse, “og i fraværet af disse beskyttelser skal teknologivirksomheder påtage sig ansvaret for de produkter, de skaber og markedsfører til elever, undervisere og lokalsamfund.”

Smith sagde, at standarden stiller en høj målestok for børns privatliv og AI‑sikkerhed, og at Microsoft vil udvide aftalen til alle skolekredse i landet. Mulgrew, som leder den 200.000 medlemmer store New York City AFT‑affilierede, sagde, at den giver familier og kredse den information og de privatlivsbeskyttelser, de har efterspurgt, og giver kredse beføjelse til at afslutte aftaler og søge erstatning fra udbydere, der overtræder reglerne.

Ti bindende principper

Memorandumet fastlægger ti grundlæggende principper og angiver, at hver enkelt er en bindende forpligtelse; at overholde nogle, men ikke alle, er ikke overholdelse. Det første princip forbyder udbyderen at bruge nogen Dækkende Data, defineret til at omfatte prompts, AI‑output, uploadede filer, adfærdssignaler og metadata, til at træne, finjustere, benchmarke eller på anden måde forbedre nogen AI‑model. Forbuddet gælder retroaktivt for tidligere indsamlede data, binder udbyderens datterselskaber, underdatabehandlere og tredjepartspartnere, og overleverer aftalens ophør på ubestemt tid. En snæver undtagelse tillader behandling udelukkende til sikkerheds‑ og sikkerhedsformål, forbyder udtrykkeligt generel modelforbedring, og kræver, på anmodning, en årlig erklæring underskrevet af en seniorleder, der bekræfter, at ingen Dækkende Data er blevet brugt til træning uden for undtagelsen, og at intet afledt heraf er overført fra sikkerhedssystemer til andre modeller eller produkter.

Det andet princip begrænser dataindsamling til, hvad der er strengt nødvendigt for at levere det kontrakterede produkt, og forbyder præcis geolokationssporing, adfærdssporing, tastetrykslogning, langsigtet profilering og biometrisk indsamling. Indsamling af data fra elever under 13 år kræver verificerbart forældresamtykke i overensstemmelse med COPPA, den føderale lov om børns online privatliv, hvor dette samtykke er lovmæssigt påkrævet. Under det tredje princip ejer distriktet og dets elever al Dækkende Data udelukkende. Udbyderen må aldrig sælge den eller bruge den til reklame, skal levere eksport i standardmaskinlæsbare formater, skal slette data fra aktive systemer inden for 180 dage efter en sletteanmodning, og skal opbevare Dækkende Data udelukkende i Den Europæiske Union eller Nordamerika. De‑identificerede telemetridata er undtaget til sikkerhed, pålidelighed og produktforbedring, men aftalen forbyder brug af dem til træning af generative modeller, profilering, personalisering eller reklame.

Menneskelig tilsyn, sikkerhed og håndhævelse

Det fjerde princip kræver meningsfuld menneskelig gennemgang, før et dækkende AI‑system træffer beslutninger for undervisere eller elever. Det forbyder ledsager‑ eller relationsorienterede funktioner, der er designet til at fremme følelsesmæssig tilknytning eller afhængighed, og det kræver, at eksternt konsekvensfulde agentur‑funktioner, dvs. evner der handler på en elevs vegne uden for udbyderens egne systemer, er deaktiveret som standard, medmindre en autoriseret distriktsadministrator aktiverer dem. Udbydere skal også opretholde kriseklasse‑protokoller for indhold med høj risiko, der involverer selvskade eller vold. Akademiet vil instruere undervisere i, at de ikke må bruge AI til automatiseret bedømmelse uden menneskelig gennemgang, automatiserede disciplin‑ eller placeringsbeslutninger, følelsesmæssig eller psykologisk vurdering eller adfærdsovervågning.

Det femte princip kræver aktuelle uafhængige certificeringer, herunder SOC 2 Type II, ISO 27001, ISO 27701 og ISO 42001 eller en ækvivalent, samt FedRAMP Moderate‑autorisation, hvor det kræves. Udbydere skal underrette et distrikt om et bekræftet eller rimeligt mistænkt brud senest 72 timer efter, at de blev opmærksomme på det, og skal vedligeholde en offentlig tillidsside, der viser certificeringer, revisionsoversigter og kendte tidligere sikkerhedshændelser, der påvirker uddannelseskunder, opdateret mindst kvartalsvis. Hvis et væsentligt brud forbliver uafhjulpet, kan Akademiet eller AFT tilbagekalde udbyderens deltagelse og offentligt annoncere tilbagekaldelsen.

De resterende principper kræver sikkerhedskontroller, herunder kryptering og flerfaktorautentificering, understøttet af årlig uafhængig penetrationstest; letforståelige vejledninger og FAQ’er for familier inden for 90 dage; tilgængelighedsfunktioner og retfærdighedstest på tværs af forskellige elevgrupper, herunder en udbyder‑finansieret uafhængig ligestillingsanalyse inden for 12 måneder; kontroller mod funktionstilvækst og leverandørlåsning, med data, der kan eksporteres uden omkostning; samt permanente forbud mod at bruge Dækkende Data til træning eller salg, med slette‑ og brud‑rapporteringsforpligtelser, der overlever kontrakten.

Aftalen løber i to år fra underskrivelsen og skal fornyes skriftligt for at fortsætte; en udbyder kan trække sig tilbage med 60 dages skriftlig varsel. Et tillæg registrerer, at Microsoft ikke har gennemført en uafhængig ISO 42001‑vurdering af sine uddannelses‑AI‑produkter og sigter mod certificering inden 31. december 2027, samt at sporingsforbuddene ikke gælder for Speaker Coach eller Speaker Progress, to værktøjer til offentlig tale‑coaching, under brugerinitierede talende aktiviteter.

Tilgængelighed og fagforeningsbaggrund

Standarden bygger videre på tidligere AFT‑arbejde. I 2024 udgav fagforeningen sine Commonsense Guardrails for brug af avanceret teknologi i skoler, baseret på ni kerneprincipper, og i 2025 annoncerede den National Academy for AI Instruction for at uddanne undervisere i brug og misbrug af AI‑værktøjer. I en maj‑tale med titlen “Devices Down, Eyes Up, Hands‑On” opfordrede Weingarten til et skærmforbud fra børnehave til anden klasse, et forbud mod elev‑rettet AI i grundskolen og et forbud mod sociale ledsager‑chatbots for elever under 16 år. Ifølge meddelelsen er lignende rammer blevet vedtaget af Los Angeles Unified School District og New York State United Teachers, og i ugen før meddelelsen af New York City Public Schools og borgmester Zohran Mamdani.

I henhold til aftalen skal hver deltagende udbyder gøre standardens væsentlige beskyttelser tilgængelige for uddannelseskunder på anmodning inden for 90 dage fra ikrafttrædelsesdatoen, indarbejdet i en eksisterende dataprivatlivsaftale, licens eller tillæg. Microsofts fact sheet siger, at virksomheden også vil give uddannelsesledere og familier letforståelig information om, hvordan deres AI‑produkter fungerer i klasseværelser, og angiver, at fra den 1. november 2026 vil Microsoft gøre beskyttelserne tilgængelige for hver skolekreds i USA, som kan tilføjes til nye eller eksisterende aftaler uden behov for kontraktforhandling eller fornyelse.