Microsoft podepsal závazný standard AI bezpečnosti a soukromí pro školy v USA

Prezidentka AFT Randi Weingarten, prezident United Federation of Teachers Michael Mulgrew a viceprezident a prezident Microsoft Brad Smith oznámili Národní standard AI bezpečnosti a soukromí pro školy dne 9. září 2026, podepsanou dohodu, která umožňuje školským okrskům v USA přidat smluvně vynutitelné ochrany soukromí a bezpečnosti AI do svých zákaznických smluv s Microsoftem.

Oznámení, učiněné v New Yorku, představilo standard jako reakci na to, co označilo za nedostatek smysluplných federálních a státních předpisů upravujících AI ve školách, a popisovalo jej jako první takovou dohodu po měsících jednání. Ochrany jsou stanoveny v závazném Memorandu o dohodě mezi Národní akademií pro výuku AI a společností Microsoft Corporation, s otevřenými místy pro další poskytovatele AI, aby se připojili. Weingarten a Smith podepsali dohodu 7. září 2026.

Weingartenová uvedla, že dohoda zajišťuje tři základní cíle: ochranu soukromí a údajů dětí, poskytnutí školám skutečné kontroly nad nástroji AI ve třídě a zajištění transparentnosti a informací pro rodiče. Řekla, že odbory jednaly, protože nikdo jiný, včetně federální vlády, nepodnikl kroky. „HIPAA a FERPA si nikdy nepředstavovaly příchod AI,“ řekla v oznámení Microsoftu, „a v nepřítomnosti těchto ochran musí technologické společnosti převzít odpovědnost za produkty, které vytvářejí a nabízejí studentům, pedagogům a komunitám.“

Smith uvedl, že standard klade vysoké nároky na soukromí dětí a bezpečnost AI, a řekl, že Microsoft rozšíří dohodu na každý školský okrsek v celé zemi. Mulgrew, který vede 200 000člennou newyorskou pobočku AFT, řekl, že to poskytuje rodinám a okrskům informace a ochranu soukromí, po které žádaly, a posiluje okrsky v ukončování smluv a vymáhání náhrad od poskytovatelů, kteří pravidla poruší.

Deset závazných principů

Memorandum stanoví deset základních principů a uvádí, že každý je závazným závazkem; splnění jen některých z nich neznamená soulad. První princip zakazuje poskytovateli používat jakákoli „Zahrnutá data“ (definovaná jako výzvy, výstupy AI, nahrané soubory, behaviorální signály a metadata) k trénování, doladění, benchmarkingu nebo jinému vylepšování jakéhokoli modelu AI. Zákaz se vztahuje retrospektivně i na dříve shromážděná data, zavazuje dceřiné společnosti, podzpracovatele a třetí strany poskytovatele a přežívá ukončení dohody neomezeně. Úzká výjimka umožňuje zpracování pouze pro účely bezpečnosti a ochrany, výslovně zakazuje obecné zlepšování modelu a vyžaduje, na požádání, roční prohlášení podepsané vyšším úředníkem, které potvrzuje, že žádná Zahrnutá data nebyla použita k tréninku mimo výjimku a že nic odvozeného z nich nepřesunulo z bezpečnostních systémů do jiných modelů či produktů.

Druhý princip omezuje sběr dat na to, co je naprosto nezbytné pro dodání smluveného produktu, a zakazuje přesné sledování polohy, behaviorální sledování, zaznamenávání stisků kláves, dlouhodobé profilování a sběr biometrických údajů. Sběr dat od studentů mladších 13 let vyžaduje ověřitelný souhlas rodičů v souladu s COPPA, federálním zákonem o online soukromí dětí, kde je takový souhlas právně vyžadován. Podle třetího principu patří veškerá Zahrnutá data výhradně okrsku a jeho studentům. Poskytovatel nesmí nikdy prodávat ani používat k reklamě, musí poskytovat exporty ve standardních strojově čitelných formátech, musí smazat data z aktivních systémů do 180 dnů od požadavku na smazání a musí uchovávat Zahrnutá data výhradně v Evropské unii nebo Severní Americe. Anonymizovaná telemetrická data jsou vyjmuta pro účely bezpečnosti, spolehlivosti a vylepšování produktu, avšak dohoda zakazuje jejich použití pro trénink generativních modelů, profilování, personalizaci nebo reklamu.

Lidský dohled, bezpečnost a vymáhání

Čtvrtý princip vyžaduje smysluplnou lidskou revizi před tím, než jakýkoli zahrnutý AI systém učiní rozhodnutí pro pedagogy nebo studenty. Zakazuje funkce typu společník nebo vztahové funkce navržené k podpoře emocionálního pouta či závislosti a požaduje, aby externě důsledné agentní funkce, tj. schopnosti jednat jménem studenta mimo systémy poskytovatele, byly ve výchozím nastavení vypnuté, pokud je neaktivuje oprávněný správce okrsku. Poskytovatelé musí také udržovat krizové protokoly pro vysoce rizikový obsah týkající se sebepoškozování nebo násilí. Akademie bude instruovat pedagogy, že nemohou používat AI pro automatické hodnocení bez lidské revize, automatické disciplinární nebo umístění rozhodnutí, emocionální či psychologické hodnocení nebo behaviorální sledování.

Pátý princip vyžaduje aktuální nezávislé certifikace, včetně SOC 2 Type II, ISO 27001, ISO 27701 a ISO 42001 nebo ekvivalentu, plus autorizaci FedRAMP Moderate, kde je to vyžadováno. Poskytovatelé musí informovat okrsek o potvrzeném nebo rozumně podezřelém narušení nejpozději do 72 hodin od zjištění a musí udržovat veřejnou stránku důvěry, kde jsou uvedeny certifikace, souhrny auditů a známé minulé bezpečnostní incidenty postihující zákazníky ve vzdělávání, aktualizovanou alespoň čtvrtletně. Pokud zůstane podstatné narušení nevyřešeno, může Akademie nebo AFT odebrat účast poskytovatele a veřejně oznámit odebrání.

Zbývající principy vyžadují bezpečnostní opatření včetně šifrování a vícefaktorové autentizace, podpořená ročním nezávislým penetračním testováním; srozumitelných příruček a častých otázek pro rodiny do 90 dnů; funkcí přístupnosti a testování spravedlnosti napříč různorodými skupinami studentů, včetně nezávislé analýzy rovnosti financované poskytovatelem do 12 měsíců; kontrol proti rozšiřování funkcí a uzamčení u dodavatele, s možností exportu dat bez poplatků; a trvalých zákazu používání Zahrnutých dat k tréninku nebo jejich prodeji, s povinnostmi mazání a hlášení narušení, které přetrvávají po skončení smlouvy.

Dohoda platí dva roky od podpisu a musí být písemně obnovena, aby pokračovala; poskytovatel se může odstoupit s 60denní písemnou výpovědí. Dodatek uvádí, že Microsoft dosud neprovedl nezávislé hodnocení ISO 42001 pro své vzdělávací AI produkty a cílí na certifikaci do 31. prosince 2027, a že zákazy sledování se nevztahují na Speaker Coach nebo Speaker Progress, dva nástroje pro koučování veřejného projevu, během uživatelem iniciovaných mluvených aktivit.

Dostupnost a pozadí odborů

Standard rozšiřuje předchozí práci AFT. V roce 2024 odbor vydal své „Rozumné zábrany pro používání pokročilých technologií ve školách“, postavené na devíti základních principech, a v roce 2025 oznámil Národní akademii pro výuku AI, aby školila pedagogy v používání a zneužívání AI nástrojů. Ve svém květnovém projevu s názvem „Zařízení dolů, oči vzhůru, prakticky“ Weingartenová požadovala zákaz obrazovek od mateřské školy po druhý ročník, zákaz AI určené studentům v základních školách a zákaz sociálních společníků‑chatbotů pro studenty mladší 16 let. Podle oznámení podobné rámce přijaly Los Angeles Unified School District a New York State United Teachers a v týdnu před oznámením i New York City Public Schools a starosta Zohran Mamdani.

Podle dohody musí každý účastnící se poskytovatel na požádání poskytnout zákazníkům ve vzdělávání podstatné ochrany standardu do 90 dnů od účinného data, začleněné do existující smlouvy o ochraně údajů, licence nebo dodatku. Microsoftův fact sheet uvádí, že společnost také poskytne vedoucím vzdělávání a rodinám srozumitelnou informaci o tom, jak její AI produkty fungují ve třídách, a uvádí, že od 1. listopadu 2026 Microsoft zpřístupní ochrany každému školskému okrsku ve Spojených státech, přidatelné k novým nebo stávajícím smlouvám bez nutnosti přejednání nebo obnovení smlouvy.