Microsoft подписывает обязательный стандарт безопасности и конфиденциальности ИИ для школ США

Президент AFT Рэнди Вайнгартен, президент United Federation of Teachers Майкл Малгру и вице‑председатель и президент Microsoft Брэд Смит объявили о Национальном стандарте безопасности и конфиденциальности ИИ для школ 9 сентября 2026 года, подписанном соглашении, которое позволяет школьным округам США добавлять в свои клиентские соглашения с Microsoft юридически обязательные защиты конфиденциальности и безопасности ИИ.

Объявление, сделанное в Нью‑Йорке, представило стандарт как реакцию на то, что он назвал отсутствием значимых федеральных и штатных правил, регулирующих ИИ в школах, и описало его как первое в своем роде соглашение после многомесячных переговоров. Защиты изложены в обязательном Memorandum of Agreement между Национальной академией обучения ИИ и корпорацией Microsoft, с открытыми местами для подписания другими поставщиками ИИ. Вайнгартен и Смит подписали соглашение 7 сентября 2026 года.

Вайнгартен заявила, что соглашение обеспечивает три фундаментальные цели: защита конфиденциальности и данных детей, предоставление школам реального контроля над инструментами ИИ в классе и обеспечение прозрачности и информации для родителей. Она сказала, что профсоюзы действовали, потому что никто другой, включая федеральное правительство, не взял инициативу на себя. «HIPAA и FERPA никогда не предвидели появление ИИ», — сказала она в объявлении Microsoft, «и при отсутствии этих защит технологические компании должны нести ответственность за продукты, которые они создают и предлагают студентам, педагогам и сообществам».

Смит отметил, что стандарт устанавливает высокий уровень защиты конфиденциальности детей и безопасности ИИ, и заявил, что Microsoft расширит соглашение на каждый школьный округ по всей стране. Малгру, возглавляющий филиал AFT в Нью‑Йорке с 200 000 членов, сказал, что он предоставляет семьям и округам информацию и защиты конфиденциальности, которые они требовали, и дает возможность округам прекращать соглашения и требовать компенсацию от поставщиков, нарушающих правила.

Десять обязательных принципов

В меморандуме изложены десять основных принципов и указано, что каждый из них является обязательным обязательством; соблюдение лишь части из них не считается выполнением требований. Первый принцип запрещает поставщику использовать любые охваченные данные (Covered Data), определяемые как подсказки, выводы ИИ, загруженные файлы, поведенческие сигналы и метаданные, для обучения, донастройки, бенчмаркинга или иного улучшения любой модели ИИ. Запрет применяется ретроспективно к ранее собранным данным, обязывает дочерние компании, субподрядчиков и сторонних партнёров поставщика и сохраняется после прекращения действия соглашения на неопределённый срок. Узкое исключение допускает обработку только в целях безопасности и защиты, явно запрещает общее улучшение модели и требует, по запросу, ежегодного заявления, подписанного старшим должностным лицом, подтверждающего, что охваченные данные не использовались для обучения за пределами исключения и что ничего, полученного из них, не перешло из систем безопасности в другие модели или продукты.

Второй принцип ограничивает сбор данных только тем, что строго необходимо для предоставления заключённого продукта, и запрещает точное отслеживание геолокации, поведенческий трекинг, запись нажатий клавиш, длительное профилирование и сбор биометрических данных. Сбор данных от учащихся младше 13 лет требует проверенного согласия родителей, соответствующего требованиям COPPA, федерального закона о конфиденциальности детей в интернете, где такое согласие юридически необходимо. Согласно третьему принципу, округ и его учащиеся являются единственными владельцами всех охваченных данных. Поставщик никогда не может продавать их или использовать в рекламных целях, обязан предоставлять экспорт в стандартных машиночитаемых форматах, удалять данные из активных систем в течение 180 дней после запроса об удалении и хранить охваченные данные исключительно в Европейском союзе или Северной Америке. Деидентифицированные телеметрические данные исключаются для целей безопасности, надёжности и улучшения продукта, однако соглашение запрещает их использование для обучения генеративных моделей, профилирования, персонализации или рекламы.

Человеческий контроль, безопасность и соблюдение

Четвёртый принцип требует значимого человеческого контроля перед тем, как любая охваченная система ИИ принимает решения для педагогов или учащихся. Он запрещает функции в виде «компаньона» или ориентированные на отношения, предназначенные для создания эмоциональной привязанности или зависимости, и требует, чтобы внешне значимые агентные функции, то есть возможности, действующие от имени ученика вне систем поставщика, были отключены по умолчанию, если только уполномоченный администратор округа не активирует их. Поставщики также обязаны поддерживать протоколы уровня кризиса для контента высокого риска, связанного с саморазрушением или насилием. Академия будет инструктировать педагогов, что они не могут использовать ИИ для автоматической оценки без человеческого контроля, автоматических дисциплинарных или размещающих решений, эмоциональной или психологической оценки, а также наблюдения за поведением.

Пятый принцип требует наличия актуальных независимых сертификатов, включая SOC 2 Type II, ISO 27001, ISO 27701 и ISO 42001 или их эквиваленты, а также авторизацию FedRAMP Moderate, где это необходимо. Поставщики обязаны уведомлять округ о подтверждённом или обоснованно подозреваемом нарушении не позднее чем через 72 часа после получения информации, а также поддерживать публичную страницу доверия, где перечислены сертификаты, резюме аудитов и известные прошлые инциденты безопасности, затрагивающие образовательных клиентов, обновляемую минимум раз в квартал. Если существенное нарушение остаётся не устранённым, Академия или AFT могут отозвать участие поставщика и публично объявить об отзыве.

Оставшиеся принципы требуют внедрения средств безопасности, включая шифрование и многофакторную аутентификацию, подкреплённые ежегодным независимым тестированием на проникновение; простых руководств и FAQ для семей в течение 90 дней; функций доступности и тестов справедливости для разнообразных групп учащихся, включая независимый анализ равенства, финансируемый поставщиком, в течение 12 месяцев; контроля над «разрастанием» функций и привязанностью к поставщику, с возможностью экспорта данных без оплаты; а также постоянных запретов на использование охваченных данных для обучения или их продажи, с обязанностями по удалению и сообщению о нарушениях, сохраняющимися после окончания контракта.

Соглашение действует в течение двух лет с момента подписания и должно быть продлено письменно для продолжения; поставщик может выйти из него, предоставив письменное уведомление за 60 дней. Приложение фиксирует, что Microsoft ещё не завершила независимую оценку ISO 42001 для своих образовательных продуктов ИИ и планирует получить сертификат к 31 декабря 2027 года, а также что запреты на отслеживание не применяются к Speaker Coach и Speaker Progress, двум инструментам по подготовке к публичным выступлениям, во время пользовательских речевых активностей.

Доступность и фон профсоюза

Стандарт расширяет предыдущую работу AFT. В 2024 году профсоюз выпустил «Разумные ограничения для использования передовых технологий в школах», построенный вокруг девяти основных принципов, а в 2025 году объявил о создании Национальной академии обучения ИИ для подготовки педагогов к использованию и неправильному использованию инструментов ИИ. В майской речи под названием «Устройства выключены, глаза подняты, руки в деле» Вайнгартен призвала к запрету экранов с детского сада по второй класс, запрету ИИ, направленного на учеников в начальной школе, и запрету социальных чат‑ботов‑компаньонов для учащихся младше 16 лет. По данным объявления, аналогичные рамки были приняты Объединённым школьным округом Лос‑Анджелеса и Нью‑Йоркским союзом учителей, а за неделю до объявления — общественными школами Нью‑Йорка и мэром Зохраном Мамдани.

Согласно соглашению, каждый участвующий поставщик обязан предоставить существенные защиты стандарта клиентам в сфере образования по запросу в течение 90 дней с даты вступления в силу, включив их в существующее соглашение о конфиденциальности данных, лицензию или приложение. В информационном листе Microsoft говорится, что компания также предоставит руководителям образования и семьям понятную информацию о том, как её продукты ИИ работают в классных комнатах, и указывает, что начиная с 1 ноября 2026 года Microsoft сделает эти защиты доступными для каждого школьного округа в США, добавляемыми к новым или существующим соглашениям без необходимости пересмотра или продления контракта.