Microsoft, 미국 학교를 위한 구속력 있는 AI 안전 및 개인정보 보호 표준에 서명

AFT 회장 Randi Weingarten, United Federation of Teachers 회장 Michael Mulgrew, 그리고 Microsoft 부회장 겸 사장 Brad Smith는 2026년 9월 9일에 학교를 위한 국가 AI 안전 및 프라이버시 표준을 발표했으며, 이는 미국 학군이 Microsoft 고객 계약에 계약상 강제 가능한 AI 프라이버시 및 안전 보호 조치를 추가할 수 있게 하는 서명된 합의입니다.

뉴욕에서 발표된 이번 발표는 학교에서 AI를 규율하는 의미 있는 연방 및 주 규정이 부재하다는 점에 대한 대응으로 표준을 제시했으며, 수개월에 걸친 협상 끝에 이와 같은 최초의 합의라고 설명했습니다. 보호 조치는 National Academy for AI Instruction와 Microsoft Corporation 간의 구속력 있는 협정 각서에 명시되어 있으며, 추가 AI 제공업체가 서명할 수 있는 여지를 남겨두고 있습니다. Weingarten와 Smith는 2026년 9월 7일에 이 합의에 서명했습니다.

Weingarten은 이 합의가 세 가지 기본 목표를 보장한다고 말했습니다: 아동의 프라이버시와 데이터 보호, 학교가 교실 내 AI 도구를 실제로 통제할 수 있게 함, 그리고 부모에게 투명성 및 정보를 제공하는 것. 그녀는 연방 정부를 포함한 다른 어떤 기관도 나서지 않았기 때문에 노조가 행동에 나섰다고 말했습니다. “HIPAA와 FERPA는 AI의 등장을 전혀 예상하지 못했습니다,” 라고 그녀는 Microsoft 발표에서 말했으며, “이러한 보호가 없을 때 기술 기업은 학생, 교육자 및 커뮤니티에게 제공하고 마케팅하는 제품에 대한 책임을 져야 합니다.”

Smith는 이 표준이 아동 프라이버시와 AI 안전에 대한 높은 기준을 설정했으며, Microsoft가 이 합의를 전국 모든 학군에 확대할 것이라고 말했습니다. 20만 명 회원을 보유한 뉴욕시 AFT 지부를 이끄는 Mulgrew는 이 표준이 가족과 학군이 요구해 온 정보와 프라이버시 보호를 제공하고, 규칙을 위반한 제공업체에 대해 계약을 종료하고 손해배상을 청구할 수 있는 권한을 학군에 부여한다고 말했습니다.

구속력 있는 10가지 원칙

이 각서는 10가지 핵심 원칙을 제시하고 각각이 구속력 있는 약속임을 명시합니다; 일부만 준수하고 모두를 준수하지 않는 것은 준수로 인정되지 않습니다. 첫 번째 원칙은 제공자가 프롬프트, AI 출력, 업로드된 파일, 행동 신호 및 메타데이터를 포함하는 모든 ‘포함 데이터(Covered Data)’를 사용해 AI 모델을 훈련, 미세조정, 벤치마크 또는 기타 방식으로 개선하는 것을 금지합니다. 이 금지는 이전에 수집된 데이터에도 소급 적용되며, 제공자의 자회사, 하위 처리자 및 제3자 파트너에도 적용되고, 계약 종료 후에도 무기한 지속됩니다. 안전 및 보안 목적에만 제한적으로 처리할 수 있는 좁은 예외가 허용되며, 일반적인 모델 개선은 명시적으로 금지됩니다. 또한 요청 시, 고위 임원이 서명한 연간 진술서를 제출하도록 요구하는데, 이는 예외 외에 포함 데이터를 훈련에 사용하지 않았으며, 안전 시스템에서 파생된 어떠한 내용도 다른 모델이나 제품으로 전이되지 않았음을 확인하는 내용입니다.

두 번째 원칙은 계약된 제품을 제공하는 데 반드시 필요한 데이터 수집만을 허용하며, 정밀 위치 추적, 행동 추적, 키스트로크 로깅, 장기 프로파일링 및 생체 정보 수집을 금지합니다. 13세 미만 학생의 데이터를 수집하려면 연방 아동 온라인 프라이버시 법인 COPPA에 부합하는 검증 가능한 부모 동의가 필요합니다. 세 번째 원칙에 따르면, 학군과 학생들은 모든 포함 데이터를 독점적으로 소유합니다. 제공자는 이를 절대 판매하거나 광고에 사용할 수 없으며, 표준 기계 판독 가능한 형식으로 데이터를 내보내야 하고, 삭제 요청 후 180일 이내에 활성 시스템에서 데이터를 삭제해야 하며, 포함 데이터는 오직 유럽 연합 또는 북미에만 저장해야 합니다. 보안·신뢰성·제품 개선을 위한 비식별화된 텔레메트리 데이터는 예외로 두지만, 이 협정은 이를 생성 모델 훈련, 프로파일링, 개인화 또는 광고에 사용하는 것을 금지합니다.

인간 감독, 보안 및 집행

네 번째 원칙은 교육자나 학생을 위해 포함된 AI 시스템이 결정을 내리기 전에 의미 있는 인간 검토를 요구합니다. 이는 감정적 애착이나 의존성을 조성하도록 설계된 동반자형 또는 관계 지향 기능을 금지하고, 제공자의 시스템 외부에서 학생을 대신해 행동을 취하는 외부적 결과를 초래하는 에이전시 기능은 권한이 있는 학군 관리자가 활성화하지 않는 한 기본적으로 비활성화하도록 요구합니다. 제공자는 또한 자해 또는 폭력과 관련된 고위험 콘텐츠에 대한 위기 수준 프로토콜을 유지해야 합니다. 아카데미는 교육자들에게 인간 검토 없이 AI를 자동 채점, 자동 징계·배치 결정, 감정·심리 평가, 혹은 행동 감시에 사용할 수 없다고 지시할 것입니다.

다섯 번째 원칙은 SOC 2 Type II, ISO 27001, ISO 27701, ISO 42001 또는 동등한 인증과, 필요한 경우 FedRAMP Moderate 승인을 포함한 최신 독립 인증을 요구합니다. 제공자는 확인되었거나 합리적으로 의심되는 침해 사실을 인지한 후 72시간 이내에 학군에 통보해야 하며, 인증서, 감사 요약 및 교육 고객에게 영향을 미친 과거 보안 사고를 열거한 공개 신뢰 페이지를 최소 분기별로 업데이트하여 유지해야 합니다. 중대한 침해가 해결되지 않을 경우, 아카데미나 AFT는 제공자의 참여를 취소하고 공개적으로 그 취소를 발표할 수 있습니다.

나머지 원칙들은 암호화와 다중 인증을 포함한 보안 통제와 연간 독립 침투 테스트를 요구합니다; 90일 이내에 가족을 위한 쉬운 언어의 안내서와 FAQ 제공; 다양한 학생 집단을 대상으로 한 접근성 기능 및 공정성 테스트, 여기에는 제공자가 자금을 지원하는 독립적인 형평성 분석을 12개월 이내에 수행하는 것이 포함됩니다; 기능 확장 및 공급업체 종속 방지를 위한 통제와 데이터 무상 내보내기; 그리고 포함 데이터를 훈련이나 판매에 사용하는 것을 영구적으로 금지하고, 계약 종료 후에도 지속되는 삭제 및 침해 보고 의무를 포함합니다.

이 계약은 서명일로부터 2년간 유효하며, 계속하려면 서면으로 갱신해야 합니다; 제공자는 60일 서면 통보로 계약을 철회할 수 있습니다. 부록에는 Microsoft가 교육용 AI 제품에 대한 독립 ISO 42001 평가를 아직 완료하지 않았으며, 2027년 12월 31일까지 인증을 목표로 하고 있고, 추적 금지는 사용자 주도 발표 활동 중에는 두 개의 공개 연설 코칭 도구인 Speaker Coach와 Speaker Progress에는 적용되지 않음이 기록되어 있습니다.

가용성 및 노조 배경

이 표준은 이전 AFT 작업을 확장합니다. 2024년에 노조는 학교에서 첨단 기술 사용을 위한 ‘상식적 가드레일’을 발표했으며, 이는 아홉 가지 핵심 원칙을 기반으로 했고, 2025년에는 AI 도구의 사용 및 오용에 대해 교육자를 교육하기 위해 국가 AI 교육 아카데미를 설립했다고 발표했습니다. 5월에 ‘디바이스를 끄고, 눈을 들어, 직접 체험’이라는 제목의 연설에서 Weingarten은 유치원부터 2학년까지 화면 사용 금지, 초등학교에서 학생을 대상으로 하는 AI 금지, 16세 이하 학생을 위한 사회적 동반 챗봇 금지를 요구했습니다. 발표에 따르면, 유사한 프레임워크가 로스앤젤레스 통합 학군과 뉴욕 주 연합 교사 협회에 도입되었으며, 발표 일주일 전에는 뉴욕시 공립학교와 시장 Zohran Mamdani에도 적용되었습니다.

협정에 따라, 참여하는 각 제공자는 표준의 실질적인 보호 조치를 교육 고객이 요청할 경우 발효일로부터 90일 이내에 기존 데이터 프라이버시 계약, 라이선스 또는 부록에 통합하여 제공해야 합니다. Microsoft의 팩트 시트에 따르면, 회사는 교육 리더와 가족에게 교실에서 AI 제품이 어떻게 작동하는지에 대한 쉬운 언어의 정보를 제공할 것이며, 2026년 11월 1일부터 Microsoft가 미국 모든 학군에 이 보호 조치를 제공하고, 계약 재협상이나 갱신 없이 새로운 계약이나 기존 계약에 추가할 수 있다고 명시하고 있습니다.