Microsoft Menandatangani Standar Keamanan dan Privasi AI yang Mengikat untuk Sekolah-sekolah di AS

Presiden AFT Randi Weingarten, Presiden United Federation of Teachers Michael Mulgrew, dan Wakil Ketua serta Presiden Microsoft Brad Smith mengumumkan Standar Nasional Keamanan & Privasi AI untuk sekolah pada 9 September 2026, sebuah perjanjian yang ditandatangani yang memungkinkan distrik sekolah di AS menambahkan perlindungan privasi dan keamanan AI yang dapat ditegakkan secara kontrak ke dalam perjanjian pelanggan Microsoft mereka.

Pengumuman yang dibuat di New York menempatkan standar ini sebagai respons terhadap apa yang disebutnya sebagai ketiadaan aturan federal dan negara bagian yang bermakna mengatur AI di sekolah, dan menggambarkannya sebagai perjanjian pertama sejenis setelah berbulan‑bulan negosiasi. Perlindungan tersebut diatur dalam sebuah Memorandum of Agreement yang mengikat antara National Academy for AI Instruction dan Microsoft Corporation, dengan slot terbuka bagi penyedia AI tambahan untuk menandatangani. Weingarten dan Smith menandatangani perjanjian tersebut pada 7 September 2026.

Weingarten mengatakan perjanjian ini menjamin tiga tujuan dasar: melindungi privasi dan data anak-anak, memberi sekolah kontrol nyata atas alat AI di ruang kelas, dan menyediakan transparansi serta informasi bagi orang tua. Ia menyatakan serikat bertindak karena tidak ada pihak lain, termasuk pemerintah federal, yang mengambil inisiatif. “HIPAA dan FERPA tidak pernah membayangkan munculnya AI,” katanya dalam pengumuman Microsoft, “dan karena tidak adanya perlindungan tersebut, perusahaan teknologi harus mengambil tanggung jawab atas produk yang mereka ciptakan dan pasarkan kepada siswa, pendidik, dan komunitas.”

Smith mengatakan standar ini menetapkan ambang tinggi untuk privasi anak dan keamanan AI serta menyatakan Microsoft akan memperluas perjanjian ini ke setiap distrik sekolah di seluruh negeri. Mulgrew, yang memimpin afiliasi AFT New York City dengan 200.000 anggota, mengatakan hal ini memberikan keluarga dan distrik informasi serta perlindungan privasi yang mereka tuntut serta memberdayakan distrik untuk mengakhiri perjanjian dan menuntut ganti rugi dari penyedia yang melanggar aturan.

Sepuluh Prinsip Mengikat

Memorandum tersebut menetapkan sepuluh prinsip inti dan menyatakan bahwa masing‑masing merupakan komitmen yang mengikat; mematuhi sebagian tetapi tidak semua tidak dianggap kepatuhan. Prinsip pertama melarang penyedia menggunakan Data yang Dicakup, yang didefinisikan mencakup prompt, output AI, berkas yang diunggah, sinyal perilaku, dan metadata, untuk melatih, menyempurnakan, mengukur, atau memperbaiki model AI apa pun. Larangan ini berlaku retroaktif pada data yang telah dikumpulkan sebelumnya, mengikat anak perusahaan, sub‑prosesor, dan mitra pihak ketiga penyedia, serta tetap berlaku selamanya meskipun perjanjian berakhir. Pengecualian sempit memperbolehkan pemrosesan hanya untuk tujuan keamanan dan keselamatan, secara tegas melarang perbaikan model secara umum, dan mengharuskan, atas permintaan, pernyataan tahunan yang ditandatangani oleh pejabat senior yang mengonfirmasi bahwa tidak ada Data yang Dicakup yang digunakan untuk pelatihan di luar pengecualian serta tidak ada hasilnya yang berpindah dari sistem keamanan ke model atau produk lain.

Prinsip kedua membatasi pengumpulan data hanya pada apa yang benar‑benar diperlukan untuk menyampaikan produk yang dikontrak dan melarang pelacakan geolokasi yang tepat, pelacakan perilaku, pencatatan ketukan tombol, profil jangka panjang, serta pengumpulan data biometrik. Pengumpulan data dari siswa di bawah 13 tahun memerlukan persetujuan orang tua yang dapat diverifikasi sesuai dengan COPPA, undang‑undang privasi online anak federal, di mana persetujuan tersebut secara hukum diwajibkan. Berdasarkan prinsip ketiga, distrik dan siswanya memiliki semua Data yang Dicakup secara eksklusif. Penyedia tidak boleh menjualnya atau menggunakannya untuk iklan, harus menyediakan ekspor dalam format standar yang dapat dibaca mesin, harus menghapus data dari sistem aktif dalam waktu 180 hari setelah permintaan penghapusan, dan harus menyimpan Data yang Dicakup hanya di Uni Eropa atau Amerika Utara. Data telemetri yang tidak teridentifikasi dikecualikan untuk keamanan, keandalan, dan peningkatan produk, namun perjanjian melarang penggunaannya untuk pelatihan model generatif, profiling, personalisasi, atau iklan.

Pengawasan Manusia, Keamanan, dan Penegakan

Prinsip keempat mengharuskan tinjauan manusia yang bermakna sebelum sistem AI yang tercakup membuat keputusan bagi pendidik atau siswa. Ia melarang fitur bergaya pendamping atau berorientasi hubungan yang dirancang untuk menumbuhkan keterikatan emosional atau ketergantungan, serta mengharuskan fitur agenik yang berdampak eksternal, yaitu kemampuan yang bertindak atas nama siswa di luar sistem penyedia, dinonaktifkan secara default kecuali administrator distrik yang berwenang mengaktifkannya. Penyedia juga harus mempertahankan protokol tingkat krisis untuk konten berisiko tinggi yang melibatkan bunuh diri atau kekerasan. Akademi akan memberi petunjuk kepada pendidik bahwa mereka tidak dapat menggunakan AI untuk penilaian otomatis tanpa tinjauan manusia, keputusan disiplin atau penempatan otomatis, penilaian emosional atau psikologis, atau pengawasan perilaku.

Prinsip kelima mensyaratkan sertifikasi independen terkini, termasuk SOC 2 Type II, ISO 27001, ISO 27701, dan ISO 42001 atau yang setara, serta otorisasi FedRAMP Moderate bila diperlukan. Penyedia harus memberi tahu distrik tentang pelanggaran yang terkonfirmasi atau diduga secara wajar tidak lebih dari 72 jam setelah mengetahuinya, dan harus memelihara halaman kepercayaan publik yang menampilkan daftar sertifikasi, ringkasan audit, serta insiden keamanan masa lalu yang diketahui memengaruhi pelanggan pendidikan, diperbarui setidaknya setiap kuartal. Jika pelanggaran material tidak diperbaiki, Akademi atau AFT dapat mencabut partisipasi penyedia dan mengumumkan pencabutan tersebut secara publik.

Prinsip‑prinsip yang tersisa menuntut kontrol keamanan termasuk enkripsi dan otentikasi multi‑faktor, didukung oleh pengujian penetrasi independen tahunan; panduan bahasa sederhana dan FAQ untuk keluarga dalam waktu 90 hari; fitur aksesibilitas dan pengujian keadilan di seluruh populasi siswa yang beragam, termasuk analisis kesetaraan independen yang didanai penyedia dalam 12 bulan; kontrol terhadap pertumbuhan fitur dan penguncian vendor, dengan data dapat diekspor tanpa biaya; serta larangan permanen menggunakan Data yang Dicakup untuk pelatihan atau penjualan, dengan kewajiban penghapusan dan pelaporan pelanggaran yang berlangsung lebih lama daripada kontrak.

Perjanjian ini berlaku selama dua tahun sejak penandatanganan dan harus diperpanjang secara tertulis untuk berlanjut; penyedia dapat mengundurkan diri dengan pemberitahuan tertulis 60 hari. Sebuah adendum mencatat bahwa Microsoft belum menyelesaikan penilaian ISO 42001 independen untuk produk AI pendidikan mereka dan menargetkan sertifikasi pada 31 Desember 2027, serta bahwa larangan pelacakan tidak berlaku untuk Speaker Coach atau Speaker Progress, dua alat pelatihan berbicara di depan umum, selama aktivitas berbicara yang diprakarsai pengguna.

Ketersediaan dan Latar Belakang Serikat

Standar ini memperluas pekerjaan AFT sebelumnya. Pada tahun 2024 serikat tersebut merilis Commonsense Guardrails for Using Advanced Technology in Schools, yang dibangun di sekitar sembilan prinsip inti, dan pada tahun 2025 mengumumkan National Academy for AI Instruction untuk melatih pendidik dalam penggunaan dan penyalahgunaan alat AI. Dalam pidato Mei berjudul “Devices Down, Eyes Up, Hands-On,” Weingarten menyerukan larangan layar dari taman kanak‑kanak hingga kelas dua, larangan AI yang dihadapkan pada siswa di sekolah dasar, dan larangan chatbot pendamping sosial untuk siswa di bawah 16 tahun. Menurut pengumuman tersebut, kerangka kerja serupa telah diadopsi oleh Los Angeles Unified School District dan New York State United Teachers, serta, pada minggu menjelang pengumuman, oleh New York City Public Schools dan Walikota Zohran Mamdani.

Menurut perjanjian tersebut, setiap penyedia yang berpartisipasi harus menyediakan perlindungan substantif standar kepada pelanggan pendidikan atas permintaan dalam waktu 90 hari sejak tanggal efektif, yang dimasukkan ke dalam perjanjian privasi data, lisensi, atau adendum yang sudah ada. Lembar fakta Microsoft menyatakan perusahaan juga akan memberikan pemimpin pendidikan dan keluarga informasi dalam bahasa yang mudah dipahami tentang cara produk AI mereka bekerja di ruang kelas, dan menyebutkan bahwa mulai 1 November 2026, Microsoft akan membuat perlindungan tersebut tersedia untuk setiap distrik sekolah di Amerika Serikat, dapat ditambahkan ke perjanjian baru atau yang sudah ada tanpa memerlukan negosiasi ulang atau perpanjangan kontrak.