Apa Itu Pembelajaran Terfederasi?

Federated learning melatih model bersama di banyak perangkat atau organisasi sambil menjaga data pelatihan mentah masing-masing peserta tetap lokal. Koordinator mendistribusikan parameter model, klien menghitung pembaruan pada data mereka sendiri, dan langkah agregasi menggabungkan pembaruan tersebut.

Menyimpan data secara lokal berguna, tetapi tidak identik dengan privasi atau keamanan. Pembaruan model dapat mengungkap informasi, klien yang terkompromi dapat meracuni pelatihan, dan koordinator tetap memerlukan otentikasi, keamanan transport, kontrol akses, serta model kepercayaan yang terdefinisi.

Poin-poin utama

• Pembelajaran terfederasi memindahkan komputasi ke data yang terdistribusi; tidak memindahkan dataset mentah ke satu pelatih pusat.
• Sistem lintas-perangkat melibatkan banyak perangkat yang bersifat intermiten, sementara sistem lintas-silo melibatkan lebih sedikit organisasi yang lebih stabil.
• Agregasi aman dan privasi diferensial menangani risiko yang berbeda dan dapat digabungkan.
• Data non-IID, bandwidth terbatas, partisipasi yang tidak dapat diandalkan, dan pembaruan berbahaya merupakan kendala desain utama.

Siklus Rata-rata Terfederasi

Siklus tipikal dimulai ketika koordinator memilih klien yang memenuhi syarat dan mengirimkan model terkini. Setiap klien melatih secara lokal selama sejumlah langkah terbatas, menghasilkan pembaruan parameter atau gradien. Koordinator mengagregasi pembaruan yang memenuhi syarat—seringkali dengan bobot berdasarkan jumlah contoh lokal—dan memublikasikan model bersama yang baru.

Hanya sebagian kecil klien yang dapat berpartisipasi pada setiap siklus. Protokol harus dapat menoleransi koneksi terputus, ketidaksesuaian versi, dan perangkat yang tidak dapat melatih saat sedang diisi daya, sibuk, atau offline. Komunikasi dapat mendominasi komputasi, sehingga kompresi pembaruan dan jumlah perjalanan siklus yang lebih sedikit seringkali lebih penting daripada kecepatan akselerator mentah.

Lintas-perangkat vs lintas-silo

Pembelajaran terfederasi lintas-perangkat dapat melibatkan ponsel, sensor, atau peramban yang dimiliki oleh banyak individu. Klien berjumlah banyak, kepercayaannya lemah, dan tersedia secara intermiten. Pembelajaran terfederasi lintas-silo biasanya menghubungkan sekumpulan kecil rumah sakit, bank, atau unit bisnis dengan infrastruktur stabil dan tata kelola kontraktual.

Kedua pengaturan memerlukan asumsi identitas, audit, dan kegagalan yang berbeda. Proyek lintas-silo dapat merundingkan skema bersama dan proses validasi; layanan lintas-perangkat mungkin harus menangani jutaan versi perangkat lunak dan dataset lokal yang sangat tidak merata.

Agregasi aman, privasi diferensial, dan enkripsi

Agregasi aman adalah protokol kriptografi yang memungkinkan server memperoleh agregat tanpa membaca pembaruan masing-masing klien. Privasi diferensial membatasi sejauh mana hasil yang dirilis dapat bergantung pada satu catatan atau peserta dengan memotong kontribusi dan menambahkan noise yang terkalibrasi.

Tidak satu pun mekanisme menyelesaikan semua risiko. Agregasi aman tidak membuat agregat menjadi tidak berbahaya, dan privasi diferensial menimbulkan trade‑off akurasi‑privasi yang harus dipertimbangkan dengan anggaran privasi yang eksplisit. Enkripsi melindungi data dalam transit atau penyimpanan; namun enkripsi sendiri tidak mencegah inferensi dari model.

Data non-IID dan kualitas model

Data klien jarang bersifat independen dan identik terdistribusi. Model papan ketik melihat kosakata masing‑masing orang; rumah sakit melayani populasi yang berbeda; pabrik menggunakan peralatan yang berbeda. Perbedaan ini dapat memperlambat konvergensi dan menyembunyikan kinerja buruk pada kelompok klien kecil.

Evaluasi harus mencakup metrik global, distribusi per‑klien atau kohort, kalibrasi, dan analisis kegagalan. Set pengujian pusat mungkin nyaman tetapi tidak memadai. Hal ini menghubungkan pembelajaran terfederasi dengan pembelajaran mesin kualitas data dan tata kelola data terstruktur dan tidak terstruktur.

Ancaman dan kontrol operasional

Klien jahat dapat mengirimkan pembaruan beracun, klien sybil dapat mendistorsi agregasi, dan server yang terkompromi dapat mendistribusikan model yang ditargetkan. Pertahanan meliputi pendaftaran terautentikasi, deteksi anomali, agregasi kuat, validasi pembaruan, pembatasan laju, dan attestasi perangkat lunak yang dapat direproduksi bila memungkinkan.

Pembelajaran terfederasi berada dalam program keamanan siber yang lebih luas. Tim harus mendokumentasikan siapa yang mengendalikan koordinator, metadata apa yang dikumpulkan, bagaimana peserta dapat keluar, bagaimana model dapat di‑rollback, dan apa yang terjadi ketika tes privasi atau kualitas gagal.

Optimasi terfederasi dan heterogenitas data

Pembelajaran terfederasi mengirimkan model atau tugas pembaruan ke klien yang berpartisipasi, melatih secara lokal, dan mengagregasi pembaruan tanpa memusatkan contoh mentah. Pada rata‑rata terfederasi, klien terpilih menjalankan beberapa langkah optimasi lokal dan server menghitung rata‑rata berbobot, biasanya berdasarkan jumlah contoh. Putaran komunikasi, epoch lokal, seleksi, dan laju pembelajaran menukarkan bandwidth dengan konvergensi. Pengaturan lintas‑perangkat melibatkan banyak ponsel atau sensor yang tidak dapat diandalkan; pengaturan lintas‑silo melibatkan lebih sedikit organisasi dengan komputasi, identitas, dan tata kelola yang lebih kuat.

Data klien biasanya tidak independen dan tidak merata: pengguna berbeda dalam perilaku, distribusi label, volume, dan ketersediaan. Pelatihan lokal dapat menyimpang ke arah yang tidak kompatibel, membuat rata‑rata sederhana menjadi tidak stabil atau bias terhadap klien aktif dengan volume tinggi. Algoritma dapat menggunakan istilah proksimal, optimasi server adaptif, pengelompokan, personalisasi, atau variabel kontrol. Evaluasi harus melaporkan kinerja global dan tingkat klien, klien ekor, frekuensi partisipasi, konvergensi, komunikasi, dan energi. Rata‑rata yang baik dapat menyembunyikan bahwa populasi klien kecil atau langka menerima model yang lebih buruk.

Privasi, keamanan, dan rekayasa sistem

Menyimpan data secara lokal tidak serta‑merta menjamin privasi. Gradien dan pembaruan dapat mengungkap keanggotaan atau fitur, sementara model akhir dapat mengingat contoh. Agregasi aman menyembunyikan pembaruan individu dari server, dan privasi diferensial membatasi kontribusi informasi dengan memotong dan menambahkan noise, namun keduanya mengubah kegunaan dan kompleksitas operasional. Nyatakan model ancaman, unit privasi, anggaran, dan komponen tepercaya. Enkripsi dalam transit diperlukan tetapi tidak mencegah klien jahat, pembaruan beracun, koordinator yang terkompromi, atau serangan inferensi.

Pertahanan meliputi klien terautentikasi, agregasi kuat, pemeriksaan anomali, batas pembaruan, enclave aman pada beberapa desain, dan validasi terhadap data bersih. Penyerang sybil dapat membuat banyak klien; pintu belakang dapat bertahan melalui rata‑rata; menolak pembaruan mencurigakan juga dapat mengecualikan perilaku langka yang sah. Versi kode klien, dukung putaran terputus, cegah pemutaran ulang, dan rancang untuk klien yang tertinggal serta keterbatasan perangkat. Persetujuan, retensi, peraturan regional, dan penghapusan tetap berlaku pada data lokal dan pembaruan yang dihasilkan.

Contoh penerapan dan tata kelola

Papan ketik seluler dapat melatih perbaikan prediksi kata berikutnya secara lokal, tetapi peluncuran harus menggunakan populasi yang memenuhi syarat berdasarkan kemampuan perangkat dan persetujuan, mengumpulkan pembaruan terlindungi yang dipotong, serta membandingkannya dengan baseline beku. Validasi kinerja bahasa dan dialek, baterai, penggunaan data, dan risiko memori sebelum rilis. Klien memerlukan tugas pelatihan dan pembaruan model yang ditandatangani; server memerlukan konfigurasi putaran yang dapat diaudit dan kemampuan rollback. Pembelajaran terfederasi adalah arsitektur untuk pembelajaran terdistribusi di bawah kendala, bukan pengganti data representatif, rekayasa privasi, atau akuntabilitas.

Contoh kerja: pembelajaran terfederasi lintas rumah sakit

Rumah sakit melatih model kualitas gambar bersama tanpa mengumpulkan pemindaian. Protokol umum mendefinisikan metadata perangkat, label, pra‑pemrosesan, kelayakan klien, epoch lokal, pemotongan, dan agregasi aman. Situs mempertahankan data pasien dan mengirimkan pembaruan terlindungi, sementara koordinator mengevaluasi setiap siklus pada set terpisah lokal. Hasil melaporkan kinerja tingkat situs dan ekor, bukan hanya rata‑rata berbobot volume, karena rumah sakit kecil dan tipe perangkat dapat diabaikan.

Model ancaman mencakup pembaruan berbahaya, kebocoran keanggotaan, klien yang terkompromi, dan akses koordinator. Privasi diferensial dikonfigurasi dengan anggaran yang terdokumentasi dan kegunaan yang diuji. Paket model dan tugas ditandatangani; situs dapat menarik dan pembaruan dapat diaudit. Siklus yang beracun atau tidak stabil tidak secara otomatis menggantikan model yang diterapkan. Proyek mempertahankan baseline lokal dan tinjauan klinis, serta memperlakukan arsitektur terfederasi sebagai satu kontrol privasi dalam persetujuan, keamanan, dan kewajiban tata kelola yang lebih luas.

Bukti implementasi dan kesiapan operasional

Keputusan produksi memerlukan lebih dari sekadar demonstrasi yang berhasil. Tentukan pengguna yang dimaksud, lingkungan operasi, masukan, keluaran, ketergantungan, pemilik, dan konsekuensi setiap kegagalan penting. Bangun baseline yang dapat direproduksi dan set evaluasi berversi sebelum penyetelan. Uji kasus biasa, kondisi batas, masukan yang rusak atau hilang, pergeseran distribusi, gangguan ketergantungan, penyalahgunaan, serta kelompok atau lingkungan yang paling mungkin kurang terlayani. Ukur kualitas tugas bersama dengan kalibrasi atau ketidakpastian, latensi, throughput, biaya sumber daya, aksesibilitas, privasi, dan keamanan. Catat setiap transformasi dan ambang batas sehingga peninjau independen dapat mereproduksi hasil dan membedakan bukti dari prototipe yang menarik.

Sebelum peluncuran, tetapkan otoritas untuk rilis, pengecualian, perubahan, rollback, dan pensiun. Gunakan peluncuran bertahap, pertahankan fallback yang aman, dan verifikasi pemantauan dengan kegagalan yang sengaja disuntikkan. Telemetri operasional harus mengungkap kualitas masukan, perilaku keluaran, versi model atau aturan, kesehatan ketergantungan, intervensi manusia, dan hasil yang terkonfirmasi tanpa mengumpulkan data sensitif yang tidak diperlukan. Definisikan ambang batas peringatan dan pemilik respons, kemudian tinjau bukti dunia nyata setelah penerapan alih‑alih mengasumsikan kinerja offline akan bertahan. Evaluasi kembali setiap kali sumber data, pengguna, model, vendor, kebijakan, perangkat keras, atau tujuan berubah. Sistem yang dipelihara juga memerlukan prosedur pemulihan, pembelajaran insiden, penghapusan, dan retensi yang terdokumentasi, serta titik yang jelas di mana sistem harus dinonaktifkan atau diganti.

Pertanyaan yang sering diajukan

Apakah pembelajaran terfederasi menjamin bahwa data pribadi tidak dapat bocor?

Tidak. Ini mengurangi pergerakan data mentah, tetapi pembaruan dan model akhir masih dapat mengungkap informasi. Privasi memerlukan model ancaman serta kontrol teknis dan organisasi tambahan.

Kapan pelatihan terpusat lebih sederhana?

Ketika data dapat dipusatkan secara sah dan aman, pelatihan terpusat seringkali lebih mudah untuk debug, reproduksi, dan pemantauan. Pembelajaran terfederasi dibenarkan ketika distribusi merupakan kebutuhan nyata, bukan sekadar tujuan branding.

Referensi utama

• McMahan et al.: Pembelajaran efisien komunikasi dari data terdesentralisasi
• Bonawitz et al.: Agregasi aman praktis
• Abadi et al.: Pembelajaran mendalam dengan privasi diferensial