Tiga Teknik Pembelajaran Mesin yang Menjaga Privasi untuk Mengatasi Isu Paling Penting Dekade Ini

Oleh Amogh Tarcar, Peneliti Mesin Pembelajaran dan Kecerdasan Buatan, Persistent Systems.

Privasi data, menurut para ahli dari berbagai domain, akan menjadi isu paling penting di dekade ini. Ini terutama benar untuk pembelajaran mesin (ML) di mana algoritma diberi banyak data.

Secara tradisional, teknik pemodelan ML telah bergantung pada pengumpulan data dari berbagai sumber ke pusat data tunggal. Setelah semua, model ML paling kuat ketika mereka memiliki akses ke jumlah data yang besar. Namun, ada sejumlah tantangan privasi yang datang dengan teknik ini. Mengumpulkan data yang beragam dari berbagai sumber menjadi kurang memungkinkan hari ini karena kekhawatiran regulasi seperti HIPAA, GDPR, dan CCPA. Selain itu, pengumpulan data di pusat meningkatkan cakupan dan skala penyalahgunaan data dan ancaman keamanan dalam bentuk kebocoran data.

Untuk mengatasi tantangan ini, beberapa pilar pembelajaran mesin yang menjaga privasi (PPML) telah dikembangkan dengan teknik khusus yang mengurangi risiko privasi dan memastikan bahwa data tetap aman. Berikut beberapa yang paling penting:

1. Pembelajaran Terdistribusi

Pembelajaran terdistribusi adalah teknik pelatihan ML yang membalikkan masalah pengumpulan data. Alih-alih mengumpulkan data untuk membuat model ML tunggal, pembelajaran terdistribusi mengumpulkan model ML itu sendiri. Ini memastikan bahwa data tidak pernah meninggalkan lokasi sumber, dan memungkinkan beberapa pihak untuk berkolaborasi dan membangun model ML umum tanpa berbagi data sensitif secara langsung.

Ini bekerja seperti ini. Anda memulai dengan model ML dasar yang kemudian dibagikan dengan setiap node klien. Node-node ini kemudian menjalankan pelatihan lokal pada model ini menggunakan data mereka sendiri. Pembaruan model secara berkala dibagikan dengan node koordinator, yang memproses pembaruan ini dan menggabungkannya untuk mendapatkan model global baru. Dengan cara ini, Anda mendapatkan wawasan dari dataset yang beragam tanpa harus berbagi dataset ini.

Sumber: Persistent Systems

Dalam konteks kesehatan, ini adalah alat yang luar biasa dan menjaga privasi untuk menjaga data pasien aman sambil memberikan pengetahuan kepada peneliti. Dengan tidak mengumpulkan data, pembelajaran terdistribusi menciptakan lapisan keamanan tambahan. Namun, model dan pembaruan model itu sendiri masih menyajikan risiko keamanan jika dibiarkan rentan.

2. Privasi Diferensial

Model ML sering menjadi target serangan inferensi keanggotaan. Katakanlah Anda berbagi data kesehatan dengan rumah sakit untuk membantu mengembangkan vaksin kanker. Rumah sakit menjaga data Anda aman, tetapi menggunakan pembelajaran terdistribusi untuk melatih model ML yang tersedia secara publik. Beberapa bulan kemudian, peretas menggunakan serangan inferensi keanggotaan untuk menentukan apakah data Anda digunakan dalam pelatihan model atau tidak. Mereka kemudian memberikan wawasan kepada perusahaan asuransi, yang, berdasarkan risiko kanker Anda, dapat menaikkan premi Anda.

Privasi diferensial memastikan serangan musuh pada model ML tidak dapat mengidentifikasi titik data tertentu yang digunakan selama pelatihan, sehingga mengurangi risiko mengungkapkan data pelatihan sensitif dalam pembelajaran mesin. Ini dilakukan dengan menerapkan “noise statistik” untuk mengganggu data atau parameter model ML selama pelatihan, membuatnya sulit untuk menjalankan serangan dan menentukan apakah data tertentu digunakan untuk melatih model.

Sebagai contoh, Facebook baru-baru ini merilis Opacus, sebuah perpustakaan kecepatan tinggi untuk melatih model PyTorch menggunakan algoritma pelatihan ML dengan privasi diferensial yang disebut Differentially Private Stochastic Gradient Descent (DP-SGD). Gif di bawah menampilkan bagaimana menggunakan noise untuk menyembunyikan data.

Sumber: Blog Opacus Facebook

Noise ini diatur oleh parameter yang disebut Epsilon. Jika nilai Epsilon rendah, model memiliki privasi data yang sempurna tetapi utilitas dan akurasi yang buruk. Sebaliknya, jika Anda memiliki nilai Epsilon yang tinggi, privasi data akan menurun sementara akurasi meningkat. Triknya adalah menemukan keseimbangan untuk mengoptimalkan keduanya.

3. Enkripsi Homomorfik

Enkripsi standar secara tradisional tidak kompatibel dengan pembelajaran mesin karena setelah data dienkripsi, data tersebut tidak dapat dipahami oleh algoritma ML. Namun, enkripsi homomorfik adalah skema enkripsi khusus yang memungkinkan kita untuk melakukan komputasi tertentu.

Sumber: OpenMined

Kekuatan ini adalah bahwa pelatihan dapat terjadi di ruang yang dienkripsi sepenuhnya. Ini tidak hanya melindungi pemilik data, tetapi juga melindungi pemilik model. Pemilik model dapat menjalankan inferensi pada data yang dienkripsi tanpa pernah melihatnya atau menyalahgunakannya.

Ketika diterapkan pada pembelajaran terdistribusi, penggabungan pembaruan model dapat terjadi secara aman karena berlangsung di lingkungan yang dienkripsi sepenuhnya, sehingga secara drastis mengurangi risiko serangan inferensi keanggotaan.

Dekade Privasi

Ketika kita memasuki tahun 2021, pembelajaran mesin yang menjaga privasi adalah bidang yang muncul dengan penelitian yang luar biasa aktif. Jika dekade terakhir tentang menghilangkan silo data, dekade ini akan tentang menghilangkan silo model ML sambil menjaga privasi data yang mendasarinya melalui pembelajaran terdistribusi, privasi diferensial, dan enkripsi homomorfik. Ini menyajikan cara baru yang menjanjikan untuk mengembangkan solusi pembelajaran mesin dengan cara yang sadar privasi.