Peneliti Percaya AI Dapat Digunakan untuk Membantu Melindungi Privasi Orang

Dua profesor ilmu informasi baru-baru ini menerbitkan sebuah artikel di The Conversation, berargumen bahwa AI dapat membantu melestarikan privasi orang, memperbaiki beberapa masalah yang telah dibuatnya.

Zhiyuan Chen dan Aryya Gangopadhyay berargumen bahwa algoritma kecerdasan buatan dapat digunakan untuk membela privasi orang, mengimbangi beberapa kekhawatiran privasi yang telah dibuat oleh penggunaan AI lainnya. Chen dan Gangopadhyay mengakui bahwa banyak produk yang digerakkan oleh AI yang kita gunakan untuk kenyamanan tidak akan berfungsi tanpa akses ke sejumlah besar data, yang pada pandangan pertama tampak bertentangan dengan upaya untuk melestarikan privasi. Selain itu, karena AI menyebar ke lebih banyak industri dan aplikasi, lebih banyak data akan dikumpulkan dan disimpan dalam database, membuat pelanggaran database tersebut menggiurkan. Namun, Chen dan Gangopadhyay percaya bahwa ketika digunakan dengan benar, AI dapat membantu memitigasi masalah-masalah ini.

Chen dan Gangopadhyay menjelaskan dalam pos mereka bahwa risiko privasi yang terkait dengan AI berasal dari setidaknya dua sumber yang berbeda. Sumber pertama adalah dataset besar yang dikumpulkan untuk melatih model jaringan saraf, sedangkan ancaman privasi kedua adalah model itu sendiri. Data dapat “bocor” dari model-model ini, dengan perilaku model tersebut mengungkapkan detail tentang data yang digunakan untuk melatihnya.

Jaringan saraf dalam yang terdiri dari beberapa lapisan neuron, dengan setiap lapisan terhubung ke lapisan di sekitarnya. Neuron individual, serta tautan antara neuron, mengkodekan untuk berbagai bit data pelatihan. Model tersebut mungkin terbukti terlalu baik dalam mengingat pola data pelatihan, bahkan jika model tidak overfitting. Jejak data pelatihan ada dalam jaringan dan aktor jahat mungkin dapat mengetahui aspek-aspek data pelatihan, seperti yang ditemukan oleh Cornell University selama salah satu studi mereka. Peneliti Cornell menemukan bahwa algoritma pengenalan wajah dapat dieksploitasi oleh penyerang untuk mengungkap gambar mana, dan oleh karena itu orang mana, yang digunakan untuk melatih model pengenalan wajah. Peneliti Cornell menemukan bahwa bahkan jika penyerang tidak memiliki akses ke model asli yang digunakan untuk melatih aplikasi, penyerang masih dapat memprobes jaringan dan menentukan apakah orang tertentu termasuk dalam data pelatihan dengan hanya menggunakan model yang dilatih pada data yang sangat mirip.

Beberapa model AI saat ini digunakan untuk melindungi terhadap pelanggaran data dan mencoba memastikan privasi orang. Model AI sering digunakan untuk mendeteksi upaya peretasan dengan mengenali pola perilaku yang digunakan peretas untuk menembus metode keamanan. Namun, peretas sering mengubah perilaku mereka untuk mencoba membingungkan AI yang mendeteksi pola.

Metode baru pelatihan dan pengembangan AI bertujuan untuk membuat model dan aplikasi AI kurang rentan terhadap metode peretasan dan taktik penghindaran keamanan. Pembelajaran adversarial berusaha untuk melatih model AI pada simulasi input berbahaya atau merusak dan dengan demikian membuat model lebih kuat terhadap eksploitasi, sehingga “adversarial” dalam nama. Menurut Chen dan Gangopadhyay, penelitian mereka telah menemukan metode untuk melawan malware yang dirancang untuk mencuri informasi pribadi orang. Dua peneliti tersebut menjelaskan bahwa salah satu metode yang mereka temukan paling efektif untuk melawan malware adalah memperkenalkan ketidakpastian ke dalam model. Tujuannya adalah untuk membuatnya lebih sulit bagi aktor jahat untuk memprediksi bagaimana model akan bereaksi terhadap input tertentu.

Metode lain untuk menggunakan AI untuk melindungi privasi termasuk meminimalkan paparan data saat model dibuat dan dilatih, serta memprobes untuk menemukan kerentanan jaringan. Ketika datang untuk melestarikan privasi data, pembelajaran terfederasi dapat membantu melindungi privasi data sensitif, karena memungkinkan model untuk dilatih tanpa data pelatihan pernah meninggalkan perangkat lokal yang berisi data, menginsulasi data, dan sebagian besar parameter model dari pengawasan.

Akhirnya, Chen dan Gangopadhyay berargumen bahwa meskipun penyebaran AI telah menciptakan ancaman baru terhadap privasi orang, AI juga dapat membantu melindungi privasi ketika dirancang dengan hati-hati dan pertimbangan.