Bailey Kacsmar, Kandidat PhD di Universitas Waterloo – Seri Wawancara

Bailey Kacsmar adalah kandidat PhD di Sekolah Ilmu Komputer Universitas Waterloo dan anggota fakultas baru di Universitas Alberta. Minat penelitiannya adalah dalam pengembangan teknologi privasi yang sadar pengguna, melalui studi paralel tentang pendekatan teknis untuk komputasi pribadi dan persepsi, kekhawatiran, dan pemahaman pengguna tentang teknologi ini. Tujuan penelitiannya adalah untuk mengidentifikasi potensi dan keterbatasan privasi dalam aplikasi pembelajaran mesin.

Minat penelitian Anda adalah pengembangan teknologi privasi yang sadar pengguna, mengapa privasi dalam AI sangat penting?

Privasi dalam AI sangat penting, sebagian besar karena AI di dunia kita tidak ada tanpa data. Data, meskipun merupakan abstraksi yang berguna, pada akhirnya adalah sesuatu yang menggambarkan orang dan perilaku mereka. Kita jarang bekerja dengan data tentang populasi pohon dan tingkat air; jadi, setiap kali kita bekerja dengan sesuatu yang dapat mempengaruhi orang nyata, kita perlu menyadari hal itu dan memahami bagaimana sistem kita dapat melakukan kebaikan atau kerusakan. Ini terutama benar untuk AI, di mana banyak sistem mendapat manfaat dari kuantitas data yang besar atau berharap menggunakan data yang sangat sensitif (seperti data kesehatan) untuk mencoba mengembangkan pemahaman baru tentang dunia kita.

Apa beberapa cara yang Anda lihat bahwa pembelajaran mesin telah mengkhianati privasi pengguna?

Mengkhianati adalah kata yang kuat. Namun, setiap kali suatu sistem menggunakan informasi tentang orang tanpa persetujuan mereka, tanpa menginformasikan mereka, dan tanpa mempertimbangkan kemungkinan kerusakan, maka sistem tersebut berisiko mengkhianati norma privasi individu atau masyarakat. Secara esensial, ini menghasilkan pengkhianatan oleh seribu sayatan kecil. Praktik seperti ini dapat berupa pelatihan model pada kotak surat pengguna, pelatihan pada pesan teks pengguna, atau pada data kesehatan; semuanya tanpa menginformasikan subjek data.

Bagaimana Anda mendefinisikan privasi diferensial, dan apa pandangan Anda tentang hal itu?

Privasi diferensial adalah definisi atau teknik yang telah muncul ke permukaan dalam hal penggunaan untuk mencapai privasi teknis. Definisi teknis privasi umumnya mencakup dua aspek kunci; apa yang dilindungi, dan dari siapa. Dalam privasi teknis, jaminan privasi adalah perlindungan yang dicapai dengan asumsi-asumsi yang dipenuhi. Asumsi-asumsi ini mungkin tentang musuh potensial, kompleksitas sistem, atau statistik. Ini adalah teknik yang sangat berguna yang memiliki berbagai aplikasi. Namun, apa yang penting untuk diingat adalah bahwa privasi diferensial tidak setara dengan privasi.

Privasi tidak terbatas pada satu definisi atau konsep, dan penting untuk menyadari gagasan-gagasan di luar itu. Misalnya, integritas kontekstual yang merupakan konsep privasi yang memperhitungkan hal-hal seperti bagaimana aplikasi atau organisasi yang berbeda mengubah persepsi privasi individu dalam suatu situasi. Ada juga konsep hukum privasi seperti yang tercakup dalam PIPEDA Kanada, GDPR Eropa, dan Undang-Undang Perlindungan Konsumen California (CCPA). Semua ini untuk mengatakan bahwa kita tidak dapat memperlakukan sistem teknis seolah-olah mereka ada dalam vakum yang bebas dari faktor privasi lain, bahkan jika privasi diferensial digunakan.

Tipe pembelajaran mesin lain yang meningkatkan privasi adalah pembelajaran terfederasi, bagaimana Anda mendefinisikan apa itu, dan apa pandangan Anda tentang hal itu?

Pembelajaran terfederasi adalah cara melakukan pembelajaran mesin ketika model akan dilatih pada kumpulan dataset yang didistribusikan di beberapa pemilik atau lokasi. Ini tidak secara intrinsik merupakan tipe pembelajaran mesin yang meningkatkan privasi. Tipe pembelajaran mesin yang meningkatkan privasi perlu mendefinisikan secara formal apa yang dilindungi, siapa yang dilindungi dari, dan kondisi yang harus dipenuhi untuk perlindungan tersebut berlaku. Misalnya, ketika kita berpikir tentang perhitungan diferensial yang sederhana, itu menjamin bahwa seseorang yang melihat output tidak akan dapat menentukan apakah titik data tertentu disumbangkan atau tidak.

Lebih lanjut, privasi diferensial tidak membuat jaminan ini jika, misalnya, ada korelasi di antara titik-titik data. Pembelajaran terfederasi tidak memiliki fitur ini; itu hanya melatih model pada kumpulan data tanpa memerlukan pemilik data untuk langsung menyediakan dataset mereka kepada pihak lain atau pihak ketiga. Meskipun itu terdengar seperti fitur privasi, apa yang dibutuhkan adalah jaminan formal bahwa tidak ada yang dapat mempelajari informasi yang dilindungi dengan melihat output dan perantara yang akan diamati oleh pihak yang tidak tepercaya. Formalitas ini sangat penting dalam pengaturan terfederasi di mana pihak yang tidak tepercaya termasuk semua orang yang menyediakan data untuk melatih model kolektif.

Apa beberapa keterbatasan saat ini dari pendekatan ini?

Keterbatasan saat ini dapat dijelaskan sebagai sifat dari perdagangan privasi-kegunaan. Bahkan jika Anda melakukan semua hal lain, mengkomunikasikan implikasi privasi kepada mereka yang terkena, mengevaluasi sistem untuk apa yang Anda coba lakukan, dll, itu masih turun ke mencapai privasi yang sempurna berarti kita tidak membuat sistem, mencapai kegunaan yang sempurna umumnya tidak memiliki perlindungan privasi, jadi pertanyaannya adalah bagaimana kita menentukan apa yang merupakan “titik ideal” perdagangan. Bagaimana kita menemukan titik keseimbangan yang tepat dan membangun menuju itu sehingga kita masih mencapai fungsionalitas yang diinginkan sambil menyediakan perlindungan privasi yang dibutuhkan.

Anda saat ini bertujuan untuk mengembangkan teknologi privasi yang sadar pengguna melalui studi paralel tentang solusi teknis untuk komputasi pribadi. Bisakah Anda menjelaskan beberapa solusi ini?

Apa yang saya maksud dengan solusi ini adalah bahwa kita dapat, dengan longgar, mengembangkan berbagai sistem privasi teknis. Namun, ketika melakukan itu, penting untuk menentukan apakah jaminan privasi mencapai mereka yang terkena. Ini dapat berarti mengembangkan sistem setelah mengetahui apa jenis perlindungan yang dihargai oleh populasi. Ini dapat berarti memperbarui sistem setelah mengetahui bagaimana orang benar-benar menggunakan sistem dengan pertimbangan ancaman dan risiko kehidupan nyata mereka. Solusi teknis dapat berupa sistem yang benar yang memenuhi definisi yang saya sebutkan sebelumnya. Solusi yang sadar pengguna akan merancang sistemnya berdasarkan input dari pengguna dan orang lain yang terkena dalam domain aplikasi yang dimaksud.

Anda saat ini mencari mahasiswa pascasarjana yang tertarik untuk memulai pada September 2024, mengapa Anda pikir mahasiswa harus tertarik dengan privasi AI?

Saya pikir mahasiswa harus tertarik karena ini adalah sesuatu yang hanya akan tumbuh dalam pervasivitasnya dalam masyarakat kita. Untuk memiliki gagasan tentang seberapa cepat sistem ini, lihat tidak lebih dari amplifikasi Chat-GPT baru-baru ini melalui artikel berita, media sosial, dan debat tentang implikasinya. Kita hidup dalam masyarakat di mana pengumpulan dan penggunaan data sangat tertanam dalam kehidupan sehari-hari kita sehingga kita hampir selalu menyediakan informasi tentang diri kita sendiri kepada berbagai perusahaan dan organisasi. Perusahaan-perusahaan ini ingin menggunakan data, dalam beberapa kasus untuk meningkatkan layanan mereka, dalam kasus lain untuk keuntungan. Pada titik ini, tampaknya tidak realistis untuk berpikir bahwa praktik penggunaan data perusahaan akan berubah. Namun, keberadaan sistem privasi yang melindungi pengguna sambil masih memungkinkan analisis tertentu yang diinginkan oleh perusahaan dapat membantu menyeimbangkan perdagangan risiko-hadiah yang telah menjadi bagian implisit dari masyarakat kita.

Terima kasih atas wawancara yang luar biasa, pembaca yang tertarik untuk mempelajari lebih lanjut harus mengunjungi Halaman Github Bailey Kacsmar.