Bailey Kacsmar, PhD Calon di Universitas Waterloo - Wawancara Series

Bailey Kacsmar nyaéta calon PhD di Sakola Élmu Komputer di Universitas Waterloo jeung anggota dosen asup di Universitas Islam Bandung. Kapentingan panalungtikan nya aya dina pamekaran téknologi ningkatkeun privasi-sadar-pamaké, ngaliwatan ulikan paralel ngeunaan pendekatan téknis pikeun komputasi pribadi sareng persépsi pangguna anu saluyu, prihatin, sareng pamahaman téknologi ieu. Karyana tujuanana pikeun ngaidentipikasi poténsi sareng watesan pikeun privasi dina aplikasi pembelajaran mesin.

Kapentingan panalungtikan anjeun aya dina pamekaran téknologi ningkatkeun privasi-sadar pangguna, naha privasi di AI penting pisan?

Privasi dina AI penting pisan, sabagian ageung sabab AI di dunya urang henteu aya tanpa data. Data, bari abstraksi mangpaat, pamustunganana mangrupa hal anu ngajelaskeun jalma jeung paripolah maranéhanana. Kami jarang damel sareng data ngeunaan populasi tangkal sareng tingkat cai; janten, iraha waé urang damel sareng hal anu tiasa mangaruhan jalma nyata urang kedah terang éta sareng ngartos kumaha sistem urang tiasa ngalakukeun anu hadé, atanapi ngarugikeun. Ieu hususna leres pikeun AI dimana seueur sistem kauntungan tina jumlah data anu ageung atanapi ngaharepkeun ngagunakeun data anu sénsitip pisan (sapertos data kaséhatan) pikeun nyobian ngembangkeun pamahaman anyar ngeunaan dunya urang.

Naon sababaraha cara anu anjeun tingali yén pembelajaran mesin ngahianat privasi pangguna?

Betrayed mangrupakeun kecap kuat. Sanajan kitu, iraha wae sistem ngagunakeun informasi ngeunaan jalma tanpa idin maranéhanana, tanpa informing aranjeunna, sarta tanpa tempo poténsi harms eta ngajalankeun resiko ngahianat norma privasi individu atawa masarakat. Intina, ieu nyababkeun panghianatan ku sarébu potongan leutik. Prakték sapertos kitu tiasa ngalatih modél dina koropak email pangguna, palatihan ngeunaan pesen téks pangguna, atanapi dina data kaséhatan; kabéh tanpa informing subjék data.

Naha anjeun tiasa ngartikeun naon privasi diferensial, sareng naon pandangan anjeun ngeunaan éta?  

Privasi diferensial mangrupikeun definisi atanapi téknik anu parantos janten pinunjul dina hal panggunaan pikeun ngahontal privasi téknis. Definisi teknis privasi, umumna disebutkeun, ngawengku dua aspék konci; naon anu ditangtayungan, sareng ti saha. Dina kabijakan téknis, jaminan privasi mangrupikeun panyalindungan anu dihontal kumargi sababaraha asumsi anu kacumponan. Asumsi ieu bisa jadi ngeunaan lawan poténsial, complexities sistem, atawa statistik. Ieu mangrupikeun téknik anu luar biasa mangpaat anu ngagaduhan rupa-rupa aplikasi. Nanging, anu penting pikeun émut nyaéta yén privasi diferensial henteu sami sareng privasi.

Privasi henteu dugi ka hiji definisi atanapi konsép, sareng penting pikeun sadar kana anggapan saluareun éta. Contona, integritas kontekstual nu mangrupakeun gagasan konseptual ngeunaan privasi nu akun pikeun hal kawas kumaha béda aplikasi atawa organisasi béda ngarobah persepsi privasi hiji individu ngeunaan hiji situasi. Aya ogé anggapan hukum ngeunaan privasi sapertos anu dikurilingan ku PIPEDA Kanada, GDPR Éropa, sareng tindakan perlindungan konsumen (CCPA) California. Sadaya ieu nyarios yén kami henteu tiasa ngubaran sistem téknis saolah-olah aya dina vakum anu bébas tina faktor privasi anu sanés, sanaos privasi diferensial dianggo.

Jinis pembelajaran mesin anu ningkatkeun privasi sanés nyaéta diajar federasi, kumaha anjeun bakal ngartikeun naon ieu, sareng naon pandangan anjeun ngeunaan éta?

Pangajaran Féderasi mangrupikeun cara ngalaksanakeun pembelajaran mesin nalika modél dilatih dina kumpulan set data anu disebarkeun ka sababaraha pamilik atanapi lokasi. Éta sanés mangrupikeun jinis pembelajaran mesin anu ningkatkeun privasi. Jinis pembelajaran mesin anu ningkatkeun privasi kedah sacara resmi netepkeun naon anu ditangtayungan, saha anu ditangtayungan, sareng kaayaan anu kedah dicumponan pikeun panangtayungan ieu. Contona, nalika urang mikirkeun hiji komputasi diferensial swasta basajan, éta ngajamin yén batur nempo kaluaran moal bisa nangtukeun naha titik data tangtu ieu nyumbang atanapi henteu.

Salajengna, privasi diferensial henteu ngajantenkeun jaminan ieu upami, contona, aya korelasi antara titik data. Féderasi learning teu mibanda fitur ieu; eta ngan saukur ngalatih model dina kumpulan data tanpa merlukeun Panyekel data éta pikeun langsung nyadiakeun datasets maranéhna pikeun silih atawa pihak katilu. Sanaos éta sapertos fitur privasi, anu diperyogikeun nyaéta jaminan formal yén hiji henteu tiasa diajar inpormasi anu ditangtayungan tina perantara sareng kaluaran anu bakal dititénan ku pihak anu teu dipercaya. Formalitas ieu hususna penting dina setting federasi dimana pihak anu teu dipercaya kalebet sadayana anu nyayogikeun data pikeun ngalatih modél koléktif.

Naon sababaraha watesan ayeuna tina pendekatan ieu?

Watesan ayeuna tiasa didadarkeun sabagé sifat tina trade-off privasi-utilitas. Sanaos anjeun ngalakukeun sadayana anu sanés, komunikasikeun implikasi privasi ka anu dilaksanakeun, ngaevaluasi sistem pikeun naon anu anjeun badé laksanakeun, jsb, éta tetep turun pikeun ngahontal privasi anu sampurna hartosna urang henteu ngadamel sistem, ngahontal utilitas anu sampurna umumna. henteu ngagaduhan panyalindungan privasi, janten patarosanna kumaha urang nangtukeun naon "ideal" trade-off. Kumaha urang mendakan titik tipping anu leres sareng ngawangun ka arah éta supados urang tetep ngahontal fungsionalitas anu dipikahoyong bari nyayogikeun panyalindungan privasi anu diperyogikeun.

Anjeun ayeuna tujuanana pikeun ngembangkeun téknologi privasi sadar pamaké ngaliwatan ulikan paralel solusi teknis pikeun komputasi swasta. Naha anjeun tiasa terang sababaraha detil ngeunaan naon sababaraha solusi ieu?

Anu dimaksud ku solusi ieu nyaéta urang tiasa, sacara bébas diomongkeun, ngembangkeun sajumlah sistem privasi téknis. Nanging, nalika ngalakukeun éta, penting pikeun nangtoskeun naha jaminan privasi ngahontal anu dilaksanakeun. Ieu bisa hartosna ngembangkeun sistem sanggeus manggihan naon rupa panyalindungan nilai populasi. Ieu tiasa hartosna ngamutahirkeun sistem saatos mendakan kumaha jalma-jalma leres-leres ngagunakeun sistem upami anceman kahirupan nyata sareng pertimbangan résiko. Solusi téknis tiasa janten sistem anu leres anu nyugemakeun definisi anu ku kuring disebutkeun tadi. Solusi anu sadar-pamaké bakal ngarancang sistemna dumasar kana input ti pangguna sareng anu sanés anu dilaksanakeun dina domain aplikasi anu dimaksud.

Anjeun ayeuna nuju milarian mahasiswa pascasarjana anu kabetot pikeun ngamimitian dina Séptémber 2024, naha saur anjeun mahasiswa kedah resep kana privasi AI?

Jigana mahasiswa kedah kabetot sabab éta hiji hal anu ngan bakal tumuwuh di pervasiveness na di masarakat urang. Pikeun gaduh sababaraha ide kumaha gancangna sistem ieu henteu katingali langkung jauh tibatan amplifikasi Chat-GPT panganyarna ngalangkungan tulisan warta, média sosial, sareng debat ngeunaan implikasina. Urang aya dina masarakat dimana pangumpulan sareng pamakean data dilebetkeun kana kahirupan urang sadinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-dinten-sadinten Perusahaan-perusahaan ieu hoyong nganggo data, dina sababaraha kasus pikeun ningkatkeun jasana, anu sanés pikeun kauntungan. Dina titik ieu, sigana teu realistis mikir yén prakték pamakean data perusahaan ieu bakal robih. Nanging, ayana sistem ngajaga privasi anu ngajagi pangguna bari tetep ngamungkinkeun analisa anu dipikahoyong ku perusahaan tiasa ngabantosan nyaimbangkeun perdagangan ganjaran-risiko anu parantos janten bagian implisit masarakat urang.

Hatur nuhun kana wawancara anu saé, pamiarsa anu resep diajar langkung seueur kedah nganjang Kaca Github Bailey Kacsmar.