Apakah Ada Solusi Jelas untuk Risiko Privasi yang Ditimbulkan oleh AI Generatif?

Risiko privasi yang ditimbulkan oleh AI generatif sangat nyata. Dari peningkatan pengawasan dan eksposur hingga kampanye phishing dan vishing yang lebih efektif, AI generatif mengerosi privasi secara massal, tidak memilih, sambil memberikan aktor jahat, baik itu kriminal, disponsori negara atau pemerintah, dengan alat yang mereka butuhkan untuk menargetkan individu dan kelompok.

Solusi paling jelas untuk masalah ini melibatkan konsumen dan pengguna secara kolektif membalikkan punggung mereka terhadap hypes AI, menuntut transparansi dari mereka yang mengembangkan atau menerapkan fitur AI, dan regulasi efektif dari badan pemerintah yang mengawasi operasi mereka. Meskipun patut diupayakan, ini tidak mungkin terjadi dalam waktu dekat.

Apa yang tersisa adalah pendekatan yang masuk akal, bahkan jika tidak lengkap, untuk mengurangi risiko privasi AI generatif. Prediksi jangka panjang, pasti, tetapi membosankan, adalah bahwa semakin terdidik masyarakat tentang privasi data secara umum, semakin kecil risiko privasi yang ditimbulkan oleh adopsi massal AI generatif.

Apakah Kita Semua Memahami Konsep AI Generatif dengan Benar?

Hypes sekitar AI sangat luas sehingga survei tentang apa yang orang maksud dengan AI generatif hampir tidak perlu. Tentu saja, tidak ada “fitur AI” ini, fungsionalitas, dan produk yang benar-benar mewakili contoh nyata kecerdasan buatan, apa pun itu. Sebaliknya, mereka sebagian besar adalah contoh pembelajaran mesin (ML), pembelajaran dalam (DL), dan model bahasa besar (LLM).

AI generatif, seperti namanya, dapat menghasilkan konten baru – apakah itu teks (termasuk bahasa pemrograman), audio (termasuk musik dan suara manusia), atau video (dengan suara, dialog, potongan, dan perubahan kamera). Semua ini dicapai dengan melatih LLM untuk mengidentifikasi, mencocokkan, dan menghasilkan pola dalam konten yang dibuat manusia.

Mari kita ambil ChatGPT sebagai contoh. Seperti banyak LLM, itu dilatih dalam tiga tahap luas;

• Pelatihan sebelumnya: Selama fase ini, LLM “diberi makan” bahan tekstual dari internet, buku, jurnal akademis, dan apa pun yang mengandung teks yang potensial atau berguna.
• Pelatihan instruksi yang diawasi: Model dilatih untuk merespons dengan lebih kohesif terhadap instruksi menggunakan pasangan instruksi-respons berkualitas tinggi, biasanya disumber dari manusia.
• Pelatihan dengan umpan balik manusia (RLHF): LLM seperti ChatGPT sering menjalani tahap pelatihan ini, di mana interaksi dengan pengguna manusia digunakan untuk memperbaiki model agar sesuai dengan kasus penggunaan yang khas.

Ketiga tahap proses pelatihan ini melibatkan data, baik itu penyimpanan data pra-gathered besar (seperti yang digunakan dalam pelatihan sebelumnya) atau data yang dikumpulkan dan diproses hampir secara real-time (seperti yang digunakan dalam RLHF). Itulah data yang membawa sebagian besar risiko privasi yang berasal dari AI generatif.

Apa Risiko Privasi yang Ditimbulkan oleh AI Generatif?

Privasi dikompromikan ketika informasi pribadi tentang individu (subyek data) dibuat tersedia untuk individu atau entitas lain tanpa persetujuan subyek data. LLM dilatih dan diperhalus pada berbagai data yang luas yang dapat dan sering kali termasuk data pribadi. Data ini biasanya dikumpulkan dari sumber yang tersedia untuk umum, tetapi tidak selalu.

Bahkan ketika data itu diambil dari sumber yang tersedia untuk umum, memiliki data itu dikumpulkan dan diproses oleh LLM dan kemudian sebenarnya dapat dicari melalui antarmuka LLM dapat dianggap sebagai pelanggaran privasi lebih lanjut.

Tahap pelatihan dengan umpan balik manusia (RLHF) mempersulit hal ini. Pada tahap pelatihan ini, interaksi nyata dengan pengguna manusia digunakan untuk memperbaiki dan memperhalus respon LLM. Ini berarti bahwa interaksi pengguna dengan LLM dapat dilihat, dibagikan, dan disebarkan oleh siapa pun yang memiliki akses ke data pelatihan.

Dalam sebagian besar kasus, ini bukanlah pelanggaran privasi, mengingat bahwa sebagian besar pengembang LLM menyertakan kebijakan privasi dan syarat layanan yang mengharuskan pengguna untuk memberikan persetujuan sebelum berinteraksi dengan LLM. Risiko privasi terletak pada kenyataan bahwa banyak pengguna tidak menyadari bahwa mereka telah menyetujui pengumpulan dan penggunaan data tersebut. Pengguna tersebut kemungkinan akan mengungkapkan informasi pribadi dan sensitif selama interaksi mereka dengan sistem ini, tanpa menyadari bahwa interaksi tersebut tidaklah rahasia atau pribadi.

Dengan cara ini, kita tiba pada tiga cara utama AI generatif menimbulkan risiko privasi;

• Penyimpanan data pra-pelatihan besar yang berpotensi mengandung informasi pribadi rentan terhadap kompromi dan ekstraksi.
• Informasi pribadi yang termasuk dalam data pra-pelatihan dapat bocor ke pengguna lain dari LLM yang sama melalui respon LLM terhadap kueri dan instruksi.
• Informasi pribadi dan rahasia yang diberikan selama interaksi dengan LLM berakhir dengan karyawan LLM dan kemungkinan kontraktor pihak ketiga, dari mana informasi tersebut dapat dilihat atau bocor.

Ini semua adalah risiko bagi privasi pengguna, tetapi kemungkinan informasi yang dapat diidentifikasi secara pribadi (PII) berakhir di tangan yang salah masih terlihat relatif rendah. Itu, setidaknya, sampai broker data memasuki gambaran.

Dengan PII dan data pribadi lainnya telah menjadi semacam komoditas dan industri broker data muncul untuk memanfaatkannya, setiap data pribadi yang “keluar” sangat mungkin akan diambil oleh broker data dan disebarkan luas.

Risiko Privasi AI Generatif dalam Konteks

Sebelum melihat risiko yang ditimbulkan AI generatif terhadap privasi pengguna dalam konteks produk, layanan, dan kemitraan perusahaan tertentu, mari kita mundur dan melihat palet penuh risiko AI generatif dengan lebih terstruktur. Menulis untuk IAPP, Moraes dan Previtali mengambil pendekatan berbasis data untuk memperbarui “Taksonomi Privasi” Solove 2006, mengurangi 16 risiko privasi yang dijelaskan di dalamnya menjadi 12 risiko privasi khusus AI.

Ini adalah 12 risiko privasi yang termasuk dalam taksonomi yang direvisi oleh Moraes dan Previtali;

• Pengawasan; AI memperburuk risiko pengawasan dengan meningkatkan skala dan ubiquitas pengumpulan data pribadi.
• Identifikasi; Teknologi AI memungkinkan penghubungan identitas otomatis di seluruh sumber data yang berbeda, meningkatkan risiko terkait dengan paparan identitas pribadi.
• Penggabungan; AI menggabungkan berbagai potongan data tentang seseorang untuk membuat inferensi, menciptakan risiko invasi privasi.
• Frenologi dan Fisiognomi; AI menginferensi kepribadian atau atribut sosial dari karakteristik fisik, kategori risiko baru yang tidak ada dalam taksonomi Solove.
• Penggunaan Sekunder; AI memperburuk penggunaan data pribadi untuk tujuan lain selain yang awalnya dimaksudkan melalui repurposing data.
• Pengucilan; AI membuat kegagalan untuk meminta atau memberikan kontrol kepada pengguna atas bagaimana data mereka digunakan menjadi lebih buruk melalui praktik data yang tidak transparan.
• Ketidakamanan; Kebutuhan data AI dan praktik penyimpanan riskan kebocoran data dan akses yang tidak tepat.
• Paparan; AI dapat mengungkapkan informasi sensitif, seperti melalui teknik AI generatif.
• Distorsi; Kemampuan AI untuk menghasilkan konten yang realistis tetapi palsu meningkatkan penyebaran informasi yang salah atau menyesatkan.
• Pengungkapan; AI dapat menyebabkan pembagian data yang tidak tepat ketika AI menginferensi informasi sensitif tambahan dari data mentah.
• Peningkatan Aksesibilitas; AI membuat informasi sensitif lebih dapat diakses oleh audiens yang lebih luas daripada yang dimaksudkan.
• Invasi; Teknologi AI menyerang ruang pribadi atau kesunyian, sering melalui tindakan pengawasan.

Ini membuat beberapa pembacaan yang cukup mengkhawatirkan. Penting untuk dicatat bahwa taksonomi ini, untuk keuntungannya, mempertimbangkan kecenderungan AI generatif untuk menghasilkan halusinasi – untuk menghasilkan dan menyajikan informasi yang tidak akurat dengan percaya diri. Fenomena ini, meskipun jarang mengungkapkan informasi nyata, juga merupakan risiko privasi. Penyebaran informasi yang salah dan menyesatkan mempengaruhi privasi subjek dengan cara yang lebih halus daripada dalam kasus informasi yang akurat, tetapi tetap mempengaruhinya.

Mari kita turun ke contoh konkret tentang bagaimana risiko privasi ini bermain dalam konteks produk AI nyata.

Interaksi Langsung dengan Sistem AI Generatif Berbasis Teks

Kasus paling sederhana adalah ketika pengguna berinteraksi langsung dengan sistem AI generatif, seperti ChatGPT, Midjourney, atau Gemini. Interaksi pengguna dengan banyak produk ini dilog, disimpan, dan digunakan untuk RLHF (pelatihan dengan umpan balik manusia), pelatihan instruksi yang diawasi, dan bahkan pelatihan sebelumnya dari LLM lain.

Analisis kebijakan privasi dari banyak layanan seperti ini juga mengungkapkan kegiatan berbagi data lain yang didukung oleh tujuan yang berbeda, seperti pemasaran dan perantara data. Ini adalah jenis risiko privasi lain yang ditimbulkan oleh AI generatif; sistem ini dapat dikarakteristikan sebagai corong data besar, mengumpulkan data yang diberikan oleh pengguna serta data yang dihasilkan melalui interaksi mereka dengan LLM yang mendasarinya.

Interaksi dengan Sistem AI Generatif yang Tersemat

Beberapa pengguna mungkin berinteraksi dengan antarmuka AI generatif yang tersemat dalam produk yang mereka gunakan. Pengguna mungkin menyadari bahwa mereka menggunakan “fitur AI”, tetapi mereka kurang mungkin menyadari apa yang itu maksudkan dalam hal risiko privasi data. Yang menjadi fokus dengan sistem tersemat adalah kurangnya apresiasi terhadap kenyataan bahwa data pribadi yang dibagikan dengan LLM dapat berakhir di tangan pengembang dan perantara data.

Terdapat dua tingkat ketidaksadaran di sini; beberapa pengguna menyadari bahwa mereka berinteraksi dengan produk AI generatif; dan beberapa percaya bahwa mereka menggunakan produk yang AI generatif dibangun atau diakses. Dalam kedua kasus, pengguna mungkin telah (dan kemungkinan besar telah) secara teknis menyetujui syarat dan ketentuan yang terkait dengan interaksi mereka dengan sistem tersemat.

Kemitraan Lain yang Mengexpos Pengguna pada Sistem AI Generatif

Beberapa perusahaan menyematkan atau memasukkan antarmuka AI generatif dalam perangkat lunak mereka dengan cara yang kurang jelas, menyebabkan pengguna berinteraksi – dan berbagi informasi – dengan pihak ketiga tanpa menyadari hal itu. Untungnya, “AI” telah menjadi penjual yang sangat efektif sehingga tidak mungkin perusahaan akan menyembunyikan implementasi tersebut.

Fenomena lain dalam konteks ini adalah backlash yang tumbuh terhadap perusahaan yang mencoba berbagi data pengguna atau pelanggan dengan perusahaan AI generatif seperti OpenAI. Perusahaan penghapusan data Optery, misalnya, baru-baru ini membalikkan keputusan untuk berbagi data pengguna dengan OpenAI secara opt-out, yang berarti pengguna terdaftar dalam program secara default.

Tidak hanya pelanggan yang cepat mengungkapkan kekecewaan mereka, tetapi layanan penghapusan data perusahaan itu juga segera dihapus dari daftar layanan penghapusan data yang disarankan oleh Privacy Guides. Untuk keuntungan Optery, mereka dengan cepat dan transparan membalikkan keputusan mereka, tetapi yang signifikan di sini adalah backlash umum; orang mulai menghargai risiko berbagi data dengan perusahaan “AI”.

Kasus Optery membuat contoh yang baik di sini karena penggunanya, dalam beberapa cara, berada di garis depan skeptisisme yang tumbuh terhadap implementasi AI yang disebut-sebut. Jenis orang yang memilih layanan penghapusan data juga, biasanya, adalah mereka yang akan memperhatikan perubahan dalam syarat layanan dan kebijakan privasi.

Bukti dari Reaksi Balik yang Berkembang terhadap Penggunaan Data AI Generatif

Konsumen yang peduli privasi tidak hanya orang yang telah mengangkat kekhawatiran tentang sistem AI generatif dan risiko privasi data yang terkait. Pada tingkat legislatif, Undang-Undang Kecerdasan Buatan Uni Eropa mengategorikan risiko berdasarkan tingkat keparahannya, dengan privasi data sebagai kriteria yang secara eksplisit atau implisit digunakan untuk menetapkan tingkat keparahan dalam sebagian besar kasus. Undang-Undang ini juga mengatasi masalah persetujuan yang telah kita bahas sebelumnya.

Amerika Serikat, yang terkenal lambat dalam mengadopsi legislasi privasi data yang komprehensif dan federal, setidaknya memiliki beberapa pengaman berkat Perintah Eksekutif 14110. Lagi-lagi, kekhawatiran privasi data ada di garis depan tujuan yang diberikan untuk Perintah tersebut; “penggunaan yang tidak bertanggung jawab [teknologi AI] bisa memperburuk kerusakan sosial seperti penipuan, diskriminasi, bias, dan disinformasi” – semuanya terkait dengan ketersediaan dan penyebaran data pribadi.

Kembali ke tingkat konsumen, bukan hanya konsumen yang peduli privasi yang telah menentang implementasi AI generatif yang invasif privasi. Fitur “didukung AI” Recall yang terkenal dari Microsoft, yang ditujukan untuk sistem operasi Windows 11, adalah contoh utama. Setelah risiko privasi dan keamanan yang luas terungkap, reaksi balik yang cukup untuk menyebabkan raksasa teknologi itu mundur. Sayangnya, Microsoft tampaknya tidak menyerah pada ide itu, tetapi reaksi awal masyarakat cukup menggembirakan.

Tetap dengan Microsoft, program Copilot-nya telah dikritik karena masalah privasi data dan keamanan data. Ketika Copilot dilatih pada data GitHub (sebagian besar kode sumber), kontroversi juga muncul sekitar pelanggaran yang dilakukan Microsoft terhadap perjanjian lisensi perangkat lunak programmer dan pengembang. Dalam kasus seperti ini, garis antara privasi data dan hak cipta mulai kabur, memberikan nilai moneter pada yang pertama – sesuatu yang tidak mudah dilakukan.

Mungkin indikasi terbesar bahwa AI menjadi bendera merah di mata konsumen adalah tanggapan yang dingin jika tidak antagonistik terhadap peluncuran AI awal Apple, terutama dalam hal perjanjian berbagi data dengan OpenAI.

Solusi yang Tercerai-berai

Terdapat langkah-langkah yang dapat diambil oleh legislator, pengembang, dan perusahaan untuk memitigasi beberapa risiko yang ditimbulkan oleh AI generatif. Ini adalah solusi khusus untuk aspek-aspek tertentu dari masalah yang lebih besar. Tidak satu pun dari solusi ini diharapkan cukup, tetapi semuanya, bekerja bersama, bisa membuat perbedaan yang signifikan.

• Minimisasi data. Meminimalkan jumlah data yang dikumpulkan dan disimpan adalah tujuan yang masuk akal, tetapi ini secara langsung bertentangan dengan keinginan pengembang AI generatif untuk data pelatihan.
• Transparansi. Mengingat keadaan saat ini dalam ML, ini mungkin tidak bahkan secara teknis memungkinkan dalam banyak kasus. Wawasan ke dalam data yang diproses dan bagaimana ketika menghasilkan output tertentu adalah salah satu cara untuk memastikan privasi dalam interaksi AI generatif.
• Anonimisasi. Setiap PII yang tidak dapat dikecualikan dari data pelatihan (melalui minimisasi data) harus di-anonimkan. Masalahnya adalah bahwa banyak teknik anonimisasi dan pseudonimisasi yang populer dapat dengan mudah dikalahkan.
• Persetujuan pengguna. Mengharuskan pengguna untuk menyetujui pengumpulan dan berbagi data mereka sangat penting tetapi terlalu terbuka untuk penyalahgunaan dan terlalu rentan terhadap kelesuan konsumen untuk efektif. Yang dibutuhkan di sini adalah persetujuan yang terinformasi, dan sebagian besar konsumen, dengan benar diberitahu, tidak akan menyetujui berbagi data tersebut, sehingga insentifnya tidak sejalan.
• Mengamankan data dalam perjalanan dan saat istirahat. Landasan lain dari privasi data dan keamanan data, melindungi data melalui sarana kriptografi dan lain-lain dapat selalu ditingkatkan. Namun, sistem AI generatif cenderung bocor data melalui antarmukanya, membuat ini hanya sebagian dari solusi.
• Mengenakan hukum hak cipta dan IP dalam konteks “AI”. ML dapat beroperasi dalam “black box”, membuatnya sulit jika tidak mustahil untuk melacak materi berhak cipta dan IP apa yang berakhir di output AI generatif.
• Audit. Langkah pengaman lain yang dihalangi oleh sifat “black box” dari LLM dan sistem AI generatif yang mereka dukung. Hal ini diperburuk oleh sifat kode tertutup dari sebagian besar produk AI generatif, yang membatasi audit hanya pada yang dilakukan pada kenyamanan pengembang.

Semua pendekatan ini untuk masalahnya valid dan perlu, tetapi tidak satu pun dari mereka cukup. Mereka semua memerlukan dukungan legislatif untuk memiliki efek yang berarti, yang berarti bahwa mereka dikutuk untuk tetap tertinggal karena bidang ini terus berkembang.

Solusi yang Jelas

Solusi untuk risiko privasi yang ditimbulkan oleh AI generatif tidak revolusioner atau menarik, tetapi diambil ke kesimpulan logis, hasilnya bisa menjadi keduanya. Solusi yang jelas melibatkan konsumen sehari-hari menjadi sadar akan nilai data mereka bagi perusahaan dan nilai tak ternilai dari privasi data bagi diri mereka sendiri.

Konsumen adalah sumber dan mesin di balik informasi pribadi yang menggerakkan apa yang disebut ekonomi pengawasan modern. Begitu sejumlah kritis konsumen mulai menghentikan aliran data pribadi ke ruang publik dan mulai menuntut akuntabilitas dari perusahaan yang berdagang data pribadi, sistem akan memiliki untuk memperbaiki diri.

Hal yang menggembirakan tentang AI generatif adalah bahwa, tidak seperti model iklan dan pemasaran saat ini, itu tidak perlu melibatkan informasi pribadi pada tahap apa pun. Data pelatihan dan pelatihan sebelumnya tidak perlu mencakup PII atau data pribadi lainnya, dan pengguna tidak perlu mengungkapkan informasi tersebut selama interaksi mereka dengan sistem AI generatif.

Untuk menghapus informasi pribadi mereka dari data pelatihan, orang dapat langsung ke sumber dan menghapus profil mereka dari berbagai broker data (termasuk situs pencarian orang) yang mengumpulkan catatan publik, membawanya ke pasar terbuka. Layanan penghapusan data pribadi mengotomatisasi proses ini, membuatnya cepat dan mudah. Tentu saja, menghapus data pribadi dari database perusahaan ini memiliki banyak manfaat lain dan tidak ada kerugian.

Orang juga menghasilkan data pribadi ketika berinteraksi dengan perangkat lunak, termasuk AI generatif. Untuk menghentikan aliran data ini, pengguna harus lebih menyadari bahwa interaksi mereka sedang direkam, ditinjau, dianalisis, dan dibagikan. Opsi mereka untuk menghindari ini menyempit menjadi membatasi apa yang mereka ungkapkan kepada sistem online dan menggunakan LLM on-device, open-source di mana pun memungkinkan. Orang, secara umum, sudah melakukan pekerjaan yang baik dalam memodulasi apa yang mereka diskusikan di ruang publik – kita hanya perlu memperluas insting ini ke ranah AI generatif.