Dilema Data AI: Privasi, Regulasi, dan Masa Depan Ethical AI

Solusi yang didorong oleh AI secara cepat diadopsi di berbagai industri, layanan, dan produk setiap hari. Namun, efektivitasnya bergantung sepenuhnya pada kualitas data yang mereka pelajari – aspek yang sering salah dipahami atau diabaikan dalam proses pembuatan dataset.

Seiring dengan meningkatnya pengawasan otoritas perlindungan data terhadap kesesuaian teknologi AI dengan peraturan privasi dan perlindungan data, perusahaan menghadapi tekanan yang meningkat untuk mendapatkan, mengannotasi, dan menghaluskan dataset dengan cara yang sesuai dan etis.

Apakah ada pendekatan etis untuk membangun dataset AI? Apa tantangan etis terbesar perusahaan, dan bagaimana mereka mengatasinya? Dan bagaimana kerangka hukum yang berkembang mempengaruhi ketersediaan dan penggunaan data pelatihan? Mari kita jelajahi pertanyaan-pertanyaan ini.

Privasi Data dan AI

Oleh sifatnya, AI memerlukan banyak data pribadi untuk mengeksekusi tugas. Hal ini telah menimbulkan kekhawatiran tentang pengumpulan, penyimpanan, dan penggunaan informasi ini. Banyak hukum di seluruh dunia mengatur dan membatasi penggunaan data pribadi, dari GDPR dan Undang-Undang AI yang baru diperkenalkan di Eropa hingga HIPAA di AS, yang mengatur akses ke data pasien di industri medis.

Referensi untuk seberapa ketat hukum perlindungan data di seluruh dunia / DLA Piper

Misalnya, empat belas negara bagian AS saat ini memiliki hukum privasi data yang komprehensif, dengan enam lagi yang akan berlaku pada tahun 2025 dan awal 2026. Administrasi baru telah menandakan pergeseran dalam pendekatannya terhadap penegakan privasi data di tingkat federal. Fokus utama adalah regulasi AI, menekankan pada mendorong inovasi daripada mengenakan pembatasan. Perubahan ini termasuk mencabut perintah eksekutif sebelumnya tentang AI dan memperkenalkan direktif baru untuk memandu pengembangan dan penerapannya.

Hukum perlindungan data berkembang di berbagai negara: di Eropa, hukumnya lebih ketat, sedangkan di Asia atau Afrika, hukumnya cenderung lebih longgar.

Namun, informasi yang dapat diidentifikasi secara pribadi (PII) – seperti gambar wajah, dokumen resmi seperti paspor, atau data pribadi sensitif lainnya – umumnya dibatasi di sebagian besar negara hingga batas tertentu. Menurut UN Trade & Development, pengumpulan, penggunaan, dan pembagian informasi pribadi kepada pihak ketiga tanpa pemberitahuan atau persetujuan konsumen adalah masalah besar bagi sebagian besar dunia. 137 dari 194 negara memiliki peraturan yang menjamin perlindungan data dan privasi. Sebagai hasilnya, sebagian besar perusahaan global mengambil tindakan pencegahan untuk menghindari menggunakan PII untuk pelatihan model karena peraturan seperti yang ada di UE secara ketat melarang praktik tersebut, dengan pengecualian langka yang ditemukan di niche yang sangat diatur seperti penegakan hukum.

Seiring waktu, hukum perlindungan data menjadi lebih komprehensif dan diterapkan secara global. Perusahaan menyesuaikan praktik mereka untuk menghindari tantangan hukum dan memenuhi persyaratan hukum dan etis yang muncul.

Metode Apa yang Digunakan Perusahaan untuk Mendapatkan Data?

Jadi, ketika mempelajari masalah perlindungan data untuk pelatihan model, penting untuk memahami dari mana perusahaan memperoleh data tersebut. Terdapat tiga sumber data utama.

• Pengumpulan Data

Metode ini memungkinkan pengumpulan data dari platform crowdsourcing, stok media, dan dataset sumber terbuka.

Penting untuk dicatat bahwa stok media publik tunduk pada perjanjian lisensi yang berbeda. Bahkan lisensi penggunaan komersial seringkali secara eksplisit menyatakan bahwa konten tidak dapat digunakan untuk pelatihan model. Harapan ini berbeda-beda platform per platform dan memerlukan bisnis untuk memastikan kemampuan mereka menggunakan konten dengan cara yang mereka butuhkan.

Meskipun perusahaan AI memperoleh konten secara legal, mereka masih dapat menghadapi beberapa masalah. Kemajuan pesat pelatihan model AI telah melampaui kerangka hukum, yang berarti aturan dan peraturan seputar data pelatihan AI masih berkembang. Sebagai hasilnya, perusahaan harus tetap mendapatkan informasi tentang perkembangan hukum dan secara hati-hati meninjau perjanjian lisensi sebelum menggunakan konten stok untuk pelatihan AI.

• Pembuatan Data

Salah satu metode persiapan dataset yang paling aman melibatkan pembuatan konten unik, seperti merekam orang-orang dalam lingkungan yang dikendalikan seperti studio atau lokasi luar ruangan. Sebelum berpartisipasi, individu menandatangani formulir persetujuan untuk menggunakan PII mereka, yang menentukan apa data yang dikumpulkan, bagaimana dan di mana data tersebut akan digunakan, dan siapa yang akan memiliki akses ke data tersebut. Ini memastikan perlindungan hukum penuh dan memberikan perusahaan kepercayaan bahwa mereka tidak akan menghadapi klaim penggunaan data ilegal.

Kerugian utama dari metode ini adalah biayanya, terutama ketika data dibuat untuk kasus tepi atau proyek skala besar. Namun, perusahaan besar dan perusahaan semakin banyak menggunakan pendekatan ini untuk setidaknya dua alasan. Pertama, ini memastikan kepatuhan penuh dengan semua standar dan peraturan hukum. Kedua, ini memberikan perusahaan data yang sepenuhnya disesuaikan dengan skenario dan kebutuhan spesifik mereka, memastikan akurasi tertinggi dalam pelatihan model.

• Generasi Data Sintetis

Menggunakan perangkat lunak untuk membuat gambar, teks, atau video berdasarkan skenario yang diberikan. Namun, data sintetis memiliki keterbatasan: ini dibuat berdasarkan parameter yang telah ditentukan dan kekurangan variabilitas alami dari data nyata.

Kekurangan ini dapat secara negatif mempengaruhi model AI. Meskipun tidak relevan untuk semua kasus dan tidak selalu terjadi, ini masih penting untuk diingat “keruntuhan model” — titik di mana ketergantungan yang berlebihan pada data sintetis menyebabkan model menjadi rusak, menghasilkan output yang berkualitas rendah.

Data sintetis masih dapat sangat efektif untuk tugas dasar, seperti mengenali pola umum, mengidentifikasi objek, atau membedakan elemen visual dasar seperti wajah.

Namun, ini bukanlah pilihan terbaik ketika perusahaan perlu melatih model sepenuhnya dari awal atau menangani skenario yang jarang atau sangat spesifik.

Situasi yang paling mengungkapkan terjadi dalam lingkungan dalam kabin, seperti pengemudi yang terganggu oleh anak, seseorang yang tampak lelah di balik kemudi, atau bahkan contoh mengemudi yang tidak bertanggung jawab. Data poin ini tidak umum tersedia dalam dataset publik — dan seharusnya tidak — karena melibatkan individu nyata dalam pengaturan pribadi. Karena model AI bergantung pada data pelatihan untuk menghasilkan output sintetis, mereka berjuang untuk merepresentasikan skenario yang mereka belum pernah temui secara akurat.

Ketika data sintetis gagal, data yang dibuat — dikumpulkan melalui lingkungan yang dikendalikan dengan aktor nyata — menjadi solusi.

Penyedia solusi data seperti Keymakr menempatkan kamera di mobil, merekrut aktor, dan merekam aksi seperti merawat bayi, minum dari botol, atau menunjukkan tanda-tanda kelelahan. Aktor menandatangani kontrak yang secara eksplisit memberikan persetujuan untuk menggunakan data mereka untuk pelatihan AI, memastikan kepatuhan dengan hukum privasi.

Tanggung Jawab dalam Proses Pembuatan Dataset

Setiap peserta dalam proses, dari klien hingga perusahaan anotasi, memiliki tanggung jawab yang ditentukan dalam perjanjian mereka. Langkah pertama adalah membangun kontrak, yang merinci sifat hubungan, termasuk klausa tentang kerahasiaan dan hak cipta.

Mari kita pertimbangkan opsi pertama untuk bekerja dengan data, yaitu ketika data dibuat dari awal. Hak cipta menyatakan bahwa semua data yang dibuat oleh penyedia milik perusahaan yang mempekerjakannya, yang berarti data tersebut dibuat atas nama mereka. Ini juga berarti penyedia harus memastikan bahwa data diperoleh secara legal dan benar.

Sebagai perusahaan solusi data, Keymakr memastikan kepatuhan data dengan memeriksa yurisdiksi di mana data dibuat, memperoleh persetujuan yang tepat dari semua individu yang terlibat, dan menjamin bahwa data dapat digunakan secara legal untuk pelatihan AI.

Penting juga untuk dicatat bahwa setelah data digunakan untuk pelatihan model AI, menjadi hampir mustahil untuk menentukan data spesifik yang mana yang berkontribusi pada model karena AI mencampur semuanya. Jadi, output spesifik tidak cenderung menjadi outputnya, terutama ketika membahas jutaan gambar.

Karena perkembangannya yang pesat, bidang ini masih menetapkan pedoman yang jelas untuk distribusi tanggung jawab. Ini mirip dengan kompleksitas yang mengelilingi mobil self-driving, di mana pertanyaan tentang tanggung jawab — apakah itu pengemudi, produsen, atau perusahaan perangkat lunak — masih memerlukan distribusi yang jelas.

Dalam kasus lain, ketika penyedia anotasi menerima dataset untuk anotasi, mereka menganggap bahwa klien telah memperoleh data secara legal. Jika ada tanda-tanda jelas bahwa data telah diperoleh secara ilegal, penyedia harus melaporkannya. Namun, kasus yang jelas seperti itu sangat jarang.

Penting juga untuk dicatat bahwa perusahaan besar, perusahaan, dan merek yang menghargai reputasi mereka sangat berhati-hati tentang dari mana mereka memperoleh data, bahkan jika data tersebut tidak dibuat dari awal tetapi diambil dari sumber hukum lain.

Secara singkat, tanggung jawab setiap peserta dalam proses kerja data bergantung pada perjanjian. Anda bisa mempertimbangkan proses ini sebagai bagian dari “rantai keberlanjutan” yang lebih luas, di mana setiap peserta memiliki peran penting dalam mempertahankan standar hukum dan etis.

Apakah Kesalahpahaman yang Ada tentang Bagian Belakang Pengembangan AI?

Kesalahpahaman besar tentang pengembangan AI adalah bahwa model AI bekerja mirip dengan mesin pencari, mengumpulkan dan mengagregasi informasi untuk disajikan kepada pengguna berdasarkan pengetahuan yang dipelajari. Namun, model AI, terutama model bahasa, sering berfungsi berdasarkan probabilitas daripada pemahaman yang sebenarnya. Mereka memprediksi kata atau istilah berdasarkan kemungkinan statistik, menggunakan pola yang dilihat dalam data sebelumnya. AI tidak “tahu” apa-apa; itu mengextrapolasi, menebak, dan menyesuaikan probabilitas.

Selain itu, banyak orang menganggap bahwa pelatihan AI memerlukan dataset yang sangat besar, tetapi sebagian besar apa yang AI butuhkan untuk dikenali — seperti anjing, kucing, atau manusia — sudah mapan. Fokus sekarang adalah pada meningkatkan akurasi dan memperbaiki model daripada menciptakan kembali kemampuan pengenalan. Sebagian besar pengembangan AI saat ini berkisar pada menutup celah kecil terakhir dalam akurasi daripada memulai dari awal.

Tantangan Etis dan Dampak Undang-Undang AI Uni Eropa serta Mitigasi Regulasi AS terhadap Pasar AI Global

Ketika membahas etika dan legalitas kerja dengan data, juga penting untuk memahami dengan jelas apa yang mendefinisikan “etis” AI.

Tantangan etis terbesar yang dihadapi perusahaan saat ini dalam AI adalah menentukan apa yang dianggap tidak dapat diterima untuk AI lakukan atau diajari. Terdapat konsensus luas bahwa AI etis harus membantu dan tidak merugikan manusia serta menghindari penipuan. Namun, sistem AI dapat membuat kesalahan atau “berhalusinasi”, yang menantang penentuan apakah kesalahan-kesalahan ini memenuhi syarat sebagai disinformasi atau kerugian.

Etika AI adalah debat besar dengan organisasi seperti UNESCO terlibat — dengan prinsip-prinsip kunci yang mengelilingi auditabilitas dan jejak dari output.

Kerangka hukum yang mengelilingi akses data dan pelatihan AI memainkan peran signifikan dalam membentuk lanskap etis AI. Negara dengan lebih sedikit pembatasan pada penggunaan data memungkinkan data pelatihan yang lebih mudah diakses, sedangkan negara dengan hukum data yang lebih ketat membatasi ketersediaan data untuk pelatihan AI.

Misalnya, Eropa, yang mengadopsi Undang-Undang AI, dan AS, yang telah menggulirkan kembali banyak regulasi AI, menawarkan pendekatan yang kontras yang menunjukkan lanskap global saat ini.

Undang-Undang AI Uni Eropa secara signifikan mempengaruhi perusahaan yang beroperasi di Eropa. Ini menerapkan kerangka regulasi yang ketat, membuatnya sulit bagi bisnis untuk menggunakan atau mengembangkan model AI tertentu. Perusahaan harus memperoleh lisensi khusus untuk bekerja dengan teknologi tertentu, dan dalam banyak kasus, regulasi secara efektif membuatnya terlalu sulit bagi bisnis kecil untuk memenuhi aturan-aturan ini.

Sebagai hasilnya, beberapa startup mungkin memilih untuk meninggalkan Eropa atau menghindari beroperasi di sana sama sekali, mirip dengan dampak yang dilihat dengan regulasi cryptocurrency. Perusahaan besar yang dapat membiayai investasi yang diperlukan untuk memenuhi persyaratan kepatuhan mungkin beradaptasi. Namun, Undang-Undang tersebut bisa mendorong inovasi AI keluar dari Eropa demi pasar seperti AS atau Israel, di mana regulasi lebih longgar.

Keputusan AS untuk menginvestasikan sumber daya besar dalam pengembangan AI dengan lebih sedikit pembatasan juga bisa memiliki kelemahan tetapi mengundang lebih banyak keragaman di pasar. Sementara Uni Eropa fokus pada keselamatan dan kepatuhan regulasi, AS kemungkinan akan mendorong lebih banyak pengambilan risiko dan eksperimen yang berani.