Startup Unbiased Bertujuan Meningkatkan Transparansi Data Melalui Blockchain, Melawan Bias Data

Dampak bias data pada kecerdasan buatan sudah terdokumentasi dengan baik, dan karena algoritma kecerdasan buatan dan pembelajaran mesin semakin banyak digunakan di berbagai bidang masyarakat, perusahaan kecerdasan buatan mencari cara baru untuk memastikan bahwa algoritma yang mereka kembangkan tidak mewarisi bias manusia. Salah satu pemain baru dalam ruang kecerdasan buatan dan pembelajaran mesin yang bertujuan mengurangi bias data adalah startup Unbiased. Unbiased telah meluncurkan pasar data baru pada platform blockchain aktif Telos, dengan harapan dapat menyediakan klien dengan alat dan aplikasi yang terdesentralisasi, privasi-utama untuk ilmu data dan kecerdasan buatan.

Pasar kecerdasan buatan global diprediksi akan terus tumbuh pesat selama dekade berikutnya, mencapai sekitar 266 miliar dolar pada tahun 2027. Dalam empat tahun ke depan, pengeluaran global untuk sistem kecerdasan buatan dan komponen terkait diperkirakan akan meningkat dua kali lipat, mencapai sekitar 110 miliar dolar pada tahun 2024 menurut IDC. Adopsi algoritma kecerdasan buatan yang semakin luas di berbagai industri telah menyebabkan kekhawatiran yang semakin besar tentang transparansi, privasi, keadilan, dan representativitas sistem kecerdasan buatan.

Mengurangi Bias Melalui Transparansi

Menurut laporan terbaru yang dirilis oleh CapGemini Research Institute, yang berjudul “Kecerdasan Buatan dan Konundrum Etika: Bagaimana Organisasi Dapat Membangun Sistem Kecerdasan Buatan yang Etis dan Memperoleh Kepercayaan”, penggunaan etis kecerdasan buatan telah menjadi perhatian utama bagi pemimpin IT di seluruh dunia, dengan sebagian besar pemimpin IT sekarang mengungkapkan kekhawatiran tentang potensi penyalahgunaan sistem kecerdasan buatan. Sekitar 9 dari 10 organisasi IT menyatakan bahwa mereka menyadari setidaknya satu insiden di mana masalah etika diciptakan oleh penerapan sistem kecerdasan buatan. Sekitar dua pertiga eksekutif IT mengatakan bahwa mereka menyadari adanya bias diskriminatif potensial dalam sistem kecerdasan buatan, dan sekitar setengah dari semua organisasi IT memiliki piagam etika yang dimaksudkan untuk memberikan pengembangan kecerdasan buatan, bukan hanya lima persen perusahaan IT pada tahun 2019.

Sementara penelitian tentang bagaimana algoritma kecerdasan buatan dapat dibuat lebih adil terus berlanjut, banyak ahli etika dan spesialis kecerdasan buatan memfokuskan perhatian pada data yang digunakan untuk melatih kecerdasan buatan. Ketika algoritma kecerdasan buatan menjadi lebih umum dan standar, fokus beralih ke pengumpulan data yang diperlukan untuk melatih model.

Terdapat banyak cara untuk mengurangi bias data dalam algoritma kecerdasan buatan. Beberapa teknik melibatkan membuat penyesuaian pada model atau pada data pelatihan saat model dilatih. Teknik-teknik ini adalah “in-processing” bias koreksi teknik. Ini termasuk penggunaan teknik pelatihan lawan, di mana beberapa fitur/variabel sensitif (seperti jenis kelamin atau ras) dikendalikan dengan menghukum kemampuan model untuk membuat prediksi yang melibatkan fitur yang dimaksud. Ini dilakukan sambil berusaha untuk meminimalkan kesalahan model. Sebaliknya, fokus pada menghilangkan bias dari dataset adalah teknik pra-pengolahan. Data pelatihan untuk model pembelajaran mesin sering kali diberi label secara manual, dan penerapan blockchain dapat membantu perusahaan melacak proses pelabelan data mereka untuk memastikan bahwa dataset mereka representatif.

Unbiased berencana menggunakan blockchain untuk menciptakan budaya transparansi dalam dataset dan pasar data. Sebagian besar alat yang digunakan untuk menghasilkan dataset untuk sistem kecerdasan buatan dan algoritma pembelajaran mesin adalah terpusat, dan karena itu mereka sering kekurangan transparansi. Unbiased bertujuan untuk memanfaatkan sifat blockchain untuk mencatat tindakan yang terjadi di pasar data mereka, termasuk pertukaran data, penugasan tugas dan proyek, dan kontribusi dari pekerja. Tujuannya adalah bahwa sifat terdesentralisasi blockchain Telos memfasilitasi transparansi, memungkinkan pengguna untuk mendapatkan informasi kritis tentang sifat ilmu data mereka. Pengguna akan dapat memvalidasi dataset mereka dan menentukan apakah anotasi telah dilakukan dengan mempertimbangkan prinsip etika tertentu, seperti keadilan dan privasi.

Menurut Arsitek Utama Blockchain Telos, persimpangan kecerdasan buatan/pembelajaran mesin dengan blockchain dapat mengarah pada metode baru yang transformatif untuk bekerja dengan data. Seperti yang dikutip oleh AIthority:

“Unbiased akan menunjukkan kepada industri ini bagaimana merekam data pada blockchain dengan kinerja tinggi, tanpa biaya, seperti Telos dapat menambahkan transparansi, ketidakubah, mikro pembayaran, dan tata kelola ke dalam produk mereka untuk kepentingan semua pemangku kepentingan.”

Di luar transparansi data pelatihan, beberapa ilmuwan dan peneliti telah mendorong transparansi yang lebih besar dalam algoritma, model, dan kode. Sebuah tim ilmuwan internasional menyerukan agar jurnal ilmiah memegang peneliti kecerdasan buatan pada standar transparansi yang lebih tinggi. Peneliti tersebut berpendapat bahwa transparansi yang lebih besar tentang model dan kode kecerdasan buatan tidak hanya akan membantu dalam reproduksi studi, tetapi juga membantu kolaborasi antara kelompok penelitian. Banyak studi ilmiah tidak dapat direproduksi, dan ini adalah masalah yang lebih besar untuk studi yang berfokus pada kecerdasan buatan yang meninggalkan bahan kritis. Di masa depan, blockchain bahkan dapat digunakan untuk meningkatkan pelacakan dan penilaian penelitian di bidang kecerdasan buatan.