Mengungkap Bias dalam Kecerdasan Buatan: Tantangan dan Solusi

Kemajuan terkini dari AI generatif telah menyaksikan peningkatan pesat dalam aplikasi perusahaan di berbagai industri, termasuk keuangan, perawatan kesehatan, dan transportasi. Pengembangan teknologi ini juga akan menghasilkan teknologi baru lainnya seperti teknologi pertahanan keamanan siber, kemajuan komputasi kuantum, dan teknik komunikasi nirkabel yang inovatif. Namun, ledakan teknologi generasi mendatang ini disertai dengan serangkaian tantangan tersendiri.

Misalnya, adopsi AI dapat memungkinkan serangan siber yang lebih canggih, kemacetan memori dan penyimpanan karena peningkatan daya komputasi dan masalah etika akibat bias yang disajikan oleh model AI. Kabar baiknya adalah NTT Research telah mengusulkan cara untuk mengatasi bias dalam jaringan saraf dalam (DNN), sejenis kecerdasan buatan.

Penelitian ini merupakan terobosan penting mengingat model AI yang tidak bias akan berkontribusi pada perekrutan, sistem peradilan pidana, dan perawatan kesehatan jika tidak dipengaruhi oleh karakteristik seperti ras dan gender. Di masa mendatang, diskriminasi berpotensi dihilangkan dengan menggunakan sistem otomatis semacam ini, sehingga meningkatkan inisiatif bisnis DE&I di seluruh industri. Terakhir, model AI dengan hasil yang tidak bias akan meningkatkan produktivitas dan mengurangi waktu yang dibutuhkan untuk menyelesaikan tugas-tugas ini. Namun, hanya sedikit bisnis yang terpaksa menghentikan program yang dihasilkan AI karena solusi teknologi yang bias.

Sebagai contoh, Amazon menghentikan penggunaan algoritma perekrutan ketika menemukan bahwa algoritma tersebut menunjukkan preferensi terhadap pelamar yang lebih sering menggunakan kata-kata seperti “dieksekusi” atau “ditangkap”, yang lebih umum dalam resume pria. Contoh bias mencolok lainnya datang dari Joy Buolamwini, salah satu orang paling berpengaruh dalam AI pada tahun 2023 menurut WAKTU, bekerja sama dengan Timnit Gebru di MIT, mengungkapkan bahwa teknologi analisis wajah menunjukkan tingkat kesalahan yang lebih tinggi saat menilai kaum minoritas, khususnya perempuan minoritas, yang mungkin disebabkan oleh data pelatihan yang tidak cukup representatif.

Baru-baru ini DNN telah menjadi hal yang umum dalam sains, teknik, dan bisnis, dan bahkan dalam aplikasi populer, tetapi terkadang DNN bergantung pada atribut palsu yang dapat menimbulkan bias. Menurut sebuah penelitian studi MIT Selama beberapa tahun terakhir, para ilmuwan telah mengembangkan jaringan saraf dalam yang mampu menganalisis sejumlah besar masukan, termasuk suara dan gambar. Jaringan ini dapat mengidentifikasi karakteristik bersama, yang memungkinkan mereka untuk mengklasifikasikan kata atau objek target. Sampai saat ini, model-model ini berada di garis depan bidang ini sebagai model utama untuk mereplikasi sistem sensor biologis.

Ilmuwan Senior Riset NTT dan Rekan di Pusat Ilmu Otak Universitas Harvard Hidenori Tanaka dan tiga ilmuwan lainnya mengusulkan untuk mengatasi keterbatasan fine-tuning naif, metode status quo untuk mengurangi kesalahan atau "kerugian" DNN, dengan algoritma baru yang mengurangi ketergantungan model pada atribut yang rentan bias.

Mereka mempelajari bentang kerugian jaringan saraf melalui lensa konektivitas mode, pengamatan bahwa peminimal jaringan saraf yang diambil melalui pelatihan pada kumpulan data terhubung melalui jalur sederhana dengan kerugian rendah. Secara khusus, mereka mengajukan pertanyaan berikut: apakah peminimal yang mengandalkan mekanisme berbeda untuk membuat prediksi mereka terhubung melalui jalur sederhana dengan kerugian rendah?

Mereka menemukan bahwa fine-tuning Naïve tidak dapat mengubah mekanisme pengambilan keputusan model secara mendasar karena memerlukan perpindahan ke lembah yang berbeda pada lanskap kerugian. Sebaliknya, Anda perlu menggerakkan model melewati penghalang yang memisahkan "tenggelam" atau "lembah" kerugian rendah. Penulis menyebut algoritme korektif ini Connectivity-Based Fine-Tuning (CBFT).

Sebelum pengembangan ini, DNN, yang mengklasifikasikan gambar seperti ikan (ilustrasi yang digunakan dalam penelitian ini) menggunakan bentuk objek dan latar belakang sebagai parameter input untuk prediksi. Oleh karena itu, jalur yang meminimalkan kerugiannya akan beroperasi dalam mode yang secara mekanis berbeda: satu bergantung pada atribut bentuk yang sah, dan yang lainnya pada atribut warna latar belakang yang salah. Dengan demikian, mode-mode ini tidak akan memiliki konektivitas linier, atau jalur sederhana dengan kerugian rendah.

Tim peneliti memahami konektivitas lensa mekanistik pada moda dengan mempertimbangkan dua set parameter yang meminimalkan kerugian menggunakan latar belakang dan bentuk objek sebagai atribut input untuk prediksi, masing-masing. Dan kemudian bertanya pada diri sendiri, apakah peminimal yang berbeda secara mekanistik tersebut terhubung melalui jalur kerugian rendah di lanskap? Apakah perbedaan mekanisme ini memengaruhi kesederhanaan jalur konektivitasnya? Dapatkah kita memanfaatkan konektivitas ini untuk beralih di antara peminimal yang menggunakan mekanisme yang kita inginkan?

Dengan kata lain, jaringan saraf dalam, tergantung pada apa yang telah mereka tangkap selama pelatihan pada kumpulan data tertentu, dapat berperilaku sangat berbeda saat Anda mengujinya pada kumpulan data lain. Usulan tim tersebut bermuara pada konsep kesamaan bersama. Usulan ini dibangun berdasarkan gagasan konektivitas mode sebelumnya, tetapi dengan sedikit perubahan – ia mempertimbangkan cara kerja mekanisme yang serupa. Penelitian mereka menghasilkan penemuan-penemuan yang membuka mata berikut ini:

• peminimal yang memiliki mekanisme yang berbeda dapat dihubungkan dengan cara yang agak rumit dan non-linier
• ketika dua peminimal terhubung secara linear, hal ini terkait erat dengan seberapa mirip model mereka dalam hal mekanisme
• Penyetelan sederhana mungkin tidak cukup untuk menghilangkan fitur-fitur yang tidak diinginkan yang diambil selama pelatihan sebelumnya
• jika Anda menemukan wilayah yang terputus secara linear di lanskap, Anda dapat membuat perubahan yang efisien pada cara kerja internal model.

Meskipun penelitian ini merupakan langkah besar dalam memanfaatkan potensi AI secara penuh, masalah etika seputar AI mungkin masih menjadi perdebatan sengit. Para ahli teknologi dan peneliti berupaya mengatasi kelemahan etika lain dalam AI dan model bahasa besar lainnya seperti privasi, otonomi, dan tanggung jawab.

AI dapat digunakan untuk mengumpulkan dan memproses sejumlah besar data pribadi. Penggunaan data ini secara tidak sah atau tidak etis dapat membahayakan privasi individu, yang menimbulkan kekhawatiran tentang pengawasan, pelanggaran data, dan pencurian identitas. AI juga dapat menimbulkan ancaman terkait tanggung jawab aplikasi otonomnya seperti mobil tanpa pengemudi. Menetapkan kerangka hukum dan standar etika untuk akuntabilitas dan tanggung jawab akan menjadi hal yang penting di tahun-tahun mendatang.

Sebagai kesimpulan, pertumbuhan pesat teknologi AI generatif menjanjikan berbagai industri, mulai dari keuangan dan perawatan kesehatan hingga transportasi. Meskipun perkembangan ini menjanjikan, masalah etika seputar AI tetap substansial. Saat kita mengarungi era AI yang transformatif ini, sangat penting bagi para teknolog, peneliti, dan pembuat kebijakan untuk bekerja sama membangun kerangka hukum dan standar etika yang akan memastikan penggunaan teknologi AI yang bertanggung jawab dan bermanfaat di tahun-tahun mendatang. Para ilmuwan di NTT Research dan University of Michigan selangkah lebih maju dengan proposal mereka untuk sebuah algoritma yang berpotensi menghilangkan bias dalam AI.