Pemimpin pemikiran

Mengungkap Bias pada Kecerdasan Buatan: Tantangan dan Solusi

mm
Diterbitkan
Diperbarui

Perkembangan terbaru dalam kecerdasan buatan (AI) generatif telah menyebabkan peningkatan besar dalam aplikasi perusahaan di berbagai industri, termasuk keuangan, kesehatan, dan transportasi. Perkembangan teknologi ini juga akan mengarah pada teknologi lain yang muncul, seperti teknologi pertahanan siber, kemajuan komputasi kuantum, dan teknik komunikasi nirkabel yang inovatif. Namun, ledakan teknologi generasi berikutnya ini datang dengan tantangan tersendiri.

Sebagai contoh, adopsi AI dapat memungkinkan serangan siber yang lebih canggih, bottleneck memori dan penyimpanan karena peningkatan daya komputasi, dan kekhawatiran etika tentang bias yang disajikan oleh model AI. Kabar baiknya adalah bahwa NTT Research telah mengusulkan cara untuk mengatasi bias dalam jaringan saraf dalam (DNN), jenis kecerdasan buatan.

Penelitian ini merupakan kemajuan signifikan karena model AI yang tidak bias akan berkontribusi pada perekrutan, sistem peradilan pidana, dan kesehatan ketika mereka tidak dipengaruhi oleh karakteristik seperti ras, jenis kelamin. Di masa depan, diskriminasi memiliki potensi untuk dihilangkan dengan menggunakan sistem otomatis ini, sehingga meningkatkan inisiatif bisnis DE&I secara luas. Terakhir, model AI dengan hasil yang tidak bias akan meningkatkan produktivitas dan mengurangi waktu yang dibutuhkan untuk menyelesaikan tugas-tugas ini. Namun, beberapa bisnis telah dipaksa untuk menghentikan program AI mereka karena solusi yang bias.

Sebagai contoh, Amazon menghentikan penggunaan algoritma perekrutan ketika mereka menemukan bahwa algoritma tersebut menunjukkan preferensi untuk pelamar yang menggunakan kata-kata seperti “dieksekusi” atau “ditangkap” lebih sering, yang lebih umum dalam resume laki-laki. Contoh lain dari bias berasal dari Joy Buolamwini, salah satu orang paling berpengaruh dalam AI pada 2023 menurut TIME, bekerja sama dengan Timnit Gebru di MIT, mengungkapkan bahwa teknologi analisis wajah menunjukkan tingkat kesalahan yang lebih tinggi ketika menilai minoritas, terutama perempuan minoritas, kemungkinan karena data pelatihan yang tidak cukup representatif.

Baru-baru ini, DNN telah menjadi sangat umum dalam sains, teknik, dan bisnis, bahkan dalam aplikasi populer, tetapi mereka terkadang bergantung pada atribut yang tidak perlu yang dapat menyampaikan bias. Menurut sebuah studi MIT selama beberapa tahun terakhir, ilmuwan telah mengembangkan jaringan saraf dalam yang dapat menganalisis sejumlah besar input, termasuk suara dan gambar. Jaringan ini dapat mengidentifikasi karakteristik yang sama, memungkinkan mereka untuk mengklasifikasikan kata atau objek target. Saat ini, model ini berada di garis depan bidang sebagai model utama untuk mereplikasi sistem sensor biologis.

Ilmuwan Senior NTT Research dan Asosiasi di Pusat Sains Otak Universitas Harvard Hidenori Tanaka dan tiga ilmuwan lainnya mengusulkan untuk mengatasi keterbatasan fine-tuning naif, metode status quo untuk mengurangi kesalahan atau “kerugian” DNN, dengan algoritma baru yang mengurangi ketergantungan model pada atribut yang rentan terhadap bias.

Mereka mempelajari lanskap kerugian jaringan saraf melalui lensa koneksi mode, observasi bahwa minimizer jaringan saraf yang diperoleh melalui pelatihan pada dataset terhubung melalui jalur sederhana dengan kerugian rendah. Secara khusus, mereka bertanya: apakah minimizer yang bergantung pada mekanisme yang berbeda untuk membuat prediksi mereka terhubung melalui jalur sederhana dengan kerugian rendah?

Mereka menemukan bahwa fine-tuning naif tidak dapat mengubah secara fundamental mekanisme pengambilan keputusan model karena memerlukan pergerakan ke lembah yang berbeda pada lanskap kerugian. Sebaliknya, Anda perlu mendorong model melewati penghalang yang memisahkan “sink” atau “lembah” dengan kerugian rendah. Penulis menyebut algoritma korektif ini sebagai Connectivity-Based Fine-Tuning (CBFT).

Sebelum perkembangan ini, DNN yang mengklasifikasikan gambar, seperti ilustrasi ikan (yang digunakan dalam studi ini), menggunakan baik bentuk objek dan latar belakang sebagai parameter input untuk prediksi. Jalur pengurangan kerugiannya akan beroperasi dalam mode yang berbeda: satu bergantung pada atribut yang sah dari bentuk, dan yang lainnya pada atribut yang tidak perlu dari warna latar belakang. Dengan demikian, mode ini akan kekurangan koneksi linier, atau jalur sederhana dengan kerugian rendah.

Tim penelitian memahami lensa mekanistik pada koneksi mode dengan mempertimbangkan dua set parameter yang mengurangi kerugian menggunakan latar belakang dan bentuk objek sebagai atribut input untuk prediksi, masing-masing. Lalu mereka bertanya pada diri sendiri, apakah minimizer yang berbeda secara mekanistik ini terhubung melalui jalur dengan kerugian rendah dalam lanskap? Apakah perbedaan mekanisme ini mempengaruhi kesederhanaan jalur koneksi mereka? Apakah kita dapat memanfaatkan koneksi ini untuk beralih antara minimizer yang menggunakan mekanisme yang diinginkan?

Dalam kata lain, jaringan saraf dalam, tergantung pada apa yang mereka pelajari selama pelatihan pada dataset tertentu, dapat berperilaku sangat berbeda ketika diuji pada dataset lain. Proposal tim ini berkembang menjadi konsep kesamaan. Ini membangun pada ide koneksi mode sebelumnya, tetapi dengan twist – itu mempertimbangkan bagaimana mekanisme yang sama bekerja. Penelitian mereka mengarah pada penemuan yang menarik:

  • minimizer yang memiliki mekanisme yang berbeda dapat terhubung dalam cara yang kompleks dan non-linier
  • kapan dua minimizer terhubung secara linier, itu erat terkait dengan seberapa mirip model mereka dalam hal mekanisme
  • fine-tuning sederhana mungkin tidak cukup untuk menghilangkan fitur yang tidak diinginkan yang dipelajari selama pelatihan sebelumnya
  • jika Anda menemukan wilayah yang terhubung secara linier dalam lanskap, Anda dapat membuat perubahan yang efisien pada bagian dalam model.

Sementara penelitian ini merupakan langkah besar dalam mengoptimalkan potensi penuh AI, kekhawatiran etika seputar AI masih dapat menjadi pertarungan yang berat. Teknolog dan peneliti bekerja untuk mengatasi kelemahan etika lainnya dalam AI dan model bahasa besar lainnya, seperti privasi, otonomi, dan tanggung jawab.

AI dapat digunakan untuk mengumpulkan dan memproses sejumlah besar data pribadi. Penggunaan yang tidak sah atau tidak etis dari data ini dapat mengompromikan privasi individu, menyebabkan kekhawatiran tentang pengawasan, pelanggaran data, dan pencurian identitas. AI juga dapat mempresentasikan ancaman ketika datang ke tanggung jawab aplikasi otonom mereka, seperti mobil self-driving. Membentuk kerangka hukum dan standar etika untuk akuntabilitas dan tanggung jawab akan sangat penting dalam beberapa tahun mendatang.

Dalam kesimpulan, pertumbuhan cepat teknologi AI generatif menjanjikan berbagai industri, dari keuangan dan kesehatan hingga transportasi. Meskipun perkembangan yang menjanjikan ini, kekhawatiran etika seputar AI tetap substansial. Ketika kita menavigasi era transformasi AI ini, sangat penting bagi teknolog, peneliti, dan pembuat kebijakan untuk bekerja sama untuk membentuk kerangka hukum dan standar etika yang akan memastikan penggunaan AI yang bertanggung jawab dan bermanfaat dalam beberapa tahun mendatang. Ilmuwan di NTT Research dan Universitas Michigan telah melangkah lebih maju dengan proposal mereka untuk algoritma yang dapat menghilangkan bias dalam AI.

mm

Di intinya, Chris adalah seorang pengisah cerita yang percaya bahwa kreativitas membawa kita maju. Karir pemasarannya dimulai di sebuah perusahaan kecil di California yang menggunakan komputer mainframe IBM untuk membaca data elektrokardiogram melalui telepon, sebuah inovasi radikal pada saat itu. Kemudian, Chris akan menulis untuk sebuah acara permainan TV sebelum bergabung kembali dengan dunia iklan, menulis salinan komersial untuk sebuah perusahaan rintisan perangkat lunak. Pekerjaan itu mendapatkannya penghargaan Effie emas pertamanya, sebuah penghargaan industri yang bergengsi yang mengakui efektivitas sebuah kampanye. Setelah mendapatkan peran sebagai direktur kreatif, Chris kemudian memimpin salah satu merek paling ikonik di dunia: Coca-Cola. Pada saat itu, Chris dan timnya menggunakan teknologi yang sangat umum pada saat itu, voicemail, untuk menciptakan apa yang bisa disebut sebagai jaringan sosial pertama di dunia. Pada tahun 2005, Chris meluncurkan agensinya sendiri. Selalu mencari cara baru untuk menceritakan kisah, Central Coast Agency mengadopsi ruang digital dan menjadi salah satu pendukung awal pemasaran konten. Selama 14 tahun berikutnya, Central Coast menjadi agen catatan untuk pemasaran media sosial global NTT Communications. Di dunia itu, Chris menyentuh banyak aspek bisnis NTT di seluruh dunia. Ketika NTT Research mendekatinya untuk memimpin upaya pemasaran untuk fasilitas penelitian baru sejenis Bell Labs, Chris dengan cepat menyadari bahwa kesempatan ini melampaui ranah periklanan. Sebagai kepala pemasaran untuk NTT Research, dia adalah bagian dari sesuatu yang luar biasa. Dengan para pemikir kelas dunia di bidang Fisika, Enkripsi, dan Kedokteran yang bersatu untuk penelitian dasar yang akan suatu hari memperbaiki dan bahkan memperpanjang kehidupan manusia, ini adalah kisah yang Chris sangat ingin ceritakan.