Bias AI & Stereotip Kultural: Efek, Keterbatasan, & Mitigasi

Kecerdasan Buatan (AI), terutama Generative AI, terus melampaui harapan dengan kemampuan untuk memahami dan meniru kognisi dan kecerdasan manusia. Namun, dalam banyak kasus, hasil atau prediksi sistem AI dapat mencerminkan berbagai jenis bias AI, seperti cultural dan rasial.

Blog ” Barbies of the World” dari Buzzfeed (yang sekarang telah dihapus) jelas menunjukkan bias kultural dan ketidakakuratan ini. ‘Barbies’ ini dibuat menggunakan Midjourney – sebuah generator gambar AI terkemuka, untuk mengetahui seperti apa barbies akan terlihat di setiap bagian dunia. Kami akan membahas lebih lanjut tentang ini nanti.

Tapi ini bukanlah pertama kalinya AI telah “rasialis” atau menghasilkan hasil yang tidak akurat. Sebagai contoh, pada tahun 2022, Apple (AAPL ) digugat atas tuduhan bahwa sensor oksigen darah Apple Watch bias terhadap orang-orang berwarna. Dalam kasus lain yang dilaporkan, pengguna Twitter menemukan bahwa algoritma pengcropan gambar otomatis Twitter lebih memfavoritkan wajah orang kulit putih daripada orang kulit hitam dan perempuan daripada laki-laki. Ini adalah tantangan kritis, dan mengatasi mereka sangat menantang.

Dalam artikel ini, kita akan melihat apa itu bias AI, bagaimana itu mempengaruhi masyarakat kita, dan membahas singkat bagaimana praktisi dapat mengurangi untuk mengatasi tantangan seperti stereotip kultural.

Apa itu Bias AI?

Bias AI terjadi ketika model AI menghasilkan hasil diskriminatif terhadap demografi tertentu. Beberapa jenis bias dapat memasuki sistem AI dan menghasilkan hasil yang tidak akurat. Beberapa contoh bias AI adalah:

• Bias Stereotip: Bias stereotip merujuk pada fenomena di mana hasil model AI terdiri dari stereotip atau konsep yang diterima tentang demografi tertentu.
• Bias Rasial: Bias rasial dalam AI terjadi ketika hasil model AI diskriminatif dan tidak adil terhadap individu atau kelompok berdasarkan etnis atau ras mereka.
• Bias Kultural: Bias kultural terjadi ketika hasil model AI lebih memfavoritkan budaya tertentu daripada yang lain.

Selain bias, masalah lain juga dapat menghambat hasil sistem AI, seperti:

• Ketidakakuratan: Ketidakakuratan terjadi ketika hasil yang dihasilkan oleh model AI tidak akurat karena data pelatihan yang tidak konsisten.
• Halusinasi: Halusinasi terjadi ketika model AI menghasilkan hasil fiksi dan palsu yang tidak didasarkan pada data faktual.

Dampak Bias AI pada Masyarakat

Dampak bias AI pada masyarakat dapat sangat merusak. Sistem AI yang bias dapat menghasilkan hasil yang tidak akurat yang memperkuat prasangka yang sudah ada di masyarakat. Hasil ini dapat meningkatkan diskriminasi dan pelanggaran hak, mempengaruhi proses perekrutan, dan mengurangi kepercayaan pada teknologi AI.

Juga, hasil AI yang bias sering menghasilkan prediksi yang tidak akurat yang dapat memiliki konsekuensi serius bagi individu yang tidak bersalah. Sebagai contoh, pada Agustus 2020, Robert McDaniel menjadi target tindakan kriminal karena algoritma prediksi kejahatan Departemen Kepolisian Chicago yang menandainya sebagai “orang yang dicurigai.”

Serupa, sistem AI kesehatan yang bias dapat memiliki hasil pasien yang akut. Pada 2019, Science menemukan bahwa algoritma risiko kesehatan medis yang banyak digunakan di AS memiliki bias rasial terhadap orang-orang berwarna, yang menyebabkan pasien kulit hitam mendapatkan pengelolaan risiko yang lebih rendah.

Barbies of the World

Pada Juli 2023, Buzzfeed menerbitkan blog yang terdiri dari 194 barbies yang dihasilkan AI dari seluruh dunia. Postingan itu menjadi viral di Twitter. Meskipun Buzzfeed menulis pernyataan penafian, itu tidak menghentikan netizen dari menunjukkan ketidakakuratan rasial dan kultural. Sebagai contoh, gambar AI yang dihasilkan dari Barbie Jerman mengenakan seragam jenderal SS Nazi.

Serupa, gambar AI yang dihasilkan dari Barbie Sudan Selatan digambarkan memegang senjata di sampingnya, mencerminkan bias yang dalam pada algoritma AI.

Selain itu, beberapa gambar lain menunjukkan ketidakakuratan kultural, seperti Barbie Qatar yang mengenakan Ghutra, sebuah penutup kepala tradisional yang dikenakan oleh pria Arab.

Postingan blog ini mendapat kritik besar karena stereotip kultural dan bias. London Interdisciplinary School (LIS) menyebut ini sebagai kerusakan representasional yang harus dikendalikan dengan menetapkan standar kualitas dan membentuk badan pengawas AI.

Keterbatasan Model AI

AI memiliki potensi untuk mengubah banyak industri. Namun, jika skenario seperti yang disebutkan di atas menjadi lebih umum, itu dapat menyebabkan penurunan adopsi AI secara umum, sehingga menghasilkan kesempatan yang terlewatkan. Kasus seperti ini biasanya terjadi karena keterbatasan signifikan dalam sistem AI, seperti:

• Kurangnya Kreativitas: Karena AI hanya dapat membuat keputusan berdasarkan data pelatihan yang diberikan, AI kekurangan kreativitas untuk berpikir di luar kotak, yang menghambat pemecahan masalah kreatif.

• Kurangnya Pemahaman Kontekstual: Sistem AI menghadapi kesulitan memahami nuansa kontekstual atau ekspresi bahasa dari suatu wilayah, yang sering menghasilkan kesalahan dalam hasil.

• Bias Pelatihan: AI bergantung pada data historis yang dapat mengandung contoh diskriminatif. Selama pelatihan, model dapat dengan mudah mempelajari pola diskriminatif untuk menghasilkan hasil yang tidak adil dan bias.

Bagaimana Mengurangi Bias dalam Model AI

Para ahli memperkirakan bahwa pada tahun 2026, 90% dari konten online dapat dihasilkan secara sintetis. Oleh karena itu, sangat penting untuk segera meminimalkan masalah yang ada dalam teknologi AI Generatif.

Beberapa strategi kunci dapat diterapkan untuk mengurangi bias dalam model AI. Beberapa di antaranya adalah:

• Pastikan Kualitas Data: Mengonsumsi data yang lengkap, akurat, dan bersih ke dalam model AI dapat membantu mengurangi bias dan menghasilkan hasil yang lebih akurat.
• Dataset yang Beragam: Mengenalkan dataset yang beragam ke dalam sistem AI dapat membantu mengurangi bias karena sistem AI menjadi lebih inklusif seiring waktu.

• Lingkaran Umpan Balik: Dengan lingkaran umpan balik dan pembelajaran yang konstan, model AI dapat secara bertahap memperbaiki hasilnya

• Regulasi yang Lebih Ketat: Regulasi AI global sangat penting untuk mempertahankan kualitas sistem AI di seluruh perbatasan. Oleh karena itu, organisasi internasional harus bekerja sama untuk memastikan standarisasi AI.

• Adopsi AI yang Bertanggung Jawab: Strategi AI yang bertanggung jawab memberikan kontribusi positif untuk mengurangi bias AI, mengembangkan keadilan dan akurasi dalam sistem AI, dan memastikan bahwa mereka melayani basis pengguna yang beragam sambil berusaha untuk perbaikan terus-menerus.

Dengan menggabungkan dataset yang beragam, tanggung jawab etis, dan sarana komunikasi terbuka, kita dapat memastikan bahwa AI menjadi sumber perubahan positif di seluruh dunia.

Jika Anda ingin mempelajari lebih lanjut tentang bias dan peran Kecerdasan Buatan dalam masyarakat kita, baca blog berikut.

• Bagaimana Kota Menggunakan Teknologi Terkemuka dengan Algoritma AI yang Tidak Bias
• AI Dapat Mengatasi Kebenaran dan Bias dalam Berita
• Bias dan Keadilan Sistem Berbasis AI dalam Kejahatan Keuangan
• Pengecek Bias yang Didorong AI untuk Artikel Berita, Tersedia dalam Python