Bias AI & Stereotip Budaya: Efek, Keterbatasan, & Mitigasi

Kecerdasan Buatan (AI), khususnya AI generatif, terus melampaui ekspektasi dengan kemampuannya memahami dan meniru kognisi dan kecerdasan manusia. Namun, dalam banyak kasus, hasil atau prediksi sistem AI dapat mencerminkan berbagai jenis bias AI, seperti budaya dan ras.

Umpan Buzz “Barbie Dunia” blog (yang sekarang dihapus) dengan jelas menunjukkan bias dan ketidakakuratan budaya ini. 'Barbie' ini dibuat menggunakan tengah perjalanan – generator gambar AI terkemuka, untuk mengetahui seperti apa rupa barbie di setiap belahan dunia. Kita akan membicarakan hal ini lebih lanjut nanti.

Namun ini bukan pertama kalinya AI bersikap “rasis” atau memberikan hasil yang tidak akurat. Misalnya, pada tahun 2022, Apple berada menggugat atas tuduhan bahwa sensor oksigen darah Apple Watch bias terhadap orang kulit berwarna. Dalam kasus lain yang dilaporkan, pengguna Twitter menemukan hal itu AI pemangkasan gambar otomatis Twitter lebih menyukai wajah orang kulit putih dibandingkan kulit hitam dan wanita dibandingkan pria. Ini adalah tantangan-tantangan yang sangat penting, dan untuk mengatasinya adalah sebuah tantangan yang sangat besar.

Dalam artikel ini, kita akan melihat apa itu bias AI, bagaimana dampaknya terhadap masyarakat kita, dan secara singkat membahas bagaimana para praktisi dapat melakukannya mengurangi untuk mengatasi tantangan seperti stereotip budaya.

Apa itu Bias AI?

Bias AI terjadi ketika model AI memberikan hasil yang diskriminatif terhadap demografi tertentu. Beberapa jenis bias dapat memasuki sistem AI dan memberikan hasil yang salah. Beberapa bias AI tersebut adalah:

• Bias Stereotip: Bias stereotip mengacu pada fenomena di mana hasil model AI terdiri dari stereotip atau persepsi tentang demografi tertentu.
• Bias Rasial: Bias rasial dalam AI terjadi ketika hasil dari model AI bersifat diskriminatif dan tidak adil terhadap individu atau kelompok berdasarkan etnis atau rasnya.
• Bias Budaya: Bias budaya muncul ketika hasil model AI lebih mengutamakan budaya tertentu dibandingkan budaya lain.

Selain bias, permasalahan lain juga dapat menghambat hasil sistem AI, seperti:

• Ketidakakuratan: Ketidakakuratan terjadi ketika hasil yang dihasilkan oleh model AI salah karena data pelatihan tidak konsisten.
• Halusinasi: Halusinasi terjadi ketika model AI menghasilkan hasil fiktif dan palsu yang tidak berdasarkan data faktual.

Dampak Bias AI terhadap Masyarakat

Dampak bias AI terhadap masyarakat dapat merugikan. Sistem AI yang bias dapat memberikan hasil yang tidak akurat sehingga memperkuat prasangka yang sudah ada di masyarakat. Akibat-akibat ini dapat meningkatkan diskriminasi dan pelanggaran hak asasi manusia, mempengaruhi proses perekrutan, dan mengurangi kepercayaan terhadap teknologi AI.

Selain itu, hasil AI yang bias sering kali menghasilkan prediksi yang tidak akurat dan dapat menimbulkan konsekuensi serius bagi individu yang tidak bersalah. Misalnya pada Agustus 2020, Robert McDaniel menjadi sasaran tindak pidana karena algoritma kepolisian prediktif Departemen Kepolisian Chicago yang melabeli dia sebagai "orang yang berkepentingan".

Demikian pula, sistem AI layanan kesehatan yang bias dapat berdampak buruk pada pasien. Pada tahun 2019, Ilmu menemukan bahwa yang banyak digunakan Algoritma medis AS memiliki bias rasial terhadap orang kulit berwarna, yang menyebabkan pasien kulit hitam mendapatkan lebih sedikit manajemen perawatan berisiko tinggi.

Barbie Dunia

Pada bulan Juli 2023, Buzzfeed menerbitkan sebuah blog terdiri dari 194 barbie yang dihasilkan AI dari seluruh dunia. Postingan itu menjadi viral di Twitter. Meski Buzzfeed menulis pernyataan disclaimer, hal itu tidak menghentikan netizen untuk menunjukkan ketidakakuratan ras dan budaya. Misalnya, gambar Barbie Jerman yang dihasilkan AI mengenakan seragam a SS Nazi umum.

Demikian pula, gambar Barbie Sudan Selatan yang dibuat oleh AI ditampilkan memegang pistol di sisinya, yang mencerminkan bias yang mengakar dalam algoritme AI.

Selain itu, beberapa gambar lain menunjukkan ketidakakuratan budaya, seperti Barbie Qatar yang mengenakan Ghutra, hiasan kepala tradisional yang dikenakan oleh pria Arab.

Postingan blog ini mendapat reaksi keras karena stereotip dan bias budaya. Itu Sekolah Interdisipliner London (LIS) menyebut ini kerugian representasi hal ini harus dijaga dengan menerapkan standar kualitas dan membentuk badan pengawas AI.

Keterbatasan Model AI

AI mempunyai potensi untuk itu merevolusi banyak industri. Namun, jika skenario seperti yang disebutkan di atas semakin meluas, hal ini dapat menyebabkan penurunan adopsi AI secara umum, sehingga mengakibatkan hilangnya peluang. Kasus seperti ini biasanya terjadi karena keterbatasan signifikan dalam sistem AI, seperti:

• Kurangnya Kreativitas: Karena AI hanya dapat membuat keputusan berdasarkan data pelatihan yang diberikan, AI tidak memiliki kreativitas untuk berpikir di luar kotak, sehingga menghambat pemecahan masalah secara kreatif.

• Kurangnya Pemahaman Kontekstual: Sistem AI menghadapi kesulitan dalam memahami nuansa kontekstual atau ekspresi bahasa suatu wilayah, yang sering kali menyebabkan kesalahan dalam hasil.

• Bias Pelatihan: AI mengandalkan data historis yang dapat berisi semua jenis sampel yang diskriminatif. Selama pelatihan, model dapat dengan mudah mempelajari pola diskriminatif untuk menghasilkan hasil yang tidak adil dan bias.

Cara Mengurangi Bias dalam Model AI

Profesional memperkirakan bahwa pada tahun 2026, 90% konten online dapat dibuat secara sintetis. Oleh karena itu, sangat penting untuk segera meminimalkan masalah yang ada dalam teknologi AI Generatif.

Beberapa strategi utama dapat diterapkan untuk mengurangi bias dalam model AI. Beberapa di antaranya adalah:

• Pastikan Kualitas Data: Memasukkan data yang lengkap, akurat, dan bersih ke dalam model AI dapat membantu mengurangi bias dan memberikan hasil yang lebih akurat.
• Beragam Kumpulan Data: Memasukkan beragam kumpulan data ke dalam sistem AI dapat membantu mengurangi bias seiring dengan semakin inklusifnya sistem AI dari waktu ke waktu.

• Putaran Umpan Balik: Dengan konstan umpan balik dan putaran pembelajaran, model AI dapat meningkatkan hasilnya secara bertahap

• Peningkatan Regulasi: Peraturan AI global sangat penting untuk menjaga kualitas sistem AI lintas negara. Oleh karena itu, organisasi internasional harus bekerja sama untuk memastikan standardisasi AI.

• Peningkatan Adopsi AI yang Bertanggung Jawab: Strategi AI yang bertanggung jawab memberikan kontribusi positif terhadap mitigasi bias AI, menumbuhkan keadilan dan akurasi dalam sistem AI, dan memastikan sistem tersebut melayani basis pengguna yang beragam sambil mengupayakan perbaikan berkelanjutan.

Dengan menggabungkan beragam kumpulan data, tanggung jawab etis, dan media komunikasi terbuka, kami dapat memastikan bahwa AI adalah sumber perubahan positif di seluruh dunia.

Jika Anda ingin mempelajari lebih lanjut tentang bias dan peran Kecerdasan Buatan dalam masyarakat kita, bacalah blog berikut.

• Bagaimana Kota Menerapkan Teknologi Terkemuka Memanfaatkan Algoritma AI yang Tidak Bias
• AI Dapat Memerangi Misinformasi dan Bias dalam Berita
• Bias dan Keadilan Sistem Berbasis AI Dalam Kejahatan Keuangan
• Pemeriksa Bias Berbasis AI untuk Artikel Berita, Tersedia dalam Python