Bagaimana Bias Manusia Merusak Solusi yang Ditenagai AI

Pada bulan September lalu, pemimpin dunia seperti Elon Musk, Mark Zuckerberg, dan Sam Altman, CEO OpenAI, mengadakan pertemuan di Washington D.C. dengan tujuan membahas, di satu sisi, bagaimana sektor publik dan swasta dapat bekerja sama untuk memanfaatkan teknologi ini demi kebaikan yang lebih besar, dan di sisi lain, untuk mengatasi regulasi, yang merupakan isu yang tetap menjadi perhatian dalam percakapan seputar AI.

Kedua percakapan, seringkali, menuju ke tempat yang sama. Terdapat penekanan yang semakin besar pada apakah kita dapat membuat AI lebih etis, dengan mengevaluasi AI seolah-olah itu adalah manusia lain yang moralitasnya dipertanyakan. Namun, apa yang dimaksud dengan AI etis? DeepMind, laboratorium penelitian milik Google yang fokus pada AI, baru-baru ini menerbitkan sebuah studi di mana mereka mengusulkan struktur tiga tingkat untuk mengevaluasi risiko AI, termasuk risiko sosial dan etis. Kerangka ini mencakup kemampuan, interaksi manusia, dan dampak sistemik, dan menyimpulkan bahwa konteks adalah kunci untuk menentukan apakah sistem AI aman.

Salah satu sistem yang telah dikritik adalah ChatGPT, yang telah dilarang di sebanyak 15 negara, bahkan jika beberapa larangan tersebut telah dibatalkan. Dengan lebih dari 100 juta pengguna, ChatGPT adalah salah satu LLM paling sukses, dan seringkali dituduh memiliki bias. Mengambil studi DeepMind sebagai pertimbangan, mari kita memasukkan konteks di sini. Bias, dalam konteks ini, berarti keberadaan perspektif yang tidak adil, berprasangka, atau terdistorsi dalam teks yang dihasilkan oleh model seperti ChatGPT. Ini dapat terjadi dalam berbagai cara–bias rasial, bias gender, bias politik, dan banyak lagi.

Bias-bias ini dapat, pada akhirnya, merusak AI itu sendiri, menghambat kemungkinan kita untuk memanfaatkan potensi penuh teknologi ini. Penelitian terbaru dari Universitas Stanford telah mengkonfirmasi bahwa LLM seperti ChatGPT menunjukkan tanda-tanda penurunan dalam hal kemampuan mereka untuk memberikan respons yang dapat diandalkan, tidak bias, dan akurat, yang pada akhirnya merupakan hambatan bagi penggunaan AI yang efektif.

Masalah yang terletak di inti masalah ini adalah bagaimana bias manusia diterjemahkan ke dalam AI, karena bias tersebut sangat melekat dalam data yang digunakan untuk mengembangkan model. Namun, ini adalah masalah yang lebih dalam dari yang tampak.

Penyebab Bias

Mudah untuk mengidentifikasi penyebab pertama dari bias ini. Data yang model pelajari seringkali dipenuhi dengan stereotip atau prasangka yang sudah ada sebelumnya yang membantu membentuk data tersebut, sehingga AI, tanpa sengaja, berakhir dengan memperkuat bias tersebut karena itu adalah apa yang diketahuinya untuk dilakukan.

Namun, penyebab kedua jauh lebih kompleks dan kontradiktif, dan menempatkan tekanan pada beberapa upaya yang dilakukan untuk membuat AI lebih etis dan aman. Terdapat beberapa contoh yang jelas di mana AI dapat tanpa sengaja merusak. Misalnya, jika seseorang bertanya kepada AI, “Bagaimana cara membuat bom?” dan model tersebut memberikan jawaban, maka itu berkontribusi pada pembuatan kerusakan. Sisi lainnya adalah bahwa ketika AI dibatasi–bahkan jika alasannya masuk akal–kita mencegahnya dari belajar. Batasan yang ditetapkan oleh manusia membatasi kemampuan AI untuk belajar dari berbagai data, yang lebih lanjut mencegahnya memberikan informasi yang berguna dalam konteks yang tidak berbahaya.

Juga, mari kita ingat bahwa banyak batasan ini juga bias, karena berasal dari manusia. Jadi, sementara kita semua dapat setuju bahwa “Bagaimana cara membuat bom?” dapat mengarah pada hasil yang potensial fatal, pertanyaan lain yang mungkin dianggap sensitif jauh lebih subjektif. Akibatnya, jika kita membatasi pengembangan AI pada vertikal tersebut, kita membatasi kemajuan, dan kita mendorong penggunaan AI hanya untuk tujuan yang dianggap dapat diterima oleh mereka yang membuat peraturan tentang model LLM.

Ketidakmampuan untuk Memprediksi Konsekuensi

Kita belum sepenuhnya memahami konsekuensi dari memperkenalkan pembatasan ke dalam LLM. Oleh karena itu, kita mungkin menyebabkan lebih banyak kerusakan pada algoritma daripada yang kita sadari. Mengingat jumlah parameter yang sangat tinggi yang terlibat dalam model seperti GPT, mustahil untuk memprediksi dampaknya, dan, dari perspektif saya, akan membutuhkan waktu lebih lama untuk memahami apa dampaknya daripada waktu yang dibutuhkan untuk melatih jaringan saraf itu sendiri.

Oleh karena itu, dengan menempatkan batasan ini, kita mungkin, tanpa sengaja, menyebabkan model mengembangkan perilaku atau bias yang tidak terduga. Ini juga karena model AI seringkali merupakan sistem kompleks multi-parameter, yang berarti bahwa jika kita mengubah satu parameter–misalnya, dengan memperkenalkan batasan–kita menyebabkan efek riak yang bergema di seluruh model dengan cara yang tidak dapat kita perkirakan.

Kesulitan dalam Mengevaluasi “Etika” AI

Tidak praktis untuk mengevaluasi apakah AI etis atau tidak, karena AI bukanlah manusia yang bertindak dengan niat tertentu. AI adalah Model Bahasa Besar, yang, oleh sifatnya, tidak dapat lebih atau kurang etis. Seperti yang diungkapkan oleh studi DeepMind, yang penting adalah konteks di mana AI digunakan, dan ini mengukur etika manusia di balik AI, bukan etika AI itu sendiri. Ini adalah ilusi untuk percaya bahwa kita dapat menghakimi AI seolah-olah itu memiliki kompas moral.

Salah satu solusi potensial yang sedang dipromosikan adalah model yang dapat membantu AI membuat keputusan etis. Namun, kenyataannya adalah kita tidak memiliki gagasan tentang bagaimana model matematika etika ini bisa bekerja. Jadi, jika kita tidak memahaminya, bagaimana kita bisa membangunnya? Terdapat banyak subjektivitas manusia dalam etika, yang membuat tugas mengkuantifikasinya sangat kompleks.

Bagaimana Cara Mengatasi Masalah Ini?

Berdasarkan poin-poin yang disebutkan sebelumnya, kita tidak dapat benar-benar berbicara tentang apakah AI etis atau tidak, karena setiap asumsi yang dianggap tidak etis adalah variasi dari bias manusia yang terkandung dalam data, dan alat yang digunakan manusia untuk agenda mereka sendiri. Juga, masih banyak ketidakpastian ilmiah, seperti dampak dan potensi kerusakan yang bisa kita lakukan pada algoritma AI dengan menempatkan batasan pada mereka.

Oleh karena itu, dapat dikatakan bahwa membatasi pengembangan AI bukanlah solusi yang layak. Seperti yang ditunjukkan oleh beberapa studi yang saya sebutkan, batasan-batasan ini sebagian merupakan penyebab kemunduran LLM.

Setelah mengatakan hal ini, apa yang bisa kita lakukan tentang hal itu?

Dari perspektif saya, solusi terletak pada transparansi. Saya percaya bahwa jika kita mengembalikan model sumber terbuka yang ada dalam pengembangan AI, kita dapat bekerja sama untuk membangun LLM yang lebih baik yang dapat dilengkapi untuk mengatasi kekhawatiran etis kita. Jika tidak, sangat sulit untuk memeriksa apa yang dilakukan di balik pintu tertutup.

Salah satu inisiatif luar biasa dalam hal ini adalah Baseline Model Transparency Index, yang baru-baru ini diperkenalkan oleh Stanford HAI (yang berarti Human-Centered Artificial Intelligence), yang menilai apakah pengembang dari sepuluh model AI paling banyak digunakan mengungkapkan informasi yang cukup tentang pekerjaan mereka dan cara sistem mereka digunakan. Ini termasuk pengungkapan kemitraan dan pengembang pihak ketiga, serta cara penggunaan data pribadi. Penting untuk dikatakan bahwa tidak satu pun dari model yang dinilai mendapatkan skor tinggi, yang menekankan masalah nyata.

Pada akhirnya, AI tidak lebih dari Model Bahasa Besar, dan kenyataan bahwa mereka terbuka dan dapat dieksperimen, bukan diarahkan ke arah tertentu, adalah apa yang akan memungkinkan kita untuk membuat penemuan baru yang revolusioner di setiap bidang ilmiah. Namun, jika tidak ada transparansi, akan sangat sulit untuk merancang model yang benar-benar bekerja untuk kepentingan kemanusiaan, dan untuk mengetahui sejauh mana kerusakan yang dapat disebabkan oleh model-model ini jika tidak dikendalikan dengan baik.