Pertimbangan Etis Saat Mengembangkan AI untuk Pengenalan Emosi

Kecerdasan buatan untuk pengenalan emosi adalah salah satu kemajuan teknologi terbaru di bidang pembelajaran mesin. Meskipun menunjukkan potensi besar, masalah etika dapat mempengaruhi tingkat adopsi dan kelangsungan hidupnya. Apakah pengembang AI dapat mengatasi masalah tersebut?

Apa itu Pengenalan Emosi AI?

Pengenalan emosi AI adalah jenis model pembelajaran mesin. Ini sering bergantung pada teknologi visi komputer yang menangkap dan menganalisis ekspresi wajah untuk memahami suasana hati dalam gambar dan video. Namun, itu juga dapat beroperasi pada cuplikan audio untuk menentukan nada suara atau teks tertulis untuk menilai sentimen bahasa.

Algoritma ini mewakili kemajuan menarik di bidang AI karena, sampai sekarang, model belum dapat memahami perasaan manusia. Sementara model bahasa besar seperti ChatGPT dapat mensimulasikan suasana hati dan kepribadian dengan meyakinkan, mereka hanya dapat menghubungkan kata-kata secara logis — mereka tidak dapat merasakan apa-apa dan tidak menampilkan kecerdasan emosional. Sementara model pengenalan emosi tidak dapat memiliki perasaan, itu masih dapat mendeteksi dan mengkataloginya. Kemajuan ini signifikan karena itu menandakan AI mungkin segera dapat benar-benar memahami dan menunjukkan kebahagiaan, kesedihan, atau kemarahan. Lompatan teknologi seperti ini menunjukkan kemajuan yang dipercepat.

Kasus Penggunaan untuk Pengenalan Emosi AI

Bisnis, pendidik, konsultan, dan profesional kesehatan mental adalah beberapa kelompok yang dapat menggunakan AI untuk pengenalan emosi.

Mengukur Risiko di Kantor

Tim sumber daya manusia dapat menggunakan algoritma untuk melakukan analisis sentimen pada korespondensi email atau obrolan dalam aplikasi antara anggota tim. Alternatifnya, mereka dapat mengintegrasikan algoritma mereka ke dalam sistem pengawasan atau visi komputer. Pengguna dapat melacak suasana hati untuk menghitung metrik seperti risiko perputaran, tingkat kelelahan, dan kepuasan karyawan.

Membantu Agen Layanan Pelanggan

Ritel dapat menggunakan agen layanan pelanggan AI internal untuk pengguna akhir atau asisten virtual untuk menyelesaikan situasi stres tinggi. Karena model mereka dapat mengenali suasana hati, itu dapat menyarankan teknik penurunan atau mengubah nada ketika menyadari konsumen sedang marah. Tindakan pencegahan seperti ini dapat meningkatkan kepuasan dan retensi pelanggan.

Membantu Siswa di Kelas

Pendidik dapat menggunakan AI ini untuk mencegah siswa jarak jauh dari ketinggalan. Salah satu perusahaan startup telah menggunakan alat mereka untuk mengukur titik otot pada wajah siswa sambil mengkatalogkan kecepatan dan nilai mereka. Metode ini menentukan suasana hati, motivasi, kekuatan, dan kelemahan mereka. Pendiri startup tersebut menyatakan mereka mencetak 10% lebih tinggi pada tes ketika menggunakan perangkat lunak.

Melakukan Penelitian Pasar Internal

Bisnis dapat melakukan penelitian pasar internal menggunakan model pengenalan emosi. Ini dapat membantu mereka memahami bagaimana target audiens mereka bereaksi terhadap produk, layanan, atau materi pemasaran, memberikan wawasan berbasis data yang berharga. Sebagai hasilnya, mereka mungkin dapat mempercepat waktu ke pasar dan meningkatkan pendapatan.

Masalah Menggunakan AI untuk Mendeteksi Emosi

Penelitian menunjukkan bahwa akurasi sangat bergantung pada informasi pelatihan. Salah satu kelompok penelitian — mencoba memahami perasaan dari gambar — membuktikan konsep ini secara anekdot ketika model mereka mencapai akurasi 92,05% pada dataset Ekspresi Wajah Wanita Jepang dan akurasi 98,13% pada dataset Cohn-Kanade yang diperluas.

Sementara perbedaan antara 92% dan 98% mungkin tampak tidak signifikan, itu penting — perbedaan kecil ini dapat memiliki dampak yang signifikan. Untuk referensi, tingkat pencemaran dataset sebesar 0,001% telah terbukti efektif dalam membentuk backdoor model atau menyebabkan kesalahan klasifikasi yang disengaja. Bahkan sebagian kecil persentase sangat signifikan.

Selain itu, meskipun penelitian tampaknya menjanjikan — tingkat akurasi di atas 90% menunjukkan potensi — peneliti melakukan penelitian di lingkungan yang terkendali. Di dunia nyata, gambar yang buram, ekspresi wajah yang dipalsukan, sudut yang buruk, dan perasaan yang halus jauh lebih umum. Dengan kata lain, AI mungkin tidak dapat berperforma secara konsisten.

Keadaan Saat Ini dari Pengenalan Emosi AI

Analisis sentimen algoritmik adalah proses menggunakan algoritma untuk menentukan apakah nada teks adalah positif, netral, atau negatif. Teknologi ini secara argumentatif merupakan dasar untuk model deteksi emosi modern karena telah membuka jalan bagi evaluasi mood algoritmik. Teknologi serupa seperti perangkat lunak pengenalan wajah juga telah berkontribusi pada kemajuan.

Algoritma saat ini dapat mendeteksi hanya emosi sederhana seperti kebahagiaan, kesedihan, kemarahan, ketakutan, dan kejutan dengan tingkat akurasi yang bervariasi. Ekspresi wajah ini bawaan dan universal — artinya mereka alami dan dipahami secara global — sehingga melatih AI untuk mengidentifikasi mereka relatif mudah.

Selain itu, ekspresi wajah dasar sering kali dilebih-lebihkan. Orang mengerutkan alis ketika marah, mengerutkan wajah ketika sedih, tersenyum ketika bahagia, dan melebarkan mata ketika terkejut. Ekspresi sederhana dan dramatis ini mudah dibedakan. Emosi yang lebih kompleks lebih sulit untuk diidentifikasi karena mereka halus atau menggabungkan ekspresi dasar.

Karena subset AI ini sebagian besar masih dalam penelitian dan pengembangan, itu belum berkembang untuk mencakup perasaan yang lebih kompleks seperti kerinduan, rasa malu, duka, iri hati, lega, atau bingung. Meskipun kemungkinan besar akan mencakup lebih banyak nanti, tidak ada jaminan bahwa itu akan dapat menafsirkan semuanya.

Dalam kenyataan, algoritma mungkin tidak pernah dapat bersaing dengan manusia. Sebagai referensi, sementara dataset GPT-4 OpenAI adalah sekitar 1 petabyte, satu milimeter kubik otak manusia mengandung sekitar 1,4 petabyte data. Ilmuwan saraf tidak dapat memahami sepenuhnya bagaimana otak memahami emosi meskipun telah melakukan penelitian selama beberapa dekade, sehingga membangun AI yang sangat akurat mungkin mustahil.

Sementara menggunakan teknologi ini untuk pengenalan emosi memiliki preseden, bidang ini masih secara teknis dalam tahap awal. Ada banyak penelitian tentang konsep ini, tetapi sedikit contoh penerapan skala besar yang ada. Beberapa tanda menunjukkan bahwa adopsi yang lambat mungkin disebabkan oleh kekhawatiran tentang akurasi yang tidak konsisten dan masalah etika.

Pertimbangan Etis untuk Pengembang AI

Menurut satu survei, 67% responden setuju AI harus diatur lebih ketat. Untuk menenangkan pikiran orang, pengembang harus meminimalkan bias, memastikan model mereka berperilaku seperti yang diharapkan, dan meningkatkan hasil. Solusi ini memungkinkan jika mereka memprioritaskan pertimbangan etis selama pengembangan.

1. Pengumpulan dan Penggunaan Data yang Diizinkan

Izin adalah segalanya dalam usia di mana regulasi AI meningkat. Apa yang terjadi jika karyawan menemukan bahwa ekspresi wajah mereka sedang dikatalogkan tanpa sepengetahuan mereka? Apakah orang tua perlu menandatangani analisis sentimen berbasis pendidikan atau siswa dapat memutuskan sendiri?

Pengembang harus secara eksplisit mengungkapkan informasi apa yang akan dikumpulkan model, kapan akan dioperasikan, apa analisisnya akan digunakan, dan siapa yang dapat mengakses detail tersebut. Selain itu, mereka harus menyertakan fitur opt-out sehingga individu dapat menyesuaikan izin.

2. Keluaran Analisis Sentimen yang Dianonimkan

Penghapusan data adalah masalah privasi sebesar masalah keamanan. Pengembang harus menganonimkan informasi emosi yang dikumpulkan untuk melindungi individu yang terlibat. Setidaknya, mereka harus mempertimbangkan untuk menggunakan enkripsi saat istirahat.

3. Pengambilan Keputusan dengan Campur Tangan Manusia

Satu-satunya alasan untuk menggunakan AI untuk menentukan keadaan emosi seseorang adalah untuk memandu pengambilan keputusan. Baik digunakan dalam kapasitas kesehatan mental atau pengaturan ritel, itu akan mempengaruhi orang. Pengembang harus menggunakan pengaman campur tangan manusia untuk meminimalkan perilaku yang tidak terduga.

4. Umpan Balik yang Berorientasi pada Manusia untuk Keluaran AI

Bahkan jika algoritma memiliki akurasi hampir 100%, itu masih akan menghasilkan hasil positif palsu. Mengingat tidak umum bagi model untuk mencapai 50% atau 70% — dan itu tanpa menyentuh masalah bias atau halusinasi — pengembang harus mempertimbangkan untuk mengimplementasikan sistem umpan balik.

Orang harus dapat meninjau apa yang AI katakan tentang keadaan emosi mereka dan banding jika mereka percaya itu salah. Sementara sistem seperti itu akan memerlukan pengaman dan langkah-langkah pertanggungjawaban, itu akan meminimalkan dampak merugikan yang timbul dari keluaran yang tidak akurat.

Akibat Mengabaikan Etika

Pertimbangan etis harus menjadi prioritas bagi insinyur AI, pengembang pembelajaran mesin, dan pemilik bisnis karena itu mempengaruhi mereka. Mengingat opini publik yang semakin tidak pasti dan peraturan yang semakin ketat, akibat dari mengabaikan etika mungkin signifikan.