Etika
Pertimbangan Etis Saat Mengembangkan AI untuk Pengenalan Emosi
Kecerdasan buatan untuk regulasi emosi adalah salah satu kemajuan teknologi terbaru di bidang pembelajaran mesin. Meskipun menunjukkan potensi besar, masalah etis dapat mempengaruhi tingkat adopsi dan daya tahananya. Apakah pengembang AI dapat mengatasi hal ini?
Apa itu Pengenalan Emosi AI?
Pengenalan emosi AI adalah jenis model pembelajaran mesin. Ini sering bergantung pada teknologi visi komputer yang menangkap dan menganalisis ekspresi wajah untuk memahami suasana hati dalam gambar dan video. Namun, itu juga dapat beroperasi pada cuplikan audio untuk menentukan nada suara atau teks tertulis untuk menilai sentimen bahasa.
Algoritma ini mewakili kemajuan yang menarik dalam bidang AI karena, sampai sekarang, model belum dapat memahami perasaan manusia. Sementara model bahasa besar seperti ChatGPT dapat mensimulasikan suasana hati dan persona dengan meyakinkan, mereka hanya dapat menghubungkan kata-kata secara logis — mereka tidak dapat merasakan apa-apa dan tidak menampilkan kecerdasan emosional. Sementara model pengenalan emosi tidak dapat memiliki perasaan, itu masih dapat mendeteksi dan mengkategorikan. Kemajuan ini signifikan karena itu menandakan AI mungkin segera dapat benar-benar memahami dan menunjukkan kebahagiaan, kesedihan atau kemarahan. Lompatan teknologi seperti ini menunjukkan percepatan kemajuan.
Studi Kasus untuk Pengenalan Emosi AI
Bisnis, pendidik, konsultan, dan profesional perawatan kesehatan mental adalah beberapa kelompok yang dapat menggunakan AI untuk pengenalan emosi.
Mengukur Risiko di Kantor
Tim sumber daya manusia dapat menggunakan algoritma untuk melakukan analisis sentimen pada korespondensi email atau obrolan aplikasi antara anggota tim. Alternatifnya, mereka dapat mengintegrasikan algoritma mereka ke dalam sistem pengawasan atau visi komputer. Pengguna dapat melacak suasana hati untuk menghitung metrik seperti risiko perputaran, tingkat kelelahan, dan kepuasan karyawan.
Membantu Agen Layanan Pelanggan
Penjual eceran dapat menggunakan agen layanan pelanggan AI dalam untuk pengguna akhir atau asisten virtual untuk menyelesaikan situasi stres tinggi. Karena model mereka dapat mengenali suasana hati, itu dapat menyarankan teknik de-escalasi atau mengubah nada ketika itu menyadari konsumen sedang marah. Tindakan pencegahan seperti ini dapat meningkatkan kepuasan dan retensi pelanggan.
Membantu Siswa di Kelas
Pendidik dapat menggunakan AI ini untuk menjaga siswa pembelajar jarak jauh dari ketinggalan. Salah satu perusahaan rintisan telah menggunakan alatnya untuk mengukur titik otot pada wajah siswa sambil mengkatalogkan kecepatan dan nilai mereka. Metode ini menentukan suasana hati, motivasi, kekuatan, dan kelemahan mereka. Pendiri perusahaan rintisan tersebut menyatakan mereka mencetak nilai 10% lebih tinggi pada tes ketika menggunakan perangkat lunak.
Melakukan Penelitian Pasar Internal
Bisnis dapat melakukan penelitian pasar internal menggunakan model pengenalan emosi. Ini dapat membantu mereka memahami bagaimana audiens target mereka bereaksi terhadap produk, layanan, atau bahan pemasaran, memberikan wawasan berbasis data yang berharga. Sebagai hasilnya, mereka mungkin dapat mempercepat waktu-pasar dan meningkatkan pendapatan.
Masalah dengan Menggunakan AI untuk Mendeteksi Emosi
Penelitian menunjukkan bahwa akurasi sangat bergantung pada informasi pelatihan. Salah satu kelompok penelitian — yang mencoba memahami perasaan dari gambar — membuktikan konsep ini secara anekdot ketika model mereka mencapai akurasi 92,05% pada dataset Ekspresi Wajah Perempuan Jepang dan akurasi 98,13% pada dataset Extended Cohn-Kanade.
Sementara perbedaan antara 92% dan 98% mungkin tampak tidak signifikan, itu penting — kesenjangan kecil ini dapat memiliki konsekuensi yang signifikan. Untuk referensi, tingkat pencemaran dataset se rendah 0,001% telah terbukti efektif dalam membuat backdoor model atau menyebabkan kesalahan klasifikasi yang disengaja. Bahkan sebagian kecil dari persentase ini signifikan.
Lebih lanjut, meskipun studi tampaknya menjanjikan — tingkat akurasi di atas 90% menunjukkan potensi — peneliti melakukan penelitian dalam lingkungan yang terkendali. Di dunia nyata, gambar yang buram, ekspresi wajah yang dipalsukan, sudut yang buruk, dan perasaan yang halus jauh lebih umum. Dengan kata lain, AI mungkin tidak dapat berperforma secara konsisten.
Keadaan Saat Ini dari Pengenalan Emosi AI
Analisis sentimen algoritmik adalah proses menggunakan algoritma untuk menentukan apakah nada teks adalah positif, netral, atau negatif. Teknologi ini secara argumentatif merupakan dasar untuk model deteksi emosi modern karena telah membuka jalan bagi evaluasi mood algoritmik. Teknologi serupa seperti perangkat lunak pengenalan wajah juga telah berkontribusi pada kemajuan.
Algoritma saat ini sebagian besar dapat mendeteksi hanya emosi sederhana seperti kebahagiaan, kesedihan, kemarahan, ketakutan, dan kejutan dengan tingkat akurasi yang bervariasi. Ekspresi wajah ini adalah bawaan dan universal — artinya mereka alami dan dipahami secara global — sehingga melatih AI untuk mengidentifikasi mereka relatif mudah.
Lebih lanjut, ekspresi wajah dasar sering kali dilebih-lebihkan. Orang mengerutkan alis ketika marah, mengerutkan kening ketika sedih, tersenyum ketika bahagia, dan melebar mata ketika terkejut. Ekspresi sederhana dan dramatis ini mudah dibedakan. Emosi yang lebih kompleks lebih sulit untuk diidentifikasi karena mereka halus atau menggabungkan ekspresi dasar.
Karena subset AI ini sebagian besar masih dalam penelitian dan pengembangan, itu belum berkembang untuk mencakup emosi kompleks seperti kerinduan, rasa malu, duka, iri hati, lega, atau bingung. Meskipun itu kemungkinan akan mencakup lebih banyak nantinya, tidak ada jaminan bahwa itu akan dapat menafsirkan semuanya.
Dalam kenyataan, algoritma mungkin tidak pernah dapat bersaing dengan manusia. Untuk referensi, sementara dataset GPT-4 OpenAI adalah sekitar 1 petabyte, satu milimeter kubik otak manusia mengandung sekitar 1,4 petabyte data. Ilmuwan saraf tidak dapat sepenuhnya memahami bagaimana otak memahami emosi meskipun dekade penelitian, sehingga membangun AI yang sangat presisi mungkin mustahil.
Sementara menggunakan teknologi ini untuk pengenalan emosi memiliki preseden, bidang ini masih secara teknis dalam masa bayi. Ada banyak penelitian tentang konsep ini, tetapi sedikit contoh nyata dari penerapan skala besar yang ada. Beberapa tanda menunjukkan bahwa adopsi yang lambat mungkin disebabkan oleh kekhawatiran tentang akurasi yang tidak konsisten dan masalah etis.
Pertimbangan Etis untuk Pengembang AI
Menurut satu survei, 67% responden setuju AI harus diatur lebih banyak. Untuk menenangkan pikiran orang, pengembang harus meminimalkan bias, memastikan model mereka berperilaku seperti yang diharapkan, dan meningkatkan hasil. Solusi ini memungkinkan jika mereka memprioritaskan pertimbangan etis selama pengembangan.
1. Pengumpulan dan Penggunaan Data yang Diizinkan
Persetujuan adalah segalanya dalam era di mana regulasi AI meningkat. Apa yang terjadi jika karyawan menemukan bahwa ekspresi wajah mereka sedang dikatalogkan tanpa sepengetahuan mereka? Apakah orang tua perlu menandatangani analisis sentimen berbasis pendidikan atau siswa dapat memutuskan sendiri?
Pengembang harus secara eksplisit mengungkapkan informasi apa yang akan dikumpulkan model, kapan akan beroperasi, apa yang akan digunakan analisis untuk, dan siapa yang dapat mengakses detail tersebut. Selain itu, mereka harus menyertakan fitur opt-out sehingga individu dapat menyesuaikan izin.
2. Keluaran Analisis Sentimen yang Dianonimkan
Penghapusan data adalah masalah privasi sebagaimana juga masalah keamanan. Pengembang harus menganonimkan informasi emosi yang mereka kumpulkan untuk melindungi individu yang terlibat. Paling tidak, mereka harus mempertimbangkan untuk menggunakan enkripsi saat istirahat.
3. Pengambilan Keputusan dengan Campur Tangan Manusia
Satu-satunya alasan untuk menggunakan AI untuk menentukan keadaan emosional seseorang adalah untuk memandu pengambilan keputusan. Baik itu digunakan dalam kapasitas kesehatan mental atau pengaturan ritel, itu akan mempengaruhi orang. Pengembang harus menggunakan pengaman campur tangan manusia untuk meminimalkan perilaku yang tidak terduga.
4. Umpan Balik Berbasis Manusia untuk Keluaran AI
Bahkan jika algoritma memiliki akurasi hampir 100%, itu masih akan menghasilkan hasil positif palsu. Mengingat itu tidak umum bagi model untuk mencapai 50% atau 70% — dan itu tanpa menyentuh masalah bias atau halusinasi — pengembang harus mempertimbangkan untuk mengimplementasikan sistem umpan balik.
Orang harus dapat meninjau apa yang AI katakan tentang keadaan emosional mereka dan banding jika mereka percaya itu salah. Sementara sistem seperti itu akan memerlukan pengaman dan langkah-langkah pertanggungjawaban, itu akan meminimalkan dampak merugikan yang disebabkan oleh keluaran yang tidak akurat.
Konsekuensi Mengabaikan Etika
Pertimbangan etis harus menjadi prioritas bagi insinyur AI, pengembang pembelajaran mesin, dan pemilik bisnis karena itu mempengaruhi mereka. Mengingat opini publik yang semakin tidak pasti dan peraturan yang semakin ketat, konsekuensi dari mengabaikan etika mungkin signifikan.
