Lembaga AI Now Institute Memperingatkan tentang Penyalahgunaan Perangkat Lunak Deteksi Emosi dan Masalah Etis Lainnya

Lembaga AI Now Institute telah merilis laporan yang mendesak para pembuat kebijakan dan badan pengatur lainnya untuk menetapkan batasan keras pada penggunaan teknologi pendeteksi emosi, melarangnya dalam kasus di mana dapat digunakan untuk membuat keputusan penting seperti perekrutan karyawan atau penerimaan siswa. Selain itu, laporan tersebut berisi sejumlah saran lainnya mengenai berbagai topik di bidang AI.

Lembaga AI Now Institute adalah lembaga penelitian yang berbasis di NYU, memiliki misi untuk mempelajari dampak AI terhadap masyarakat. AI Now merilis laporan tahunan yang menunjukkan temuan mereka mengenai keadaan penelitian AI dan implikasi etis dari cara AI digunakan saat ini. Seperti yang dilaporkan oleh BBC, laporan tahun ini membahas topik seperti diskriminasi algoritma, kurangnya keanekaragaman dalam penelitian AI, dan masalah tenaga kerja.

Pengenalan afek, istilah teknis untuk algoritma pendeteksi emosi, adalah area penelitian AI yang berkembang pesat. Mereka yang menggunakan teknologi ini untuk membuat keputusan sering mengklaim bahwa sistem dapat mengumpulkan informasi yang dapat diandalkan tentang keadaan emosi seseorang dengan menganalisis mikroekspresi, serta petunjuk lain seperti nada suara dan bahasa tubuh. Lembaga AI Now mencatat bahwa teknologi ini digunakan dalam berbagai aplikasi, seperti menentukan siapa yang akan dipekerjakan, menetapkan harga asuransi, dan memantau apakah siswa memperhatikan pelajaran di kelas.

Prof. Kate Crawford, co-founder AI Now, menjelaskan bahwa seringkali diyakini bahwa emosi manusia dapat diprediksi dengan akurat menggunakan model yang relatif sederhana. Crawford mengatakan bahwa beberapa perusahaan mengembangkan perangkat lunak mereka berdasarkan karya Paul Ekman, seorang psikolog yang menghipotesiskan bahwa ada enam jenis emosi dasar yang terdaftar pada wajah. Namun, Crawford mencatat bahwa sejak teori Ekman diperkenalkan, studi telah menemukan bahwa ada variasi yang jauh lebih besar dalam ekspresi wajah dan bahwa ekspresi dapat berubah dengan mudah di seluruh situasi dan budaya.

“Pada saat yang sama ketika teknologi ini sedang diluncurkan, sejumlah besar studi menunjukkan bahwa tidak ada… bukti substansial bahwa orang memiliki hubungan yang konsisten antara emosi yang mereka rasakan dan bagaimana wajah mereka terlihat,” kata Crawford kepada BBC.

Oleh karena itu, lembaga AI Now berpendapat bahwa banyak pengenalan afek didasarkan pada teori yang tidak dapat diandalkan dan sains yang dipertanyakan. Oleh karena itu, sistem pendeteksi emosi tidak boleh diterapkan sampai penelitian lebih lanjut telah dilakukan dan bahwa “pemerintah harus secara khusus melarang penggunaan pengenalan afek dalam proses pengambilan keputusan yang berisiko tinggi”. AI Now berpendapat bahwa kita harus terutama berhenti menggunakan teknologi ini dalam “konteks sosial dan politik yang sensitif”, konteks yang mencakup pekerjaan, pendidikan, dan penegakan hukum.

Setidaknya satu perusahaan pengembang AI yang berspesialisasi dalam pengenalan afek, Emteq, setuju bahwa harus ada peraturan yang mencegah penyalahgunaan teknologi ini. Pendiri Emteq, Charles Nduka, menjelaskan kepada BBC bahwa meskipun sistem AI dapat mengenali ekspresi wajah yang berbeda dengan akurat, tidak ada peta sederhana dari ekspresi ke emosi. Nduka mengungkapkan kekhawatirannya tentang peraturan yang diambil terlalu jauh dan menghambat penelitian, dengan mengatakan bahwa jika “hal-hal akan dilarang, sangat penting bahwa orang tidak membuang bayi dengan air mandi”.

Seperti yang dilaporkan oleh NextWeb, AI Now juga merekomendasikan sejumlah kebijakan dan norma lain yang harus memandu industri AI ke depan.

AI Now menyoroti kebutuhan industri AI untuk membuat tempat kerja lebih beragam dan menyatakan bahwa pekerja harus dijamin hak untuk menyuarakan kekhawatiran mereka tentang AI yang invasif dan eksploitatif. Pekerja teknologi juga harus memiliki hak untuk mengetahui apakah upaya mereka digunakan untuk membangun pekerjaan yang berbahaya atau tidak etis.

AI Now juga menyarankan bahwa para pembuat kebijakan harus mengambil langkah-langkah untuk meminta persetujuan yang diberitahukan untuk penggunaan data yang diperoleh dari AI terkait kesehatan. Di luar itu, disarankan bahwa privasi data harus diambil lebih serius dan negara-negara harus bekerja untuk merancang hukum privasi untuk data biometrik yang mencakup entitas swasta dan publik.

Akhirnya, lembaga tersebut menyarankan bahwa industri AI harus mulai berpikir dan bertindak lebih global, berusaha untuk menangani konsekuensi politik, sosial, dan ekologis yang lebih besar dari AI. Disarankan bahwa harus ada upaya yang substansial untuk mempertanggungjawabkan dampak AI terhadap perpindahan geografis dan iklim, dan pemerintah harus membuat dampak iklim industri AI tersedia secara terbuka.