Anak, AI, dan Etika: Bagaimana Anak-Anak Memandang dan Mengobati Alexa dan Roomba

Sebuah studi baru yang dilakukan oleh psikolog perkembangan Duke mengeksplorasi bagaimana anak-anak memandang kecerdasan dan emosi perangkat AI, khususnya membandingkan speaker pintar Alexa dengan vakum otonom Roomba. Peneliti menemukan bahwa anak-anak berusia empat hingga sebelas tahun cenderung memandang Alexa memiliki pikiran dan emosi yang lebih manusiawi dibandingkan dengan Roomba.

Temuan studi ini dipublikasikan secara online pada 10 April di jurnal Developmental Psychology.

Penulis utama Teresa Flanagan sebagian terinspirasi oleh penggambaran interaksi manusia-robot di Hollywood, seperti yang terlihat di HBO’s “Westworld.” Studi ini melibatkan 127 anak berusia empat hingga sebelas tahun, yang menonton klip 20 detik dari masing-masing teknologi dan kemudian menjawab pertanyaan tentang perangkat tersebut.

“Di Westworld dan film Ex Machina, kita melihat bagaimana orang dewasa mungkin berinteraksi dengan robot dalam cara yang sangat kejam dan mengerikan,” kata Flanagan. “Tapi bagaimana anak-anak berinteraksi dengan mereka?”

Mengobati Perangkat AI dengan Rasa Hormat

Meskipun ada perbedaan dalam kecerdasan yang dirasakan antara Alexa dan Roomba, anak-anak dari semua kelompok usia setuju bahwa itu salah untuk memukul atau berteriak pada mesin. Namun, ketika anak-anak tumbuh dewasa, mereka melaporkan bahwa itu sedikit lebih dapat diterima untuk menyerang teknologi.

“Anak-anak berusia empat dan lima tahun tampaknya berpikir bahwa Anda tidak memiliki kebebasan untuk melakukan pelanggaran moral, seperti menyerang seseorang,” kata Flanagan. “Tapi ketika mereka tumbuh dewasa, mereka tampaknya berpikir bahwa itu tidak baik, tapi Anda memiliki kebebasan untuk melakukannya.”

Studi ini menunjukkan bahwa anak-anak umumnya percaya bahwa Alexa dan Roomba tidak memiliki kemampuan untuk merasakan sensasi fisik seperti manusia. Mereka mengatribusikan kemampuan mental dan emosional kepada Alexa, seperti dapat berpikir atau merasa sedih, sementara mereka tidak berpikir hal yang sama tentang Roomba.

“Bahkan tanpa tubuh, anak-anak kecil berpikir bahwa Alexa memiliki emosi dan pikiran,” kata Flanagan. “Dan itu tidak berarti bahwa mereka berpikir setiap teknologi memiliki emosi dan pikiran — mereka tidak berpikir bahwa Roomba memiliki — jadi itu sesuatu yang spesial tentang kemampuan Alexa untuk berkomunikasi secara verbal.”

Flanagan dan penasihat pascasarjana Tamar Kushnir, seorang anggota fakultas Duke Institute for Brain Sciences, saat ini berusaha untuk memahami mengapa anak-anak berpikir bahwa menyerang teknologi rumah tangga adalah salah.

Implikasi dan Pertanyaan Etika

Temuan studi ini memberikan wawasan tentang hubungan yang berkembang antara anak-anak dan teknologi, menimbulkan pertanyaan etika penting tentang perlakuan terhadap perangkat AI dan mesin. Misalnya, apakah orang tua harus memodelkan perilaku baik untuk anak-anak mereka dengan mengucapkan terima kasih kepada perangkat AI seperti Siri atau ChatGPT atas bantuan mereka?

Penelitian ini juga menyoroti kebutuhan untuk mengeksplorasi apakah anak-anak percaya bahwa mengobati perangkat AI dengan buruk adalah salah secara moral, atau hanya karena itu dapat merusak properti seseorang.

“Ini menarik dengan teknologi ini karena ada aspek lain: itu adalah properti,” kata Flanagan. “Apakah anak-anak berpikir bahwa Anda tidak harus memukul hal-hal ini karena itu salah secara moral, atau karena itu adalah properti seseorang dan mungkin rusak?”