Studi Menunjukkan Robot Lebih Persuasif Ketika Mereka Berpura-pura Menjadi Manusia

Perkembangan kecerdasan buatan telah menciptakan bot dan mesin yang dapat berpotensi berpura-pura menjadi manusia jika mereka berinteraksi dengan orang-orang secara eksklusif melalui media digital. Baru-baru ini, tim peneliti ilmu komputer telah mempelajari bagaimana robot/mesin dan manusia berinteraksi ketika manusia percaya bahwa robot juga manusia. Seperti dilaporkan oleh ScienceDaily, hasil studi menemukan bahwa orang-orang menemukan robot/chatbot lebih persuasif ketika mereka percaya bahwa bot tersebut adalah manusia.

Talal Rahwan, profesor asosiasi Ilmu Komputer di NYU Abu Dhabi, baru-baru ini memimpin sebuah studi yang mengeksaminasi bagaimana robot dan manusia berinteraksi dengan satu sama lain. Hasil eksperimen dipublikasikan di Nature Machine Intelligence dalam laporan yang disebut Transparency-Efficiency Tradeoff in Human-Machine Cooperation. Selama studi, subjek uji diminta untuk bermain game kooperatif dengan pasangan, dan pasangan tersebut mungkin manusia atau bot.

Permainan tersebut adalah variasi dari Prisoner’s Dilemma klasik, di mana peserta harus memutuskan apakah akan bekerja sama atau mengkhianati yang lain di setiap putaran. Dalam dilema tahanan, satu sisi mungkin memilih untuk mengkhianati dan mengkhianati pasangan mereka untuk mencapai keuntungan dengan biaya bagi pemain lain, dan hanya dengan bekerja sama dapat kedua belah pihak memastikan keuntungan bagi diri mereka sendiri.

Peneliti memanipulasi subjek uji mereka dengan memberikan informasi yang benar atau salah tentang identitas pasangan mereka. Beberapa peserta diberitahu bahwa mereka bermain dengan bot, meskipun pasangan mereka sebenarnya adalah manusia. Peserta lain berada dalam situasi yang sebaliknya. Selama eksperimen, tim peneliti dapat mengukur seberapa besar orang-orang memperlakukan pasangan mereka secara berbeda ketika mereka diberitahu bahwa pasangan mereka adalah bot. Mereka melacak seberapa besar prasangka terhadap bot tersebut ada, dan bagaimana sikap tersebut mempengaruhi interaksi dengan bot yang mengidentifikasi diri mereka.

Hasil eksperimen menunjukkan bahwa bot lebih efektif dalam memicu kerja sama dari pasangan mereka ketika manusia percaya bahwa bot tersebut juga manusia. Namun, ketika terungkap bahwa bot tersebut adalah bot, tingkat kerja sama menurun. Rahwan menjelaskan bahwa sementara banyak ilmuwan dan etikus setuju bahwa AI harus transparan tentang bagaimana keputusan dibuat, kurang jelas bahwa mereka juga harus transparan tentang sifat mereka ketika berkomunikasi dengan orang lain.

Tahun lalu, Google (GOOGL ) Duplex membuat kehebohan ketika demo panggung menunjukkan bahwa itu dapat membuat panggilan telepon dan memesan janji temu atas nama penggunanya, menghasilkan ucapan yang sangat mirip manusia sehingga banyak orang akan salah mengira itu sebagai orang nyata jika mereka tidak diberitahu bahwa mereka berbicara dengan bot. Sejak debut Google Duplex, banyak etikus AI dan robot mengungkapkan kekhawatiran mereka tentang teknologi tersebut, yang menyebabkan Google mengatakan bahwa agen tersebut akan mengidentifikasi dirinya sebagai bot di masa depan. Saat ini, Google Duplex hanya digunakan dalam kapasitas yang sangat terbatas. Ini akan segera digunakan di Selandia Baru, tetapi hanya untuk memeriksa jam buka bisnis. Etikus masih khawatir tentang seberapa besar teknologi tersebut dapat disalahgunakan.

Rahawan berargumen bahwa studi terbaru menunjukkan bahwa kita harus mempertimbangkan biaya yang kita bayar untuk transparansi:

“Apakah etis untuk mengembangkan sistem seperti itu? Apakah kita harus melarang bot untuk berpura-pura menjadi manusia, dan memaksa mereka untuk transparan tentang siapa mereka? Jika jawabannya adalah ‘Ya’, maka temuan kami menyoroti kebutuhan untuk menetapkan standar untuk biaya efisiensi yang kita bayar sebagai ganti transparansi.”