Penelitian Baru Membuat Cahaya pada Kepercayaan Manusia-Robot

Penelitian baru, yang dipimpin oleh Laboratorium Penelitian Angkatan Darat AS bersama dengan Institut Simulasi dan Pelatihan Universitas Central Florida, memperluas cahaya pada tingkat kepercayaan yang dimiliki manusia terhadap robot. Proyek baru ini berfokus pada hubungan antara manusia dan robot, serta apakah manusia memberikan nilai lebih pada proses penalaran robot atau kesalahan yang dilakukannya.

Penelitian baru ini menyelidiki human-agent teaming, atau HAT, dan bagaimana kepercayaan manusia, beban kerja, dan persepsi tentang agen dipengaruhi oleh transparansi agen seperti robot, kendaraan tak berawak, dan agen perangkat lunak. Transparansi agen adalah ketika manusia dapat mengidentifikasi niat, proses penalaran, dan rencana masa depan agen.

Penelitian baru ini menunjukkan bahwa kepercayaan manusia terhadap robot menurun setiap kali robot membuat kesalahan. Hal ini terlepas dari apakah robot telah transparan dengan proses penalarannya atau tidak.

Penelitian baru ini diterbitkan dalam edisi Agustus dari IEEE-Transactions on Human-Machine Systems. Makalah tersebut berjudul “Agent Transparency and Reliability in Human-Robot Interaction: The Influence on User Confidence and Perceived Reliability.”

Penelitian tradisional yang berkaitan dengan human-agent teaming menggunakan agen cerdas yang sepenuhnya dapat diandalkan yang tidak membuat kesalahan. Namun, penelitian ini adalah salah satu yang jarang menjelajahi bagaimana transparansi agen berinteraksi dengan keandalan agen. Penelitian ini melibatkan robot yang membuat kesalahan saat manusia mengawasinya, dan manusia kemudian diminta untuk menilai apakah mereka memandang robot sebagai kurang dapat diandalkan. Selama proses tersebut, manusia diberikan wawasan tentang proses penalaran robot.

Dr. Julia Wright adalah penyelidik utama proyek ini, dan dia adalah peneliti di Laboratorium Penelitian Angkatan Darat Komando Pengembangan Kapabilitas Tempur AS, atau ARL.

“Memahami bagaimana perilaku robot mempengaruhi rekan manusia mereka sangat penting untuk pengembangan tim manusia-robot yang efektif, serta desain antarmuka dan metode komunikasi antara anggota tim,” katanya “Penelitian ini berkontribusi pada upaya Operasi Multi-Domain Angkatan Darat untuk memastikan keunggulan dalam kemampuan yang ditenagai oleh kecerdasan buatan. Namun, ini juga merupakan penelitian antardisiplin, karena temuan-temuannya akan mempengaruhi pekerjaan psikolog, roboticis, insinyur, dan perancang sistem yang bekerja untuk memfasilitasi pemahaman yang lebih baik antara manusia dan agen otonom dalam upaya membuat rekan otonom bukan hanya alat.”

Proyek ini adalah bagian dari proyek yang lebih besar yang dikenal sebagai Proyek Anggota Skuad Otonom (ASM) yang disponsori oleh Inisiatif Penelitian Otonomi Kantor Sekretaris Pertahanan. ASM adalah robot darat kecil yang digunakan dalam skuad infanteri. Robot ini dapat berkomunikasi dan berinteraksi dengan skuad.

Penelitian ini melibatkan peserta yang mengamati tim manusia-agen prajurit dalam lingkungan simulasi. ASM adalah bagian dari tim, dan bergerak melalui kursus pelatihan. Tugas bagi pengamat adalah memantau tim dan menilai robot. Selama kursus pelatihan, tim tersebut diberikan berbagai acara dan hambatan. Prajurit dapat menavigasi setiap hambatan dengan benar, tetapi ada saat-saat ketika robot tidak dapat memahami hambatan dan membuat kesalahan. Robot kemudian berbagi penalaran di balik tindakan tertentu serta hasil yang diharapkan.

Penelitian ini menemukan bahwa peserta lebih peduli dengan kesalahan robot dibandingkan dengan logika dan penalaran yang mendasarinya. Keandalan robot memainkan peran besar dalam kepercayaan dan persepsi peserta. Setiap kali robot membuat kesalahan, pengamat menilai keandalannya lebih rendah.

Keandalan dan kepercayaan meningkat setiap kali transparansi agen ditingkatkan, atau ketika robot berbagi detail dan penalaran di balik keputusannya. Namun, keandalan dan kepercayaan masih lebih rendah daripada robot yang tidak pernah mengalami kesalahan. Hal ini menunjukkan bahwa berbagi penalaran dan logika yang mendasarinya dapat membantu dengan beberapa masalah kepercayaan dan keandalan yang terkait dengan robot.

“Penelitian sebelumnya menunjukkan bahwa konteks mempengaruhi dalam menentukan kegunaan informasi transparansi,” kata Wright. “Kita perlu memahami tugas mana yang memerlukan pemahaman yang lebih mendalam tentang penalaran agen, dan bagaimana menentukan apa yang dimaksud dengan kedalaman tersebut. Penelitian di masa depan harus menjelajahi cara untuk menyampaikan informasi transparansi berdasarkan kebutuhan tugas.”

Penelitian ini akan memainkan peran kritis dalam bidang ini karena interaksi yang semakin meningkat antara manusia dan robot. Salah satu bidang yang paling penting adalah militer. Seperti yang terlihat dalam latihan ini, robot dan prajurit akan berada di samping satu sama lain. Sama seperti seorang prajurit harus memiliki kepercayaan pada prajurit lain, hal yang sama akan berlaku untuk robot. Jika hal ini dapat dicapai dan robot menjadi umum dalam skuad infanteri, maka ini akan menjadi contoh lain dari kecerdasan buatan yang memasuki industri pertahanan.