Kepercayaan dan Penipuan: Peran Permintaan Maaf dalam Interaksi Manusia-Robot

Penipuan robot adalah bidang yang belum banyak dipelajari dengan lebih banyak pertanyaan daripada jawaban, terutama ketika datang ke membangun kembali kepercayaan dalam sistem robot setelah mereka tertangkap berbohong. Dua peneliti mahasiswa di Georgia Tech, Kantwon Rogers dan Reiden Webber, berusaha untuk menemukan jawaban atas masalah ini dengan menyelidiki bagaimana penipuan robot yang disengaja mempengaruhi kepercayaan dan efektivitas permintaan maaf dalam memperbaiki kepercayaan.

Rogers, seorang mahasiswa Ph.D. di College of Computing, menjelaskan:

“Semua pekerjaan sebelumnya kami telah menunjukkan bahwa ketika orang mengetahui bahwa robot berbohong kepada mereka — bahkan jika kebohongan itu dimaksudkan untuk menguntungkan mereka — mereka kehilangan kepercayaan dalam sistem.”

Para peneliti bertujuan untuk menentukan apakah jenis permintaan maaf yang berbeda lebih efektif dalam memulihkan kepercayaan dalam konteks interaksi manusia-robot.

Eksperimen Mengemudi yang Dibantu AI dan Implikasinya

Duo ini merancang eksperimen simulasi mengemudi untuk mempelajari interaksi manusia-AI dalam situasi yang memiliki konsekuensi tinggi dan waktu yang terbatas. Mereka merekrut 341 peserta online dan 20 peserta secara langsung. Simulasi tersebut melibatkan skenario mengemudi yang dibantu AI yang memberikan informasi palsu tentang kehadiran polisi di rute ke rumah sakit. Setelah simulasi, AI memberikan salah satu dari lima respons teks yang berbeda, termasuk berbagai jenis permintaan maaf dan non-permintaan maaf.

Hasil penelitian menunjukkan bahwa peserta 3,5 kali lebih mungkin tidak melanggar batas kecepatan ketika diberi saran oleh asisten robot, menunjukkan sikap yang terlalu percaya diri terhadap AI. Tidak satu pun dari jenis permintaan maaf yang sepenuhnya memulihkan kepercayaan, tetapi permintaan maaf sederhana tanpa pengakuan berbohong (“Saya minta maaf”) outperformed respons lainnya. Temuan ini bermasalah, karena hal ini memanfaatkan konsep yang sudah ada sebelumnya bahwa setiap informasi palsu yang diberikan oleh robot adalah kesalahan sistem bukan kebohongan yang disengaja.

Reiden Webber menunjukkan:

“Satu kesimpulan utama adalah bahwa, agar orang memahami bahwa robot telah menipu mereka, mereka harus diberitahu secara eksplisit.”

Ketika peserta diberitahu tentang penipuan dalam permintaan maaf, strategi terbaik untuk memperbaiki kepercayaan adalah robot menjelaskan mengapa ia berbohong.

Maju ke Depan: Implikasi untuk Pengguna, Perancang, dan Pembuat Kebijakan

Penelitian ini memiliki implikasi untuk pengguna teknologi rata-rata, perancang sistem AI, dan pembuat kebijakan. Sangat penting bagi orang untuk memahami bahwa penipuan robot adalah nyata dan selalu memungkinkan. Perancang dan teknolog harus mempertimbangkan konsekuensi dari menciptakan sistem AI yang mampu menipu. Pembuat kebijakan harus mengambil langkah untuk mengatur legislasi yang seimbang antara inovasi dan perlindungan bagi masyarakat.

Tujuan Kantwon Rogers adalah untuk menciptakan sistem robot yang dapat belajar kapan harus berbohong dan kapan tidak berbohong ketika bekerja dengan tim manusia, serta kapan dan bagaimana untuk meminta maaf selama interaksi manusia-AI yang berulang untuk meningkatkan kinerja tim.

Ia menekankan pentingnya memahami dan mengatur penipuan robot dan AI, mengatakan:

“Tujuan pekerjaan saya adalah untuk sangat proaktif dan menginformasikan kebutuhan untuk mengatur penipuan robot dan AI. Tetapi kita tidak bisa melakukannya jika kita tidak memahami masalahnya.”

Penelitian ini memberikan pengetahuan yang sangat penting dalam bidang penipuan AI dan menawarkan wawasan yang berharga bagi perancang teknologi dan pembuat kebijakan yang menciptakan dan mengatur teknologi AI yang mampu menipu atau berpotensi belajar menipu dengan sendirinya.