Penelitian Baru Menunjukkan Bagaimana AI Dapat Berperan sebagai Mediator

Penelitian baru dari Universitas Cornell menunjukkan bagaimana kecerdasan buatan (AI) dapat memainkan peran dalam memediasi percakapan. Hal ini terjadi pada saat jaga jarak sosial dan percakapan jarak jauh karena pandemi.

Menurut studi baru, manusia lebih percaya pada sistem kecerdasan buatan daripada orang-orang yang mereka ajak bicara ketika melakukan percakapan yang sulit. Sistem kecerdasan buatan tersebut adalah “smart” reply saran dalam teks.

Studi baru ini berjudul “AI sebagai Zona Crumple Moral: Efek Komunikasi AI yang Dimediasi pada Atribusi dan Kepercayaan.” Hal ini dipublikasikan secara online di jurnal Komputer dalam Perilaku Manusia.

Jess Hohenstein adalah mahasiswa doktoral di bidang ilmu informasi. Ia adalah penulis pertama makalah tersebut.

“Kami menemukan bahwa ketika sesuatu salah, orang-orang mengambil tanggung jawab yang seharusnya diberikan kepada mitra manusia mereka dan memberikan sebagian dari itu kepada sistem kecerdasan buatan,” kata Hohenstein. “Hal ini memperkenalkan potensi untuk menggunakan AI sebagai mediator dalam percakapan kita.”

Deteksi Ketika Sesuatu Salah

Selama percakapan, algoritma dapat menganalisis bahasa untuk mendeteksi saat sesuatu salah. Kemudian, algoritma dapat menyarankan strategi resolusi konflik tertentu, menurut Hohenstein.

Tujuan utama studi ini adalah untuk melihat berbagai cara halus dan signifikan yang sistem AI, seperti balasan pintar, dapat mengubah bagaimana manusia berinteraksi. Menurut peneliti, sesuatu yang kecil seperti memilih balasan yang tidak sepenuhnya akurat dapat mengubah berbagai aspek percakapan. Bahasa tersebut sering dipilih untuk menghemat waktu mengetik, dan dapat memiliki efek langsung pada hubungan.

Malte Jung adalah co-penulis studi dan asisten profesor ilmu informasi. Ia juga direktur laboratorium Robots in Groups, yang mempelajari bagaimana robot mengubah dinamika kelompok.

“Komunikasi sangat mendasar bagi bagaimana kita membentuk persepsi satu sama lain, bagaimana kita membentuk dan mempertahankan hubungan, atau bagaimana kita dapat mencapai sesuatu dengan bekerja sama,” kata Jung.

“Studi ini termasuk dalam agenda yang lebih luas untuk memahami bagaimana sistem AI baru ini mengganggu kapasitas kita untuk berinteraksi,” Jung melanjutkan. “Kita sering memikirkan bagaimana desain sistem mempengaruhi bagaimana kita berinteraksi dengan mereka, tetapi lebih sedikit studi yang fokus pada pertanyaan tentang bagaimana teknologi yang kita kembangkan mempengaruhi bagaimana orang berinteraksi satu sama lain.”

Memahami Interaksi Manusia yang Lebih Baik

Studi ini dapat membantu memahami cara-cara orang memandang dan berinteraksi dengan komputer. Hal ini juga dapat membantu meningkatkan komunikasi manusia, melalui penggunaan bimbingan halus dan pengingat AI.

Hohenstein dan Jung ingin mengetahui apakah sistem AI dapat menyerap “kecelakaan” percakapan.

“Ada mekanisme fisik di bagian depan mobil yang dirancang untuk menyerap kekuatan dampak dan mengambil tanggung jawab untuk meminimalkan efek kecelakaan,” kata Hohenstein. “Di sini kita melihat sistem AI menyerap sebagian tanggung jawab moral.”

Penelitian ini didukung sebagian oleh National Science Foundation.