Penelitian Baru Menunjukkan Bagaimana AI Dapat Bertindak sebagai Mediator

Penelitian baru dari Universitas Cornell menunjukkan bagaimana kecerdasan buatan (AI) dapat berperan dalam memediasi percakapan. Ini terjadi selama masa jarak sosial dan percakapan jarak jauh karena pandemi. 

Menurut studi baru, manusia mempercayai sistem kecerdasan buatan lebih dari orang yang sebenarnya mereka ajak bicara ketika melakukan percakapan yang sulit. Sistem kecerdasan buatan adalah saran balasan "pintar" dalam teks. 

Studi baru berjudul “AI sebagai Moral Crumple Zone: Pengaruh Komunikasi AI yang Dimediasi pada Atribusi dan Kepercayaan.” Itu diterbitkan online di jurnal Komputer dalam Perilaku Manusia.

Jess Hohenstein adalah mahasiswa doktoral di bidang ilmu informasi. Dia adalah penulis pertama makalah itu.

“Kami menemukan bahwa ketika terjadi kesalahan, orang mengambil tanggung jawab yang seharusnya diberikan kepada pasangan manusia mereka dan menunjuk sebagian dari itu ke sistem kecerdasan buatan,” kata Hohenstein. “Ini memperkenalkan potensi untuk menggunakan AI dan menggunakannya sebagai mediator dalam percakapan kami.”

Mendeteksi Ketika Segalanya Menjadi Buruk 

Selama percakapan, algoritme dapat menganalisis bahasa untuk mendeteksi momen ketika keadaan menjadi buruk. Kemudian dapat menyarankan strategi resolusi konflik tertentu, menurut Hohenstein.

Tujuan utama penelitian ini adalah untuk melihat berbagai cara halus dan signifikan yang dapat dilakukan oleh sistem AI, seperti balasan cerdas, untuk mengubah cara manusia berinteraksi. Menurut para peneliti, sesuatu yang kecil seperti memilih jawaban yang tidak sepenuhnya akurat dapat secara drastis mengubah berbagai aspek percakapan. Bahasa itu sering dipilih untuk menghemat waktu pengetikan, dan dapat berdampak langsung pada hubungan. 

Malte Jung adalah rekan penulis studi dan asisten profesor ilmu informasi. Dia juga direktur Laboratorium Robot di Grup, yang mempelajari bagaimana robot mengubah dinamika kelompok. 

“Komunikasi sangat mendasar untuk bagaimana kita membentuk persepsi satu sama lain, bagaimana kita membentuk dan menjaga hubungan, atau bagaimana kita dapat mencapai sesuatu bekerja sama,” kata Jung.

“Studi ini termasuk dalam agenda yang lebih luas untuk memahami bagaimana sistem AI baru ini mengacaukan kemampuan kita untuk berinteraksi,” lanjut Jung. “Kita sering berpikir tentang bagaimana desain sistem memengaruhi cara kita berinteraksi dengannya, tetapi lebih sedikit penelitian yang berfokus pada pertanyaan tentang bagaimana teknologi yang kita kembangkan memengaruhi cara orang berinteraksi satu sama lain.”

Pemahaman yang Lebih Baik tentang Interaksi Manusia

Studi ini dapat membantu memahami cara orang memandang dan berinteraksi dengan komputer. Itu juga dapat membantu meningkatkan komunikasi manusia, melalui penggunaan panduan halus dan pengingat AI.

Hohenstein dan Jung ingin mengetahui apakah sistem AI dapat menyerap "kecelakaan" percakapan.

"Ada mekanisme fisik di bagian depan mobil yang dirancang untuk menyerap kekuatan benturan dan bertanggung jawab untuk meminimalkan dampak kecelakaan," kata Hohenstein. “Di sini kita melihat sistem AI menyerap sebagian tanggung jawab moral.”

Penelitian ini didukung sebagian oleh National Science Foundation.