Studi Baru Membuka Wawasan tentang ‘Keklelahan Algoritma’

Sebuah studi baru yang dilakukan oleh konsultan strategis Alice Labs dan perusahaan teknologi global Reaktor membuka wawasan tentang apa yang disebut para peneliti sebagai “kelelahan algoritma.” Keklelahan algoritma terjadi ketika individu menghabiskan waktu lama melakukan hal-hal seperti browsing layanan streaming. Pada saat-saat seperti itu, sistem AI dapat sering gagal dalam tugasnya untuk memenuhi harapan pengguna jika mereka tidak menghasilkan. Ini dapat sering membuat konsumen merasa lelah.

Studi baru ini mengidentifikasi tiga jenis interaksi AI yang berbeda:

• Pasif: Pengguna ingin tetap pasif terhadap sistem algoritma.
• Mengarahkan: Pengguna ingin mengarahkan sistem algoritma.
• Kolaboratif: Pengguna ingin berkolaborasi dengan sistem algoritma.

Jenis interaksi AI yang dipilih pengguna tergantung pada situasi dan apa yang mereka inginkan atau butuhkan, dan juga dipengaruhi oleh pengalaman sebelumnya dengan teknologi pintar, seperti kelelahan algoritma ketika sistem sebelumnya gagal memenuhi kebutuhan tersebut.

Menurut para peneliti, AI menjadi lebih dari sekadar teknologi, dan merek mulai menyadari pentingnya bagaimana pengguna mengalami dan berinteraksi dengan algoritma.

Kirsi Hantula adalah salah satu peneliti di Alice Labs.

“Sementara berguna dalam banyak kasus, algoritma terus dibatasi oleh sifat mesinnya: mereka tidak dapat memprediksi kapan pengguna memiliki hari yang buruk dan membutuhkan sesuatu yang lebih ringan untuk ditonton, atau memahami cara-cara halus dan bervariasi yang pengguna mengembangkan dan memperluas selera mereka seiring waktu,” kata Hantula.

Karena berbagai perangkat AI telah ada selama lebih dari sepuluh tahun, banyak pengguna sudah menyadari bagaimana mengarahkan sistem yang tidak sempurna. Ini berarti bahwa pengguna sendiri telah mulai melawan kelelahan algoritma. Misalnya, seseorang dapat membatasi perangkat AI ke fungsi dasarnya, seperti menggunakan asisten suara untuk tugas-tugas sederhana.

Algoritma Rekomendasi

Para peneliti juga menemukan bahwa lebih banyak konsumen sekarang memilih keluar dari algoritma rekomendasi, beralih lebih kepada pengaruh luar untuk mengkurasi konten. Pengaruh luar, atau mercusuar, adalah individu lain yang berbagi minat yang sama, dan individu-individu ini sering lebih dapat diandalkan daripada algoritma.

Para peneliti mengatakan bahwa perusahaan harus menemukan cara untuk melawan kelelahan algoritma jika mereka ingin membangun hubungan yang lebih kuat dengan konsumen mereka.

Olof Hoverfält adalah Principal Consultant, Strategi dan Desain Bisnis, di Reaktor.

“Ini tidak banyak tentang mereinventasi AI, AI bekerja dengan baik,” kata Hoverfält. “Ini tentang menciptakan lapisan lain di atas sistem itu, sesuatu yang memungkinkan interaksi manusia yang lebih cepat dan lebih halus antara pengguna dan algoritma. Ini tentang kesetaraan: memberikan pengguna kekuatan yang sama dalam pengambilan keputusan, memungkinkan mereka untuk memilih dan mengubah kapan mereka ingin terlibat secara aktif dalam proses atau hanya diarahkan melalui itu.”

“Bagi kami, ini juga merupakan masalah etika. Kami berpikir bahwa sistem AI yang sangat terkait dengan kehidupan orang harus dirancang dengan cara yang merayakan keberagaman manusia dan membangun pengguna sebagai agen yang positif dan kreatif dalam pengambilan keputusan algoritma,” kata Hantula.

Studi baru ini merupakan bagian dari kolaborasi dua tahun antara Alice Labs dan Pusat Penelitian Masyarakat Konsumen Universitas Helsinki. Ini didanai oleh Yayasan Pendidikan Ekonomi.