Nghiên cứu mới làm sáng tỏ ‘Mệt mỏi thuật toán’

Một nghiên cứu mới được thực hiện bởi công ty tư vấn chiến lược Alice Labs và công ty công nghệ toàn cầu Reaktor làm sáng tỏ những gì các nhà nghiên cứu gọi là “mệt mỏi thuật toán.” Mệt mỏi thuật toán xảy ra khi các cá nhân dành nhiều thời gian để thực hiện các việc như duyệt các dịch vụ phát trực tuyến. Trong những khoảnh khắc này, các hệ thống trí tuệ nhân tạo có thể thường xuyên thất bại trong việc đáp ứng kỳ vọng của người dùng nếu chúng không cung cấp. Điều này có thể thường khiến người tiêu dùng cảm thấy mệt mỏi. 

Nghiên cứu mới đã xác định ba loại tương tác trí tuệ nhân tạo khác nhau: 

• Thụ động: Người dùng muốn ở trong trạng thái thụ động đối với hệ thống thuật toán.
• Hướng dẫn: Người dùng muốn hướng dẫn hệ thống thuật toán.
• Hợp tác: Người dùng muốn hợp tác với hệ thống thuật toán.

Loại tương tác trí tuệ nhân tạo mà người dùng chọn phụ thuộc vào tình huống và những gì họ muốn hoặc cần, và nó cũng bị ảnh hưởng bởi những trải nghiệm trước đó với công nghệ thông minh, chẳng hạn như mệt mỏi thuật toán khi hệ thống trước đó không đáp ứng được nhu cầu của họ. 

Theo các nhà nghiên cứu, trí tuệ nhân tạo đang trở thành hơn là chỉ công nghệ, và các thương hiệu đang bắt đầu nhận ra tầm quan trọng của việc người dùng trải nghiệm và tương tác với các thuật toán. 

Kirsi Hantula là một trong những nhà nghiên cứu tại Alice Labs. 

“Trong khi hữu ích trong nhiều trường hợp, các thuật toán tiếp tục bị giới hạn bởi sự máy móc của chúng: chúng không thể dự đoán khi người dùng có một ngày tồi tệ và cần thứ gì đó nhẹ nhàng hơn để xem, cũng không thể hiểu được những cách tinh vi và đa dạng mà khẩu vị của người dùng phát triển và mở rộng theo thời gian,” Hantula nói. 

Bởi vì các thiết bị được hỗ trợ bởi trí tuệ nhân tạo đã có mặt trong hơn mười năm, nhiều người dùng đã biết cách điều hướng các hệ thống không hoàn hảo. Điều này có nghĩa là người dùng đã bắt đầu chống lại mệt mỏi thuật toán. Ví dụ, một người có thể hạn chế thiết bị hỗ trợ trí tuệ nhân tạo ở các chức năng cơ bản, chẳng hạn như sử dụng trợ lý giọng nói cho các nhiệm vụ đơn giản. 

Thuật toán khuyến nghị

Các nhà nghiên cứu cũng phát hiện ra rằng nhiều người tiêu dùng đang chọn không sử dụng các thuật toán khuyến nghị, chuyển sang các nhà ảnh hưởng bên ngoài để kiểm soát nội dung. Các nhà ảnh hưởng bên ngoài, hoặc người chỉ đường, là những người khác có cùng sở thích, và những người này thường đáng tin cậy hơn các thuật toán. 

Các nhà nghiên cứu cho rằng các công ty nên tìm cách chống lại mệt mỏi thuật toán nếu họ muốn thiết lập mối quan hệ mạnh mẽ hơn với người tiêu dùng. 

Olof Hoverfält là Tư vấn viên chính, Chiến lược và Thiết kế kinh doanh, tại Reaktor. 

“Điều quan trọng không phải là tái tạo lại trí tuệ nhân tạo, trí tuệ nhân tạo đang hoạt động tốt,” Hoverfält nói. “Điều quan trọng là tạo ra một lớp khác trên hệ thống đó, thứ gì đó cho phép tương tác con người nhanh hơn, tinh tế hơn giữa người dùng và thuật toán. Điều quan trọng là sự bình đẳng: trao cho người dùng quyền lực ngang bằng trong việc ra quyết định, cho phép họ chọn và thay đổi khi họ muốn tham gia tích cực vào quá trình hoặc chỉ được hướng dẫn thụ động qua nó.”

“Đối với chúng tôi, đây cũng là một vấn đề về đạo đức. Chúng tôi nghĩ rằng các hệ thống trí tuệ nhân tạo gắn liền chặt chẽ với cuộc sống của con người nên được thiết kế theo cách庆祝 sự đa dạng của con người và thiết lập người dùng là những tác nhân tích cực và sáng tạo trong việc ra quyết định thuật toán,” Hantula nói.

Nghiên cứu mới là một phần của sự hợp tác hai năm giữa Alice Labs và Trung tâm Nghiên cứu Xã hội Người tiêu dùng của Đại học Helsinki. Nó được tài trợ bởi Quỹ Giáo dục Kinh tế.