Nghiên cứu mới làm sáng tỏ ‘Mệt mỏi thuật toán’

Một nghiên cứu mới được thực hiện bởi công ty tư vấn chiến lược Alice Labs và công ty công nghệ toàn cầu Reaktor đã làm sáng tỏ hiện tượng mà các nhà nghiên cứu gọi là “mệt mỏi thuật toán.” Mệt mỏi thuật toán xảy ra khi cá nhân dành nhiều thời gian để thực hiện các hành động như duyệt qua các dịch vụ phát trực tuyến. Trong những khoảnh khắc này, các hệ thống trí tuệ nhân tạo có thể thường xuyên không thực hiện được nhiệm vụ của mình nếu chúng không đáp ứng được kỳ vọng của người dùng. Điều này có thể thường xuyên khiến người tiêu dùng cảm thấy mệt mỏi.

Nghiên cứu mới đã xác định ba loại tương tác trí tuệ nhân tạo khác nhau:

• Thụ động: Người dùng muốn ở trong trạng thái thụ động đối với hệ thống thuật toán.
• Hướng dẫn: Người dùng muốn hướng dẫn hệ thống thuật toán.
• Phối hợp: Người dùng muốn phối hợp với hệ thống thuật toán.

Loại tương tác trí tuệ nhân tạo mà người dùng chọn phụ thuộc vào tình huống và những gì họ muốn hoặc cần, và nó cũng bị ảnh hưởng bởi các trải nghiệm trước đó với công nghệ thông minh, chẳng hạn như mệt mỏi thuật toán khi một hệ thống trước đó không đáp ứng được nhu cầu của họ.

Theo các nhà nghiên cứu, trí tuệ nhân tạo đang trở thành hơn là chỉ công nghệ, và các thương hiệu đang bắt đầu nhận ra tầm quan trọng của cách người dùng trải nghiệm và tương tác với các thuật toán.

Kirsi Hantula là một trong những nhà nghiên cứu tại Alice Labs.

“Mặc dù hữu ích trong nhiều trường hợp, các thuật toán vẫn bị giới hạn bởi bản chất máy móc của chúng: chúng không thể dự đoán khi người dùng có một ngày tồi tệ và cần một thứ gì đó nhẹ nhàng hơn để xem, cũng không thể hiểu được các cách tinh tế và đa dạng mà người dùng thay đổi và mở rộng sở thích của mình theo thời gian,” Hantula nói.

Vì các thiết bị được hỗ trợ bởi trí tuệ nhân tạo đã tồn tại hơn mười năm, nhiều người dùng đã biết cách điều hướng các hệ thống không hoàn hảo. Điều này có nghĩa là người dùng đã bắt đầu chống lại mệt mỏi thuật toán. Ví dụ, một người có thể giới hạn một thiết bị được hỗ trợ bởi trí tuệ nhân tạo trong các chức năng cơ bản, chẳng hạn như sử dụng trợ lý giọng nói cho các nhiệm vụ đơn giản.

Thuật toán khuyến nghị

Các nhà nghiên cứu cũng phát hiện ra rằng nhiều người tiêu dùng đang chọn không sử dụng các thuật toán khuyến nghị, chuyển sang các nhân vật có ảnh hưởng bên ngoài để tuyển chọn nội dung. Các nhân vật có ảnh hưởng bên ngoài, hoặc ngọn hải đăng, là những cá nhân khác có sở thích tương tự, và những cá nhân này thường đáng tin cậy hơn các thuật toán.

Các nhà nghiên cứu cho rằng các công ty nên tìm cách chống lại mệt mỏi thuật toán nếu họ muốn thiết lập mối quan hệ mạnh mẽ hơn với người tiêu dùng.

Olof Hoverfält là Tư vấn viên chính, Chiến lược và Thiết kế kinh doanh, tại Reaktor.

“Điều này không phải là về việc tái tạo lại trí tuệ nhân tạo, trí tuệ nhân tạo đang hoạt động tốt,” Hoverfält nói. “Điều này là về việc tạo ra một lớp khác trên hệ thống đó, một thứ gì đó cho phép tương tác con người nhanh chóng và tinh tế hơn giữa người dùng và thuật toán. Điều này là về sự bình đẳng: trao cho người dùng sự đại lý bình đẳng trong việc ra quyết định, cho phép họ chọn và thay đổi khi họ muốn tham gia tích cực vào quá trình hoặc chỉ được hướng dẫn thụ động thông qua nó.”

“Đối với chúng tôi, đây cũng là một vấn đề về đạo đức. Chúng tôi nghĩ rằng các hệ thống trí tuệ nhân tạo gắn liền chặt chẽ với cuộc sống của con người nên được thiết kế theo cách nào đó để tôn vinh sự đa dạng của con người và thiết lập người dùng là các tác nhân sáng tạo và tích cực trong việc ra quyết định thuật toán,” Hantula nói.

Nghiên cứu mới này là một phần của sự hợp tác hai năm giữa Alice Labs và Trung tâm Nghiên cứu Xã hội Tiêu dùng của Đại học Helsinki. Nó được tài trợ bởi Quỹ Giáo dục Kinh tế.