Nghiên cứu mới làm sáng tỏ 'Sự mệt mỏi của thuật toán'

A mới nghiên cứu được thực hiện bởi công ty tư vấn chiến lược Alice Labs và công ty công nghệ toàn cầu Reaktor đã làm sáng tỏ điều mà các nhà nghiên cứu gọi là “sự mệt mỏi của thuật toán”. Sự mệt mỏi với thuật toán diễn ra khi các cá nhân dành thời gian dài để làm những việc như duyệt các dịch vụ phát trực tuyến. Trong những thời điểm này, các hệ thống AI thường có thể không thực hiện được nhiệm vụ đáp ứng mong đợi của người dùng nếu chúng không mang lại hiệu quả. Điều này thường có thể khiến người tiêu dùng cảm thấy mệt mỏi. 

Nghiên cứu mới đã xác định ba loại tương tác AI khác nhau: 

• Bị động: Người dùng muốn tiếp tục thụ động đối với một hệ thống thuật toán.
• hướng dẫn: Người dùng muốn hướng dẫn một hệ thống thuật toán.
• Hợp tác: Người dùng muốn cộng tác với một hệ thống thuật toán.

Loại tương tác AI mà người dùng chọn tùy thuộc vào tình huống và điều họ muốn hoặc cần, đồng thời nó cũng bị ảnh hưởng bởi những trải nghiệm trước đây với công nghệ thông minh, chẳng hạn như sự mệt mỏi của thuật toán khi hệ thống trước đó không đáp ứng được những nhu cầu đó. 

Theo các nhà nghiên cứu, AI không chỉ là công nghệ và các thương hiệu bắt đầu nhận ra tầm quan trọng của cách người dùng trải nghiệm và tương tác với các thuật toán. 

Kirsi Hantula là một trong những nhà nghiên cứu tại Alice Labs. 

“Mặc dù hữu ích trong nhiều trường hợp, nhưng các thuật toán tiếp tục bị giới hạn bởi tính máy móc của chúng: chúng không thể dự đoán khi nào người dùng có một ngày tồi tệ và cần thứ gì đó nhẹ nhàng hơn để xem, cũng như không thể hiểu được những cách tinh tế và đa dạng mà người dùng' thị hiếu phát triển và mở rộng theo thời gian,” Hantula nói. 

Vì các thiết bị hỗ trợ AI khác nhau đã xuất hiện hơn mười năm nên nhiều người dùng đã biết cách điều hướng một cách khéo léo các hệ thống không hoàn hảo. Điều này có nghĩa là bản thân người dùng đã bắt đầu chiến đấu chống lại sự mệt mỏi của thuật toán. Ví dụ: người ta có thể giới hạn thiết bị hỗ trợ AI ở các chức năng cơ bản của nó, chẳng hạn như sử dụng trợ lý kích hoạt bằng giọng nói cho các tác vụ đơn giản. 

Thuật toán đề xuất

Các nhà nghiên cứu cũng phát hiện ra rằng nhiều người tiêu dùng hiện đang từ chối các thuật toán đề xuất, hướng nhiều hơn đến những người có ảnh hưởng bên ngoài để quản lý nội dung. Những người có ảnh hưởng bên ngoài, hoặc ngọn hải đăng, là những cá nhân khác có cùng sở thích và những cá nhân này thường đáng tin cậy hơn các thuật toán. 

Các nhà nghiên cứu nói rằng các công ty nên tìm cách chống lại sự mệt mỏi của thuật toán nếu họ muốn thiết lập mối quan hệ bền chặt hơn với người tiêu dùng của mình. 

Olof Hoverfält là Cố vấn Chính, Chiến lược và Thiết kế Kinh doanh, tại Reaktor. 

Hoverfält nói: “Không phải là quá nhiều về việc phát minh lại AI, AI đang hoạt động tốt. “Đó là về việc tạo ra một lớp khác trên hệ thống đó, thứ gì đó cho phép tương tác con người nhanh hơn, tinh tế hơn giữa người dùng và thuật toán. Đó là về tính bình đẳng: cấp cho người dùng quyền bình đẳng trong việc ra quyết định, cho phép họ lựa chọn và thay đổi khi họ muốn tham gia tích cực vào quy trình hoặc chỉ được hướng dẫn một cách thụ động trong quy trình.”

“Đối với chúng tôi, đây cũng là vấn đề đạo đức. Chúng tôi nghĩ rằng các hệ thống AI gắn bó mật thiết với cuộc sống của con người nên được thiết kế theo cách tôn vinh tính linh hoạt của con người và thiết lập người dùng như những tác nhân tích cực và sáng tạo trong việc ra quyết định bằng thuật toán,” Hantula nói.

Nghiên cứu mới này là một phần của sự hợp tác kéo dài hai năm giữa Phòng thí nghiệm Alice và Trung tâm Nghiên cứu Xã hội Người tiêu dùng của Đại học Helsinki. Nó được tài trợ bởi Quỹ Giáo dục Kinh tế.