Новое исследование проливает свет на «алгоритмическую усталость»

Новое исследование, проведенное стратегической консалтинговой компанией Alice Labs и глобальной технологической фирмой Reaktor, проливает свет на то, что исследователи называют «алгоритмической усталостью». Алгоритмическая усталость возникает, когда люди проводят длительные периоды времени, делая вещи, такие как просмотр потоковых сервисов. В эти моменты системы искусственного интеллекта могут часто не оправдывать ожиданий пользователей, если они не доставляют. Это может часто оставлять потребителей уставшими. 

Новое исследование выявило три разных типа взаимодействия с ИИ: 

• Пассивное: Пользователи хотят оставаться пассивными по отношению к алгоритмической системе.
• Направляющее: Пользователи хотят направлять алгоритмическую систему.
• Совместное: Пользователи хотят сотрудничать с алгоритмической системой.

Тип взаимодействия с ИИ, который выбирает пользователь, зависит от ситуации и того, чего он хочет или necesita, и также зависит от предыдущего опыта работы со смарт-технологиями, такими как алгоритмическая усталость, когда предыдущая система не оправдала ожиданий. 

По мнению исследователей, ИИ становится больше, чем просто технологией, и бренды начинают осознавать важность того, как пользователи испытывают и взаимодействуют с алгоритмами. 

Кирси Хантола является одним из исследователей в Alice Labs. 

«Хотя полезен в многих случаях, алгоритмы продолжают быть ограничены своей «машинностью»: они не могут предсказать, когда у пользователей плохой день и им нужно что-то более легкое для просмотра, ни могут понять тонкие и разнообразные способы, которыми вкусы пользователей эволюционируют и расширяются со временем», – говорит Хантола. 

Поскольку различные устройства, работающие на ИИ, существуют уже более десяти лет, многие пользователи уже осознают, как тактически ориентироваться в несовершенных системах. Это означает, что пользователи сами уже начали бороться с алгоритмической усталостью. Например, можно ограничить устройство, работающее на ИИ, его базовыми функциями, такими как использование голосового помощника для простых задач. 

Алгоритмы рекомендаций

Исследователи также обнаружили, что все больше потребителей теперь отказываются от алгоритмов рекомендаций, переходя к внешним влияниям для курирования контента. Внешние влияния, или маяки, являются другими людьми, которые делятся схожими интересами, и эти люди часто более надежны, чем алгоритмы. 

Исследователи говорят, что компании должны найти способы борьбы с алгоритмической усталостью, если они хотят установить более сильные отношения с потребителями. 

Олоф Ховерфельт является старшим консультантом по стратегии и бизнес-дизайну в Reaktor. 

«Это не так много о том, чтобы пересоздать ИИ, ИИ работает хорошо», – говорит Ховерфельт. «Это о создании другого слоя поверх этой системы, что-то, что позволяет для более быстрого, более точного человеческого взаимодействия между пользователем и алгоритмом. Это о паритете: предоставлении пользователю равного агентства в принятии решений, позволяющем им выбирать и менять, когда они хотят быть активно вовлечены в процесс или просто пассивно направляться через него». 

«Для нас это также вопрос этики. Мы считаем, что системы ИИ, которые тесно переплетаются с жизнью людей, должны быть разработаны так, чтобы праздновать человеческую универсальность и устанавливать пользователей как положительных и творческих агентов в алгоритмическом принятии решений», – говорит Хантола. 

Новое исследование является частью двухлетнего сотрудничества между Alice Labs и Центром исследований потребительского общества Университета Хельсинки. Оно было профинансировано Фондом экономического образования.