Новое исследование проливает свет на «алгоритмическую усталость’

Новое исследование, проведенное стратегической консалтинговой компанией Alice Labs и глобальной технологической фирмой Reaktor, проливает свет на то, что исследователи называют «алгоритмической усталостью». Алгоритмическая усталость возникает, когда люди проводят длительные периоды времени, делая вещи, такие как просмотр потоковых сервисов. В эти моменты системы искусственного интеллекта могут часто не справляться со своей задачей удовлетворять ожидания пользователей, если они не доставляют. Это может часто оставлять потребителей уставшими.

Новое исследование выявило три различных типа взаимодействий с искусственным интеллектом:

• Пассивный: Пользователи хотят оставаться пассивными по отношению к алгоритмической системе.
• Направляющий: Пользователи хотят направлять алгоритмическую систему.
• Сотруднический: Пользователи хотят сотрудничать с алгоритмической системой.

Тип взаимодействия с искусственным интеллектом, который выбирает пользователь, зависит от ситуации и того, чего он хочет или necesita, и также зависит от предыдущего опыта работы с умными технологиями, такими как алгоритмическая усталость, когда предыдущая система не смогла удовлетворить эти потребности.

По мнению исследователей, искусственный интеллект становится больше, чем просто технологией, и бренды начинают осознавать важность того, как пользователи испытывают и взаимодействуют с алгоритмами.

Кирси Хантала является одним из исследователей в Alice Labs.

«Хотя алгоритмы полезны во многих случаях, они продолжают быть ограниченными своей «машинностью»: они не могут предсказать, когда пользователи имеют плохой день и нуждаются в чем-то более легком для просмотра, и они также не способны понимать тонкие и разнообразные способы, которыми вкусы пользователей эволюционируют и расширяются со временем», – говорит Хантала.

Поскольку различные устройства, работающие на искусственном интеллекте, существуют уже более десяти лет, многие пользователи уже осознают, как тактически ориентироваться в несовершенных системах. Это означает, что пользователи сами уже начали бороться с алгоритмической усталостью. Например, можно ограничить устройство, работающее на искусственном интеллекте, его базовыми функциями, такими как использование голосового помощника для простых задач.

Алгоритмы рекомендаций

Исследователи также обнаружили, что все больше потребителей теперь отказываются от алгоритмов рекомендаций, переходя к внешним влияниям для курирования контента. Внешние влияния, или маяки, – это другие люди, которые разделяют схожие интересы, и эти люди часто более надежны, чем алгоритмы.

Исследователи говорят, что компании должны найти способы борьбы с алгоритмической усталостью, если они хотят установить более сильные отношения с потребителями.

Олоф Ховерфельт является главным консультантом по стратегии и бизнес-дизайну в Reaktor.

«Это не так много о том, чтобы изобретать заново искусственный интеллект, искусственный интеллект работает хорошо», – говорит Ховерфельт. «Это о создании другого слоя поверх этой системы, что-то, что позволяет для более быстрого, более точного человеческого взаимодействия между пользователем и алгоритмом. Это о паритете: предоставлении пользователю равного агентства над процессом принятия решений, позволяя им выбирать и менять, когда они хотят быть активно вовлеченными в процесс или просто пассивно направляться через него».

«Для нас это также вопрос этики. Мы считаем, что системы искусственного интеллекта, которые тесно переплетены с жизнью людей, должны быть разработаны так, чтобы праздновать человеческую универсальность и устанавливать пользователей как положительных и творческих агентов в алгоритмическом процессе принятия решений», – говорит Хантала.

Новое исследование является частью двухлетнего сотрудничества между Alice Labs и Центром исследований потребительского общества Университета Хельсинки. Оно было финансировано Фондом экономического образования.