新研究揭示“算法疲劳”

一项新的 研究由战略咨询公司Alice Labs和全球科技公司Reaktor进行，揭示了所谓的“算法疲劳”。算法疲劳发生在个体花费长时间进行诸如浏览流媒体服务等活动时。在这些时刻，AI系统如果不能满足用户的期望，往往会失败。这经常会让消费者感到疲劳。

这项新研究确定了三种不同类型的AI交互：

• 被动：用户希望对算法系统保持被动。
• 指导：用户希望指导算法系统。
• 协作：用户希望与算法系统协作。

用户选择的AI交互类型取决于情况和他们的需求，也受到之前与智能技术的经历的影响，例如算法疲劳，当之前的系统无法满足他们的需求时。

根据研究人员的说法，AI不仅仅是一项技术，品牌开始意识到用户体验和与算法交互的重要性。

Kirsi Hantula是Alice Labs的研究人员之一。

“虽然在很多情况下算法很有用，但它们仍然受到其机器性质的限制：它们无法预测用户什么时候会有一个糟糕的日子，需要一些更轻松的内容来观看，也无法理解用户的口味如何随时间而演变和扩展，”Hantula说。

由于各种AI驱动的设备已经存在了十多年，许多用户已经知道如何在不完美的系统中导航。这意味着用户自己已经开始对抗算法疲劳。例如，一个人可能会将AI驱动的设备限制为其基本功能，例如使用语音激活的助手来执行简单的任务。

推荐算法

研究人员还发现，更多的消费者现在正在选择退出推荐算法，转向外部影响者来策划内容。外部影响者，或 灯塔，是具有相似兴趣的其他个体，这些个体往往比算法更可靠。

研究人员说，公司应该找到方法来对抗算法疲劳，如果他们想与消费者建立更牢固的关系。

Olof Hoverfält是Reaktor的首席顾问，战略和商业设计。

“这不仅仅是重新发明AI，AI本身是正常工作的，”Hoverfält说。“这是在现有系统上添加另一层，允许用户和算法之间更快速、更精细的交互。这是关于平等：授予用户在决策中平等的代理权，允许他们选择和改变何时积极参与该过程或只是被动地引导通过它。”

“对于我们来说，这也是一个道德问题。我们认为，密切融入人们生活的AI系统应该被设计成一种方式，以庆祝人类的多样性，并将用户确立为算法决策中的积极和创造性代理，”Hantula说。

这项新研究是Alice Labs和赫尔辛基大学消费者社会研究中心之间为期两年的合作的一部分。它得到了经济教育基金会的资助。