새로운 연구, ‘알고리즘 피로’에 대한 조명

새로운 연구는 전략적 컨설팅 회사 Alice Labs와 글로벌 기술 회사 Reaktor가 수행했으며, 연구자들이 ‘알고리즘 피로’라고 부르는 현상을 조명한다. 알고리즘 피로는 개인이 스트리밍 서비스를 브라우징하는 것과 같은 작업을 오랜 시간 동안 수행할 때 발생한다. 이러한 순간에 AI 시스템은 사용자의 기대에 부응하지 못할 수 있으며, 이는 사용자가 피로를 느끼게 할 수 있다.

새로운 연구는 세 가지 유형의 AI 상호작용을 식별했다:

• 수동적: 사용자는 알고리즘 시스템에 대해 수동적으로 유지하고 싶어한다.
• 가이드: 사용자는 알고리즘 시스템을 가이드하고 싶어한다.
• 협력적: 사용자는 알고리즘 시스템과 협력하고 싶어한다.

사용자가 선택하는 AI 상호작용 유형은 상황과 사용자가 원하는 것 또는 필요한 것에 따라 다르며, 이전의 스마트 기술 경험, 예를 들어 알고리즘 피로와 같은 이전 시스템이 사용자의 필요를 충족하지 못했을 때에도 영향을 받는다.

연구자들은 AI가 단순히 기술을 넘어서는 것이며, 브랜드는 사용자가 알고리즘과 상호작용하고 경험하는 방식의 중요성을 인식하기 시작했다고 말한다.

Kirsi Hantula는 Alice Labs의 연구자 중 한 명이다.

“유용한 경우가 많지만, 알고리즘은 여전히 기계적인 한계가 있다: 사용자가 나쁜 날을 보낼 때 더 가벼운 것을 시청해야 하는지 예측할 수 없으며, 사용자의 취향이 시간의 경과에 따라 어떻게 진화하고 확장하는지 이해할 수 없다”고 Hantula는 말한다.

다양한 AI 기반 장치들이 10년 이상 사용되어 왔기 때문에, 많은 사용자는 이미 불완전한 시스템을 어떻게 전략적으로 탐색하는지 알고 있다. 즉, 사용자들은 이미 알고리즘 피로에 대처하기 시작했다. 예를 들어, 사용자는 AI 기반 장치를 기본 기능으로 제한할 수 있다. 예를 들어, 음성 활성화된 보조자를 사용하여 간단한 작업을 수행할 수 있다.

추천 알고리즘

연구자들은 또한 더 많은 소비자가 추천 알고리즘을 거부하고, 외부 영향력을 통해 콘텐츠를 큐레이션하는 방향으로 이동하고 있다고 발견했다. 외부 영향력, 또는 등대, 는 유사한 관심사를 공유하는 다른 개인이며, 이러한 개인은 종종 알고리즘보다 더 신뢰할 수 있다.

연구자들은 기업들이 소비자와 더 강한 관계를 구축하기 위해서는 알고리즘 피로를 극복하는 방법을 찾아야 한다고 말한다.

Olof Hoverfält는 Reaktor의 전략 및 비즈니스 디자인 담당 이사이다.

“AI를 재창조하는 것이 아니다. AI는 잘 작동한다”고 Hoverfält는 말한다. “그 위에 또 다른 계층을 만드는 것이 중요하다. 사용자와 알고리즘 사이에 더 빠르고 정교한 인간 상호작용을 허용하는 것이다. 사용자가 언제 참여하고 싶은지, 언제 수동적으로 안내받고 싶은지 결정할 수 있도록 하는 것이다.”

“우리는 이것이 또한 윤리적인 문제라고 생각한다. 사람들의 삶과 밀접하게 관련된 AI 시스템은 인간의 다변성과 창의성을 축하하고, 사용자를 알고리즘 의사 결정의积极적이고 창의적인 에이전트로 설립하는 방식으로 설계되어야 한다”고 Hantula는 말한다.

새로운 연구는 Alice Labs와 헬싱키 대학의 소비자 사회 연구 센터 간의 2년간의 협력의 일환이다. 이는 경제 교육 재단의 지원을 받았다.