마이클 슈레이지, 추천 엔진 저자 (MIT Press) – 인터뷰 시리즈

마이클 슈레이지는 MIT 슬론 경영 대학원 디지털 경제 이니셔티브의 연구 펠로우입니다. 혁신, 메트릭스, 네트워크 효과에 대한 전문가로, 그는 고객이 되고 싶은 사람이 누구인가?, 혁신가의 가설: 싼 실험은 좋은 아이디어보다 가치가 있다(MIT Press) 등의 책을 저술했습니다.

이 인터뷰에서 우리는 그의 책 “추천 엔진“에 대해 논의합니다. 이 책은 온라인 추천 엔진의 역사, 기술, 비즈니스, 사회적 영향을探索합니다.

왜 그렇게 狭い 주제인 “추천 엔진”에 대한 책을 쓰게 되셨나요?

질문의 프레이밍이 게임을 알려줍니다….. 디지털 기술과 터치포인트를 심각하게 살펴보았을 때, 사람들의 삶에真正으로 영향을 미치는 것을 거의 항상 ‘추천 엔진’이 구동하는 것을 발견했습니다. Spotify의 추천자는 사람들이 듣는 음악과 노래를 결정합니다. TikTok의 추천 엔진은 사람들이 함께 만들고 공유하는 ‘바이럴 비디오’를 정의합니다. Netflix의 추천자는 ‘방구석 시청’과 ‘방구석 시청자’를 촉진하기 위해 설계되었습니다. Google Maps와 Waze는 가장 좋은 방법이나 가장 빠른 방법 또는 가장 간단한 방법을 추천합니다. Tinder와 Match.com은 당신이 함께하고 싶은 사람을 추천합니다. Stitch Fix는 당신이穿고 싶은 것을 추천합니다. Amazon은 당신이真正로 खरीद을 해야 할 것을 추천합니다. Academia와 ResearchGate는 당신이 최신 연구를해야 할 것을 추천합니다…. 계속할 수 있지만, 책에서 그렇게 합니다. 기술적으로도 개념적으로도 ‘추천 엔진’은 ‘狭い’의 반대입니다. 그들의 목적과 목적은 인간의 욕망과 결정의 모든 범위를 다룹니다.

책에 다음과 같은 인용문이 있습니다. “추천자는 우리가 무엇을 살 수 있을지에 대해 이야기하는 것이 아니라, 누구가 되고 싶은지에 대해 이야기하는 것입니다.” 어떻게 기업이나 악의적인 행위자가 이것을 악용할 수 있을까요?

추천이 악용될 수 있다는 것은 의심의 여지가 없습니다. ‘클래식’적인 질문 – Cui bono? – ‘누가 혜택을 받나요?’ – 적용됩니다. 추천은真正로 수신자에게 혜택을 주기 위한 것인지, 아니면 추천을하는 엔티티/기업에게 혜택을 주기 위한 것인지 묻는 것입니다. 정녕, 한 사람에게 조언을 줄 수 있는 동료, 지인 또는 ‘친구’가 당신을 위해真正로 좋은 조언을 주지 않는 경우, ‘데이터 주도’ 추천자가 당신에게 당신의 이익을 희생하여 ‘그들의’ 이익을 증가시키는 것을 추천하는 것은 디지털 스냅입니다. 한 레벨에서,私は 잠재적 인 – 그리고 실제적인 – 악용에 대해 매우 우려합니다. 다른 한 편으로,私は 대부분의 사람들이 빠르게 알아차릴 수 있다는 것을 생각합니다. 속임을 당한 경우, 나를 속인 사람에게 책임이 있습니다. 추천은 지능적이고 지능적으로 행동하는 특별한 도메인 중 하나입니다.

사용자가 정확성과는 상관없이 자신이 보고 싶은 것을 보여주는 에코 챔버는 사회적 문제입니까?

Eli Pariser는 이 현상을 설명하기 위해 ‘필터 버블’이라는 우수한 용어를 만들었습니다.私は 그의 관점에 동의합니다. 사실,私は 이제 ‘확인 편향’이 성인 인간 행동을 주도하는 것이 성이라고 말할 수 있습니다. 대부분의 사람들은 대부분의 시간에 동의를 찾고 있습니다. 추천자는 신선함, 다양성, 관련성, 그리고 우연성을 조심스럽게 탐색해야 합니다. 너무 많은 확인은 지루하고 반복적입니다. 너무 많은 신선함과 도전은 짜증나고冒犯적입니다. 그렇습니다, 확인의 추구는 개인적이고 사회적인 문제입니다. 그러나, 추천자는 상대적으로 불쾌하지 않은 방법으로 대안적인 관점과 선택지를 사람들의 주의를 끌 수 있습니다. 그러나,私は 정말로 규제와 법적 검토가 추천의 미래를 정의할지 궁금합니다.

현재 필터 버블은 충돌, 모순, 도전적인 관점에 대한 노출을 제한하고 있습니다. 이러한 과도한 필터링을 방지하기 위한 규제가 있어야 합니까?

私は 가벼운 触覚을 선호합니다. 대부분의 플랫폼은 ‘가짜 뉴스’를 레이블링하거나 품질 관리를 설정하는 것을 잘하지 못합니다.私は 더 혁신적인 메커니즘을 탐색하고 싶습니다. 반대 의견을 위해 왼쪽으로 스와이프; 스토리 또는 비디오를 더 깊이 이해하거나 편향을 확인하는 링크를 포함합니다. 그러나, 규제와 법적 검토는 필터링을 ‘방지’하거나 ‘금지’하거나 ‘방지’하는 것보다 ‘억제’하거나 ‘마찰’을 만드는 것을 요구합니다.私は 이것이 사람과 기계 모두에게 매우 어려운 문제라고 생각합니다. 인간은 실제로 많은 심리학자와 사회 과학자가 믿는 것보다 예측할 수 없습니다. 많은 경쟁적인 ‘마음의 이론’과 ‘대행’이 있습니다. 추천과 추천자가 더 개인화되면, ‘하나의 크기가 모두에게 맞습니다’라는 접근법은 더 어려워지고 더 구식이 됩니다. 이것은 내가 이 도메인을 interess하는 많은 이유 중 하나입니다.

최종 사용자와 사회는 추천이 왜 특정 추천을 하는지에 대한 설명을 요구해야 합니까?

예, 예, 그리고 예. ‘설명 가능성’만이 아니라 ‘가시성’, ‘투명성’, ‘해석 가능성’도입니다. 사람들은 자신을 影響하는 기술을 볼 수 있고 이해할 수 있는 권리를 가지고 있습니다. 그들은 자신을 설득하고 影響하는 알고리즘을 감상할 수 있어야 합니다. 이것을 의학에서 ‘知識있는 동의’의 알고리즘적 대응이라고 생각합니다. 환자는 이유와 논리를 이해할 권리를 가지고 있습니다. 의사는 이유와 논리를 제공할 의무를 가지고 있습니다. 실제로,私は ‘知識있는 동의’와 그 미래가 의학과 건강 관리에서 추천 엔진의 미래를 위한 좋은 템플릿을 제공한다고 주장합니다.

추천 엔진을 사용하여 인간의 뇌를 ‘해킹’할 수 있다고 생각합니까?

뇌 또는 마음? 농담이 아닙니다. 우리는 물질적으로 – 전기적으로 그리고 화학적으로 – 뉴런과 뇌를 해킹하고 있습니까? 아니면 우리는 예측 가능한 행동을 유발하기 위해 менее 침습적인 감각 자극을 사용하고 있습니까? 솔직히,私は 일부 뇌 – 그리고 일부 마음 – 는 해킹할 수 있다고 믿습니다. 그러나 사람들이 ‘고기 인형’이 되어 추천의 음악에 따라 춤을 추게 될까봐 걱정하지는 않습니다. 일부 사람들은 중독되거나 자율성과 자기 통제를 잃습니다. 그리고, 예, 일부 사람들은 다른 사람을 이용하려고 합니다. 그러나 증거의 대부분은 추천의 ‘무기화’에 대해 걱정하지 않습니다.私は 신뢰의 남용에 대해 더 걱정합니다.

Jason L. Harman과 Jason L. Harman의 연구 논문에 다음과 같은 인용문이 있습니다. “추천에 대한 인간의 신뢰는 추천 시스템의 성공을 위한 핵심입니다.” 사회 미디어가 이 신뢰를 배신한 것으로 생각합니까?

私は 그 인용문에 동의합니다.私は 신뢰가真正로 핵심이라고 믿습니다.私は 지능적이고 윤리적인 사람들이真正로 신뢰의 중요성을 이해하고 감상한다고 믿습니다. 처칠의 용기に関する 코멘트에 대한 사과와 함께, 신뢰는 건강한 인간 연결과 성장을 가능하게 하는 덕목입니다. 그러나,私は 대부분의 소셜 미디어 플랫폼 – 예, Twitter와 Facebook, 당신들을 보고 있습니다! – 이 신뢰를 기반으로 또는 중심으로 구축되지 않았다고 주장합니다. 그들은 자기 표현을 촉진하고 확대하는 것을 기반으로 합니다. 자기 표현을 확대하는 능력은 실제로 신뢰를 생성하거나 구축하는 것과 아무 관련이 없습니다. 추천과는 달리, 여기에는 배신할 것이 없습니다.

추천 엔진의 미래는 인간의 마음을 향상시키는 최선의 추천을 특징으로 할 것이라고 믿습니다. 현재 이러한 시스템을 개발 중인 추천 엔진이 있습니까?

아직 없습니다.私は 이것이 다음의 1조 달러 시장이라고 생각합니다. Amazon, Google, Alibaba, Tencent가そこ에 도달하고 싶어한다고 생각합니다. 그러나,誰か 예상치 못한 혁신적인 기업가가 우리 모두를 удив일 수 있습니다. 예를 들어, 마음가짐과 justo-in-time 속삭임 ‘조언’을 통합한 Spotify가 마음을 향상시키는 돌파구가 될 수 있습니다.

추천 엔진이 사용자를 통해 자신을 더 잘 이해할 수 있도록 어떻게 도와줍니까?

추천은 좋은 선택에 관한 것입니다…. 때때로, 훌륭한 선택입니다. 당신이 받아들이는 선택은 무엇입니까? 당신이 무시하는 선택은 무엇입니까? 당신이 거부하는 선택은 무엇입니까? 이러한 질문을 묻고 대답하는 것은 당신이 누구인지 그리고 누구가 되고 싶은지에 대한 놀라운 통찰력을 제공합니다. 우리는 우리가하는 선택입니다. 우리의 선택에 영향을 미치는 것은 우리에게 놀라운 영향을 미칩니다.

책에 대해 더 공유하고 싶은 것이 있습니까?

예, 첫 번째와 마지막 분석에서,私の 책은 조언의 미래와 당신이真正로 되고 싶은 사람의 미래에 관한 것입니다. 그것은 당신의 ‘자신’의 미래에 관한 것입니다.私は 이것이 흥미롭고 중요한 주제라고 생각합니다. 그렇지 않나요?

시간을 내서 의견을 공유해 주셔서 감사합니다.

읽는 분들에게,私は 이 책을 강력히 추천합니다. 현재 Amazon에서 Kindle 또는 페이퍼백으로 이용할 수 있습니다. 더 많은 주문 옵션은 MIT Press 페이지에서 확인할 수 있습니다.