Майкл Шрейдж, автор книги “Рекомендательные системы” (MIT Press) – Серия интервью

Майкл Шрейдж – исследователь в MIT Sloan School of Management’s Initiative on the Digital Economy. Как востребованный эксперт в области инноваций, метрик и сетевых эффектов, он является автором книг Кто вы хотите, чтобы стали ваши клиенты?, Гипотеза инноватора: Как дешевые эксперименты стоят больше, чем хорошие идеи (MIT Press) и других книг.

В этом интервью мы обсуждаем его книгу “Рекомендательные системы“, которая исследует историю, технологии, бизнес и социальное воздействие онлайн-рекомендательных систем.

Что вдохновило вас написать книгу на такую узкую тему, как “Рекомендательные системы”?

Формулировка вашего вопроса дает ответ….. Когда я серьезно посмотрел на цифровые технологии и точки соприкосновения, которые действительно влияют на жизнь людей во всем мире, я почти всегда находил “рекомендательную систему”, которая управляет решением. Рекомендации Spotify определяют музыку и песни, которые люди слышат; рекомендательные системы TikTok определяют “вирусные видео”, которые люди собирают и делятся; рекомендательные системы Netflix (NFLX ) спроектированы так, чтобы облегчить “бинг-观看” и “бинг-просмотр”; Google Maps и Waze рекомендуют лучшие и/или быстрые и/или простые способы добраться туда; Tinder и Match.com рекомендуют, с кем вам может понравиться быть или, знаете, “быть” с; Stitch Fix (SFIX ) рекомендует, что вам может понравиться носить, что делает вас “вами”; Amazon (AMZN ) будет рекомендовать, что вам действительно следует покупать; Academia и ResearchGate будут рекомендовать наиболее актуальные исследования, которые вам следует быть в курсе…. Я мог бы продолжать – и делаю это в книге – но как технически, так и концептуально, “Рекомендательные системы” являются антиподом “узкой” темы. Их цель и назначение охватывают весь спектр человеческого желания и решения.

Цитата в вашей книге гласит: “Рекомендации не только о том, что мы можем купить, но и о том, кем мы можем стать”. Как это может быть использовано предприятиями или злыми акторами?

Нет сомнений, что рекомендации могут быть использованы. “Классический” вопрос – Cui bono? – “Кто выигрывает?” – применяется. Предназначены ли рекомендации действительно для пользы получателя или для пользы сущности/предприятия, которое делает рекомендацию? Как и легко для коллеги, знакомого или “друга”, который знает вас, предложить совет, который на самом деле не в вашем интересе, так и легко для “данных” рекомендаций предложить вам купить что-то, что увеличивает их прибыль за счет вашей полезности или удовлетворения. На одном уровне я очень обеспокоен потенциалом – и реальностью – злоупотребления. С другой стороны, я думаю, что большинство людей быстро понимают, когда они эксплуатируются или манипулируются людьми или технологиями. Обманите меня один раз, стыдно вам; обманите меня дважды или трижды, стыдно мне. Рекомендация – это одна из тех особых областей, где умно быть этичным и этичным быть умным.

Являются ли эхо-камеры, где пользователям показывают только то, что они хотят видеть, независимо от точности, социальной проблемой?

Эли Паризер придумал отличную фразу “фильтр-пузырь”, чтобы описать это явление и патологию. Я в основном согласен с его точки зрения. На самом деле, я думаю, что теперь можно сказать, что “подтверждение предвзятости” – не секс – это то, что действительно движет большинством взрослых людей. Большинство людей ищут согласие большинства времени. Рекомендации должны пройти осторожный путь между новизной, разнообразием, актуальностью и неожиданностью, потому что – хотя слишком много подтверждения скучно и избыточно – слишком много новизны и вызова может раздражать и оскорблять. Итак, да, стремление к подтверждению является как личной, так и социальной проблемой. Однако я действительно задаюсь вопросом, будут ли регулирование и юридический обзор все чаще определять будущее рекомендаций.

Фильтр-пузыри в настоящее время ограничивают воздействие на противоречивые, противоречивые и/или сложные/точки зрения. Следует ли быть каким-то видом регулирования, которое бы препятствовало такому типу перефильтрации?

Я предпочитаю легкое регулирование, а не тяжелую руку. Большинство платформ, которые я вижу, делают плохую работу по маркировке “фейковых новостей” или установлению контроля качества. Мне бы хотелось увидеть больше инновационных механизмов: проведите влево для контрастного взгляда; встроите ссылки, которые подробно рассказывают о историях или видео, способах, которые углубляют понимание или деконтекстуализируют предвзятость, которая подтверждается. Но давайте будем ясны: архитектуры выбора, которые “отговаривают” или создают “трение”, требуют разных данных и дизайнерских чувств, чем те, которые “запрещают” или “цензурируют” или “предотвращают”. Я думаю, что это очень сложная проблема для людей и машин. То, что делает ее особенно сложной, заключается в том, что человеческие существа – на самом деле – менее предсказуемы, чем многие психологи и социальные ученые считают. Есть много конкурирующих “теорий разума” и “агентности” в эти дни. Чем более персонализированными и рекомендациями становятся, тем более сложной и анахронической становится “один размер подходит всем” подход. Это одна из многих причин, почему эта область меня интересует.

Должны ли конечные пользователи и общество требовать объяснимости того, почему делаются конкретные рекомендации?

Да, да и да. Не только “объяснимость”, но и “видимость”, “прозрачность” и “интерпретируемость”. Люди должны иметь право видеть и понимать технологии, которые влияют на них. Они должны быть в состоянии оценить алгоритмы, используемые для подталкивания и убеждения их. Подумайте об этом как об алгоритмическом аналоге “информированного согласия” в медицине. Пациенты имеют право получить – и врачи имеют обязанность предоставить – причины и обоснования для выбора “этого” курса действий вместо “того”. На самом деле, я утверждаю, что “информированное согласие” – и его будущее – в медицине и здравоохранении предлагает хорошую основу для будущего “информированного согласия” для рекомендательных систем.

Думаете ли вы, что возможно “взломать” человеческий мозг с помощью рекомендательных систем?

Мозг или разум? Не шучу. Материально – электрически и химически – мы взламываем нейроны и доли? Или мы используем менее инвазивные сенсорные стимулы, чтобы вызвать предсказуемое поведение? Брутально, я считаю, что некоторые мозги – и некоторые разумы – взломаемы некоторое время. Но думаю ли я, что люди обречены стать “мясными куклами”, которые танцуют под мелодию рекомендаций? Я не думаю. Посмотрите, некоторые люди становятся зависимыми. Некоторые люди теряют автономию и самоуправление. И, да, некоторые люди хотят эксплуатировать других. Но преобладающие доказательства не заставляют меня беспокоиться о “военизации рекомендаций”. Я больше обеспокоен злоупотреблением доверием.

Цитата в исследовательской работе Джейсона Л. Хармана и Джейсона Л. Хармана гласит: “Доверие, которое люди возлагают на рекомендации, является ключом к успеху систем рекомендаций”. Думаете ли вы, что социальные сети предали это доверие?

Я верю в эту цитату. Я верю, что доверие действительно является ключом. Я верю, что умные и этичные люди действительно понимают и ценят важность доверия. С извинениями перед комментарием Черчилля о смелости, доверие – это добродетель, которая позволяет здоровому человеческому соединению и росту. Однако я комфортно утверждаю, что большинство социальных медиа-платформ – да, Twitter и Facebook (META ), я смотрю на вас! – не построены вокруг или основаны на доверии. Они основаны на облегчении и масштабировании самовыражения. Способность выражать себя в масштабе буквально не имеет ничего общего с созданием или построением доверия. Там не было ничего, чтобы предать. С рекомендациями есть.

Вы заявляете, что будущее рекомендательных систем будет включать лучшие рекомендации для улучшения своего разума. Ваше мнение, работают ли какие-либо рекомендательные системы в настоящее время над такой системой?

Пока нет. Я вижу это как следующий триллионный рынок. Я думаю, что Amazon и Google и Alibaba и Tencent хотят добраться туда. Но, кто знает, может быть, есть предприниматель-инноватор, который удивит нас всех: может быть, Spotify, включающий осознанность и своевременные шепотом “советы”, может быть прорывом, улучшающим разум.

Как бы вы суммировали, как рекомендательные системы позволяют пользователям лучше понять себя?

Рекомендации – это о хороших выборах…. иногда, даже великих выборах. Какие выборы вы принимаете? Какие выборы вы игнорируете? Какие выборы вы отвергаете? Имея смелость задавать – и отвечать на – эти вопросы дает вам замечательную информацию о том, кто вы есть и кем вы можете стать. Мы – это выборы, которые мы делаем; все, что влияет на эти выборы, имеет замечательное влияние и влияние на нас.

Есть ли что-то еще, что вы хотели бы поделиться о своей книге?

Да – в первом и последнем анализе, моя книга о будущем совета и будущем того, кем вы “на самом деле” хотите стать. Это о будущем себя – вашего “себя”. Я думаю, что это и волнующая, и важная тема, не правда ли?

Спасибо за то, что нашли время, чтобы поделиться вашими взглядами.

Нашим читателям мы рекомендуем эту книгу, она в настоящее время доступна на Amazon в Kindle или бумажном формате. Вы также можете просмотреть больше вариантов заказа на странице MIT Press.