Майкл Шрейдж, автор книги “Рекомендательные системы” (The MIT Press) – Серия интервью

Майкл Шрейдж является исследователем в MIT Sloan School of Management’s Initiative on the Digital Economy. Как востребованный эксперт в области инноваций, метрик и сетевых эффектов, он является автором книг Кто вы хотите, чтобы ваши клиенты стали?, Гипотеза инноватора: Как дешевые эксперименты стоят больше, чем хорошие идеи (MIT Press) и других книг.

В этом интервью мы обсуждаем его книгу “Рекомендательные системы“, которая исследует историю, технологии, бизнес и социальное влияние онлайн-рекомендательных систем.

Что вдохновило вас написать книгу на такую узкую тему, как “Рекомендательные системы”?

Формулировка вашего вопроса дает ответ….. Когда я серьезно посмотрел на цифровые технологии и точек касания, которые действительно влияют на жизнь людей во всем мире, я почти всегда находил ‘рекомендательную систему’, которая управляет решением. Рекомендации Spotify определяют музыку и песни, которые люди слышат; рекомендательные системы TikTok определяют ‘вирусные видео’, которые люди собирают и делятся; рекомендательные системы Netflix спроектированы для облегчения ‘бинг-观看’ и ‘бинг-просмотра’; Google Maps и Waze рекомендуют лучшие и/или быстрые и/или простые способы добраться туда; Tinder и Match.com рекомендуют, с кем вы можете быть или, вы знаете, ‘быть’; Stitch Fix рекомендует, что вы можете надеть, чтобы стать ‘вами’; Amazon будет рекомендовать, что вы действительно должны купить; Academia и ResearchGate будут рекомендовать наиболее актуальные исследования, на которые вы должны быть в курсе…. Я мог бы продолжать – и делаю это в книге – но и технически, и концептуально ‘Рекомендательные системы’ являются противоположностью ‘узким’. Их цель и назначение охватывают весь спектр человеческого желания и решения.

Цитата в вашей книге гласит: “Рекомендации не только о том, что мы можем купить, но и о том, кем мы хотим стать”. Как это может быть использовано компаниями или злыми акторами?

Нет сомнения, что рекомендации могут быть использованы. Классический вопрос – Cui bono? – ‘Кто выигрывает?’ – применяется. Предназначены ли рекомендации действительно для пользы получателя или сущности/компании, которая делает рекомендацию? Как и легко для коллеги, знакомого или ‘друга’, который знает вас, предложить совет, который действительно не в вашем интересе, так же легко для ‘данных’ рекомендаций предложить вам купить что-то, что увеличивает их прибыль за счет вашей полезности или удовлетворения. На одном уровне я очень обеспокоен потенциалом – и реальностью – злоупотребления. С другой стороны, я думаю, что большинство людей быстро понимают, когда они эксплуатируются или манипулируются людьми или технологиями. Обмануть меня один раз, стыдно вам; обмануть меня дважды или трижды, стыдно мне. Рекомендация – одна из тех особых областей, где умно быть этичным и этично быть умным.

Это ли эхо-камеры, где пользователям показывают только то, что они хотят видеть, независимо от точности, социальной проблемой?

Эли Паризер придумал отличную фразу ‘фильтр-пузырь’, чтобы описать это явление и патологию. Я в основном согласен с его точки зрения. На самом деле я думаю, что теперь можно сказать, что ‘подтверждение предвзятости’ – не секс – это то, что действительно управляет большинством поведения взрослых людей. Большинство людей ищут согласие большинство времени. Рекомендации должны пройти осторожный курс между новизной, разнообразием, актуальностью и неожиданностью, потому что – хотя слишком много подтверждения скучно и повторяющееся – слишком много новизны и вызова может раздражать и оскорблять. Итак, да, стремление к подтверждению является и личной, и социальной проблемой. Однако я действительно задаюсь вопросом, будут ли регулирование и правовой обзор все больше определять будущее рекомендаций.

Фильтр-пузыри в настоящее время ограничивают доступ к противоречивым, противоречивым и/или сложным/точкам зрения. Следует ли быть некоторым видом регулирования, которое бы препятствовало такому типу перефильтрации?

Я предпочитаю легкое регулирование, чем тяжелую руку. Большинство платформ, которые я вижу, делают довольно плохую работу по маркировке ‘фейковых новостей’ или установлению контроля качества. Я бы хотел увидеть больше инновационных механизмов: проведите влево для контрастного взгляда; вставьте ссылки, которые подробно рассказывают о историях или видео, способах, которые углубляют понимание или деконтекстуализируют ‘предвзятость’, которая подтверждается. Но давайте будем ясны: архитектуры выбора, которые ‘отговаривают’ или создают ‘трение’, требуют разных данных и дизайнерских чувств, чем те, которые ‘запрещают’ или ‘цензурируют’ или ‘предотвращают’. Я думаю, что это очень сложная проблема для людей и машин. Что делает ее особенно сложной, так это то, что человеческие существа – на самом деле – менее предсказуемы, чем многие психологи и социальные ученые считают. Есть много конкурирующих ‘теорий разума’ и ‘агентности’ в последнее время. Чем более персонализированными становятся рекомендации и рекомендаторы, тем более сложными и анахроничными становятся ‘один размер подходит всем’ подходы. Это одна из многих причин, почему эта область меня интересует.

Должны ли конечные пользователи и общество требовать объяснимости того, почему делаются конкретные рекомендации?

Да, да и да. Не только ‘объяснимость’, но и ‘видимость’, ‘прозрачность’ и ‘интерпретируемость’ тоже. Люди должны иметь право видеть и понимать технологии, которые влияют на них. Они должны иметь возможность оценить алгоритмы, используемые для того, чтобы подтолкнуть и убедить их. Подумайте об этом как об алгоритмическом аналоге ‘информированного согласия’ в медицине. Пациенты имеют право получить – и врачи имеют обязанность предоставить – причины и обоснования для выбора ‘этого’ курса действий для ‘того’. На самом деле я утверждаю, что ‘информированное согласие’ – и его будущее – в медицине и здравоохранении предлагает хорошую основу для будущего ‘информированного согласия’ для рекомендательных систем.

Думаете ли вы, что возможно “взломать” человеческий мозг с помощью рекомендательных систем?

Мозг или разум? Не шучу. Материально – электрически и химически – взламываем ли мы нейроны и доли? Или мы используем менее инвазивные сенсорные стимулы, чтобы вызвать предсказуемые поведения? Прямо, я считаю, что некоторые мозги – и некоторые разумы – взламываемы некоторое время. Но считаю ли я, что люди обречены стать ‘мясными марионетками’, которые танцуют под мелодию рекомендаций? Я не считаю. Посмотрите, некоторые люди действительно становятся зависимыми. Некоторые люди действительно теряют автономию и самоуправление. И, да, некоторые люди действительно хотят эксплуатировать других. Но преобладающие доказательства не заставляют меня беспокоиться о ‘воинизации рекомендаций’. Я больше обеспокоен злоупотреблением доверием.

Цитата в исследовательской работе Джейсона Л. Хармана и Джейсона Л. Хармана гласит следующее: “Доверие, которое люди возлагают на рекомендации, является ключом к успеху систем рекомендаций”. Думаете ли вы, что социальные сети предали это доверие?

Я верю в эту цитату. Я верю, что доверие действительно является ключом. Я верю, что умные и этические люди действительно понимают и ценят важность доверия. С извинениями за комментарий Черчилля о смелости, доверие – это добродетель, которая позволяет здоровую человеческую связь и рост. Однако я готов утверждать, что большинство социальных платформ – да, Twitter и Facebook, я смотрю на вас! – не строятся вокруг или основаны на доверии. Они основаны на облегчении и масштабировании самовыражения. Способность выражать себя в масштабе буквально не имеет отношения к созданию или построению доверия. Не было ничего, чтобы предать. С рекомендациями есть.

Вы заявляете, что считаете, что будущее рекомендательных систем будет включать лучшие рекомендации для улучшения своего разума. Ваше мнение, работают ли какие-либо рекомендательные системы в настоящее время над такой системой?

Еще нет. Я вижу это как следующий триллионный рынок. Я думаю, что Amazon и Google и Alibaba и Tencent хотят добраться туда. Но, кто знает, может быть, есть предприниматель-инноватор, который удивит нас всех: может быть, Spotify, включающий осознанность и своевременные шепотом ‘советы’, может быть прорывом, который улучшает разум.

Как бы вы суммировали, как рекомендательные системы позволяют пользователям лучше понять себя?

Рекомендации – это о хороших выборах…. иногда даже великих выборах. Какие выборы вы принимаете? Какие выборы вы игнорируете? Какие выборы вы отвергаете? Имея смелость задать – и ответить – на эти вопросы, вы получаете замечательное понимание того, кто вы есть и кто вы можете стать. Мы – это выборы, которые мы делаем; все, что влияет на эти выборы, имеет замечательное влияние и влияние на нас.

Есть ли что-то еще, что вы хотели бы поделиться о своей книге?

Да – в первом и последнем анализе, моя книга о будущем совета и будущем того, кем вы ‘на самом деле’ хотите стать. Это о будущем ‘себя’ – вашего ‘себя’. Я думаю, что это и интересная, и важная тема, не правда ли?

Спасибо за то, что нашли время, чтобы поделиться своим мнением.

Нашим читателям я высоко рекомендую эту книгу, она в настоящее время доступна на Amazon в Kindle или бумажной версии. Вы также можете просмотреть больше вариантов заказа на странице MIT Press.