Міхаель Шрейдж, автор книги “Рекомендаційні двигуни” (The MIT Press) – Серія інтерв’ю

Міхаель Шрейдж – дослідник у Центрі вивчення цифрової економіки MIT Sloan School of Management. Як відомий експерт з інновацій, метрик та мережевих ефектів, він є автором книг Хто ви хочете, щоб ваші клієнти стали?, Гіпотеза інноватора: Як дешеві експерименти варті більше, ніж хороші ідеї (MIT Press) та інших книг.

У цьому інтерв’ю ми обговорюємо його книгу “Рекомендаційні двигуни“, яка досліджує історію, технології, бізнес та соціальний вплив онлайн-рекомендаційних систем.

Що спонукало вас написати книгу на таку вузьку тему, як “Рекомендаційні двигуни”?

Формулювання вашого питання розкриває сутність справи….. Коли я серйозно розглянув цифрові технології та точки дотику, які справді впливають на життя людей у всьому світі, я майже завжди знаходив “рекомендаційний двигун”, який керував ухваленням рішень. Рекомендації Spotify визначають музику та пісні, які люди слухають; рекомендації TikTok визначають “вірусні відео”, які люди створюють і ділиться; рекомендації Netflix (NFLX ) спроектовані для полегшення “біндж-ватчингу” та “біндж-ватчерів”; Google Maps і Waze рекомендують найкращі та/або найшвидші та/або найпростіші способи дістатися туди; Tinder і Match.com рекомендують, з ким ви можете хотіти бути або, знаєте, “бути” з; Stitch Fix (SFIX ) рекомендують, що ви можете хотіти носити, щоб зробити вас “вами”; Amazon (AMZN ) рекомендують, що ви справді повинні купувати; Academia і ResearchGate рекомендують найбільш актуальні дослідження, яким ви повинні бути ознайомлені…. Я міг би продовжувати – і роблю це в книзі – але як технічно, так і концептуально, “Рекомендаційні двигуни” є антитезою “вузької” теми. Їхня мета та призначення охоплюють весь спектр людських бажань та рішень.

Цитата в вашій книзі така: “Рекомендації не тільки про те, що ми можемо купити, а й про те, ким ми можемо стати”. Як це можна використати проти підприємств або недоброзичливими акторами?

Немає жодного сумніву, що рекомендації можна зловживати. “Класична” класична питання – Cui bono? – “Хто виграє?” – застосовується. Чи справді рекомендації призначені для користі одержувача чи для підприємства/організації, яка робить рекомендацію? Так само, як легко колезі, знайомому або “друзеві”, який знає вас, дати пораду, яка насправді не відповідає вашим інтересам, так само легко “даних-орієнтованим” рекомендаціям пропонувати вам купити щось, що збільшує їхній прибуток за рахунок вашої корисності або задоволення. На одному рівні я дуже стурбований потенціалом – і реальністю – зловживання. З іншого боку, я думаю, що більшість людей досить швидко розуміють, коли їх експлуатують або маніпулюють люди або технологіями. Обмануть мене один раз, ганьба вам; обмануть мене двічі або тричі, ганьба мені. Рекомендація – одна з тих спеціальних областей, де розумно бути етичним і етичним бути розумним.

Чи є ехо-камери, де користувачам показують лише те, що вони хочуть бачити, незалежно від точності, соціальною проблемою?

Елі Парізер придумав чудове слово “фільтр-бульбашка”, щоб описати це явище та патологію. Я в основному погоджуюся з його точкою зору. Насправді я думаю, що тепер можна сказати, що “підтверджувальна упередженість” – не секс – це те, що справді керує більшою частиною поведінки дорослих людей. Більшість людей шукають згоду більшість часу. Рекомендації повинні пройти дбайливий курс між новизною, різноманітністю, актуальністю та серендипітністю, оскільки – хоча надто багато підтвердження є нудним і повторюваним – надто багато новизни та виклику може розлютити та обурити. Так, питання про підтвердження є як особистим, так і соціальним питанням. Однак я дійсно сумніваюся, чи буде майбутнє рекомендацій визначатися регулюванням та юридичним оглядом.

Чи повинні існувати деякі види регулювання, які забороняють такий тип надмірного фільтрування?

Я віддаю перевагу легкому регулюванню, ніж жорсткому. Більшість платформ, які я бачу, роблять досить погану роботу з маркування “фейкових новин” або встановлення контролю якості. Я хотів би побачити більше інноваційних механізмів: провести вліво для контроверсійного погляду; вбудувати посилання, які роз’яснюють історії або відео способами, які поглиблюють розуміння або деконтекстуалізують “упередженість”, яка підтверджується. Але давайте будемо чіткими: архітектури вибору, які “заохочують” або створюють “тертя”, вимагають різних даних та дизайнерських чутливостей, ніж ті, які “забороняють” або “цензурують” або “препиняють”. Я думаю, що це дуже складна проблема для людей і машин. Що робить її особливо складною, це те, що люди насправді менш передбачувані, ніж багато психологів та соціологів вважають. Є багато конкуруючих “теорій розуму” та “агентності” сьогодні. Чим більш персоналізовані рекомендації та рекомендаційні системи стають, тим більш складними та анахронічними стають підходи “один розмір підходить всім”. Це одна з багатьох причин, чому ця область мене цікавить.

Чи повинні кінцеві користувачі та суспільство вимагати пояснюваності щодо того, чому робляться конкретні рекомендації?

Так, так і так. Не тільки “пояснюваність”, а й “видимість”, “прозорість” та “інтерпретація” теж. Люди повинні мати право бачити та розуміти технології, які впливають на них. Вони повинні мати можливість оцінити алгоритми, які використовуються для підштовхування та переконання їх. Подумайте про це як алгоритмічний аналог “інформованої згоди” в медицині. Пацієнти мають право отримувати – і лікарі мають обов’язок надавати – причини та підстави для вибору “цього” курсу дії над “тим” іншим. Насправді я стверджую, що “інформована згода” – і її майбутнє – в медицині та охороні здоров’я пропонує хорошу модель для майбутнього “інформованої згоди” для рекомендаційних систем.

Чи можна “хакнути” людський мозок за допомогою рекомендаційних систем?

Мозок чи розум? Не жартую. Чи матеріально – електрично та хімічно – ми хакуємо нейрони та лоби? Чи ми використовуємо менш інвазивні сенсорні стимули, щоб викликати передбачувану поведінку? Прямо кажучи, я вірю, що деякі мозки – і деякі розуми – хакабельні деякий час. Але чи я вірю, що люди призначені стати “м’ясними ляльками”, які танцюють під мелодію рекомендацій? Я не вірю. Подивіться, деякі люди стають залежними. Деякі люди втрачають автономію та само-контроль. І, так, деякі люди хочуть експлуатувати інших. Але переважна більшість доказів не робить мене стурбованим щодо “зброїзації рекомендацій”. Я більше стурбований зловживанням довірою.

Цитата в дослідницькій роботі Джейсона Л. Гармана та Джейсона Л. Гармана говорить про наступне: “Довіра, яку люди покладають на рекомендації, є ключем до успіху рекомендаційних систем”. Чи вважаєте ви, що соціальні медіа зрадили цю довіру?

Я вірю в цю цитату. Я вірю, що довіра дійсно є ключем. Я вірю, що розумні та етичні люди真正 розуміють і цінують важливість довіри. З вибаченнями до коментаря Черчилля про мужність, довіра є чеснотою, яка дозволяє здорову людську зв’язок та зростання. Однак я комфортно стверджую, що більшість соціальних медіа-платформ – так, Twitter і Facebook (META ), я на вас дивлюся! – не будуються навколо або засновані на довірі. Вони засновані на полегшенні та масштабуванні само-вияву. Спроможність виразити себе в масштабі буквально нічого не має спільного з створенням або побудовою довіри. Не було нічого, щоб зрадити. З рекомендаціями є.

Ви висловлюєте свою віру в те, що майбутнє рекомендаційних систем буде включати найкращі рекомендації для покращення розуму. Чи працюють будь-які рекомендаційні системи зараз над такою системою?

Ще ні. Я бачу це як наступний трильйонний ринок. Я думаю, що Amazon, Google, Alibaba та Tencent хочуть потрапити туди. Але, хто знає, може бути підприємницький інноватор, який удивить нас усіх: можливо, Spotify, який включає освідомленість та своєчасні прошептані “поради”, може бути проривом, який покращує розум.

Як ви підсумуєте, як рекомендаційні системи дозволяють користувачам краще зрозуміти себе?

Рекомендації – про хороші вибори…. іноді навіть великі вибори. Які вибори ви приймаєте? Які вибори ви ігноруєте? Які вибори ви відхиляєте? Мужність запитати – і відповісти – на ці питання дає вам видатне розуміння того, ким ви є і ким ви можете стати. Ми – це вибори, які ми робимо; все, що впливає на ці вибори, має видатний вплив і вплив на нас.

Чи є щось ще, що ви хотіли б поділитися про свою книгу?

Так – у першому та останньому аналізі моя книга про майбутнє порад і майбутнє того, ким ви “справді” хочете стати. Це про майбутнє себе – вашого “себе”. Я думаю, що це як цікавна, так і важлива тема, не правда?

Дякую за те, що знайшли час, щоб поділитися своїми поглядами.

Нашим читачам ми високо рекомендуємо цю книгу, вона зараз доступна на Amazon у форматі Kindle або у паперовому вигляді. Ви також можете переглянути більше варіантів замовлення на сторінці MIT Press.