麥可·史雷吉，推薦引擎（麻省理工學院出版社）作者 – 專訪系列

麥可·史雷吉是麻省理工學院斯隆管理學院數字經濟倡議的研究員。作為創新、指標和網絡效應的專家，他是《你想讓你的客戶成為誰？》、《創新假說：廉價實驗比好想法更有價值》（麻省理工學院出版社）等書的作者。

在這次訪談中，我們討論了他的書《推薦引擎》，探討了在線推薦引擎的歷史、技術、商業和社會影響。

是什么啟發你寫了一本關於“推薦引擎”這樣一個狹窄主題的書？

你問題的框架洩露了真相……當我認真研究了真正影響人們生活的數字技術和觸點時，我幾乎總是發現有一個“推薦引擎”在驅動決策。Spotify的推薦器決定了人們聽到的音樂和歌曲；TikTok的推薦引擎定義了“病毒視頻”；Netflix的推薦器被設計用於促進“狂看”和“狂看者”；Google地圖和Waze推薦最好的和/或最快和/或最簡單的方式到達那裡；Tinder和Match.com推薦你可能喜歡的人；Stitch Fix推薦你可能想要穿的衣服；Amazon會推薦你真正應該買的東西；學術和研究門推薦最相關的研究……我可以繼續，但我在書中做到了——從技術和概念上講，“推薦引擎”是“狹窄”的對立面。它們的目的和意圖涵蓋了整個人類慾望和決策的範圍。

你書中的一句話是：“推薦器不僅關於我們可能買什麼，它們關於我們可能想成為誰”。企業或壞人如何濫用這一點？

毫無疑問，推薦可以被濫用。古典的問題——Cui bono？——“誰受益？”——適用。推薦是否真正旨在惠益接受者，還是惠益提出推薦的實體或企業？就像一個同事、熟人或“朋友”知道你，可以提供真正不符合你利益的建議一樣，數據驅動的推薦器也可以輕易地建議你買一些東西，以增加“他們”的利潤，而不是“你的”效用或滿意度。一方面，我對濫用的可能性和現實非常擔心。另一方面，我認為大多數人很快就會發現當他們被人或技術剝削或操縱時。愚弄我一次，羞恥你；愚弄我兩次或三次，羞恥我。推薦是那些需要以倫理和智慧對待的特殊領域。

回音室是否是一個社會問題，用户只被餵食他們想看到的東西，而不管其準確性如何？

埃利·帕里瑟創造了“過濾泡沫”這個短語來描述這種現象和病理。我基本上同意他的觀點。事實上，我認為“確認偏見”——而不是性——才是真正驅動大多數成年人行為的因素。大多數人大多數時候都在尋找確認。推薦器需要在新穎性、多樣性、相關性和偶然性之間走一條細線——因為太多的確認是枯燥和冗余的，而太多的新穎性和挑戰可能會惱怒和冒犯人。是的，對確認的追求既是個人問題，也是社會問題。然而，我確實想知道是否會有更多的監管和法律審查來定義推薦的未來。

過濾泡沫目前限制了對相互矛盾和具有挑戰性的觀點的曝露。是否應該有一些類型的監管來阻止這種過度過濾？

我更喜歡輕觸式的監管，而不是重手的監管。大多數我看到的平台做得很差，標記“假新聞”或建立質量控制。我希望看到更多創新的機制被探索：向左滑動以獲得相反的觀點；嵌入鏈接以擴展故事或視頻，從而加深理解或去除確認的偏見。我們必須明確：鼓勵或創造“摩擦”的選擇架構需要不同的數據和設計敏感性，而禁止或審查的選擇架構則不同。人們和機器都面臨著一個非常艱難的問題。使其特別艱難的是，人們的行為比很多心理學家和社會科學家所相信的要不可預測。有很多相互競爭的“心智理論”和“代理理論”。隨著推薦和推薦器越來越個性化，“一刀切”的方法就越來越具有挑戰性和過時性。這是我們關注這個領域的原因之一。

用戶和社會是否應該要求推薦引擎解釋為什麼會做出特定的推薦？

是的，是的和是的。不僅要有“可解釋性”，還要有“可見性”、“透明度”和“可解釋性”。人們應該有權看到和理解影響他們的技術。他們應該能夠欣賞用於影響他們的算法。把這當作醫學中的“知情同意”的算法對應物。病人有權獲得並醫生有義務提供選擇這種治療而不是那種治療的理由和理由。事實上，我認為醫學和醫療中的“知情同意”及其未來為推薦引擎的“知情同意”未來提供了很好的模板。

你是否相信可以使用推薦引擎“黑客”人腦？

大腦或心智？不是開玩笑。是我們在物質上——電氣和化學上——黑客神經元和腦葉，還是我們使用不太侵入性的感官刺激來引發可預測的行為？坦率地說，我相信有些大腦——和有些心智——在某些時候是可以被黑客的。但是我是否相信人們注定要成為“肉傀儡”，跳著推薦的舞？我不這樣認為。看，一些人確實會上癮。有些人確實會失去自主權和自控力。是的，確實有些人想剝削別人。但證據的主流並不使我擔心推薦的“武器化”。我更擔心的是對信任的濫用。

一篇研究論文中的一句話是：“人們對推薦的信任是推薦系統成功的關鍵”。你是否相信社交媒體背叛了這種信任？

我相信這句話。我相信信任確實是關鍵。聰明和道德的人真正理解和欣賞信任的重要性。對於丘吉爾關於勇氣的評論，我說信任是使健康的人際聯繫和成長成為可能的美德。然而，我很舒服地認為，大多數社交媒體平台——是的，Twitter和Facebook，我正在看你們！——並不是基於信任而建立的。它們是基於促進和擴大自我表達而建立的。自我表達的能力在規模上是沒有與信任建立和信任關係的。有了推薦，就有了信任。

你認為未來的推薦引擎將會提供最好的推薦以增強一個人的心智。你認為目前是否有任何推薦引擎正在開發這樣的系統？

還沒有。我把這看作是下一個萬億美元的市場。我認為Amazon、Google (GOOGL ) 、阿里巴巴和騰訊都想達到這個目標。但是，誰知道，也許會有一個創業的創新者會讓我們所有人都感到驚喜：也許Spotify會將正念和即時耳語“建議”整合起來，成為增強心智的突破。

你如何總結推薦引擎使用戶更好地了解自己的方式？

推薦是關於好的選擇……有時甚至是偉大的選擇。你接受哪些選擇？你忽略哪些選擇？你拒絕哪些選擇？勇敢地提問和回答這些問題會給你對你是誰和你可能想成為誰的非凡洞察力。我们是我们所做的选择；影響这些选择的東西對我們有着重大的影響和影響力。

您是否還有其他關於您的書的想法想要分享？

是的——在第一和最終分析中，我的書是關於建議的未來和你“真正”想成為誰的未來。它關於自我的未來——你的“自我”。我認為這是一個令人興奮和重要的主題，不是嗎？

感謝您抽出時間分享您的觀點。

向我們的讀者推薦這本書，它目前在 Amazon (AMZN ) 上有Kindle和紙質版。您也可以在 MIT Press 頁面上查看更多訂購選項。