迈克尔·施拉格（Michael Schrage），《推荐引擎》（The MIT Press）作者 – 采访系列

迈克尔·施拉格是麻省理工学院斯隆管理学院数字经济倡议的研究员。他是创新、指标和网络效应的备受追捧的专家，他是《你希望你的客户成为什么样的人？》、《创新假设：廉价实验比好想法更有价值》（MIT Press）等书的作者。

在这次采访中，我们讨论了他的书《推荐引擎》，这本书探讨了在线推荐引擎的历史、技术、商业和社会影响。

是什么启发你写了一本关于“推荐引擎”这样一个狭窄话题的书?

你的问题的表述已经泄露了答案……当我认真地看待真正影响人们生活的数字技术和触点时，我几乎总是发现一个“推荐引擎”在驱动决策。Spotify的推荐器决定了人们听到的音乐和歌曲；TikTok的推荐引擎定义了人们一起制作和分享的“病毒视频”；Netflix的推荐器被设计为促进“狂看”和“狂看者”；Google Maps和Waze推荐最好和/或最快和/或最简单的方式到达那里；Tinder和Match.com推荐你可能喜欢的人或，你知道，“成为”；Stitch Fix推荐你可能想要穿的衣服，让你“成为”你；亚马逊会推荐你真正应该购买的东西；学术和研究门户会推荐你应该了解的最相关研究……我可以继续下去，并且在书中继续，但从技术和概念上讲，“推荐引擎”是“狭窄”的对立面。它们的重点和目的涵盖了整个人类欲望和决策范围。

你书中的一句名言是：“推荐器不仅仅是关于我们可能购买的东西，它们是关于我们可能想要成为什么样的人”。企业或不良行为者如何滥用这一点?

毫无疑问，推荐可以被滥用。经典的问题——谁受益？——适用。推荐是否真正旨在让接受者或做出推荐的实体/企业受益？就像一个认识你并能提供不一定符合你最佳利益的建议的同事、熟人或“朋友”一样，数字化的推荐器也可以轻松地建议你购买对他们有利但对你没有太大用处或满意度的东西。一方面，我对潜在的——和现实的——滥用非常担心。另一方面，我认为大多数人很快就会意识到他们是否被人或技术欺骗或操纵。愚弄我一次，羞辱你；愚弄我两次或三次，羞辱我。推荐是那些领域之一，在那里，明智地做到道德和道德地做到明智是很重要的。

回音室是否是一个社会问题，在那里用户只被呈现他们想要看到的内容，而不管其准确性如何?

埃利·帕里瑟（Eli Pariser）创造了一个很好的短语“过滤泡沫”（filter bubble），来描述这种现象和病理。我基本上同意他的观点。事实上，我认为现在可以说，“确认偏见”——而不是性——是驱动大多数成年人行为的东西。大多数人大多数时候都在寻找同意。推荐器必须在新颖性、多样性、相关性和偶然性之间走一条细线，因为——虽然太多的确认是枯燥和冗余的——太多的新颖性和挑战可能会引起烦恼和冒犯。所以，是的，寻求确认是一个个人和社会问题。话虽如此，我确实想知道是否会有更多的监管和法律审查来定义推荐的未来。

当前的过滤泡沫限制了人们接触到相互矛盾、相互冲突和具有挑战性的观点。是否应该有一些类型的法规来阻止这种过度过滤?

我更喜欢轻触式的监管监督，而不是重手的监督。我看到的大多数平台都做得很差，无法标记“假新闻”或建立质量控制。我希望看到更多创新机制的探索：向左滑动以获取相反的观点；嵌入链接，以便以加深理解或去除正在确认的“偏见”的方式阐述故事或视频。但是，让我们明确一点：选择架构需要不同于那些“禁止”或“审查”或“防止”的数据和设计敏感性。 我认为这是人类和机器都面临的一个非常难的问题。使其特别具有挑战性的原因是，人类——事实上——比许多心理学家和社会科学家认为的更不可预测。目前有很多相互竞争的“心灵理论”和“代理理论”。推荐和推荐器变得越来越个性化，“一刀切”的方法就变得越来越具有挑战性和过时。这是这个领域吸引我的许多原因之一。

最终用户和社会是否应该要求解释为什么会做出特定的推荐?

是的，是的和是的。不仅仅是“可解释性”，还需要“可见性”、“透明度”和“可解读性”。人们应该有权看到和理解影响他们的技术。他们应该能够欣赏用来影响他们的算法。把这想象成算法领域的医学“知情同意”的对应物。患者有权获得——医生有义务提供——选择“这个”行动方案而不是“那个”行动方案的理由和理由。事实上，我认为医学和医疗保健中的“知情同意”——及其未来——提供了一个良好的模板，用于推荐引擎的未来“知情同意”。

你是否相信有可能使用推荐引擎“黑客”人类大脑?

大脑还是心灵？我不是开玩笑的。我们是否在物质上——电气和化学上——黑客神经元和脑叶？或者我们是否使用较少的侵入性感官刺激来引发可预测的行为？坦率地说，我相信有些大脑——和有些心灵——有些时候是可以被黑客的。但是我是否相信人们注定要成为“肉傀儡”，跳着推荐的舞？我不这么认为。看，一些人确实会上瘾。有些人确实会失去自主权和自控力。是的，一些人确实想利用他人。但大多数证据并没有让我担心推荐的“武器化”。我更担心的是对信任的滥用。

一篇由杰森·L·哈曼（Jason L. Harman）和杰森·L·哈曼（Jason L. Harman）撰写的研究论文中有一句话说：“人类对推荐的信任是推荐系统成功的关键”。你是否认为社交媒体已经背叛了这种信任?

我相信这句话。我相信信任确实是关键。我相信聪明和道德的人真正理解并欣赏信任的重要性。借用丘吉尔关于勇气的评论，信任是使健康的人际联系和成长成为可能的美德。话虽如此，我很乐意认为，大多数社交媒体平台——是的，Twitter和Facebook，我正在看着你们！——并不是建立在或基于信任的。它们是为了促进和扩大自我表达而构建的。自我表达的能力与创建或建立信任没有任何关系。没有什么可背叛的。有了推荐，就有了。

你认为任何推荐引擎目前正在开发这样的系统，以提供最好的推荐来增强一个人的思维?

还没有。我认为这是下一个万亿美元的市场。我认为亚马逊、谷歌、阿里巴巴和腾讯都想达到那里。但是，谁知道，也许会有一个创业创新者让我们所有人感到惊讶：也许Spotify将融入正念和实时耳语“建议”，可能是增强思维的突破。

你如何总结推荐引擎如何使用户更好地了解自己?

推荐是关于好的选择……有时，甚至是伟大的选择。什么选择你接受？什么选择你忽略？什么选择你拒绝？有勇气问——并回答——这些问题会让你对自己和你可能想要成为什么样的人有着非凡的洞察力。我们是我们所做出的选择；影响这些选择的任何东西对我们都有着重大的影响和影响。

关于你的书，你还想分享什么吗?

是的——在第一和最后的分析中，我的书是关于建议的未来和你“真正”想成为什么样的人的未来。它是关于自我的未来——你的“自我”。我认为这是一个令人兴奋和重要的话题，不是吗？

感谢您抽出时间分享您的观点。

致我们的读者，我强烈推荐这本书，它目前在 Amazon 上有 Kindle 和平装本版本。您也可以在 MIT Press 页面上查看更多订购选项。