マイケル・シュラーゲ、推薦エンジン（MIT Press）の著者 – インタビュー・シリーズ

マイケル・シュラーゲは、MITスローン経営大学院のデジタル経済イニシアティブの研究フェローです。イノベーション、メトリクス、ネットワーク効果の専門家として高く評価されており、《顧客が何になりたいのか》、《イノベーターの仮説: 安い実験は良いアイデアよりも価値がある》（MIT Press）などの本の著者です。

このインタビューでは、彼の本「推薦エンジン」について話し合います。この本では、オンライン推薦エンジンの歴史、技術、ビジネス、社会への影響について探究しています。

あなたが「推薦エンジン」という狭いテーマの本を書くことをどうやって思いついたのですか？

あなたの質問の構成は、ゲームの勝ち負けを決定しています…。私は、世界中の人々の生活に真正に影響を与えるデジタル技術やタッチポイントを深く調べたとき、ほとんどの場合、「推薦エンジン」が決定を牽引していることがわかりました。Spotifyのレコメンダーは、人々が聞く音楽や曲を決定します。TikTokの推薦エンジンは、人々が作成して共有する「バイラルビデオ」を定義します。Netflixのレコメンダーは、「ビンジウォッチング」と「ビンジウォッチャー」を促進するように設計されています。Google MapsとWazeは、到達するための最良の、または最も速い、または最も簡単な方法を推奨します。TinderとMatch.comは、あなたが一緒にいて、あなたが「一緒にいて」いるかもしれない人を推奨します。Stitch Fixは、あなたが着て「自分自身」を表現するものを推奨します。Amazonは、あなたが本当に購入するべきものを推奨します。アカデミアやResearchGateは、あなたが最新の研究について知るべきことを推奨します…。私は本でさらに続けていますが、技術的にも概念的にも、「推薦エンジン」は「狭い」ということの反対です。その目的と目的は、人間の欲求と決定の全範囲をカバーしています。

あなたの本の中にある引用は次のとおりです: 「レコメンダーは、購入するものについてだけではなく、誰になりたいかについても語りかけています」。 企業や悪意のある行為者によってこれがどのように悪用される可能性がありますか？

推薦が悪用される可能性については、疑問や疑念はありません。古典的な質問 – Cui bono? – 「誰が利益を得るのか?」 – が適用されます。推薦は、真正に受取人に利益をもたらすことを目的としているのでしょうか、または、推薦を行う企業/団体に利益をもたらすことを目的としているのでしょうか？ 同僚、知人、または「友人」があなたを知っていて、あなたのために最善のことを願っていても、あなたの最善の利益にならないアドバイスを提供することは容易です。同様に、「データ駆動型」のレコメンダーが、あなたの利益や満足度よりも「彼らの」利益を増やすものを購入することを提案することは、デジタル上で簡単です。一方では、悪用の可能性と現実について非常に心配しています。他方では、ほとんどの人が、人や技術によって利用されたり操作されたりしていることに気付くのは比較的簡単であると思います。私を騙すことは一度だけ、もう一度、私を騙すことは私自身の恥です。推薦は、倫理的であると同時に賢いことです。

ユーザーが見たいものだけを見せられ、正確さに関係なく、エコーチェンバーは社会的な問題ですか？

エリ・パリザーは、この現象と病理を説明するために、「フィルターバブル」という優れたフレーズを生み出しました。彼の視点に大きく同意しています。実際、現在、確認バイアス – 性別ではなく – がほとんどの成人人間の行動を駆り立てていると言えるでしょう。ほとんどの人は、同意を求めているのです。レコメンダーは、新規性、多様性、関連性、偶然性の間の慎重なコースをナビゲートする必要があります。なぜなら、確認が多すぎると退屈で冗長になる一方で、多すぎる新規性や挑戦は怒りや憤りを引き起こす可能性があるからです。したがって、はい、確認の探求は、個人的な問題であり、社会的な問題でもあります。しかし、レコメンダーは、代替の視点や選択肢を人々の注意に引き付ける比較的うるさくない方法を提供します。ただし、私は、規制や法的審査が、推薦の将来をますます定義することになるかどうか疑問に思います。

現在、フィルターバブルは、矛盾し、反対し、または挑戦的な視点への露出を制限しています。過度のフィルタリングを阻止するような規制がなければなりませんか？

私は、軽いタッチの規制監督を好みます。私が見る多くのプラットフォームは、「フェイクニュース」のラベル付けや品質管理をとても悪くしています。私は、より革新的なメカニズムの探索を望みます。反対の見解のためのスワイプ左、ストーリーやビデオをより深く理解したり、偏見を除去したりする方法でリンクを埋め込みます。しかし、明確に規制が「阻止」または「検閲」または「防止」するものではなく、「阻止」または「阻害」する選択肢のアーキテクチャが必要であることを認識してください。人間は、多くの心理学者や社会科学者が信じているよりも、予測不可能です。現在、多くの「心の理論」と「代理店」があります。推薦とレコメンダーがよりパーソナライズされるにつれて、「ワンサイズフィットオール」のアプローチは、より挑戦的で時代遅れになります。これが、このドメインに興味を持つ理由の1つです。

エンドユーザーと社会は、特定の推薦がなぜ行われるのかについて説明責任を求めるべきですか？

はい、はい、はい。説明責任だけではなく、視認性、透明性、解釈可能性もです。人々は、自分に影響を与える技術を見て理解する権利を持っているはずです。彼らは、自分を促し、説得するために使用されるアルゴリズムを理解する能力を持っているはずです。これは、医療における「インフォームドコンセント」のアルゴリズム的対応物と考えることができます。患者は、医師が「これ」と「それ」の行動を選択する理由と根拠を知る権利を持っています。実際、私は医療とヘルスケアにおける「インフォームドコンセント」の未来が、推薦エンジンの「インフォームドコンセント」の未来の良いテンプレートであると主張します。

推薦エンジンを使用して「人間の脳」を「ハック」することは可能ですか？

脳か、心か？ 本当にそうです。 神経や脳のローブを物質的に – 電気的に、化学的に – ハッキングしていますか？ それとも、予測可能な行動を引き出すために、侵襲性の低い感覚刺激を使用していますか？ 単純に言って、脳 – または心 – のいくつかは、時々ハッキング可能であると信じています。しかし、人々が「肉の人形」になって、推薦の曲に踊ることになるのでしょうか？ 私はそうは思いません。何人かは依存症になります。何人かは自主性や自己管理を失います。何人かは他人を搾取したいと思います。しかし、証拠の多数は、私を「推薦の兵器化」について心配させません。私は、信頼の悪用について心配しています。

ジェイソン・L・ハーマンとジェイソン・L・ハーマンの研究論文の引用は次のとおりです: 「人間が推薦に置く信頼は、レコメンダーシステムの成功の鍵です」。 社交メディアは、その信頼を裏切ったと思いますか？

私はその引用を信じています。私は、信頼が、実際に、重要であると信じています。賢い人々や倫理的な人々は、信頼の重要性を真正に理解し、感謝しています。ただし、私は、ほとんどのソーシャルメディアプラットフォーム – はい、TwitterやFacebook、私を見ている！ – が、信頼を基盤として構築されたり、信頼を基盤としているわけではありません。彼らは、自己表現を促進し、拡大するように設計されています。自己表現を拡大する能力は、信頼を作ったり、構築したりすることとは、文字通りに何の関係もないのです。裏切るものはありませんでした。推薦ではあります。

あなたは、推薦エンジンの将来が、心を高めるための最高の推薦を特集することになると信じています。 そのようなシステムを現在開発中の推薦エンジンはありますか？

まだありません。私は、それが次の1兆ドルの市場になると考えています。Amazon、Google、Alibaba、Tencentがそこに到達したいと思っているのではないかと思います。しかし、誰かが私たちを驚かせますか？ たとえば、Spotifyがマインドフルネスや、タイムリーなささやった「アドバイス」を組み込むことで、心を高めるブレークスルーとなる可能性があります。

推薦エンジンがユーザーに自分自身をよりよく理解させる方法を要約してください。

推薦は、良い選択についてです… 時々、すばらしい選択です。どのような選択を受け入れるのですか？ どのような選択を無視するのですか？ どのような選択を拒否するのですか？ そのような質問を聞いて答える勇気を持つことは、誰であるか、誰になりたいかについて、驚くべき洞察を与えてくれます。私たちは、選択によって定義されます。選択に影響を与えるものは、私たちに大きな影響と影響力を持っています。

あなたの本についてさらに共有したいことはありますか？

はい – 最初の分析と最終的な分析において、私の本は、助言の未来と、あなたが「真正に」なりたい自分についてです。自分自身の未来についてです。私は、それが、興奮することと重要な主題であると思います。

あなたの時間を割いてくれてありがとう。

私たちの読者に、この本を強くお勧めします。現在、AmazonでKindleまたはペーパーバックで利用できます。さらに、MIT Pressのページで他の注文オプションを確認できます。