マイケル・シュレイジ、著者「Recommendation Engines（MIT Press）」- インタビュー・シリーズ

マイケル・シュレイジは、MITスローン経営大学院のデジタルエコノミーイニシアティブの研究フェローです。イノベーション、メトリクス、ネットワーク効果の専門家として求められ、彼は「Who Do You Want Your Customers to Become?」、「The Innovator’s Hypothesis: How Cheap Experiments Are Worth More than Good Ideas」（MIT Press）などの著書があります。

このインタビューでは、彼の本「Recommendation Engines」について話し合います。この本では、オンラインのレコメンデーションエンジンの歴史、技術、ビジネス、社会への影響について探ります。

あなたを「レコメンデーションエンジン」という狭いテーマで本を書くことにしたきっかけは何ですか?

あなたの質問の言い方が、ゲームのルールを明らかにしています。当我が真剣にデジタルテクノロジーとタッチポイントを調べたとき、世界中の人々の生活に真正に影響を与えるものは、ほとんどの場合、「レコメンデーションエンジン」が意思決定を推進していることがわかりました。Spotifyのレコメンダーは、人々が聞く音楽や曲を決定します。TikTokのレコメンデーションエンジンは、人々が共有する「バイラルビデオ」を定義します。Netflix (NFLX ) のレコメンダーは、「ビングウォッチング」と「ビングウォッチャー」を促進するように設計されています。Google MapsとWazeは、最も良い、または最も速い、または最も簡単な方法で到達するためのレコメンデーションを提供します。TinderとMatch.comは、人々が一緒にいるべき相手をレコメンドします。Stitch Fix (SFIX ) は、人々が着るべき服をレコメンドします。Amazonは、人々が本当に購入するべきものをレコメンドします。AcademiaとResearchGateは、人々が最新の研究を知るべきことをレコメンドします。私は本でこれについてさらに詳しく書いていますが、技術的にも概念的にも、「レコメンデーションエンジン」は「狭い」ものではありません。彼らの目的と目標は、人間の欲求と意思決定の全範囲をカバーしています。

あなたの本の中にある引用文は次の通りです。「レコメンダーは、ただ購入するものについてだけではなく、誰になりたいかについても語りかけています」。企業や悪意のある行為者によってこれがどのように悪用される可能性がありますか?

レコメンデーションが悪用される可能性については、疑問の余地はありません。古典的な質問「Cui bono?」、「誰が利益を得るのか?」が適用されます。レコメンデーションは、真正に受け手の利益のために行われているのでしょうか、またはレコメンデーションを行う企業の利益のために行われているのでしょうか? 同僚、知人、または「友人」があなたを知っていて、あなたの最善の利益にならないアドバイスを提供することは容易です。同様に、データ駆動型のレコメンダーが、あなたの利益よりも「彼らの」利益を増やすために何かを購入することを提案することは、デジタル上で簡単です。ある意味で、私は悪用の可能性と現実について非常に心配しています。しかしその他の意味で、私は多くの人が、人やテクノロジーによって搾取されたり操作されたりしていることに気付くことができることを考えます。私を一度騙すことはあなたの恥、しかし私を二度、三度騙すことは私の恥です。レコメンデーションは、倫理的であることが賢いことであり、賢いことが倫理的であるという特殊なドメインの1つです。

ユーザーがただ見たいものだけを見せられ、正確性は無視されるエコーチェンバーは、社会的な問題ですか?

エリ・パリザーは、この現象と病理を「フィルターバブル」という用語で説明しました。私は彼の視点に大きく同意しています。実際、私は「確認バイアス」が性的欲求よりも多くの大人の人間の行動を駆り立てていると言うことができます。レコメンダーは、ノベルティ、多様性、関連性、偶然性のバランスを慎重に航行しなければなりません。なぜなら、確認は退屈で冗長である一方で、ノベルティや挑戦が多すぎると怒りや反発を招くからです。したがって、はい、確認の探求は、個人的な問題であり、社会的な問題でもあります。ただし、レコメンダーは、代替の視点や選択肢を人々の注意に引き付ける比較的無害な方法を提供します。ただし、私は、規制や法的レビューが、レコメンデーションの将来をますます定義することになるのではないかと疑問に思います。

フィルターバブルは現在、矛盾し、反対し、挑戦的である視点への露出を制限しています。過度のフィルタリングを阻止するための規制が必要ですか?

私は軽いタッチの規制監督を好みます。私が見る多くのプラットフォームは、「フェイクニュース」のラベル付けや品質管理を非常に悪くしています。私は、より革新的なメカニズムの探求を好みます。対立的な見方のためのスワイプ、ストーリーやビデオの理解を深めたり、偏見を無効にしたりするための埋め込みリンク。ただし、選択アーキテクチャが「阻止」または「検閲」または「防止」するのではなく、「阻止」または「作成」する「摩擦」を作成する必要があることを明確にします。人々と機械の両方にとって、これは非常に難しい問題です。特に、人間は多くの心理学者や社会科学者が信じるよりも予測不可能であるためです。現在、多くの「心の理論」と「代理店」があります。レコメンデーションやレコメンダーがよりパーソナライズされるにつれて、「ワンサイズフィットズオール」のアプローチは、挑戦的で時代遅れになるようになります。これは、私がこのドメインに興味を持つ理由の1つです。

ユーザーと社会は、特定のレコメンデーションがなぜ行われるのかについて説明を求めるべきですか?

はい、はい、はい。説明可能性だけではなく、可視性、透明性、解釈可能性もです。人々は、影響を受けるテクノロジーを理解する権利を持っているはずです。彼らは、説得や勧誘するために使用されるアルゴリズムを理解する能力を持っているはずです。これを、医療における「インフォームドコンセント」のアルゴリズム的対称と考えてください。患者は、医師がこの治療を選択した理由とその根拠を知る権利があります。実際、私は「インフォームドコンセント」が、医療とヘルスケアの未来とレコメンデーションエンジンの未来の良いテンプレートであると主張します。

レコメンデーションエンジンを使用して「人間の脳」を「ハック」することは可能ですか?

脳か、心か? 本当にそうです。電気的、化学的にニューロンや小脳を操作していますか? それとも、予測可能な行動を引き出すために、侵襲性の低い感覚刺激を使用していますか? 単刀直入に言えば、ある脳や心は、ある時点で「ハック」可能であると信じています。しかし、人々が「肉の人形」になって、レコメンデーションの曲に踊ることになるかと心配しています。私はありません。何人かは依存症になります。何人かは自主性や自己管理を失います。はい、人々は他人を搾取したいと考えることがあります。しかし、証拠の総量は、レコメンデーションの「兵器化」について心配する理由にはなりません。信頼の悪用について心配しています。

ジェイソン・L・ハーマンとジェイソン・L・ハーマンの研究論文に次の引用があります。「人間がレコメンデーションに置く信頼は、レコメンダーシステムの成功の鍵です」。あなたは、ソーシャルメディアがこの信頼を裏切ったと信じますか?

私はその引用に同意します。信頼は、確かに重要であると信じています。賢明で倫理的な人々は、信頼の重要性を真正に理解し、評価しています。チャーチルの勇気についてのコメントに謝辞を表して、信頼は、健康な人間のつながりや成長を可能にする美徳です。ただし、私は、ほとんどのソーシャルメディアプラットフォームが、信頼を基盤として構築されていないと主張します。TwitterやFacebookを見てください。彼らは、自己表現を促進し、拡大するように設計されています。自己表現の能力は、信頼を構築することとはまったく関係ありません。レコメンデーションではそうではありません。

あなたは、レコメンデーションエンジンの将来は、心を高めるための最も優れたレコメンデーションを特徴とするだろうと述べています。現在、どのレコメンデーションエンジンがそのようなシステムを開発していますか?

まだありません。私はそれを次の1兆ドルの市場と見ています。Amazon (AMZN ) 、Google、Alibaba、Tencentがそこに到達しようとしているのではないかと思います。しかし、誰かが私たちを驚かせる起業家的なイノベーターが現れるかもしれません。Spotifyがマインドフルネスとジャストインタイムのウィスパード「アドバイス」を組み込むことで、心を高めるブレークスルーとなる可能性があります。

レコメンデーションエンジンがユーザーに自分自身をよりよく理解するのを助ける方法をまとめるとどうなりますか?

レコメンデーションは、良い選択、時には偉大な選択についてです。どのような選択を受け入れるか? どのような選択を無視するか? どのような選択を拒否するか? その質問に答える勇気を持つことで、あなたは自分自身について、誰になりたいかについて、驚くべき洞察を得ることができます。私たちは、自分が選択するものであり、選択が私たちに与える影響は、信じられないほどの影響力と影響力を持っています。

あなたの本についてさらに共有したいことはありますか?

はい – 最初の分析と最終分析で、私の本は、助言の未来とあなたが「本当に」なりたい「自分」の未来についてです。それは、自分自身の未来についてです。私は、それが両方とも興奮することと重要な主題であると思います、あなたはどう思いますか?

あなたの時間を割いてくれてありがとう。

私たちの読者に、この本を強くお勧めします。現在、AmazonでKindleまたはペーパーバックで利用可能です。また、MIT Pressページでさらに注文オプションを確認できます。