مايكل شراج، مؤلف محركات التوصية (دار MIT الصحافة) – سلسلة المقابلات

مايكل شراج هو باحث زائر في مدرسة MIT Sloan للإدارة في مبادرة الاقتصاد الرقمي. وهو خبير مطلوب في مجال الابتكار والأدلة وتأثيرات الشبكة، وهو مؤلف كتاب من تريد أن يصبح عملاؤك؟ و فرضية المبتكر: كيف تجارب رخيصة تساوي أكثر من أفكار جيدة (دار MIT الصحافة) وغيرها من الكتب.

في هذا المقابلة نناقش كتابه “محركات التوصية” الذي يبحث في تاريخ وتكنولوجيا وأعمال وتأثير محركات التوصية عبر الإنترنت.

ما هو ما ألهمك لكتابة كتاب حول موضوع ضيق مثل “محركات التوصية”؟

توجيه سؤالك يفضح اللعبة….. عندما نظرت بجدية إلى التكنولوجيا الرقمية والنقاط التي تؤثر حقًا على حياة الناس في جميع أنحاء العالم، وجدت دائمًا “محرك توصية” يقود القرار. يحدد محركات التوصية لسبوتيفاي الموسيقى والأغاني التي يستمع إليها الناس؛ تحدد محركات التوصية لتيك توك مقاطع الفيديو “الفيروسية” التي يجمعها الناس ويشاركونها؛ تم تصميم محركات التوصية لنتفليكس لتسهيل مشاهدة البينج ومتفرج البينج؛ توصي جوجل مابز ووايز بأفضل الطرق وأسرع الطرق وأبسط الطرق للوصول إلى هناك؛ توصي تندر وماتش.كوم بمن قد ترغب في أن تكون معه أو، كما تعرف، “أن تكون معه”؛ توصي ستيتش فيكس بما قد ترغب في ارتدائه لجعل نفسك “أنت”؛ توصي أمازون بما يجب أن تشتريه حقًا؛ ستوصي الأكاديمية وريسرتش جيت بآخر الأبحاث التي يجب أن تكون على دراية بها…. يمكنني أن أستمر – وأفعل ذلك في الكتاب – ولكن من الناحية الفنية والمفهومية، “محركات التوصية” هي العكس من “الضيق”. غرضها وغايتها تغطي toàn مدى الرغبة البشرية والقرار.

هناك اقتباس في كتابك كما يلي: “محركات التوصية ليست فقط حول ما قد نشتريه، إنما حول من قد نريد أن نصبح”. كيف يمكن أن يسيء استخدام هذا من قبل الشركات أو الجهات الفاعلة السيئة؟

لا يوجد شك أو شبهة في أن التوصية يمكن أن تسيء استخدامها. السؤال “الكلاسيكي” الكلاسيكي – كوي بونو؟ – “من المستفيد؟” – ينطبق. هل التوصيات حقًا تهدف إلى منفعة المستلم أو الكيان / الشركة التي تقدم التوصية؟ تمامًا كما من السهل لزميل أو معرف أو “صديق” يعرفك أن يقدم نصيحة ليست في مصلحتك حقًا، من السهل ل “محركات التوصية القائمة على البيانات” أن تقترح عليك شراء شيء يزيد من ربحهم على حساب فائدة أو رضاك. على مستوى ما، أنا قلق جدًا من إمكانية – وحقيقة – الإساءة. ومن جهة أخرى، أعتقد أن معظم الناس يدركون بسرعة عندما يتم استغلالهم أو التلاعب بهم من قبل الأشخاص أو التكنولوجيا. أضلني مرة واحدة، عار عليك؛ أضلني مرتين أو ثلاث مرات، عار علي. التوصية هي واحدة من تلك المجالات الخاصة التي من الحكمة أن تكون أخلاقيًا ومن الأخلاق أن تكون ذكيًا.

هل الغرف الصوتية حيث يتم تغذية المستخدمين بما يريدون رؤيته بغض النظر عن الدقة هي قضية اجتماعية؟

صاغ إيلي باريسر عبارة رائعة “فقاعة المرشح” لوصف هذه الظاهرة والمرض. أ同意 إلى حد كبير مع وجهة نظره. في الحقيقة، أعتقد الآن أنه من العدل القول إن “تحيز التأكيد” – وليس الجنس – هو ما يدفع سلوك البالغين في معظم الأحيان. يبحث معظم الناس عن الموافقة معظم الوقت. يجب على محركات التوصية أن تتنقل بحرص بين الجدة والتنوع والملاءمة والصدفة لأن – بينما تكون التأكيد المفرط مملًا ومتكررًا – يمكن أن يزعج ويفزع الكثير من الجدة والتحدي. نعم، سؤال التأكيد هو قضية شخصية وsociale. ومع ذلك، أعتقد أن محركات التوصية تقدم طريقة معقولة لجذب انتباه الناس إلى وجهات نظر وخيارات بديلة.

تحدد الغرف الصوتية حاليًا التعرض للآراء والمنظورات المتناقضة والمثيرة للتحدي. هل يجب أن يكون هناك نوع من التنظيم الذي يمنع هذا النوع من التصفية المفرطة؟

أفضل التنظيم الخفيف على الإشراف القاسي. معظم المنصات التي أراها تفعل وظيفة سيئة في وضع علامات “الأخبار الكاذبة” أو إنشاء مراقبة الجودة. أود أن أرى المزيد من الآليات المبتكرة التي تتم استكشافها: انزلاق إلى اليسار للاطلاع على وجهة نظر معاكسة؛ إرفاق الروابط التي توضح القصص أو مقاطع الفيديو بطرق تعميق الفهم أو إزالة السياق “التنظيم” الذي يتم التأكيد عليه. ولكن دعونا نكون واضحين: هياكل الاختيار التي “تمنع” أو “تخلق” احتكاكات تتطلب بيانات وذكاء تصميم مختلفين عن تلك التي “تمنع” أو “تцен्सर” أو “تمنع”. أعتقد أن هذا مشكلة صعبة جدًا للأشخاص والآلات على حد سواء. ما يجعلها صعبة بشكل خاص هو أن البشر – في الواقع – أقل قابلية للتنبؤ من ما يعتقد الكثير من علماء النفس والعلماء الاجتماعيين. هناك العديد من نظريات “العقل” و “الوكالة” المت쟁لة هذه الأيام. كلما أصبحت التوصيات وأدوات التوصية أكثر تخصيصًا، أصبحت المناهج “مناسب لكل شخص” أكثر تحديًا وتناقضًا. إنه واحد من الأسباب التي تجعل هذا المجال يهمني.

هل يجب على مستخدمي النهاية والمجتمع أن يطالبوا بتوضيح سبب تقديم توصيات معينة؟

نعم، نعم، نعم. ليس فقط “الوضوح” ولكن “الرؤية” و “الشفافية” و “الinterpretability” أيضًا. يجب على الناس أن يكون لديهم الحق في رؤية وفهم التكنولوجيا التي تؤثر عليهم. يجب أن يكونوا قادرين على تقدير الخوارزميات المستخدمة لدفعهم وتقديمهم. فكر في هذا كالمكافئ الخوارزمي لموافقة المستخدم في الطب. يجب على المرضى الحصول على الحق في الحصول على الأسباب والمنطق لاختيار “هذا” مسار العمل إلى “ذلك” واحد. في الواقع، أargument أن “موافقة المستخدم” – ومستقبلها – في الطب والرعاية الصحية يقدم نموذجًا جيدًا لمستقبل “موافقة المستخدم” لمحركات التوصية.

هل تعتقد أنه من الممكن “اختراق” العقل البشري باستخدام محركات التوصية؟

العقل أو العقل؟ لا مزاح. هل نحن نخترق ماديًا – كهربائيًا وكيميائيًا – الخلايا العصبية والفصوص؟ أو نحن نستخدم محفزات حسية أقل غزوًا لتوليد سلوكيات متوقعة؟ بصراحة، أعتقد أن بعض الأدمغة – وبعض العقول – يمكن اختراقها بعض الأحيان. ولكن هل أعتقد أن الناس سيصبحون “دمى لحم” يرقصون على إيقاع التوصية؟ لا أعتقد ذلك. انظر، بعض الناس يصبحون مدمنين. بعض الناس يفقدون الاستقلالية والسيطرة على النفس. ونعم، بعض الناس يريدون استغلال الآخرين. لكن الغالبية العظمى من الأدلة لا تجعلني قلقًا بشأن “تسليح التوصية”. أنا أكثر قلقًا بشأن إساءة الثقة.

هناك اقتباس في ورقة بحثية لجايسون إل هارمان وجايسون إل هارمان يقول ما يلي: “الثقة التي يضعها البشر في التوصيات هي مفتاح نجاح أنظمة التوصية”. هل تعتقد أن وسائل التواصل الاجتماعي خانت هذه الثقة؟

أعتقد في ذلك الاقتباس. أعتقد أن الثقة هي حقًا المفتاح. أعتقد أن الأشخاص الذكيين والأخلاقيين يفهمون حقًا ويهتمون بأهمية الثقة. مع اعتذاري لتعليق تشيرشل على الشجاعة، الثقة هي الفضيلة التي تمكن الاتصال والنمو البشري الصحي. ذلك قال، أنا مرتاح لادعاء أن معظم منصات وسائل التواصل الاجتماعي – نعم، تويتر وفيسبوك، أنا أنظر إليكما! – لا يتم بناؤها حول أو بناءً على الثقة. إنها مبنية على تسهيل وتوسيع التعبير عن الذات. القدرة على التعبير عن نفسك بمقياس لم تكن لها أي علاقة ببناء الثقة. لم يكن هناك شيء لخianته. مع التوصية، هناك.

تعتقد أن مستقبل محركات التوصية سيتضمن أفضل التوصيات لتحسين العقل. هل تعتقد أن هناك أي محركات توصية حاليًا تعمل على نظام كهذا؟

لا بعد. أرى ذلك كأنه السوق التالي الذي تبلغ قيمته تريليون دولار. أعتقد أن أمازون وجوجل وألي بابا وتينسنت يريدون الوصول إلى هناك. ولكن من يعرف، قد يكون هناك مبتكر مخترع يفاجئنا جميعًا: ربما سبوتيفاي التي تدمج اليوجا وتنفس العقل في الوقت الفعلي “النصيحة” قد تكون كسرًا لتحسين العقل.

كيف يمكنك تلخيص كيف تمكن محركات التوصية المستخدمين من فهم أنفسهم بشكل أفضل؟

التوصيات هي حول الخيارات الجيدة…. أحيانًا، حتى الخيارات العظيمة. ما هي الخيارات التي تقبلها؟ ما هي الخيارات التي تتجاهلها؟ ما هي الخيارات التي ترفضها؟ أن يكون لديك الشجاعة لطرح – والاجابة على – تلك الأسئلة يعطيك رؤية رائعة حول من أنت ومن قد تريد أن تصبح. نحن هي الخيارات التي نختارها؛ أي شيء يؤثر على تلك الخيارات له تأثير كبير على影响نا.

هل هناك أي شيء آخر تريد مشاركته حول كتابك؟

نعم – في التحليل الأول والأخير، كتابي هو حول مستقبل النصيحة ومستقبل من تريد أن تصبح حقًا. إنه حول مستقبل الذات – “ذاتك”. أعتقد أن هذا موضوع مثير ومهم، أليس كذلك؟

شكرًا على الوقت الذي قمت بمشاركته آرائك.

لمستخدمينا، أوصي بشدة بهذا الكتاب، وهو متوفر حاليًا على Amazon في Kindle أو ورقي. يمكنك أيضًا مشاهدة المزيد من خيارات الطلب على صفحة MIT Press.