مايكل شراج، مؤلف محركات التوصية (دار نشر معهد ماساتشوستس للتكنولوجيا) – سلسلة المقابلات

مايكل شراج هو باحث مساعد في مبادرة اقتصاد 数字 في مدرسة ماساتشوستس للتكنولوجيا سلوان للإدارة. وهو خبير مطلوب في مجال الابتكار والأداء والآثار الشبكية، وهو مؤلف كتاب من تريد أن يصبح عملاؤك؟ وفرضية المبتكر: كيف تجارب رخيصة أكثر قيمة من الأفكار الجيدة (دار نشر معهد ماساتشوستس للتكنولوجيا) وغيرها من الكتب.

في هذا المقابلة نناقش كتابه “محركات التوصية” الذي يبحث في تاريخ وتكنولوجيا وأعمال وتأثير محركات التوصية عبر الإنترنت.

ما هو ما ألهمك لكتابة كتاب عن موضوع ضيق مثل “محركات التوصية”؟

صياغة سؤالك تكشف عن اللعبة….. عندما نظرت بجدية إلى التكنولوجيا الرقمية والنقاط التي تؤثر على حياة الناس في جميع أنحاء العالم، وجدت دائمًا “محرك توصية” يقود القرار. محركات التوصية في سبوتيفاي تحدد الموسيقى والأغاني التي يسمعها الناس؛ محركات التوصية في تيك توك تحدد مقاطع الفيديو “الفيروسية” التي يجمعها الناس وينشرونها؛ محركات التوصية في نيتفليكس مصممة لتسهيل “الاستمتاع المتواصل” و”المشاهدين المتواصلين”؛ محركات التوصية في جوجل مابس وواز تُوصي بأفضل الطرق وأسرع الطرق وأبسط الطرق للوصول إلى هناك؛ تيندر وماتش.كوم تُوصي بمن قد تريد أن تكون معه أو “تكون” معه؛ ستيتش فيكس تُوصي بما قد تريد ارتداءه لجعل نفسك “أنت”؛ أمازون تُوصي بما يجب أن تشتريه حقًا؛ أكاديميا وريسرش غيت تُوصي بأهم الأبحاث التي يجب أن تكون على دراية بها…. يمكنني أن أستمر – وأفعل ذلك في الكتاب – ولكن من الناحية الفنية والمفهومية، “محركات التوصية” هي العكس من “الضيق”. غرضها وغايتها تغطي كل مجال الرغبة البشرية والقرار.

هناك مقولة في كتابك كما يلي: “محركات التوصية ليست فقط حول ما قد نشتريه، بل حول من قد نريد أن نصبح”. كيف يمكن أن يتم استغلال هذا من قبل الشركات أو الجهات الفاعلة السيئة؟

لا يوجد شك أو شبهة في أن التوصية يمكن أن يتم استغلالها. السؤال “الكلاسيكي” الكلاسيكي – من المستفيد؟ – يطبق. هل التوصيات حقًا مقصودة لصالح المستلم أو الكيان / الشركة التي تقدم التوصية؟ كما هو سهل لزميل أو معارف أو “صديق” يعرفك أن يقدم لك نصيحة لا تخدم مصلحتك، من السهل أيضًا لمحركات التوصية التي تعتمد على البيانات أن تُقترح عليك شراء شيء يزيد من ربحهم على حساب راحتك أو إرضائك. على مستوى ما، أنا قلق جدًا من إمكانية الاستغلال وواقعه. على الجانب الآخر، أعتقد أن معظم الناس يدركون بسرعة عندما يتم استغلالهم أو التلاعب بهم من قبل الأشخاص أو التكنولوجيا. خدعوني مرة واحدة، عار عليهم؛ خدعوني مرتين أو ثلاث مرات، عار علي. التوصية هي واحدة من تلك المجالات الخاصة حيث من الحكمة أن تكون أخلاقيًا ومن الحكمة أن تكون ذكيًا.

هل غرف الصوت حيث يتم تغذية المستخدمين بما يريدون رؤيته بغض النظر عن الدقة هو مشكلة اجتماعية؟

إيلي باريزر صاغ عبارة رائعة هي “فقاعة المرشح” لوصف هذه الظاهرة والمرض. أنا أ同意 إلى حد كبير مع وجهة نظره. في الحقيقة، أعتقد أنه من العدل الآن القول إن “تحيز التأكيد” – وليس الجنس – هو ما يدفع سلوك البالغين في معظم الأحيان. معظم الناس يبحثون عن موافقة معظم الوقت. يجب على محركات التوصية أن تتنقل مسارًا حذرًا بين الجدة والتنوع والملاءمة والصدفة لأن – بينما قد تكون التأكيدات الكثيرة مملة ومتكررة – قد تكون الجدة والتحدي الكبير مزعجة ومزعجة. نعم، سؤال التأكيد هو مشكلة شخصية واجتماعية. ومع ذلك، أعتقد أن محركات التوصية تقدم طريقة معقولة لجذب انتباه الناس إلى وجهات نظر وخيارات بديلة. ومع ذلك، أنا أتساءل حقًا عما إذا كانت التنظيم والمراجعة القانونية ستحدد مستقبل التوصية بشكل متزايد.

هل يجب أن يكون هناك نوع من التنظيم الذي يمنع هذا النوع من التصفية الزائدة؟

أفضل التنظيم الخفيف على التنظيم القاسي. معظم المنصات التي أراها تفعل وظيفة سيئة في وضع علامات على “الأخبار الكاذبة” أو وضع ضوابط الجودة. أود أن أرى المزيد من الآليات المبتكرة التي تُستكشف: انقر على اليسار للحصول على وجهة نظر معاكسة؛ أدخل روابط توضح القصص أو مقاطع الفيديو بطرق تعميق الفهم أو إزالة التحيز الذي يتم التأكيد عليه. ومع ذلك، يجب أن يكون واضحًا: هياكل الاختيار التي “تثني” أو “تخلق” احتكاكات تتطلب بيانات وذكاء تصميم مختلفين عن تلك التي “تحظر” أو “تمنع” أو “تمنع”. أعتقد أن هذا مشكلة صعبة للناس والآلات على حد سواء. ما يجعلها صعبة بشكل خاص هو أن البشر – في الواقع – أقل قابلية للتنبؤ مما يعتقد الكثير من علماء النفس والباحثين الاجتماعيين. هناك الكثير من نظريات العقل والوكالة المت쟁ية هذه الأيام. كلما أصبحت التوصيات أكثر شخصنة، أصبحت المناهج “مثل الحجم الواحد” أكثر تحديًا وتأريخًا.

هل يجب على المستخدمين النهائيين والمجتمع أن يطالبوا بالوضوح حول سبب تقديم التوصيات المحددة؟

نعم، نعم، نعم. ليس فقط “الوضوح” ولكن “الوضوح” و “القدرة على تفسير” أيضًا. يجب على الناس أن يكونوا قادرين على رؤية وفهم التكنولوجيا التي تؤثر عليهم. يجب أن يكونوا قادرين على تقدير الخوارزميات المستخدمة للتحفيز والاقناع. فكر في هذا كالمكافئ الخوارزمي ل “الموافقة المستنيرة” في الطب. يجب على المرضى الحصول على الحق في الحصول على الأسباب والمنطق لاختيار هذا المسار بدلاً من ذاك. في الواقع، أargument أن “الموافقة المستنيرة” – ومستقبلها – في الطب والرعاية الصحية تقدم نموذجًا جيدًا لمستقبل “الموافقة المستنيرة” لمحركات التوصية.

هل تعتقد أنه من الممكن “اختراق” الدماغ البشري باستخدام محركات التوصية؟

الدماغ أو العقل؟ لم أكن مازحًا. هل نحن نحقق فعليًا في الخلايا العصبية والفصوص؟ أو هل نحن نستخدم محفزات حسية أقل غزوًا لتحفيز سلوك قابل للتنبؤ؟ بصراحة، أعتقد أن بعض الأدمغة – وبعض العقول – قابلة للاختراق بعض الوقت. لكن هل أعتقد أن الناس سيصبحون “دمى لحم” يرقصون على إيقاع التوصيات؟ لا أعتقد ذلك. انظر، بعض الناس يصبحون مدمنين. بعض الناس يفقدون الاستقلالية والسيطرة على النفس. ونعم، بعض الناس يريدون استغلال الآخرين. لكن الغالبية العظمى من الأدلة لا تجعلني قلقًا بشأن “تسليح التوصية”. أنا أكثر قلقًا بشأن إساءة استخدام الثقة.

هناك مقولة في ورقة بحثية لجاسون ل. هارمان وجاسون ل. هارمان تقول ما يلي: “الثقة التي يضعها البشر في التوصيات هي مفتاح نجاح أنظمة التوصية”. هل تعتقد أن وسائل التواصل الاجتماعي خانت هذه الثقة؟

أعتقد في تلك المقولة. أعتقد أن الثقة هي في الواقع المفتاح. أعتقد أن الأشخاص الذكيين والأخلاقيين يفهمون حقًا ويقدرون أهمية الثقة. مع اعتذاري لتعليق تشيرشل حول الشجاعة، الثقة هي الفضيلة التي تمكن من الاتصال والنمو البشري الصحي. ومع ذلك، أنا مرتاح لادعاء أن معظم منصات وسائل التواصل الاجتماعي – نعم، تويتر وفيسبوك، أنا أنظر إليكما! – لا يتم بناؤها حول أو بناءً على الثقة. إنها مبنية على تسهيل التعبير عن الذات على نطاق واسع. القدرة على التعبير عن نفسك على نطاق واسع ليست لها أي علاقة ببناء الثقة. لم تكن هناك ثقة لخيانته. مع التوصية، هناك.

تقول إنك تؤمن بأن مستقبل محركات التوصية سيتضمن أفضل التوصيات لتحسين العقل. هل هناك أي محركات توصية حالية تعمل على نظام كهذا؟

لا بعد. أرى ذلك كأنه السوق التالي الذي يصل قيمته إلى تريليونات الدولارات. أعتقد أن أمازون وجوجل وأليبABA وتينسنت يريدون الوصول إلى هناك. لكن من يعرف، قد يكون هناك مبتكر مستقل ي驚زنا جميعًا: قد تكون سبوتيفاي التي تدمج التأمل والنصائح الصوتية في الوقت المناسب كتطور ثوري لتحسين العقل.

كيف يمكنك تلخيص كيف تمكن محركات التوصية المستخدمين من فهم أنفسهم بشكل أفضل؟

التوصيات تتعلق بالخيارات الجيدة…. أحيانًا، حتى الخيارات العظيمة. ما هي الخيارات التي تتبناها؟ ما هي الخيارات التي تتجاهلها؟ ما هي الخيارات التي ترفضها؟ أن يكون لديك الشجاعة لطرح – والاجابة على – تلك الأسئلة يعطيك رؤية رائعة لمن أنت ومن قد تريد أن تصبح. نحن الخيارات التي نختارها؛ أي شيء يؤثر على تلك الخيارات له تأثير كبير على影响نا.

هل هناك أي شيء آخر تريد مشاركته حول كتابك؟

نعم – في التحليل الأول والأخير، كتابي حول مستقبل النصيحة ومستقبل من تريد أن تصبح حقًا. إنه حول مستقبل الذات – “ذاتك”. أعتقد أن هذا موضوع مثير ومهم، أليس كذلك؟

شكرًا لاستغراقك الوقت لمشاركة وجهات نظرك.

لمشتركينا، أوصي بشدة بهذا الكتاب، وهو متاح حاليًا على أمازون في نسخة كيندل أو ورقية. يمكنك أيضًا مشاهدة المزيد من خيارات الطلب على صفحة معهد ماساتشوستس للتكنولوجيا.