ไมเคิล ชราเก้ ผู้เขียนหนังสือ Recommendation Engines (The MIT Press) – สัมภาษณ์ซีรีส์

ไมเคิล ชราเก้ เป็น Research Fellow ที่ MIT Sloan School of Management’s Initiative on the Digital Economy เขาเป็นผู้เชี่ยวชาญที่มีชื่อเสียงในด้านนวัตกรรม เมตริกส์ และผลกระทบของเครือข่าย และเป็นผู้เขียนหนังสือ Who Do You Want Your Customers to Become?, The Innovator’s Hypothesis: How Cheap Experiments Are Worth More than Good Ideas (MIT Press) และหนังสืออื่นๆ

ในบทสัมภาษณ์นี้ เราได้พูดคุยเกี่ยวกับหนังสือของเขา “Recommendation Engines” ซึ่งสำรวจประวัติศาสตร์ เทคโนโลย์ ธุรกิจ และผลกระทบทางสังคมของระบบแนะนำออนไลน์

อะไรที่ทำให้คุณตัดสินใจเขียนหนังสือเกี่ยวกับหัวข้อที่แคบๆ เช่น “Recommendation Engines”?

การวางกรอบคำถามของคุณทำให้เกมส์เปิดเผย….. เมื่อฉันพิจารณาเทคโนโลยีดิจิทัลและจุดสัมผัสที่มีอิทธิพลต่อชีวิตของผู้คนในโลกจริงๆ ฉันพบว่า ‘ระบบแนะนำ’ เป็นตัวขับเคลื่อนการตัดสินใจเสมอ Spotify’s recommenders กำหนดเพลงและเพลงที่ผู้คนฟัง TikTok’s recommendation engines กำหนดวิดีโอ ‘ไวรัล’ ที่ผู้คนสร้างและแบ่งปัน Netflix’s recommenders ได้รับการออกแบบมาเพื่ออำนวยความสะดวกในการ ‘ดูแบบไม่หยุด’ และ ‘ผู้ดูแบบไม่หยุด’ Google Maps และ Waze แนะนำเส้นทางที่ดีที่สุดและ/หรือเร็วที่สุดและ/หรือง่ายที่สุดในการไปที่นั่น Tinder และ Match.com แนะนำคนที่คุณอาจชอบที่จะอยู่ด้วยหรือ ‘อยู่ด้วย’ Stitch Fix (SFIX ) แนะนำสิ่งที่คุณอาจต้องการสวมใส่เพื่อให้คุณเป็นตัวของคุณ Amazon (AMZN ) จะแนะนำสิ่งที่คุณควรซื้อจริงๆ Academia และ ResearchGate จะแนะนำการวิจัยที่เกี่ยวข้องที่คุณควรติดตาม….. ฉันสามารถดำเนินต่อไปได้ – และทำในหนังสือ – แต่จากมุมมองทางเทคนิคและแนวคิด ‘ระบบแนะนำ’ เป็นสิ่งที่ตรงกันข้ามกับ ‘แคบ’ จุดประสงค์และวัตถุประสงค์ครอบคลุมทั้งความต้องการและความปรารถนาของมนุษย์

คำพูดในหนังสือของคุณคือ “ระบบแนะนำไม่ได้แค่เกี่ยวกับสิ่งที่เราอาจจะซื้อ แต่เกี่ยวกับใครที่เราอาจจะอยากเป็น” อย่างไร?

ไม่มีข้อสงสัยหรือข้อกังวลว่าระบบแนะนำสามารถถูกใช้ในทางที่ผิดได้ คำถาม ‘คุยโบโน’ – ‘ใครได้ประโยชน์?’ – ใช้ได้ การแนะนำอาจเป็นประโยชน์หรือเป็นอันตรายต่อผู้รับหรือไม่? เช่นเดียวกับคำแนะนำจากเพื่อนหรือคนรู้จักที่รู้จักคุณ การแนะนำทางดิจิทัลสามารถแนะนำให้คุณซื้อสิ่งที่เพิ่มผลกำไรของ ‘พวกเขา’ ที่คุณ ‘คุณ’ ไม่จำเป็นต้องได้รับประโยชน์หรือความพึงพอใจ On one level ฉันค่อนข้างกังวลเกี่ยวกับศักยภาพ – และความเป็นจริง – ของการถูกใช้ในทางที่ผิด On the other hand ฉันคิดว่าผู้คนส่วนใหญ่จะรู้ตัวได้เร็วว่าเมื่อพวกเขากำลังถูกใช้ในทางที่ผิดหรือหลอกลวงโดยคนหรือเทคโนโลยี Fool me once shame on you; fool me twice or thrice shame on me ระบบแนะนำเป็นหนึ่งในโดเมนพิเศษที่สมเหตุสมผลที่จะใช้หลักจริยธรรมและจริยธรรม

ห้องเสียงที่ผู้ใช้ได้รับข้อมูลที่ต้องการเห็นโดยไม่คำนึงถึงความถูกต้องเป็นปัญหาสังคมหรือไม่?

Eli Pariser สร้างคำว่า ‘ฟิลเตอร์บับเบิล’ เพื่ออธิบายปรากฏการณ์และพยาธิวิทยา này ฉันเห็นด้วยกับมุมมองของเขา ในความเป็นจริง ฉันคิดว่าตอนนี้สมเหตุสมผลที่จะกล่าวว่า ‘ความลำเอียงในการยืนยัน’ – ไม่ใช่เซ็กส์ – คือสิ่งที่ขับเคลื่อนพฤติกรรมของมนุษย์ส่วนใหญ่ ผู้คนส่วนใหญ่กำลังมองหาการยืนยันส่วนใหญ่ของเวลา ระบบแนะนำต้องเดินไปตามเส้นทางที่ระมัดระวังระหว่างความใหม่ ความหลากหลาย ความเกี่ยวข้อง และความบังเอิญ เพราะแม้ว่าความยืนยันที่มากเกินไปจะน่าเบื่อและซ้ำซาก แต่ความใหม่และความท้าทายที่มากเกินไปก็สามารถทำให้โกรธและขุ่นเคืองได้ ดังนั้นใช่ การค้นหาความยืนยันคือทั้งปัญหาส่วนบุคคลและปัญหาสังคม ระบบแนะนำสามารถนำเสนอความหลากหลายและทางเลือกให้กับผู้คนได้ อย่างไรก็ตาม ฉันสงสัยว่ากฎระเบียบและบทวิจารณ์ทางกฎหมายจะกำหนดอนาคตของระบบแนะนำหรือไม่

ฟิลเตอร์บับเบิลปัจจุบันจำกัดการสัมผัสกับมุมมองที่ขัดแย้งกันและท้าทาย มีการควบคุมที่ควรจะยับยั้งการกรองมากเกินไปหรือไม่?

ฉันชอบการควบคุมที่เบาๆ มากกว่าการควบคุมที่เข้มงวด มost แพลตฟอร์มที่ฉันเห็นทำได้ไม่ดีในการระบุ ‘ข่าวปลอม’ หรือการสร้างการควบคุมคุณภาพ ฉันอยากเห็นกลไกที่สร้างสรรค์มากขึ้นได้รับการสำรวจ: สวाइป์ไปทางซ้ายสำหรับการมองมุมมองที่แตกต่าง; ลิงก์ที่เชื่อมโยงเรื่องราวหรือวิดีโอในลักษณะที่เพิ่มความเข้าใจหรือทำให้ ‘ความลำเอียง’ ที่ได้รับการยืนยันชัดเจนขึ้น แต่ให้ชัดเจนว่าโครงสร้างทางเลือกที่ ‘ยับยั้ง’ หรือ ‘สร้างความขัดแย้ง’ ต้องการข้อมูลและความเข้าใจในการออกแบบที่แตกต่างจากที่ ‘ห้าม’ หรือ ‘เซ็นเซอร์’ หรือ ‘ป้องกัน’ ฉันคิดว่านี่เป็นปัญหาที่ยากมากสำหรับทั้งคนและเครื่องจักร มันทำให้ยากมากขึ้นเพราะมนุษย์ – ในความเป็นจริง – น่าเชื่อถือน้อยกว่าที่นักจิตวิทยาและนักสังคมศาสตร์หลายคนเชื่อ มี ‘ทฤษฎีของจิตใจ’ และ ‘ความเป็นตัวแทน’ มากมายในขณะนี้ การแนะนำที่เป็นส่วนตัวและระบบแนะนำที่มีประสิทธิภาพมากขึ้น ทำให้การเข้าถึง ‘ขนาดเดียวที่เหมาะกับทุกคน’ มีความท้าทายและไม่เหมาะสมมากขึ้น

ผู้ใช้ปลายทางและสังคมควรต้องการความสามารถในการอธิบายได้ว่าทำไมจึงมีการแนะนำเฉพาะอย่าง?

ใช่ ใช่ และใช่ ไม่ใช่แค่ ‘ความสามารถในการอธิบาย’ แต่ ‘ความชัดเจน’ ‘ความโปร่งใส’ และ ‘ความสามารถในการตีความ’ ด้วย ผู้คนควรจะมีสิทธิ์ที่จะเห็นและเข้าใจเทคโนโลยีที่ใช้ในการมีอิทธิพลต่อพวกเขา พวกเขาควรจะสามารถเข้าใจอัลกอริทึมที่ใช้ในการผลักดันและชักชวนพวกเขา ให้คิดว่านี่เป็นคู่สัญญา ‘การยินยอมโดยแจ้งให้ทราบ’ ในทางการแพทย์ ผู้ป่วยมีสิทธิ์ที่จะได้รับและแพทย์มีหน้าที่ที่จะให้เหตุผลและเหตุผลในการเลือก ‘เส้นทางนี้’ มากกว่า ‘เส้นทางนั้น’ ในความเป็นจริง ฉันแย้งว่า ‘การยินยอมโดยแจ้งให้ทราบ’ – และอนาคต – ในการแพทย์และการดูแลสุขภาพ มีแบบอย่างที่ดีสำหรับอนาคตของ ‘การยินยอมโดยแจ้งให้ทราบ’ สำหรับระบบแนะนำ

คุณเชื่อว่ามันเป็นไปได้ที่จะ “แฮก” สมองของมนุษย์โดยใช้ระบบแนะนำ?

สมองหรือจิตใจ? ไม่ล้อเล่น เรากำลังใช้การกระตุ้นทางประสาทและทางเคมีเพื่อกระตุ้นニューロนและล็อบหรือไม่? หรือเรากำลังใช้สิ่งเร้าทางประสาทที่น้อยกว่าเพื่อกระตุ้นพฤติกรรมที่คาดการณ์ได้? โดยตรง ฉันเชื่อว่าสมองบางอัน – และจิตใจบางอัน – สามารถถูกแฮกได้บางครั้ง แต่ฉันไม่เชื่อว่าผู้คนจะกลายเป็น ‘หุ่นเชิด’ ที่เต้นตามจังหวะของระบบแนะนำ ฉันไม่คิดว่าคนส่วนใหญ่จะสูญเสียความเป็นอิสระและความควบคุมตัวเอง และใช่ บางคนต้องการที่จะใช้คนอื่น แต่หลักฐานที่มีอยู่ไม่ทำให้ฉันกังวลเกี่ยวกับการ ‘อาวุธ化ของระบบแนะนำ’ ฉันกลัวการละเมิดความไว้วางใจมากกว่า

คำพูดในงานวิจัยโดย Jason L. Harman และ Jason L. Harman ระบุว่า “ความไว้วางใจที่มนุษย์วางไว้กับการแนะนำเป็นกุญแจสำคัญในการประสบความสำเร็จของระบบแนะนำ” คุณเชื่อว่าโซเชียลมีเดียได้ทรยศต่อความไว้วางใจนั้นหรือไม่?

ฉันเชื่อในคำพูดนั้น ฉันเชื่อว่าความไว้วางใจเป็นจริงๆ ฉันเชื่อว่าผู้คนฉลาดและจริยธรรมเข้าใจและชื่นชมความสำคัญของความไว้วางใจ ในการแพทย์ ความไว้วางใจเป็นคุณธรรมที่ทำให้การเชื่อมต่อและเติบโตของมนุษย์เป็นไปได้ ที่กล่าวไว้ โซเชียลมีเดียส่วนใหญ่ – ใช่ Twitter และ Facebook (META ) ฉันกำลังมองหาคุณ! – ไม่ได้ถูกสร้างขึ้นโดยรอบหรืออาศัยความไว้วางใจ พวกเขาถูกสร้างขึ้นเพื่ออำนวยความสะดวกในการแสดงออกตนเองที่มีขนาดใหญ่ ความสามารถในการแสดงออกตนเองที่มีขนาดใหญ่ไม่มีอะไรเกี่ยวข้องกับการสร้างความไว้วางใจ เมื่อพูดถึงระบบแนะนำ มีความไว้วางใจที่จะถูกทรยศ

คุณกล่าวว่าอนาคตของระบบแนะนำจะนำเสนอการแนะนำที่ดีที่สุดเพื่อเพิ่มความสามารถของจิตใจ คุณคิดว่าระบบแนะนำใดๆ ปัจจุบันกำลังทำงานในระบบดังกล่าวหรือไม่?

ไม่ใช่ ฉันเห็นนี่เป็นตลาดมูลค่าหลายล้านล้าน ฉันคิดว่า Amazon และ Google และ Alibaba และ Tencent ต้องการที่จะไปที่นั่น แต่ใครจะรู้ มีนวัตกรผู้ประกอบการคนหนึ่งที่อาจจะสร้างความประหลาดใจให้กับทุกคน: บางที Spotify ที่รวมการดูแลจิตใจและคำแนะนำที่เหมาะสมเวลาอันควรอาจเป็นจุด突破ในการเพิ่มความสามารถของจิตใจ

คุณสรุปได้อย่างไรว่าระบบแนะนำช่วยให้ผู้ใช้เข้าใจตัวเองได้ดีขึ้น?

การแนะนำเป็นเรื่องของการเลือกที่ดี….. บางครั้งแม้แต่การเลือกที่ยอดเยี่ยม การเลือกที่คุณยอมรับ? การเลือกที่คุณเพิกเฉย? การเลือกที่คุณปฏิเสธ? การมีความกล้าที่จะถาม – และตอบ – คำถามเหล่านั้นให้คุณมีความเข้าใจที่น่าประทับใจเกี่ยวกับใครคุณเป็นและใครคุณอาจต้องการเป็น เราคือการเลือกที่เราทำ สิ่งที่มีอิทธิพลต่อการเลือกเหล่านั้นมีผลกระทบและอิทธิพลที่น่าประทับใจต่อเรา

มีอะไรอีกที่คุณต้องการแบ่งปันเกี่ยวกับหนังสือของคุณ?

ใช่ – ในการวิเคราะห์ครั้งสุดท้าย หนังสือของฉันคือเกี่ยวกับอนาคตของคำแนะนำและอนาคตของ ‘ตัวคุณ’ ฉันคิดว่านี่เป็นเรื่องที่น่าตื่นเต้นและสำคัญ คุณไม่คิดว่าเช่นนั้นหรือ?

ขอขอบคุณที่ใช้เวลาในการแบ่งปันมุมมองของคุณ

สำหรับผู้อ่านของเรา เราแนะนำหนังสือเล่มนี้อย่างมาก มันสามารถซื้อได้บน Amazon ในรูปแบบ Kindle หรือหนังสือพิมพ์ คุณสามารถดูตัวเลือกการสั่งซื้อเพิ่มเติมได้บน MIT Press หน้า