Michael Schrage ผู้เขียนเครื่องมือแนะนำ (The MIT Press) - ซีรี่ส์สัมภาษณ์

Michael Schrage เป็นนักวิจัยที่ MIT Sloan School of Management's Initiative on the Digital Economy เขาเป็นผู้เชี่ยวชาญที่เป็นที่ต้องการในด้านนวัตกรรม เมตริก และเอฟเฟกต์เครือข่าย เขาเป็นผู้เขียน คุณต้องการให้ลูกค้าของคุณเป็นใคร?, สมมติฐานของนักประดิษฐ์: การทดลองราคาถูกมีค่ามากกว่าไอเดียดีๆ ได้อย่างไร (สำนักพิมพ์เอ็มไอที) และหนังสืออื่นๆ

ในบทสัมภาษณ์นี้ เราพูดถึงหนังสือของเขา “เครื่องยนต์แนะนำ” ซึ่งสำรวจประวัติศาสตร์ เทคโนโลยี ธุรกิจ และผลกระทบทางสังคมของเครื่องมือแนะนำออนไลน์

อะไรเป็นแรงบันดาลใจให้คุณเขียนหนังสือในหัวข้อแคบๆ เช่น “เครื่องมือแนะนำ”

การกำหนดกรอบคำถามของคุณทำให้เกมนี้หายไป…..เมื่อฉันดูอย่างจริงจังที่เทคโนโลยีดิจิทัลและจุดสัมผัสที่มีอิทธิพลต่อชีวิตผู้คนทั่วโลกอย่างแท้จริง ฉันมักจะพบ 'เครื่องมือแนะนำ' เป็นตัวขับเคลื่อนการตัดสินใจ ผู้แนะนำของ Spotify จะกำหนดเพลงและเพลงที่ผู้คนได้ยิน เครื่องมือแนะนำของ TikTok ให้คำจำกัดความของ 'ไวรัลวิดีโอ' ที่ผู้คนรวบรวมและแบ่งปัน ผู้แนะนำของ Netflix ได้รับการออกแบบเพื่ออำนวยความสะดวกในการ "ดูต่อเนื่อง" และ "ดูต่อเนื่อง" Google Maps และ Waze แนะนำวิธีที่ดีที่สุดและ/หรือเร็วที่สุดและ/หรือง่ายที่สุดในการไปถึงที่นั่น เชื้อจุดไฟและ Match.com แนะนำผู้ที่คุณอาจอยากอยู่ด้วย หรือ 'อยู่กับ'; Stitch Fix แนะนำสิ่งที่คุณอาจต้องการสวมใส่ที่ทำให้คุณเป็น 'คุณ' Amazon จะแนะนำสิ่งที่คุณควรซื้อจริงๆ Academia และ ResearchGate จะแนะนำงานวิจัยที่เกี่ยวข้องมากที่สุดซึ่งคุณควรได้รับข้อมูลล่าสุด….ฉันสามารถอ่านต่อ – และทำในหนังสือ – แต่ทั้งในเชิงเทคนิคและเชิงแนวคิด 'Recommendation Engines' เป็นสิ่งที่ตรงกันข้ามกับ 'narrow' ประเด็นและจุดประสงค์ของพวกเขาครอบคลุมความปรารถนาและการตัดสินใจของมนุษย์ทั้งหมด

คำพูดในหนังสือของคุณมีดังนี้: "ผู้แนะนำไม่ได้เป็นเพียงเกี่ยวกับสิ่งที่เราอาจซื้อ แต่เกี่ยวกับสิ่งที่เราอาจต้องการเป็น" สิ่งนี้จะถูกใช้ในทางที่ผิดโดยองค์กรหรือผู้ไม่ประสงค์ดีได้อย่างไร?

ไม่มีคำถามหรือข้อสงสัยว่าคำแนะนำนั้นอาจถูกนำไปใช้ในทางที่ผิดได้ คำถามคลาสสิค 'คลาสสิค' - Cui bono? – 'ใครได้ประโยชน์' – ใช้ ข้อเสนอแนะมีจุดมุ่งหมายเพื่อประโยชน์ของผู้รับหรือหน่วยงาน/องค์กรที่ให้คำแนะนำอย่างแท้จริงหรือไม่? เช่นเดียวกับเพื่อนร่วมงาน คนรู้จัก หรือ 'เพื่อน' ที่รู้จักคุณในการให้คำแนะนำที่ไม่ได้อยู่ในความสนใจของคุณจริง ๆ ก็เป็นช่องทางดิจิทัลสำหรับผู้แนะนำ 'ที่ขับเคลื่อนด้วยข้อมูล' เพื่อแนะนำให้คุณซื้อสิ่งที่เพิ่ม 'ของพวกเขา' กำไรจากค่าใช้จ่ายของอรรถประโยชน์หรือความพึงพอใจ 'ของคุณ' ในระดับหนึ่ง ฉันกังวลอย่างมากเกี่ยวกับศักยภาพและความเป็นจริงของการละเมิด ในทางกลับกัน ฉันคิดว่าคนส่วนใหญ่รับรู้ได้ค่อนข้างเร็วเมื่อพวกเขาถูกคนหรือเทคโนโลยีเอาเปรียบหรือบงการ หลอกฉันครั้งเดียว, อัปยศกับคุณ; หลอกฉันสองสามครั้ง อับอายขายหน้า คำแนะนำเป็นหนึ่งในโดเมนพิเศษที่ฉลาดที่จะมีจริยธรรมและจริยธรรมที่จะฉลาด 

ห้องสะท้อนเสียงที่ผู้ใช้เพียงแค่ป้อนสิ่งที่พวกเขาต้องการเห็นโดยไม่คำนึงถึงความถูกต้องเป็นปัญหาทางสังคมหรือไม่?

Eli Pariser ได้สร้างวลีที่ยอดเยี่ยม 'ฟองกรอง' เพื่ออธิบายปรากฏการณ์และพยาธิสภาพนี้ ฉันเห็นด้วยอย่างมากกับมุมมองของเขา อันที่จริง ฉันคิดว่ามันยุติธรรมแล้วที่จะพูดว่า 'อคติในการยืนยัน' - ไม่ใช่เพศ - เป็นสิ่งที่ขับเคลื่อนพฤติกรรมของมนุษย์ผู้ใหญ่ส่วนใหญ่ คนส่วนใหญ่กำลังมองหาข้อตกลงเกือบตลอดเวลา ผู้แนะนำต้องนำทางอย่างระมัดระวังระหว่างความแปลกใหม่ ความเกี่ยวข้องที่หลากหลาย และความบังเอิญ เพราะ - แม้ว่าการยืนยันมากเกินไปจะน่าเบื่อและซ้ำซ้อน ความแปลกใหม่และความท้าทายที่มากเกินไปอาจทำให้รำคาญและขุ่นเคืองได้ ใช่แล้ว การแสวงหาการยืนยันเป็นทั้งปัญหาส่วนตัวและสังคม ที่กล่าวว่า ผู้แนะนำนำเสนอวิธีที่ค่อนข้างไม่น่ารังเกียจในการนำมุมมองและตัวเลือกอื่น ๆ มาสู่ความสนใจของผู้คน อย่างไรก็ตาม ฉันสงสัยจริง ๆ ว่ากฎระเบียบและการตรวจสอบทางกฎหมายจะกำหนดคำแนะนำในอนาคตมากขึ้นหรือไม่

ขณะนี้ฟองอากาศตัวกรองจำกัดการสัมผัสกับความขัดแย้ง ความขัดแย้ง และหรือความท้าทาย/มุมมอง ควรมีกฎระเบียบบางประเภทที่กีดกันการกรองมากเกินไปประเภทนี้หรือไม่?

ฉันชอบสัมผัสเบา ๆ มากกว่าการกำกับดูแลกฎระเบียบที่หนักมือ แพลตฟอร์มส่วนใหญ่ที่ฉันเห็นว่าทำงานได้ค่อนข้างแย่ในการระบุว่าเป็น 'ข่าวปลอม' หรือสร้างการควบคุมคุณภาพ ฉันต้องการเห็นกลไกที่เป็นนวัตกรรมใหม่มากขึ้น: ปัดไปทางซ้ายเพื่อดูสิ่งที่ตรงกันข้าม ฝังลิงก์ที่อธิบายรายละเอียดเกี่ยวกับเรื่องราวหรือวิดีโอในลักษณะที่ทำให้เข้าใจลึกซึ้งยิ่งขึ้นหรือตัดทอนบริบทของ "อคติ" ที่กำลังได้รับการยืนยัน แต่ขอให้ชัดเจน: สถาปัตยกรรมทางเลือกที่ 'กีดกัน' หรือสร้าง 'อุปสรรค' ต้องการข้อมูลและความรู้สึกในการออกแบบที่แตกต่างจากสถาปัตยกรรมที่ 'ห้าม' หรือ 'เซ็นเซอร์' หรือ 'ป้องกัน' ฉันคิดว่านี่เป็นปัญหาที่หนักมากสำหรับทั้งคนและเครื่องจักร สิ่งที่ทำให้มันยากเป็นพิเศษก็คือมนุษย์ – ในความเป็นจริง – คาดเดาได้น้อยกว่าที่นักจิตวิทยาและนักสังคมศาสตร์หลายคนเชื่อ ทุกวันนี้มี 'ทฤษฎีของจิตใจ' และ 'หน่วยงาน' ที่แข่งขันกันมากมาย ยิ่งคำแนะนำและผู้แนะนำที่เป็นส่วนตัวมากขึ้นเท่าใด แนวทาง 'ขนาดเดียวที่เหมาะกับทุกคน' ก็จะยิ่งมีความท้าทายและล้าสมัยมากขึ้นเท่านั้น เป็นหนึ่งในหลายๆ เหตุผลที่โดเมนนี้ทำให้ฉันสนใจ

ผู้ใช้ปลายทางและสังคมควรต้องการคำอธิบายว่าเหตุใดจึงมีคำแนะนำเฉพาะเจาะจง

ใช่ใช่และใช่ ไม่ใช่แค่ 'คำอธิบาย' แต่ 'การมองเห็น' 'ความโปร่งใส' และ 'การตีความ' ด้วย ผู้คนควรมีสิทธิ์ที่จะเห็นและเข้าใจเทคโนโลยีที่ใช้เพื่อโน้มน้าวพวกเขา พวกเขาควรจะสามารถชื่นชมอัลกอริธึมที่ใช้ในการสะกิดและโน้มน้าวใจพวกเขา คิดว่านี่เป็นอัลกอริทึมของอัลกอริทึมของ 'ความยินยอมที่ได้รับการบอกกล่าว' ในทางการแพทย์ ผู้ป่วยมีสิทธิได้รับ- และแพทย์มีหน้าที่จัดหา- เหตุผลและเหตุผลสำหรับการเลือกแนวทางการดำเนินการ 'สิ่งนี้' กับ 'สิ่งนั้น' อันที่จริง ฉันโต้แย้งว่า 'ความยินยอมที่ได้รับการบอกกล่าว' - และอนาคต - ในด้านการแพทย์และการดูแลสุขภาพเป็นแม่แบบที่ดีสำหรับอนาคตของ 'ความยินยอมที่ได้รับการบอกกล่าว' สำหรับเครื่องมือแนะนำ 

คุณเชื่อหรือไม่ว่าเป็นไปได้ที่จะ "แฮ็ก" สมองของมนุษย์โดยใช้โปรแกรมแนะนำ

สมองหรือจิตใจ? ไม่ได้ล้อเล่น. เรากำลังแฮ็กเซลล์ประสาทและกลีบสมองทั้งทางวัตถุและทางไฟฟ้าหรือไม่? หรือเรากำลังใช้สิ่งเร้าทางประสาทสัมผัสที่รุกรานน้อยกว่าเพื่อทำให้เกิดพฤติกรรมที่คาดเดาได้? พูดตรงๆ ฉันเชื่อว่าสมองบางส่วน – และจิตใจบางส่วน – ถูกแฮ็กได้ในบางครั้ง แต่ฉันเชื่อไหมว่าผู้คนถูกกำหนดให้เป็น 'หุ่นเชิด' ที่เต้นเพลงแนะนำ? ฉันไม่. ดูสิ บางคนกลายเป็นคนติดยา บางคนสูญเสียอิสระและการควบคุมตนเอง และใช่ บางคนต้องการเอาเปรียบผู้อื่น แต่หลักฐานที่มีมากมายไม่ได้ทำให้ฉันกังวลเกี่ยวกับ 'การให้คำแนะนำเป็นอาวุธ' ฉันกังวลมากขึ้นเกี่ยวกับการใช้ความไว้วางใจในทางที่ผิด

ข้อความอ้างอิงในงานวิจัยของ Jason L. Harman และ Jason L. Harman ระบุข้อความต่อไปนี้: “ความไว้วางใจที่มนุษย์มอบให้กับคำแนะนำเป็นกุญแจสู่ความสำเร็จของระบบผู้แนะนำ” คุณเชื่อหรือไม่ว่าโซเชียลมีเดียได้ทรยศต่อความไว้วางใจนั้น?

ฉันเชื่อในคำพูดนั้น ฉันเชื่อว่าความไว้วางใจเป็นกุญแจสำคัญ ฉันเชื่อว่าคนฉลาดและมีจริยธรรมเข้าใจและเห็นคุณค่าของความไว้วางใจอย่างแท้จริง ด้วยคำขอโทษต่อความคิดเห็นของเชอร์ชิลล์เกี่ยวกับความกล้าหาญ ความไว้วางใจคือคุณธรรมที่ช่วยให้มนุษย์มีสายสัมพันธ์ที่ดีและเติบโตได้ ที่กล่าวว่าฉันสบายใจที่จะโต้เถียงว่าแพลตฟอร์มโซเชียลมีเดียส่วนใหญ่ - ใช่ Twitter และ Facebook ฉันกำลังดูคุณอยู่! – ไม่ได้สร้างขึ้นจากหรือขึ้นอยู่กับความไว้วางใจ พวกเขาขึ้นอยู่กับการอำนวยความสะดวกและปรับขนาดการแสดงออก ความสามารถในการแสดงตัวตนในระดับหนึ่งไม่ได้เกี่ยวข้องกับการสร้างหรือสร้างความไว้วางใจอย่างแท้จริง ไม่มีอะไรจะหักหลัง มีคำแนะนำด้วย

คุณระบุความเชื่อของคุณว่าอนาคตของเครื่องมือแนะนำจะมีคำแนะนำที่ดีที่สุดเพื่อปรับปรุงความคิดของคุณ ในความเห็นของคุณ มีเครื่องมือแนะนำใดที่กำลังทำงานบนระบบดังกล่าวอยู่หรือไม่

ยัง. ฉันเห็นว่าเป็นตลาดล้านล้านดอลลาร์ต่อไป ฉันคิดว่า Amazon และ Google และ Alibaba และ Tencent ต้องการไปถึงที่นั่น แต่ใครจะรู้ อาจมีนักประดิษฐ์ที่เป็นผู้ประกอบการที่ทำให้เราทุกคนประหลาดใจ บางที Spotify ที่รวมสติและ 'คำแนะนำ' ที่กระซิบอย่างทันท่วงทีอาจเป็นความก้าวหน้าที่ยกระดับความคิด

คุณจะสรุปได้อย่างไรว่าเครื่องมือแนะนำช่วยให้ผู้ใช้เข้าใจตนเองได้ดีขึ้นอย่างไร

คำแนะนำเกี่ยวกับทางเลือกที่ดี…. บางครั้งแม้แต่ทางเลือกที่ดี คุณมีทางเลือกอะไรบ้าง? อะไรคือตัวเลือกที่คุณเพิกเฉย? อะไรคือตัวเลือกที่คุณปฏิเสธ? การมีความกล้าที่จะถาม – และตอบ – คำถามเหล่านี้จะช่วยให้คุณเข้าใจอย่างถ่องแท้ว่าคุณเป็นใครและคุณอาจต้องการเป็นใคร เราเป็นคนเลือกเอง อะไรก็ตามที่มีอิทธิพลต่อการเลือกเหล่านั้นมีผลกระทบที่น่าทึ่งและมีอิทธิพลต่อเรา

มีอะไรอีกบ้างที่คุณต้องการแชร์เกี่ยวกับหนังสือของคุณ

ใช่ – ในการวิเคราะห์ครั้งแรกและครั้งสุดท้าย หนังสือของฉันเกี่ยวกับอนาคตของคำแนะนำและอนาคตของคุณ 'จริงๆ' ที่อยากจะเป็น มันเกี่ยวกับอนาคตของตัวตน – 'ตัวคุณ' ของคุณ ฉันคิดว่านั่นเป็นทั้งเรื่องที่น่าตื่นเต้นและสำคัญใช่ไหม

ขอขอบคุณที่สละเวลาแบ่งปันความคิดเห็นของคุณ

สำหรับผู้อ่านของเรา ฉันขอแนะนำหนังสือเล่มนี้เป็นอย่างยิ่ง ซึ่งขณะนี้มีให้บริการใน อเมซอน ใน Kindle หรือปกอ่อน คุณยังสามารถดูตัวเลือกการสั่งซื้อเพิ่มเติมได้ที่ เอ็มไอที หน้า.