Michael Schrage, Συγγραφέας του Recommendation Engines (The MIT Press) – Σειρά συνεντεύξεων

Ο Michael Schrage είναι ερευνητής στο MIT Sloan School of Management's Initiative on the Digital Economy. Ένας περιζήτητος ειδικός σε θέματα καινοτομίας, μετρήσεων και εφέ δικτύου, είναι ο συγγραφέας του Ποιοι θέλετε να γίνουν οι πελάτες σας;, Η υπόθεση του καινοτόμου: Πόσο τα φθηνά πειράματα αξίζουν περισσότερο από καλές ιδέες (MIT Press) και άλλα βιβλία.

Σε αυτή τη συνέντευξη συζητάμε το βιβλίο του "Μηχανές συστάσεων», η οποία διερευνά την ιστορία, την τεχνολογία, τις επιχειρήσεις και τον κοινωνικό αντίκτυπο των ηλεκτρονικών μηχανών συστάσεων.

Τι σας ενέπνευσε να γράψετε ένα βιβλίο για ένα τόσο στενό θέμα όπως οι «Μηχανές Σύστασης»;

Το πλαίσιο της ερώτησής σας χαρίζει το παιχνίδι…..Όταν κοίταξα σοβαρά τις ψηφιακές τεχνολογίες και τα σημεία επαφής που επηρέασαν πραγματικά τις ζωές των ανθρώπων σε όλο τον κόσμο, σχεδόν πάντα έβρισκα μια απόφαση οδήγησης για «μηχανή συστάσεων». Οι προτείνοντες του Spotify καθορίζουν τη μουσική και τα τραγούδια που ακούνε οι άνθρωποι. Οι μηχανές συστάσεων του TikTok ορίζουν τα «ιογενή βίντεο» που συγκεντρώνουν και μοιράζονται οι άνθρωποι. Οι συστάσεις του Netflix σχεδιάστηκαν για να διευκολύνουν την «υπερβολική παρακολούθηση» και τους «παρακολούθηση υπερφαγίας». Οι Χάρτες Google και το Waze προτείνουν τους καλύτερους ή/και ταχύτερους και/ή απλούς τρόπους για να φτάσετε εκεί. Tinder και Match.com προτείνετε με ποιον μπορεί να θέλετε να είστε ή, ξέρετε, να 'ναι με. Το Stitch Fix προτείνει τι μπορεί να θέλετε να φορέσετε που σας κάνει «εσύ. Η Amazon θα σας προτείνει τι πραγματικά θα έπρεπε να αγοράσετε. Το Academia και το ResearchGate θα σας προτείνουν την πιο σχετική έρευνα για την οποία θα έπρεπε να είστε ενημερωμένοι... Θα μπορούσα να συνεχίσω – και να το κάνω, στο βιβλίο – αλλά τόσο τεχνικά όσο και εννοιολογικά, οι «Μηχανές Σύστασης» είναι ο αντίποδας του «στενού». Το σημείο και ο σκοπός τους καλύπτει ολόκληρο το σκούπισμα της ανθρώπινης επιθυμίας και απόφασης.

Ένα απόσπασμα στο βιβλίο σας είναι το εξής: «Οι συστάσεις δεν αφορούν μόνο το τι μπορούμε να αγοράσουμε, αλλά το ποιοι μπορεί να θέλουμε να γίνουμε». Πώς θα μπορούσε να γίνει κατάχρηση από επιχειρήσεις ή κακούς παράγοντες;

Δεν υπάρχει αμφιβολία ή αμφιβολία ότι η σύσταση μπορεί να γίνει κατάχρηση. Η «κλασική» κλασική ερώτηση – Cui bono; – «Ποιος ωφελείται;» – ισχύει. Οι συστάσεις προορίζονται πραγματικά να ωφελήσουν τον αποδέκτη ή την οντότητα/επιχείρηση που κάνει τη σύσταση; Ακριβώς όπως είναι εύκολο για έναν συνάδελφο, γνωστό ή «φίλο» που σας γνωρίζει να προσφέρει συμβουλές που πραγματικά δεν είναι προς το συμφέρον σας, είναι ένα ψηφιακό στιγμιότυπο για τους «βασισμένους σε δεδομένα» συστάσεις να σας προτείνουν να αγοράσετε κάτι που αυξάνει το «τους» κέρδος σε βάρος της χρησιμότητας ή της ικανοποίησής σας. Σε ένα επίπεδο, ανησυχώ πολύ για το ενδεχόμενο –και την πραγματικότητα– της κατάχρησης. Από την άλλη, νομίζω ότι οι περισσότεροι άνθρωποι πιάνουν πολύ γρήγορα πότε γίνονται αντικείμενο εκμετάλλευσης ή χειραγώγησης από ανθρώπους ή τεχνολογία. Ξεγελάστε με μια φορά, ντροπή σας. κοροϊδέψτε με δύο ή τρεις φορές, ντροπή μου. Η σύσταση είναι ένας από εκείνους τους ειδικούς τομείς όπου είναι έξυπνο να είσαι ηθικός και ηθικός να είσαι έξυπνος. 

Οι θάλαμοι ηχούς όπου οι χρήστες απλώς τροφοδοτούνται με αυτό που θέλουν να δουν ανεξάρτητα από την ακρίβεια είναι ένα κοινωνικό ζήτημα;

Ο Eli Pariser επινόησε την εξαιρετική φράση «η φούσκα του φίλτρου» για να περιγράψει αυτό το φαινόμενο και την παθολογία. Συμφωνώ σε μεγάλο βαθμό με την άποψή του. Στην πραγματικότητα, νομίζω ότι τώρα είναι δίκαιο να πούμε ότι η «προκατάληψη επιβεβαίωσης» – όχι το σεξ – είναι αυτό που πραγματικά οδηγεί τους περισσότερους ενήλικους ανθρώπους. Οι περισσότεροι άνθρωποι αναζητούν συμφωνία τις περισσότερες φορές. Οι προτεινόμενοι πρέπει να ακολουθήσουν μια προσεκτική πορεία μεταξύ της καινοτομίας, της συνάφειας της διαφορετικότητας και της ηρεμίας γιατί – ενώ η υπερβολική επιβεβαίωση είναι βαρετή και περιττή – η υπερβολική καινοτομία και η πρόκληση μπορεί να ενοχλήσουν και να προσβάλλουν. Άρα, ναι, η αναζήτηση επιβεβαίωσης είναι τόσο προσωπικό όσο και κοινωνικό ζήτημα. Τούτου λεχθέντος, οι συστάτες προσφέρουν έναν σχετικά μη αντιπαθητικό τρόπο για να φέρουν εναλλακτικές προοπτικές και επιλογές στην προσοχή των ανθρώπων. Ωστόσο, αναρωτιέμαι, πράγματι, εάν η ρύθμιση και η νομική αναθεώρηση θα καθορίζουν όλο και περισσότερο το μέλλον της σύστασης.

Οι φυσαλίδες φίλτρου περιορίζουν επί του παρόντος την έκθεση σε αντικρουόμενες, αντικρουόμενες ή/και προκλητικές/απόψεις. Θα έπρεπε να υπάρχει κάποιο είδος ρύθμισης που να αποθαρρύνει αυτού του είδους το υπερβολικό φιλτράρισμα;

Προτιμώ την ελαφριά από την βαριά ρυθμιστική εποπτεία. Οι περισσότερες πλατφόρμες που βλέπω κάνουν πολύ κακή δουλειά όσον αφορά την επισήμανση «ψευδών ειδήσεων» ή την καθιέρωση ποιοτικού ελέγχου. Θα ήθελα να δω να διερευνώνται περισσότεροι καινοτόμοι μηχανισμοί: σύρετε προς τα αριστερά για αντίθετη λήψη. ενσωματώστε συνδέσμους που επεξεργάζονται ιστορίες ή βίντεο με τρόπους που εμβαθύνουν στην κατανόηση ή αποσυμπιέζουν την «προκατάληψη» που επιβεβαιώνεται. Αλλά ας είμαστε ξεκάθαροι: οι αρχιτεκτονικές επιλογής που «αποθαρρύνουν» ή δημιουργούν «τριβές» απαιτούν διαφορετικές ευαισθησίες δεδομένων και σχεδιασμού από αυτές που «απαγορεύουν» ή «λογοκρίνουν» ή «αποτρέπουν». Νομίζω ότι αυτό είναι ένα πολύ δύσκολο πρόβλημα για ανθρώπους και μηχανές. Αυτό που το κάνει ιδιαίτερα δύσκολο είναι ότι τα ανθρώπινα όντα – στην πραγματικότητα – είναι λιγότερο προβλέψιμα από ό,τι πιστεύουν πολλοί ψυχολόγοι και κοινωνικοί επιστήμονες. Υπάρχουν πολλές ανταγωνιστικές «θεωρίες του μυαλού» και «πρακτορείου» αυτές τις μέρες. Όσο πιο εξατομικευμένες γίνονται οι συστάσεις και οι συστάσεις, τόσο πιο προκλητικές και αναχρονιστικές γίνονται οι προσεγγίσεις «ένα μέγεθος για όλους». Είναι ένας από τους πολλούς λόγους που με ενδιαφέρει τόσο αυτός ο τομέας.

Πρέπει οι τελικοί χρήστες και η κοινωνία να απαιτούν εξηγήσεις ως προς το γιατί γίνονται συγκεκριμένες συστάσεις;

Ναι, ναι και ναι. Όχι μόνο «επεξηγησιμότητα», αλλά «ορατότητα», «διαφάνεια» και «ερμηνευτικότητα», επίσης. Οι άνθρωποι θα πρέπει να έχουν το δικαίωμα να βλέπουν και να κατανοούν τις τεχνολογίες που χρησιμοποιούνται για να τους επηρεάσουν. Θα πρέπει να είναι σε θέση να εκτιμούν τους αλγόριθμους που χρησιμοποιούνται για να τους ωθήσουν και να τους πείσουν. Σκεφτείτε αυτό ως το αλγοριθμικό αντίστοιχο της «ενημερωμένης συναίνεσης» στην ιατρική. Οι ασθενείς έχουν το δικαίωμα να πάρουν - και οι γιατροί έχουν το καθήκον να παρέχουν - τους λόγους και τους λόγους για την επιλογή «αυτήν» την πορεία δράσης σε «εκείνο». Πράγματι, υποστηρίζω ότι η «ενημερωμένη συγκατάθεση» –και το μέλλον της– στην ιατρική και την υγειονομική περίθαλψη προσφέρει ένα καλό πρότυπο για το μέλλον της «ενημερωμένης συναίνεσης» για κινητήρες συστάσεων. 

Πιστεύετε ότι είναι δυνατό να «χακάρετε» τον ανθρώπινο εγκέφαλο χρησιμοποιώντας το Recommender Engines;

Ο εγκέφαλος ή το μυαλό; Δεν αστειεύομαι. Παραβιάζουμε υλικώς –ηλεκτρικά και χημικά– νευρώνες και λοβούς; Ή μήπως χρησιμοποιούμε λιγότερο επεμβατικά αισθητηριακά ερεθίσματα για να προκαλέσουμε προβλέψιμες συμπεριφορές; Ομολογουμένως, πιστεύω ότι μερικοί εγκέφαλοι - και μερικά μυαλά - μπορούν να χακαριστούν κάποιες φορές. Πιστεύω όμως ότι οι άνθρωποι προορίζονται να γίνουν «μαριονέτες από κρέας» που χορεύουν σύμφωνα με τις μελωδίες της σύστασης; Εγώ δεν. Κοίτα, μερικοί άνθρωποι γίνονται εξαρτημένοι. Μερικοί άνθρωποι χάνουν την αυτονομία και τον αυτοέλεγχο. Και, ναι, μερικοί άνθρωποι θέλουν να εκμεταλλευτούν άλλους. Αλλά η υπεροχή των αποδεικτικών στοιχείων δεν με κάνει να ανησυχώ για την «όπλιση της σύστασης». Με ανησυχεί περισσότερο η κατάχρηση εμπιστοσύνης.

Ένα απόσπασμα σε μια ερευνητική εργασία των Jason L. Harman και Jason L. Harman αναφέρει τα εξής: «Η εμπιστοσύνη που έχουν οι άνθρωποι στις συστάσεις είναι το κλειδί για την επιτυχία των συστημάτων συστάσεων». Πιστεύετε ότι τα μέσα κοινωνικής δικτύωσης πρόδωσαν αυτήν την εμπιστοσύνη;

Πιστεύω σε αυτό το απόσπασμα. Πιστεύω ότι η εμπιστοσύνη είναι, πράγματι, το κλειδί. Πιστεύω ότι οι έξυπνοι και ηθικοί άνθρωποι κατανοούν και εκτιμούν πραγματικά τη σημασία της εμπιστοσύνης. Με συγγνώμη για το σχόλιο του Τσόρτσιλ για το θάρρος, η εμπιστοσύνη είναι η αρετή που επιτρέπει την υγιή ανθρώπινη σύνδεση και ανάπτυξη. Τούτου λεχθέντος, νιώθω άνετα να υποστηρίζω ότι οι περισσότερες πλατφόρμες μέσων κοινωνικής δικτύωσης – ναι, το Twitter και το Facebook, σε κοιτάζω! – δεν χτίζονται ή βασίζονται στην εμπιστοσύνη. Βασίζονται στη διευκόλυνση και την κλιμάκωση της αυτοέκφρασης. Η ικανότητα να εκφράζει κανείς τον εαυτό του σε κλίμακα δεν έχει κυριολεκτικά καμία σχέση με τη δημιουργία ή την οικοδόμηση εμπιστοσύνης. Δεν υπήρχε τίποτα να προδοθεί. Με σύσταση, υπάρχει.

Δηλώνετε την πεποίθησή σας ότι το μέλλον των Recommender Engines θα περιλαμβάνει τις καλύτερες συστάσεις για να βελτιώσετε το μυαλό κάποιου. Κατά τη γνώμη σας, εργάζονται αυτή τη στιγμή κάποια Recommendation Engines σε ένα τέτοιο σύστημα;

Οχι ακόμα. Το βλέπω ως την επόμενη αγορά τρισεκατομμυρίων δολαρίων. Νομίζω ότι η Amazon και η Google και η Alibaba και η Tencent θέλουν να φτάσουν εκεί. Αλλά, ποιος ξέρει, μπορεί να υπάρχει ένας επιχειρηματίας καινοτόμος που μας εκπλήσσει όλους: ίσως ένα Spotify που ενσωματώνει την επίγνωση και την έγκαιρη ψιθυριστή «συμβουλή» μπορεί να είναι η σημαντική ανακάλυψη.

Πώς θα συνοψίζατε πώς οι Μηχανές Προτάσεων επιτρέπουν στους χρήστες να κατανοήσουν καλύτερα τον εαυτό τους;

Οι συστάσεις αφορούν καλές επιλογές…. μερικές φορές, ακόμη και εξαιρετικές επιλογές. Ποιες είναι οι επιλογές που ασπάζεσαι; Ποιες είναι οι επιλογές που αγνοείτε; Ποιες είναι οι επιλογές που απορρίπτεις; Έχοντας το θάρρος να ρωτήσετε – και να απαντήσετε – αυτές οι ερωτήσεις σας δίνει μια αξιοσημείωτη εικόνα για το ποιοι είστε και ποιοι μπορεί να θέλετε να γίνετε. Είμαστε οι επιλογές που κάνουμε. οτιδήποτε επηρεάζει αυτές τις επιλογές έχει αξιοσημείωτο αντίκτυπο και επιρροή σε εμάς.

Υπάρχει κάτι άλλο που θα θέλατε να μοιραστείτε για το βιβλίο σας;

Ναι – σε πρώτη και τελική ανάλυση, το βιβλίο μου αφορά το μέλλον των συμβουλών και το μέλλον αυτού που «πραγματικά» θέλετε να γίνετε. Έχει να κάνει με το μέλλον του εαυτού – τον ​​«εαυτό» σου. Νομίζω ότι είναι ένα συναρπαστικό και σημαντικό θέμα, έτσι δεν είναι;

Σας ευχαριστούμε που αφιερώσατε χρόνο για να μοιραστείτε τις απόψεις σας.

Στους αναγνώστες μας προτείνω ανεπιφύλακτα αυτό το βιβλίο, είναι διαθέσιμο αυτήν τη στιγμή Amazon σε Kindle ή χαρτόδετο. Μπορείτε επίσης να δείτε περισσότερες επιλογές παραγγελίας στο MIT Press .