Μιχάελ Σκράγκε, Συγγραφέας του Recommendation Engines (The MIT Press) – Σειρά Συνεντεύξεων

Ο Μιχάελ Σκράγκε είναι Ερευνητικός Συνεργάτης στο/MIT Sloan School of Management’s Initiative on the Digital Economy. Ένας αναζητούμενος εμπειρογνώμων για την καινοτομία, τις μετρήσεις και τις επιπτώσεις δικτύου, είναι ο συγγραφέας του Ποιοι θέλετε οι πελάτες σας να γίνουν;, Η Υπόθεση του Καινοτόμου: Πώς οι φθηνές πειραματικές διαδικασίες αξίζουν περισσότερο από τις καλές ιδέες (MIT Press) και άλλων βιβλίων.

Σε αυτή τη συνέντευξη συζητάμε το βιβλίο του “Recommendation Engines” που εξετάζει την ιστορία, την τεχνολογία, το бизнес και την κοινωνική επίδραση των διαδικτυακών μηχανισμών συστάσεων.

Τι σας έκανε να γράψετε ένα βιβλίο για ένα τόσο στενό θέμα όπως οι “Μηχανισμοί Συστάσεων”;

Η διατύπωση του ερωτήματός σας αποκαλύπτει το παιχνίδι….. Όταν έψαξα σοβαρά τις ψηφιακές τεχνολογίες και τα σημεία επαφής που πραγματικά επηρεάζουν τις ζωές των ανθρώπων σε όλο τον κόσμο, σχεδόν πάντα βρήκα einen “μηχανισμό συστάσεων” που οδηγούσε την απόφαση. Οι προτεινόμενοι της Spotify καθορίζουν τη μουσική και τα τραγούδια που ακούει ο κόσμος· οι μηχανισμοί συστάσεων του TikTok ορίζουν τα “ιόρατα βίντεο” που βάζουν μαζί και μοιράζονται οι άνθρωποι· οι προτεινόμενοι της Netflix (NFLX ) έχουν σχεδιαστεί για να διευκολύνουν το “binge watching” και τους “binge watchers”· ο Google Maps και ο Waze προτείνουν τον καλύτερο και/ή τον ταχύτερο και/ή τον πιο απλό τρόπο για να φτάσετε εκεί· το Tinder και το Match.com προτείνουν ποιον θα μπορούσατε να θέλετε να είστε μαζί ή, να είστε μαζί· το Stitch Fix (SFIX ) προτείνει τι θα θέλατε να φορέσετε που σας κάνει “εσάς”· η Amazon (AMZN ) θα προτείνει τι πραγματικά πρέπει να αγοράσετε· η Academia και η ResearchGate θα προτείνουν την πιο σχετική έρευνα που πρέπει να είστε ενημερωμένοι…. Μπορώ να συνεχίσω – και το κάνω στο βιβλίο – αλλά τόσο τεχνικά όσο και концепτουαλικά, οι “μηχανισμοί συστάσεων” είναι το αντίθετο του “στενού”. Ο σκοπός και ο προορισμός τους καλύπτουν ολόκληρη την έκταση της ανθρώπινης επιθυμίας και απόφασης.

Μια 引用 στο βιβλίο σας λέει如下: “Οι προτεινόμενοι δεν είναι μόνο για αυτό που θα αγοράσουμε, αλλά και για ποιον θα θέλαμε να γίνουμε”. Πώς θα μπορούσε αυτό να εκμεταλλευτεί από επιχειρήσεις ή κακόβουλους ηθοποιούς;

Δεν υπάρχει αμφιβολία ότι η σύσταση μπορεί να εκμεταλλευτεί. Η “κλασική” κλασική ερώτηση – Cui bono? – “Ποιος ωφελείται;” – εφαρμόζεται. Οι προτεινόμενοι είναι πραγματικά για να ωφελήσουν τον παραλήπτη ή την οντότητα/επιχείρηση που κάνει τη σύσταση; Όπως είναι εύκολο για einen συνάδελφο, γνωστό ή “φίλο” που σας γνωρίζει να προτείνει μια συμβουλή που δεν είναι πραγματικά στο besten interesse σας, είναι ψηφιακό σναπ για “데이터 driven” προτεινόμενους να προτείνουν να αγοράσετε κάτι που αυξάνει το κέρδος τους με βάρος του “υποκειμένου” σας ή της ικανοποίησής σας. Σε ένα επίπεδο, είμαι πολύ ανήσυχος για το δυνατό – και την πραγματικότητα – της εκμετάλλευσης. Από την άλλη πλευρά, νομίζω ότι οι περισσότεροι άνθρωποι καταλαβαίνουν αρκετά γρήγορα όταν εκμεταλλεύονται ή χειραγωγούνται από ανθρώπους ή τεχνολογία. Φωλιάζω einmal, ντροπή σε σας· φωλιάζω δύο ή τρεις φορές, ντροπή σε μένα. Η σύσταση είναι ένα από αυτά τα đặc biệt domaine όπου είναι έξυπνο να είναι ηθικός και ηθικός να είναι έξυπνος.

Είναι οι ηχώ θάλαμοι όπου οι χρήστες τρέφονται μόνο με αυτό που θέλουν να δουν, ανεξάρτητα από την ακρίβεια, ένα κοινωνικό ζήτημα;

Ο Eli Pariser έδωσε την εξαιρετική φράση “το φίλτρο φυσαλίδας” για να περιγράψει αυτό το φαινόμενο και την παθολογία. Συμφωνώ σε μεγάλο βαθμό με την προοπτική του. Στην πραγματικότητα, νομίζω ότι είναι τώρα δίκαιο να πω ότι η “επιβεβαίωση προκατάληψης” – και όχι το σεξ – είναι αυτό που πραγματικά οδηγεί τη meisten ενήλικο ανθρώπινο συμπεριφορά. Οι περισσότεροι άνθρωποι ψάχνουν για συμφωνία τις περισσότερες φορές. Οι προτεινόμενοι πρέπει να πλοηγηθούν ένα προσεκτικό δρόμο μεταξύ καινοτομίας, ποικιλίας, σχετικότητας και τύχης, γιατί – ενώ πολύ επιβεβαίωση είναι βαρετό και αναπαραγωγικό – πολύ καινοτομία και πρόκληση μπορεί να ενοχλήσει και να προσβάλει. Έτσι, ναι, η αναζήτηση επιβεβαίωσης είναι και προσωπικό και κοινωνικό ζήτημα. Όμως, οι προτεινόμενοι προσφέρουν έναν σχετικά ανόητο τρόπο να φέρουν εναλλακτικές προοπτικές και επιλογές στη προσοχή των ανθρώπων., Ωστόσο, αναρωτιέμαι αν η ρύθμιση και η νομική ανασκόπηση θα ορίσουν όλο και περισσότερο το μέλλον της σύστασης.

Οι ηχώ θάλαμοι περιορίζουν目前 την έκθεση σε αντικρουόμενα, αντίθετα και προκλητικά/απόψεις. Θα πρέπει να υπάρχει κάποιου είδους ρύθμιση που αποθαρρύνει αυτό το είδος υπερ-φιλτράρισμα;

Προτιμώ την ελαφριά επαφή με την αυστηρή ρυθμιστική εποπτεία. Οι περισσότερες πλατφόρμες που βλέπω δεν κάνουν μια khá καλή δουλειά στην επισήμανση “ψευδών ειδήσεων” ή στην καθιέρωση ελέγχου ποιότητας. Θα ήθελα να δω περισσότερα καινοτόμα μηχανισμοί να εξερευνηθούν: swipe αριστερά για μια αντίθετη λήψη· ενσωματώστε συνδέσμους που διευρύνουν ιστορίες ή βίντεο με τρόπους που βαθύνουν την κατανόηση ή απο-παραμετροποιούν την “προκατάληψη” που επιβεβαιώνεται. Αλλά ας είμαστε σαφείς: οι αρχιτεκτονικές επιλογής που “αποθαρρύνουν” ή δημιουργούν “τρίκλες” απαιτούν διαφορετικά δεδομένα και ευαισθησίες σχεδίασης από εκείνες που “απαγορεύουν” ή “цензуρα” ή “αποτρέπουν”. Νομίζω ότι αυτό είναι ένα πολύ δύσκολο πρόβλημα για τους ανθρώπους και τις μηχανές. Τι το κάνει ιδιαίτερα δύσκολο είναι ότι οι άνθρωποι – στην πραγματικότητα – είναι λιγότερο προβλέψιμοι από ότι πολλοί ψυχολόγοι και κοινωνικοί επιστήμονες πιστεύουν. Υπάρχουν πολλές ανταγωνιστικές “θεωρίες του νου” και “πρακτόρων” αυτές τις μέρες. Όσο πιο προσωποποιημένες γίνονται οι προτεινόμενοι και οι προτεινόμενοι, τόσο πιο δύσκολο και αναχρονιστικό γίνεται η “μία μέγεθος ταιριάζει όλα” προσεγγίσεις. Είναι ένας από τους πολλούς λόγους που αυτό το domaine με ενδιαφέρει τόσο.

Θα πρέπει οι τελικοί χρήστες και η κοινωνία να απαιτούν εξηγήσιμότητα σχετικά με το γιατί γίνονται συγκεκριμένες συστάσεις;

Ναι, ναι και ναι. Όχι μόνο “εξηγήσιμότητα” αλλά και “ορατότητα”, “διαφάνεια” και “ερμηνευσιμότητα” επίσης. Οι άνθρωποι πρέπει να έχουν το δικαίωμα να δουν και να κατανοήσουν τις τεχνολογίες που χρησιμοποιούνται για να τους επηρεάσουν. Θα πρέπει να μπορούν να εκτιμήσουν τους αλγόριθμους που χρησιμοποιούνται για να τους πιέσουν και να τους πείσουν. Σκεφτείτε αυτό ως τον αλγοριθμικό αντίστοιχο του “ενημερωμένου συναινέσεως” στην ιατρική. Οι ασθενείς έχουν το δικαίωμα να λάβουν – και οι γιατροί έχουν την υποχρέωση να παρέχουν – τους λόγους και τις λογικές για την επιλογή “αυτής” της διαδικασίας σε σχέση με “αυτή” την άλλη. Πράγματι, υποστηρίζω ότι το “ενημερωμένο συναινέσει” – και το μέλλον του – στην ιατρική και την υγεία προσφέρει ένα καλό πρότυπο για το μέλλον του “ενημερωμένου συναινέσεως” για τους μηχανισμούς συστάσεων.

Πιστεύετε ότι είναι δυνατό να “χάκαρε” τον ανθρώπινο εγκέφαλο χρησιμοποιώντας Μηχανισμούς Συστάσεων;

Ο εγκέφαλος ή ο νους; Δεν πειράζει. Είναι υλικά – ηλεκτρικά και χημικά – χάκαρε νευρώνες και λοβούς; Ή χρησιμοποιούμε λιγότερο εισβολική αισθητηριακή ερέθισμα για να προκαλέσουμε προβλέψιμη συμπεριφορά; Ανοικτά, πιστεύω ότι κάποιοι εγκέφαλοι – και κάποιοι νου – είναι χάκαρε κάποιες φορές. Αλλά πιστεύω ότι οι άνθρωποι δεν είναι προορισμένοι να γίνουν “κρεμαστά πουλιά” που χορεύουν στα τραγούδια της σύστασης. Ιδού, κάποιοι άνθρωποι γίνονται εθισμένοι. Κάποιοι άνθρωποι χάνουν την αυτονομία και τον έλεγχο. Και, ναι, κάποιοι άνθρωποι θέλουν να εκμεταλλευτούν άλλους. Αλλά η πλειοψηφία των ενδείξεων δεν με κάνει να ανησυχώ για την “οπλοποίηση της σύστασης”. Είμαι πιο ανήσυχος για την κακοποίηση της εμπιστοσύνης.

Μια αναφορά σε ένα ερευνητικό έγγραφο από τον Jason L. Harman και Jason L. Harman αναφέρει το ακόλουθο: “Η εμπιστοσύνη που οι άνθρωποι τοποθετούν στις συστάσεις είναι κλειδί για την επιτυχία των συστημάτων συστάσεων”. Πιστεύετε ότι τα κοινωνικά μέσα έχουν προδώσει αυτή την εμπιστοσύνη;

Πιστεύω σε αυτή την αναφορά. Πιστεύω ότι η εμπιστοσύνη είναι, στην πραγματικότητα, κλειδί. Πιστεύω ότι έξυπνοι και ηθικοί άνθρωποι πραγματικά κατανοούν και εκτιμούν την σημασία της εμπιστοσύνης. Με απολογίες για το σχόλιο του Churchill για το θάρρος, η εμπιστοσύνη είναι η αρετή που ermögνίζει υγιή ανθρώπινη σύνδεση και ανάπτυξη. Όμως, είμαι άνετος να υποστηρίζω ότι οι περισσότερες πλατφόρμες κοινωνικών μέσων – ναι, Twitter και Facebook (META ), σας κοιτάω! – δεν είναι χτισμένες γύρω από ή βασισμένες στην εμπιστοσύνη. Είναι βασισμένες στην διευκόλυνση και την κλιμάκωση της αυτο-έκφρασης. Η ικανότητα να εκφράσετε τον εαυτό σας σε κλίμακα έχει κυριολεκτικά τίποτα να κάνει με τη δημιουργία ή την οικοδόμηση εμπιστοσύνης. Δεν υπήρχε τίποτα να προδώσει. Με τη σύσταση, υπάρχει.

Λέτε ότι πιστεύετε ότι το μέλλον των Μηχανισμών Συστάσεων θα περιλαμβάνει τις καλύτερες συστάσεις για να βελτιώσουν τον νου σας. Υπάρχει κάποιος Μηχανισμός Συστάσεων που εργάζεται σε τέτοιο ένα σύστημα;

Όχι ακόμη. Το βλέπω ως την επόμενη αγορά τρισεκατομμυρίων δολαρίων. Νομίζω ότι η Amazon και η Google και η Alibaba και η Tencent θέλουν να φτάσουν εκεί. Αλλά, ποιος ξέρει, μπορεί να υπάρχει ένας επιχειρηματικός καινοτόμος που θα μας εκπλήξει όλους: μπορεί να είναι η Spotify που ενσωματώνει τη φροντίδα του νου και τη σοφία της στιγμής “συμβουλές” που μπορεί να είναι η νέα πρόοδος.

Πώς θα περιγράψατε πώς οι Μηχανισμοί Συστάσεων ermögνουν στους χρήστες να κατανοήσουν καλύτερα τον εαυτό τους;

Οι συστάσεις είναι για καλές επιλογές…. κάποιες φορές, ακόμη και μεγάλες επιλογές. Ποίες είναι οι επιλογές που αποδεχτείτε; Ποίες είναι οι επιλογές που αγνοείτε; Ποίες είναι οι επιλογές που απορρίπτετε; Η ευκαιρία να ζητήσετε – και να απαντήσετε – αυτά τα ερωτήματα σας δίνει αξιοσημείωτη είσοδο σε ποιος είστε και ποιος θα θέλατε να γίνετε. Είμαστε οι επιλογές που κάνουμε· ότι επηρεάζει αυτές τις επιλογές έχει αξιοσημείωτη επίδραση και επιρροή σε μας.

Υπάρχει κάτι άλλο που θα θέλατε να μοιραστείτε σχετικά με το βιβλίο σας;

Ναι – στην πρώτη και τελική ανάλυση, το βιβλίο μου είναι για το μέλλον της σύστασης και το μέλλον του ποιος “πραγματικά” θέλετε να γίνετε. Είναι για το μέλλον του εαυτού – του “εαυτού” σας. Νομίζω ότι αυτό είναι και ένα ενθουσιαστικό και σημαντικό θέμα, δεν νομίζετε;

Ευχαριστώ για το χρόνο που μετέτρεψατε τις απόψεις σας.

Στους αναγνώστες μας συνιστούμε έντονα αυτό το βιβλίο, είναι διαθέσιμο στο Amazon σε μορφή Kindle ή χαρτόδετο. Μπορείτε επίσης να δείτε περισσότερες επιλογές παραγγελίας στη σελίδα MIT Press.