Michael Schrage, Pengarang Recommendation Engines (The MIT Press) – Seri Wawancara

Michael Schrage adalah Research Fellow di MIT Sloan School of Management’s Initiative on the Digital Economy. Sebagai ahli yang dicari untuk inovasi, metrik, dan efek jaringan, ia adalah penulis dari Siapa yang Anda Inginkan Pelanggan Anda Menjadi?, The Innovator’s Hypothesis: Bagaimana Eksperimen Murah Lebih Berharga daripada Ide Bagus (MIT Press), dan buku lainnya.

Dalam wawancara ini, kita membahas bukunya “Recommendation Engines” yang mengeksplorasi sejarah, teknologi, bisnis, dan dampak sosial dari mesin rekomendasi online.

Apa yang menginspirasi Anda untuk menulis buku tentang topik yang cukup sempit seperti “Mesin Rekomendasi”?

Pengaturan pertanyaan Anda mengungkapkan permainan….. Ketika saya melihat serius teknologi digital dan titik sentuh yang benar-benar mempengaruhi kehidupan orang di seluruh dunia, saya hampir selalu menemukan ‘mesin rekomendasi’ yang mengemudi keputusan. Rekomendasi Spotify menentukan musik dan lagu yang didengar orang; mesin rekomendasi TikTok mendefinisikan ‘video viral’ yang dibuat dan dibagikan orang; rekomendasi Netflix (NFLX ) telah dirancang untuk memfasilitasi ‘menonton berlebihan’ dan ‘penonton berlebihan’; Google Maps dan Waze merekomendasikan cara terbaik dan/atau tercepat dan/atau termudah untuk sampai ke sana; Tinder dan Match.com merekomendasikan siapa yang mungkin Anda sukai atau, Anda tahu, ‘bersama’; Stitch Fix (SFIX ) merekomendasikan apa yang mungkin Anda ingin kenakan yang membuat Anda ‘Anda’; Amazon (AMZN ) akan merekomendasikan apa yang sebenarnya Anda harus beli; Academia dan ResearchGate akan merekomendasikan penelitian yang paling relevan yang harus Anda ketahui…. Saya bisa melanjutkan – dan melakukannya di buku – tetapi baik secara teknis maupun konseptual, ‘Mesin Rekomendasi’ adalah lawan dari ‘topik sempit.’ Tujuan dan tujuannya mencakup seluruh rentang keinginan dan keputusan manusia.

Sebuah kutipan dalam buku Anda adalah sebagai berikut: “Rekomendasi bukan hanya tentang apa yang mungkin kita beli, tetapi tentang siapa yang mungkin kita ingin menjadi”. Bagaimana hal ini dapat disalahgunakan oleh perusahaan atau aktor jahat?

Tidak ada keraguan bahwa rekomendasi dapat disalahgunakan. Pertanyaan ‘klasik’ – Cui bono? – ‘Siapa yang diuntungkan?’ – berlaku. Apakah rekomendasi benar-benar dimaksudkan untuk menguntungkan penerima atau entitas/perusahaan yang membuat rekomendasi? Sama seperti mudah bagi seorang rekan, kenalan, atau ‘teman’ yang mengenal Anda untuk menawarkan saran yang sebenarnya tidak dalam kepentingan terbaik Anda, itu adalah snap digital untuk ‘rekomendasi berbasis data’ untuk menyarankan Anda membeli sesuatu yang meningkatkan ‘keuntungan mereka’ dengan mengorbankan ‘utilitas’ atau ‘kepuasan’ Anda. Pada satu tingkat, saya sangat khawatir tentang potensi – dan kenyataan – penyalahgunaan. Pada tingkat lain, saya pikir kebanyakan orang menyadari dengan cepat ketika mereka sedang dieksploitasi atau dimanipulasi oleh orang atau teknologi. Tipu saya sekali, malu saya; tipu saya dua atau tiga kali, malu saya. Rekomendasi adalah salah satu domain khusus di mana bijak untuk bersikap etis dan etis untuk menjadi pintar.

Apakah kamar gema di mana pengguna hanya diberi apa yang mereka inginkan lihat tanpa memperhatikan akurasi adalah masalah sosial?

Eli Pariser menciptakan frasa yang sangat baik ‘gelembung filter’ untuk menggambarkan fenomena dan patologi ini. Saya sebagian besar setuju dengan perspektifnya. Sebenarnya, saya pikir sekarang adil untuk mengatakan bahwa ‘bias konfirmasi’ – bukan seks – adalah yang benar-benar mengemudi sebagian besar perilaku manusia dewasa. Kebanyakan orang mencari kesepakatan sebagian besar waktu. Rekomendasi harus menavigasi jalur yang hati-hati antara novelti, keragaman, relevansi, dan kebetulan karena – sementara terlalu banyak konfirmasi membosankan dan berlebihan – terlalu banyak novelti dan tantangan dapat mengganggu dan menyinggung. Jadi, ya, pencarian konfirmasi adalah masalah pribadi dan sosial. Namun, saya memang bertanya-tanya apakah regulasi dan tinjauan hukum akan semakin mendefinisikan masa depan rekomendasi.

Gelembung filter saat ini membatasi paparan terhadap perspektif yang bertentangan, kontradiktif, dan/atau menantang. Apakah harus ada beberapa jenis regulasi yang mencegah jenis penghalusan berlebihan ini?

Saya lebih suka pengawasan ringan daripada pengawasan tangan berat. Kebanyakan platform yang saya lihat melakukan pekerjaan yang cukup buruk dalam melabeli ‘berita palsu’ atau menetapkan kontrol kualitas. Saya ingin melihat lebih banyak mekanisme inovatif yang dieksplorasi: geser ke kiri untuk mengambil perspektif kontrarian; sematkan tautan yang meluas pada cerita atau video dengan cara yang mendalamkan pemahaman atau dekontekstualisasi ‘bias’ yang dikonfirmasi. Namun, mari kita jelas: arsitektur pilihan yang ‘mencegah’ atau ‘menciptakan friksi’ memerlukan data dan kepekaan desain yang berbeda daripada yang ‘melarang’ atau ‘mensor’ atau ‘mencegah.’ Saya pikir ini adalah masalah yang sangat sulit bagi orang dan mesin. Apa yang membuatnya sangat sulit adalah bahwa manusia – pada kenyataannya – kurang dapat diprediksi daripada yang banyak psikolog dan ilmuwan sosial percaya. Ada banyak ‘teori pikiran’ dan ‘agensi’ yang bersaing saat ini. Semakin dipersonalisasi rekomendasi dan rekomendasi, semakin menantang dan anachronistik ‘satu ukuran cocok untuk semua’ menjadi.

Apakah pengguna akhir dan masyarakat harus menuntut keterjelasan tentang mengapa rekomendasi tertentu dibuat?

Ya, ya, dan ya. Bukan hanya ‘keterjelasan’ tetapi juga ‘visibilitas,’ ‘transparansi,’ dan ‘interpretasi,’ juga. Orang harus memiliki hak untuk melihat dan memahami teknologi yang digunakan untuk mempengaruhi mereka. Mereka harus dapat menghargai algoritma yang digunakan untuk mendorong dan membujuk mereka. Pikirkan ini sebagai rekan algoritmik dari ‘persetujuan informasi’ dalam kedokteran. Pasien memiliki hak untuk mendapatkan – dan dokter memiliki kewajiban untuk memberikan – alasan dan rasional untuk memilih ‘jalur tindakan’ ini daripada yang lain. Sebenarnya, saya berpendapat bahwa ‘persetujuan informasi’ – dan masa depannya – dalam kedokteran dan perawatan kesehatan menawarkan template yang baik untuk masa depan ‘persetujuan informasi’ untuk mesin rekomendasi.

Apakah Anda percaya bahwa mungkin untuk “menghack” otak manusia menggunakan Mesin Rekomendasi?

Otak atau pikiran? Tidak bercanda. Apakah kita secara material – listrik dan kimia – menghack neuron dan lobus? Atau apakah kita menggunakan stimulus sensorik yang kurang invasif untuk memicu perilaku yang dapat diprediksi? Terus terang, saya percaya bahwa beberapa otak – dan beberapa pikiran – dapat dihack beberapa kali. Namun, apakah saya percaya bahwa orang akan menjadi ‘boneka daging’ yang menari ke irama rekomendasi? Saya tidak. Lihat, beberapa orang menjadi pecandu. Beberapa orang kehilangan otonomi dan kontrol diri. Dan, ya, beberapa orang ingin mengeksploitasi orang lain. Namun, bukti yang lebih besar tidak membuat saya khawatir tentang ‘senjata rekomendasi.’ Saya lebih khawatir tentang penyalahgunaan kepercayaan.

Sebuah kutipan dalam sebuah makalah penelitian oleh Jason L. Harman dan Jason L. Harman menyatakan hal berikut: “Kepercayaan yang ditempatkan manusia pada rekomendasi adalah kunci keberhasilan sistem rekomendasi”. Apakah Anda percaya bahwa media sosial telah mengkhianati kepercayaan itu?

Saya percaya pada kutipan itu. Saya percaya bahwa kepercayaan memang kunci. Saya percaya bahwa orang pintar dan etis benar-benar memahami dan menghargai pentingnya kepercayaan. Dengan permohonan maaf kepada komentar Churchill tentang keberanian, kepercayaan adalah kebajikan yang memungkinkan koneksi dan pertumbuhan manusia yang sehat. Namun, saya nyaman untuk berpendapat bahwa kebanyakan platform media sosial – ya, Twitter dan Facebook (META ), saya melihat Anda! – tidak dibangun di sekitar atau berdasarkan kepercayaan. Mereka dibangun untuk memfasilitasi dan menskala ekspresi diri. Kemampuan untuk mengekspresikan diri dengan skala tidak memiliki hubungan dengan menciptakan atau membangun kepercayaan. Tidak ada yang perlu dikhianati. Dengan rekomendasi, ada.

Anda menyatakan keyakinan Anda bahwa masa depan Mesin Rekomendasi akan menampilkan rekomendasi terbaik untuk meningkatkan pikiran seseorang. Menurut Anda, apakah ada Mesin Rekomendasi yang saat ini bekerja pada sistem seperti itu?

Belum. Saya melihat itu sebagai pasar triliun dolar berikutnya. Saya pikir Amazon dan Google dan Alibaba dan Tencent ingin mencapai sana. Namun, siapa tahu, mungkin ada seorang inovator wirausaha yang akan mengejutkan kita semua: mungkin Spotify yang mengintegrasikan kesadaran dan saran yang tepat waktu yang bisikan ‘nasihat’ mungkin menjadi terobosan yang meningkatkan pikiran.

Bagaimana Anda merangkum bagaimana Mesin Rekomendasi memungkinkan pengguna untuk lebih memahami diri mereka sendiri?

Rekomendasi adalah tentang pilihan yang baik…. kadang-kadang, bahkan pilihan yang hebat. Apa pilihan yang Anda terima? Apa pilihan yang Anda abaikan? Apa pilihan yang Anda tolak? Memiliki keberanian untuk bertanya – dan menjawab – pertanyaan itu memberi Anda wawasan yang luar biasa tentang siapa Anda dan siapa yang mungkin Anda ingin menjadi. Kami adalah pilihan yang kami buat; apa pun yang mempengaruhi pilihan itu memiliki dampak dan pengaruh yang luar biasa pada kami.

Apakah ada yang lain yang Anda ingin bagikan tentang buku Anda?

Ya – dalam analisis pertama dan terakhir, buku saya tentang masa depan saran dan masa depan siapa yang ‘benar-benar’ Anda ingin menjadi. Ini tentang masa depan diri – ‘diri’ Anda. Saya pikir itu subjek yang menarik dan penting, tidakkah Anda?

Terima kasih telah meluangkan waktu untuk berbagi pandangan Anda.

Untuk pembaca kami, kami sangat merekomendasikan buku ini, saat ini tersedia di Amazon dalam format Kindle atau paperback. Anda juga dapat melihat lebih banyak pilihan pemesanan di halaman MIT Press.