Michael Schrage, Recommendation Engines (The MIT Press) Kitabının Yazarı – Röportaj Serisi

Michael Schrage, MIT Sloan School of Management’in Dijital Ekonomi Girişimi’nde Araştırma Görevlisidir. İnovasyon, ölçütler ve ağ etkileri konusunda aranan bir uzman olan Schrage, Müşterilerin Kim Olmasını İstersiniz? , İnovatör Hipotezi: Ucuz Deneylerin İyi Fikirlere Göre Daha Değerli Olması (MIT Press) ve diğer kitapların yazarıdır.

Bu röportajda, online öneri motorlarının tarihini, teknolojisini, işini ve sosyal etkisini araştıran “Öneri Motorları” kitabını tartışıyoruz.

Öneri Motorları gibi dar bir konuya odaklanan bir kitap yazma kararı nasıl aldınız?

Sorunuzun çerçevesi oyunu veriyor… Dünya çapında insanların hayatlarını gerçekten etkileyen dijital teknolojileri ve dokunma noktalarını ciddiye aldığım zaman, her zaman bir ‘öneri motoru’ kararları yönlendirdiğini buldum. Spotify’nin önerileri insanların duyduğu müzikleri ve şarkıları belirler; TikTok’un öneri motorları insanların bir araya getirdiği ve paylaştığı ‘viral videoları’ tanımlar; Netflix’in önerileri ‘binge watching’ ve ‘binge watcher’leri kolaylaştırmak için tasarlandı; Google Maps ve Waze en iyi ve/veya en hızlı ve/veya en basit şekilde nasıl gideceğinizi önerir; Tinder ve Match.com sizinle olabileceğiniz veya ‘olabileceğiniz’ kişileri önerir; Stitch Fix sizin için giyilmesi gereken şeyi önerir; Amazon sizin gerçekten satın almanız gereken şeyi önerir; Academia ve ResearchGate sizin güncel olmanız gereken en ilgili araştırmaları önerir… Devam edebilir ve kitabın devamında da edeceğim – ancak hem teknik olarak hem de kavramsal olarak, ‘öneri motorları’ ‘dar’ın karşıtıdır. Their noktası ve amacı insan arzusunun ve kararının tümünü kapsar.

Kitabınızda bir alıntı şöyle diyor: “Önericiler sadece satın alabilecekleriniz hakkında değil, olmak isteyebileceğiniz kişiler hakkında da.” Nasıl kötüye kullanılabilirler?

Önerilerin kötüye kullanılacağından hiçbir kuşku veya tereddüt yoktur. Klasik soru – Cui bono? – ‘Kim yararlanıyor?’ – uygulanır. Öneriler gerçekten alıcıya mı yoksa öneriyi yapan kuruluşa mı yarar sağlamak için tasarlandı? Bir arkadaşınızın, tanıdığınızın veya ‘arkadaşınızın’ size gerçekten sizin için iyi olmayan bir tavsiye vermesi kolay olduğu gibi, ‘veri odaklı’ önericilerin sizin için faydasından çok ‘onların’ kârını artıran bir şeyi satın almanızı önermesi de dijital olarak kolaydır. Bir düzeyde, potansiyel – ve gerçek – kötüye kullanım konusunda çok endişeliyim. Öte yandan, insanların hızlı bir şekilde kendilerini veya teknolojileri tarafından sömürüldüğünü veya manipüle edildiğini fark ettiğini düşünüyorum. Bana bir kez aldat, utanç senin olsun; bana iki veya üç kez aldat, utanç benim olsun. Öneri, ahlaki olanın akıllı ve akıllı olanın ahlaki olduğu özel alanlardan biridir.

Kullanıcıların sadece görmek istediklerini gördüğü, doğruluğuna bakılmaksızın yankı odaları bir toplumsal sorun mudur?

Eli Pariser, bu olguyu ve patolojiyi tanımlamak için ‘filtre balonu’ ifadesini ortaya attı. Büyük ölçüde onunla aynı fikirdeyim. Aslında, insanların çoğunun çoğu zaman onay aradığını düşünüyorum. Önericiler, yeni ve çeşitli, ilgili ve tesadüfi arasında dikkatli bir rota izlemelidir, çünkü – fazla onaylama kadar – fazla yenilik ve zorluk da insanları rahatsız edebilir ve gücendirebilir. Evet, onay arayışı hem kişisel hem de sosyal bir sorundur. Ancak, önericilerin insanların dikkatine alternatif perspektifler ve seçenekler sunmak için nispeten rahatsız edici bir yol sunduğunu düşünüyorum. Ancak, gerçekten de düzenleme ve yasal inceleme öneri geleceğini giderek daha fazla tanımlayacak mı diye merak ediyorum.

Şu anda yankı odaları, çatışan, çelişen ve/veya zorlayıcı/görüşlere maruz kalma sınırları. Bu tür aşırı süzmelemeyi caydırıcı bir tür düzenleme olmalı mı?

Hafif dokunuşlu düzenleyici denetimden ziyade ağır elle düzenleyici denetimi tercih ediyorum. Gördüğüm çoğu platform, ‘sahte haberleri’ etiketleme veya kalite kontrolü kurma konusunda çok kötü bir iş çıkarıyor. İnovatif mekanizmaların daha fazla keşfedilmesini istiyorum: bir karşıt görüş için sola kaydırma; hikayeleri veya videoları derinleştirmek veya ‘ön yargı’yı doğrulayan ‘önyargı’yı ortadan kaldırmak için bağlantılar ekleyin. Ancak, açık olalım: ‘caydırıcı’ veya ‘sürtünme’ yaratan seçim mimarileri, ‘yasaklama’ veya ‘sansür’ veya ‘önleme’ yapanlardan farklı veri ve tasarım duyarlılıkları gerektirir. İnsanların gerçekten less predictable olduğunu düşünüyorum. Bu, insanların ve makinelerin de zor bir sorunu. İnsanların gerçekten less predictable olduğu için, ‘bir boyutu herkes için’ yaklaşımları, kişiselleştirilmiş öneriler ve önericiler giderek daha anlamsız ve anakronik hale geliyor.

Kullanıcılar ve toplum, neden belirli önerilerin yapıldığını açıklanmasını talep etmelidir?

Evet, evet ve evet. Sadece ‘açıklanabilirlik’ değil, aynı zamanda ‘görünürlük’, ‘şeffaflık’ ve ‘yorumlanabilirlik’ de. İnsanların, onları etkileyen teknolojileri görmeye ve anlamaya hakkı vardır. İnsanları ikna etmek ve yönlendirmek için kullanılan algoritmaları takdir edebilmelidirler. Bunu, tıpta ‘bilgilendirilmiş onay’ın algoritmik karşılığı olarak düşünün. Hastaların, ‘bu’ eylem planını ‘o’ plana tercih etme nedenlerini ve gerekçelerini öğrenme hakkı vardır. Aslında, ‘bilgilendirilmiş onay’ – ve geleceği – tıpta ve sağlık hizmetlerinde, öneri motorları için ‘bilgilendirilmiş onay’ geleceğinin bir şablonu olarak sunuyor.

Öneri Motorlarını kullanarak insan beynini “hack” etmek mümkün mü?

Beyni mi, yoksa zihni mi? Şaka yapmıyorum. Maddi olarak – elektriksel ve kimyasal olarak – nöronları ve lobları mı hackliyorsunuz? Yoksa insanların davranışlarını öngörülebilir bir şekilde tetiklemek için daha az invaziv duyusal uyarılar mı kullanıyorsunuz? Açıkçası, bazı beyinlerin – ve bazı zihinlerin – bazı zamanlar hacklenebileceğine inanıyorum. Ancak, insanların ‘et puppet’lerine dönüşerek önerilerin melodilerine dans edeceklerine inanmıyorum. Bazı insanlar bağımlı oluyor. Bazı insanlar otonomi ve öz kontrolü kaybediyor. Ve, evet, bazı insanlar başkalarını sömürmek istiyor. Ancak, kanıtların büyük çoğunluğu, önerilerin ‘silahlandırılmasından’ endişe etmemi sağlamıyor. Güvenin kötüye kullanılmasından daha fazla endişe duyuyorum.

Bir araştırma makalesinde Jason L. Harman ve Jason L. Harman’ın alıntısı şöyle diyor: “İnsanların önerilere duyduğu güven, öneri sistemlerinin başarısının anahtarıdır”. Sosyal medya bu güveni ihlal etti mi?

Bu alıntıya inanıyorum. Güvenin gerçekten önemli olduğunu inanıyorum. Akıllı ve ahlaklı insanların gerçekten güvenin önemini anladığını inanıyorum. Churchill’in cesaret yorumuna benzer bir şekilde, güven, sağlıklı insan bağlantısı ve büyümesi için gerekli olan erdemdir. Ancak, sosyal medya platformlarının çoğunun – evet, Twitter ve Facebook, size bakıyorum! – güvene dayalı veya dayandırılmış olmadığını iddia ediyorum. Bunlar, kendini ifade etmeyi kolaylaştırmak ve ölçeklendirmek için inşa ediliyorlar. Kendini ifade etme yeteneği, gerçekten güven oluşturmak veya inşa etmek ile hiçbir şey yapmaz. Güveni ihlal edecek bir şey yoktu. Önerilerde ise vardır.

Sizin inancınıza göre, Öneri Motorlarının geleceği, zihinlerinizi geliştirmek için en iyi önerileri sunacaktır. Şu anda, böyle bir sistemi geliştiren herhangi bir Öneri Motoru var mı?

Henüz değil. Bunu, bir sonraki trilyon dolarlık pazar olarak görüyorum. Amazon, Google, Alibaba ve Tencent’in oraya ulaşmak istediğini düşünüyorum. Ancak, kim bilir, belki de bizi şaşırtan bir girişimci inovatör çıkacaktır: belki de Spotify, mindfulness ve just-in-time fısıldanan ‘tavsiye’ ile zihin geliştirici bir độtraj olabilir.

Öneri Motorları, kullanıcıların kendilerini daha iyi anlamalarına nasıl olanak tanır?

Öneriler, iyi seçimler hakkında… bazen, hatta harika seçimler. Hangi seçimleri benimsersiniz? Hangi seçimleri görmezden gelersiniz? Hangi seçimleri reddedersiniz? Bu soruları sormak ve cevaplamak cesareti, size kim olduğunuz ve kim olabileceğiniz hakkında muhteşem bir içgörü sağlar. Seçimlerimiziz; bu seçimleri etkileyen her şey, bize muhteşem bir etkiye ve etkiye sahiptir.

Kitabınız hakkında paylaşmak istediğiniz başka bir şey var mı?

Evet – ilk ve son analizde, kitabım, tavsiye geleceği ve gerçekten kim olmasını istediğiniz kişi hakkında. Bu, ‘kendi’ geleceğiniz hakkında. Bunu, hem heyecan verici hem de önemli bir konu olarak düşünüyorum, değil mi?

Görüşlerinizi paylaşmak için teşekkür ederiz.

Okuyucularımıza, bu kitabı şiddetle tavsiye ediyorum, şu anda Amazon ‘da Kindle veya basılı olarak mevcuttur. Daha fazla sipariş seçeneğini MIT Press sayfasında görebilirsiniz.