Michael Schrage, Recommendation Engines (The MIT Press) Kitabının Yazarı – Röportaj Serisi

Michael Schrage, MIT Sloan School of Management’in Dijital Ekonomi Girişimi’nde Araştırma Görevlisi’dir. İnovasyon, metrikler ve ağ etkileri konusunda aranan bir uzman olan Schrage, Müşterilerinizi Kim Olmak İsterdiniz?, İnovatör Hipotezi: Ucuz Deneylerin İyi Fikirlerden Daha Değerli Olması (MIT Press) ve diğer kitapların yazarıdır.

Bu röportajda, dijital teknoloji ve dokunma noktalarının insanların hayatlarını dünya çapında nasıl etkilediğini ve online öneri motorlarının tarihini, teknolojisini, işini ve sosyal etkisini keşfeden “Öneri Motorları” kitabını tartışıyoruz.

Sizi “Öneri Motorları” gibi dar bir konuda bir kitap yazmaya iten şey nedir?

Sorunuzun çerçevesi oyunu veriyor… Dijital teknolojileri ve insanların hayatlarını dünya çapında etkileyen dokunma noktalarını ciddiye aldığım zaman, her zaman bir ‘öneri motoru’nu karar vermede etkili olarak buldum. Spotify’nin önericileri insanların dinlediği müzik ve şarkıları belirler; TikTok’un öneri motorları insanların paylaştığı ‘viral videoları’ tanımlar; Netflix’in önericileri ‘maraton izleme’ ve ‘maraton izleyicileri’ kolaylaştırmak için tasarlanmıştır; Google (GOOGL ) Haritalar ve Waze en iyi ve/veya en hızlı ve/veya en basit şekilde oraya ulaşmak için öneriler sunar; Tinder ve Match.com size kiminle olabileceğinizi veya ‘olabileceğinizi’ önerir; Stitch Fix (SFIX ) size giyebileceğiniz şeyi önerir ve sizi ‘siz’ yapar; Amazon (AMZN ) size gerçekten satın almanız gereken şeyi önerir; Academia ve ResearchGate size en ilgili araştırmaları önerir… Devam edebilir ve kitabın içinde edeceğim – ancak teknik ve kavramsal olarak, ‘Öneri Motorları’ dar değildir. Their noktası ve amacı insan arzusunun ve kararının tümünü kapsar.

Kitabınızda bir alıntı şöyledir: “Önericiler sadece satın alabileceklerimiz hakkında değil, olmak isteyebileceğimiz kişiler hakkında da.” Bu, işletmeler veya kötü aktörler tarafından nasıl suistimal edilebilir?

Önerilerin suistimal edilebileceği konusunda hiçbir soru veya şüphe yoktur. Klasik soru – Cui bono? – ‘Kim yararlanır?’ – uygulanır. Öneriler gerçekten alıcıya mı yoksa öneriyi yapan işletme veya kuruluşa mı yarar sağlamak için yapılmıştır? Bir arkadaşınızın veya tanıdığınızın size gerçekten yararınıza olmayan bir tavsiye vermesi kolay olduğu gibi, ‘veri odaklı’ önericilerin size sizin yararınıza olmayan bir şeyi satın almanızı önermesi de dijital olarak kolaydır. Bir düzeyde, suistimal olanaklarından ve gerçekliğinden çok endişeliyim. Diğer taraftan, insanların kendilerini veya teknolojileri tarafından kolayca sömürüldüğünü veya manipüle edildiğini düşünmüyorum. Bana göre, öneri özel bir alandır ve burada etik olmak akıllıca, akıllıca olmak da etiktir.

Kullanıcıların sadece görmek istediklerini gösteren ekolardan oluşan bir ortam, yani doğruluk dikkate alınmaksızın, bir toplumsal sorun mudur?

Eli Pariser, bu olguyu tanımlamak için ‘filtre balonu’ ifadesini kullanmıştır ve ben büyük ölçüde onun bakış açısını paylaşıyorum. Aslında, insanların çoğunlukla onay aradığını düşünüyorum. Önericiler, yenilik, çeşitlilik, alaka ve tesadüfi keşif arasında dikkatli bir yol izlemelidir, çünkü fazla onay sıkıcı ve tekrarlayıcı olabilir, ancak fazla yenilik ve meydan okuma da sinir bozucu ve kızdırıcı olabilir. Evet, onay arayışı hem kişisel hem de sosyal bir sorundur. Ancak, önericiler insanların dikkatini alternatif perspektiflere ve seçenekler sunmak için nispeten rahatsız edici bir yol sunar. Bununla birlikte, gerçekten de önerilerin geleceğinin düzenleme ve yasal inceleme tarafından tanımlanacağından endişe ediyorum.

Şu anki filtre balonları, çelişen, karşıt ve/veya meydan okuyan/görüşlere maruz kalma possibilitiesini sınırlıyor. Bu tür aşırı filtrelemeyi caydırıcı bir tür düzenleme olmalı mı?

Hafif dokunuşlu düzenleme denetimini tercih ediyorum. Gördüğüm çoğu platform, ‘sahte haberleri’ etiketleme veya kalite kontrolü konusunda çok kötü bir iş çıkarıyor. Farklı mekanizmaların keşfedilmesini istiyorum: karşıt bir görüş için sola kaydırma; hikayeleri veya videoları daha derin bir anlayış veya önyargıları doğrulayan bir şekilde genişleten bağlantılar. Ancak, ‘caydırıcı’ veya ‘sürtüşme’ yaratan seçim mimarileri, ‘yasaklayan’, ‘sansürleyen’ veya ‘önleyen’ seçim mimarilerinden farklı veri ve tasarım duyarlılıklarını gerektirir. İnsanların ve makinelerin de aynı anda çok zor bir sorunla karşı karşıya olduğu kanısındayım. Bu, özellikle de insanların gerçekten öngörülemez olduğu için zordur. Şu anda birçok ‘zihin teorisi’ ve ‘ajans’ vardır. Önerilerin ve önericilerin ne kadar kişiselleştiği, ‘herkese uyan’ yaklaşımların ne kadar anakronik ve zor hale geldiği ile doğru orantılıdır. Bu, beni ilgilendiren alanlardan biridir.

Kullanıcıların ve toplumun, önerilerin neden yapıldığını açıklanmasını talep etmesi gerekmez mi?

Evet, evet ve evet. Sadece ‘açıklanabilirlik’ değil, aynı zamanda ‘görünürlük’, ‘şeffaflık’ ve ‘yorumlanabilirlik’ de. İnsanların, onları etkileyen teknolojileri görmeleri ve anlamaları hakkı vardır. İnsanları etkilemek ve ikna etmek için kullanılan algoritmaları takdir edebilmeleri gerekir. Bunu, tıptaki ‘bilgilendirilmiş onay’ın algoritmik karşılığı olarak düşünün. Hastaların, doktorların neden belirli bir tedaviyi seçtiklerini öğrenme hakkı vardır. Aslında, tıptaki ve sağlık hizmetlerindeki ‘bilgilendirilmiş onay’ ve geleceğinin, öneri motorları için ‘bilgilendirilmiş onay’ın geleceği için iyi bir şablon oluşturabileceğini savunuyorum.

Öneri Motorlarını kullanarak insan beynini ‘hacklemek’ mümkün mü?

Beyni mi, yoksa zihni mi? Şaka yapmıyorum. Nöronları ve lobları elektriksel ve kimyasal olarak mı hackliyorsunuz, yoksa less invazif duyusal stimulusları öngörülebilir davranışları tetiklemek için mi kullanıyorsunuz? Açıkçası, bazı beyinlerin ve bazı zihinlerin bazı zamanlarda hacklenebileceğine inanıyorum. Ancak, insanların ‘et puppets’ haline geldiğini ve önerilerin müziğine göre dans ettiğini düşünmüyorum. Bazı insanlar bağımlı oluyor, bazı insanlar otokontrolü kaybediyor ve bazı insanlar othersini sömürebiliyor. Ancak, güvenin suistimal edilmesinden daha fazla endişe duyuyorum.

Jason L. Harman’ın bir araştırma makalesinde şöyle bir alıntı var: “İnsanların önerilere güveni, öneri sistemlerinin başarısı için anahtardır.” Sosyal medya bu güveni ihlal etti mi?

Alıntıya inanıyorum. Güvenin gerçekten önemli olduğunu düşünüyorum. Akıllı ve etik insanların güvenin önemini gerçekten anladığını düşünüyorum. Churchill’in cesaret hakkındaki yorumuna benzer şekilde, güven, sağlıklı insan bağlantısı ve büyümesini sağlayan erdemdir. Ancak, sosyal medya platformlarının çoğunun – evet, Twitter ve Facebook (META ), sizleri kastediyorum! – güvene dayalı olarak inşa edilmediğini veya güveni oluşturmak amacıyla yapılmadığını düşünüyorum. Kendi ifadelerini kolaylaştırmak ve ölçeklendirmek için tasarlanmışlardır. Güveni oluşturmak veya inşa etmek için hiçbir şey yoktur. Önerilerde ise vardır.

Sizin gelecekteki Öneri Motorları görüşünüz, zihinlerinizi geliştirmek için en iyi önerileri sunmaktır. Bu sistemi geliştiren herhangi bir Öneri Motoru var mı?

Henüz değil. Bunu bir sonraki trilyon dolarlık pazar olarak görüyorum. Amazon, Google, Alibaba ve Tencent’in oraya ulaşmak istediğini düşünüyorum. Ancak, belki de bir girişimci yenilikçi bizi şaşırtabilir: belki de Spotify, mindfulness ve just-in-time fısıldanmış ‘tavsiye’ ile zihin geliştirici bir atılımda bulunabilir.

Öneri Motorlarının kullanıcıların kendilerini daha iyi anlamalarına nasıl yardımcı olduğunu özetleyebilirsiniz?

Öneriler iyi seçimler hakkında… Bazen, hatta harika seçimler hakkında. Hangi seçimleri benimser, hangilerini görmezden gelir, hangilerini reddedersiniz? Bu soruları sormak ve cevaplamak size, kim olduğunuz ve kim olabileceğiniz hakkında muhteşem bir fikir verir. Seçimlerimiziz, bizi etkileyen her şeyin etkisi ve etkisi üzerimizdedir.

Kitabınız hakkında paylaşmak istediğiniz başka bir şey var mı?

Evet – ilk ve son analizde, kitabım, tavsiye geleceği ve gerçekten olmak istediğiniz ‘kendiniz’ hakkında. Bu, geleceğinizi – sizin ‘kendinizi’ – ilgilendiren bir konu. Sanırım bu, hem heyecan verici hem de önemli bir konu.

Görüşlerinizi paylaşmak için teşekkür ederiz.

Okuyucularımıza bu kitabı şiddetle tavsiye ediyoruz, şu anda Amazon‘da Kindle veya basılı olarak mevcuttur. Ayrıca daha fazla sipariş seçeneğini MIT Press sayfasında görüntüleyebilirsiniz.