Michael Schrage, Tavsiye Motorlarının Yazarı (The MIT Press) – Röportaj Dizisi

Michael Schrage, MIT Sloan School of Management's Initiative on the Digital Economy'de Araştırma Görevlisidir. İnovasyon, ölçütler ve ağ etkileri konusunda aranan bir uzman olarak şu kitabın yazarıdır: Müşterilerinizin Kim Olmasını İstiyorsunuz?, Yenilikçinin Hipotezi: Ucuz Deneyler İyi Fikirlerden Ne Kadar Değerlidir? (MIT Press) ve diğer kitaplar.

Bu röportajda kitabını tartışıyoruz “Tavsiye Motorları”, çevrimiçi öneri motorlarının tarihini, teknolojisini, işini ve sosyal etkisini araştırıyor.

"Tavsiye Motorları" gibi dar bir konuda bir kitap yazmanız için size ne ilham verdi?

Sorunuzun çerçevesi oyunu ele veriyor…..Dünyanın her yerindeki insanların yaşamlarını gerçekten etkileyen dijital teknolojilere ve temas noktalarına ciddi bir şekilde baktığımda, neredeyse her zaman bir 'öneri motoru' sürüş kararı buldum. Spotify'ın danışmanları, insanların duyduğu müzik ve şarkıları belirler; TikTok'un öneri motorları, insanların bir araya getirip paylaştığı 'viral videoları' tanımlar; Netflix'in danışmanları, "art arda izlemeyi" ve "art arda izleyenleri" kolaylaştıracak şekilde tasarlanmıştır; Google Haritalar ve Waze, oraya ulaşmanın en iyi ve/veya en hızlı ve/veya en basit yollarını önerir; Tinder ve Match.com kiminle birlikte olmak isteyebileceğinizi veya kiminle 'olmak' isteyebileceğinizi tavsiye edin; Stitch Fix, sizi "siz" yapan ne giymek isteyebileceğinizi önerir; Amazon, gerçekten satın almanız gereken şeyi önerecektir; Academia ve ResearchGate, size güncel olması gereken en ilgili araştırmayı önerecektir….Kitapta devam edebilirdim ve yapabilirim ama hem teknik hem de kavramsal olarak 'Öneri Motorları', 'dar'ın antitezidir. Onların amacı ve amacı, insan arzusunun ve kararının tüm alanını kapsar.

Kitabınızdan bir alıntı şu şekilde: “Tavsiyeciler sadece ne satın alabileceğimizle ilgili değil, kim olmak isteyebileceğimizle ilgili”. Bu, işletmeler veya kötü aktörler tarafından nasıl suistimal edilebilir?

Tavsiyenin suistimal edilebileceğine şüphe veya şüphe yoktur. 'Klasik' klasik soru – Cui bono? – 'Kim yararlanır?' – geçerlidir. Tavsiyeler gerçekten alıcıya veya tavsiyeyi yapan kuruma/kuruluşa fayda sağlamayı amaçlıyor mu? Sizi tanıyan bir meslektaşınız, tanıdığınız veya "arkadaşınız" için gerçekten sizin çıkarınıza olmayan bir tavsiyede bulunmak ne kadar kolaysa, "veriye dayalı" danışmanlar için de "kendilerini" artıran bir şey satın almanızı önermek dijital bir anlıktır. 'sizin' faydanız veya memnuniyetiniz pahasına kar. Bir düzeyde, istismarın potansiyeli - ve gerçekliği - konusunda çok endişeliyim. Öte yandan, çoğu insanın insanlar veya teknoloji tarafından sömürüldüklerini veya manipüle edildiklerini çok çabuk anladığını düşünüyorum. Beni bir kez kandır, ayıp sana; beni iki ya da üç kez kandırın, bana yazıklar olsun. Tavsiye, etik olmanın akıllı ve akıllı olmanın etik olduğu özel alanlardan biridir. 

Kullanıcıların, doğruluktan bağımsız olarak görmek istediklerini beslediği yankı odaları toplumsal bir sorun mu?

Eli Pariser, bu fenomeni ve patolojiyi tanımlamak için mükemmel 'filtre balonu' ifadesini icat etti. Bakış açısına büyük ölçüde katılıyorum. Aslında, çoğu yetişkin insan davranışını gerçekten yönlendiren şeyin - seks değil - "onaylama önyargısı" olduğunu söylemenin artık adil olduğunu düşünüyorum. Çoğu insan çoğu zaman anlaşma arar. Tavsiye verenler, yenilik, çeşitlilik alaka düzeyi ve şans eseri arasında dikkatli bir rotada gezinmek zorundadır çünkü - çok fazla onay sıkıcı ve gereksizken - çok fazla yenilik ve meydan okuma rahatsız edebilir ve gücendirebilir. Yani evet, onaylanma arayışı hem kişisel hem de toplumsal bir meseledir. Bununla birlikte, tavsiye verenler, alternatif bakış açılarını ve seçenekleri insanların dikkatine sunmak için nispeten rahatsız edici olmayan bir yol sunuyor. Ancak, gerçekten de düzenleme ve yasal incelemenin tavsiyenin geleceğini giderek daha fazla belirleyip belirlemeyeceğini merak ediyorum.

Filtre balonları şu anda çelişkili, çelişkili ve/veya zorlayıcı/bakış açılarına maruz kalmayı sınırlandırıyor. Bu tür aşırı filtrelemeyi engelleyen bir tür düzenleme olmalı mı?

Sert düzenleyici denetime hafif dokunuşu tercih ederim. Gördüğüm çoğu platform, 'sahte haber' etiketleme veya kalite kontrol oluşturma konusunda oldukça zayıf bir iş çıkarıyor. Keşfedilen daha yenilikçi mekanizmalar görmek isterim: aykırı bir yaklaşım için sola kaydırın; Hikayeleri veya videoları, anlayışı derinleştirecek veya doğrulanmakta olan "önyargıyı" bağlamından koparacak şekilde detaylandıran bağlantılar yerleştirin. Ancak açık konuşalım: 'caydırıcı' veya 'sürtüşmeler' yaratan seçim mimarileri, 'yasaklayan', 'sansürleyen' veya 'engelleyen' mimarilerden farklı veri ve tasarım hassasiyetleri gerektirir. Bence bu hem insanlar hem de makineler için çok zor bir problem. Bunu özellikle zorlaştıran şey, insanların -aslında- pek çok psikolog ve sosyal bilimcinin inandığından daha az öngörülebilir olmalarıdır. Bugünlerde birbiriyle yarışan pek çok "akıl kuramı" ve "faillik" var. Tavsiyeler ve tavsiyeciler ne kadar kişisel hale geldiyse, 'herkese uyan tek beden' yaklaşımları o kadar zorlayıcı ve anakronik hale gelir. Bu alanın beni bu kadar ilgilendirmesinin birçok nedeninden biri de bu.

Nihai kullanıcılar ve toplum, neden özel tavsiyelerin yapıldığı konusunda açıklanabilirlik talep etmeli mi?

Evet, evet ve evet. Sadece 'açıklanabilirlik' değil, 'görünürlük', 'şeffaflık' ve 'yorumlanabilirlik' de. İnsanlar kendilerini etkilemek için kullanılan teknolojileri görme ve anlama hakkına sahip olmalıdır. Onları dürtmek ve ikna etmek için kullanılan algoritmaları takdir edebilmelidirler. Bunu tıpta 'bilgilendirilmiş onam'ın algoritmik karşılığı olarak düşünün. Hastaların 'bu' eylem biçimini 'şu' eylem biçimine tercih etme nedenlerini ve gerekçelerini alma hakları ve doktorların sağlama görevi vardır. Aslında, tıp ve sağlık hizmetlerinde 'bilgilendirilmiş onamın' - ve onun geleceğinin - tavsiye motorları için 'bilgilendirilmiş onamın' geleceği için iyi bir şablon sunduğunu savunuyorum. 

Tavsiye Motorlarını kullanarak insan beynini “hacklemenin” mümkün olduğuna inanıyor musunuz?

Beyin mi akıl mı? Şaka yapmıyorum. Maddi olarak - elektriksel ve kimyasal olarak - nöronları ve lobları hackliyor muyuz? Yoksa öngörülebilir davranışları uyandırmak için daha az istilacı duyusal uyaranlar mı kullanıyoruz? Açıkçası, bazı beyinlerin - ve bazı zihinlerin - bazen hacklenebilir olduğuna inanıyorum. Ama insanların tavsiye melodilerine göre dans eden 'et kuklaları' olmaya mahkum olduğuna inanıyor muyum? Ben değillim. Bak, bazı insanlar bağımlı oluyor. Bazı insanlar özerkliğini ve öz kontrolünü kaybeder. Ve evet, bazı insanlar başkalarını sömürmek ister. Ancak kanıtların üstünlüğü, 'tavsiyenin silah haline getirilmesi' konusunda beni endişelendirmiyor. Güvenin kötüye kullanılması konusunda daha çok endişeleniyorum.

Jason L. Harman ve Jason L. Harman'ın bir araştırma makalesindeki bir alıntı şunu belirtir: "İnsanların tavsiyelere duyduğu güven, tavsiye sistemlerinin başarısının anahtarıdır". Sosyal medyanın bu güvene ihanet ettiğine inanıyor musunuz?

Ben bu alıntıya inanıyorum. Güvenin gerçekten anahtar olduğuna inanıyorum. Akıllı ve ahlaklı insanların güvenin önemini gerçekten anladığına ve takdir ettiğine inanıyorum. Churchill'in cesaret hakkındaki yorumundan dolayı özür dileyerek, güven, sağlıklı insan bağlantısı ve büyümesini sağlayan erdemdir. Bununla birlikte, çoğu sosyal medya platformunun – evet, Twitter ve Facebook, size bakıyorum! – güvene dayalı veya güvene dayalı değildir. Kendini ifade etmeyi kolaylaştırmaya ve ölçeklendirmeye dayanırlar. Kişinin kendini geniş ölçekte ifade etme yeteneğinin, kelimenin tam anlamıyla güven yaratmak veya inşa etmekle hiçbir ilgisi yoktur. İhanet edecek hiçbir şey yoktu. Tavsiye ile var.

Öneri Motorlarının geleceğinin kişinin zihnini geliştirmek için en iyi önerileri sunacağına olan inancınızı beyan ediyorsunuz. Sizce şu anda böyle bir sistem üzerinde çalışan Öneri Motorları var mı?

Henüz değil. Bunu bir sonraki trilyon dolarlık pazar olarak görüyorum. Bence Amazon, Google, Alibaba ve Tencent oraya gitmek istiyor. Ama kim bilir, hepimizi şaşırtan girişimci bir mucit olabilir: belki farkındalık ve tam zamanında fısıldanan 'tavsiye' içeren bir Spotify, zihni geliştiren buluş olabilir.

Öneri Motorlarının kullanıcıların kendilerini daha iyi anlamalarını nasıl sağladığını nasıl özetlersiniz?

Öneriler iyi seçimlerle ilgilidir…. bazen, hatta harika seçimler. Benimsediğiniz seçenekler neler? Göz ardı ettiğiniz seçenekler nelerdir? Reddettiğiniz seçenekler nelerdir? Bu soruları sorma ve cevaplama cesaretine sahip olmak, size kim olduğunuz ve kim olmak isteyebileceğiniz konusunda dikkate değer bir fikir verir. Biz yaptığımız seçimleriz; Bu seçimleri etkileyen her ne ise, bizim üzerimizde dikkate değer bir etkisi ve etkisi vardır.

Kitabınız hakkında paylaşmak istediğiniz başka bir şey var mı?

Evet - ilk ve son tahlilde, kitabım tavsiyenin geleceği ve "gerçekten" kim olmak istediğinizin geleceği hakkındadır. Bu, benliğin geleceği ile ilgilidir - 'benliğiniz'. Bence bu hem heyecan verici hem de önemli bir konu, sence de öyle değil mi?

Görüşlerinizi paylaşmak için zaman ayırdığınız için teşekkür ederiz.

Okuyucularımıza bu kitabı şiddetle tavsiye ediyorum, şu anda mevcut Amazon Kindle veya ciltsiz olarak. Ayrıca daha fazla sipariş seçeneği de görüntüleyebilirsiniz. MIT Press gidin.