Alexandr Yarats, Perplexity’de Arama Bölümünün Başkanı – Röportaj Serisi

Alexandr Yarats, Perplexity AI’de Arama Bölümünün Başkanıdır. 2017 yılında Yandex’te kariyerine başlamış ve aynı zamanda Yandex Veri Analizi Okulu’nda eğitimine devam etmiştir. İlk yıllar yoğundu ancak ödüllendiriciydi ve büyümesini hızlandırarak Mühendislik Takım Lideri olmasına yol açmıştır. Teknoloji devleriyle çalışma arzusuyla 2022 yılında Google’ (GOOGL ) a Senior Yazılım Mühendisi olarak katılmış ve Google Asistan ekibine (daha sonra Google Bard) odaklanmıştır. Daha sonra Perplexity’ye Arama Bölümünün Başkanı olarak geçmiştir.

Perplexity AI, doğal dil öngörülü metin kullanarak soruları yanıtlayan bir AI-sohbet-botu güdümlü araştırma ve konuşma arama motorudur. 2022 yılında başlatılan Perplexity, web’den kaynakları kullanarak cevaplar oluşturur ve metin yanıtında bağlantılar sağlar.

Sizce makine öğrenimi ile ilk olarak ne ilgilenmeye başladınız?

Makine öğrenimi (ML) ile ilgilenmem dần dần gerçekleşti. Okul yıllarımda matematik, olasılık teorisi ve istatistik hakkında çok şey çalıştım ve klasik makine öğrenimi algoritmaları gibi lineer regresyon ve KNN ile oynamak için bir fırsat elde ettim. Veriden doğrudan bir tahmin fonksiyonu oluşturup sonra bunu görülmemiş verilerde kullanmanın nasıl mümkün olduğunu görmek beni büyüledi. Bu ilgi, beni Rusya’da (her yıl sadece 200 kişi kabul edilen) Yandex Veri Analizi Yüksek Lisans programına yöneltti. Orada, daha gelişmiş makine öğrenimi algoritmaları hakkında çok şey öğrendim ve sezgilerimi geliştirdim. Bu süreçteki en kritik nokta, sinir ağları ve derin öğrenme hakkında öğrendiğim zaman oldu. Bu, önümüzdeki birkaç on yıl boyunca takip etmek istediğim şey olduğu çok açık hale geldi.

Önceden Google’da bir yıl Senior Yazılım Mühendisi olarak çalıştınız, bu deneyimden elde ettiğiniz ana çıkarımlar nelerdi?

Google’a katılmadan önce, Yandex School of Data Analysis’ten mezun olduktan sonra dört yıldan fazla bir süre Yandex’te çalıştım. Orada, Yandex Taxi (Rusya’da Uber’e benzer bir hizmet) için çeşitli makine öğrenimi yöntemleri geliştiren bir takımı yönettim. Bu gruba başlangıcında katıldım ve hızlı bir şekilde büyüyen ve dört yıl içinde hem personel (30 kişiden 500 kişiye) hem de piyasa değerinde (Rusya’da en büyük taksi hizmeti sağlayıcısı haline gelerek Uber ve diğerlerini geride bıraktı) büyüyen bir takımda çalışmak için şansım oldu.

Bu süre boyunca, birçok şeyi sıfırdan inşa etme ve birkaç projeyi sıfırdan başlattım. Orada çalıştığım son projelerden biri, hizmet desteği için sohbet botları oluşturmaktı. Orada, büyük dil modellerinin ne kadar önemli olabileceğini ilk kez gördüm ve gelecekteki potansiyelleri beni büyüledi. Bu gerçekleşme, beni Google’a götürdü, burada Google Asistan ekibine (Perplexity’nin rakibi olan) katıldım.

Google’da, dünya sınıfı altyapının nasıl göründüğünü, Arama ve LLM’lerin nasıl çalıştığını ve birbirleriyle nasıl etkileşime girdiğini öğrenme fırsatım oldu. Bu, harika bir öğrenme deneyimi oldu, ancak zamanla Google’daki yavaş tempodan ve hiçbir şeyin asla yapılmadığı hissinden rahatsız oldum. Arama ve LLM’ler üzerinde çalışan, Yandex’te olduğum gibi hızlı veya daha da hızlı hareket eden bir şirket bulmak istedim. Neyse ki bu organik olarak gerçekleşti.

Google’da, Perplexity karşılaştırmaları gerektiren görevlerin ve Google Asistan’a karşı Perplexity’nin ekran görüntülerinin iç görüntülerini görmeye başladım. Bu, beni şirket hakkında araştırma yapmaya yönlendirdi ve birkaç haftalık araştırma之后, orada çalışmak istediğime karar verdim, böylece ekibe katılmak için hizmetlerimi sundum.

Şu anki rolünüzü ve Perplexity’deki sorumluluklarınızı tanımlayabilir misiniz?

Şu anda arama ekibinin başkanı olarak görev yapıyorum ve Perplexity’yi güçlendiren iç retrieval sistemini inşa etmekten sorumluyum. Arama ekibimiz, web tarama sistemi, retrieval motoru ve sıralama algoritmaları üzerinde çalışıyor. Bu zorluklar, Google’de (Arama ve LLM’ler üzerinde çalışırken) ve Yandex’te kazandığım deneyimi kullanmama olanak tanır. Öte yandan, Perplexity’nin ürünü, bir retrieval sisteminin güçlü LLM’ler dünyasında nasıl görünmesi gerektiği konusunda benzersiz fırsatlar sunar. Örneğin, artık sıralama algoritmalarını tıklama olasılığını artırmak için optimize etmemiz gerekli değildir; bunun yerine, cevaplarımızın yardımcı ve gerçek olmasını iyileştirmeye odaklanıyoruz. Bu, bir cevap motoru ile bir arama motoru arasındaki temel bir ayrımdır. Ekibim ve ben, geleneksel 10 mavi bağlantıların ötesine geçecek bir şey inşa etmeye çalışıyoruz ve şu anda çalışabileceğim daha heyecan verici bir şey düşünemiyorum.

Perplexity’de metin-sql aracı geliştirmekten AI-güdümlü aramaya geçiş hakkında açıklama yapabilir misiniz?

İlk olarak, yapılandırılmış verilere (örneğin, bir elektronik tablo veya tablo) dayalı hızlı bir cevap sağlamak için bir metin-sql motoru üzerinde çalıştık. Metin-sql projesi üzerinde çalışmak, LLM’ler ve RAG hakkında daha derin bir anlayış kazanmamıza olanak tanıdı ve bize önemli bir gerçekleşme sağladı: bu teknoloji, orijinal olarak düşündüğümüzden çok daha güçlü ve geneldir. Hızlı bir şekilde, yapılandırılmış veri kaynaklarının ötesine geçip yapılandırılmamış verileri de ele alabileceğimizi fark ettik.

Bu geçişte ana zorluklar ve çıkarımlar nelerdi?

Bu geçişin ana zorlukları, şirketimizi B2B’den B2C’ye dönüştürmek ve yapılandırılmamış aramayı desteklemek için altyapı yığınımızı yeniden inşa etmekti. Çok hızlı bir şekilde, bu geçiş sürecinde, müşteri odaklı bir ürün üzerinde çalışmanın çok daha keyifli olduğunu fark ettik, çünkü sürekli bir geri bildirim ve katılım akışı almaya başladık, bu da bize B2B çözümlerine odaklandığımızda çok fazla görmediğimiz bir şeydi.

Perplexity’nin arama yeteneklerinde retrieval-augmented generation (RAG) gibi görünüyor. Perplexity’nin RAG’yi diğer platformlardan farklı olarak nasıl kullandığını ve bu nasıl arama sonuçlarının doğruluğunu etkiliyor?

RAG, bir LLM’ye dış bilgi sağlamak için genel bir kavramdır. Bu fikir ilk bakışta basit görünse de, milyonlarca kullanıcıya verimli ve doğru bir şekilde hizmet veren böyle bir sistemi inşa etmek önemli bir zorluktur. Bu sistemi içinden scratch inşa etmek ve son doğruluk ve performans için kritik olan birçok özel bileşeni oluşturmak zorunda kaldık. Sistemimizi, büyükten küçüğe kadar değişen onlarca LLM’nin bir kullanıcı isteğini hızlı ve maliyet-etkin bir şekilde işleyecek şekilde tasarladık. Ayrıca, LLM’leri arama ile uçtan uca birlikte eğitebileceğimiz ve böylece sıkı bir şekilde entegre olabilecekleri bir eğitim ve çıkarım altyapısı oluşturduk. Bu, hayal powerlerini azaltır ve cevaplarımızın yardımcı olmasını iyileştirir.

Google’ın kaynaklarına kıyasla sınırlamalar ile Perplexity, web tarama ve dizinleme stratejilerini nasıl yönetiyor ve güncel bilgileri güvence altına alıyor?

Google’ınkine benzer bir dizin oluşturmak önemli zaman ve kaynak gerektirir. Bunun yerine, Perplexity’de sıklıkla sorduğumuz konulara odaklanıyoruz. Çoğu kullanıcı, Perplexity’yi iş veya araştırma asistanı olarak kullanıyor ve birçok sorgu, yüksek kaliteli, güvenilir ve yardımcı web kısımlarını arıyor. Bu, bir güç yasası dağılımıdır, burada 80/20 yaklaşımıyla önemli sonuçlar elde edebilirsiniz. Bu bilgiler ışığında, kalite ve gerçeklik için optimize edilmiş daha kompakt bir dizin oluşturabildik. Şu anda, kuyruğu takip etmek için daha az zaman harcıyoruz, ancak altyapımızı ölçekledikçe kuyruğu da takip edeceğiz.

Büyük dil modelleri (LLM’ler) Perplexity’nin arama yeteneklerini nasıl geliştiriyor ve bilgileri web’den parçalayarak ve sunarak özellikle etkili oluyor?

LLM’leri her yerde, hem gerçek zamanlı hem de çevrimdışı işlemede kullanıyoruz. LLM’ler, web sayfalarının en önemli ve ilgili kısımlarına odaklanmamızı sağlar. Sinyal-gürültü oranını en üst düzeye çıkarmada her şeyden öncekileri aşar, bu da daha önce küçük bir ekip tarafından ele alınamayan birçok şeyi ele almayı çok daha kolay hale getirir. Genel olarak, bu belki de LLM’lerin en önemli yönüdür: sophisticated şeyleri çok küçük bir ekip ile yapmanızı sağlar.

İleriye bakıldığında, Perplexity’nin karşılaşabileceği ana teknolojik veya pazar zorlukları nelerdir?

İleriye bakıldığında, bizim için en önemli teknolojik zorluklar, cevaplarımızın yardımcı ve doğruluğunu sürekli olarak iyileştirmeye odaklanmak olacaktır. Güvenilir bir şekilde cevaplayabileceğimiz sorgu ve soru türlerinin kapsamını ve karmaşıklığını artırmayı hedefliyoruz. Bununla birlikte, sistemimizin hızını ve hizmet verimliliğini çok önemsiyoruz ve ürün kalitesini bozmadan hizmet maliyetlerini mümkün olduğunca düşürmeye odaklanacağız.

Sizin görüşünüzde, Perplexity’nin arama yaklaşımı, web sitelerini geri bağlantılarına veya diğer kanıtlanmış arama motoru sıralama ölçütlerine göre sıralayan Google’ın yaklaşımından neden üstündür?

Klasik arama motorlarının optimize ettiği sıralama ölçütlerinden tamamen farklı bir sıralama ölçütü optimize ediyoruz. Sıralama hedefimiz, retrieval sistemi ve LLM’leri yerli olarak birleştirmek üzere tasarlanmıştır. Bu yaklaşım, klasik arama motorlarının tıklama olasılığı veya reklam görüntüleme olasılığını optimize ettiği yaklaşımından oldukça farklıdır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Perplexity AI‘yi ziyaret edebilir.