Donny White, Satisfi Labs’in CEO’su ve Kurucu Ortağı – Röportaj Serisi

2016 yılında kurulan Satisfi Labs, önde gelen bir konuşma AI şirketi. İlk başarısı, New York Mets, Macy’s (M ) ve US Open ile çalışmasıyla geldi ve web sitelerinde genellikle erişilemeyen bilgilere kolay erişim sağladı.

Donny, 15 yıl Bloomberg’da çalıştıktan sonra start-up dünyasına girdi ve Cornell Üniversitesi’nden MBA ve Baruch College’dan BA derecesi aldı. Donny’nin liderliğinde, Satisfi Labs, spor, eğlence ve turizm sektörlerinde önemli büyüme gösterdi ve Google (GOOGL ), MLB ve Red Light Management’den yatırım aldı.

14 yıl Bloomberg’da çalıştıktan sonra, suddenly girişimci olmak istediniz. Neden suddenly girişimci olmak istediniz?

Üniversitenin junior yılında, Bloomberg’da resepsiyonist olarak iş başvurusu yaptım. İşe girdikten sonra, arkadaşlarıma eğer bana öğretirlerse, hızlı öğrenebileceğimi söyledim. Senior yılımda, tam zamanlı çalışmaya başladım ve tüm sınıflarımı gece sınıflarına kaydettim, böylece her iki işi de yapabildim. 21 yaşındayken, mezuniyet törenine katılmak yerine, ilk ekibimi yönetiyordum. O günden sonra, liyakat sistemi içinde çalıştım ve birkaç kez terfi ettim. 25 yaşındayken, kendi bölümümün başına geçtim. Oradan, bölge yönetimine ve sonra ürün geliştirmeye geçtim, sonunda tüm Amerika’da satışlardan sorumlu oldum. 2013 yılında, daha büyük şeyler yapabileceğimi düşündüm. Genç teknoloji şirketlerinde birkaç görüşme yaptım ve bir kurucu, “Biz senin iyi olduğunu yoksa Bloomberg’in iyi olduğunu bilmiyoruz” dedi. O zaman bir şeyler değişmesi gerektiğini anladım ve altı ay sonra ilk start-up’ım olan Datahug’un satış müdürü oldum. Kısa bir süre sonra, yatırımcılar tarafından Yelp’i bozma isteğiyle işe alındım. Yelp hala iyi ve güzel, ancak 2016 yılında yeni bir vizyon belirledik ve aynı yatırımcılarla Satisfi Labs’i kurdum.

Satisfi Labs’in arkasındaki hikayeyi paylaşabilir misiniz?

Randy, Satisfi’nin şu anki CTO’su ve kurucu ortağıyla, Citi Field’daki bir baseball maçı sırasında, bir uzmanlık alanının, sosisli çubuk olduğunu duydum. Tribünleri gezdik ve personelle sosisli çubuk hakkında soru sorduk, ancak bulamadık. Sonuçta, stadyumun bir ucunda gizliyordi, bu da sohbet yoluyla doğrudan takımla iletişime geçmenin çok daha kolay olacağını fark etmemize neden oldu. İşte ilk fikrimiz burada doğdu. Randy ve ben her ikimiz de finans ve algoritmik ticaret geçmişinden geliyoruz, bu da bize, hyper-spesifik sorgular için kendi NLP’mizi oluşturma fikrini verdi. İlk fikir, her biri belirli bir bilgi alanında uzman olan bireysel botlar oluşturmaktı. Sistemimiz, her biri needed olduğunda çağrılan bir “şef” ile bu botlara sahip olacaktı. Bu, hala kullanılan orijinal sistem mimarisidir.

Satisfi Labs, kendi NLP motorunu tasarlamış ve bir basın açıklaması yayınlamak üzereyken, OpenAI teknoloji yığınınızı ChatGPT’nin çıkışı ile değiştirdi. Bu dönemi ve Satisfi Labs’in işini nasıl değiştirdiğini tartışabilir misiniz?

6 Aralık 2022’de patentli Context-based NLP yükseltmemizi duyurmak için planlanmış bir basın açıklamamız vardı. 30 Kasım 2022’de OpenAI, ChatGPT’yi duyurdu. ChatGPT’nin duyurulması, sadece yol haritamızı değil, aynı zamanda dünyayı değiştirdi. İlk olarak, herkes gibi biz de ChatGPT’nin gücünü ve sınırlarını anlamak için yarışıyorduk. Soon sonra, bizim bağlamsal NLP sistemimizin ChatGPT ile yarışmadığını, aslında LLM deneyimini geliştirebileceğini anladık. Bu, OpenAI enterprise ortakları olmak için hızlı bir karar almamızla sonuçlandı. Sistemimiz, granüler düzeyde soruları anlamak ve cevaplamak fikriyle başladığı için, “bot şefi” sistem tasarımını ve yedi yıllık niyet verilerini kullanarak sistemi LLM’leri entegre etmek için yükseltebildik.

Satisfi Labs, yakın zamanda patentli bir Context LLM Response System duyurdu, bu nedir?

Bu Temmuz ayında, patentli Context LLM Response System’imizi duyurduk. Yeni sistem, patentli bağlamsal cevap sistemimizin gücünü büyük dil modeli yetenekleriyle birleştirerek Answer Engine sistemini güçlendiriyor. Yeni Context LLM teknolojisi, büyük dil modeli yeteneklerini platformun tamamına entegre ediyor, intent yönlendirmesinden cevap oluşturmaya ve intent indekslemesine kadar her şeyi kapsıyor ve bu da benzersiz raporlama yeteneklerini sağlıyor. Platform, geleneksel sohbet botunun ötesine geçerek LLM’lerin gücünü, örneğin GPT-4’ü kullanıyor. Platformumuz, markaların hem üretken AI cevapları hem de önceden yazılmış cevapları kullanmasına olanak tanıyor.

Şirket web siteleri ve LLM platformları arasındaki güncel kopukluğu, marka cevapları sunmada tartışabilir misiniz?

ChatGPT, geniş bir bilgi yelpazesini anlamak için eğitildi, ancak markaların beklediği düzeyde spesifik endüstriye özgü soruları cevaplamak için gerekli granüler eğitimi sahip değildir. Ayrıca, LLM’lerin sağladığı cevapların doğruluğu, sağlanan verilerin doğruluğuna bağlıdır. ChatGPT’yi kullandığınızda, internet genelinden veri kaynaklarından yararlanıyor, bu da yanlış olabilir. ChatGPT, bir markanın verilerini diğer verilerden öncelikli olarak dikkate almaz. Geçen yedi yıl içinde çeşitli endüstrilere hizmet verdik ve müşterilerin her gün sorduğu milyonlarca sorudan değerli bilgiler edindik. Bu, sistemimizi her endüstri için daha büyük bağlamla uyarlamamız ve güçlü ve granüler intent raporlama yetenekleri sağlamamız için bize olanak tanıdı. LLM’ler, intenti anlamak ve cevaplar oluşturmak için etkili olsa da, soruları raporlayamaz. Yıllarca süren geniş intent verilerini kullanarak, Intent Indexing Sistemimiz aracılığıyla standartlaştırılmış raporlama oluşturduk.

LLM teknolojilerinin yeteneklerini geliştirmede dilbilimcilerin rolü nedir?

Yeni teknolojiyle birlikte, bir kişinin AI’dan spesifik bir cevap almak için tasarlanmış ve rafine edilmiş promt’lar oluşturmak için bir “prompt mühendisi” rolü ortaya çıktı. Dilbilimciler, dil yapısı, sözdizimi ve anlambilim gibi konularda büyük bir anlayışa sahipler. En başarılı AI mühendislerimizden biri, dilbilim geçmişine sahip ve bu da onu AI’ı yeni ve nüanslı yollardan promtalamak için çok etkili kılıyor. Promt’taki küçük değişiklikler, cevapların ne kadar doğru ve verimli oluşturulduğu üzerinde büyük bir etkiye sahip olabilir, bu da milyonlarca soruyu birden fazla istemci için işlediğimizde tüm farkı yaratır.

Arka tarafta ince ayar nasıl görünüyor?

Kendi özel veri modelimize sahibiz ve bu, LLM’yi kontrol altında tutmak için bize olanak tanır. Bu, diğer platformların kullandığı araçları ve özellikleri desteklemek için bize olanak tanır.

İnce ayar eğitimi verisi ve platformumuzda Takviye Öğrenimi (RL) kullanmak, yanlış bilgi riskini azaltmaya yardımcı olabilir. İnce ayar, belirli gerçekleri eklemek için bilgi tabanını sorgulamak yerine, bu ek bilgiye dayalı olarak eğitilmiş yeni bir LLM sürümü oluşturur. Öte yandan, RL, bir ajanı insan geribildirimi ile eğitiyor ve soru cevaplama politikası öğreniyor. Bu, belirli görevlerde uzmanlaşmış daha küçük ayak izine sahip modeller oluşturmak için başarılı olmuştur.

Yeni bir müşteriyi entegre etme ve konuşma AI çözümlerini uygulama süreci nedir?

Spor, eğlence ve turizm gibi destinasyonlar ve deneyimler üzerinde odaklandığımız için, yeni müşteriler mevcut topluluktan yararlanırlar, bu da entegrasyonu çok basit kılar. Yeni müşteriler, mevcut veri kaynaklarını, web sitelerini, el kitaplarını, bloglarını vb. tanımlar. Verileri alıyoruz ve sistemi gerçek zamanlı olarak eğitiyoruz. Aynı endüstriden yüzlerce müşteriyle çalışıyoruz, bu da ekibimizin, önceden yazılmış cevaplar için hangilerinin en uygun olduğunu hızlı bir şekilde önermesini sağlıyor. Ayrıca, dinamik Yiyecek ve İçecek Bulucu gibi yönlendirilmiş akışları kuruyoruz, böylece müşterilerin bot oluşturucuyla uğraşmasına gerek kalmaz.

Satisfi Labs şu anda spor takımları ve şirketlerle yakın çalışıyor, şirketin geleceği için ne tür bir vizyonunuz var?

Markaların sohbet deneyimlerinin daha fazla yönünü kontrol etmek isteyeceği bir gelecek görüyoruz. Bu, sistemimizin daha fazla geliştirici düzeyinde erişimi sağlaması gerekecek anlamına geliyor. Markaların kendi konuşma AI sistemlerini oluşturmak için geliştiriciler istihdam etmesi, gerekli uzmanlığın nadir ve pahalı olacağı için anlam ifade etmez. Ancak, sistemimiz arka planda beslenirse, geliştiricileri müşteri deneyimi ve yolculuğuna odaklanmak için daha fazla kontrol sağlayabilir, promt’ları kişiselleştirmek için özel verileri bağlayabilir ve kullanıcıların özel ihtiyaçlarına göre sohbet arayüzünü yönetebilir. Satisfi Labs, markaların konuşma deneyimleri için teknik omurga olacak.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Satisfi Labs‘i ziyaret edebilir.