Neal Lathia, Gradient Labs’ın Kurucu Ortağı ve CTO’su – Röportaj Serisi

Neal Lathia, Gradient Labs’ın Kurucu Ortağı ve CTO’su, finans teknolojisi, tüketici platformları ve akademik araştırmaları kapsayan neredeyse iki on yıl süren bir makine öğrenimi ve veri bilimi lideridir. Gradient Labs’ı 2023’te kurmadan önce, Monzo’da beş yılı aşkın süre çalıştı ve Kıdemli Veri Bilimcisi’nden Makine Öğrenimi Direktörü ve Kıdemli Makine Öğrenimi Mühendisi pozisyonlarına yükseldi; burada makine öğrenimi altyapısı oluşturdu ve disiplinin operasyonlar, finansal suç ve ürün alanlarında uygulamaları destekleyecek şekilde ölçeklenmesine yardımcı oldu. Daha önce Lathia, Skyscanner’da Kıdemli Veri Bilimcisi olarak çalıştı ve University of Cambridge ile University College London’da araştırma pozisyonları üstlendi; çalışmaları öneri sistemleri, davranışsal veri, akıllı telefon algılaması ve kişiselleştirilmiş dijital hizmetleri inceledi. Gradient Labs’ta, şimdi karmaşık ve düzenlemeye tabi finansal hizmet iş akışları için tasarlanmış AI ajanlarının teknolojisini yönetiyor.

Gradient Labs, Londra merkezli bir AI şirketi olup finans hizmetleri için uzman otonom ajanlar geliştirmektedir; geleneksel olarak önemli insan katılımı gerektiren müşteri operasyonlarını otomatikleştirmeye odaklanmaktadır. Eski Monzo liderleri Dimitri Masin, Neal Lathia ve Danai Antoniou tarafından kurulan şirket, kredi ve tahsilat, anlaşmazlıklar, Know Your Business (KYB), onboarding, sigorta talepleri ve müşteri hizmetleri gibi alanlarda ajanlar geliştirmekte; ses, sohbet ve e-posta üzerinden çalışmakta ve düzenlemeye tabi ortamlar için tasarlanmış uyum koruyucu önlemler içermektedir. Gradient Labs, teknolojisinin şu anda Wise, Zego, Current, Stash ve Rho gibi müşterileri kapsayan 32 milyondan fazla son kullanıcıya hizmet verdiğini belirtiyor. Haziran 2026’da şirket, Series A finansmanını 26 milyon dolar olarak genişlettiğini duyurdu ve birbirine bağlı uzman AI ajanlarıyla karmaşık bankacılık ve fintech operasyonlarını otomatikleştirmeye yönelik daha geniş bir vizyona doğru çalıştığını açıkladı.

Monzo’da Gradient Labs’ı 2023’te kurmadan önce beş yılı aşkın süre makine öğrenimini inşa edip yönettiniz. Monzo’da birinci elden gördükleriniz, otonom AI ajanları etrafında yeni bir şirket kurma fırsatının var olduğuna sizi nasıl ikna etti ve büyük dil modellerinin ortaya çıkması bu fırsatı neden mümkün kıldı?

Monzo’da, hataların gerçek sonuçları olduğu ve her şeyin denetim izine ihtiyaç duyduğu düzenlemeye tabi bir ortamda çalışması gereken ML sistemleri inşa etmek için yıllar harcadım. En çok etkilenen faktör, özel olarak inşa edilmiş bir altyapı geliştirme ihtiyaciydi; çünkü önceden hazırlanmış hiçbir şey bu sıkı kısıtlamalar altında güvenli bir şekilde çalışamıyordu. Bu deneyim bana iki inanç bıraktı. Birincisi, teknolojinin sonunda sektörü on yıllardır ağırlayan operasyonel yükten bankaları kurtarabileceği yönündeydi. İkincisi ise, genel amaçlı, yatay AI’nın bu alanda bir etki yaratmayacağı; düzenlemeye tabi işin inceliğinin çok spesifik olduğu yönündeydi. LLM’ler çok adımlı, bazen belirsiz müşteri etkileşimlerini akıl yürütme kapasitesine ulaştığında, bir insanı sadece desteklemek yerine uçtan uca tüm düzenlemeye tabi iş akışlarını yönetebilen ajanlar inşa etmek mümkün olmaya başladı. Düzenlemeye tabi şirketlerin gerçekten ihtiyaç duyduğu ile mevcut olan arasındaki bu boşluk, Gradient Labs’ı kurmamıza ve finans için özel olarak inşa edilmiş dikey AI’ye yatırım yapmamıza yol açtı.

Tüketicilerin yaşadığı “deneyim keskinliği”ni tanımladınız: bir AI ajanı son derece karmaşık bir görevi yerine getirebilirken, başka bir sistem telefon numarasını bir isimden ayırt etme gibi basit bir konuda başarısız olur. Altta yatan modeller benzer yeteneklere sahip olsa da AI deneyimleri arasındaki bu dramatik boşluğa gerçekten ne sebep oluyor?

Bu boşluğun, modelin ham yetkinliğinden ziyade modele ne kadar mühendislik uygulandığıyla daha çok ilgili olduğunu söyleyebilirim. Bir sistem telefon numarasını bir isimle karıştırmak gibi basit bir görevde başarısız oluyorsa, doğrulama, geri dönüş mantığı, yapılandırılmış veri işleme gibi çevresel çerçeveye yatırım yapmadığı anlamına gelir. Daha etkileyici ajan muhtemelen görevi için tam olarak mühendislik yapılmıştır. Aynı temel model ailesi, tamamen farklı bir sıkılaştırma seviyesine sahiptir ve bu tam da keskin kenara yol açar.

Öncü modeller gelişmeye devam ederken, neden görünen o kadar basit AI hataları sürüyor? Bunlar öncelikle modellerin kendisinin sınırlamaları mı, yoksa çevresindeki sistem mimarisi, veri, iş akışları, değerlendirme ve ürün tasarımındaki hatalar mı?

Bu esas olarak sistemle ilgilidir, modelle değil. Öncü modeller akıl yürütme konusunda gelişmeye devam ediyor. Ancak şirketler genellikle bu modelleri olasılık temelli davranışlar için geliştirilmemiş sistemlere bağlar. Sistemlerde kırılgan entegrasyonlar ve eksik veriler bulunur ve değişiklikler gönderilmeden önce gerçek bir değerlendirme döngüsü yoktur. Bu yüzden üretimdeki temel bir AI hatası aslında bir AI hatası değil, değerlendirme, izleme ve iş akışı tasarım süreçlerine yatırım yapılmamasıdır.

Birçok şirket AI müşteri hizmetlerini hız, tutma veya bilet yönlendirme etrafında optimize ediyor gibi görünüyor. Bir AI ajanın gerçekten müşteri deneyimini iyileştirip iyileştirmediğini ölçmek isteyen şirketler hangi metrikleri kullanmalı?

Bu amaçla çözüm doğruluğunu göz önünde bulundurmalıyız. Hız ve tutma, müşteriyi telefondan çıkarıp çıkaramadığınızı değerlendirmek için kullanılır, sorunun çözülüp çözülmediğini değil. AI ajanının yeteneğini ölçmek için kullanılmalı olan çözüm doğruluğu, ajanın sadece hızlı yanıt vermek yerine doğru şeyi yapıp yapmadığını dikkate alır. Bu, tekrarlanan temas oranları, şikayet hacmi ve bir insanın sonradan ne sıklıkla müdahale etmesi gerektiği gibi diğer sinyallerle birlikte çalışır. Yönlendirme oranı artıyorsa ancak tekrarlanan temaslar ve şikayetler de artıyorsa, yanlış sonuca odaklandığınızı anlarsınız.

Gradient Labs, düzenlenmiş finansal hizmetlere odaklanır; burada hatalı bir yanıt, tipik bir müşteri hizmetleri hatasından çok daha büyük sonuçlar doğurabilir. Bir AI ajanının, kredi, anlaşmazlıklar, onboarding veya Know Your Customer kontrolleri gibi alanları içeren süreçleri otonom bir şekilde yönetmeye ne kadar güvenilir olduğunu nasıl belirlersiniz?

Çoğu ekibin tercih ettiği varsayılan yol, bir yardımcı pilot olmaktır: biri her eylemi onaylar çünkü daha güvenli hissettirir. Ve çoğu bunun daha güvenli olduğunu varsayar. Ancak gerçekte, AI çoğu şeyi doğru yaptıkça, inceleyenler gerçekten kontrol etmeden onay verir ve güvenlik yine kaybolur. Bu, mevcut iş yükünü azaltmaya yardımcı olmaz. Sadece süreci hızlandırır ve elde ettiğiniz değeri düşürür.

Bu nedenle, bir AI ajanının yeterince güvenilir olması kavramı Gradient Labs’ta oldukça süreç‑spesifiktir. Bizim için, bu, aşamalı bir özerklikle geliştirilmelidir ve tek bir hedef olarak görülmemelidir. Bir ajana, KYC veya anlaşmazlıklar gibi konularda daha fazla bağımsızlık ancak gerçek vakalardan oluşan büyük, dinamik bir setle karşılaştırıldıktan ve üretime girdikten sonra bile kararlarının bir örnekle insan incelemesinden geçtiği zaman verilebilir. İlginç bir şekilde, bu da tersine döndürülebilirliğin burada gerçekten önemli olduğunu doğrular. Bir şey geri alınabiliyorsa, geri alınamayan bir şeye göre özerkliği daha hızlı kazanır.

Korumalar, AI ajanlarını daha güvenli hale getirmenin çözümü olarak giderek daha fazla sunuluyor, ancak daha fazla kural eklemek sistemleri katılaştırabilir veya meşru görevleri tamamlamalarını engelleyebilir. Bir ajanı başka bir yüksek derecede kısıtlı sohbet botuna indirgemeden özerkliği korumalarla nasıl dengeleyebilirsiniz?

Hata, korumaları ajanın sadece sekerek geri döneceği bir duvar olarak görmektir. Sistemimizde, aynı anda iki işlevi yerine getirirler. Konuşmanın her bir turunda korumaları çalıştırırız — bazıları müşterinin ne söylediğini inceler, kırılganlık, finansal zorluk veya şikayet gibi durumları yakalar, diğerleri ise ajanın söyleyeceklerini kontrol eder, uyumlu kalmasını sağlar. Ancak bir koruma devreye girdiğinde sadece engellemez: ajanın doğru prosedüre yönlendirilmesini sağlar ve bu karar, ajanın mantığında şeffaf olur, böylece operatörler neden bu şekilde davrandığını görebilir. Daha derin korumalar, ajanın bir görevi nasıl düşünmesi gerektiği, erişebileceği veri ve kullanabileceği araçlar üzerine de inşa edilmiştir. Bu kombinasyon, ajanın korumaları ve neden var olduklarını anlamasını sağlayarak, sadece izin verilmeyen bir şeye benzemesi nedeniyle reddetmek yerine meşru bir görevi tamamlamasını mümkün kılar; böylece sistemi katılaştırmadan güvenli tutar.

Burada, sorunun korumaları ajanın sekerek geri döneceği bir tuğla duvar olarak görmek olduğunu düşünüyorum. Daha spesifik olarak, bir konuşmanın her turunda iki farklı koruma türü çalıştırıyoruz. İlk olarak, müşterinin ne söylediğini inceleyen ve kırılganlık, finansal zorluk, şikayet eden müşteriler gibi durumları tespit etmeyi amaçlayan müşteri korumalarına sahibiz. İkinci olarak, mesajı göndermeden önce ajanın ne söyleyeceğini kontrol eden ve uyumu sağlamak için çalışan ajan korumaları bulunuyor.

Bu, bu korumalardan biri devreye girdiğinde bir eylemi tamamen engellemek yerine, onu doğru yola yönlendireceği anlamına gelir. Böylece, ajanın karar verme süreçleri şeffaf kalır ve insan operatörlere alınan eylemin nedeni sağlanır.

Bunu yapabilmemizin nedeni, bir ajanın akıl yürütme sürecinin her yönünün bir LLM’den geçmek zorunda olmamasıdır. Bu tür korumalar deterministiktir çünkü yalnızca bir konuşmanın sonunda devreye girmekle kalmaz, ajanın ömrü boyunca tetiklenir. Bu sayede, ajana hassas iletişimde güvenebiliyor ve belirli ajanların ölçekli ve öngörülebilir bir şekilde kullanım durumları için özelleştirilmesine izin veriyoruz.

En önemli şey, ajanın bir görevi nasıl düşünmesi gerektiğinin öğretilmesidir; böylece ilgili verilere erişebilir ve kullanması gereken araçları bilir. Ajana, izin verilmediği izlenimi taşıyan bir şeyi reddetmek yerine meşru bir görevi tamamlayabilme yeteneği, güvenliği artırır ve katılığı önler.

AI ajanları giderek daha özerk hale geldikçe insanlar nerede döngü içinde kalmalı? Altta yatan modeller ne kadar yetenekli olursa olsun, hâlâ insan yargısına ihtiyaç duyulması gerektiğini düşündüğünüz belirli kararlar veya müşteri etkileşimleri var mı?

Bir karar dürüst takdir gerektiriyorsa, müşteri üzerinde önemli sonuçları varsa veya ajanın henüz değerlendirilmediği bir sonuçla ilgiliyse bir insanın dahil olması gerekir. İnsan mutlaka tüm süreci yürütmek zorunda değildir, ancak gerektiğinde gözden geçirmeli veya onaylamalıdır. Modeller daha yetenekli hale geldikçe bile bu muhtemelen geçerlidir, çünkü genellikle mesele yetenek değil, sorumluluk ve kredi sonuçları ya da anlaşmazlıklar gibi konularda müşterinin bir insan karar vericisine sahip olma hakkıdır.

Bir karar dürüst takdir gerektiriyorsa, müşteri üzerinde önemli sonuçları varsa veya ajanın henüz değerlendirilmediği bir sonuçla ilgiliyse bir insanın dahil olması gerekir. Ben bunu tipik geri dönüş modelinden biraz daha ileri götürerek, ajanların organizasyon şemasında insanlarla birlikte yer almaya giderek daha fazla hak kazandığını savunurum. Bunun sonucunda insan çabaları yoğun olarak yükseltmeler ve yargı kararları üzerine odaklanırken, ajanlar koordinasyon ve yönlendirme işini üstlenir.

Ancak bunun gerçekten başarılı olabilmesi için, ajanların da bir insanın sahip olduğu aynı kurumsal bağlamı bilmesi gerekir; böylece belirli sorunlara kimin ne zaman dahil edileceğini bilirler. İşte bu yüzden Collaborate’i geliştirdik. Operatörlerin, mühendislerin ve ajanların eşit seviyede, sürüm kontrolü, değerlendirmeler ve sürekli öğrenme odaklı bir şekilde birlikte çalışmasını sağlamak için. Bu, insanların tamamen döngüde kalmasını temin eder ve döngü sadece ajan ve insanın ne kadar iyi koordine olduğuna göre şekil değiştirir.

Gradient Labs, tek bir genel amaçlı ajan yerine belirli finansal hizmet iş akışları için tasarlanmış uzman ajanlara odaklandı. Sizce kurumsal AI geleceği öncelikle uzman ajan ağlarından mı oluşacak, yoksa giderek daha yetenekli temel modeller bu uzmanlaşmayı daha az önemli hâle getirecek mi?

Bence temel modeller gelişse bile uzmanlaşma hâlâ önemli. İnsanlar sadece akıllı bir model için ödeme yapmayacak, aynı zamanda iş akışına özgü değerlendirme, koruyucu önlemler ve veri entegrasyonu için de ödeme yapacak. Ve bu çalışma, temel model daha iyi hale geldiği için ortadan kalkmaz. Bunu, tek bir genel amaçlı ajanın her şeyi yapması yerine, ortak ve güçlü bir temel model üzerine inşa edilmiş bir uzman ajan ağı olarak görürüm.

AI ajanlarının dağıtımdan sonra öğrenmesi ve gelişmesi giderek daha fazla gerekiyor, ancak düzenlenmiş ortamlarda küçük bir davranış değişikliği bile yeni riskler doğurabilir. Şirketler, güncellemelerin gerilemelere, uyum sorunlarına veya beklenmedik davranışlara yol açmadığından emin olurken ajanı nasıl sürekli iyileştirebilir?

Çalıştığımız ilke, her güncellemenin yeni bir model sürümü olarak ele alınması, kademeli bir yapılandırma değişikliği değil; böylece her değişiklik, dağıtıma girmeden önce tam bir değerlendirme setinden geçer. Bu, bir hatanın gerçek bir fark yaratacağı önceden belirlenmiş durumlara karşı regresyon testlerini içerir ve hiçbir şey aynı anda tüm müşterilere canlı olarak sunulmaz: kademeli olarak dağıtılır ve izlenir, böylece kayma başladığında bunu tam ölçek yerine sınırlı bir trafik diliminde yakalarız. Bu, yakın zamanda çıkardığımız Collaborate sürümünün tam da üzerine kurulu olduğu şeydir. Collaborate, operatörlerin, mühendislerin ve AI ajanın aynı canlı tanım üzerinde eşit seviyede çalışmasını sağlar; sürüm kontrolü, değerlendirmeler ve sürekli öğrenme doğrudan iş akışına entegre edilmiştir. Böylece birisi ajanın bir durumu nasıl ele aldığını geliştirdiğinde, bu değişiklik sürümlenir, geçmiş konuşmalara karşı test edilir ve diğer sürümler gibi aynı kontroller altında dağıtılır. Bu, bir ajanın dağıtımdan sonra daha iyi olmaya devam etmesini sağlar; iyileştirme kendisi bir regresyon ya da uyum problemi yaratmaz.

Geleceğe baktığımızda, güçlü temel modellere erişim giderek daha çok bir meta ürün hâline geldikçe, AI uygulamalarındaki gerçek rekabet avantajı nereden gelecektir? Kazananlar en iyi modellere sahip olanlar mı, yoksa güvenilir sistemler inşa etmede ve etraflarında tutarlı iyi deneyimler sunmada en iyisi olanlar mı olacak?

Şimdi daha fazla temel model birbirine yaklaşmaya başladıkça, üstünlük neredeyse tamamen bu modeller etrafında daha güvenilir sistemler inşa etmede en iyisi olan tarafa kayacaktır; bu, değerlendirme, koruyucu önlemler, veri ve iş akışı tasarımını içerir. Model bir meta girdi hâline geliyor, ancak üretimdeki tutarlılık ve güvenilirlik gerçek ürün haline geliyor.

Bunun ötesinde, avantajın daha çok bir ajanın bir şirketin operasyonlarına ne kadar derinlemesine entegre olduğundan geleceğini görüyorum. Birçok farklı şirket operasyonuna entegre olabilen ajanlar, sadece belirli problemleri ele alabilen ya da sadece ön hataya ulaşabilen araçların üzerine çıkacak. Bir ajan ön hat ve arka ofis sistemleri arasında çalışabildiğinde, etkileşimlere daha fazla bağlam getirebilir ve bir insan gibi uçtan uca daha karmaşık problemleri halledebilir. Bir ajanın bir şirketin gerçek çalışma şekline uyum sağlayabilmesi, kalıcı başarının kaynağı olacaktır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Gradient Labs adresini ziyaret etmelidir.