Raj Shukla, SymphonyAI’nın CTO’su – Röportaj Serisi

Raj Shukla SymphonyAI’nin teknoloji yol haritasını ve yürütmesini yönlendiriyor ve Eureka Gen AI platformunu oluşturan mühendislik ekibine liderlik ediyor. Yaklaşık 20 yıllık AI/ML mühendisliği ve araştırma deneyimine sahip olan Shukla, ayrıca Microsoft’taki mühendislik liderliği rollerinden kaynaklanan geniş entreprise AI SaaS deneyimine de sahiptir. Burada başarılı 14 yıllık kariyeri, Azure, Dynamics 365, MSR ve arama ve reklam bölümlerinde küresel AI bilim ve mühendislik organizasyonlarını yönetmeyi içermiştir. Raj, arama, reklam ve entreprise AI’de geniş deneyime sahiptir ve hem tüketici hem de iş alanlarında birkaç başarılı AI SaaS ürünü oluşturmuştur.

SymphonyAI endüstriye özgü AI uygulamaları oluşturan bir entreprise-AI şirketidir ve bu uygulamalar hemen hemen iş değerleri sağlar. Genel modeller yerine, perakende, tüketim malları, finansal hizmetler, imalat, medya ve BT gibi dikey çözümler sunar ve tahmin, dolandırıcılık önleme, operasyonel optimizasyon ve analiz gibi zorluklarla mücadele eder. Ürünleri, her sektöre özgü iş akışlarına karıştırılan öngörülü, üretken ve ajantik yetenekler sunan Eureka AI platformu tarafından desteklenmektedir. 2017 yılında kurulan şirket, binlerce entreprise müşterisine ölçeklenebilir, alan odaklı çözümler sunan bir dikey AI liderine dönüşmüştür.

Microsoft, Oracle ve şimdi SymphonyAI’de AI inovasyonunun ön saflarında çalıştınız—sizleri entreprise AI dünyasına neler çekti ve bakış açınız yıllar içinde nasıl değişti?

Entreprise AI’ye olan yolculuğum, şirketlerin gerçek iş sorunlarını çözen AI uygulamaları uygulamaları gerektiği inancıyla başladı. Genel, geniş tabanlı AI çözümlerinin nadiren dönüştürücü değer sağladığını gördüm. SymphonyAI’de, şirket stratejimizi ve kültürümüzü, finansal suç tespitinden perakende ticaretine yönelik mağaza odaklı perakende ticareti ve endüstriyel bağlı işçi güce kadar özgü endüstriyel zorlukları anlayan AI geliştirmeye dayandırdık. Enterprise-hazır olma, başarılı entreprise AI için büyük bir boyut ekler – yalnızca mükemmel teknoloji değil, aynı zamanda örnek veri yönetimi ve mimarisi, sofistike çapraz fonksiyonel işbirliği ve iş akışları ve tam şeffaflık ve denetlenebilirlik gerektirir.

Özellikle finans veya sağlık gibi ağır olarak düzenlenen sektörlerde, entreprises generic pretrained modellerle hangi eksikliklerle karşılaşır? 

Generic pretrained modeller, finans, sağlık ve gıda gibi yüksek riskli, ağır olarak düzenlenen ortamlar için tasarlanmamıştır. Generic, pretrained modeller, endüstriye özgü nüansları ele almak ve farklı coğrafyalardaki katı düzenleyici ve uyumluluk gereksinimlerini karşılamak için gerekli alan uzmanlığına ihtiyaç duyulan kritik engellerle karşılaşır. Ayrıca, entreprises’in gerektirdiği doğruluk ve izlenebilirliği sağlayamazlar. SymphonyAI’nin dikey AI teknolojisi, işlettiği endüstriler için özel olarak tasarlanmıştır ve bu endüstrilerin ontolojileri üzerinde eğitilmiştir, böylece işletmeler doğrudan iş etkileri yaratmak için kararlar alabilir veya otomatikleştirebilir.

Önceden eğitilmiş modelleri derin alan mantığı ile birleştirmek, entreprise ROI’unun kilidini açmak için giderek daha önemli görülüyor—bu yaklaşımın etkili olmasını sağlayan temel bileşenler nelerdir? 

Önceden eğitilmiş modelleri derin alan mantığı ile birleştirmek, işletme bağlamını ve operasyonel gereksinimleri anlayan AI sistemleri oluşturur. Bu yaklaşım, modeller endüstriye özgü ontolojilerle güçlendirildiğinde, işletme KPI’leriyle hizalandığında ve düzenleyici sınırlarla donatıldığında başarılı olur. Bu unsurlar birlikte çalıştığında, genel AI, işletme açısından kritik çözümlere dönüşür ve işletmelerin talep ettiği güvenilirlik ve uyumluluğu sağlar.

IBM, Seek AI’yi satın aldı ve Watsonx Labs’ı New York’ta başlattı, bu da AI peyzajında potansiyel bir stratejik değişimi işaret ediyor—bu, entreprise AI’de birleşme ve satın alma ve yatırım trendleri için ne anlama geliyor? 

IBM’nin Seek AI’yi satın alması ve Watsonx Labs’ı başlatması, temel bir değişimin gerçekleştiğinin kanıtıdır: entreprise AI peyzajı değişmiştir ve bir sonraki birleşme ve satın alma dalgası, derin endüstri uzmanlığına, yönetim ve düzenleyici sınırlarına ve sonuç odaklı KPI’lere sahip önceden eğitilmiş dikey AI modellerine sahip şirketlere öncelik verecektir. Stratejik alıcılar gibi IBM, işletme verilerine odaklanan AI ajanlarının anında ROI sağladığını anlar. Pazar, genel zekanın entreprise dönüşümünü sürdürebilmek için dikey uzmanlığa ihtiyaç duyduğu konusunda birleşiyor.

Bir temel model, ne zaman bir alan özgü ajan haline gelir—bu geçişi gösteren mimari kilometre taşları nelerdir? 

Bir temel model, doğal olarak bir alan ajanına dönüşmez; birine dönüştürülmesi gerekir. Bir genel modelin basitçe “daha akıllı” hale gelip bir banka soruşturmacısına dönüşeceği doğrudan bir yol yoktur. Geçiş, mühendislik ekiplerinin modelin ham zekasına güvenmeyi bırakıp onun etrafında yönetilen bir mimari inşa etmeye başladıklarında gerçekleşir—özellikle bir bağlam katmanı (bir Bilgi Grafiği gibi) ve bir iş akışı katmanı ekleyerek modeli iş sürecini takip etmeye zorlar.

Agentic iş akışlarının hem dayanıklı hem de dikey özgü olmasını sağlayan temel zorluklar nelerdir ve SymphonyAI bunları nasıl ele alır? 

Agentic iş akışlarının dayanıklı ve dikey özgü olmasını sağlayan temel zorluklar, karmaşık çok adımlı işlemler boyunca güvenilirliği sürdürmektir. SymphonyAI, bu zorlukları, ajanlara doğrudan alan uzmanlığını yerleştiren, hata işleme ve kurtarma ile uzun süreli, dayanıklı, hata toleranslı iş akışlarını sağlayan çok katmanlı bir mimari ile ele alır. Bu, ajanların yüksek riskli, düzenlenmiş ortamlarda güvenilir bir şekilde çalışmasını sağlar.

SymphonyAI, güçlü veri temelleri, bilgi grafikleri ve meta veri katmanlarına vurgu yapıyor—dikey AI ajanları için bu yetenekler neden kritik ve birçok entreprise bunları uygulamada neden zorlanıyor? 

Güçlü veri temelleri ve bilgi grafikleri, dikey AI ajanlarının anlamlı kaynaklara sahip olmasını, bağlamsal öneriler sunmasını ve pazar, müşteri ve işletme değişikliklerine karşı güncel kalmasını sağlar. Çoğu entreprise, bu yetenekleri uygulamada zorlanıyor çünkü bunlar, önemli ön yatırım, veri mimarisi, uzman ontoloji bilgisi ve mevcut veri uygulamalarında temel değişiklikler gerektiriyor. İşte bu noktada, dikey AI teknolojisinde derin deneyim ve bilgiye sahip bir ortak, işletmeler için değerli oluyor.

Gerçek dünya senaryolarında—finansal suç tespiti veya perakende tahmini gibi—SymphonyAI, öngörülü, üretken ve ajantik AI’yi nasıl birleştirmektedir?

SymphonyAI, öngörülü, üretken ve ajantik AI’yi, her biri spesifik bir iş sorununa çözüm sağlayan entegre iş akışlarına birleştirmektedir. Finansal suç tespitinde, öngörülü modeller şüpheli işlem kalıplarını tanımlar ve üretken AI, ayrıntılı soruşturma raporları ve risk değerlendirmeleri oluşturur. Aynı zamanda, ajantik AI, tüm iş akışını düzenler, otomatik olarak vakaları yükseltir, uyum ekipleriyle işbirliği yapar ve gerçek zamanlı bulgulara dayanarak soruşturma stratejilerini uyarlar.

Anahtar, bu AI araçlarının ayrı değil, işletme bağlamını anlayan, iş akışı durumunu koruyan ve öngörülü analiz, içerik oluşturma ve otomatik eylem arasında sorunsuz bir şekilde geçiş yapabilen dikey özgü ajanlar içindeki entegre yetenekler olmasıdır.

Birçok entreprise AI ajanının dayanıklılık olmadan tökezleyebileceğini uyarıyorsunuz—bir iyi tasarlanmış, hata toleranslı entreprise AI ajanının temel özellikleri nelerdir? 

İyi tasarlanmış, işletme için uygun bir AI ajanı, beberapa kritik özellikler gerektirir. AI ajanları, işletme verilerine dayanır, ancak bu veriler genellikle bölünmüş ve uygun programatik erişim, izinler ve erişim kontrollerinden yoksundur. Ajanlar, aynı zamanda işletme sistemleri arızalarından, ağ kesintilerinden ve güvensiz uç noktalardan kurtulmalıdır. İş akışı katmanı, uzun süreli, dayanıklı, hata toleranslı iş akışlarını ermögilmelidir. Ayrıca, AI ajanları, deterministik olmayan ve görevlerde başarısız olabilir. Hata kurtarma, yeniden deneme ve optimal yol keşfi, ajantik sistemlerin ana özelliklerinden olmalıdır.

CTO’lar, dikey AI platformlarını içten inşa etmek yerine niş tedarikçilerle ortaklık yapmayı düşünüyorlarsa, size ne tür tavsiyeler verirsiniz? 

Perakende/CPG, endüstri, finansal hizmetler ve daha fazlası gibi birçok endüstride entreprise AI çözümleri oluşturmak, hem AI teknolojisinde hem de derin alan uzmanlığında usta olmak anlamına gelir. Eureka AI platformumuz, dikey özgü veri kaynakları, bilgi grafikleri, öngörülü modeller ve ajanların her endüstriye özgü olarak uyarlanması gerektiğini göstermektedir, ancak bu, yıllarca süren araştırma yatırımı ve müşteri iterasyonunu temsil etmektedir. AI’ye yatırım yapmak isteyen işletmelere ve CTO’lara, gerçek sonuçlar sağlayan çözümleri tercih etmelerini tavsiye ederim. Dikey AI çözümleri, kullanıcılara iş değerini yaratmak için kullanabilecekleri verileri sağlar.

Gelecekte entreprise AI mimarilerini nasıl görüyorsunuz—paylaşılan temel modeller üzerine inşa edilen federated dikey ajanlar norm haline gelecek mi?

Sadece “federated” ajanlar görmeyeceğiz; yönetilen ajantik mimarileri göreceğiz. Paylaşılan temel modeller, akıl yürütme motoru sağlar, ancak esasen emtialardır. Başarılı işletmelerin normu, sadece birbirleriyle konuşmakla kalmayan, aynı zamanda katı bir şekilde bir paylaşılan bağlam katmanı aracılığıyla düzenlenenen, uzmanlaşmış, dikey ajanları dağıtmak olacaktır. Sadece “federated” ajanlara sahip olmanız, gürültülü, hayal gücüne sahip bir sistemle sonuçlanır—bunu “entreprise AI’nin sızıntılı boru hattı” olarak adlandırıyoruz. Bu mimarinin üretim ölçeğinde çalışması için, üç spesifik katmana ihtiyacınız vardır:

• Bağlam (Alan Bilgi Grafiği): Ajanların, sadece olasılıkları değiştirmek yerine, tek bir gerçeklik kaynağıyla paylaşması gerekir.
• Düzenleme: Bir “usta mimar”a ihtiyacınız vardır, bu, ne zaman uzmanlaşmış bir ajana başvurmanız ve ne zaman insanı döngüye almanız gerektiğini kararlaştırır.
• Yönetim: Çıktının, sistemden çıkmadan önce yasal ve operasyonel olarak güvenli olması gerekir.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular SymphonyAI sitesini ziyaret edebilir.