SymphonyAI’nin CTO’su Raj Shukla ile Röportaj Serisi

Raj Shukla, SymphonyAI’nin teknoloji yol haritasını ve yürütmesini yönlendiriyor ve Eureka Gen AI platformunu oluşturan mühendislik ekibine liderlik ediyor. almost 20 yıl AI/ML mühendisliği ve araştırma deneyimine sahip olan Shukla, ayrıca Microsoft’ (MSFT ) taki mühendislik liderlik rollerinden edindiği geniş çaplı企业 AI SaaS deneyimine de sahiptir. Microsoft’taki başarılı 14 yıllık kariyeri, Azure, Dynamics 365, MSR ve arama ve reklamcılık bölümlerindeki küresel AI bilim ve mühendislik organizasyonlarını yönetmeyi içermiştir. Raj, arama, reklamcılık ve entreprise AI’de geniş deneyime sahiptir ve tüketici ve iş alanlarında birçok başarılı AI SaaS ürününü oluşturmuştur.

SymphonyAI, endüstriye özgü AI uygulamaları oluşturan bir entreprise-AI şirketidir. Genel modeller yerine, perakende, tüketim malları, finansal hizmetler, imalat, medya ve BT gibi dikey çözümler sunar ve tahmin, dolandırıcılık önleme, operasyonel optimizasyon ve analiz gibi zorluklarla mücadele eder. Ürünleri, öngörücü, üretken ve ajans yeteneklerini her sektöre özgü iş akışlarına entegre eden Eureka AI platformu tarafından desteklenmektedir. 2017 yılında kurulan şirket, dikey AI’de küresel bir lider haline gelmiştir ve binlerce entreprise müşterisine ölçeklenebilir, alan odaklı çözümler sunmaktadır.

Microsoft ve Oracle’ (ORCL ) de AI inovasyonunun ön saflarında çalıştıktan sonra şimdi SymphonyAI’desiniz—entreprise AI dünyasına ilk olarak ne sizi çekti ve bu yıllar içinde perspektifiniz nasıl değişti?

Enterprise AI’ye olan ilgim, şirketlerin gerçek iş sorunlarını çözen AI uygulamaları geliştirmesi gerektiği inancıyla başladı. Genel, geniş tabanlı AI çözümlerinin genellikle dönüştürücü değer sağlamadığını gördüm. SymphonyAI’de, şirket stratejimizi ve kültürümüzü, finansal suç tespitinden perakende ticaretine, endüstriyel bağlantılı işçi güce kadar spesifik endüstri zorluklarını anlayan AI geliştirmeye odakladık. Enterprise hazırlığı başka bir boyut ekler – başarılı entreprise AI, büyük teknolojiye ihtiyaç duymaz, aynı zamanda mükemmel veri yönetimi ve mimarisi, sofistike çapraz fonksiyonel işbirliği ve iş akışları ve tam şeffaflık ve denetlenebilirlik gerektirir.

Şirketler, özellikle finans veya sağlık gibi ağır düzenlenmiş sektörlerde, genel önceden eğitilmiş modellerle hangi cụspecific eksikliklerle karşılaşır? 

Önceden eğitilmiş genel modeller, finans, sağlık ve perakende gibi yüksek riskli, ağır düzenlenmiş ortamlar için tasarlanmamıştır. Genel, önceden eğitilmiş modeller, endüstriye özgü nüansları ele almak ve farklı coğrafyalarda farklı düzenleyici ve uyumluluk gereksinimlerini karşılamak için gerekli alan uzmanlığına ihtiyaç duyar. Ayrıca, şirketlerin gerektirdiği doğruluk ve izlenebilirliği sağlayamazlar. SymphonyAI’nin dikey AI teknolojisi, çalıştığı endüstriler için özel olarak tasarlanmış ve eğitilmiştir, böylece doğrudan iş etkileri yaratmak için kararlar alabilir veya otomatikleştirebilir.

Önceden eğitilmiş modelleri derin alan mantığıyla birleştirmek, entreprise ROI’un kilidini açmanın anahtarı olarak görülüyor—bu yaklaşımın etkili olmasını sağlayan temel bileşenler nelerdir? 

Önceden eğitilmiş modelleri derin alan mantığıyla birleştirmek, AI sistemlerinin iş bağlamını ve operasyonel gereksinimleri anlamasını sağlar. Bu yaklaşım, modellerin endüstriye özgü ontolojilerle güçlendirilmesi, entreprise KPI’leriyle hizalanması ve düzenleyici sınırlarla donatılmasıyla başarılı olur. Bu unsurlar birlikte çalıştığında, genel AI, işletme sonuçlarını doğrudan hizmet eden ölçülebilir iş hedeflerine sahip iş kritik çözümlere dönüşür.

IBM, Seek AI’yi satın aldı ve New York’ta Watsonx Labs’ı açtı, bu da AI peyzajında stratejik bir değişimin sinyali olabilir—bu, entreprise AI’deki birleşme ve satın alma trendleri ile yatırım trendleri hakkında ne anlama geliyor? 

IBM’nin Seek AI’yi satın alması ve Watsonx Labs’ı açması, temel bir değişimin sinyali—entreprise AI manzarası değişti, bu da bir sonraki dalganın, derin endüstri uzmanlığına sahip, önceden eğitilmiş dikey AI modellerine sahip şirketlere öncelik vereceğini gösteriyor. Stratejik alıcılar, IBM gibi şirketler, AI ajanlarının entreprise verilerini anladığını ve işletme iş akışlarına odaklandığını tanıyor. Pazar, genel zekanın entreprise dönüşümünü sürdürebilmek için dikey uzmanlaşmaya ihtiyaç duyduğu nhậnisine doğru konsolide oluyor.

Bir temel model, bir alan spesifik ajan nasıl evrilir—bu geçişi gösteren mimari kilometre taşları nelerdir? 

Bir temel model, doğal olarak bir alan ajanına dönüşmez; buna mühendislik ekibi tarafından dönüştürülmesi gerekir. Genel bir model, kendi probabilistik eğilimlerine göre hareket etmek yerine, iş süreçlerini takip etmesi için bir bağlam katmanı ve bir orkestrasyon katmanı ile donatılması gerekir.

Dayanıklı ve dikey spesifik ajans iş akışları oluşturmanın temel zorlukları nelerdir ve SymphonyAI bunları nasıl ele alır? 

Dayanıklı ve dikey spesifik ajans iş akışları oluşturmanın temel zorlukları, karmaşık çok adımlı işlemler boyunca güvenilirliği korumaktır. SymphonyAI, bu zorlukları, ajanslara doğrudan alan uzmanlığını entegre ederek, hata işleme ve geri kazanma ile kalıcı bağlam yönetimi sağlayarak çözer.

SymphonyAI, güçlü veri temelleri, bilgi grafikleri ve meta veri katmanlarına vurgu yapıyor—bunlar dikey AI ajanları için neden kritik ve birçok entreprise neden bunları uygulamaya çalışırken zorluklarla karşılaşıyor? 

Güçlü veri temelleri ve bilgi grafikleri, dikey AI ajanlarının anlamlı kaynaklara sahip olmasını, bağlamsal öneriler sunmasını ve pazar, müşteri ve işlemlerdeki değişikliklerle güncel kalmasını sağlar. Çoğu entreprise, bu yetenekleri uygulamaya çalışırken zorluklarla karşılaşır, çünkü bunlar önemli ön yatırım, uzman ontoloji bilgisi ve temel veri uygulamalarında değişiklikler gerektirir.

Gerçek dünya senaryolarında—finansal suç tespiti veya perakende tahmini gibi—SymphonyAI, öngörücü, üretken ve ajans AI’yi nasıl birleştirmektedir?

SymphonyAI, öngörücü, üretken ve ajans AI’yi, her bir AI ürününün spesifik bir iş sorununu karşılayacak şekilde entegre edilmiş iş akışlarına dönüştürerek birleştirmektedir. Finansal suç tespitinde, öngörücü modeller şüpheli işlem kalıplarını tanımlar, üretken AI ise ayrıntılı soruşturma raporları ve risk değerlendirmeleri oluşturur. Aynı zamanda, ajans AI tüm iş akışını orkestratör, otomatik olarak vakaları tăngştirir, uyum ekipleriyle koordine eder ve gerçek zamanlı bulgulara dayanarak soruşturma stratejilerini uyarlar.

Çok sayıda entreprise AI ajanının dayanıklılık olmadan tökezleyebileceği konusunda uyardınız—bien mühendislik yapılmış, hata toleranslı bir entreprise AI ajanının temel özellikleri nelerdir? 

İyi mühendislik yapılmış, şeffaf entreprise AI ajanları beberapa kritik özellikler gerektirir. Bunlar arasında:

• Enterprise AI ajanları, entreprise verilerine erişir, ancak bu veriler genellikle siloludur ve programatik erişim, izinler ve erişim kontrolleri yoktur. Ajanlar, çalışanlar gibi aynı kimlik doğrulama ve yetkilendirme önlemlerine sahip olmalıdır.
• Ajanlar, entreprise sistem arızaları, ağ kesintileri ve güvensiz uç noktalar gibi tüm entreprise sistem arızalarından kurtulabilmelidir. Orkestrasyon katmanı, uzun süreli, dayanıklı, hata toleranslı iş akışlarını ermögelmelidir.
• LLM’ler deterministik değildir ve görevlerde başarısız olabilir. Hata kurtarma, yeniden deneme ve optimal yol keşfi, ajans sistemlerinin temel özellikleri olmalıdır.

CTO’lar, dikey AI platformlarını içinden geliştirmeyi düşünüyorlarsa, niş tedarikçilerle ortaklık kurmayı düşünüyorlarsa, size ne tür tavsiyelerde bulunurdunuz? 

Enterprise AI çözümlerini, perakende/CPG, endüstriyel, finansal hizmetler ve daha fazlasını içeren birden fazla endüstriye yaymak, hem AI teknolojisini hem de derin alan uzmanlığını aynı anda ustaca kullanmayı gerektirir. Eureka AI platformumuz, her endüstri için veri kaynakları, bilgi grafikleri, öngörücü modeller ve ajanların nasıl uyarlanacağını göstermektedir, ancak bu, yıllarca süren araştırma yatırımı ve müşteri iterasyonunu temsil etmektedir. AI’ye yatırım yapmak isteyen işletmeler ve CTO’lar için, gerçek sonuçlar sağlayan çözümleri seçmelerini öneririm. Dikey AI çözümleri, kullanıcıların iş değerleri oluşturmak için kullanabileceği verileri sağlar.

Gelecekte, entreprise AI mimarilerini nasıl görüyorsunuz—paylaşılan temel modellere dayalı federatif dikey ajanlar norm haline gelecek mi?

Yalnızca “federatif” ajanlar görmeyeceğiz, yönetilen ajans mimarilerini göreceğiz. Paylaşılan temel modeller, akıl yürütme motorunu sağlar, ancak bunlar esasen emtialardır. Başarılı entreprises için norm, sadece birbirleriyle konuşan değil, aynı zamanda paylaşılan bir bağlam katmanı aracılığıyla sıkı bir şekilde orkestrasyon edilen, uzmanlaşmış, dikey ajanları dağıtmaktır. Yalnızca “federatif” ajanlar olsaydı, gürültülü, hayal gücü dolu bir sistemle karşılaşılırdı—bunu “entreprise AI’nin sızıntılı boru hattı” olarak adlandırıyoruz. Bu mimariyi üretim ortamında ölçeklenebilir kılmak için, basit federasyondan öteye geçen üç katman gerekir:

• Baglam (Alan Bilgi Grafiği): Ajanların tek bir gerçeklik kaynağı paylaştığından emin olunmalıdır, sadece olasılıkları değiştirmemelidir.
• Orkestrasyon: Ajanları ne zaman kullanacağını ve ne zaman insan müdahalesi gerektiğini belirleyecek bir “usta mimar”a ihtiyaç vardır.
• Yönetişim: Çıktının, sistemden çıkmadan önce yasal ve operasyonel olarak güvenli olduğundan emin olunmalıdır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular SymphonyAI sitesini ziyaret edebilir.