Raj Shukla, CTO van SymphonyAI – Interview Series

Raj Shukla stuurt de technologie-roadmap en -uitvoering van SymphonyAI, waarbij hij het engineering-team leidt dat de Eureka Gen AI-platform bouwt. Met bijna 20 jaar ervaring in AI/ML-engineering en -onderzoek, heeft Shukla ook uitgebreide ervaring met enterprise AI SaaS vanuit zijn engineering-leiderschapsrollen bij Microsoft, waar zijn succesvolle 14-jarige carrière het leiden van wereldwijde AI-wetenschap en -engineeringorganisaties omvatte in Azure, Dynamics 365, MSR en de zoek- en advertentieafdelingen. Raj heeft uitgebreide ervaring met AI/ML in zoekopdrachten, advertenties en enterprise AI en heeft verschillende succesvolle AI SaaS-producten gebouwd in zowel consumenten- als bedrijfsdomeinen.

SymphonyAI is een enterprise-AI-bedrijf dat zich richt op het bouwen van branche-specifieke AI-toepassingen die onmiddellijke bedrijfswaarde leveren. In plaats van generieke modellen, biedt het verticale oplossingen voor detailhandel, consumentengoederen, financiële dienstverlening, productie, media en IT, waarbij het uitdagingen aanpakt zoals forecasting, fraudepreventie, operationele optimalisatie en analytics. De producten worden aangedreven door de Eureka AI-platform, die predictieve, generatieve en agente-capaciteiten combineert in workflows die zijn aangepast aan elke sector. Het bedrijf is opgericht in 2017 en is uitgegroeid tot een wereldleider in verticale AI, met duizenden enterprise-klanten die schaalbare, domein-gerichte oplossingen ontvangen.

U hebt gewerkt aan de voorhoede van AI-innovatie bij Microsoft, Oracle en nu SymphonyAI—wat trok u oorspronkelijk aan in de wereld van enterprise AI, en hoe is uw perspectief geëvolueerd in de loop der jaren?

Mijn reis naar enterprise AI begon met een kernovertuiging dat bedrijven AI moeten implementeren die echte bedrijfsproblemen oplossen, en niet alleen AI creëren voor de sake van AI. Ik heb gezien dat generieke, brede AI-oplossingen zelden transformatieve waarde leveren. Bij SymphonyAI hebben we onze bedrijfsstrategie en -cultuur gebouwd op het ontwikkelen van AI die specifieke branche-uitdagingen begrijpt, van financiële criminele detectie tot shopper-georiënteerde detailhandelsmerchandising tot industriële verbonden werknemer-empowerment. Enterprise-readyheid voegt een hele dimensie toe – succesvolle enterprise AI vereist meer dan geweldige technologie, het vereist exemplarische data-governance en -architectuur, gesofisticeerde cross-functionele samenwerking en workflows, en volledige transparantie en auditeerbaarheid.

Welke specifieke tekortkomingen ondervinden bedrijven met generieke pretrained modellen, met name in zwaar gereguleerde sectoren zoals financiën of gezondheidszorg? 

Generieke pretrained modellen zijn niet gebouwd voor de high-stakes, zwaar gereguleerde omgevingen van financiën, gezondheidszorg en supermarkten. Generieke, pretrained modellen ondervinden kritieke barrières, waaronder de behoefte aan essentiële domein-expertise om branche-specifieke nuances aan te pakken en strikte regelgevings- en compliance-eisen te vervullen die verschillen per geografie. Het belangrijkste is dat ze niet de nauwkeurigheid en traceerbaarheid kunnen leveren die bedrijven vereisen, waar fouten consumenten kunnen schaden of regelgevingsinbreuken kunnen triggeren. Of het nu gaat om het voldoen aan anti-witwasregels of het mogelijk maken dat een supermarkt snel herinnerde artikelen uit distributiecentra en schappen verwijdert, de verticale AI-technologie van SymphonyAI is specifiek gebouwd voor de branches waarin we opereren en getraind op de ontologieën van die branches, waardoor ze beslissingen kunnen nemen of automatiseren die rechtstreeks bedrijfsimpact creëren.

Het combineren van pretrained modellen met diepe domeinlogica wordt steeds meer gezien als de sleutel tot het ontgrendelen van enterprise ROI—wat zijn de essentiële componenten, zoals branche-kennis, KPI-alignering en regelgevingsremmen, die deze benadering effectief maken? 

Het combineren van pretrained modellen met diepe domeinlogica ontgrendelt waarde door het creëren van AI-systemen die bedrijfscontext en operationele vereisten begrijpen. Deze benadering slaagt wanneer modellen worden versterkt met branche-specifieke ontologieën, afgestemd op enterprise KPI’s om ervoor te zorgen dat outputs rechtstreeks dienen voor meetbare bedrijfsdoelstellingen en zijn uitgerust met regelgevingsremmen die noodzakelijke compliance-kaders en auditrails bieden. Wanneer deze elementen samenwerken, transformeert generieke AI in bedrijfskritieke oplossingen die meetbare resultaten leveren terwijl ze de betrouwbaarheid en compliance behouden die bedrijven eisen.

IBM heeft onlangs Seek AI overgenomen en lanceerde Watsonx Labs in New York City, wat een potentieel strategische verschuiving in het AI-landschap aangeeft—wat geeft dit aan over de toekomst van M&A en investeringstrends in enterprise AI? 

IBM’s overname van Seek AI en de lancering van Watsonx Labs is een bevestiging van de fundamentele verschuiving die we hebben verwacht: het enterprise AI-landschap is verschoven, waarbij de volgende golf van M&A prioriteit zal geven aan bedrijven met pretrained verticale AI-modellen die diepe branche-expertise, governance en regelgevingsremmen, en outcome-gedreven KPI’s meebrengen. Strategische overnemers zoals IBM erkennen dat AI-agents die zich richten op enterprise-data onmiddellijke ROI leveren wanneer ze specifieke branche-workflows begrijpen. De markt consolideert zich rond de erkenning dat algemene intelligentie verticale specialisatie nodig heeft om enterprise-transformatie te stimuleren.

Op welk punt evolueert een foundation model in een domein-specifieke agent—wat zijn de architectonische mijlpalen die deze overgang signaleren? 

Een foundation model evolueert niet van nature in een domein-agent; het moet worden geëngineerd tot een. Er is geen directe weg waarlangs een algemeen model “slimmer” wordt en een bankonderzoeker wordt. De overgang gebeurt alleen wanneer engineering-teams stoppen met het vertrouwen op de raw intelligentie van het model en beginnen met het bouwen van de governed architecture eromheen—specifiek door het injecteren van een contextlaag (zoals een Knowledge Graph) en een orchestratielaag om het model te dwingen om een bedrijfsproces te volgen in plaats van zijn eigen probabilistische neigingen.

Wat zijn de kernuitdagingen bij het bouwen van agente-workflows die zowel robuust als verticaal-specifiek zijn, en hoe lost SymphonyAI deze op? 

De kernuitdagingen bij het bouwen van robuuste, verticaal-specifieke agente-workflows zijn het behouden van betrouwbaarheid over complexe multi-step processen. SymphonyAI lost deze uitdagingen op door middel van een multi-laags architectuur, die domein-expertise rechtstreeks in de agent embedt, foutafhandeling met herstel implementeert en persistente contextbeheer over multi-sessie enterprise-processen onderhoudt. Dit stelt onze agents in staat om betrouwbaar te opereren in high-stakes gereguleerde omgevingen waar robuustheid het behouden van nauwkeurigheid, compliance en operationele integriteit betekent.

SymphonyAI benadrukt robuuste data-fundamenten, kennisgraphen en metadata-lagen—waarom zijn deze capaciteiten kritisch voor verticale AI-agents, en waarom hebben veel bedrijven moeite om deze te implementeren? 

Robuuste data-fundamenten en kennisgraphen zijn cruciaal voor verticale AI-agents om betekenisvolle bronnen te hebben, gecontextualiseerde aanbevelingen te bieden en up-to-date te blijven met markt-, klant- en procesveranderingen over alle niveaus van het bedrijf. De meeste bedrijven hebben moeite om deze capaciteiten te implementeren omdat ze aanzienlijke voorafgaande investeringen in data-architectuur, gespecialiseerde ontologie-expertise en fundamentele veranderingen in bestaande data-praktijken vereisen die veel organisaties organisatorisch en technisch ontmoedigend vinden. Dat is waar een AI-technologiepartner met diepe ervaring en kennis in die verticale waardevol is, inclusief hun vermogen om de AI vooraf te trainen op grote hoeveelheden domein-data en -bronnen over veelvoudige real-world klanten in die industrie.

In real-world scenario’s—zoals financiële criminele detectie of detailhandelsforecasting—hoe combineert SymphonyAI predictieve, generatieve en agente AI in samenhangende “vaardigheden”?

SymphonyAI combineert predictieve, generatieve en agente AI in samenhangende “vaardigheden” door het creëren van geïntegreerde workflows waarin elk AI-product een specifiek bedrijfsprobleem aanpakt. In financiële criminele detectie identificeren onze predictieve modellen verdachte transactiepatronen, en generatieve AI creëert gedetailleerde onderzoeksrapporten en risicobeoordelingen. Tegelijkertijd orkestreert agente AI de hele workflow, automatiseert het escaleren van zaken, coördineert met compliance-teams en past onderzoeksstrategieën aan op basis van real-time bevindingen.

Het belangrijkste is dat deze niet afzonderlijke AI-hulpmiddelen zijn, maar geïntegreerde capaciteiten binnen domein-specifieke agents die bedrijfscontext begrijpen, workflow-status onderhouden en naadloos kunnen overschakelen tussen predictieve analyse, content-generatie en autonome actie om complete bedrijfsresultaten te leveren in plaats van gefragmenteerde AI-outputs.

U hebt gewaarschuwd dat veel enterprise AI-agents kunnen struikelen zonder robuustheid—wat zijn de belangrijkste kenmerken van een goed geëngineerde, fout-tolerante enterprise AI-agent? 

Goed geëngineerde, voor-scrutiny enterprise AI-agents vereisen verschillende kritieke kenmerken. Hoewel veel bedrijven snel investeren in en AI-agents implementeren om efficiëntie, productiviteit en innovatie te verbeteren, onderschatten ze vaak de grondwerk dat nodig is voor succes. Enkele vitale aspecten die goed geëngineerde agents nodig hebben om succesvol te zijn, zijn:

• Enterprise AI-agents opereren op enterprise-data, die vaak gesiloëerd is en ontbreekt in adequate programmatieke toegang, machtigingen en toegangscontrole. Agents moeten worden uitgerust met dezelfde authenticatie- en autorisatie-bepalingen als medewerkers.
• Agents moeten ook herstellen van alle vormen van enterprise-systeemfalen, netwerkuitval en onbetrouwbare eindpunten. De orchestratielaag moet langdurige, duurzame, fout-tolerante workflows mogelijk maken, wat de meeste populaire LLM-orchestrators niet doen.
• LLM’s zullen niet-deterministisch zijn en falen bij taken. Foutherstel, retries en optimale padontdekking moeten belangrijke functies zijn van agente-systemen.

Wat is uw advies voor CTO’s die overwegen om verticale AI-platforms intern te bouwen versus te partneren met niche-leveranciers? 

Het bouwen van enterprise AI-oplossingen over meerdere industrieën, waaronder detailhandel/CPG, industriële, financiële dienstverlening en meer, vereist het beheersen van zowel cutting-edge AI-technologie als diepe domein-expertise om echte waarde uit enterprise AI-oplossingen te halen. Ons Eureka AI-platform toont aan hoe verticale data-bronnen, kennisgraphen, predictieve modellen en agents moeten worden aangepast aan elke industrie, maar dit vertegenwoordigt jaren van onderzoeksinvesteringen en klantiteratie die de meeste interne teams ontberen. Voor bedrijven en CTO’s die overwegen om in AI te investeren, adviseer ik hen om oplossingen te kiezen die vanaf de eerste dag echte resultaten leveren. Verticale AI-oplossingen bieden die resultaten, waarbij gebruikers worden voorzien van data die ze vervolgens kunnen gebruiken om bedrijfswaarde te creëren.

Kijkend naar de toekomst, hoe ziet u enterprise AI-architecturen—zullen gefedereerde verticale agents gebouwd op gedeelde foundation-modellen de norm worden?

We zullen niet alleen ‘gefedereerde’ agents zien; we zullen governed agente-architecturen zien. Terwijl gedeelde foundation-modellen de redeneer-engine bieden, zijn ze in wezen grondstoffen. De ‘norm’ voor succesvolle bedrijven zal het implementeren zijn van gespecialiseerde, verticale agents die niet alleen ‘praten’ met elkaar, maar die rigoureus worden georkestreerd door een gedeelde contextlaag. Als je alleen ‘gefedereerde’ agents hebt gebouwd op foundation-modellen, krijg je een lawaaierig, hallucinatie-gevoelig systeem—wat we de ‘lekkende pijp’ van enterprise AI noemen. Om deze architectuur te laten schalen in productie, heb je drie specifieke lagen nodig die verder gaan dan eenvoudige federatie:

• Context (De Domein Kennis Graph): Agents moeten een enkele bron van waarheid delen, niet alleen waarschijnlijkheden uitwisselen.
• Orchestratie: Je hebt een ‘master-architect’ nodig die beslist wanneer een gespecialiseerde agent moet worden gebruikt en wanneer een mens in de lus moet worden gehouden.
• Governance: De output moet juridisch en operationeel veilig zijn voordat het het systeem verlaat.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten SymphonyAI bezoeken.