Raj Shukla, CTO van SymphonyAI – Interviewreeks

Raj Shukla is verantwoordelijk voor de technische roadmap en uitvoering van SymphonyAI, en leidt het engineersteam dat het Eureka Gen AI-platform ontwikkelt. Met bijna 20 jaar ervaring in AI/ML-engineering en -onderzoek, heeft Shukla ook uitgebreide ervaring met enterprise AI SaaS vanuit zijn leiderschapsrollen bij Microsoft (MSFT ), waar hij een succesvolle carrière van 14 jaar had, inclusief het leiden van wereldwijde AI-wetenschap en -engineeringsorganisaties binnen Azure, Dynamics 365, MSR en de zoek- en advertentieafdelingen. Raj heeft uitgebreide ervaring met AI/ML in zoekopdrachten, advertenties en enterprise AI en heeft verschillende succesvolle AI SaaS-producten gebouwd in zowel consumenten- als bedrijfsdomeinen.

SymphonyAI is een onderneming die zich richt op het ontwikkelen van branche-specifieke AI-toepassingen die onmiddellijke zakelijke waarde bieden. In plaats van generieke modellen, biedt het verticale oplossingen voor detailhandel, consumentengoederen, financiële dienstverlening, productie, media en IT, waarbij het uitdagingen aanpakt zoals forecasting, fraudepreventie, operationele optimalisatie en analyse. De producten worden aangedreven door het Eureka AI-platform, dat voorspellende, generatieve en agente capaciteiten combineert in workflows die zijn afgestemd op elke sector. Opgericht in 2017, is het bedrijf uitgegroeid tot een wereldleider in verticale AI, met duizenden ondernemingsklanten die gebruikmaken van schaalbare, domein-gerichte oplossingen.

U hebt gewerkt aan de voorhoede van AI-innovatie bij Microsoft, Oracle (ORCL ) en nu SymphonyAI—wat u oorspronkelijk aantrok in de wereld van enterprise AI, en hoe is uw perspectief geëvolueerd in de loop der jaren?

Mijn reis in enterprise AI begon met een kernovertuiging dat bedrijven AI moeten implementeren die echte bedrijfsproblemen oplossen, en niet alleen AI voor de sake van AI. Ik heb gezien dat generieke, brede AI-oplossingen zelden transformatieve waarde leveren. Bij SymphonyAI hebben we onze bedrijfsstrategie en -cultuur gebouwd op het ontwikkelen van AI die specifieke branche-uitdagingen begrijpt, van financiële misdaaddetectie tot detailhandel-merchandising en industriële verbonden werknemer-empowerment. Enterprise-ready voegt een extra dimensie toe – succesvolle enterprise AI vereist meer dan geweldige technologie, het vereist exemplarische gegevensgovernance en -architectuur, gesofisticeerde cross-functionele samenwerking en workflows, en volledige transparantie en controleerbaarheid.

Welke specifieke tekortkomingen ondervinden ondernemingen met generieke pretrained modellen, met name in zwaar gereguleerde sectoren zoals financiën of gezondheidszorg? 

Generieke pretrained modellen zijn niet gebouwd voor de hoge inzet, zwaar gereguleerde omgevingen van financiën, gezondheidszorg en detailhandel. Generieke, pretrained modellen ondervinden kritieke barrières, waaronder de behoefte aan essentiële domeinexpertise om branche-specifieke nuances aan te pakken en strikte regelgevings- en compliance-eisen te vervullen die verschillen per geografie. Het belangrijkste is dat ze de nauwkeurigheid en traceerbaarheid niet kunnen leveren die ondernemingen vereisen, waar fouten consumenten kunnen schaden of regelgevingsinbreuken kunnen triggeren. Of het nu gaat om het voldoen aan anti-witwasregels of het mogelijk maken van een detailhandelaar om snel teruggeroepen artikelen uit distributiecentra en schappen te verwijderen, de verticale AI-technologie van SymphonyAI is specifiek gebouwd voor de branches waarin we opereren en getraind op de ontologieën van die branches, waardoor ze beslissingen kunnen nemen of automatiseren die rechtstreeks zakelijke impact creëren.

Het combineren van pretrained modellen met diepe domeinlogica wordt steeds meer gezien als de sleutel tot het ontsluiten van enterprise ROI—wat zijn de essentiële componenten, zoals branche-kennis, KPI-alignment en regelgevingsremmen, die deze benadering effectief maken? 

Het combineren van pretrained modellen met diepe domeinlogica ontgrendelt waarde door het creëren van AI-systemen die bedrijfscontext en operationele vereisten begrijpen. Deze benadering slaagt wanneer modellen worden versterkt met branche-specifieke ontologieën, afgestemd op ondernemings-KPI’s om ervoor te zorgen dat uitvoer rechtstreeks meetbare bedrijfsdoelstellingen dient en zijn uitgerust met regelgevingsremmen die noodzakelijke compliance-kaders en audit-trails bieden. Wanneer deze elementen samenwerken, transformeert generieke AI in bedrijfskritieke oplossingen die meetbare resultaten leveren terwijl ze de betrouwbaarheid en compliance behouden die ondernemingen eisen.

IBM heeft onlangs Seek AI overgenomen en lanceerde Watsonx Labs in New York City, wat een potentieel strategische verschuiving in het AI-landschap aangeeft—wat geeft dit aan over de toekomst van M&A en investeringstrends in enterprise AI? 

IBM’s overname van Seek AI en de lancering van Watsonx Labs is een bevestiging van de fundamentele verschuiving die we hebben voorzien: het enterprise AI-landschap is veranderd, waarbij de volgende golf van M&A prioriteit geeft aan bedrijven met pretrained verticale AI-modellen die diepe domeinexpertise, governance en regelgevingsremmen hebben, evenals outcome-georiënteerde KPI’s. Strategische overnemers zoals IBM erkennen dat AI-agents die zijn gericht op ondernemingsgegevens onmiddellijke ROI leveren wanneer ze specifieke branche-workflows begrijpen. De markt consolideert zich rond de erkenning dat algemene intelligentie verticale specialisatie nodig heeft om ondernemings-transformatie te stimuleren.

Op welk moment evolueert een foundation model in een domein-specifieke agent—wat zijn de architectonische mijlpalen die deze overgang signaleren? 

Een foundation model evolueert niet van nature in een domeinagent; het moet worden ontworpen als een. Er is geen directe weg waarop een algemeen model ‘slimmer’ wordt en een bankonderzoeker wordt. De overgang vindt alleen plaats wanneer engineersteams stoppen met het vertrouwen op de raw intelligentie van het model en beginnen met het bouwen van de beheerde architectuur eromheen—specifiek door het injecteren van een contextlaag (zoals een kennisgrafiek) en een orchestratielaag om het model te dwingen om een bedrijfsproces te volgen in plaats van zijn eigen probabilistische neigingen.

Wat zijn de kernuitdagingen bij het bouwen van agente workflows die zowel robuust als verticaal-specifiek zijn, en hoe lost SymphonyAI deze op? 

De kernuitdagingen bij het bouwen van robuuste, verticaal-specifieke agente workflows zijn het behouden van betrouwbaarheid over complexe multi-stap processen. SymphonyAI lost deze uitdagingen op door middel van een multi-laagsarchitectuur, die domeinexpertise rechtstreeks in de agent injecteert, foutafhandeling met herstel van fouten implementeert en persistente contextbeheer over meerdere sessies van ondernemingsprocessen onderhoudt. Dit stelt onze agents in staat om betrouwbaar te opereren in hoge inzet, gereguleerde omgevingen waar robuustheid het behouden van nauwkeurigheid, compliance en operationele integriteit betekent.

SymphonyAI benadrukt robuuste gegevensfundamenten, kennisgrafieken en metadatalagen—waarom zijn deze capaciteiten kritisch voor verticale AI-agents, en waarom worstelen veel ondernemingen met de implementatie ervan? 

Robuuste gegevensfundamenten en kennisgrafieken zijn cruciaal voor verticale AI-agents om betekenisvolle bronnen te hebben, gecontextualiseerde aanbevelingen te bieden en up-to-date te blijven met markt-, klant- en procesveranderingen over alle niveaus van de onderneming. De meeste ondernemingen worstelen met de implementatie van deze capaciteiten omdat ze een aanzienlijke voorafgaande investering in gegevensarchitectuur, gespecialiseerde ontologie-expertise en fundamentele veranderingen in bestaande gegevenspraktijken vereisen die veel organisaties organisatorisch en technisch ontmoedigend vinden. Dat is waar een AI-technologiepartner met diepe ervaring en kennis in die verticale waardevol is, inclusief hun vermogen om de AI voor te trainen op een enorme hoeveelheid domeingegevens en -bronnen over veelvoudige echte klanten in die industrie.

In real-world scenario’s—zoals financiële misdaaddetectie of detailhandelsforecasting—hoe combineert SymphonyAI voorspellende, generatieve en agente AI in coherente “vaardigheden”?

SymphonyAI combineert voorspellende, generatieve en agente AI in coherente “vaardigheden” door het creëren van geïntegreerde workflows waarin elk AI-product een specifiek bedrijfsprobleem aanpakt. In financiële misdaaddetectie identificeren onze voorspellende modellen verdachte transactiepatronen, en generatieve AI creëert gedetailleerde onderzoeksrapporten en risicobeoordelingen. Tegelijkertijd orkestreert agente AI het hele workflow, automatiseert cases, coördineert met compliance-teams en past onderzoeksstrategieën aan op basis van real-time bevindingen.

Het belangrijkste is dat deze niet losse AI-hulpmiddelen zijn, maar geïntegreerde capaciteiten binnen domein-specifieke agents die bedrijfscontext begrijpen, workflowstatus onderhouden en naadloos kunnen overstappen tussen voorspellende analyse, inhoudsgeneratie en autonome actie om complete bedrijfsresultaten te leveren in plaats van gefragmenteerde AI-uitvoer.

U hebt gewaarschuwd dat veel enterprise AI-agents kunnen struikelen zonder robuustheid—wat zijn de sleutelkenmerken van een goed ontworpen, fout-tolerante enterprise AI-agent? 

Een goed ontworpen, voor onderzoek gebouwde enterprise AI-agent vereist verschillende kritieke kenmerken. Hoewel veel bedrijven snel investeren in en implementeren AI-agents om efficiëntie, productiviteit en innovatie te verbeteren, onderschatten ze vaak de grondwerkzaamheden die nodig zijn voor succes. Enkele vitale aspecten die een goed ontworpen agent nodig heeft om succesvol te zijn, zijn:

• Enterprise AI-agents opereren op ondernemingsgegevens, die vaak zijn gesiloëerd en ontbreken in adequate programmatige toegang, machtigingen en toegangscontrole. Agents moeten zijn uitgerust met dezelfde authenticatie- en autorisatiebepalingen als werknemers.
• Agents moeten ook herstellen van alle vormen van ondernemings systeemfalen, netwerkuitval en onbetrouwbare eindpunten. De orchestratielaag moet langdurige, duurzame, fout-tolerante workflows mogelijk maken, wat de meeste populaire LLM-orchestrators niet doen.
• LLM’s zullen niet-deterministisch zijn en falen bij taken. Foutherstel, retries en optimale padontdekking moeten sleutelfuncties zijn van agente systemen.

Wat zou u adviseren aan CTO’s die overwegen om verticale AI-platforms intern te bouwen versus te partneren met niche-leveranciers? 

Het bouwen van enterprise AI-oplossingen over meerdere industrieën, waaronder detailhandel/CPG, industrie, financiële dienstverlening en meer, vereist het tegelijkertijd beheersen van zowel cutting-edge AI-technologie als diepe domeinexpertise om echte waarde te behalen uit enterprise AI-oplossingen. Ons Eureka AI-platform toont aan hoe verticaal-specifieke gegevensbronnen, kennisgrafieken, voorspellende modellen en agents moeten worden afgestemd op elke industrie, maar dit vertegenwoordigt jaren van onderzoeksinvestering en klantiteratie die de meeste interne teams ontberen. Voor bedrijven en CTO’s die willen investeren in AI, adviseer ik hen om oplossingen te kiezen die vanaf de eerste dag echte resultaten leveren. Verticale AI-oplossingen bieden die resultaten, waardoor gebruikers gegevens krijgen die ze kunnen gebruiken om bedrijfswaarde te creëren.

Als we vooruitkijken, hoe ziet u enterprise AI-architecturen—zullen gefedereerde verticale agents gebouwd op gedeelde foundation modellen de norm worden?

We zullen niet alleen ‘gefederate’ agents zien; we zullen beheerde agente-architecturen zien. Terwijl gedeelde foundation modellen de redeneerengine bieden, zijn ze in wezen grondstoffen. De ‘norm’ voor succesvolle ondernemingen zal het implementeren zijn van gespecialiseerde, verticale agents die niet alleen ‘praten’ met elkaar, maar strikt worden georkestreerd via een gedeelde contextlaag. Als u alleen ‘gefederate’ agents heeft gebouwd op foundation modellen, krijgt u een luidruchtig, hallucinatie-gevoelig systeem—wat we de ‘lekkende pijp’ van enterprise AI noemen. Om deze architectuur te laten schalen in productie, hebt u drie specifieke lagen nodig die verder gaan dan eenvoudige federatie:

• Context (De Domein Kennis Grafiek): Agents moeten een enkele bron van waarheid delen, niet alleen waarschijnlijkheden uitwisselen.
• Orchestratie: U hebt een ‘master architect’ nodig die beslist wanneer een gespecialiseerde agent moet worden gebruikt en wanneer een mens in de lus moet worden gehouden.
• Beheer: De uitvoer moet juridisch en operationeel veilig zijn voordat het het systeem verlaat.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten SymphonyAI bezoeken.