Raj Shukla, CTO of SymphonyAI – Interview Serie

Raj Shukla driver SymphonyAI’s teknologivej og gennemførelse, og leder ingeniørholdet, der opbygger Eureka Gen AI-platformen. Med næsten 20 års erfaring med AI/ML-ingeniørarbejde og forskning har Shukla også omfattende erfaring med enterprise AI SaaS fra hans ingeniørlederroller i Microsoft, hvor hans succesrige 14-årige karriere inkluderede ledelse af globale AI-videnskab og ingeniørorganisationer på tværs af Azure, Dynamics 365, MSR og søgning og reklameafdelinger. Raj har omfattende erfaring med AI/ML på tværs af søgning, reklame og enterprise AI og har opbygget flere succesfulde AI SaaS-produkter i både forbruger- og virksomhedsdomæner.

SymphonyAI er et enterprise-AI-selskab, der fokuserer på at opbygge branche-specifikke AI-anvendelser, der leverer øjeblikkelig forretningsværdi. I stedet for generiske modeller tilbyder det vertikale løsninger til detail, forbrugsvarer, finansielle services, fremstilling, medier og IT, og løser udfordringer som forecasting, svindelforebyggelse, operationsoptimering og analytics. Dets produkter er drevet af Eureka AI-platformen, der kombinerer predictive, generative og agente egenskaber i arbejdsgange tilpasset hvert sektor. Selskabet blev grundlagt i 2017 og er vokset til en global leder i vertikal AI, der betjener tusindvis af virksomheds-kunder med skalerbare, domæne-fokuserede løsninger.

Du har arbejdet i frontlinjen for AI-innovation på Microsoft, Oracle og nu SymphonyAI – hvad var det, der oprindeligt trak dig ind i verden af enterprise AI, og hvordan er din perspektiv ændret over årene?

Min rejse ind i enterprise AI begyndte med en kerneoverbevisning om, at virksomheder skal implementere AI, der løser virkelige forretningsproblemer, og ikke blot skaber AI for AI’s skyld. Jeg har set, at generiske, brede AI-løsninger sjældent leverer transformerende værdi. Hos SymphonyAI har vi bygget vores selskabsstrategi og kultur på at udvikle AI, der forstår specifikke brancher, fra finansielle forbrydelsesdetektion til shopper-fokuseret detail-merchandising til industrielt forbundet arbejder-empowerment. Enterprise-klarhed tilføjer en helt ny dimension – succesfuld enterprise AI kræver mere end god teknologi, det kræver også eksemplarisk datastyring og arkitektur, sofistikeret tværfaglig samarbejde og arbejdsgange, og fuld gennemsigtighed og revision.

Hvad er de specifikke mangler, som virksomheder oplever med generiske pretrained modeller, især i strengt regulerede sektorer som finans eller sundhed? 

Generiske pretrained modeller er ikke bygget til de høje krav, der stilles i finansielle, sundheds- og detailsektorer. Generiske, pretrained modeller møder kritiske barrierer, herunder behovet for essentiel domæneekspertise for at løse brancherelaterede nuancer og opfylde strenge regulerings- og compliancekrav, der varierer på tværs af geografier. De kan ikke levere den nøjagtighed og sporing, som virksomheder kræver, hvor fejl kan skade forbrugere eller udløse reguleringsovertrædelser. Enten det er at overholde regler mod hvidvaskning af penge eller at gøre det muligt for en detailhandel hurtigt at fjerne tilbagekaldte varer fra distributionscentre og hylder, så er SymphonyAI’s vertikale AI-teknologi specifikt bygget til de brancher, vi opererer i, og trænet på disse branchers ontologier, hvilket giver dem mulighed for at træffe eller automatisere beslutninger, der direkte skaber forretningsværdi.

Kombinationen af pretrained modeller med dyb domænelogik ses som nøgle til at låse op for enterprise ROI – hvad er de væsentlige komponenter, såsom branchekendskab, KPI-justering og reguleringsvagter, der gør denne tilgang effektiv? 

Kombinationen af pretrained modeller med dyb domænelogik låser værdi op ved at skabe AI-systemer, der forstår forretningskontekst og operationskrav. Denne tilgang lykkes, når modellerne udvides med brancherelaterede ontologier, justeres med virksomhedens KPI’er for at sikre, at output direkte betjener målbare forretningsmål, og udstyres med reguleringsvagter, der giver de nødvendige compliance-rammer og revisionsspor. Når disse elementer arbejder sammen, forvandler generisk AI til business-kritiske løsninger, der driver målbare resultater, mens de opretholder den pålidelighed og compliance, som virksomheder kræver.

IBM har nyligt købt Seek AI og lanceret Watsonx Labs i New York City, hvilket kan signalere en potentiel strategisk ændring i AI-landskabet – hvad indikerer dette om fremtiden for M&A og investeringstrends i enterprise AI? 

IBMs køb af Seek AI og lanceringen af Watsonx Labs er en validering af den fundamentale ændring, vi har forventet: Enterprise AI-landskabet har ændret sig, og det signalerer, at den næste bølge af M&A vil prioritere selskaber med pretrained vertikale AI-modeller, der kommer med dyb branchekendskab, styring og reguleringsvagter samt outcome-drevne KPI’er. Strategiske købere som IBM erkender, at AI-agenter fokuseret på enterprise-data leverer øjeblikkelig ROI, når de forstår specifikke brancherelaterede arbejdsgange. Markedet konsoliderer sig omkring erkendelsen af, at generel intelligens behøver vertikal specialisering for at drive virksomheds-transformation.

På hvilket tidspunkt udvikler en grundmodel sig til en domænespecifik agent – hvilke arkitektoniske milepæle signalerer denne overgang? 

En grundmodel udvikler sig ikke naturligt til en domæneagent; den må være konstrueret til det. Der er ingen direkte vej, hvor en generel model blot “bliver klogere” og bliver en bank-efterforsker. Overgangen sker kun, når ingeniørholdet stopper med at stole på modellens rå intelligens og begynder at bygge den styrede arkitektur omkring den – specifikt ved at indsprøjte en kontekstlag (som en viden graf) og en orkestreringslag for at tvinge modellen til at følge en forretningsproces i stedet for sin egen sandsynlighedsbaserede tendens.

Hvad er de centrale udfordringer i opbygning af agente arbejdsgange, der er både robuste og brancherelaterede, og hvordan løser SymphonyAI disse udfordringer? 

De centrale udfordringer i opbygning af robuste, brancherelaterede agente arbejdsgange er at opretholde pålidelighed på tværs af komplekse multi-trins processer. SymphonyAI løser disse udfordringer gennem sin flerlagede arkitektur, der indbygger branchekendskab direkte i agenten, implementerer fejlhåndtering med fejlgenopretning og opretholder varig kontekststyring på tværs af multi-session virksomhedsprocesser. Dette giver vores agenter mulighed for at operere pålideligt i høje krav, regulerede miljøer, hvor pålidelighed betyder opretholdelse af nøjagtighed, compliance og operationsintegritet.

SymphonyAI betoner robuste datafundamenter, viden grafer og metadata-lag – hvorfor er disse kapaciteter kritiske for vertikale AI-agenter, og hvorfor har mange virksomheder svært ved at implementere dem? 

Robuste datafundamenter og viden grafer er afgørende for vertikale AI-agenter for at have meningsfulde kilder, give kontekstualiserede anbefalinger og forblive ajour med marked-, kunde- og procesændringer på tværs af alle niveauer i virksomheden. De fleste virksomheder har svært ved at implementere disse kapaciteter, fordi de kræver betydelig forudgående investering i dataarkitektur, specialiseret ontologi-ekspertise og grundlæggende ændringer i eksisterende datapraksis, som mange organisationer finder organisationelt og teknisk udfordrende. Det er her, en AI-teknologipartner med dyb erfaring og kendskab til den pågældende branche er uvurderlig, herunder deres evne til at fortræne AI’en på enorme mængder af domæne-data og kilder på tværs af mange virkelige kunder i den pågældende branche.

I virkelige scenarier – såsom finansielle forbrydelsesdetektion eller detail-forecasting – hvordan kombinerer SymphonyAI predictive, generative og agente AI til kohærente “færdigheder”?

SymphonyAI kombinerer predictive, generative og agente AI til kohærente “færdigheder” ved at opbygge integrerede arbejdsgange, hvor hver AI-produkt møder et specifikt forretningsproblem. I finansielle forbrydelsesdetektion identificerer vores predictive modeller mistænkelige transaktionsmønstre, og generative AI skaber detaljerede efterforskningsrapporter og risikovurderinger. Samtidig orkestrerer agente AI hele arbejdsgangen, automatisk eskalerer sager, koordinerer med compliance-hold og tilpasser efterforskningsstrategier baseret på realtidsfund.

Nøglen er, at disse ikke er separate AI-værktøjer, men integrerede kapaciteter inden for brancherelaterede agenter, der forstår forretningskontekst, opretholder arbejdsgangsstatus og kan ubesværet skifte mellem predictiv analyse, indholdsgenerering og autonom handling for at levere komplette forretningsresultater i stedet for fragmenterede AI-outputs.

Du har advaret om, at mange enterprise AI-agenter kan snuble uden robusthed – hvad er de nøglekarakteristika af en velkonstrueret, fejl-tolerant enterprise AI-agent? 

Velkonstruerede, bygget-for-skrupule enterprise AI-agenter kræver flere kritiske karakteristika. Selv om mange virksomheder hurtigt investerer i og implementerer AI-agenter for at forbedre effektivitet, produktivitet og innovation, underskatter de ofte det grundarbejde, der er nødvendigt for succes. Nogle væsentlige aspekter, som velkonstruerede agenter behøver for at være succesfulde, er:

• Enterprise AI-agenter opererer på enterprise-data, der ofte er siloet og mangler ordentlig programmatisk adgang, tilladelser og adgangskontrol. Agenterne behøver at være udstyret med de samme autentificerings- og autorisationsbestemmelser som medarbejderne.
• Agenterne behøver også at genoprette fra alle former for enterprise-systemfejl, netværksfejl og ustabile slutpunkter. Orkestreringslaget behøver at aktivere langvarige, holdbare, fejl-tolerante arbejdsgange, hvilket de fleste populære LLM-orkestratorer ikke gør.
• LLM’er vil være ikke-deterministiske og fejl ved opgaver. Fejlgenopretning, gentagelser og optimal sti-opdagelse behøver at være nøglefunktioner i agente systemer.

For CTO’er, der overvejer at bygge vertikale AI-platforme internt versus at samarbejde med niche-leverandører, hvilket råd ville du give? 

Bygning af enterprise AI-løsninger på tværs af multiple brancher, herunder detail/forbrugsvarer, industri, finansielle services og mere, kræver at mestre både cutting-edge AI-teknologi og dyb branchekendskab samtidig for at opnå reel værdi fra enterprise AI-løsninger. Vores Eureka AI-platform demonstrerer, hvordan vertikale datakilder, viden grafer, predictive modeller og agenter må tilpasses hvert enkelt brancher, men dette repræsenterer år med forskningsinvestering og kundeiteration, som de fleste interne hold mangler. For virksomheder og CTO’er, der søger at investere i AI, råder jeg dem til at vælge løsninger, der leverer reelle resultater fra dag én. Vertikale AI-løsninger leverer disse resultater og giver brugerne data, de kan bruge til at skabe forretningsværdi.

Set fremad, hvordan forestiller du dig, at enterprise AI-arkitekturer vil se ud – vil fødererede, vertikale agenter bygget på fælles grundmodeller blive normen?

Vi vil ikke blot se ‘fødererede’ agenter; vi vil se styrede agente-arkitekturer. Mens fælles grundmodeller giver den underliggende tankeengine, er de essentiellement varer. Normen for succesfulde virksomheder vil være at implementere specialiserede, vertikale agenter, der ikke blot ‘snakker’ sammen, men er rigorøst orkestrerede gennem en fælles kontekstlag. Hvis du kun har ‘fødererede’ agenter bygget på grundmodeller, får du et støjende, hallucinations-præget system – det, vi kalder ‘lækaget’ i enterprise AI. For at gøre denne arkitektur skalerbar i produktion behøver du tre specifikke lag, der går ud over enkel føderation:

• Kontekst (Domæne Viden Graf): Agenterne behøver at dele en fælles sandhedskilde, ikke blot udveksle sandsynligheder.
• Orkestrering: Du behøver en ‘mester-arkitekt’, der beslutter, hvornår du skal bruge en specialiseret agent og hvornår du skal holde en menneskelig i løkken.
• Styring: Outputtet må være juridisk og operations-sikkert, før det forlader systemet.

Tak for det gode interview. Læsere, der ønsker at lære mere, kan besøge SymphonyAI.