Raj Shukla, CTO af SymphonyAI – Intervieuserie

Raj Shukla driver SymphonyAI’s teknologivej og udførelse, og leder ingeniørholdet, der bygger Eureka Gen AI-platformen. Med næsten 20 års erfaring med AI/ML-ingeniørarbejde og forskning har Shukla også omfattende erfaring med enterprise AI SaaS fra hans ingeniørlederroller i Microsoft (MSFT ), hvor hans succesrige 14-årige karriere inkluderede ledelse af globale AI-videnskab og ingeniørorganisationer på tværs af Azure, Dynamics 365, MSR og søgning og reklameafdelinger. Raj har omfattende erfaring med AI/ML på tværs af søgning, reklame og enterprise AI og har bygget flere succesfulde AI SaaS-produkter i både forbruger- og virksomhedsdomæner.

SymphonyAI er et enterprise-AI-selskab, der fokuserer på at bygge branche-specifikke AI-applikationer, der leverer øjeblikkelige forretningsværdier. I stedet for generiske modeller tilbyder det vertikale løsninger til detailhandel, forbrugsvarer, finansiel service, fremstilling, medier og IT, og løser udfordringer som prognoser, svindelforenkling, operationsoptimering og analyse. Dets produkter er drevet af Eureka AI-platformen, der kombinerer prædiktive, generative og agente-egenskaber i arbejdsgange tilpasset hvert sektor. Grundlagt i 2017 er selskabet vokset til en global leder i vertikal AI, der betjener tusinder af enterprise-kunder med skalerbare, domæne-fokuserede løsninger.

Du har arbejdet i fremhjørnet af AI-innovation på Microsoft, Oracle (ORCL ) og nu SymphonyAI – hvad var det, der oprindeligt trak dig ind i verden af enterprise AI, og hvordan er din perspektiv udviklet over årene?

Min rejse ind i enterprise AI begyndte med en kerneoverbevisning om, at virksomheder skal implementere AI, der løser virkelige forretningsproblemer, og ikke blot skaber AI for AI’s skyld. Jeg har set, at generiske, bredbaserede AI-løsninger sjældent leverer transformative værdier. Hos SymphonyAI har vi bygget vores virksomhedsstrategi og kultur på at udvikle AI, der forstår specifikke brancher, fra finansielle kriminalitetsdetektion til butiksorienteret detailhandelslægning til industrielt forbundet arbejder-empowerment. Enterprise-klarhed tilføjer en hel ny dimension – succesfuld enterprise AI kræver mere end god teknologi, det kræver også eksemplarisk datastyring og arkitektur, sofistikeret tværfunktionel samarbejde og arbejdsgange, og fuld gennemsigtighed og revision.

Hvilke specifikke mangler møder virksomheder med generiske forudtrænede modeller, især i tungt regulerede sektorer som finans eller sundhed? 

Generiske forudtrænede modeller er ikke bygget til de høje indsats-, tungt regulerede miljøer i finans, sundhed og fødevarer. Generiske, forudtrænede modeller møder kritiske barrierer, herunder behovet for essentiel domæneekspertise for at løse brancher-specifikke nuancer og opfylde strenge regulerings- og overensstemmelseskrav, der varierer på tværs af geografier. Mest vigtigt kan de ikke levere den nøjagtighed og sporing, som virksomheder kræver, hvor fejl kan skade forbrugere eller udløse reguleringsovertrædelser. Enten det er at overholde regler mod hvidvaskning af penge eller at gøre det muligt for en fødevarebutik at fjerne varer fra distributioncenter og hylder, så SymphonyAI’s vertikale AI-teknologi er specifikt bygget til de brancher, vi opererer i, og trænet på disse branchers ontologier, hvilket giver dem mulighed for at træffe eller automatisere beslutninger, der direkte skaber forretningsværdi.

Hvad er de væsentlige komponenter, såsom branchekendskab, KPI-tilpasning og reguleringsvagter, der gør denne tilgang effektiv? 

Kombinationen af forudtrænede modeller med dyb domæne-logik låser værdi op ved at skabe AI-systemer, der forstår forretningskontekst og operationskrav. Denne tilgang lykkes, når modellerne er forbedret med brancher-specifikke ontologier, tilpasset virksomhedens KPI’er for at sikre, at output direkte betjener målbare forretningsmål, og er udstyret med reguleringsvagter, der giver nødvendige overensstemmelsesrammer og revisionsstier. Når disse elementer arbejder sammen, forvandler generisk AI til forretnings-kritiske løsninger, der driver målbare resultater, mens de opretholder den pålidelighed og overensstemmelse, som virksomheder kræver.

IBM har for nylig erhvervet Seek AI og lanceret Watsonx Labs i New York City, hvilket kan signalere en potentiel strategisk ændring i AI-landskabet – hvad indikerer dette om fremtiden for M&A og investeringstrends i enterprise AI? 

IBMs erhvervelse af Seek AI og lanceringen af Watsonx Labs er en validering af den fundamentale ændring, vi har forventet: enterprise AI-landskabet har ændret sig, og signalerer, at den næste bølge af M&A vil prioritere selskaber med forudtrænede, vertikale AI-modeller, der ankommer med dyb branchekendskab, styring og reguleringsvagter samt outcome-drevne KPI’er. Strategiske købere som IBM erkender, at AI-agenter fokuseret på enterprise-data leverer øjeblikkelige ROI, når de forstår specifikke branchearbejdsgange. Markedet konsoliderer sig omkring erkendelsen af, at generel intelligens behøver vertikal specialisering for at drive enterprise-transformation.

På hvilket tidspunkt udvikler en grundmodel sig til en domæne-specifik agent – hvilke arkitektoniske milepæle signalerer denne overgang? 

En grundmodel udvikler sig ikke naturligt til en domæne-agent; den må være konstrueret til det. Der er ingen direkte vej, hvor en generel model blot “bliver klogere” og bliver en bank-efterforsker. Overgangen sker kun, når ingeniørholdet stopper med at afhænge af modellens rå intelligens og begynder at bygge den styrede arkitektur omkring den – specifikt ved at injicere en kontekstlag (som en viden graf) og en orkestreringslag for at tvinge modellen til at følge en forretningsproces i stedet for dens egen sandsynligheds tendenser.

Hvad er de væsentlige udfordringer i at bygge agente-arbejdsgange, der er både robuste og brancher-specifikke, og hvordan løser SymphonyAI disse udfordringer? 

De væsentlige udfordringer i at bygge robuste, brancher-specifikke agente-arbejdsgange er at opretholde pålidelighed på tværs af komplekse, multi-trinsprocesser. SymphonyAI løser disse udfordringer gennem sin flerlagede arkitektur, der indbygger branchekendskab direkte i agenten, implementerer fejlhåndtering med fejlgenopretning og opretholder varig kontekststyring på tværs af multi-session enterprise-processer. Dette giver vores agenter mulighed for at operere pålideligt i høje indsats-, regulerede miljøer, hvor robusthed betyder opretholdelse af nøjagtighed, overensstemmelse og operationsintegritet.

SymphonyAI betoner robuste datafundamenter, viden grafer og metadata-lag – hvorfor er disse funktioner kritiske for vertikale AI-agenter, og hvorfor møder mange virksomheder vanskeligheder ved at implementere dem? 

Robuste datafundamenter og viden grafer er afgørende for vertikale AI-agenter for at have meningsfulde kilder, give kontekstualiserede anbefalinger og forblive aktuelle med marked-, kunde- og procesændringer på tværs af alle niveauer i virksomheden. De fleste virksomheder møder vanskeligheder ved at implementere disse funktioner, fordi de kræver betydelig forudgående investering i dataarkitektur, specialiseret ontologi-ekspertise og grundlæggende ændringer i eksisterende datapraksis, som mange organisationer finder organisationelt og teknisk skræmmende. Det er her, en AI-teknologipartner med dyb erfaring og viden i den pågældende branche er uvurderlig, herunder deres evne til at forudtræne AI på enorme mængder af domæne-data og kilder på tværs af mange virkelige kunder i den pågældende branche.

I reelle scenarier – såsom finansielle kriminalitetsdetektion eller detailhandelsprognose – hvordan kombinerer SymphonyAI prædiktiv, generativ og agente-AI til sammenhængende “færdigheder”?

SymphonyAI kombinerer prædiktiv, generativ og agente-AI til sammenhængende “færdigheder” ved at skabe integrerede arbejdsgange, hvor hver AI-produkt løser et specifikt forretningsproblem. I finansielle kriminalitetsdetektion identifierer vores prædiktive modeller mistænkelige transaktionsmønstre, og generativ AI skaber detaljerede efterforskningsrapporter og risikovurderinger. Samtidig orkestrerer agente-AI hele arbejdsgangen, automatisk eskalerer sager, koordinerer med overholdelseshold og tilpasser efterforskningsstrategier på baggrund af realtidsfund.

Nøglen er, at disse ikke er separate AI-værktøjer, men integrerede funktioner inden for brancher-specifikke agenter, der forstår forretningskontekst, opretholder arbejdsgangsstatus og kan ubesværet gå over fra prædiktiv analyse til indholdsgenerering og autonom handling for at levere komplette forretningsresultater i stedet for fragmenterede AI-outputs.

Du har advaret om, at mange enterprise AI-agenter kan snuble uden robusthed – hvad er de væsentlige karakteristika af en velkonstrueret, fejl-tolerant enterprise AI-agent? 

En velkonstrueret, bygget-for-skrudt enterprise AI-agent kræver flere kritiske karakteristika. Selvom mange virksomheder hurtigt investerer i og udvikler AI-agenter for at forbedre effektivitet, produktivitet og innovation, underskatter de ofte det grundarbejde, der er nødvendigt for succes. Nogle væsentlige aspekter, som velkonstruerede agenter behøver for at være succesfulde, er:

• Enterprise AI-agenter opererer på enterprise-data, der ofte er siloet og mangler ordentlig programmatisk adgang, tilladelser og adgangskontroller. Agenterne behøver at være udstyret med de samme godkendelses- og tilladelsesbestemmelser som medarbejdere.
• Agenterne behøver også at genoprette fra alle former for enterprise-systemfejl, netværksfejl og ustabile slutpunkter. Orkestreringslaget behøver at aktivere langvarige, holdbare, fejl-tolerante arbejdsgange, hvilket de fleste populære LLM-orkestratorer ikke gør.
• LLM’er vil være ikke-deterministiske og fejl ved opgaver. Fejlgenopretning, gentagelser og optimal stiopdagelse behøver at være nøglefunktioner i agente-systemer.

Hvis CTO’er overvejer at bygge vertikale AI-platforme internt i stedet for at samarbejde med niche-leverandører, hvilket råd ville du give? 

At bygge enterprise AI-løsninger på tværs af flere brancher, herunder detailhandel/CPG, industri, finansielle services og mere, kræver at mestre både avanceret AI-teknologi og dyb branchekendskab samtidig for at opnå reel værdi fra enterprise AI-løsninger. Vores Eureka AI-platform demonstrerer, hvordan brancher-specifikke datakilder, viden grafer, prædiktive modeller og agenter må tilpasses hver branche, men dette repræsenterer års forskning og kunde-iteration, som de fleste interne hold mangler. For virksomheder og CTO’er, der overvejer at investere i AI, ville jeg råde dem til at vælge løsninger, der leverer reel værdi fra dag ét. Vertikale AI-løsninger giver disse resultater og leverer brugerne med data, de kan bruge til at skabe forretningsværdi.

Settende fremad, hvordan forestiller du dig enterprise AI-arkitekturer – vil føderede, vertikale agenter bygget på fælles grundmodeller blive normen?

Vi vil ikke blot se ‘føderede’ agenter; vi vil se styrede agente-arkitekturer. Mens fælles grundmodeller giver fornuftsmotoren, er de essentiellement varer. Normen for succesfulde virksomheder vil være at udvikle specialiserede, vertikale agenter, der ikke blot ‘snakker’ sammen, men er strengt orkestrerede gennem en fælles kontekstlag. Hvis du kun har ‘føderede’ agenter bygget på grundmodeller, får du et støjende, hallucinations-præget system – det, vi kalder ‘lækaget’ i enterprise AI. For at gøre denne arkitektur skalerbar i produktion behøver du tre specifikke lag, der går ud over enkel fødering:

• Kontekst (Domæne Viden Graf): Agenterne behøver at dele en enkelt sandheds kilde, ikke blot udveksle sandsynligheder.
• Orkestrering: Du behøver en ‘mester-arkitekt’, der bestemmer, hvornår at bruge en specialiseret agent og hvornår at holde en menneskelig i loopet.
• Styring: Outputtet må være juridisk og operations-sikkert, før det forlader systemet.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge SymphonyAI.