Raj Shukla, CTO i SymphonyAI – Intervju-serie

Raj Shukla driver SymphonyAI’s teknologivei og gjennomføring, og leder ingeniørlaget som bygger Eureka Gen AI-plattformen. Med nesten 20 års erfaring innen AI/ML-ingeniørarbeid og forskning, har Shukla også omfattende erfaring med enterprise AI SaaS fra hans ingeniørlederroller i Microsoft, der hans suksessfulle 14-årige karriere inkluderte å lede globale AI-vitenskapelige og ingeniørorganisasjoner over Azure, Dynamics 365, MSR og søk- og annonseavdelingene. Raj har omfattende erfaring med AI/ML over søk, annonsering og enterprise AI, og har bygget flere suksessfulle AI SaaS-produkter i både forbruker- og bedriftsdomener.

SymphonyAI er et enterprise-AI-selskap som fokuserer på å bygge bransjespesifikke AI-applikasjoner som leverer umiddelbar forretningsverdi. I stedet for generiske modeller, tilbyr de vertikale løsninger for detaljhandel, forbruksgoder, finansielle tjenester, produksjon, media og IT, og løser utfordringer som prognostisering, svindelforebygging, operasjonell optimalisering og analyse. Deres produkter er drevet av Eureka AI-plattformen, som kombinerer prediktive, generative og agenskapasiteter i arbeidsflyter tilpasset hvert sektor. Grunnlagt i 2017, har selskapet vokst til å bli en global leder i vertikal AI, og betjener tusenvis av enterprise-kunder med skalerbare, domene-fokuserte løsninger.

Hva var det som først dro deg inn i verden av enterprise AI, og hvordan har din perspektiv utviklet seg over årene?

Min reise inn i enterprise AI begynte med en grunnleggende tro på at selskaper bør implementere AI som løser reelle forretningsproblemer, og ikke bare lage AI for å lage AI. Jeg har sett at generiske, brede AI-løsninger sjelden leverer transformative verdi. Hos SymphonyAI har vi bygget vår selskapsstrategi og kultur på å utvikle AI som forstår spesifikke bransjeutfordringer, fra finansiell kriminalitetsskanning til butikkfokusert detaljhandelsmerchandising til industriell tilkoblet arbeider-empowerment. Enterprise-klarhet legger til en helt ny dimensjon – suksessfulle enterprise AI krever mer enn god teknologi, det krever også eksemplarisk datastyring og arkitektur, sofistikert tverrfunksjonell samarbeid og arbeidsflyter, og full transparens og revision.

Hva er de spesifikke manglene som bedrifter møter med generiske forhånds trenede modeller, særlig i tungt regulerte sektorer som finansielle eller helse? 

Generiske forhånds trenede modeller er ikke bygget for høyrisk, tungt regulerte miljøer som finansielle, helse og dagligvare. Generiske, forhånds trenede modeller møter kritiske barrierer, inkludert behov for essensiell domeneekspertise for å håndtere bransjespesifikke nyanser og møte strenge regulatoriske og samvirkingskrav som varierer over geografier. Viktigst er at de ikke kan levere nøyaktighet og sporing som bedrifter krever, der feil kan skade forbrukere eller utløse regulatoriske overtredelser. Enten det er å møte anti-pengetvettelovgivning eller å muliggjøre at en dagligvarebutikk raskt fjerner tilbaketrukne varer fra distribusjonscenter og hyller, er SymphonyAI’s vertikale AI-teknologi spesifikt bygget for de bransjene vi opererer i, og trenet på disse bransjenes ontologier, og muliggjør at de kan ta eller automatisere beslutninger som direkte skaper forretningspåvirkning.

Hvordan kombinerer man forhånds trenede modeller med dyp domene-logikk for å låse opp enterprise ROI—hvordan er de essensielle komponentene som gjør denne tilnærmingen effektiv? 

Kombinering av forhånds trenede modeller med dyp domene-logikk låser verdi ved å skape AI-systemer som forstår forretningskontekst og operasjonelle krav. Denne tilnærmingen lykkes når modellene er forbedret med bransjespesifikke ontologier, justert med bedrifts-KPI-er for å sikre at utdataene direkte tjener målbare forretningsmål og er utstyrt med regulatoriske retningslinjer som gir nødvendige samvirkingsrammer og revisjonsspor. Når disse elementene fungerer sammen, transformerer generisk AI til forretningskritiske løsninger som driver målbare resultater samtidig som de opprettholder pålitelighet og samvirkning som bedrifter krever.

IBM har nylig kjøpt opp Seek AI og lansert Watsonx Labs i New York City, noe som kan indikere en potensiell strategisk endring i AI-landskapet—hvordan ser du på fremtiden for fusjoner og investeringstrender i enterprise AI? 

IBMs oppkjøp av Seek AI og lanseringen av Watsonx Labs er en validering av den grunnleggende endringen vi har ventet—enterprise AI-landskapet har endret seg, og signaliserer at den neste bølgen av fusjoner vil prioritere selskaper med forhånds trenede vertikale AI-modeller som kommer med dyp bransjeekspertise, styring og regulatoriske retningslinjer, og resultatbaserte KPI-er. Strategiske oppkjøpere som IBM erkjenner at AI-agenter fokusert på bedriftsdata leverer umiddelbar ROI når de forstår spesifikke bransje-arbeidsflyter. Markedet konsoliderer seg rundt erkjennelsen av at generell intelligens trenger vertikal spesialisering for å drive bedriftsforvandling.

Når utvikler en grunnmodell seg til en domene-spesifik agent—hvordan er de arkitektoniske milsteinene som signaliserer denne overgangen? 

En grunnmodell utvikler seg ikke naturlig til en domene-agent; den må være konstruert til å bli en. Det er ingen direkte vei hvor en generell modell bare “blir smartere” og blir en bank-etterforsker. Overgangen skjer bare når ingeniørteamene stopper å stole på modellens rå intelligens og begynner å bygge den styrede arkitekturen rundt den—spesifikt injiserer en kontekstlag (som en kunnskapsgraf) og en orkestreringslag for å tvinge modellen til å følge en forretningsprosess i stedet for sin egen sannsynlighets-tendens.

Hva er de kjerneproblemene i å bygge agenskap-arbeidsflyter som er både robuste og vertikal-spesifikke, og hvordan løser SymphonyAI disse? 

De kjerneproblemene i å bygge robuste, vertikal-spesifikke agenskap-arbeidsflyter er å opprettholde pålitelighet over komplekse multi-trinnsprosesser. SymphonyAI løser disse problemene gjennom sin flerlagete arkitektur, som innebygger bransjeekspertise direkte i agenten, implementerer feilhåndtering med feilgjenopptak, og opprettholder varig kontekststyring over multi-sesjons bedriftsprosesser. Dette muliggjør at våre agenter kan operere pålitelig i høyrisk, regulerte miljøer hvor robusthet betyr å opprettholde nøyaktighet, samvirkning og operasjonell integritet.

SymphonyAI legger vekt på robuste data-grunnlag, kunnskapsgrafer og metadata-lag—hvordan er disse evnene kritiske for vertikale AI-agenter, og hvorfor har mange bedrifter vanskeligheter med å implementere dem? 

Robuste data-grunnlag og kunnskapsgrafer er avgjørende for vertikale AI-agenter for å ha meningsfulle kilder, gi kontekstualiserte anbefalinger og holde seg oppdatert med marked, kunde og prosessendringer over alle nivåer i bedriften. De fleste bedrifter har vanskeligheter med å implementere disse evnene fordi de krever betydelig forhånds-investering i data-arkitektur, spesialisert ontologi-ekspertise og grunnleggende endringer i eksisterende data-praksis som mange organisasjoner finner organisatorisk og teknisk skremmende. Det er der en AI-teknologipartner med dyp erfaring og kunnskap i den vertikale er uvurderlig, inkludert deres evne til å forhåndstrene AI på enorme mengder domene-data og kilder over mange virkelige kunder i den industrien.

I virkelige scenarier—som finansiell kriminalitetsskanning eller detaljhandelsprognostisering—hvordan kombinerer SymphonyAI prediktive, generative og agenskap-AI til kohesive “ferdigheter”?

SymphonyAI kombinerer prediktive, generative og agenskap-AI til kohesive “ferdigheter” ved å skape integrerte arbeidsflyter hvor hver AI-produkt møter et spesifikt forretningsproblem. I finansiell kriminalitetsskanning identifiserer våre prediktive modeller mistenkelige transaksjonsmønster, og generativ AI skaper detaljerte etterforskningsrapporter og risikovurderinger. Samtidig orkestrerer agenskap-AI hele arbeidsflyten, automatisk eskalerer saker, koordinerer med samvirkings-team og tilpasser etterforskningsstrategier basert på sanntidsfunn.

Nøkkelen er at disse ikke er separate AI-verktøy, men integrerte kapasiteter innen domene-spesifikke agenter som forstår forretningskontekst, opprettholder arbeidsflyt-tilstand og kan ubruttelig gå over fra prediktiv analyse, innholdsgenerering og autonom handling for å levere fullstendige forretningsresultater i stedet for fragmenterte AI-utdata.

Du har advart om at mange enterprise AI-agenter kan snuble uten robusthet—hvordan er de kritiske egenskapene til en velkonstruert, feiltolerant enterprise AI-agent? 

Velkonstruerte, bygget-for-skrutiniøse enterprise AI-agenter krever flere kritiske egenskaper. Selv om mange bedrifter raskt investerer i og distribuerer AI-agenter for å forbedre effektivitet, produktivitet og innovasjon, underskattes ofte den nødvendige grunnarbeidet for suksess. Noen avgjørende aspekter som velkonstruerte agenter trenger for å være suksessfulle, er:

• Enterprise AI-agenter opererer på bedriftsdata, som ofte er siloet og mangler ordentlig programmatisk tilgang, tillatelser og tilgangskontroll. Agenter må være utstyrt med samme autentiserings- og autoriseringsbestemmelser som ansatte.
• Agenter må også kunne gjenopprette alle former for bedriftssystemfeil, nettverksavbrudd og ustabile endepunkter. Orkestreringslaget må muliggjøre langvarige, varige, feiltolerante arbeidsflyter, som de fleste populære LLM-orkestratorer ikke gjør.
• LLM-er vil være ikke-deterministiske og feile i oppgaver. Feilgjenopptak, gjentakelser og optimal sti-oppdagelse må være nøkkel-funksjoner i agenskap-systemer.

Hva ville du råd CTO-er som vurdere å bygge vertikale AI-plattformer internt mot å samarbeide med nisje-leverandører? 

Bygging av enterprise AI-løsninger over flere industrier, inkludert detaljhandel/CPG, industri, finansielle tjenester og mer, krever å mestre både banebrytende AI-teknologi og dyp bransjeekspertise samtidig for å oppnå virkelig verdi fra enterprise AI-løsninger. Vår Eureka AI-plattform demonstrerer hvordan vertikal-spesifikke datakilder, kunnskapsgrafer, prediktive modeller og agenter må tilpasses hver industri, men dette representerer år med forskningsinvestering og kunde-iterasjon som de fleste interne team mangler. For bedrifter og CTO-er som ønsker å investere i AI, råder jeg dem til å velge løsninger som leverer virkelige resultater fra dag én. Vertikale AI-løsninger gir disse resultater, og leverer brukerne med data de kan bruke til å skape forretningsverdi.

Ser du fremover, hvordan vil enterprise AI-arkitekturer utvikle seg—vil fødererte vertikale agenter bygget på felles grunnmodeller bli normen?

Vi vil ikke bare se ‘fødererte’ agenter; vi vil se styrede agenskap-arkitekturer. Mens felles grunnmodeller gir resonering-motoren, er de i realiteten varer. ‘Normen’ for suksessfulle bedrifter vil være å distribuere spesialiserte, vertikale agenter som ikke bare ‘snakker’ sammen, men er rigorøst orkestrert gjennom en felles kontekstlag. Hvis du bare har ‘fødererte’ agenter bygget på grunnmodeller, får du et støyende, hallusinogen-system—det vi kaller ‘lekkasje-røret’ i enterprise AI. For å gjøre denne arkitekturen skalerbar i produksjon, trenger du tre spesifikke lag som går ut over enkel føderasjon:

• Kontekst (Den domene-spesifikke kunnskapsgraf): Agenter må dele en enkelt kilde til sannhet, ikke bare utveksle sannsynligheter.
• Orkestrering: Du trenger en ‘mester-arkitekt’ som bestemmer når å bruke en spesialisert agent og når å holde en menneskelig i løkken.
• Styring: Utdataene må være juridisk og operasjonelt trygge før de forlater systemet.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke SymphonyAI.