Raj Shukla, CTO på SymphonyAI – Intervju-serie

Raj Shukla driver SymphonyAI:s tekniska vägkarta och genomförande, och leder ingenjörsteamet som bygger Eureka Gen AI-plattformen. Med nästan 20 års erfarenhet av AI/ML-utveckling och forskning har Shukla också omfattande erfarenhet av företags-AI-SaaS från sina ingenjörsledningsroller på Microsoft (MSFT ), där hans framgångsrika 14-åriga karriär inkluderade att leda globala AI-vetenskaps- och ingenjörsorganisationer över Azure, Dynamics 365, MSR och sök- och reklamavdelningarna. Raj har omfattande erfarenhet av AI/ML inom sökning, reklam och företags-AI och har byggt flera framgångsrika AI-SaaS-produkter inom både konsument- och företagsdomäner.

SymphonyAI är ett företags-AI-företag som fokuserar på att bygga branschspecifika AI-applikationer som levererar omedelbar affärsnytta. Istället för generiska modeller tillhandahåller det vertikala lösningar för detaljhandel, konsumentvaror, finansiella tjänster, tillverkning, media och IT, som hanterar utmaningar som prognostisering, bedrägeriförebyggande, operativ optimering och analys. Dessa produkter drivs av Eureka AI-plattformen, som kombinerar prediktiv, generativ och agensbaserad AI i arbetsflöden anpassade till varje sektor. Grundat 2017 har företaget vuxit till en global ledare inom vertikal AI, med tusentals företagskunder som använder skalbara, domänspecifika lösningar.

Du har arbetat i framkanten av AI-innovation på Microsoft, Oracle (ORCL ) och nu SymphonyAI – vad var det som ursprungligen drog dig in i världen av företags-AI, och hur har din synvinkel utvecklats över åren?

Min resa in i företags-AI började med en grundläggande övertygelse om att företag bör implementera AI som löser verkliga affärsproblem, inte bara skapa AI för AI:s skull. Jag har sett att generiska, breda AI-lösningar sällan levererar transformerande värde. På SymphonyAI har vi byggt vår företagsstrategi och kultur på att utveckla AI som förstår specifika branschutmaningar, från finansiell brottsbekämpning till detaljhandelsvaror och industriell ansluten arbetare. Företagsberedskap lägger till en helt ny dimension – framgångsrik företags-AI kräver mer än bra teknik, det kräver också exemplarisk datastyrning och arkitektur, sofistikerad tvärfunktionell samverkan och arbetsflöden, samt full transparens och granskning.

Vilka specifika brister möter företag med generiska förtränade modeller, särskilt i tungt reglerade sektorer som finans eller hälsovård? 

Generiska förtränade modeller är inte byggda för de högriskmiljöer som finns i finans, hälsovård och livsmedel. Generiska, förtränade modeller möter kritiska hinder, inklusive behovet av väsentlig branschkompetens för att hantera branschspecifika nyanser och uppfylla strikta reglerings- och efterlevnadskrav som skiljer sig åt mellan geografiska områden. De kan inte heller leverera den noggrannhet och spårbarhet som företag kräver, där fel kan skada konsumenter eller utlösa regleringsbrott. Vare sig det gäller att följa regler mot penningtvätt eller att möjliggöra för en livsmedelsbutik att snabbt ta bort återkallade artiklar från distributionscenter och hyllor, är SymphonyAI:s vertikala AI-teknik specifikt utvecklad för de branscher vi verkar inom och tränad på dessa branschers ontologier, vilket möjliggör för dem att fatta eller automatisera beslut som direkt skapar affärsnytta.

Hur kombinerar man förtränade modeller med djup branschlogik för att låsa upp företagsavkastning – vilka är de väsentliga komponenterna, som branschkunskap, KPI-justering och regleringsstängsel, som gör denna strategi effektiv? 

Kombinationen av förtränade modeller med djup branschlogik låser upp värde genom att skapa AI-system som förstår affärs kontext och operativa krav. Denna strategi lyckas när modellerna förstärks med branschspecifika ontologier, justeras med företags KPI:er för att säkerställa att utdata direkt tjänar mätbara affärsmål och är utrustade med regleringsstängsel som tillhandahåller nödvändiga efterlevnadsramverk och granskningsloggar. När dessa element fungerar tillsammans förvandlas generisk AI till affärskritiska lösningar som driver mätbara resultat samtidigt som de upprätthåller den tillförlitlighet och efterlevnad som företag kräver.

IBM förvärvade nyligen Seek AI och lanserade Watsonx Labs i New York City, vilket signalerar en potentiell strategisk förändring i AI-landskapet – vad indikerar detta om framtiden för M&A och investeringstrender inom företags-AI? 

IBMs förvärv av Seek AI och lanseringen av Watsonx Labs är en bekräftelse på den grundläggande förändring vi har förväntat oss: företags-AI-landskapet har förändrats, vilket signalerar att den nästa vågen av M&A kommer att prioritera företag med förtränade vertikala AI-modeller som kommer med djup branschkompetens, styrning och regleringsstängsel, samt resultatdrivna KPI:er. Strategiska förvärvare som IBM erkänner att AI-agenter fokuserade på företagsdata levererar omedelbar avkastning när de förstår specifika branscharbetsflöden. Marknaden konsolideras kring erkännandet att allmän intelligens behöver vertikal specialisering för att driva företagsomvandling.

När utvecklas en grundmodell till en domänspecifik agent – vilka är de arkitektoniska milstolparna som signalerar denna övergång? 

En grundmodell utvecklas inte naturligt till en domänspecifik agent; den måste konstrueras till en. Det finns ingen direkt väg där en allmän modell bara “blir smartare” och blir en bankutredare. Övergången sker bara när ingenjörsteam slutar lita på modellens råa intelligens och börjar bygga den styrda arkitekturen runt den – specifikt injicera en kontextlager (som en kunskapsgraf) och en orkestreringslager för att tvinga modellen att följa ett affärsprocess istället för dess egna sannolikhetsbaserade tendenser.

Vilka är de centrala utmaningarna i att bygga agensbaserade arbetsflöden som är både robusta och vertikalt specifika, och hur hanterar SymphonyAI dessa utmaningar? 

De centrala utmaningarna i att bygga robusta, vertikalt specifika agensbaserade arbetsflöden är att upprätthålla tillförlitlighet över komplexa, flerstegsprocesser. SymphonyAI hanterar dessa utmaningar genom sin flerskiktade arkitektur, som inbäddar branschkompetens direkt i agenten, implementerar felhantering med återställning, och upprätthåller beständig kontexthantering över företagsprocesser. Detta möjliggör för våra agenter att fungera tillförlitligt i högriskmiljöer där robusthet innebär att upprätthålla noggrannhet, efterlevnad och operativ integritet.

SymphonyAI betonar robusta datafundament, kunskapsgrafer och metadata-lager – varför är dessa funktioner avgörande för vertikala AI-agenter, och varför har många företag svårt att implementera dem? 

Robusta datafundament och kunskapsgrafer är avgörande för vertikala AI-agenter för att ha meningsfulla källor, ge kontextualiserade rekommendationer och hålla sig uppdaterade med marknads-, kund- och processförändringar över alla nivåer i företaget. De flesta företag har svårt att implementera dessa funktioner eftersom de kräver betydande initiala investeringar i dataarkitektur, specialiserad ontologikompetens och grundläggande förändringar i befintliga datapraxis som många organisationer finner organisatoriskt och tekniskt utmanande. Det är där en AI-teknikpartner med djup erfarenhet och kunskap inom den vertikalen är ovärderlig, inklusive deras förmåga att förträna AI på stora mängder domändata och källor över många verkliga kunder inom den branschen.

I verkliga scenarier – som finansiell brottsbekämpning eller detaljhandelsprognostisering – hur kombinerar SymphonyAI prediktiv, generativ och agensbaserad AI till sammanhängande “färdigheter”?

SymphonyAI kombinerar prediktiv, generativ och agensbaserad AI till sammanhängande “färdigheter” genom att skapa integrerade arbetsflöden där varje AI-produkt möter ett specifikt affärsproblem. I finansiell brottsbekämpning identifierar våra prediktiva modeller misstänkta transaktionsmönster, och generativ AI skapar detaljerade utredningsrapporter och riskbedömningar. Samtidigt orkestrerar agensbaserad AI hela arbetsflödet, automatiskt eskalerar ärenden, samordnar med efterlevnadsteam och anpassar utredningsstrategier baserat på realtidsfynd.

Du har varnat för att många företags-AI-agenter kan snubbla utan robusthet – vilka är de nyckelkaraktärerna för en välkonstruerad, fel tolererande företags-AI-agent? 

En välkonstruerad, byggd för granskning, företags-AI-agent kräver flera kritiska karaktärer. Även om många företag snabbt investerar i och distribuerar AI-agenter för att förbättra effektivitet, produktivitet och innovation, underskattar de ofta den nödvändiga grunden för framgång. Några viktiga aspekter som välkonstruerade agenter behöver för att vara framgångsrika är:

• Företags-AI-agenter fungerar på företagsdata, som ofta är siloade och saknar ordentlig programmatisk åtkomst, behörigheter och åtkomstkontroll. Agenter behöver vara utrustade med samma autentiserings- och auktoriseringsbestämmelser som anställda.
• Agenter behöver också återhämta sig från alla former av företagssystemfel, nätverksavbrott och ostadiga slutpunkter. Orkestreringslagret behöver möjliggöra långvariga, hållbara, fel toleranta arbetsflöden, vilket de flesta populära LLM-orkestratorer inte gör.
• LLM kommer att vara icke-deterministiska och misslyckas med uppgifter. Felåterställning, återförsök och optimala vägvalsbehov är nyckelfunktioner i agenssystem.

För CTO:er som överväger att bygga vertikala AI-plattformar internt versus att samarbeta med nischleverantörer, vad råd skulle du ge? 

Att bygga företags-AI-lösningar över flera branscher, inklusive detaljhandel/CPG, industri, finansiella tjänster och mer, kräver att man bemästrar både den senaste AI-tekniken och djup branschkompetens samtidigt för att uppnå verkligt värde från företags-AI-lösningar. Vår Eureka AI-plattform demonstrerar hur vertikalt specifika datakällor, kunskapsgrafer, prediktiva modeller och agenter måste anpassas till varje bransch, men detta representerar år av forskningsinvesteringar och kunditerationer som de flesta interna team saknar. För företag och CTO:er som vill investera i AI, råder jag dem att välja lösningar som levererar verkliga resultat från dag ett. Vertikala AI-lösningar tillhandahåller dessa resultat, och ger användarna data de kan använda för att skapa affärsnytta.

Om man ser framåt, hur ser du på företags-AI-arkitekturer – kommer federerade vertikala agenter byggda på delade grundmodeller att bli normen?

Vi kommer inte att se bara “federerade” agenter; vi kommer att se styrda agensarkitekturer. Medan delade grundmodeller tillhandahåller resonemotorn, är de i princip varor. “Normen” för framgångsrika företag kommer att vara att distribuera specialiserade, vertikala agenter som inte bara “pratar” med varandra, utan är rigoröst orkestrerade genom ett delat kontextlager. Om du bara har “federerade” agenter byggda på grundmodeller, får du ett bullrigt, hallucinationsbenäget system – vad vi kallar “läckande rör” i företags-AI. För att göra denna arkitektur skalbar i produktion, behöver du tre specifika lager som går utöver enkel federation:

• Kontext (Domänkunskapsgraf): Agenter behöver dela en enda sanning, inte bara utbyta sannolikheter.
• Orkestrering: Du behöver en “mästararkitekt” som bestämmer när man ska använda en specialiserad agent och när man ska hålla en människa i loopet.
• Styrning: Utdata måste vara juridiskt och operativt säkert innan det lämnar systemet.

Tack för det underbara samtalet, läsare som vill lära sig mer bör besöka SymphonyAI.