Raj Shukla, SymphonyAI:n CTO – Haastattelusarja

Raj Shukla ohjaa SymphonyAI:n teknologisen suunnittelun ja toteutuksen, johtaen insinööritiimiä, joka kehittää Eureka Gen AI -alustaa. Lähes 20 vuoden kokemuksella AI/ML-tekniikasta ja tutkimuksesta Shukla on myös laaja-alainen yritys-AI-SaaS-kokemus Microsoftin insinöörijohtajan rooleista, joissa hän on johtanut globaaleja AI-tiede- ja insinööriorganisaatioita Azuressa, Dynamics 365:ssa, MSR:ssa ja hakujen ja mainonnan osastoissa. Rajilla on laaja kokemus AI/ML:stä hakujen, mainonnan ja yritys-AI:n parissa ja hän on kehittänyt useita menestyneitä AI-SaaS-tuotteita sekä kuluttaja- että liiketoimintasektorilla.

SymphonyAI on yritys-AI-yritys, joka keskittyy teollisuusspesifisten AI-sovellusten kehittämiseen, jotka tarjoavat välittömän liiketoimint-arvon. Sen sijaan, että käyttäisi yleisiä malleja, se tarjoaa pystysuoraan ratkaisuja vähittäiskaupalle, kuluttajatuotteille, rahoituspalveluille, valmistukselle, medialle ja IT:lle, ja ratkaisee haasteita, kuten ennustamista, petosten estämistä, operatiivista optimointia ja analytiikkaa. Sen tuotteet perustuvat Eureka AI -alustaan, joka yhdistää prediktiviiset, generatiiviset ja agenteille ominaiset kyvyt teollisuuden mukaisiin työnkulkuun. Perustettu vuonna 2017, yritys on kasvanut johtavaksi pystysuoraksi AI-yritykseksi, joka palvelee tuhansia yritysasiakkaita skaalautuvilla, alan mukaisilla ratkaisuilla.

Mitä sinä ajattelit, kun aloitit työskentelemisen AI-innovaatioiden eturintamassa Microsoftissa, Oraclessa ja nyt SymphonyAI:ssa – mitä sinut alun perin houkutteli yritys-AI:n maailmaan, ja miten näkemyksesi on kehittynyt vuosien varrella?

(MSFT ) (ORCL )

Matkani yritys-AI:n pariin alkoi uskomuksesta, että yritysten tulisi toteuttaa AI:ta, joka ratkaisee todellisia liiketoimintahaasteita, eikä vain luoda AI:ta itsessään. Olen nähnyt, että yleiset, laajat AI-ratkaisut harvoin tarjoavat muodonmuuttuvaa arvoa. SymphonyAI:ssa olemme rakentaneet yrityksemme strategian ja kulttuurin kehittämään AI:ta, joka ymmärtää tiettyjä teollisuuden haasteita, kuten rikollisen toiminnan havaitsemista, vähittäiskaupan myyntiin liittyvää markkinointia ja teollisuuden yhteydenpitoa. Yritysvalmius lisää toisen ulottuvuuden – onnistunut yritys-AI vaatii enemmän kuin vain hyvää teknologiaa, se edellyttää myös erinomaista tietohallintaa ja arkkitehtuuria, monialaista yhteistyötä ja työnkulkua sekä täydellistä avoimuutta ja auditointia.

Mitä tarkkaa puutetta yritykset kokevat yleisillä esikoulutetuilla malleilla, erityisesti säännellyissä aloissa, kuten rahoituksessa tai terveydenhuollossa? 

Yleiset esikoulutetut mallit eivät ole suunniteltu korkean riskin, säännellyn ympäristöön, kuten rahoitus, terveydenhuolto ja vähittäiskauppa. Yleiset, esikoulutetut mallit kohtaavat kriittisiä esteitä, kuten tarpeen välttämättömälle alan asiantuntemukselle, jotta voidaan ratkaista alan spesifisiä nuansseja ja täyttää tiukat sääntely- ja vaatimukset, jotka vaihtelevat eri maantieteellisillä alueilla. Ennen kaikkea, ne eivät voi tarjota yritysten vaatimaa tarkkuutta ja jäljitettävyyttä, missä virheet voivat vahingoittaa kuluttajia tai laukaista sääntelyrikkomuksia. SymphonyAI:n pystysuora AI-teknologia on suunniteltu spesifisesti aloille, joilla toimimme, ja koulutettu niiden alojen ontologioilla, mikä mahdollistaa niiden tekevän tai automatisoivan päätöksiä, jotka luovat suoraan liiketoimintavaikutusta.

Miten yhdistät esikoulutetut mallit syvään alan logiikkaan, ja mitkä ovat tärkeimmät komponentit, kuten alan tietämys, KPI-yhdenmukaisuus ja sääntelysuojaukset, jotka tekevät tämän lähestymistavan tehokkaaksi? 

Yhdistämällä esikoulutetut mallit syvään alan logiikkaan voidaan luoda AI-järjestelmiä, jotka ymmärtävät liiketoimintakontekstin ja operatiiviset vaatimukset. Tämä lähestymistapa onnistuu, kun malleja täydennetään alan spesifisillä ontologioilla, KPI:en mukaisuudella, jotta tulokset palvelevat suoraan mitattavissa olevia liiketoimintatavoitteita, ja varustetaan sääntelysuojauksilla, jotka tarjoavat tarvittavat sääntelykehykset ja auditinraiteet. Kun nämä elementit toimivat yhdessä, yleinen AI muuttuu liiketoimintakriittisiksi ratkaisuiksi, jotka tuottavat mitattavissa olevia tuloksia samalla, kun ylläpidetään yritysten vaatimaa luotettavuutta ja sääntelymukaisuutta.

IBM hankki Seek AI:n ja avasi Watsonx Labsin New Yorkissa, mikä voi olla strateginen muutos AI-maailmassa – mitä tämä merkitsee tulevaisuuden M&A- ja investointitrendeistä yritys-AI:ssa? 

IBM:n hankinta Seek AI:sta ja Watsonx Labsin avaaminen on vahvistus perussäännöstä, jonka odotimme: yritys-AI-maailma on muuttunut, ja seuraava aalto M&A:ta priorisoi yrityksiä, joilla on esikoulutetut pystysuorat AI-mallit, jotka tulevat syvällä alan asiantuntemuksella, hallinnollisilla suojauksilla ja tuloksellisilla KPI:illä. Strategiset ostajat, kuten IBM, tunnustavat, että AI-agentit, jotka keskittyvät yritysten tietoihin, tarjoavat välittömän ROI:n, kun ne ymmärtävät spesifisiä alan työnkulkua. Markkinat ovat konsolidoituja ymmärtämään, että yleinen äly tarvitsee pystysuoraa erikoistumista, jotta voidaan ajaa yritysten muodonmuutos.

Milloin perusmalli kehittyy alan spesifiseksi agentiksi – mitkä ovat tärkeimmät arkkitehtuurin merkkipaaluja, jotka merkitsevät tämän siirtymän? 

Perusmalli ei kehity luonnostaan alan agentiksi; se on insinööritettävä yhdeksi. Ei ole suoraa polkua, jossa yleinen malli yksinkertaisesti “tulee fiksummaksi” ja muuttuu pankin tutkijaksi. Siirtymä tapahtuu vasta, kun insinööritiimit lopettavat riippuvuuden mallin raakaa älykkyydestä ja alkavat rakentaa hallitun arkkitehtuurin sen ympärille – erityisesti injektoimalla kontekstikerroksen (kuten tietograafin) ja orkestraatiokerroksen, jotta malli seuraa liiketoimintaprosessia sen sijaan, että seuraisi omaa todennäköisyyden mukaista taipumusta.

Mitä ovat keskeiset haasteet luotaessa agenteille työnkulkuja, jotka ovat sekä kestäviä että pystysuoria, ja miten SymphonyAI ratkaisee nämä haasteet? 

Keskeiset haasteet luotaessa kestävien, pystysuorien agenteille työnkulkuja ovat ylläpitäminen luotettavuutta monimutkaisissa monivaiheisissa prosesseissa. SymphonyAI ratkaisee nämä haasteet monikerroksisella arkkitehtuurilla, joka upottaa alan asiantuntemuksen suoraan agenttiin, toteuttaa virheenkäsittelyn virheenkorjaamisella ja ylläpitää pysyvää kontekstin hallintaa monisessioiden yritysprosesseissa. Tämä mahdollistaa agenteillemme toimia luotettavasti korkean riskin, säännellyissä ympäristöissä, joissa kestävyys tarkoittaa ylläpitämistä tarkkuutta, sääntelymukaisuutta ja operatiivista eheytymistä.

SymphonyAI korostaa vahvoja tietoperusteita, tietograafeja ja metadata-kerroksia – miksi nämä kyvyt ovat kriittisiä pystysuorille AI-agenteille, ja miksi monilla yrityksillä on vaikeuksia toteuttaa nämä? 

Vahvat tietoperusteet ja tietograafit ovat ratkaisevia pystysuorille AI-agenteille, jotta ne voivat tarjota merkityksellisiä lähteitä, tarjota kontekstualisoituja suosituksia ja pysyä ajan tasalla markkinoiden, asiakkaiden ja prosessien muutoksilla kaikilla yrityksen tasoilla. Useimmat yritykset kamppailevat näiden kykyjen toteuttamisessa, koska ne vaativat merkittävää etukäteen investointia tietoarkkitehtuuriin, erikoistuneeseen ontologiseen asiantuntemukseen ja perustavanlaatuisiin muutoksiin olemassa oleviin tietokäytäntöihin, joita monet organisaatiot pitävät organisaatiolisesti ja teknisesti haastavina. Tässä on arvokasta olla AI-tekniikan kumppani, jolla on syvä kokemus ja tietämys pystysuorassa, mukaan lukien heidän kykynsä esikouluttaa AI:ta laajoihin määriin alan dataa ja lähteitä useiden todellisten asiakkaiden kanssa alan parissa.

Millä tavoin SymphonyAI yhdistää prediktiviisen, generatiivisen ja agenteille ominaisen AI:n yhtenäisiksi “taitoiksi” – esimerkiksi rikollisen toiminnan havaitsemisessa tai vähittäiskaupan ennustamisessa?

SymphonyAI yhdistää prediktiviisen, generatiivisen ja agenteille ominaisen AI:n yhtenäisiksi “taitoiksi” luomalla integroidut työnkulut, joissa jokainen AI-tuote ratkaisee spesifin liiketoimintahaasteen. Rikollisen toiminnan havaitsemisessa prediktiviset mallimme tunnistavat epäilyttäviä transaktiokuvioita, ja generatiivinen AI luo yksityiskohtaisia tutkimusraportteja ja riskiarvioita. Samalla agenteille orkestraatio ohjaa koko työnkulku, automaattisesti eskaloimalla tapauksia, koordinoimalla yhteistyötä sääntelytiimien kanssa ja sopeuttamalla tutkimusstrategioita reaaliaikaisiin löytöihin.

Avain on, että nämä eivät ole erillisiä AI-työkaluja, vaan integroidut kyvyt alan spesifisissä agenteissa, jotka ymmärtävät liiketoimintakontekstin, ylläpitävät työnkulun tilaa ja voivat siirtää sujuvasti prediktivistä analytiikkaa, sisällön luomista ja autonomista toimintaa, jotta voidaan tarjota täydellisiä liiketoimintatuloksia sen sijaan, että tarjottaisiin sirpaleisia AI-tuloksia.

Millä tavoin varoitat, että monet yritys-AI-agentit voivat kompastua ilman vankkaa perustaa – mitkä ovat avainominaisuudet hyvin suunnitellun, virheenkestävän yritys-AI-agentin? 

Hyvin suunniteltu, virheenkestävä yritys-AI-agentti vaatii useita kriittisiä ominaisuuksia. Vaikka monet yritykset investoivat nopeasti AI-agenteihin ja käyttöönottoon, he usein aliarvioivat tarvittavan perustyön onnistumisen. Joitakin avainasioita, joita hyvin suunnitellut agentit tarvitsevat, ovat:

• Yritys-AI-agentit toimivat yritysten tietojen kanssa, jotka usein ovat eristettyjä ja puuttuvat ohjelmallisesta pääsystä, lupauksista ja pääsyoikeuksista. Agenttien on varustettava samalla autentikaatio- ja valtuutusjärjestelyillä kuin työntekijöillä.
• Agenttien on myös palaututtava kaikista yritysjärjestelmien virheistä, verkkokatkoista ja epävakaiden päätepisteiden virheistä. Orkestraatiokerroksen on mahdollistettava pitkäaikaisia, kestäviä ja virheenkestäviä työnkulkua, joita useimmat suositut LLM-orkestraattorit eivät tee.
• LLM:t ovat epädeterministisiä ja epäonnistuvat tehtävissä. Virheenkorjaus, uudelleenkäynnistys ja optimaalisen polun löytäminen on oltava avainominaisuuksia agenteille.

Mitä neuvoa sinä antaisit CTO:ille, jotka harkitsevat rakentaa pystysuoria AI-alustoja sisäisesti verrattuna yhteistyöhön niiden kanssa, jotka ovat erikoistuneet niiden kehittämiseen? 

Rakentaminen yritys-AI-ratkaisuja useille aloille, kuten vähittäiskauppaan/CPG:hen, teollisuuteen, rahoituspalveluihin ja muihin, vaatii samanaikaisesti sekä viimeisimman AI-tekniikan että syvän alan asiantuntemuksen, jotta voidaan saavuttaa todellista arvoa yritys-AI-ratkaisuista. Meidän Eureka AI -alustamme osoittaa, miten pystysuorat data-lähteet, tietograafit, prediktiviset mallit ja agentit on suunniteltava kullekin alalle, mutta tämä edustaa vuosien tutkimusinvestointeja ja asiakasiteraatiota, joita useimmat sisäiset tiimit puuttuvat. Yrityksille ja CTO:ille, jotka haluavat investoida AI:hin, neuvon heitä valitsemaan ratkaisuja, jotka tarjoavat todellisia tuloksia päivästä yhdestä. Pystysuorat AI-ratkaisut tarjoavat nämä tulokset, tarjoamalla käyttäjille dataa, jonka he voivat käyttää luomaan liiketoimintaa.

Miten sinä näet yritys-AI-arkkitehtuureja tulevaisuudessa – tulevatko federoidut pystysuorat agentit, jotka perustuvat jaettuihin perusmalleihin, normaaliksi?

Emme näe vain “federoidu” -agenteja; näemme hallitut agenteille arkkitehtuurit. Vaikka jaetut perusmallit tarjoavat päätöksenteon moottorin, ne ovat periaatteessa kaupan valmiita. “Normi” onnistuneille yrityksille on käyttää spesifisiä, pystysuoria agenteja, jotka eivät vain “puhu” toisilleen, vaan ovat tarkoin orkestoituja jaettujen kontekstikerrosten kautta. Jos sinä vain käytät “federoidu” -agenteja, jotka perustuvat perusmalleihin, saat meluisan, hallucinaationalttiuden järjestelmän – mitä me kutsutaan “vuotavan putken” yritys-AI:ksi. Tehdäkseen tämän arkkitehtuurin skaalautuvaksi tuotannossa tarvitset kolme tarkkaa kerrosta, jotka menevät yli yksinkertaisen federation:

• Konteksti (Alan tietograafi): Agenttien on jaettava yhteinen totuus, eikä vain vaihdettava todennäköisyyksiä.
• Orkestraatio: Tarvitset “pääarkkitehdin”, joka päättää, milloin käyttää spesifistä agenttia ja milloin pitää ihmisen mukana.
• Hallinto: Tulokset on oltava laillisia ja operatiivisesti turvallisia ennen kuin ne poistuvat järjestelmästä.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla SymphonyAI:ssa.