Raj Shukla, CTO al SymphonyAI – Seria de interviuri

Raj Shukla conduce planul de tehnologie și execuția SymphonyAI, conducând echipa de ingineri care construiește platforma Eureka Gen AI. Cu aproape 20 de ani de experiență în inginerie și cercetare AI/ML, Shukla are, de asemenea, o experiență extinsă în domeniul AI SaaS pentru întreprinderi, provenită din rolurile sale de conducere din cadrul Microsoft, unde cariera sa de succes de 14 ani a inclus conducerea organizațiilor globale de știință și inginerie AI din cadrul Azure, Dynamics 365, MSR și diviziilor de căutare și publicitate. Raj are o experiență vastă în AI/ML în domeniile căutării, publicității și AI pentru întreprinderi și a construit mai multe produse AI SaaS de succes atât în domeniul consumatorilor, cât și în cel al afacerilor.

SymphonyAI este o companie de inteligență artificială pentru întreprinderi, axată pe construirea de aplicații AI specifice industriilor, care oferă valoare comercială imediată. În loc de modele generice, oferă soluții verticale pentru retail, bunuri de consum, servicii financiare, producție, mass-media și IT, abordând provocări precum previziunea, prevenirea fraudelor, optimizarea operațională și analitica. Produsele sale sunt alimentate de platforma Eureka AI, care combină capacitățile predictive, generative și agențiale în fluxuri de lucru personalizate pentru fiecare sector. Fondată în 2017, compania a crescut și a devenit un lider global în AI vertical, deservind mii de clienți întreprinderi cu soluții scalabile și focalizate pe domeniu.

Ați lucrat în avangarda inovației AI la Microsoft, Oracle și acum SymphonyAI—ce v-a atras inițial în lumea AI pentru întreprinderi și cum s-a schimbat perspectiva dvs. de-a lungul anilor?

Călătoria mea în lumea AI pentru întreprinderi a început cu o convingere de bază că companiile ar trebui să implementeze AI care rezolvă probleme comerciale reale, și nu doar să creeze AI pentru sake-ul AI. Am văzut că soluțiile AI generice, ample, rareori oferă valoare transformațională. La SymphonyAI, am construit strategia și cultura noastră a companiei pe dezvoltarea de AI care înțelege provocările specifice ale industriilor, de la detectarea infracțiunilor financiare la merchandisingul de retail orientat către cumpărători până la împuternicirea lucrătorilor industriali conectați. Pregătirea pentru întreprinderi adaugă o altă dimensiune – AI-ul de succes pentru întreprinderi necesită mai mult decât o tehnologie excelentă, necesită o guvernanță și arhitectură a datelor exemplare, o colaborare și fluxuri de lucru sofisticate între funcțiuni, și transparență și auditabilitate deplină.

Care sunt lacunele specifice pe care le întâlnesc întreprinderile cu modelele preantrenate generice, în special în sectoarele puternic reglementate, cum ar fi finanțele sau sănătatea? 

Modelele preantrenate generice nu sunt create pentru medii cu risc ridicat, puternic reglementate, cum ar fi finanțele, sănătatea sau bunurile de consum. Modelele preantrenate generice se confruntă cu bariere critice, inclusiv nevoia de expertiză de domeniu esențială pentru a aborda nuanțele specifice ale industriei și pentru a îndeplini cerințele stricte de reglementare și conformitate care diferă în funcție de geografie. Mai important, ele nu pot oferi acuratețea și trasabilitatea pe care întreprinderile le necesită, unde erorile pot dăuna consumatorilor sau pot declanșa încălcări ale reglementărilor. Indiferent dacă este vorba despre respectarea regulamentelor de combatere a spălării banilor sau despre permiterea unei companii de bunuri de consum să înlăture rapid produse retrase de pe rafturi, tehnologia AI verticală a SymphonyAI este construită special pentru industriile în care operăm și antrenată pe ontologiile acestor industrii, permițându-le să ia sau să automatizeze decizii care creează impact comercial direct.

Combinarea modelelor preantrenate cu logica de domeniu profundă este tot mai mult considerată cheia deblocării rentabilității întreprinderilor—care sunt componentele esențiale, cum ar fi cunoașterea industriei, alinierea KPI și gardurile de reglementare, care fac ca această abordare să fie eficientă? 

Combinarea modelelor preantrenate cu logica de domeniu profundă deblochează valoarea prin crearea de sisteme AI care înțeleg contextul comercial și cerințele operaționale. Această abordare reușește atunci când modelele sunt îmbunătățite cu ontologii specifice industriei, aliniate cu KPI-urile întreprinderii pentru a asigura că ieșirile servesc direct obiectivelor comerciale măsurabile și sunt echipate cu garduri de reglementare care oferă cadre de conformitate și urme de audit necesare. Când aceste elemente funcționează împreună, AI-ul generic se transformă în soluții critice pentru afaceri care generează rezultate măsurabile, menținând în același timp fiabilitatea și conformitatea pe care întreprinderile le cer.

IBM a achiziționat recent Seek AI și a lansat Watsonx Labs în New York, semnalând o posibilă schimbare strategică în peisajul AI—ce indică acest lucru despre viitorul tendințelor de fuziuni și achiziții și investiții în AI pentru întreprinderi? 

Achiziționarea Seek AI de către IBM și lansarea Watsonx Labs este o validare a schimbării fundamentale pe care am anticipat-o: peisajul AI pentru întreprinderi s-a schimbat, semnalând că următoarea undă de fuziuni și achiziții va prioritiza companiile cu modele AI verticale preantrenate care vin cu expertiză de domeniu profundă, guvernanță și garduri de reglementare, precum și KPI-uri orientate către rezultate. Cumpărătorii strategici, cum ar fi IBM, recunosc că agenții AI axați pe datele întreprinderilor oferă ROI imediat atunci când înțeleg fluxurile de lucru specifice industriei. Piața se consolidează în jurul recunoașterii că inteligența generală necesită specializare verticală pentru a impulsiona transformarea întreprinderilor.

În ce moment se transformă un model de bază într-un agent specific domeniului—care sunt reperele arhitecturale care semnalează această tranziție? 

Un model de bază nu se maturizează natural într-un agent de domeniu; trebuie să fie inginerit într-unul. Nu există un drum direct în care un model general devine “mai deștept” și se transformă într-un investigator bancar. Tranziția are loc doar atunci când echipele de ingineri încetează să se bazeze pe inteligența brută a modelului și încep să construiască arhitectura guvernată din jurul acestuia—în special, injectând un strat de context (cum ar fi un Graf de Cunoaștere) și un strat de orchestrare pentru a forța modelul să urmeze un proces de afaceri, și nu tendințele sale probabilitare.

Care sunt provocările de bază în construirea de fluxuri de lucru agențiale care sunt atât reziliente, cât și specifice verticale, și cum le abordează SymphonyAI? 

Provocările de bază în construirea fluxurilor de lucru agențiale reziliente și specifice verticale sunt menținerea fiabilității pe parcursul unor procese complexe multi-etapă. SymphonyAI abordează aceste provocări prin arhitectura sa multi-stratificată, care încorporează expertiza de domeniu direct în agent, implementează gestionarea erorilor cu recuperare în caz de eșec și menține gestionarea contextului persistent pe parcursul proceselor întreprinderilor multi-sesiune. Acest lucru permite agenților noștri să opereze în mod fiabil în medii reglementate cu risc ridicat, unde reziliența înseamnă menținerea acurateței, conformității și integrității operaționale.

SymphonyAI subliniază fundații de date robuste, grafuri de cunoaștere și straturi de metadate—de ce sunt aceste capacități critice pentru agenții AI verticali, și de ce multe întreprinderi se luptă să le implementeze? 

Fundațiile de date robuste și grafurile de cunoaștere sunt cruciale pentru agenții AI verticali, care au nevoie de surse semnificative, oferă recomandări contextualizate și rămân la curent cu schimbările de pe piață, clienți și procese la toate nivelurile întreprinderii. Majoritatea întreprinderilor se luptă să implementeze aceste capacități, deoarece necesită o investiție semnificativă inițială în arhitectura datelor, expertiză specializată în ontologie și schimbări fundamentale ale practicilor de date existente, pe care multe organizații le găsesc descurajante din punct de vedere organizatoric și tehnic. Acolo este locul unde un partener tehnologic AI, cu experiență și cunoaștere profundă în acel domeniu, este inestimabil, inclusiv capacitatea de a pre-antrena AI-ul pe cantități uriașe de date de domeniu și surse din numeroși clienți reali din acea industrie.

În scenarii din lumea reală—cum ar fi detectarea infracțiunilor financiare sau previziunea de retail—cum combină SymphonyAI AI-ul predictiv, generativ și agențial în “abilități” coezive?

SymphonyAI combină AI-ul predictiv, generativ și agențial în “abilități” coezive, creând fluxuri de lucru integrate în care fiecare produs AI rezolvă o problemă comercială specifică. În detectarea infracțiunilor financiare, modelele noastre predictive identifică modele de tranzacții suspecte, iar AI-ul generativ creează rapoarte de investigații și evaluări de risc detaliate. În același timp, AI-ul agențial orchestrează întregul flux de lucru, escaladând automat cazurile, coordonând cu echipele de conformitate și adaptând strategiile de investigație pe baza descoperirilor în timp real.

Cheia este că acestea nu sunt unelte AI separate, ci capacități integrate în cadrul agenților specifici de domeniu care înțeleg contextul de afaceri, mențin starea fluxului de lucru și pot trece fără efort de la analiză predictivă la generare de conținut și acțiune autonomă pentru a livra rezultate comerciale complete, și nu ieșiri fragmentate AI.

Ați avertizat că mulți agenți AI pentru întreprinderi pot eşua fără robustețe—care sunt caracteristicile cheie ale unui agent AI pentru întreprinderi bine inginerit și toleranți la defecte? 

Agenții AI pentru întreprinderi bine ingineriți și construiți pentru a fi supuși examinării necesită mai multe caracteristici critice. Deși multe afaceri investesc rapid și implementează agenți AI pentru a îmbunătăți eficiența, productivitatea și inovarea, ele adesea subestimează munca de bază necesară pentru succes. Unele aspecte vitale pe care agenții bine ingineriți trebuie să le aibă pentru a reuși sunt:

• Agenții AI pentru întreprinderi operează pe date ale întreprinderii, care sunt adesea izolate și lipsite de acces programatic adecvat, permisiuni și controale de acces. Agenții necesită să fie echipați cu aceleași prevederi de autentificare și autorizare ca și angajații.
• Agenții necesită, de asemenea, să se recupereze de la toate tipurile de eșecuri ale sistemelor întreprinderii, întreruperi de rețea și puncte finale instabile. Stratul de orchestrare trebuie să permită fluxuri de lucru durabile, tolerante la defecte și pe termen lung, ceea ce majoritatea orchestratorilor LLM populari nu fac.
• LLM-urile vor fi nedeterministe și vor eşua la sarcini. Recuperarea în caz de eșec, reîncercările și descoperirea căii optime necesită să fie funcții cheie ale sistemelor agențiale.

Pentru CTO-ii care se gândesc să construiască platforme AI verticale în interior sau să se asocieze cu furnizori de nișă, ce sfaturi ați oferi? 

Construirea de soluții AI pentru întreprinderi în multiple industrii, inclusiv retail/CPG, industrial, servicii financiare și multe altele, necesită stăpânirea atât a tehnologiei AI de ultimă generație, cât și a expertizei de domeniu profundă, simultan, pentru a obține valoare reală din soluțiile AI pentru întreprinderi. Platforma noastră AI Eureka demonstrează cum sursele de date verticale specifice, grafurile de cunoaștere, modelele predictive și agenții trebuie să fie personalizați pentru fiecare industrie, dar acest lucru reprezintă ani de investiții în cercetare și iterație cu clienții, pe care majoritatea echipelor interne nu le dețin. Pentru afaceri și CTO-uri care doresc să investească în AI, le sfătuiesc să aleagă soluții care oferă rezultate reale de la prima zi. Soluțiile AI verticale oferă aceste rezultate, oferind utilizatorilor date pe care pot să le folosească pentru a crea valoare comercială.

Privind înainte, cum vă imaginați arhitecturile AI pentru întreprinderi—vor deveni agenții verticali federați, construiți pe modele de bază comune, norma?

Nu vom vedea doar “agenți federați”; vom vedea arhitecturi agențiale guvernate. În timp ce modelele de bază comune oferă motorul de raționament, ele sunt, în esență, mărfuri. “Norma” pentru întreprinderile de succes va fi implementarea de agenți specializați, verticali, care nu doar “comunică” între ei, ci sunt orchestrați riguros printr-un strat de context comun. Dacă aveți doar agenți “federați” construiți pe modele de bază, obțineți un sistem zgomotos, predispus la halucinații—ceea ce numim “țeava scurgerii” AI-ului pentru întreprinderi. Pentru a face ca această arhitectură să scaleze în producție, aveți nevoie de trei straturi specifice care merg dincolo de simpla federație:

• Context (Graf de cunoaștere de domeniu): Agenții necesită să împărtășească o sursă unică de adevăr, și nu doar să schimbe probabilități.
• Orchestrare: Aveți nevoie de un “arhitect maestru” care decide când să utilizeze un agent specializat și când să păstreze un om în buclă.
• Guvernanță: Ieșirea trebuie să fie sigură din punct de vedere juridic și operațional înainte de a părăsi sistemul.

Mulțumim pentru interviul excelent; cititorii care doresc să afle mai multe informații ar trebui să viziteze SymphonyAI.