Raj Shukla, CTO al SymphonyAI – Seria de interviuri

Raj Shukla conduce drumul tehnologic și execuția SymphonyAI, conducând echipa de ingineri care construiește platforma Eureka Gen AI. Cu aproape 20 de ani de experiență în inginerie și cercetare AI/ML, Shukla are, de asemenea, o experiență extinsă în domeniul AI SaaS pentru întreprinderi, din rolurile sale de conducere din cadrul Microsoft (MSFT ), unde cariera sa de 14 ani a inclus conducerea organizațiilor globale de știință și inginerie AI de pe Azure, Dynamics 365, MSR și diviziile de căutare și publicitate. Raj are o experiență vastă în AI/ML în domeniile căutării, publicității și AI pentru întreprinderi și a construit mai multe produse AI SaaS de succes atât în domeniul consumatorilor, cât și în cel al afacerilor.

SymphonyAI este o companie de AI pentru întreprinderi care se axează pe construirea de aplicații AI specifice pentru industrii, care oferă valoare comercială imediată. În loc de modele generice, oferă soluții verticale pentru retail, bunuri de consum, servicii financiare, producție, mass-media și IT, abordând provocări precum previziunea, prevenirea fraudei, optimizarea operațională și analiza. Produsele sale sunt alimentate de platforma Eureka AI, care combină capacitățile predictive, generative și agențiale în fluxuri de lucru personalizate pentru fiecare sector. Fondată în 2017, compania a crescut pentru a deveni un lider global în AI vertical, deservind mii de clienți întreprinderi cu soluții scalabile și specializate pe domeniu.

Ați lucrat în avangarda inovației AI la Microsoft, Oracle (ORCL ) și acum SymphonyAI—ce v-a atras inițial în lumea AI pentru întreprinderi și cum s-a schimbat perspectiva dvs. de-a lungul anilor?

Călătoria mea în AI pentru întreprinderi a început cu o convingere de bază că companiile ar trebui să implementeze AI care rezolvă probleme comerciale reale, nu doar să creeze AI pentru sake-ul AI. Am văzut că soluțiile AI generice, cu bază largă, rareori oferă valoare transformativă. La SymphonyAI, am construit strategia și cultura noastră pe dezvoltarea AI care înțelege provocări specifice industriilor, de la detectarea infracțiunilor financiare la merchandisingul de retail orientat către cumpărători până la împuternicirea lucrătorilor industriali conectați. Pregătirea pentru întreprinderi adaugă o altă dimensiune – AI-ul de succes pentru întreprinderi necesită mai mult decât o tehnologie excelentă, necesită o guvernanță și arhitectură a datelor exemplare, o colaborare și fluxuri de lucru sofisticate și transversale, precum și transparență și auditabilitate deplină.

Care sunt deficiențele specifice cu care se confruntă întreprinderile în cazul modelelor preantrenate generice, în special în sectoarele puternic reglementate, cum ar fi finanțele sau sănătatea? 

Modelele preantrenate generice nu sunt create pentru medii cu risc ridicat, puternic reglementate, cum ar fi finanțele, sănătatea sau alimentele. Modelele preantrenate generice se confruntă cu bariere critice, inclusiv nevoia de expertiză de domeniu esențială pentru a aborda nuanțele specifice industriei și pentru a îndeplini cerințele stricte de reglementare și conformitate care diferă în funcție de geografie. Mai important, acestea nu pot oferi acuratețea și trasabilitatea pe care întreprinderile le necesită, unde erorile pot dăuna consumatorilor sau pot declanșa încălcări ale reglementărilor. Indiferent dacă este vorba despre respectarea reglementărilor privind spălarea banilor sau despre permiterea unei companii de alimente să înlăture rapid produse retrase din centrele de distribuție și rafturi, tehnologia AI verticală a SymphonyAI este construită special pentru industriile în care operăm și antrenată pe ontologiile acestor industrii, permițându-le să ia sau să automatizeze decizii care creează impact comercial direct.

Combinarea modelelor preantrenate cu logica de domeniu profundă este din ce în ce mai mult văzută ca cheia pentru deblocarea ROI-ului întreprinderilor—care sunt componentele esențiale, cum ar fi cunoașterea industriei, alinierea KPI-urilor și gardurile de reglementare, care fac această abordare eficientă? 

Combinarea modelelor preantrenate cu logica de domeniu profundă deblochează valoarea prin crearea unor sisteme AI care înțeleg contextul comercial și cerințele operaționale. Această abordare reușește atunci când modelele sunt îmbunătățite cu ontologii specifice industriei, aliniate cu obiectivele de afaceri măsurabile ale întreprinderii, astfel încât ieșirile să servească direct obiectivelor comerciale măsurabile și să fie echipate cu garduri de reglementare care oferă cadre de conformitate și urme de audit necesare. Când aceste elemente funcționează împreună, AI-ul generic se transformă în soluții critice pentru afaceri care conduc la rezultate măsurabile, menținând în același timp fiabilitatea și conformitatea pe care întreprinderile le cer.

IBM a achiziționat recent Seek AI și a lansat Watsonx Labs în New York, ceea ce semnalează o posibilă schimbare strategică în peisajul AI—ce indică acest lucru despre viitorul tranzacțiilor și tendințelor de investiții în AI pentru întreprinderi? 

Achiziționarea Seek AI de către IBM și lansarea Watsonx Labs este o validare a schimbării fundamentale pe care am anticipat-o: peisajul AI pentru întreprinderi s-a schimbat, ceea ce semnalează că următoarea undă de tranzacții și investiții va prioriza companiile cu modele AI preantrenate verticale care vin cu expertiză profundă de domeniu, guvernanță și garduri de reglementare, precum și KPI-uri orientate către rezultate. Cumpărătorii strategici, cum ar fi IBM, recunosc că agenții AI axați pe datele întreprinderilor oferă ROI imediat atunci când înțeleg fluxurile de lucru specifice industriei. Piața se consolidează în jurul recunoașterii că inteligența generală necesită specializare verticală pentru a conduce transformarea întreprinderilor.

La ce punct un model de bază evoluează într-un agent specific domeniului—care sunt reperele arhitecturale care semnalează această tranziție? 

Un model de bază nu evoluează în mod natural într-un agent de domeniu; trebuie să fie inginerit într-unul. Nu există un drum direct în care un model general devine “mai deștept” și se transformă într-un investigator bancar. Tranziția are loc doar atunci când echipele de ingineri încetează să se bazeze pe inteligența brută a modelului și încep să construiască arhitectura guvernată în jurul acestuia—în special prin injectarea unui strat de context (cum ar fi un Graf de Cunoaștere) și un strat de orchestrare pentru a forța modelul să urmeze un proces de afaceri, în loc de tendințele sale probabilitare.

Care sunt provocările de bază în construirea fluxurilor de lucru agențiale care sunt atât reziliente, cât și specifice verticale, și cum abordează SymphonyAI aceste provocări? 

Provocările de bază în construirea fluxurilor de lucru agențiale reziliente și specifice verticale sunt menținerea fiabilității pe parcursul unor procese complexe și multitrap. SymphonyAI abordează aceste provocări prin arhitectura sa multistratificată, care încorporează expertiza de domeniu direct în agent, implementează gestionarea erorilor cu recuperare în caz de eșec și menține managementul persistent al contextului pe parcursul proceselor întreprinderilor multisesiune. Acest lucru permite agenților noștri să opereze în mod fiabil în medii reglementate cu risc ridicat, unde reziliența înseamnă menținerea acurateței, conformității și integrității operaționale.

SymphonyAI subliniază fundații de date robuste, grafuri de cunoaștere și straturi de metadate—de ce sunt aceste capacități critice pentru agenții AI verticali, și de ce multe întreprinderi se luptă să le implementeze? 

Fundațiile de date robuste și grafurile de cunoaștere sunt cruciale pentru agenții AI verticali, care au nevoie de surse semnificative, oferă recomandări contextualizate și rămân la curent cu schimbările de pe piață, clienți și procese la toate nivelurile întreprinderii. Cele mai multe întreprinderi se luptă să implementeze aceste capacități, deoarece necesită o investiție semnificativă inițială în arhitectura datelor, expertiză specializată în ontologie și schimbări fundamentale ale practicilor de date existente, pe care multe organizații le găsesc descurajante din punct de vedere organizațional și tehnic. Acolo este unde un partener tehnologic AI cu experiență profundă și cunoștințe în acel domeniu vertical este inestimabil, inclusiv capacitatea de a preantrena AI-ul pe cantități imense de date de domeniu și surse din diverse clienți reali din acea industrie.

În scenarii din lumea reală—cum ar fi detectarea infracțiunilor financiare sau previziunea retail—cum combină SymphonyAI AI-ul predictiv, generativ și agențial în “abilități” coezive?

SymphonyAI combină AI-ul predictiv, generativ și agențial în “abilități” coezive, creând fluxuri de lucru integrate în care fiecare produs AI îndeplinește o problemă comercială specifică. În detectarea infracțiunilor financiare, modelele noastre predictive identifică modele de tranzacții suspecte, iar AI-ul generativ creează rapoarte de investigație și evaluări de risc detaliate. În același timp, AI-ul agențial orchestrează întregul flux de lucru, escaladând automat cazurile, coordonând cu echipele de conformitate și adaptând strategiile de investigație pe baza descoperirilor în timp real.

Cheia este că acestea nu sunt unelte AI separate, ci capacități integrate în cadrul agenților de domeniu specifici care înțeleg contextul comercial, mențin starea fluxului de lucru și pot trece în mod transparent între analiza predictivă, generarea de conținut și acțiunea autonomă pentru a livra rezultate comerciale complete, în loc de ieșiri fragmentate AI.

Ați avertizat că mulți agenți AI pentru întreprinderi pot eşua fără robustețe—care sunt caracteristicile cheie ale unui agent AI pentru întreprinderi bine inginerit și tolerant la defecte? 

Un agent AI pentru întreprinderi bine inginerit și tolerant la defecte necesită mai multe caracteristici critice. Deși multe afaceri investesc rapid în agenți AI pentru a îmbunătăți eficiența, productivitatea și inovația, ele adesea subestimează munca prealabilă necesară pentru succes. Unele aspecte vitale pe care agenții bine ingineriți trebuie să le aibă pentru a reuși sunt:

• Agenții AI pentru întreprinderi operează pe datele întreprinderii, care sunt adesea fragmentate și lipsite de acces programatic, permisiuni și controale de acces corespunzătoare. Agenții necesită a fi dotați cu aceleași prevederi de autentificare și autorizare ca și angajații.
• Agenții au nevoie, de asemenea, să se recupereze de la toate tipurile de eșecuri ale sistemelor întreprinderii, întreruperi de rețea și puncte finale instabile. Stratul de orchestrare trebuie să permită fluxuri de lucru durabile, tolerante la defecte și de lungă durată, ceea ce nu fac majoritatea orchestratorilor LLM populari.
• LLM-urile vor fi nedeterministe și vor eşua la sarcini. Recuperarea în caz de eșec, reîncercările și descoperirea traseului optim necesită a fi funcții cheie ale sistemelor agențiale.

Pentru CTO-ii care se gândesc să construiască platforme AI verticale intern sau să se asocieze cu furnizori de nișă, ce sfaturi ați oferi? 

Construirea de soluții AI pentru întreprinderi în multiple industrii, inclusiv retail/CPG, industrial, servicii financiare și multe altele, necesită stăpânirea atât a tehnologiei AI de ultimă oră, cât și a expertizei de domeniu profundă, pentru a obține valoare reală din soluțiile AI pentru întreprinderi. Platforma noastră Eureka AI demonstrează cum sursele de date verticale specifice, grafurile de cunoaștere, modelele predictive și agenții trebuie să fie personalizați pentru fiecare industrie, dar aceasta reprezintă ani de investiții în cercetare și iterare a clienților, pe care majoritatea echipelor interne le lipsesc. Pentru afaceri și CTO-uri care doresc să investească în AI, le sfătuiesc să aleagă soluții care oferă rezultate reale de la început. Soluțiile AI verticale oferă aceste rezultate, oferind utilizatorilor date pe care le pot folosi pentru a crea valoare comercială.

Privind înainte, cum vă imaginați arhitecturile AI pentru întreprinderi—vor deveni agenții verticali federați, construiți pe modele de bază comune, norma?

Nu vom vedea doar “agenți federați”; vom vedea arhitecturi agențiale guvernate. În timp ce modelele de bază comune oferă motorul de raționament, acestea sunt, în esență, mărfuri. “Norma” pentru întreprinderile de succes va fi implementarea agenților specializați, verticali, care nu doar “comunică” între ei, ci sunt orchestrate riguros printr-un strat de context comun. Dacă aveți doar agenți “federați” construiți pe modele de bază, obțineți un sistem zgomotos, predispus la halucinații—ceea ce numim “țeava scurgerii” a AI-ului pentru întreprinderi. Pentru a face această arhitectură să scaleze în producție, aveți nevoie de trei straturi specifice care merg dincolo de simpla federație:

• Context (Graf de cunoaștere de domeniu): Agenții necesită a împărtăși o singură sursă de adevăr, nu doar a schimba probabilități.
• Orchestrare: Aveți nevoie de un “arhitect-șef” care decide când să utilizeze un agent specializat și când să păstreze un om în buclă.
• Guvernanță: Ieșirea trebuie să fie sigură din punct de vedere legal și operațional înainte de a părăsi sistemul.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre SymphonyAI ar trebui să viziteze SymphonyAI.