Raj Shukla, CTO di SymphonyAI – Serie di Interviste

Raj Shukla guida la roadmap tecnologica e l’esecuzione di SymphonyAI, dirigendo il team di ingegneria che costruisce la piattaforma Eureka Gen AI. Con quasi 20 anni di esperienza nell’ingegneria e nella ricerca di AI/ML, Shukla ha anche una vasta esperienza nell’ambito dell’AI SaaS per aziende, grazie ai suoi ruoli di leadership tecnica in Microsoft (MSFT ), dove ha avuto una carriera di successo di 14 anni, guidando organizzazioni globali di scienza e ingegneria AI in Azure, Dynamics 365, MSR e nelle divisioni di ricerca e pubblicità. Raj ha una vasta esperienza nell’ambito dell’AI/ML, che spazia dalla ricerca alla pubblicità e all’AI per aziende, e ha costruito diversi prodotti AI SaaS di successo sia nel settore consumer che in quello aziendale.

SymphonyAI è un’azienda di AI per aziende che si concentra sulla costruzione di applicazioni AI specifiche per settore, in grado di fornire un valore aziendale immediato. Invece di modelli generici, fornisce soluzioni verticali per il retail, i beni di consumo, i servizi finanziari, la produzione, i media e l’IT, affrontando sfide come la previsione, la prevenzione delle frodi, l’ottimizzazione operativa e l’analisi. I suoi prodotti sono alimentati dalla piattaforma Eureka AI, che combina capacità predittive, generative e agentiche in flussi di lavoro personalizzati per ogni settore. Fondata nel 2017, l’azienda è cresciuta fino a diventare un leader globale nell’AI verticale, servendo migliaia di clienti aziendali con soluzioni scalabili e focalizzate sul settore.

Ha lavorato alla forefront dell’innovazione AI in Microsoft, Oracle (ORCL ) e ora SymphonyAI – cosa l’ha originariamente attratto nel mondo dell’AI per aziende, e come è cambiata la sua prospettiva nel corso degli anni?

Il mio viaggio nell’AI per aziende è iniziato con una convinzione di base secondo cui le aziende dovrebbero implementare AI che risolva problemi aziendali reali, e non solo creare AI per il sake dell’AI. Ho visto che le soluzioni AI generiche e ampie non forniscono quasi mai un valore trasformativo. In SymphonyAI, abbiamo costruito la nostra strategia aziendale e la nostra cultura sulla sviluppo di AI che comprende le sfide specifiche di settore, dalla rilevazione dei crimini finanziari alla merchandising retail orientato allo shopper fino all’abilitazione dei lavoratori connessi industriali. L’idoneità aziendale aggiunge un’altra dimensione – l’AI aziendale di successo richiede più che una grande tecnologia, richiede un’architettura di dati esemplare e una governance, una collaborazione cross-funzionale sofisticata e flussi di lavoro, e una piena trasparenza e tracciabilità.

Quali sono le carenze specifiche che le aziende incontrano con i modelli pre-addestrati generici, in particolare in settori altamente regolamentati come la finanza o la sanità? 

I modelli pre-addestrati generici non sono costruiti per gli ambienti altamente regolamentati e ad alto rischio della finanza, della sanità e della grande distribuzione. I modelli pre-addestrati generici incontrano barriere critiche, tra cui la necessità di un’essenziale competenza di settore per affrontare le sfumature specifiche di settore e soddisfare i requisiti regolamentari e di conformità severi che differiscono tra le geografie. Soprattutto, non possono fornire l’accuratezza e la tracciabilità che le aziende richiedono, dove gli errori potrebbero danneggiare i consumatori o scatenare violazioni regolamentari. Sia che si tratti di conformarsi alle norme anti-riciclaggio di denaro o di consentire a un’azienda di grande distribuzione di rimuovere rapidamente gli articoli richiamati dai centri di distribuzione e dagli scaffali, la tecnologia AI verticale di SymphonyAI è costruita specificamente per i settori in cui operiamo e addestrata su ontologie di quei settori, consentendo loro di prendere o automatizzare decisioni che creano direttamente un impatto aziendale.

La combinazione di modelli pre-addestrati con una logica di dominio profonda è sempre più vista come chiave per sbloccare il ROI aziendale – quali sono i componenti essenziali, come la conoscenza del settore, l’allineamento dei KPI e le barriere regolamentari, che rendono questo approccio efficace? 

La combinazione di modelli pre-addestrati con una logica di dominio profonda sblocca il valore creando sistemi AI che comprendono il contesto aziendale e i requisiti operativi. Questo approccio ha successo quando i modelli sono arricchiti con ontologie specifiche di settore, allineati con i KPI aziendali per garantire che le uscite servano direttamente gli obiettivi aziendali misurabili e siano dotati di barriere regolamentari che forniscono i necessari framework di conformità e tracciabilità. Quando questi elementi lavorano insieme, l’AI generica si trasforma in soluzioni aziendali critiche che guidano risultati misurabili mantenendo l’affidabilità e la conformità che le aziende richiedono.

IBM ha recentemente acquisito Seek AI e ha lanciato Watsonx Labs a New York, segnalando un potenziale cambio strategico nel panorama AI – cosa indica questo sul futuro delle tendenze di M&A e investimenti nell’AI per aziende? 

L’acquisizione di Seek AI da parte di IBM e il lancio di Watsonx Labs è una convalida del fondamentale cambiamento che abbiamo previsto: il panorama AI per aziende è cambiato, segnalando che la prossima ondata di M&A darà priorità alle aziende con modelli AI pre-addestrati verticali che arrivano con una profonda competenza di settore, governance e barriere regolamentari, e KPI orientati ai risultati. Gli acquisitori strategici come IBM riconoscono che gli agenti AI focalizzati sui dati aziendali forniscono un ROI immediato quando comprendono i flussi di lavoro specifici di settore. Il mercato si sta consolidando intorno al riconoscimento che l’intelligenza generale necessita di specializzazione verticale per guidare la trasformazione aziendale.

A che punto un modello di base si evolve in un agente specifico di dominio – quali sono i principali indicatori architettonici di questa transizione? 

Un modello di base non si evolve naturalmente in un agente di dominio; deve essere ingegnerizzato per diventarlo. Non c’è un percorso diretto in cui un modello generico diventi semplicemente “più intelligente” e diventi un investigatore bancario. La transizione si verifica solo quando i team di ingegneria smettono di affidarsi all’intelligenza grezza del modello e iniziano a costruire l’architettura governata intorno ad esso – in particolare, iniettando un livello di contesto (come un grafo di conoscenza) e un livello di orchestrazione per costringere il modello a seguire un processo aziendale piuttosto che le sue tendenze probabilistiche.

Quali sono le sfide principali nella costruzione di flussi di lavoro agentiche resilienti e specifiche di dominio, e come SymphonyAI affronta queste sfide? 

Le sfide principali nella costruzione di flussi di lavoro agentiche resilienti e specifiche di dominio sono il mantenimento dell’affidabilità attraverso processi complessi e multi-fase. SymphonyAI affronta queste sfide attraverso la sua architettura multi-strato, che incorpora la competenza di dominio direttamente nell’agente, implementa la gestione degli errori con il recupero dei fallimenti e mantiene la gestione del contesto persistente attraverso processi aziendali multi-sessione. Ciò consente ai nostri agenti di operare in modo affidabile in ambienti regolamentati ad alto rischio, dove la resilienza significa mantenere l’accuratezza, la conformità e l’integrità operativa.

SymphonyAI enfatizza le solide fondamenta dei dati, i grafi di conoscenza e i livelli di metadati – perché queste capacità sono critiche per gli agenti AI verticali, e perché molte aziende lottano per implementarle? 

Le solide fondamenta dei dati e i grafi di conoscenza sono cruciali per gli agenti AI verticali, in quanto forniscono loro fonti significative, raccomandazioni contestualizzate e la capacità di rimanere aggiornati con i cambiamenti di mercato, clienti e processi in tutta l’azienda. La maggior parte delle aziende lotta per implementare queste capacità perché richiedono un significativo investimento iniziale nell’architettura dei dati, competenza specialistica in ontologia e cambiamenti fondamentali nelle pratiche di dati esistenti che molte organizzazioni trovano organizzativamente e tecnicamente scoraggianti. È qui che un partner tecnologico di AI con una profonda esperienza e conoscenza in quel settore verticale è inestimabile, compresa la sua capacità di pre-addestrare l’AI su vasti dati di dominio e fonti attraverso molti clienti reali in quell’industria.

Nelle scenari del mondo reale – come la rilevazione dei crimini finanziari o la previsione retail – come SymphonyAI combina l’AI predittiva, generativa e agentiche in “abilità” coese?

SymphonyAI combina l’AI predittiva, generativa e agentiche in “abilità” coese creando flussi di lavoro integrati in cui ogni prodotto AI affronta un problema aziendale specifico. Nella rilevazione dei crimini finanziari, i nostri modelli predittivi identificano modelli di transazioni sospette, e l’AI generativa crea rapporti di indagine dettagliati e valutazioni del rischio. Allo stesso tempo, l’AI agentiche orchestra l’intero flusso di lavoro, automaticamente escalando i casi, coordinando con i team di conformità e adattando le strategie di indagine in base ai risultati in tempo reale.

La chiave è che questi non sono strumenti AI separati, ma capacità integrate all’interno di agenti specifici di dominio che comprendono il contesto aziendale, mantengono lo stato del flusso di lavoro e possono trasitionare senza problemi tra l’analisi predittiva, la generazione di contenuto e l’azione autonoma per fornire risultati aziendali completi piuttosto che output AI frammentati.

Ha avvertito che molti agenti AI aziendali potrebbero inciampare senza robustezza – quali sono le caratteristiche principali di un agente AI aziendale ben ingegnerizzato e a prova di guasti? 

Gli agenti AI aziendali ben ingegnerizzati e costruiti per essere sottoposti a scrutinio richiedono diverse caratteristiche critiche. Sebbene molte aziende stiano investendo rapidamente e distribuendo agenti AI per migliorare l’efficienza, la produttività e l’innovazione, spesso sottovalutano il lavoro necessario per il successo. Alcuni aspetti vitali che gli agenti ben ingegnerizzati devono avere per avere successo sono:

• Gli agenti AI aziendali operano su dati aziendali, che sono spesso isolati e mancano di accesso programmatico, autorizzazioni e controlli di accesso. Gli agenti devono essere dotati delle stesse disposizioni di autenticazione e autorizzazione degli dipendenti.
• Gli agenti devono anche recuperare da tutti i tipi di fallimenti del sistema aziendale, interruzioni di rete e endpoint instabili. Il livello di orchestrazione deve abilitare flussi di lavoro resilienti, duraturi e a prova di guasti, che la maggior parte degli orchestratori LLM popolari non fa.
• LLM sarà non deterministico e fallirà nei compiti. Il recupero dei fallimenti, i ritenti e la scoperta del percorso ottimale devono essere funzionalità chiave dei sistemi agentiche.

Per i CTO che stanno valutando la costruzione di piattaforme AI verticali internamente rispetto al partenariato con fornitori di nicchia, quali consigli offrirebbe? 

Costruire soluzioni AI aziendali in più settori, inclusi retail/CPG, industriale, servizi finanziari e altro ancora, richiede il dominio sia della tecnologia AI all’avanguardia che della profonda competenza di dominio allo stesso tempo per raggiungere un valore reale dalle soluzioni AI aziendali. La nostra piattaforma AI Eureka dimostra come le fonti di dati specifiche di settore, i grafi di conoscenza, i modelli predittivi e gli agenti devono essere personalizzati per ogni settore, ma ciò rappresenta anni di investimento nella ricerca e nell’iterazione con i clienti che la maggior parte dei team interni non possiede. Per le aziende e i CTO che stanno valutando di investire in AI, consiglio loro di scegliere soluzioni che forniscono risultati reali fin dal primo giorno. Le soluzioni AI verticali forniscono quei risultati, fornendo agli utenti dati che possono poi utilizzare per creare valore aziendale.

Guardando avanti, come immagina le architetture AI aziendali – diventeranno gli agenti verticali federati costruiti su modelli di base condivisi la norma?

Non vedremo solo “agenti federati”; vedremo architetture agentiche governate. Mentre i modelli di base condivisi forniscono il motore di ragionamento, sono essenzialmente beni comuni. La “norma” per le aziende di successo sarà il dispiegamento di agenti specializzati e verticali che non solo “parlano” tra loro, ma sono rigorosamente orchestrati attraverso un livello di contesto condiviso. Se si hanno solo “agenti federati” costruiti su modelli di base, si ottiene un sistema rumoroso e propenso alle allucinazioni – quello che chiamiamo il “tubo che perde” dell’AI aziendale. Per far funzionare questa architettura in produzione, sono necessari tre livelli specifici che vanno oltre la semplice federazione:

• Contesto (Il Grafo di Conoscenza del Dominio): Gli agenti devono condividere una singola fonte di verità, non solo scambiare probabilità.
• Orchestrazione: È necessario un “architetto principale” che decida quando utilizzare un agente specializzato e quando tenere un essere umano nel loop.
• Governance: L’output deve essere sicuro dal punto di vista legale e operativo prima di lasciare il sistema.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare SymphonyAI.