Raj Shukla, CTO di SymphonyAI – Serie di interviste

Raj Shukla guida la roadmap tecnologica e l’esecuzione di SymphonyAI, dirigendo il team di ingegneria che costruisce la piattaforma di intelligenza artificiale Eureka Gen AI. Con quasi 20 anni di esperienza nell’ingegneria e nella ricerca di AI/ML, Shukla ha anche una vasta esperienza nell’AI SaaS aziendale grazie ai suoi ruoli di leadership tecnica in Microsoft, dove la sua carriera di 14 anni ha incluso la guida di organizzazioni globali di scienza e ingegneria AI in Azure, Dynamics 365, MSR e le divisioni di ricerca e pubblicità. Raj ha una vasta esperienza in AI/ML nei settori della ricerca, della pubblicità e dell’AI aziendale e ha costruito diversi prodotti AI SaaS di successo sia nel settore dei consumatori che in quello aziendale.

SymphonyAI è un’azienda di intelligenza artificiale aziendale che si concentra sulla costruzione di applicazioni di intelligenza artificiale specifiche per settore che forniscono un valore aziendale immediato. Invece di modelli generici, fornisce soluzioni verticali per il retail, i beni di consumo, i servizi finanziari, la produzione, i media e l’IT, affrontando sfide come la previsione, la prevenzione delle frodi, l’ottimizzazione operativa e l’analisi. I suoi prodotti sono alimentati dalla piattaforma Eureka AI, che combina capacità predittive, generative e agentiche in flussi di lavoro personalizzati per ogni settore. Fondata nel 2017, l’azienda è cresciuta fino a diventare un leader globale nell’AI verticale, servendo migliaia di clienti aziendali con soluzioni scalabili e focalizzate sul settore.

Hai lavorato alla forefront dell’innovazione AI in Microsoft, Oracle e ora SymphonyAI – cosa ti ha originariamente attirato nel mondo dell’AI aziendale e come è cambiata la tua prospettiva nel corso degli anni?

Il mio viaggio nell’AI aziendale è iniziato con una convinzione di base che le aziende dovrebbero implementare AI che risolve problemi aziendali reali, non solo creare AI per il sake dell’AI. Ho visto che le soluzioni di AI generiche e ampie raramente forniscono un valore trasformativo. In SymphonyAI, abbiamo costruito la nostra strategia aziendale e la nostra cultura sullo sviluppo di AI che comprende sfide specifiche di settore, dalla rilevazione dei crimini finanziari alla merchandising retail orientata allo shopper fino all’abilitazione dei lavoratori connessi industriali. L’idoneità aziendale aggiunge un’altra dimensione completa – l’AI aziendale di successo richiede più che una grande tecnologia, richiede anche un’architettura di governance e dati esemplari, una collaborazione e flussi di lavoro sofisticati e interfunzionali e una completa trasparenza e tracciabilità.

Quali sono le carenze specifiche che le aziende incontrano con i modelli pre-addestrati generici, in particolare nei settori altamente regolamentati come la finanza o la sanità? 

I modelli pre-addestrati generici non sono stati costruiti per gli ambienti ad alto rischio e altamente regolamentati della finanza, della sanità e della grande distribuzione. I modelli pre-addestrati generici incontrano barriere critiche, tra cui la necessità di competenze di dominio essenziali per affrontare sfumature specifiche di settore e soddisfare rigorosi requisiti regolamentari e di conformità che differiscono tra le diverse geografie. Soprattutto, non possono fornire l’accuratezza e la tracciabilità che le aziende richiedono, dove gli errori potrebbero danneggiare i consumatori o scatenare violazioni regolamentari. Che si tratti di conformità alle norme anti-riciclaggio di denaro o di abilitazione di un’azienda di generi alimentari a rimuovere rapidamente gli articoli richiamati dai centri di distribuzione e dagli scaffali, la tecnologia AI verticale di SymphonyAI è stata costruita specificamente per i settori in cui operiamo ed è stata addestrata su ontologie di quei settori, consentendo loro di prendere o automatizzare decisioni che creano direttamente un impatto aziendale.

La combinazione di modelli pre-addestrati con una logica di dominio profonda è sempre più vista come chiave per sbloccare il ROI aziendale – quali sono i componenti essenziali, come la conoscenza del settore, l’allineamento dei KPI e le barriere regolamentari, che rendono questo approccio efficace? 

La combinazione di modelli pre-addestrati con una logica di dominio profonda sblocca il valore creando sistemi di intelligenza artificiale che comprendono il contesto aziendale e i requisiti operativi. Questo approccio ha successo quando i modelli sono arricchiti con ontologie specifiche di settore, allineati con i KPI aziendali per garantire che le uscite servano direttamente obiettivi aziendali misurabili e siano dotati di barriere regolamentari che forniscono framework di conformità e tracciabilità necessari. Quando questi elementi lavorano insieme, l’AI generica si trasforma in soluzioni aziendali critiche che guidano risultati misurabili mantenendo l’affidabilità e la conformità che le aziende richiedono.

IBM ha recentemente acquisito Seek AI e ha lanciato Watsonx Labs a New York City, segnalando un potenziale cambio strategico nel panorama dell’AI – cosa indica questo sul futuro delle tendenze di M&A e investimenti nell’AI aziendale? 

L’acquisizione di Seek AI da parte di IBM e il lancio di Watsonx Labs è una convalida del fondamentale cambio che abbiamo previsto: il panorama dell’AI aziendale si è spostato, segnalando che la prossima ondata di M&A darà priorità alle aziende con modelli di AI verticali pre-addestrati che arrivano con profonda competenza di settore, governance e barriere regolamentari e KPI orientati ai risultati. Gli acquisitori strategici come IBM riconoscono che gli agenti di intelligenza artificiale focalizzati sui dati aziendali forniscono un ROI immediato quando comprendono flussi di lavoro specifici di settore. Il mercato si sta consolidando attorno al riconoscimento che l’intelligenza generale necessita di specializzazione verticale per guidare la trasformazione aziendale.

A che punto un modello di base si evolve in un agente specifico di dominio – quali sono i principali indicatori architettonici di questa transizione? 

Un modello di base non matura naturalmente in un agente di dominio; deve essere ingegnerizzato per diventarlo. Non c’è un percorso diretto in cui un modello generico “diventa più intelligente” e diventa un investigatore bancario. La transizione avviene solo quando i team di ingegneria smettono di affidarsi all’intelligenza grezza del modello e iniziano a costruire l’architettura governata attorno ad esso – iniettando specificamente un livello di contesto (come un grafo di conoscenza) e un livello di orchestrazione per costringere il modello a seguire un processo aziendale piuttosto che le sue tendenze probabilistiche.

Quali sono le principali sfide nel costruire flussi di lavoro agentiche che siano sia resilienti che specifici di settore, e come SymphonyAI affronta queste sfide? 

Le principali sfide nel costruire flussi di lavoro agentiche resilienti e specifici di settore sono il mantenimento dell’affidabilità attraverso processi complessi e multi-step. SymphonyAI affronta queste sfide attraverso la sua architettura a più livelli, che incorpora la competenza di dominio direttamente nell’agente, implementa la gestione degli errori con il recupero degli errori e mantiene la gestione del contesto persistente attraverso processi aziendali multi-sessione. Ciò consente ai nostri agenti di operare in modo affidabile in ambienti regolamentati ad alto rischio dove la resilienza significa mantenere l’accuratezza, la conformità e l’integrità operativa.

SymphonyAI enfatizza le solide fondamenta dei dati, i grafi di conoscenza e i livelli di metadati – perché queste capacità sono critiche per gli agenti di intelligenza artificiale verticali e perché molte aziende lottano per implementarle? 

Le solide fondamenta dei dati e i grafi di conoscenza sono cruciali per gli agenti di intelligenza artificiale verticali per avere fonti significative, fornire raccomandazioni contestualizzate e rimanere aggiornati con i cambiamenti del mercato, dei clienti e dei processi in tutti i livelli dell’azienda. La maggior parte delle aziende lotta per implementare queste capacità perché richiedono un significativo investimento iniziale nell’architettura dei dati, competenza specialistica in ontologia e cambiamenti fondamentali nelle pratiche di dati esistenti che molte organizzazioni trovano organizzativamente e tecnicamente scoraggianti. È qui che un partner tecnologico di intelligenza artificiale con una profonda esperienza e conoscenza nel settore verticale è inestimabile, compresa la sua capacità di pre-addestrare l’AI su vasti dati di dominio e fonti in molti clienti reali in quell’industria.

Nelle scenari del mondo reale – come la rilevazione dei crimini finanziari o la previsione retail – come SymphonyAI combina l’intelligenza artificiale predittiva, generativa e agenticia in “abilità” coese?

SymphonyAI combina l’intelligenza artificiale predittiva, generativa e agenticia in “abilità” coese creando flussi di lavoro integrati in cui ogni prodotto di intelligenza artificiale affronta un problema aziendale specifico. Nella rilevazione dei crimini finanziari, i nostri modelli predittivi identificano modelli di transazioni sospette e l’intelligenza artificiale generativa crea rapporti di indagine dettagliati e valutazioni del rischio. Allo stesso tempo, l’intelligenza artificiale agenticia orchestra l’intero flusso di lavoro, escalando automaticamente i casi, coordinando con i team di conformità e adattando le strategie di indagine in base ai risultati in tempo reale.

La chiave è che questi non sono strumenti di intelligenza artificiale separati, sono capacità integrate all’interno di agenti specifici di dominio che comprendono il contesto aziendale, mantengono lo stato del flusso di lavoro e possono trasitionare senza problemi tra l’analisi predittiva, la generazione di contenuti e l’azione autonoma per fornire risultati aziendali completi piuttosto che output di intelligenza artificiale frammentati.

Hai avvertito che molti agenti di intelligenza artificiale aziendale potrebbero inciampare senza robustezza – quali sono le caratteristiche chiave di un agente di intelligenza artificiale aziendale ben progettato e a prova di errore? 

Gli agenti di intelligenza artificiale aziendale ben progettati e costruiti per essere sottoposti a scrutinio richiedono diverse caratteristiche critiche. Sebbene molte aziende stiano investendo rapidamente e distribuendo agenti di intelligenza artificiale per migliorare l’efficienza, la produttività e l’innovazione, spesso sottovalutano il lavoro necessario per il successo. Alcuni aspetti vitali che gli agenti ben progettati necessitano per avere successo sono:

• Gli agenti di intelligenza artificiale aziendale operano su dati aziendali, che sono spesso isolati e mancano di accesso programmatico, autorizzazioni e controlli di accesso adeguati. Gli agenti devono essere dotati delle stesse disposizioni di autenticazione e autorizzazione degli dipendenti.
• Gli agenti hanno anche bisogno di riprendersi da tutti i tipi di guasti dei sistemi aziendali, interruzioni della rete e endpoint instabili. Il livello di orchestrazione deve abilitare flussi di lavoro durevoli, resilienti e a prova di errore, che la maggior parte degli orchestratori di LLM popolari non fa.
• LLM sarà non deterministico e fallirà nei compiti. La ripresa degli errori, i ritenti e la scoperta del percorso ottimale devono essere funzionalità chiave dei sistemi agenticci.

Per i CTO che stanno considerando la costruzione di piattaforme di intelligenza artificiale verticali internamente rispetto al partenariato con fornitori di nicchia, quali consigli offriresti? 

La costruzione di soluzioni di intelligenza artificiale aziendale in più settori, tra cui retail/CPG, industriale, servizi finanziari e altro, richiede il dominio sia della tecnologia di intelligenza artificiale all’avanguardia che della profonda competenza di dominio allo stesso tempo per raggiungere un valore reale dalle soluzioni di intelligenza artificiale aziendale. La nostra piattaforma Eureka AI dimostra come le fonti di dati specifiche di settore, i grafi di conoscenza, i modelli predittivi e gli agenti debbano essere personalizzati per ogni settore, ma ciò rappresenta anni di investimento nella ricerca e iterazione con i clienti che la maggior parte dei team interni non possiede. Per le aziende e i CTO che desiderano investire in intelligenza artificiale, consiglio loro di scegliere soluzioni che forniscono risultati reali fin dal primo giorno. Le soluzioni di intelligenza artificiale verticali forniscono quei risultati, fornendo agli utenti dati che possono poi utilizzare per creare valore aziendale.

Guardando avanti, come immagini le architetture di intelligenza artificiale aziendale – gli agenti verticali federati costruiti su modelli di base condivisi diventeranno la norma?

Non vedremo solo “agenti federati”; vedremo architetture agentiche governate. Mentre i modelli di base condivisi forniscono il motore di ragionamento, sono essenzialmente beni di consumo. La “norma” per le aziende di successo sarà il dispiegamento di agenti specializzati e verticali che non solo “parlano” tra loro, ma sono rigorosamente orchestrati attraverso un livello di contesto condiviso. Se hai solo “agenti federati” costruiti su modelli di base, ottieni un sistema rumoroso e soggetto a allucinazioni – ciò che chiamiamo il “tubo che perde” dell’intelligenza artificiale aziendale. Per far funzionare questa architettura in produzione, hai bisogno di tre livelli specifici che vanno oltre la semplice federazione:

• Contesto (Il Grafo di Conoscenza del Dominio): Gli agenti devono condividere una singola fonte di verità, non solo scambiare probabilità.
• Orchestrazione: Hai bisogno di un “architetto principale” che decida quando utilizzare un agente specializzato e quando tenere un umano nel ciclo.
• Governance: L’output deve essere legalmente e operativamente sicuro prima di lasciare il sistema.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare SymphonyAI.