Babak Hodjat, Chief AI Officer di Cognizant: Una conversazione di ritorno

Babak Hodjat, Chief AI Officer di Cognizant, dirige i Laboratori di Ricerca AI dell’azienda, dove il suo lavoro abbraccia l’AI agentica, il calcolo evolutivo, l’intelligenza distribuita e lo sviluppo di sistemi AI progettati per il dispiegamento su larga scala nelle imprese. Ricercatore AI di lunga data, inventore e imprenditore, Hodjat ha precedentemente co-fondato Sentient Technologies, dove ha contribuito a costruire uno dei più grandi sistemi AI distribuiti al mondo, e in precedenza ha co-fondato Dejima, sviluppando una tecnologia di linguaggio naturale orientata agli agenti che ha contribuito alle basi di Siri di Apple.

Quando precedentemente parlato con Babak Hodjat, la nostra discussione ha esplorato la sua carriera nell’AI, gli approcci evolutivi alla presa di decisioni complesse, il lavoro di Cognizant nell’applicare l’AI alle sfide climatiche e di uso del suolo, e la crescente democratizzazione dell’AI all’interno dell’impresa. In questa conversazione di follow‑up, l’attenzione si sposta verso la rapida emergenza dell’impresa agentica. Attraendo i temi del suo recente libro, The Agentic Enterprise, Hodjat esamina perché l’architettura potrebbe contare più della capacità del modello, come le organizzazioni possono coordinare reti sempre più complesse di agenti AI, dove la fiducia e la governance centralizzate si inseriscono negli ecosistemi di agenti decentralizzati, e cosa deve ancora cambiare prima che i sistemi autonomi possano gestire in modo affidabile obiettivi a lungo termine con un intervento umano minimo.

La tua carriera copre alcuni dei primi lavori sugli agenti intelligenti, dalla tecnologia di linguaggio naturale di Dejima che ha contribuito a ispirare Siri alla costruzione di enormi sistemi AI distribuiti presso Sentient e ora al ruolo di Chief AI Officer presso Cognizant. Come è evoluta la tua definizione di “agente AI” nel corso di questo percorso, e cosa possono apprendere gli sviluppatori di oggi dalle generazioni precedenti di sistemi basati su agenti?

La definizione è rimasta la stessa, ma le capacità degli agenti odierni significano che molte delle funzioni di base di un agente che dovevamo programmare negli anni ’90 sono ora disponibili di serie con i LLM. Per questo gli agenti basati su LLM sono lo standard attuale, e quando si parla di agenti si presume che ci sia un LLM che ne guida l’interfaccia e il ragionamento.

Nel tuo recente libro, The Agentic Enterprise, sostieni che i sistemi AI aziendali spesso hanno successo o falliscono a causa della loro architettura piuttosto che della pura capacità del modello sottostante. Cosa stanno sbagliando le aziende quando presumono che l’aggiornamento a un modello più potente risolverà i loro problemi di AI agentica?

Proprio come gli harness (cioè le parti non LLM di un agente) possono fare o distruggere un agente di programmazione, l’architettura di un sistema multi‑agentico è fondamentale per il suo successo. Questo perché l’architettura riflette il contesto in cui gli agenti devono operare – una sorta di impalcatura che tiene insieme l’impresa agentica. Senza di essa, gli agenti rimangono scollegati dalla realtà delle operazioni aziendali, dei dati, dei flussi di lavoro e dei processi. Questo è in qualche modo analogo alla struttura organizzativa di un’azienda, che comprende le descrizioni dei ruoli, le definizioni dei processi e i protocolli di comunicazione per i dipendenti.

Hai sottolineato che il sistema circostante, inclusi i controlli di accesso, la responsabilità, l’orchestrazione, l’osservabilità e la supervisione, può importare più del modello stesso. Di cosa ha realmente bisogno un’architettura agentica pronta per la produzione che la maggior parte delle implementazioni proof‑of‑concept non possiede?

I proof of concept (PoC) sono spesso privi di un contesto solido, quindi per iniziare è necessario che gli agenti operino in un ambiente in cui abbiano accesso ai dati e alle applicazioni interne dell’azienda. È fondamentale porre domande importanti, come quali dati e applicazioni siamo disposti a consentire agli agenti di accedere e quali decisioni siamo pronti a permettere loro di prendere affinché il sistema sia sicuro e protetto, mantenendo al contempo i miglioramenti di qualità e produttività attesi. È difficile determinare la risposta a queste domande in un contesto PoC. Inoltre, le salvaguardie e la supervisione possono essere significative solo quando un sistema agentico opera in combinazione con altri processi umani o agentici all’interno dell’azienda. Pertanto, il sandboxing è un passaggio importante nel processo di transizione efficace da PoC a produzione.

Cognizant ha descritto l’emergere di un “Agent Operating System” per coordinare reti di agenti AI. Quali funzioni dovrebbe svolgere tale livello e prevedi che l’orchestrazione degli agenti diventi eventualmente così fondamentale per il calcolo aziendale come lo sono oggi i sistemi operativi e le piattaforme cloud?

Il coordinamento degli agenti è importante: se lo rendi troppo rigido, il tuo sistema diventa degradato e fragile. Se è troppo aperto, con il coordinamento delegato completamente all’agente, rischi di rendere il compito dell’agente troppo complesso o rischioso. Un buon meccanismo di coordinamento consente agli agenti di formare spontaneamente team in risposta a varie situazioni, risultando in una disciplina organizzativa robusta e fluida. Sono un sostenitore del coordinamento distribuito. È analogo a dare a un’organizzazione umana un certo livello di autorità sul proprio ambito di responsabilità. Quando si presenta un contesto, i membri dell’organizzazione comunicano e coordinano attraverso la struttura organizzativa per determinare le persone responsabili della gestione della situazione, e la risposta viene raccolta, coordinata e consolidata tra i nodi organizzativi. La buona notizia è che è possibile applicare controlli rigorosi e salvaguardie ai sistemi agentici in modo che tale flessibilità non comporti comportamenti rischiosi.

Credo, proprio come MCP è rapidamente diventato uno standard de facto per l’accesso alle applicazioni agentiche, anche i protocolli di coordinamento emergeranno e diventeranno standardizzati across le piattaforme agentiche per consentire processi multi‑agente spontanei oltre i confini dei sistemi agentici. I sistemi operativi e le piattaforme cloud probabilmente non sono la migliore analogia qui; piuttosto, dovranno emergere standard ampiamente concordati per la definizione multi‑agente e i protocolli di coordinamento, per permettere una più ampia penetrazione e fioritura dell’agenteficazione nell’impresa.

Man mano che le imprese passano da copiloti individuali a reti contenenti decine o anche centinaia di agenti specializzati, come dovrebbero le organizzazioni decidere quali responsabilità spettano a singoli agenti e quali dovrebbero rimanere centralizzate?

Proprio come il firewall di Internet e i meccanismi di sicurezza, l’istituzione della fiducia tramite audit in tempo reale rispetto alle politiche e l’applicazione di guardrail sui sistemi agentici dovrebbe essere una funzione centralizzata all’interno di un’azienda, definita e mantenuta da un’unica entità della società. Tutti gli altri sistemi agentici possono essere forniti o implementati in modo decentralizzato, ma questi sistemi dovranno registrarsi al sistema di fiducia per poter operare.

Cognizant ha implementato internamente un sistema multi‑agente che collega circa 200 agenti in un’organizzazione di circa 350.000 dipendenti. Cosa ha rivelato il funzionamento a questa scala riguardo all’IA agentica che sarebbe difficile scoprire attraverso progetti pilota più piccoli?

Abbiamo dovuto progettare per scalabilità, estensibilità, efficienza dei costi e tempi di risposta ragionevoli. In progetti di tale portata, spesso è necessario inventare cose che semplicemente non servono in piccoli sistemi agentici contenuti con pochi utenti. Per esempio, è necessario rendere il coordinamento inter‑agente personalizzato ed efficiente, così da evitare passaggi extra e costi aggiuntivi. Inoltre, il sistema dovrebbe poter integrare app costruite su misura così come sistemi e agenti di terze parti, perciò l’interoperabilità è importante e può far risparmiare tempo e denaro.

Quando gli agenti autonomi possono chiamare API, accedere a sistemi aziendali, comunicare con altri agenti e compiere azioni a velocità di macchina, la governance tradizionale dell’IA diventa molto più difficile. Dove dovrebbe rimanere obbligatorio il controllo umano e dove le organizzazioni possono consentire in sicurezza agli agenti di operare in modo indipendente?

Ritengo che il determinante finale di dove sia necessario e obbligatorio il controllo umano sia la fiducia. Man mano che questi sistemi diventano più affidabili, concederemo loro più autonomia e, a meno che non sia legalmente richiesto (ad esempio, per mancanza di personalità giuridica dell’IA), ci sentiremo a nostro agio nel delegare alle agenti. Misurare fiducia e rischio è quindi importante e può aiutare a tracciare la linea tra autonomia e supervisione umana — una linea che potrebbe iniziare a spostarsi man mano che questi sistemi diventano più affidabili e meno rischiosi da gestire autonomamente.

Gran parte della tua ricerca precedente si è concentrata sulla computazione evolutiva e sui sistemi che migliorano attraverso selezione e adattamento. In che modo gli approcci evolutivi potrebbero completare i grandi modelli linguistici e l’apprendimento per rinforzo mentre cerchiamo di costruire agenti che possano migliorare continuamente anziché semplicemente eseguire flussi di lavoro predefiniti?

Il mainstream dell’IA oggi è dominato da approcci basati sul gradiente discendente, che sono una forma di ricerca di salita di collina poco creativa. La computazione evolutiva è altamente efficiente nella ricerca di spazi complessi e può completare gli approcci mainstream. Il nostro laboratorio, ad esempio, ha avuto una recente svolta in questo senso: siamo riusciti a dimostrare che le Strategie Evolutive sono superiori all’Apprendimento per Rinforzo per la maggior parte del post‑training dei LLM, ottenendo modelli di qualità pari o migliore a costi molto più bassi. Gli approcci evolutivi potrebbero anche aiutare con il Test‑Time Training, che mira a consentire ai LLM di apprendere dopo il dispiegamento.

La ricerca di Cognizant ha esplorato ambienti in cui agenti interagenti sviluppano cooperazione, competizione, conoscenza condivisa e persino strategie ingannevoli. Man mano che i sistemi multi‑agente diventano più complessi, il comportamento emergente potrebbe diventare una delle maggiori sfide per mantenere l’IA aziendale prevedibile e allineata agli obiettivi organizzativi?

Questo è già il caso, come dimostra il molto pubblicizzato recente incidente OpenAI/Hugging Face. Potremmo pensare che gli agenti, limitati ai loro prompt e contesti, e che utilizzano LLM che non apprendono in tempo reale, rimarranno più o meno coerenti nel loro comportamento. Tuttavia, il fatto è che l’ambiente e le motivazioni di un agente possono cambiare, spesso a causa delle proprie azioni nell’ambiente, provocando comportamenti imprevisti. Ciò è ancora più probabile quando più agenti interagiscono, perciò è fondamentale osservare gli agenti autonomi in ambienti sandbox sicuri, così da poter determinare l’ambito e la portata delle loro tendenze emergenti e tenere conto di ciò nei nostri progetti e nelle nostre salvaguardie agentiche. Il nostro sistema pubblico, TerraLingua, dove è possibile introdurre agenti, artefatti e persino impersonare agenti per osservare il loro comportamento individuale e collettivo, è un passo in questa direzione.

Guardando oltre l’attuale ondata di IA agentica, quale scoperta tecnologica o cambiamento architettonico credi manchi ancora prima di poter costruire sistemi di IA in grado di gestire in modo affidabile obiettivi lunghi e complessi con un intervento umano minimo?

Molte delle limitazioni degli agenti odierni derivano dalle limitazioni dello stato dell’arte dell’IA. Gli LLM sono praticamente fissi dopo l’addestramento e non possono ‘cambiare idea’ su cose man mano che incontrano nuove informazioni. Gli LLM sono tutto e tutti contemporaneamente, quindi devono essere preparati con contesto e prompt e sono molto sensibili a questa preparazione. Gli LLM hanno finestre di contesto limitate e devono ricevere nuovamente tutto per ogni singola parola che producono o azione che compiono. A livello multi‑agente, penso che siano necessari protocolli di coordinazione distribuita ampiamente accettati, barriere di fiducia e politiche, e sistemi arbitrali di transazione affinché il futuro agentico possa raggiungere il suo pieno potenziale.

Grazie per la splendida intervista, i lettori che desiderano saperne di più dovrebbero visitare Cognizant o la nostra nostra intervista precedente.