Ali Sarrafi, CEO e Fondatore di Kovant – Serie di Interviste

Ali Sarrafi, CEO e Fondatore di Kovant, è un esperto di tecnologia e intelligenza artificiale con sede a Stoccolma, con un curriculum di costruzione e sviluppo di aziende di intelligenza artificiale ad alto potenziale. Dal momento della fondazione di Kovant alla fine del 2024, ha fatto affidamento sulla sua profonda esperienza nella strategia di intelligenza artificiale aziendale, nell’esecuzione del go-to-market e nella scalabilità operativa. In precedenza, ha ricoperto il ruolo di Vice Presidente della Strategia presso Silo AI, dopo l’acquisizione da parte di AMD, dove era responsabile della definizione della strategia di intelligenza artificiale aziendale e della promozione dell’adozione su larga scala. All’inizio della sua carriera, ha co-fondato Combient Mix, guidando l’azienda attraverso una rapida crescita e un’acquisizione di successo da parte di Silo AI, e in seguito ha ricoperto ruoli di consulente e membro del consiglio di amministrazione in aziende di istruzione e startup di intelligenza artificiale, riflettendo una costante attenzione alla traduzione dell’intelligenza artificiale avanzata in impatto aziendale concreto.

Kovant è un’azienda di intelligenza artificiale aziendale che si concentra sull’abilitazione delle organizzazioni a passare dall’uso sperimentale dell’intelligenza artificiale ai processi aziendali completamente operativi e autonomi. L’azienda sviluppa una piattaforma basata su agenti progettata per orchestrare squadre di agenti di intelligenza artificiale in domini operativi complessi come la gestione delle forniture, le catene di approvvigionamento, la conformità e le operazioni dei clienti. Sottolineando la sicurezza, la distribuzione di livello aziendale e il tempo di ritorno sull’investimento rapido, Kovant si posiziona come un ponte tra l’ambizione strategica dell’intelligenza artificiale e l’esecuzione quotidiana, aiutando le grandi organizzazioni a integrare l’intelligenza artificiale direttamente nei flussi di lavoro principali piuttosto che trattarla come uno strumento o un progetto pilota autonomo.

Ha guidato importanti iniziative di intelligenza artificiale a Spotify, ha scalato e ceduto Combient Mix e in seguito ha definito la strategia di intelligenza artificiale aziendale presso Silo AI prima di fondare Kovant. Quali lacune o frustrazioni specifiche ha incontrato in quei ruoli che l’hanno convinto che era giunto il momento di costruire una piattaforma aziendale autonoma, e come quella storia ha plasmato la filosofia di progettazione fondamentale di Kovant?

Nei miei precedenti ruoli, alcune lacune coerenti continuavano a presentarsi. In primo luogo, la maggior parte degli strumenti di intelligenza artificiale “verticali” è effettivamente prigioniera di un unico stack software: fanno una cosa leggermente meglio all’interno di quel confine, ma lottano nel momento in cui un flusso di lavoro deve coprire più sistemi. Allo stesso tempo, i dati aziendali sono sparsi in molti strumenti e molte soluzioni di automazione semplicemente non possono raggiungerli. Aggiungere anni di integrazioni puntuali e si ottiene l’architettura classica a spaghetti: la complessità aumenta, il cambiamento diventa più lento e i team finiscono per automatizzare singoli passaggi piuttosto che rimmaginare il flusso di lavoro dall’inizio alla fine. Il risultato è che il ritorno sull’investimento spesso arriva più tardi – e più piccolo – di quanto le organizzazioni si aspettino.

Kovant è progettata come risposta a questa realtà. La nostra filosofia fondamentale è che gli agenti dovrebbero comportarsi più come dipendenti: lavorano attraverso più strumenti, vengono “assunti” per fare lavori, non per automatizzare una singola sequenza scriptata. È per questo che le integrazioni e l’orchestrazione sono costruite, e perché presumiamo che i dati aziendali siano spesso disordinati e non strutturati – richiedono un approccio più umano per gestire eccezioni e ambiguità.

Utilizziamo agenti fondamentali per raggiungere velocità e scala, mantenendo la sovranità dei dati in primo piano: le aziende possono accedere e utilizzare i propri dati orizzontalmente senza che lascino le loro sedi.

Kovant si posiziona come una piattaforma aziendale autonoma in grado di eseguire intere operazioni e dipartimenti con agenti di intelligenza artificiale. Come definisce “autonomo” in un contesto aziendale, e come si differenzia da strumenti di automazione e agenti che le aziende stanno già sperimentando oggi?

In un contesto aziendale, quando diciamo “autonomo” non intendiamo “non supervisionato”. Intendiamo che gli agenti di intelligenza artificiale possano intraprendere azioni reali dall’inizio alla fine di un’operazione con obiettivi chiari e limiti di guardia, ed escalano agli esseri umani quando la supervisione è necessaria.

Ciò che rende Kovant diverso sono i nostri agenti fondamentali. Piuttosto che automatizzare un singolo processo fisso o seguire una sequenza predefinita, gli agenti di Kovant possono lavorare come una squadra (o sciame) su un’operazione utilizzando solo istruzioni e una panoramica operativa che chiamiamo blueprint. Non sono progettati per un’unica, stretta attività; collaborano per risolvere flussi di lavoro complessi, adattarsi alle condizioni che cambiano e passare agli esseri umani quando la situazione richiede la supervisione.

Ad esempio, un team di agenti di gestione degli inventari può eseguire tutti i seguenti lavori senza doverli ricostruire da zero, inclusi: la comunicazione con i fornitori via e-mail, il monitoraggio dei livelli di inventario e dei segnali di esaurimento, il tracciamento delle spedizioni e degli ordini di acquisto, l’aggiornamento degli stati attraverso i sistemi, la creazione di biglietti di discrepanza per i pianificatori di inventario da approvare, la ridistribuzione dell’inventario tra i magazzini e la consolidazione dei rapporti di inventario.

Quindi il cambiamento è che invece di “chat più strumenti” o automazioni fragili che si rompono in scala, le aziende passano dal costruire agenti a eseguirli in scala.

Nonostante l’enorme interesse per l’intelligenza artificiale agente, molte organizzazioni rimangono bloccate nella modalità di prova. Da quanto sta vedendo nelle distribuzioni reali, quali sono i principali motivi per cui le aziende lottano per passare dall’esperimento alla produzione su larga scala?

Ciò che stiamo vedendo è che la maggior parte delle organizzazioni non rimane bloccata nella modalità di prova perché l’idea è sbagliata; rimane bloccata perché l’ambiente è ostile alla scalabilità.

Il primo blocco è il paesaggio tecnologico aziendale frammentato. I flussi di lavoro coprono molti sistemi, i dati vivono in più posti e cucire tutto insieme in modo affidabile è difficile. E l’intelligenza artificiale agente è spesso distribuita come un aggiunta agli strumenti esistenti, piuttosto che come un modo per ripensare come il flusso di lavoro dovrebbe funzionare dall’inizio alla fine.

C’è anche un vero problema di architettura e dati. Molti vendor di software come servizio stanno ancora cercando di bloccare i dati, il che crea incompatibilità e limita ciò che gli agenti possono effettivamente fare attraverso i sistemi. E molte squadre sottostimano il fatto che la maggior parte dei dati aziendali è non strutturata (e-mail, documenti, biglietti, PDF, registri di chat). Se il vostro approccio presume dati puliti e strutturati, il tempo di ritorno sull’investimento diventa lungo, doloroso e difficile da replicare oltre la prova.

In breve: la frammentazione, il blocco e i dati non strutturati creano resistenza – e le prove non si trasformano in produzione fino a quando queste realtà non vengono progettate.

Affidabilità è spesso citata come il più grande ostacolo alla distribuzione di agenti di intelligenza artificiale nel mondo reale. Perché così tanti sistemi di agenti falliscono una volta che lasciano ambienti controllati, e come l’approccio di Kovant riduce problemi come allucinazioni e comportamento imprevedibile?

Alcuni sistemi di agenti sembrano grandi nelle demo, poi falliscono nel mondo reale perché l’ambiente è disordinato e imprevedibile. I dati sono incompleti o inconsistenti, casi limite si presentano costantemente (restituzioni, controversie, approvazioni speciali). I flussi di lavoro coprono più strumenti, piattaforme e integrazioni che cambiano nel tempo e i permessi variano. Quando un agente di intelligenza artificiale è chiamato a gestire un compito grande e gli viene dato troppo contesto alla volta, il rischio di allucinazioni e comportamento strano aumenta.

Kovant riduce questo per progetto. La nostra architettura unica restringe lo spazio del problema, lo spazio decisionale e il contesto con cui i modelli lavorano per ridurre le allucinazioni. Rompiamo anche le operazioni in compiti stretti e focalizzati per singoli agenti e passaggi. Ciò rende il comportamento più prevedibile e aggiunge tracciabilità e controllabilità nel sistema e può gestire meglio le allucinazioni. Possiamo vedere cosa ha fatto ogni agente, dove è iniziato un fallimento e intervenire o escalare quando necessario.

Le allucinazioni non scompaiono magicamente, ma restringendo ciò per cui ogni agente è responsabile e limitando il contesto in cui può agire, possiamo ridurre la loro frequenza e limitare il loro impatto. Questo approccio “task/context ristretto” è stato anche supportato in recenti lavori del team di ricerca di Nvidia, che ha trovato benefici simili dalla limitazione della presa di decisioni degli agenti.

La responsabilità è una preoccupazione importante mentre gli agenti di intelligenza artificiale iniziano a intraprendere azioni reali nei sistemi aziendali. Come i registri dettagliati delle azioni cambiano la conversazione su fiducia, conformità e rischio operativo?

Con registri dettagliati delle azioni possiamo vedere cosa è successo, perché è successo e cosa succede dopo.

I registri dettagliati trasformano un agente da un bot misterioso che lavora nella macchina in un sistema che possiamo ispezionare.

Presso Kovant, con ogni distribuzione di agenti di intelligenza artificiale ci sarà una mappa dei rischi che l’organizzazione può agire, abbiamo costruito un sistema di controllo per gli esseri umani per azioni a rischio che significa che gli agenti possono eseguire solo quelle attività se un essere umano esamina e approva la decisione. Tutti questi sono registrati allo stesso modo come un sistema di registri è registrato e sono tracciabili.

Crediamo che sia importante combinare i registri delle azioni con la supervisione umana e l’osservabilità per minimizzare il rischio. Significa che si ottengono ancora i benefici di velocità e scala degli agenti che eseguono operazioni reali.

C’è una crescente discussione su se gli agenti di intelligenza artificiale possano essere assicurati a causa della loro presa di decisioni opaca. Come rendere i flussi di lavoro degli agenti verificabili e riproducibili aiuta ad affrontare il problema della “scatola nera” e apre la porta all’assicurabilità?

Il problema della “scatola nera” è ciò che rende difficile l’assicurabilità. Se non si può chiaramente mostrare cosa ha fatto un agente, perché l’ha fatto e quali controlli erano in atto, è difficile per chiunque, specialmente per gli assicuratori, valutare il rischio.

Il nostro approccio è essenzialmente un’estensione dell’impostazione di responsabilità nella risposta precedente. Rompiamo lo spazio decisionale e l’impatto delle azioni in pezzi più piccoli, in modo che il modello non prenda una singola decisione gigante e opaca che possa influenzare l’intera operazione. Ogni passaggio è più stretto, più prevedibile e più facile da valutare.

Poi aggiungiamo registri dettagliati, osservabilità e supervisione umana. Per le decisioni più importanti e impattanti, utilizziamo un gatekeeper umano in modo che l’agente possa procedere solo dopo la revisione e l’approvazione. Ciò crea molta più visibilità su come il flusso di lavoro si comporta nella pratica.

Renderizzare i flussi di lavoro verificabili e riproducibili è l’ultimo pezzo. Se qualcosa va storto, si può riprodurre cosa è successo, indagare rapidamente, convalidare le correzioni e dimostrare quanto spesso è richiesta l’approvazione umana e dove si trovano le garanzie. In termini di underwriting, ciò trasforma il comportamento misterioso dell’intelligenza artificiale in qualcosa di più vicino al rischio operativo standard.

Con iniziative come la Fondazione di Intelligenza Artificiale Agente che mira a creare standard condivisi per sistemi agenti, quali sono gli aspetti più promettenti di questi sforzi e dove ancora mancano per le operazioni aziendali reali?

La standardizzazione è in generale una buona cosa. La Fondazione di Intelligenza Artificiale Agente può fare il lavoro noioso ma essenziale di far parlare gli agenti con lo stesso linguaggio, il che dovrebbe rendere le integrazioni più facili e ridurre il blocco dei vendor nel tempo.

Dove sono cauto è la cui prospettiva forma gli standard. Se la maggior parte del lavoro è guidata da creatori di modelli e startup tecnologiche, c’è il rischio che gli “standard” ottimizzino ciò che è più facile da costruire o dimostrare, piuttosto che ciò di cui le grandi organizzazioni hanno realmente bisogno per eseguire gli agenti in modo sicuro ogni giorno.

Per le operazioni aziendali reali, le lacune tendono a essere meno sui connettori e più sul controllo: cosa un agente può accedere e cambiare, flussi di approvazione per azioni ad alto impatto, registri verificabili e osservabilità in modo che i team possano monitorare il comportamento, indagare gli incidenti e dimostrare la conformità. Le aziende hanno anche bisogno di standard pratici per operare nella realtà disordinata: testare contro casi limite, gestire sistemi che cambiano e essere in grado di interrompere, contenere o annullare azioni in modo sicuro attraverso strumenti legacy e ambienti di dati regolamentati.

Quindi è una direzione promettente, ma l’impatto sarà limitato a meno che i requisiti aziendali e i controlli del rischio operativo non vengano trattati come un ripensamento.

Kovant ha già generato entrate significative da grandi aziende nordiche mentre opera principalmente in stealth. Quali tipi di funzioni aziendali o flussi di lavoro sono più pronti per gli agenti di intelligenza artificiale autonomi oggi?

Da quanto abbiamo visto nelle distribuzioni reali, i flussi di lavoro più “pronti” oggi sono quelli composti da lavoro di colletti bianchi reattivo: monitoraggio, inseguimento, controllo, aggiornamento dei sistemi, gestione delle eccezioni e mantenimento delle operazioni attraverso più strumenti.

Nella produzione e nelle catene di approvvigionamento aziendali più ampie, ciò si verifica in:

• Approvvigionamento/fornitura: disponibilità di materie prime, approvvigionamento sostenibile, operazioni di conformità, selezione del fornitore (inclusa la dualità/multi-sorgente), gestione del contratto, gestione del rischio del fornitore e gestione dell’offerta.
• Produzione: pianificazione della capacità, pianificazione della produzione, gestione della manutenzione, gestione della qualità, gestione del collo di bottiglia e prevenzione della perdita.
• Magazzinaggio: ricezione e ispezione, gestione dell’inventario, rotazione dello stock (FIFO/FEFO) e conteggio/verifica del ciclo.
• Trasporto/logistica: selezione del modo e del vettore, dogana/documentazione, tracciamento e visibilità, monitoraggio delle emissioni e conformità commerciale.
• Vendite e servizio: disponibilità del prodotto, prevenzione dello stockout, gestione delle vendite/rese, analisi del comportamento dei consumatori, oltre alle aree di assistenza come riparazioni, tracciamento della fine della vita, operazioni del laboratorio e contratti di servizio.

Quando le aziende distribuiscono agenti di intelligenza artificiale attraverso operazioni critiche, come consiglia di bilanciare l’autonomia con la supervisione umana per garantire il controllo senza rallentare tutto?

Il bilanciamento è governato dall’autonomia. Devi lasciare che gli agenti si muovano rapidamente sul lavoro a basso rischio all’interno di limiti di guardia chiari e escalare agli esseri umani quando l’azione supera una soglia di rischio definita.

Molte insidie derivano dal dare al modello troppo spazio e troppo contesto alla volta. Consiglio di rompere le operazioni in decisioni strette e focalizzate, dove ogni passaggio ha obiettivi chiari e un raggio di impatto limitato. Ciò riduce il comportamento imprevedibile e rende le prestazioni più facili da monitorare e migliorare.

Poi combino tre cose: osservabilità, registri delle azioni e gatekeeping umano. Tutto ciò che l’agente fa dovrebbe essere tracciabile, in modo che possiamo ispezionare cosa è successo e indagare rapidamente. Per azioni ad alto impatto o a rischio, metto un passaggio di approvazione umana nel flusso di lavoro, in modo che l’agente possa proporre e preparare, ma eseguire solo una volta che una persona ha firmato.

Ciò mantiene le cose in movimento rapidamente. Se mai rallenta leggermente al passaggio di supervisione umana, ma è una parte importante del processo. Gli esseri umani non sono bloccati nella supervisione di ogni clic, ma sono ancora in controllo dei momenti che contano. Il risultato è velocità dove è sicuro e supervisione dove è necessario.

Guardando avanti, come si aspetta che il ruolo degli agenti di intelligenza artificiale autonomi si evolva all’interno delle grandi organizzazioni nei prossimi anni e cosa separerà le aziende che hanno successo con l’intelligenza artificiale agente da quelle che lottano?

Nei prossimi anni, gli agenti di intelligenza artificiale autonomi passeranno da esperimenti interessanti a diventare un vero strato operativo all’interno delle grandi organizzazioni. Saranno utilizzati per le operazioni, il servizio clienti, le finanze e le risorse umane. Man mano che l’affidabilità, la governance e la supervisione migliorano, vedremo le aziende spostarsi da piloti isolati all’esecuzione di squadre di agenti attraverso flussi di lavoro dall’inizio alla fine.

Il cambiamento più grande è che velocità, agilità, scala, efficienza e costi diventeranno un leveraggio competitivo più diretto. Credo che stia arrivando un “movimento Uber” per le aziende. Quelle che padroneggiano veramente l’intelligenza artificiale agente saranno in grado di operare a un ritmo fondamentalmente più veloce dei ritardatari, catturare i mercati più velocemente e rispondere al cambiamento senza il solito attrito operativo.

Ciò che separa i vincitori non è solo la distribuzione degli agenti, ma la distribuzione degli agenti in modo efficace. L’autonomia governata, l’osservabilità e i registri delle azioni, e le architetture che restringono lo spazio decisionale saranno chiave per questo. Le aziende che trattano l’intelligenza artificiale agente come una capacità operativa principale, con i controlli, l’integrazione e la proprietà giuste, utilizzeranno per fare di più, non meno. Ciò libererà i team per concentrarsi sulla crescita e sull’innovazione piuttosto che trascorrere i loro giorni sepolti nell’amministrazione. In breve, la velocità e l’efficienza radicali diventeranno un vero vantaggio competitivo su larga scala.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Kovant.