Alon Eirew, CTO (AI) di MCE Systems – Serie di interviste

Alon Eirew, CTO (AI) di MCE Systems, guida la strategia AI e lo stack tecnologico dell’azienda, che comprende architettura, sviluppo di modelli, infrastrutture, integrazione di prodotti e adozione più ampia dell’AI all’interno delle operazioni. In precedenza, ha trascorso più di nove anni in Intel (INTC ), passando da senior software engineer e architetto software a Lead Natural Language Processing (NLP) Research Scientist, dove ha diretto la ricerca sull’estrazione di conoscenze, ha ottenuto finanziamenti per progetti pluriennali, ha pubblicato articoli in importanti conferenze NLP e ha guidato startup attraverso Intel Ignite. All’inizio della sua carriera, Eirew ha aiutato a sviluppare tecnologie di assistenti personali in Telmap, che in seguito è diventata parte di Intel, e ha inoltre consigliato aziende AI in fase di startup mentre insegnava scienze informatiche, programmazione orientata agli oggetti, data mining e recupero di informazioni in diverse università israeliane.

MCE Systems sviluppa un livello di esperienza nativo AI per i fornitori di telecomunicazioni, che collega sistemi legacy, dati in tempo reale e flussi di lavoro intelligenti per supportare le interazioni con i clienti su più punti di contatto. Fondata nel 2005, l’azienda ha costruito il suo business intorno alla gestione del ciclo di vita dei dispositivi digitali, con tecnologie che coprono la diagnostica e la cura dei dispositivi, i programmi di trade-in, la valutazione remota dei dispositivi e le restituzioni. MCE sta applicando sempre più AI generativa e agente a questi flussi di lavoro, aiutando gli operatori a rilevare problemi con i dispositivi, a guidare i clienti attraverso potenziali risoluzioni e a coordinare percorsi di servizio più complessi attraverso canali digitali e assistiti.

Ha trascorso quasi un decennio in Intel lavorando su NLP, estrazione di conoscenze, recupero di informazioni e anche tecnologie di assistenti personali precoci che originariamente provenivano da Telmap prima di diventare parte di Intel. Guardando indietro, quali idee da quei primi sistemi AI si sono rivelate essere troppo premature, e quali assunzioni ha preso completamente l’industria in modo errato?

Un’idea chiaramente troppo prematura era l’assistente personale su cui abbiamo lavorato prima dell’era LLM. Questi erano sistemi che comprendevano l’intento, collegavano il contesto attraverso attività e aiutavano gli utenti a raggiungere gli obiettivi in modo naturale. Avevano le stesse ambizioni degli agenti di oggi. La differenza stava nell’approccio sottostante: invece di modelli linguistici, ci siamo affidati a una combinazione di apprendimento automatico e algoritmi per inferire l’intento dell’utente. Questo metodo, tuttavia, si è rivelato difficile quando applicato su larga scala, considerando i diversi modi in cui gli utenti esprimono la stessa richiesta.

Immagina di impiegare un rappresentante del servizio per gestire migliaia di richieste dei clienti, ma possono gestire solo richieste formulate con una struttura di frase specifica. Come puoi immaginare, coprirebbe solo una piccola gamma di casi d’uso e sarebbe difficile gestire molti problemi dei clienti. I LLM hanno completamente cambiato tutto. Oggi, la comprensione dell’intento dell’utente è stata in gran parte risolta. Quindi, nella nostra analogia, il rappresentante è ora flessibile e può parlare con milioni di clienti.

Mentre non affermerei che l’industria abbia preso completamente qualcosa di errato, credo che molti abbiano sottovalutato quanto centrale sarebbero diventati i modelli linguistici. Il grande balzo è arrivato quando sono stati introdotti i primi modelli linguistici come ELMo, BERT e RoBERTa. All’epoca, pochi comprendevano veramente la gravità della trasformazione che stava per arrivare. Questi erano i modelli di base dei moderni LLM che utilizziamo ogni giorno e che ormai non possiamo più immaginare di non avere.

La maggior parte delle aziende vedeva questi modelli iniziali come componenti utili in applicazioni ristrette, non come fondamento per un intero nuovo paradigma di calcolo. A posteriori, molte di loro hanno perso l’opportunità di posizionarsi come importanti giocatori AI.

Durante la sua carriera di ricerca, si è concentrato sull’estrazione di conoscenze da multi-documenti e sulla comprensione degli eventi. Poiché le aziende si affidano sempre più a grandi modelli linguistici, perché crede che l’estrazione di conoscenze strutturate rimanga una sfida critica?

I LLM sono strumenti potenti per affrontare una serie di argomenti, ma le applicazioni aziendali e gli utenti finali necessitano di competenze per risolvere un problema specifico, che richiede l’accesso alle conoscenze. Queste conoscenze contestuali e proprietarie non sono tipicamente dati di training del modello, quindi il deploy di un LLM in un’azienda significa raccogliere la comprensione attraverso potenzialmente milioni di punti di dati interni. I LLM odierni lottano in gran parte con questo, mancando di contesto sostanziale a causa di vincoli tecnici e di accesso, e questo gap limita il loro impatto.

In MCE, ad esempio, forniamo una soluzione di agente AI per la cura dei clienti. Uno dei suoi obiettivi è consentire ai carrier di telecomunicazioni di aiutare i loro clienti a risolvere problemi tecnici con i dispositivi mobili senza necessità di intervento umano. Senza fornire all’agente AI informazioni tecniche contestuali sul dispositivo, tutto ciò che l’agente AI farebbe è fornire risultati generici che non risolvono il problema o sono irrilevanti e quindi costringere il cliente a cercare aiuto umano. Questo è il tipo di problema di estrazione di conoscenze che abbiamo dovuto superare per poter deployare AI con i nostri clienti ed è dove le organizzazioni spesso falliscono nell’ottenere i risultati che desiderano.

La mia stessa ricerca si è concentrata sull’estrazione di conoscenze e sul recupero di informazioni da grandi raccolte di documenti, esplorando la relazione tra “eventi”, un termine nel campo dell’AI utilizzato per definire la causalità sottostante e la tempistica di qualsiasi rappresentazione di informazioni. Applichiamo questo in MCE all’interno delle nostre soluzioni AI per l’interazione umana, costruendo una comprensione strutturale che può aiutare i LLM a riassumere, rappresentare e cercare conoscenze per risolvere un problema del cliente.

Ha pubblicato ricerche in importanti conferenze NLP, tra cui ACL, EMNLP e NAACL. Quali sono stati i principali progressi negli ultimi cinque anni che hanno avuto il maggior impatto reale, e quali avanzamenti molto pubblicizzati ritiene attualmente sovrastimati?

Ci sono alcuni progressi che si distinguono per me e si verificano in una progressione man mano che si sviluppano i LLM.

Il primo è stato intorno all’istruzione e all’ingegneria dei prompt. Questo doveva essere risolto per primo prima di raggiungere un’adozione molto più ampia. Tutti noi siamo stati lì dove chiedi a un LLM qualcosa di specifico e va in cerchio, arrivando vicino ma non ottenendo la risposta di cui hai bisogno. Quindi, capire come i modelli potessero comprendere il prompt e fornire risultati precisi è stato un grande passo.

Per estensione, il prossimo progresso è stato per gli agenti, che necessitavano che i LLM andassero oltre i compiti di prompt one-off e facessero effettivamente alcune cose: creare piani, interagire con un utente finale, utilizzare strumenti, utilizzare la memoria e accedere alle conoscenze. Questo è stato essenziale per arrivare a dove siamo oggi.

Ma il prossimo progresso, che è solo parzialmente risolto ma in corso, è completamente risolvere il problema dell’allucinazione. Finora, c’è stato un notevole progresso qui, al punto in cui possiamo affidarci ai LLM molto più di prima. Ma c’è ancora lavoro da fare e un’altra ragione per cui la supervisione umana e le barriere di protezione rimangono essenziali.

Quello che è sovrastimato è il grado di autonomia che le persone affermano che gli agenti dovrebbero avere. Sistemi completamente autonomi che operano in ambienti aziendali complessi senza supervisione umana non sono ancora abbastanza affidabili, a mio parere. Credo che sia più produttivo progettare AI per eseguire compiti ad alto valore, escalare l’incertezza e spiegare il proprio ragionamento, senza cedere il controllo umano del flusso generale. È lì che l’AI agente creerà il valore reale più significativo nel breve termine.

Ha lavorato come ricercatore, architetto software, leader di ingegneria, consulente di startup, docente e ora Chief AI Officer. Come è cambiata la sua definizione di AI di successo nel corso delle diverse fasi della sua carriera?

Nel corso della mia carriera, ho imparato che la definizione di AI di successo continua a evolversi e i diversi valori fondamentali sono attraverso le discipline. La ricerca applicata e l’architettura mi hanno insegnato che l’AI deve funzionare sotto vincoli del mondo reale. La ricerca accademica mi ha insegnato l’importanza della rigorosità e della valutazione. La leadership di ingegneria mi ha mostrato che l’esecuzione e la disciplina operativa contano tanto quanto il modello stesso. Consigliare startup mi ha insegnato che l’AI crea l’impatto più grande quando risolve un problema reale e ha un percorso chiaro per l’adozione.

Oggi, come capo AI in MCE, definisco il successo come AI che crea valore misurabile mentre guadagna la fiducia dell’utente finale. Deve migliorare gli esiti per i clienti, i dipendenti e l’azienda, essere abbastanza affidabile per la produzione, trasparente abbastanza da essere governato e utile abbastanza da essere adottato. In questo senso, la mia definizione è evoluta da “Funziona la tecnologia?” a “Crea valore in modo responsabile, ripetutamente e su larga scala?”

Questo è anche il passaggio che abbiamo fatto in MCE, uno che è iniziato due anni fa e ci ha portato a questo punto. L’ultimo valore è come pensiamo all’AI ora per i nostri casi d’uso interni e per i nostri clienti nel settore delle telecomunicazioni.

MCE Systems sta applicando AI per l’esperienza del cliente, la cura del cliente e il marketing nel settore delle telecomunicazioni. Quali sono i casi d’uso AI più convincenti che stanno emergendo attualmente nel settore delle telecomunicazioni?

I fornitori di servizi di comunicazione (CSP), o “carrier” come vengono solitamente chiamati, si trovano in una situazione difficile, dove stanno affrontando un problema di commodity. Il prezzo è davvero la forza di attrazione per portare nuovi clienti o mantenerli, ma non è sostenibile. Se guardi alle altre grandi aziende che vendono prodotti o servizi al consumatore, come Apple (AAPL ), Amazon (AMZN ) o Netflix (NFLX ), hanno costruito un grande prodotto e un’esperienza intorno ad esso. Questo si è verificato chiaramente nelle finanze, ad esempio, dove le banche sono state costrette da nuovi giocatori agili a spostarsi dal mantenimento dei risparmi delle persone e dall’offerta di prodotti di investimento all’offerta di un’esperienza digitale completa intorno ad esso. Stesso discorso per le telecomunicazioni.

La nostra visione è aiutare a portare valore aggiunto ai clienti dei CSP con un’esperienza migliore in cima al grande prodotto di connettività che già forniscono. Ciò significa essere più proattivi e comunicativi con i clienti riguardo alla loro esperienza di rete e dispositivo complessiva. E per noi, l’AI è ciò che finalmente consente loro di farlo bene.

Nell’industria, tuttavia, è diventato principalmente uno strumento difensivo per tagliare i costi del lavoro dei call center o rendere i dipendenti più produttivi. Ma per noi, l’AI è anche uno strumento offensivo per essere proattivi nella cura del cliente e personalizzare il servizio e ciò che offri ai clienti, tutto sul dispositivo mobile del cliente.

Ad esempio, rilevare un problema con il dispositivo o la connettività o un problema di degrado della batteria prima che il cliente se ne accorga e aiutarli a risolverlo. Queste sono esperienze che costruiscono una vera fedeltà. Sapere la situazione di un cliente abbastanza bene da offrire il bundle di banda larga giusto, l’aggiunta di dati o il prodotto di stile di vita giusto al momento giusto, spinge a una maggiore conversione. E raccogliere segnali attraverso asset di rete, CRM e dati del dispositivo per prevedere con precisione l’abbandono e agire presto è forse il caso d’uso più potente di tutti. I CSP che ottengono questo risultato avranno un vantaggio significativo.

C’è molto entusiasmo intorno al diventare “nativi AI” o “pronti all’AI”. Come sta affrontando MCE questo paradigma e quali sono i punti più importanti che le organizzazioni perdono in questa trasformazione?

Ciò che molte aziende perdono di vista è che la trasformazione AI non è solo un deploy tecnologico, ma anche un cambiamento nel modus operandi. Le migliori opportunità sono dove l’adozione sembra naturale: il flusso di lavoro esiste già, il dolore è misurabile e l’AI può chiaramente migliorare la velocità, la qualità o la presa di decisioni. MCE sta affrontando questo paradigma con alcune idee.

Abbiamo iniziato chiedendoci sulla maturità degli strumenti AI e adottando AI in modi che moltiplichino la produttività degli impiegati. Abbiamo chiesto come potremmo educare i nostri team, definire linee guida di utilizzo chiare e collegare i sistemi interni all’AI dove potrebbe effettivamente fare la differenza giorno per giorno.

Una volta valutata la nostra base di strumenti, abbiamo guardato all’automazione del flusso di lavoro e identificato dove gli agenti potessero ridurre il lavoro manuale. Naturalmente, abbiamo trovato che potremmo drasticamente ridurre il tempo di sviluppo. In un esempio, un’applicazione altamente funzionale, un prototipo, ha richiesto solo un paio di giorni per essere creata quando altrimenti avrebbe richiesto due o tre settimane.

Ciò che è spesso sottovalutato per la produttività interna è la democratizzazione dei dati. Stiamo lavorando e continueremo a lavorare per utilizzare meglio i nostri dati interni in modo che sia gli esseri umani che i sistemi AI possano prendere decisioni migliori. Ciò include la comprensione dei bisogni dei clienti, il miglioramento delle operazioni e la costruzione di prodotti che imparano dalle esperienze passate. È ancora un lavoro in corso, poiché è un processo iterativo e analitico per valutare cosa funziona e cosa no.

Molte organizzazioni stanno correndo per deployare agenti AI. Quali lezioni pratiche ha imparato su dove gli agenti AI possono effettivamente creare valore rispetto a dove la supervisione umana rimane essenziale?

È facile farsi prendere dall’entusiasmo per l’automazione. Ma credo nell’approccio metodico agli agenti. Consiglierei di non iniziare mai con un livello di automazione target; invece, iniziare identificando i flussi di lavoro in cui gli agenti possono creare valore, dividerli in pezzi più piccoli e chiedersi quali di questi pezzi possono essere completamente automatizzati, quali semi-automatizzati e dove è necessario il giudizio umano.

Nella pratica, scopriamo che gli agenti creano il maggior valore quando vengono utilizzati in compiti altamente definiti, che vanno dalla raccolta di informazioni all’analisi degli input, alla generazione di raccomandazioni e alla preparazione degli output per il passo successivo. L’automazione fine-tuned dove il compito è abbastanza semplice funziona molto meglio che cercare di automatizzare un intero processo complesso.

Dove gli esseri umani rimangono essenziali è nella supervisione, nella gestione delle eccezioni, nelle decisioni sensibili al cliente e, in generale, nelle situazioni in cui conta la responsabilità. L’obiettivo non è mai sostituire la presa di decisioni umana, ma far sì che gli agenti gestiscano le parti in cui possono creare valore in modo affidabile mentre gli esseri umani gestiscono le decisioni che richiedono responsabilità.

MCE ha parlato di utilizzare AI per offrire esperienze di dispositivo più personalizzate e migliorare l’efficienza operativa per gli operatori mobili. Come bilancia la personalizzazione con le crescenti preoccupazioni riguardo alla privacy, alla trasparenza e alla fiducia degli utenti?

Perché l’AI sembra così umana, gli utenti interagiscono con essa in modi che espongono più di quanto a volte dovrebbero. Ciò pone una vera responsabilità sulle organizzazioni per essere vigili e trasparenti su quali dati vengono raccolti. Un semplice esempio: quando un cliente invia uno screenshot come parte di un processo di risoluzione dei problemi, quell’immagine potrebbe inavvertitamente catturare informazioni personali sullo schermo. È imperativo che le organizzazioni applichino salvaguardie per ritagliare l’immagine per rimuovere il contenuto visibile in eccesso, mantenendo il focus esattamente su ciò che l’interazione è e riducendo l’esposizione dei dati non necessari.

Per me, qualsiasi dato che raccogliamo dovrebbe servire chiaramente gli interessi e i bisogni del cliente. Dovrebbe essere raccolto solo quando supporta uno scopo specifico, come risolvere la richiesta del cliente o fornire un grado appropriato di personalizzazione. Allo stesso tempo, i dati dovrebbero essere gestiti in modo da preservare la privacy, evitando qualsiasi collegamento non necessario all’identità reale del cliente.

In altre parole, comprendere il profilo specifico del cliente e i suoi bisogni in relazione al nostro business. Nel nostro caso, come organizzazione conforme alla privacy, si tratta di conoscere lo stato del dispositivo mobile e il comportamento dell’utente in relazione molto specificamente al fornitore, non all’identità del cliente e ad altri tipi di comportamento.

Ciò che conta anche è l’interazione stessa con il cliente. Le barriere di protezione sono critiche qui per rimanere nello scopo, nella voce del marchio e veramente evitare di allontanarsi da ciò che le organizzazioni sono pronte a governare. Nella pratica, le barriere di protezione aiutano a evitare violazioni legali o regolamentari e un’esperienza negativa per il cliente. A volte, questi possono essere processi faticosi, ma sono essenziali.

Ha insegnato argomenti che vanno dalle basi delle scienze informatiche all’estrazione di informazioni e al data mining. Se stesse progettando un curriculum AI per gli studenti che entrano nel mercato del lavoro oggi, quali argomenti priorizzerebbe e quali concetti superati rimuoverebbe?

Il curriculum deve cambiare in due modi. Argomenti un tempo limitati a programmi di laurea magistrale, come reti neurali, trasformatori, grandi modelli linguistici, generazione aumentata, valutazione, allineamento e AI responsabile, devono diventare soggetti fondamentali di laurea. Gli studenti che entrano nel mercato del lavoro devono capire come funzionano questi sistemi e come valutarli criticamente.

Gli studenti devono anche imparare a utilizzare l’AI in modo responsabile come strumento per l’apprendimento e la ricerca. Ciò significa mettere in discussione gli output, verificare le fonti, comprendere i limiti e trattare l’AI come un partner di pensiero piuttosto che un modo per abbreviare il lavoro.

Ciò che non taglierei è la matematica e i fondamenti algoritmici. Sosterrei che sono più importanti che mai. Ciò che ridurrei sono gli incarichi che premiano l’implementazione meccanica senza dimostrare il pensiero critico. La focalizzazione dovrebbe spostarsi verso la formulazione del problema, la valutazione, la progettazione del sistema e l’uso responsabile.

Aver consigliato numerose startup sulla strategia AI, quali sono gli errori più comuni che i fondatori fanno quando costruiscono prodotti AI, e cosa distingue le aziende che hanno successo nel passaggio da prototipo a produzione?

L’errore più comune che vedo è innamorarsi della tecnologia prima di comprendere veramente il problema, il cliente o il percorso di adozione. Un errore molto simile è non conoscere abbastanza i limiti dell’AI, quindi forzarla in casi d’uso in cui non è ancora abbastanza matura.

Ciò che distingue i fondatori che raggiungono una produzione di successo è una profonda competenza nel settore e un atteggiamento di ricerca. I migliori prodotti AI derivano da fondatori che comprendono un settore specifico abbastanza bene da identificare una vera lacuna tecnologica. Non iniziano da “Cosa possiamo fare con l’AI?” ma da “Ecco un problema specifico, ecco perché le soluzioni esistenti sul mercato non sono all’altezza e ecco perché l’AI può ora risolverlo in modo sostenibile.”

Inoltre, i fondatori di successo imparano costantemente dai clienti, dai concorrenti, dai consulenti e dai tentativi falliti. Studiano come vengono prese le decisioni, come si muovono i budget e cosa crea fiducia per il loro pubblico di riferimento. Alla fine, non stanno costruendo solo un prodotto, stanno costruendo qualcosa che deve sopravvivere in un ambiente reale e non solo per il suo proprio bene.

Guardando avanti di cinque anni, crede che l’impatto più grande dell’AI verrà da modelli di base più potenti, sistemi agente, AI multimodale, intelligenza sul dispositivo o una tendenza completamente diversa che l’industria attualmente sottovaluta?

L’impatto più grande non verrà solo dai miglioramenti dei modelli di base, ma da come i modelli vengono incorporati in sistemi che possono osservare e agire all’interno di flussi di lavoro reali mentre migliorano. Questo passaggio da modello potente a sistema capace è dove mi aspetto i progressi più significativi nel prossimo futuro.

Ciò diventerà particolarmente forte quando i sistemi diventeranno completamente multimodali, ragioneranno su testo, voce, immagini, video e altri segnali di contesto reali e potranno emulare da vicino come gli esseri umani comprendono il mondo. Ciò aprirà nuove possibilità nel supporto clienti, nella sanità, nella produzione, ecc.

Un’altra tecnologia emergente che credo diventerà disruptiva sono gli agenti che interagiscono con il mondo fisico. Aziende come Boston Dynamics stanno già mostrando l’arte del possibile e il potenziale di quando la percezione, il ragionamento, la pianificazione e l’azione fisica convergono. Sia in forma umanoide che in sistemi robotici specializzati, gli agenti con corpi potrebbero dimostrarsi una delle espressioni più tangibili e rivoluzionarie dell’AI che vedremo nei prossimi cinque anni. Per MCE, ciò crea opportunità nella logistica e nei flussi di lavoro operativi, dove molte attività ripetitive e a bassa complessità richiedono ancora interazione fisica umana. Esempi includono il prendere un dispositivo, premere pulsanti, collegare cavi o spostare dispositivi tra stazioni. Questi sono candidati ideali per l’automazione attraverso robotica e AI che consentono ai sistemi di essere più efficienti, coerenti e gestire molto più volume.

Per le telecomunicazioni, essere in grado di prevedere l’abbandono del cliente e agire di conseguenza con i modelli AI è dove sarà il denaro nei prossimi anni. Se puoi costruire un modello affidabile che incorpora dati da tutti i diversi punti di contatto del cliente, può valutare con precisione la probabilità di abbandono e agire di conseguenza, avrai risolto un problema stagnante per i fornitori.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare MCE Systems.