Costruisco sistemi di intelligenza artificiale per vivere. Ecco cosa la maggior parte delle persone si sbaglia

Costruisco sistemi di intelligenza artificiale per i centri di contatto aziendali.

Non dimostrazioni, benchmark o progetti di ricerca. Sistemi di produzione che interagiscono con i clienti, navigano nelle politiche, recuperano informazioni da piattaforme aziendali disconnesse e operano all’interno di ambienti caratterizzati da dati confusi, registri contraddittori, rumore di fondo e comportamento umano imprevedibile.

Quell’esperienza mi ha dato un posto in prima fila per osservare una delle più grandi disconnessioni nell’industria dell’intelligenza artificiale. La conversazione pubblica sull’intelligenza artificiale è spesso dominata da ciò che la tecnologia potrebbe diventare un giorno, mentre le organizzazioni stanno cercando di capire come deployarla con successo oggi. Sono due conversazioni molto diverse.

Le domande a cui rispondo raramente coinvolgono l’intelligenza artificiale generale o se le macchine sostituiranno eventualmente gli esseri umani. Tendono a essere molto più pratiche. Il sistema può interpretare in modo coerente le richieste dei clienti? Può recuperare informazioni accurate su più piattaforme aziendali? Può recuperare quando i dati sono incompleti? Può escalare in modo appropriato quando la fiducia è bassa? I team possono fidarsi abbastanza da deployarla su larga scala?

Queste domande possono essere meno emozionanti dei titoli, ma sono quelle che determinano se l’intelligenza artificiale aziendale ha successo. Nel tempo, sono arrivato a credere che la maggior parte delle organizzazioni sovrastima l’importanza del modello stesso e sottostima tutto ciò che è necessario per rendere quel modello utile all’interno di un’azienda reale.

La dimostrazione non è il deployment

Chiunque lavori a stretto contatto con l’intelligenza artificiale aziendale capisce il divario tra una dimostrazione controllata e un deployment di produzione.

Incontriamo esempi di ciò costantemente. Un sistema di intelligenza artificiale con cui stiamo lavorando lotta circa la metà del tempo per interpretare correttamente un numero di ordine di 16 cifre parlato convertito in parole. Questi tipi di fallimenti sono simili al famoso problema “quante R ci sono nella parola fragola?”, dove i modelli di linguaggio avanzati hanno lottato con un compito che sembrava banale per gli esseri umani. Gli stessi modelli possono ottenere punteggi eccezionali in esami come il MCAT. Quella contrapposizione rivela qualcosa di importante: le prestazioni del benchmark e l’affidabilità operativa non sono la stessa cosa.

Una volta che l’intelligenza artificiale entra in produzione, eredita tutta la complessità dell’ambiente che la circonda. I sistemi aziendali contengono registri incompleti, informazioni contraddittorie, processi obsoleti, applicazioni disconnesse e casi limite che si sono accumulati nel corso dei decenni. I clienti fanno domande vaghe. Le politiche cambiano. La qualità dei dati varia. Il comportamento umano rimane meravigliosamente imprevedibile.

Queste realtà plasmano i risultati molto più dei punteggi del benchmark perché l’intelligenza artificiale non opera in un benchmark. Opera all’interno di processi aziendali, sistemi e flussi di lavoro che introducono complessità che il modello non può risolvere da solo.

L’intelligenza artificiale aziendale ha uno strato operativo

Una lezione che continua a sorprendere le persone è quanto velocemente le prestazioni del modello smettono di essere il fattore limitante. Una volta che un sistema raggiunge la produzione, le sfide operative spesso diventano più importanti del modello stesso. Le iniziative di intelligenza artificiale di successo dipendono dalla progettazione del processo, dall’allineamento organizzativo, dalla qualità dei dati, dall’integrazione del sistema, dall’osservabilità, dai percorsi di escalation, dalla governance e dalla fiducia.

I team hanno bisogno di procedure chiare per gestire i fallimenti. Hanno bisogno di visibilità su come i sistemi prendono decisioni. Hanno bisogno della fiducia che i problemi possano essere identificati e risolti prima di impattare sui clienti. Le organizzazioni spesso scoprono che il lavoro che circonda il sistema di intelligenza artificiale richiede altrettanta attenzione quanto il sistema di intelligenza artificiale stesso.

Quello strato operativo è dove molte distribuzioni alla fine hanno successo o falliscono.

Il servizio clienti rimane uno dei problemi più difficili

L’esperienza del cliente offre uno degli esempi più chiari di questa complessità.

Le interazioni semplici sono diventate sempre più gestibili per i sistemi di intelligenza artificiale. Controllare il saldo del conto. Reimpostare la password. Controllare lo stato del volo. Sono compiti altamente strutturati con risultati prevedibili.

Le vere conversazioni dei clienti raramente rimangono così semplici.

Un cliente che tenta di risolvere un problema aereo che coinvolge punti di fedeltà, compagnie aeree partner, dispute di rimborso, eccezioni di politica e molte interazioni precedenti presenta una sfida molto diversa. Il contesto è frammentato. Gli obiettivi possono essere poco chiari. Le politiche possono essere in conflitto. Le emozioni spesso entrano nella conversazione.

Queste interazioni continuano a rappresentare una parte significativa del lavoro di servizio clienti e richiedono ragionamento su sistemi, processi e regole aziendali in modi che rimangono difficili per l’intelligenza artificiale. I progressi sono stati notevoli. La complessità rimane reale.

I dati aziendali stanno finalmente diventando utilizzabili

Un’area in cui vedo una trasformazione significativa avvenire oggi coinvolge i dati aziendali.

La maggior parte delle organizzazioni ha trascorso anni accumulando informazioni su decine o centinaia di sistemi disconnessi. Esiste una conoscenza preziosa, ma localizzarla e utilizzarla in modo efficace è spesso stato difficile. L’intelligenza artificiale sta rendendo queste informazioni più accessibili.

Le organizzazioni stanno iniziando a sintetizzare i dati su più sistemi, a portare alla superficie il contesto rilevante in modo più efficiente e ad aiutare i dipendenti a navigare le informazioni che erano precedentemente sparse su più applicazioni e repository. Questa capacità di operazionalizzare la conoscenza aziendale potrebbe rivelarsi più trasformativa di molte delle dimostrazioni di intelligenza artificiale che dominano il dibattito pubblico.

La prossima sfida: l’intelligenza artificiale che lavora con l’intelligenza artificiale

La prossima ondata di innovazione probabilmente coinvolgerà più sistemi di intelligenza artificiale che lavorano insieme.

Le organizzazioni stanno già sperimentando flussi di lavoro in cui gli agenti condividono informazioni, coordinano attività e contribuiscono a processi aziendali più ampi. Ciò crea nuove sfide relative alla responsabilità, alla fiducia, all’escalation, alla comunicazione e alla governance.

Gli esseri umani hanno sviluppato abilità di collaborazione implicite nel corso dei secoli. Sappiamo come chiedere aiuto, comunicare l’incertezza, escalare i rischi e recuperare dagli errori. Insegnare questi comportamenti ai sistemi di intelligenza artificiale è una disciplina molto più recente.

Gran parte del prossimo capitolo dell’intelligenza artificiale aziendale coinvolgerà l’insegnamento ai sistemi di operare in modo efficace l’uno accanto all’altro, restando allineati con gli obiettivi aziendali.

Cosa richiede realmente l’intelligenza artificiale aziendale

Dopo anni di costruzione e distribuzione di sistemi di intelligenza artificiale, sono arrivato a credere che le organizzazioni trascorrono troppo tempo valutando l’intelligenza del modello e non abbastanza tempo preparando l’ambiente intorno ad esso.

L’intelligenza che questi modelli dimostrano può essere notevole. Ogni anno diventano più capaci, più utili e più sofisticati. Eppure, i deploy di successo dipendono ancora dai fondamentali: dati affidabili, processi ben progettati, governance attenta, responsabilità chiara e persone che capiscono come integrare la nuova tecnologia nelle operazioni esistenti.

Le organizzazioni che vedono il maggior valore dall’intelligenza artificiale stanno prestando attenzione a quei fondamentali. Perché l’intelligenza da sola non crea trasformazione.

La trasformazione avviene quando la tecnologia, i dati, i processi e le persone lavorano insieme per produrre risultati migliori.