L’azienda intelligente: rendere il Generative AI pronto per l’impresa

Cominciamo da qui: Sì, le opportunità per il Generative AI (GenAI) sono immense. Sì, sta trasformando il mondo come lo conosciamo (e più velocemente di quanto la maggior parte di noi avesse previsto). E sì, la tecnologia sta diventando più intelligente. Tuttavia, le implicazioni per il GenAI, con la sua capacità di generare testo, immagini e narrazioni, per le imprese e le aziende sono molto diverse dall’impatto sul pubblico in generale — dopo tutto, la maggior parte delle aziende non scrive poesie o storie (che è popolare tra gli utenti di ChatGPT), servono i loro clienti.

Molte aziende hanno esperienza con l’elaborazione del linguaggio naturale (NLP) e chatbot di basso livello, ma il GenAI sta accelerando la possibilità di integrare, interpretare e convertire i dati in risultati aziendali. Pertanto, devono determinare rapidamente quali casi d’uso del GenAI risolveranno le loro sfide aziendali più pressanti e driveranno la crescita. Per capire come le imprese possano rendere il GenAI pronto per l’impresa con i loro dati, è importante esaminare come siamo arrivati a questo punto.

Il viaggio da NLP a Large Language Model (LLM)

La tecnologia sta cercando di comprendere le lingue naturali da decenni. Mentre il linguaggio umano stesso è una forma evoluta di espressione umana, il fatto che gli esseri umani si siano evoluti in così tanti dialetti in tutto il mondo — da simboli e suoni a sillabe, fonetica e lingue — ha lasciato la tecnologia a dipendere da metodi di comunicazione digitale più semplici con bit e byte, ecc., fino a poco tempo fa.

Ho iniziato a lavorare su programmi di NLP quasi un decennio fa. All’epoca, si trattava di tassonomia del linguaggio e ontologia, estrazione di entità e una forma primitiva di database grafico (in gran parte in XML) per cercare di mantenere relazioni complesse e contesto tra vari entità, comprendere le query di ricerca, generare una nuvola di parole e fornire risultati. Non c’era nulla di matematico in questo. C’era molto Umano nel Loop per costruire database di tassonomia, molto parsing di XML e, soprattutto, molta potenza di calcolo e memoria in gioco. Inutile dire che alcuni programmi sono stati di successo e la maggior parte no. Il machine learning è arrivato dopo con多 approcci al deep learning e reti neurali, ecc., accelerando la comprensione del linguaggio naturale (NLU) e l’inferenza del linguaggio naturale (NLI). Tuttavia, c’erano tre fattori limitanti— la potenza di calcolo per elaborare modelli complessi, l’accesso a volumi di dati che possono insegnare alle macchine e, soprattutto, un modello che possa autoapprendere e autocorreggersi formando relazioni temporali tra frasi.

Avanzando di due decenni, e le GPU forniscono una potenza di calcolo massiccia, le reti neurali autoapprendenti e autoevolventi sono la norma, i modelli di apprendimento supervisionato/non supervisionato/semi-supervisionato esistono tutti e, soprattutto, c’è un maggiore accesso a masse di dati in diverse lingue, comprese varie piattaforme di social media, che questi modelli possono utilizzare per l’addestramento. Il risultato sono motori di AI che possono connettersi con voi nel vostro linguaggio naturale, comprendere l’emozione e il significato dietro le vostre query, suonare come un essere umano e rispondere come uno.

Tutti noi, attraverso la nostra presenza sui social media, siamo stati inconsapevolmente un ‘Umano’ nel ‘Loop’ per addestrare questi motori. Ora abbiamo motori che affermano di essere stati addestrati su trilioni di parametri, in grado di prendere centinaia e migliaia di parametri di input, che sono multimodali e rispondere a noi nel nostro linguaggio. Sia che si tratti di GPT4/5, PaLM2, Llama o altri LLM pubblicati finora, stanno emergendo come solutori di problemi verticali più contestualizzati.

Sistemi di coinvolgimento e sistemi di registrazione

Mentre il viaggio da NLP a LLM è stato grande grazie all’evoluzione della Silicon, i modelli di dati e la disponibilità di masse di dati di addestramento che tutti noi abbiamo generato, le imprese — fornitori di servizi di vendita al dettaglio, produttori, banche, ecc. — ognuna necessita di applicazioni molto diverse di questa tecnologia. In primo luogo, le imprese non possono permettersi allucinazioni AI — hanno bisogno di 0% di allucinazione e del 100% di accuratezza per gli utenti che interagiscono con l’AI. Ci sono una serie di query che richiedono assoluta accuratezza per essere di qualsiasi utilità aziendale — ad esempio Quante camere sono disponibili nel tuo albergo? Hai un biglietto di prima classe disponibile?

Per contrastare l’allucinazione AI, entra l’antica nozione di Sistemi di coinvolgimento e Sistemi di registrazione. I Sistemi di coinvolgimento, sia con i clienti, i fornitori o i dipendenti, possono sfruttare una piattaforma conversazionale basata su GenAI fuori dalla scatola, dopo essere stati addestrati per prompt aziendali specifici — è la parte “più facile”. La sfida è incorporare i Sistemi di registrazione nella catena del valore. Molte aziende sono ancora in un mondo statico basato su tabelle ed entità e rimarranno tali perché la maggior parte delle imprese è statica a livello organizzativo o aziendale, mentre gli eventi e i flussi di lavoro le rendono dinamiche a livello transazionale.

È qui che parliamo di piattaforme conversazionali di prossima generazione che non solo affrontano le conversazioni, le interfacce e le query, ma portano anche i percorsi dei clienti fino al soddisfacimento. Ci sono diversi approcci architettonici a tali piattaforme conversazionali. Un’opzione immediata è utilizzare un middleware ibrido che agisca come un consolidatore tra dati aziendali vettorizzati ed etichettati e prompt conversazionali guidati da LLM e fornisce un risultato di allucinazione 0% ai consumatori.

C’è un’enorme quantità di lavoro di preparazione dei dati richiesto dalle imprese per renderlo intelligibile per un motore LLM. Lo chiamiamo appiattimento dei modelli di dati tradizionali basati su tabelle ed entità. I database grafici, che rappresentano e memorizzano i dati in un modo che i database relazionali non possono, stanno trovando uno scopo nuovo in questo viaggio. L’obiettivo è convertire i database aziendali in database grafici più intelligibili con relazioni che definiscono contesto e significato, rendendo più facile per i motori LLM imparare e quindi rispondere a prompt da parte dei clienti finali attraverso una combinazione di query conversazionali e in tempo reale. Questo compito di abilitazione dei dati aziendali per essere pronti per LLM è la chiave per fornire un’esperienza di coinvolgimento e registrazione dall’inizio alla fine e portare le esperienze degli utenti fino al soddisfacimento.

Cosa viene dopo

A questo punto, con questi progressi nei dati e nell’AI, l’impatto più immediato arriva nel settore della generazione di codice software — come dimostrato dall’ascesa di Microsoft Copilot, Amazone CodeWhisperer e altri strumenti tra gli sviluppatori. Questi strumenti stanno facendo partire programmi di modernizzazione legacy, molti dei quali sono spesso bloccati a causa di preoccupazioni di tempo e costo. Con gli strumenti di generazione di codice alimentati da GenAI, stiamo vedendo accelerare i tempi di modernizzazione dei progetti del 20-40%. Nei progetti di sviluppo di codice greenfield, questi strumenti permetteranno agli sviluppatori di spostare il tempo e i risparmi di produttività verso il pensiero progettuale e progetti più innovativi.

Oltre allo sviluppo di codice software, gli strumenti GenAI stanno portando alla creazione di nuovi casi d’uso verticali e scenari destinati a risolvere le sfide più pressanti delle imprese, e stiamo solo iniziando a scratchare la superficie di ciò che deve essere fatto per trarre pienamente vantaggio da questo trend. Tuttavia, stiamo già risolvendo diversi problemi e domande nel settore della vendita al dettaglio e della logistica sfruttando il GenAI:

Quanto inventario ho nel magazzino e quando devo attivare il rifornimento? È redditizio stockare in anticipo? Il mio prezzo di atterraggio è giusto o sta per aumentare? Quali articoli posso combinare o quale tipo di personalizzazione posso fornire per elevare il mio profitto?

Rispondere a questo tipo di domande richiede una combinazione di interfacce conversazionali, query dati ad alta accuratezza nel back-end e un modello di apprendimento automatico pesante sul dominio che fornisce previsioni e indicazioni future. Pertanto, il mio consiglio per le imprese sarebbe, sia che siate un esploratore AI o un disruptore di Generative AI, di collaborare con fornitori di servizi che hanno una comprovata esperienza AI e robuste capacità di dati e analisi che possono armare voi per capitalizzare i modelli GenAI adatti alle vostre esigenze aziendali e aiutarvi a rimanere davanti alla curva.