Il tuo agente AI sa tutto — e non capisce nulla

“Dovremmo unirci ai miei genitori nel loro viaggio in Irlanda” — questa frase apparentemente innocua mi ha fatto venire i brividi.

Io e mia moglie viaggiamo molto. Sappiamo cosa ci piace. I genitori di mia moglie, d’altra parte, raramente viaggiano più di qualche centinaio di miglia dalla loro casa e hanno lasciato il paese insieme solo una volta — per il nostro matrimonio.

Per completare il quadro, questo viaggio era un regalo di Natale di mio suocero a mia suocera, in modo che potesse andare a visitare la sua famiglia, forse per l’ultima volta.

Potevo vedere questo viaggio svilupparsi in una sola parola: disastro. Come avremmo potuto sintetizzare esperienze e aspettative così diverse in modo da avere un viaggio incredibile — o almeno non odiarci a vicenda alla fine di esso?

Come qualsiasi tecnico che si rispetti, ho cercato rifugio nella tecnologia — specificamente nell’intelligenza artificiale.

Ma non mi aspettavo che il mio piccolo esperimento di vibe coding di un’app basata su AI per pianificare un viaggio in famiglia mi avrebbe insegnato quasi tutto ciò che devo sapere sull’applicazione dell’AI all’interno dell’IT aziendale.

Più informazioni dai all’AI, più diventa stupida

La maggior parte delle implementazioni aziendali dell’AI segue un pattern prevedibile. Le organizzazioni iniziano dando a un agente un set di istruzioni e collegandolo a una fonte di informazioni, che sia un framework RAG (Retrieval-Augmented Generation), una base di conoscenze esistente o anche un server MCP. Successivamente, si aggiunge un LLM e lo si lascia fare il suo lavoro.

Il problema è che gli LLM, nella loro essenza, sono stupidi. Non sanno come dare priorità a tutte le informazioni a loro disposizione, quindi tendono a trattare ogni pezzo di contesto in modo uguale. Un essere umano deve aggiungere uno strato di selezione e organizzazione delle informazioni, insegnando al modello cosa è importante e cosa no. Senza questa selezione, si ottiene un’AI che sa tutto e non capisce nulla.

I Tre Tipi di Memoria Che Contano

La selezione e organizzazione efficace delle informazioni per l’AI aziendale significa sfruttare al massimo tre tipi specifici di memoria.

Il primo è la memoria istituzionale, che può sembrare abbastanza basilare all’inizio. Quando qualcuno dice “servizi finanziari”, l’agente sa che si riferisce alla divisione Servizi Finanziari dell’azienda e non all’intera industria. Ciò diventa una conoscenza organizzativa persistente piena di definizioni, preferenze e convenzioni che non cambiano spesso. Man mano che si estende nella conoscenza istituzionale relativa alle priorità strategiche, iniziative chiave e dinamiche organizzative, diventa una ricca fonte di contesto istituzionale.

Il successivo è la storia delle azioni, che si concentra su decisioni significative, attività ed eventi. Quando viene presentata una richiesta di servizio o viene messo in esercizio un sistema, l’agente riconosce quell’azione specifica e la registra nella storia delle azioni. Ciò diventa il registro storico che unisce il contesto organizzativo.

Infine, c’è il contesto conversazionale a breve termine. Pensatelo come l’interazione momento per momento con un agente. È utile nel momento, ma tende a perdere rapidamente la sua rilevanza.

Presi insieme, questi tre tipi di memoria creano il sistema di ponderazione che manca ai modelli generici di AI. Ora, quando qualcuno parla all’agente dell’azienda, sta classificando e dando priorità a tutta quella memoria e selezionando e organizzando le informazioni importanti. Ciò forma il nucleo di ciò che l’AI dovrebbe fornire: non solo dati di dominio, ma anche giudizio di dominio.

Come si presenta la memoria selezionata e organizzata su larga scala

Ma basta con il framework, cosa si vede nella pratica? Ecco cosa abbiamo scoperto costruendo questi agenti noi stessi.

Uno scenario comune nell’IT è l’invio di una segnalazione di problema a un agente di supporto. Supponiamo che il tuo Outlook non funzioni, quindi digiti una descrizione del problema e aspetti che l’agente lo esamini e suggerisca una soluzione.

Ma con la memoria selezionata e organizzata che lavora a tuo favore, un processo migliore potrebbe coinvolgere la creazione di uno screenshot che mostra l’errore di Outlook e l’upload di quel file all’agente. Ora l’agente (1) attinge alla memoria istituzionale per comprendere il tuo ambiente di lavoro; (2) controlla la storia delle azioni per incidenti correlati; e (3) applica un giudizio contestuale per una soluzione specifica, non solo una risposta generica.

Il risultato è un agente intelligente che non deve indovinare la risposta in base a uno screenshot. Ora sta davvero indagando, guardando tutte le informazioni attualmente in esecuzione e fornendo una risposta più utile. L’agente potrebbe anche espandersi in un effetto di rete o sciame, guardando altri utenti nel sistema per vedere se il problema di Outlook è solo tuo o un problema aziendale più ampio.

La contestualizzazione della storia o della memoria è il fattore determinante. Se non selezioni e organizzi efficacemente la tua memoria, rimarrai indietro rispetto a coloro che lo fanno. È essenziale avere un’architettura che sappia gestire quei dati nel tempo e capire cosa conservare, cosa mostrare e cosa lasciare andare.

Ritorno al Viaggio

Quindi, come è cambiata la mia visione dell’AI nell’IT aziendale grazie al mio pianificatore di viaggio basato su AI?

Ho costruito un’app che funge da nostro concierge personale di viaggio e inizia “intervistando” ogni partecipante. Noi tutti spieghiamo cosa ci importa nel viaggio: cosa è assolutamente necessario fare e cosa possiamo saltare. Ancora più importante, ci chiede del nostro “perché” — perché qualcosa è importante per noi, cosa significa per noi.

Utilizzando queste informazioni, fa due cose. Primo, cura un piano di viaggio che è equilibrato per offrire qualcosa a tutti — possiamo tutti vedere i nostri desideri e preferenze rappresentati nel piano che produce.

Ma, naturalmente, quel primo itinerario era solo una bozza. C’erano ancora molte domande a cui rispondere.

Ecco dove è avvenuta la vera magia. Abbiamo chiesto all’agente informazioni su un albergo, un’attrazione o un tragitto in auto, e le risposte che ci ha dato erano arricchite con il contesto della nostra situazione unica: “Sarebbe un lungo tragitto in auto per i bambini, ma mio suocero adorerebbe il castello (e il caffè unico accanto) — e questo potrebbe essere proprio il posto per mia moglie per farsi un massaggio”.

Pieno di questa comprensione ricca di cosa era importante per noi, è stato in grado di aiutarci a pianificare e raffinare il nostro viaggio in un modo che non credo sarebbe stato possibile in alcun altro modo.

E fu in uno di quei primi momenti che capii cosa dovevamo costruire per i nostri clienti aziendali: sistemi intelligenti che fossero così carichi di contesto organizzativo, transazionale e personale che ogni risposta e ogni interazione sarebbero state come un’impronta digitale: completamente uniche per quel momento e interazione, in modo da fornire un tipo di valore che semplicemente non potrebbe accadere in alcun altro modo.