Il tuo agente AI sa tutto — e non capisce nulla

“Dovremmo unirci ai miei suoceri nel loro viaggio in Irlanda” — questa frase apparentemente innocua mi ha mandato i brividi lungo la schiena.

Mia moglie e io viaggiamo molto. Sappiamo cosa ci piace. I genitori di mia moglie, d’altra parte, raramente viaggiano più di qualche centinaio di miglia dalla loro casa e hanno lasciato il paese insieme un totale di una volta — per il nostro matrimonio.

Per coronare il tutto, questo viaggio era un regalo di Natale di mio suocero a mia suocera in modo che potesse andare a visitare la sua famiglia, forse per l’ultima volta.

Potevo vedere questo viaggio svilupparsi in una sola parola: disastro. Come avremmo potuto sintetizzare esperienze e aspettative così diversificate in modo da poter avere un viaggio incredibile — o almeno non odiarci a vicenda alla fine di esso?

Come qualsiasi tecnico che si rispetti, ho cercato la tecnologia — specificamente l’AI.

Ma ciò che non mi aspettavo è che il mio piccolo esperimento di codifica dell’umore di un’app di pianificazione di viaggio per famiglie alimentata da AI mi avrebbe insegnato quasi tutto ciò che avevo bisogno di sapere sull’applicazione di AI all’interno dell’IT aziendale.

More You Feed AI, the Dumber It Gets

La maggior parte dei deploy di AI aziendali segue un pattern prevedibile. Le organizzazioni iniziano dando a un agente un set di istruzioni e collegandolo a una fonte di informazioni, che sia un framework RAG (Retrieval-Augmented Generation), una base di conoscenze esistente o anche un server MCP. Successivamente, si aggiunge uno strato LLM e lo si lascia fare la sua cosa.

Il problema è che gli LLM alla loro base sono stupidi. Non sanno come dare priorità a tutte le informazioni a loro disposizione, quindi tendono a trattare ogni pezzo di contesto in modo uguale. Un essere umano deve aggiungere uno strato di cura, insegnando al modello cosa è importante e cosa non lo è. Senza cura, si ottiene un AI che sa tutto e non capisce nulla.

I tre tipi di memoria che contano

La cura efficace dell’AI aziendale significa sfruttare al massimo tre tipi specifici di memoria.

Il primo è la memoria istituzionale, che può sembrare abbastanza basilare all’inizio. Quando qualcuno dice “servizi finanziari”, l’agente sa che si riferisce alla divisione Servizi Finanziari dell’azienda e non all’intera industria. Ciò diventa una conoscenza organizzativa persistente piena di definizioni, preferenze e convenzioni che non cambiano spesso. Man mano che si estende nella conoscenza istituzionale delle priorità strategiche, delle iniziative chiave e della dinamica organizzativa, diventa una ricca fonte di contesto istituzionale.

Il successivo è la storia delle azioni, che si concentra sulle decisioni significative, sui compiti e sugli eventi. Quando viene presentata una richiesta di servizio o viene distribuito un sistema, l’agente riconosce quell’azione specifica e la registra nella storia delle azioni. Ciò diventa il registro storico che cucisce insieme il contesto organizzativo.

Infine, c’è il contesto conversazionale a breve termine. Pensatelo come l’interazione momento per momento con un agente. È utile nel momento, ma tende a perdere rilevanza rapidamente.

Presi insieme, questi tre tipi di memoria creano il sistema di pesi che i modelli di AI generici mancano. Ora, quando qualcuno dice all’agente qualcosa sull’azienda, sta classificando e dando priorità a tutta quella memoria e curando le informazioni importanti. Ciò forma il nucleo di ciò che l’AI dovrebbe fornire: non solo dati di dominio, ma anche giudizio di dominio.

Cosa sembra la memoria curata su larga scala

Ma basta con il framework, cosa sembra nella pratica? Ecco cosa abbiamo scoperto costruendo questi agenti noi stessi.

Un scenario IT comune è l’invio di una richiesta di aiuto a un agente di supporto. Supponiamo che il tuo Outlook non funzioni, quindi digiti una descrizione del problema e aspetti che l’agente lo esamini e suggerisca una soluzione.

Ma con la memoria curata a nostro favore, un processo migliore potrebbe coinvolgere la cattura di uno screenshot che mostra l’errore di Outlook e il caricamento di quello all’agente. Ora l’agente (1) attinge alla memoria istituzionale per comprendere il tuo ambiente di lavoro; (2) controlla la storia delle azioni per incidenti correlati; e (3) applica il giudizio contestuale per una soluzione specifica, non solo una risposta generica.

Il risultato è un agente intelligente che non deve indovinare la risposta in base a uno screenshot. Ora sta effettivamente interrogando, guardando tutte le informazioni attualmente in esecuzione e fornendo una risposta più utile. L’agente potrebbe anche espandersi in un effetto di rete o sciame, guardando altri utenti nel sistema per vedere se il problema di Outlook è solo tuo o un problema aziendale su larga scala.

La contestualizzazione della storia o della memoria è il fattore determinante. Se non curi efficacemente la tua memoria, rimarrai indietro rispetto a coloro che lo fanno. È essenziale avere un’architettura che sappia come gestire quei dati nel tempo e capire cosa conservare, cosa mostrare e cosa lasciare andare.

Tornare al viaggio

Quindi, come ha cambiato il mio pianificatore di viaggio alimentato da AI la mia visione dell’AI nell’IT aziendale?

Ciò che ho costruito è un’app che ha agito come il nostro concierge personale di viaggio e ha iniziato “intervistando” ogni partecipante. Tutti abbiamo spiegato cosa ci importava nel viaggio: cosa era assolutamente da fare e cosa potevamo saltare. Ancor più importante, ci ha chiesto del nostro “perché” — perché qualcosa era importante per noi, cosa significava per noi.

Utilizzando queste informazioni, ha fatto due cose. In primo luogo, ha curato un piano di viaggio che era bilanciato per offrire qualcosa a tutti — potevamo tutti vedere i nostri desideri e preferenze rappresentati nel piano che ha prodotto.

Ma, naturalmente, quella prima bozza era solo un abbozzo. C’erano ancora molte domande a cui rispondere.

Ecco quando è accaduta la vera magia. Abbiamo chiesto all’agente di un albergo o di un’attrazione o di una guida, e le risposte che ci ha dato sono state arricchite con il contesto della nostra situazione unica: “Sarebbe una lunga guida per i bambini, ma mio suocero adorerebbe il castello (e il caffè unico accanto) — e questo potrebbe essere proprio il posto per mia moglie per ottenere quel massaggio”.

Pieno di questa comprensione ricca di ciò che era importante per noi, è stato in grado di aiutarci a pianificare e raffinare il nostro viaggio in un modo che non credo sarebbe stato possibile in alcun altro modo.

E fu in uno di quei primi momenti che ho capito cosa dovevamo costruire per i nostri clienti aziendali: sistemi intelligenti che fossero così carichi di contesto organizzativo, transazionale e personale che ogni risposta e ogni interazione sarebbero state come un’impronta digitale: completamente uniche per quel momento e interazione che avrebbero fornito un tipo di valore che semplicemente non avrebbe potuto accadere in alcun altro modo.