3 Modi per Mantenere Freschi i Fatti Obsoleti nei Modelli Linguistici di Grande Scala

I Modelli Linguistici di Grande Scala (LLM) come GPT3, ChatGPT e BARD sono tutti l’argomento del giorno. Tutti hanno un’opinione su come questi strumenti siano buoni o cattivi per la società e cosa significhino per il futuro dell’AI. Google ha ricevuto molte critiche per il suo nuovo modello BARD che ha risposto in modo errato a una domanda complessa (leggermente). Quando gli è stato chiesto “Quali nuove scoperte del telescopio spaziale James Webb posso raccontare a mio figlio di 9 anni?” – il chatbot ha fornito tre risposte, di cui 2 erano corrette e 1 era errata. La risposta errata era che la prima “immagine di esopianeta” era stata scattata da JWST, il che era incorretto. Quindi, fondamentalmente, il modello aveva un fatto errato memorizzato nella sua conoscenza. Perché i modelli linguistici di grande scala siano efficaci, abbiamo bisogno di un modo per tenere questi fatti aggiornati o integrare i fatti con nuove conoscenze.

Guardiamo prima come vengono memorizzati i fatti all’interno di un modello linguistico di grande scala (LLM). I modelli linguistici di grande scala non memorizzano le informazioni e i fatti in senso tradizionale come i database o i file. Invece, sono stati addestrati su grandi quantità di dati testuali e hanno appreso modelli e relazioni in quei dati. Ciò consente loro di generare risposte simili a quelle umane alle domande, ma non hanno un luogo di memorizzazione specifico per le informazioni apprese. Quando rispondono a una domanda, il modello utilizza il suo addestramento per generare una risposta in base all’input che riceve. Le informazioni e le conoscenze che un modello linguistico ha sono il risultato dei modelli che ha appreso nei dati su cui è stato addestrato, non il risultato di essere memorizzato esplicitamente nella memoria del modello. L’architettura Transformer su cui si basano la maggior parte dei moderni LLM ha una codifica interna dei fatti utilizzata per rispondere alle domande poste nel prompt.

Quindi, se i fatti all’interno della memoria interna dell’LLM sono errati o obsoleti, è necessario fornire nuove informazioni tramite un prompt. Il prompt è il testo inviato all’LLM con la query e le prove a sostegno che possono essere alcuni nuovi fatti corretti. Ecco 3 modi per affrontare questo.

1. Un modo per correggere i fatti codificati di un LLM è fornire nuovi fatti rilevanti per il contesto utilizzando una conoscenza esterna. Questa conoscenza può essere chiamate API per ottenere informazioni rilevanti o una ricerca su un database SQL, No-SQL o vettoriale. Conoscenze più avanzate possono essere estratte da un grafo di conoscenza che memorizza entità di dati e relazioni tra loro. A seconda delle informazioni che l’utente sta richiedendo, le informazioni di contesto rilevanti possono essere recuperate e fornite come fatti aggiuntivi all’LLM. Questi fatti possono anche essere formattati per sembrare esempi di addestramento per migliorare il processo di apprendimento. Ad esempio, è possibile passare una serie di paia di domande e risposte perché il modello impari a fornire risposte.

2. Un modo più innovativo (e più costoso) per integrare l’LLM è l’addestramento fine utilizzando dati di addestramento. Quindi, invece di richiedere una conoscenza per aggiungere fatti specifici, costruiamo un set di dati di addestramento campionando la conoscenza. Utilizzando tecniche di apprendimento supervisionato come l’addestramento fine, potremmo creare una nuova versione dell’LLM addestrata su questa conoscenza aggiuntiva. Questo processo è generalmente costoso e può costare alcuni migliaia di dollari per costruire e mantenere un modello addestrato fine in OpenAI. Naturalmente, il costo è destinato a diminuire nel tempo.

3. Un’altra opzione è utilizzare metodi come l’apprendimento per rinforzo (RL) per addestrare un agente con feedback umano e imparare una politica su come rispondere alle domande. Questo metodo è stato molto efficace nel costruire modelli con un’impronta più piccola che diventano bravi in compiti specifici. Ad esempio, il famoso ChatGPT rilasciato da OpenAI è stato addestrato su una combinazione di apprendimento supervisionato e RL con feedback umano.

In sintesi, questo è uno spazio in continua evoluzione con ogni grande azienda che vuole entrare e mostrare la propria differenziazione. Presto vedremo strumenti LLM importanti in molti settori come retail, sanità e banca che possono rispondere in modo simile a quello umano comprendendo le sfumature del linguaggio. Questi strumenti LLM integrati con dati aziendali possono semplificare l’accesso e rendere disponibili i dati giusti alle persone giuste al momento giusto.