Prompting Analogico e Step-Back: un’immersione negli ultimi progressi di Google DeepMind

Introduzione

L’ingegneria delle promt si concentra sulla creazione di promt efficaci per guidare i Modelli di Linguaggio di Grande Scala (LLM) come GPT-4 nella generazione di risposte desiderate. Un prompt ben costruito può fare la differenza tra una risposta vaga o inaccurata e una precisa e approfondita.

Nell’ecosistema più ampio dell’IA, l’ingegneria delle promt è uno dei metodi utilizzati per estrarre informazioni più accurate e contestualmente rilevanti dai modelli di linguaggio. Altri metodi includono tecniche come l’apprendimento a pochi esempi, in cui il modello viene fornito di alcuni esempi per aiutarlo a comprendere il compito, e la fine-tuning, in cui il modello viene ulteriormente addestrato su un set di dati più piccolo per specializzare le sue risposte.

Google DeepMind (GOOGL ) ha recentemente pubblicato due articoli che si addentrano nell’ingegneria delle promt e nel suo potenziale per migliorare le risposte in molteplici situazioni.

Questi articoli fanno parte dell’esplorazione in corso nella comunità dell’IA per raffinare e ottimizzare la comunicazione con i modelli di linguaggio, e forniscono nuove intuizioni sulla strutturazione delle promt per una migliore gestione delle query e interazione con i database.

Questo articolo si addentra nei dettagli di questi articoli di ricerca, illustrando i concetti, le metodologie e le implicazioni delle tecniche proposte, rendendoli accessibili anche ai lettori con conoscenze limitate in IA e NLP.

Articolo 1: Modelli di Linguaggio di Grande Scala come Ragionatori Analogici

Il primo articolo, intitolato “Modelli di Linguaggio di Grande Scala come Ragionatori Analogici”, introduce un nuovo approccio di prompting chiamato Prompting Analogico. Gli autori, Michihiro Yasunaga, Xinyun Chen e altri, traggono ispirazione dal ragionamento analogico – un processo cognitivo in cui gli esseri umani utilizzano esperienze passate per affrontare nuovi problemi.

Concetti Chiave e Metodologia

Il Prompting Analogico incoraggia gli LLM a generare autonomamente esempi o conoscenze pertinenti nel contesto prima di procedere a risolvere un problema dato. Questo approccio elimina la necessità di esempi etichettati, offrendo generalità e convenienza, e adatta gli esempi generati a ciascun problema specifico, garantendo adattabilità.

Sinistra: metodi tradizionali di prompting degli LLM si basano su input generici (0-shot CoT) o richiedono esempi etichettati (few-shot CoT). Destra: il nuovo approccio promt gli LLM a creare autonomamente esempi pertinenti prima di risolvere il problema, eliminando la necessità di etichettatura e personalizzando gli esempi per ciascun problema unico

Esempi Generati Autonomamente

La prima tecnica presentata nell’articolo è quella degli esempi generati autonomamente. L’idea è di sfruttare le conoscenze estese che gli LLM hanno acquisito durante l’addestramento per aiutarli a risolvere nuovi problemi. Il processo coinvolge l’aggiunta di istruzioni al problema bersaglio che promt il modello a ricordare o generare problemi e soluzioni pertinenti.

Ad esempio, dato un problema, il modello viene istruito a ricordare tre problemi distinti e pertinenti, descriverli ed esplicare le loro soluzioni. Questo processo è progettato per essere eseguito in un’unica passata, consentendo all’LLM di generare esempi pertinenti e risolvere il problema iniziale in modo fluido. L’uso di simboli ‘#’ nelle promt aiuta a strutturare la risposta, rendendola più organizzata e facile per il modello da seguire.

Le decisioni tecniche chiave evidenziate nell’articolo includono l’accento sulla generazione di esempi pertinenti e diversi, l’adozione di un approccio in un’unica passata per una maggiore convenienza e la scoperta che la generazione di tre o cinque esempi produce i migliori risultati.

Conoscenza Generata Autonomamente + Esempi

La seconda tecnica, conoscenza generata autonomamente + esempi, è introdotta per affrontare sfide in compiti più complessi, come la generazione di codice. In questi scenari, gli LLM potrebbero fare affidamento eccessivo su esempi a basso livello e lottare per generalizzare quando si risolve il problema bersaglio. Per mitigare questo, gli autori propongono di arricchire la promt con un’istruzione aggiuntiva che incoraggia il modello a identificare concetti chiave nel problema e fornire un tutorial o un concetto di alto livello.

Un’importante considerazione è l’ordine in cui la conoscenza e gli esempi vengono generati. Gli autori hanno scoperto che generare la conoscenza prima degli esempi porta a migliori risultati, poiché aiuta l’LLM a concentrarsi sugli approcci fondamentali di risoluzione dei problemi piuttosto che su somiglianze superficiali.

Vantaggi e Applicazioni

L’approccio di prompting analogico offre diversi vantaggi. Fornisce esempi dettagliati di ragionamento senza la necessità di etichettatura manuale, affrontando le sfide associate ai metodi 0-shot e few-shot chain-of-thought (CoT). Inoltre, gli esempi generati sono personalizzati per problemi individuali, offrendo una guida più pertinente rispetto ai metodi tradizionali few-shot CoT, che utilizzano esempi fissi.

L’articolo dimostra l’efficacia di questo approccio in vari compiti di ragionamento, tra cui la risoluzione di problemi matematici, la generazione di codice e altri compiti di ragionamento in BIG-Bench.

Prestazione su compiti matematici, GSM8K e MATH

Nel secondo tabello, per i modelli GPT3.5-turbo-16k e GPT4, “Conoscenza Generata Autonomamente + Esempi” mostra la migliore prestazione.

Prestazione sul compito di generazione di codice Codeforces

Articolo 2: Fare un Passo Indietro: Evocare il Ragionamento tramite l’Astrazione nei Modelli di Linguaggio di Grande Scala

Panoramica

Il secondo articolo, “Fare un Passo Indietro: Evocare il Ragionamento tramite l’Astrazione nei Modelli di Linguaggio di Grande Scala” presenta il Prompting Step-Back, una tecnica che incoraggia gli LLM a derivare concetti di alto livello e principi fondamentali da istanze dettagliate. Gli autori, Huaixiu Steven Zheng, Swaroop Mishra e altri, mirano a migliorare le capacità di ragionamento degli LLM guidandoli a seguire un percorso di ragionamento corretto verso la soluzione.

Rappresentazione del PROMPTING STEP-BACK attraverso due fasi di Astrazione e Ragionamento, guidate da concetti chiave e principi.

Creiamo un esempio più semplice utilizzando una domanda matematica di base per dimostrare la tecnica “Domanda Step-Back”:

Domanda Originale: Se un treno viaggia a una velocità di 60 km/h e copre una distanza di 120 km, quanto tempo ci vorrà?

Opzioni:

3 ore
2 ore
1 ora
4 ore
Risposta Originale [Incorretta]: La risposta corretta è 1).

Domanda Step-Back: Qual è la formula di base per calcolare il tempo dato la velocità e la distanza?

Principi:
Per calcolare il tempo, utilizziamo la formula:
Tempo = Distanza / Velocità

Risposta Finale:
Utilizzando la formula, Tempo = 120 km / 60 km/h = 2 ore.
La risposta corretta è 2) 2 ore.

Sebbene gli LLM possano facilmente rispondere alla domanda sopra, questo esempio serve solo a dimostrare come funziona la tecnica step-back. Per scenari più impegnativi, la stessa tecnica può essere applicata per affrontare e risolvere il problema in modo sistematico. Di seguito è riportato un caso più complesso dimostrato nell’articolo:

PROMPTING STEP-BACK sul set di dati MMLU-Chimica

Concetti Chiave e Metodologia

L’essenza del Prompting Step-Back risiede nella sua capacità di far fare un passo indietro agli LLM, incoraggiandoli a guardare il quadro più ampio piuttosto che perdersi nei dettagli. Ciò si ottiene attraverso una serie di promt accuratamente progettate che guidano gli LLM ad astraire informazioni, derivare concetti di alto livello e applicarli per risolvere il problema dato.

Il processo inizia con l’LLM che viene promt a derivare dettagli dalle istanze date, incoraggiandolo a concentrarsi sui concetti e principi sottostanti. Questo passaggio è cruciale poiché stabilisce la base per l’LLM per affrontare il problema da una prospettiva più informata e fondata sui principi.

Una volta derivati i concetti di alto livello, vengono utilizzati per guidare l’LLM attraverso i passaggi di ragionamento verso la soluzione. Questa guida assicura che l’LLM rimanga sulla strada giusta, seguendo un percorso logico e coerente fondato sui concetti e principi astratti.

Gli autori conducono una serie di esperimenti per validare l’efficacia del Prompting Step-Back, utilizzando modelli PaLM-2L in una gamma di compiti impegnativi di ragionamento. Questi compiti includono problemi STEM, Knowledge QA e Multi-Hop Reasoning, fornendo un test completo per valutare la tecnica.

Miglioramenti Sostanziali in Tutti i Compiti

I risultati sono impressionanti, con il Prompting Step-Back che porta a significativi guadagni di prestazione in tutti i compiti. Ad esempio, la tecnica migliora la prestazione del modello PaLM-2L su MMLU Fisica e Chimica del 7% e dell’11%, rispettivamente. Allo stesso modo, aumenta la prestazione su TimeQA del 27% e su MuSiQue del 7%.

Prestazione del PROMPTING STEP-BACK vs CoT

Questi risultati sottolineano il potenziale del Prompting Step-Back per migliorare significativamente le capacità di ragionamento degli LLM.

Conclusione

Entrambi gli articoli di Google DeepMind presentano approcci innovativi all’ingegneria delle promt, mirando a migliorare le capacità di ragionamento dei modelli di linguaggio di grande scala. Il Prompting Analogico sfrutta il concetto di ragionamento analogico, incoraggiando i modelli a generare i propri esempi e conoscenze, portando a una risoluzione dei problemi più adattabile ed efficiente. D’altra parte, il Prompting Step-Back si concentra sull’astrazione, guidando i modelli a derivare concetti di alto livello e principi, migliorando così le loro capacità di ragionamento.

Questi articoli di ricerca forniscono approfondimenti preziosi e metodologie che possono essere applicate in vari domini, portando a modelli di linguaggio più intelligenti e capaci. Mentre continuiamo a esplorare e comprendere le sfumature dell’ingegneria delle promt, questi approcci servono come fondamentali passi verso il raggiungimento di sistemi di IA più avanzati e sofisticati.