L’evoluzione della mente di DeepMind: potenziare i modelli linguistici di grandi dimensioni per la risoluzione di problemi del mondo reale

Negli ultimi anni, l’intelligenza artificiale (AI) è emersa come uno strumento pratico per guidare l’innovazione in vari settori. In prima linea di questo progresso ci sono i modelli linguistici di grandi dimensioni (LLM) noti per la loro capacità di comprendere e generare linguaggio umano. Sebbene gli LLM si comportino bene in compiti come l’AI conversazionale e la creazione di contenuti, spesso lottano con sfide del mondo reale complesse che richiedono ragionamento strutturato e pianificazione.

Ad esempio, se chiedi a un LLM di pianificare un viaggio d’affari in più città che coinvolga la coordinazione degli orari dei voli, gli orari delle riunioni, le limitazioni di budget e il riposo adeguato, possono fornire suggerimenti per aspetti individuali. Tuttavia, spesso affrontano sfide nell’integrare questi aspetti per bilanciare efficacemente le priorità in competizione. Questa limitazione diventa ancora più evidente poiché gli LLM sono sempre più utilizzati per costruire agenti AI in grado di risolvere problemi del mondo reale in modo autonomo.

Google DeepMind ha di recente sviluppato una soluzione per affrontare questo problema. Ispirata alla selezione naturale, questo approccio, noto come Evoluzione della mente, raffina le strategie di risoluzione dei problemi attraverso l’adattamento iterativo. Guidando gli LLM in tempo reale, consente loro di affrontare compiti del mondo reale complessi in modo efficace e di adattarsi a scenari dinamici. In questo articolo, esploreremo come funziona questo metodo innovativo, le sue potenziali applicazioni e cosa significa per il futuro della risoluzione dei problemi guidata dall’AI.

Perché gli LLM lottano con il ragionamento complesso e la pianificazione

Gli LLM sono addestrati a prevedere la prossima parola in una frase analizzando modelli in grandi set di dati testuali, come libri, articoli e contenuti online. Ciò consente loro di generare risposte che appaiono logiche e contestualmente adeguate. Tuttavia, questo addestramento si basa sul riconoscimento di modelli piuttosto che sulla comprensione del significato. Di conseguenza, gli LLM possono produrre testi che appaiono logici ma lottano con compiti che richiedono un ragionamento più profondo o una pianificazione strutturata.

La limitazione fondamentale risiede nel modo in cui gli LLM elaborano le informazioni. Si concentrano sulle probabilità o sui modelli piuttosto che sulla logica, il che significa che possono gestire compiti isolati – come suggerire opzioni di volo o raccomandazioni di hotel – ma falliscono quando questi compiti devono essere integrati in un piano coerente. Ciò rende anche difficile per loro mantenere il contesto nel tempo. I compiti complessi spesso richiedono il monitoraggio delle decisioni precedenti e l’adattamento alla nuova informazione che emerge. Gli LLM, tuttavia, tendono a perdere il focus nelle interazioni prolungate, portando a output frammentati o incoerenti.

Come funziona l’Evoluzione della mente

L’Evoluzione della mente di DeepMind affronta queste carenze adottando principi dall’evoluzione naturale. Invece di produrre una singola risposta a una query complessa, questo approccio genera molte soluzioni potenziali, le raffina iterativamente e seleziona il miglior risultato attraverso un processo di valutazione strutturato. Ad esempio, considera un team che fa brainstorming di idee per un progetto. Alcune idee sono grandi, altre meno. Il team valuta tutte le idee, tiene le migliori e scarta il resto. Quindi migliora le migliori idee, introduce nuove variazioni e ripete il processo fino a raggiungere la soluzione migliore. L’Evoluzione della mente applica questo principio agli LLM.

Ecco una panoramica di come funziona:

1. Generazione: Il processo inizia con l’LLM che crea molte risposte a un problema dato. Ad esempio, in un compito di pianificazione di viaggio, il modello può creare vari itinerari in base al budget, al tempo e alle preferenze dell’utente.
2. Valutazione: Ogni soluzione viene valutata contro una funzione di idoneità, una misura di quanto bene soddisfa i requisiti del compito. Le risposte di bassa qualità vengono scartate, mentre i candidati più promettenti proseguono al prossimo stadio.
3. Raffinamento: Un’innovazione unica dell’Evoluzione della mente è il dialogo tra due personaggi all’interno dell’LLM: l’Autore e il Critico. L’Autore propone soluzioni, mentre il Critico identifica i difetti e fornisce feedback. Questo dialogo strutturato rispecchia il modo in cui gli esseri umani raffinano le idee attraverso la critica e la revisione. Ad esempio, se l’Autore suggerisce un piano di viaggio che include una visita a un ristorante che supera il budget, il Critico lo segnala. L’Autore quindi revisiona il piano per affrontare le preoccupazioni del Critico. Questo processo consente agli LLM di eseguire un’analisi approfondita che non potevano eseguire in precedenza utilizzando altre tecniche di prompt.
4. Ottimizzazione iterativa: Le soluzioni raffinate subiscono ulteriori valutazioni e ricombinazioni per produrre soluzioni raffinate.

Ripetendo questo ciclo, l’Evoluzione della mente migliora iterativamente la qualità delle soluzioni, consentendo agli LLM di affrontare compiti complessi più efficacemente.

L’Evoluzione della mente in azione

DeepMind ha testato questo approccio su benchmark come TravelPlanner e Natural Plan. Utilizzando questo approccio, Gemini di Google ha raggiunto un tasso di successo del 95,2% su TravelPlanner, un miglioramento notevole rispetto al valore di base del 5,6%. Con il più avanzato Gemini Pro, i tassi di successo sono aumentati a quasi il 99,9%. Queste prestazioni trasformative mostrano l’efficacia dell’evoluzione della mente nell’affrontare sfide pratiche.

Inoltre, l’efficacia del modello aumenta con la complessità del compito. Ad esempio, mentre i metodi a singola passata lottavano con itinerari multipli che coinvolgevano più città, l’Evoluzione della mente ha costantemente superato, mantenendo alti tassi di successo anche quando il numero di vincoli aumentava.

Sfide e direzioni future

Nonostante il suo successo, l’Evoluzione della mente non è senza limitazioni. L’approccio richiede risorse computazionali significative a causa dei processi di valutazione e raffinamento iterativi. Ad esempio, la risoluzione di un compito TravelPlanner con l’Evoluzione della mente ha consumato tre milioni di token e 167 chiamate API, sostanzialmente più dei metodi convenzionali. Tuttavia, l’approccio rimane più efficiente delle strategie brute come la ricerca esaustiva.

Inoltre, progettare funzioni di idoneità efficaci per determinati compiti potrebbe essere un’impresa impegnativa. La ricerca futura potrebbe concentrarsi sull’ottimizzazione dell’efficienza computazionale e sull’ampliamento dell’applicabilità della tecnica a un’ampia gamma di problemi, come la scrittura creativa o la presa di decisioni complesse.

Un’altra area interessante da esplorare è l’integrazione di valutatori specifici del dominio. Ad esempio, nella diagnosi medica, l’inclusione della conoscenza degli esperti nella funzione di idoneità potrebbe ulteriormente migliorare l’accuratezza e l’affidabilità del modello.

Applicazioni oltre la pianificazione

Sebbene l’Evoluzione della mente sia principalmente valutata su compiti di pianificazione, potrebbe essere applicata a vari domini, tra cui scrittura creativa, scoperta scientifica e anche generazione di codice. Ad esempio, i ricercatori hanno introdotto un benchmark chiamato StegPoet, che sfida il modello a codificare messaggi nascosti all’interno di poesie. Sebbene questo compito rimanga difficile, l’Evoluzione della mente supera i metodi tradizionali raggiungendo tassi di successo fino al 79,2%.

La capacità di adattare e far evolvere le soluzioni nel linguaggio naturale apre nuove possibilità per affrontare problemi difficili da formalizzare, come migliorare i flussi di lavoro o generare progetti di prodotti innovativi. Sfruttando il potere degli algoritmi evolutivi, l’Evoluzione della mente fornisce un framework flessibile e scalabile per migliorare le capacità di risoluzione dei problemi degli LLM.

Il punto fondamentale

L’Evoluzione della mente di DeepMind introduce un modo pratico ed efficace per superare le limitazioni chiave degli LLM. Utilizzando il raffinamento iterativo ispirato alla selezione naturale, migliora la capacità di questi modelli di gestire compiti complessi e multi-step che richiedono ragionamento strutturato e pianificazione. L’approccio ha già mostrato un successo significativo in scenari impegnativi come la pianificazione di viaggi e dimostra promesse in diversi domini, tra cui scrittura creativa, ricerca scientifica e generazione di codice. Sebbene sfide come i costi computazionali elevati e la necessità di funzioni di idoneità ben progettate rimangano, l’approccio fornisce un framework scalabile per migliorare le capacità dell’AI. L’Evoluzione della mente prepara il terreno per sistemi AI più potenti in grado di ragionare e pianificare per risolvere sfide del mondo reale.