I LLM non sono ragionamento — sono solo molto bravi a pianificare

I modelli linguistici di grandi dimensioni (LLM) come OpenAI’s o3, Google’s Gemini 2.0 (GOOGL ) e DeepSeek’s R1 hanno mostrato notevoli progressi nel risolvere problemi complessi, generare testi simili a quelli umani e anche scrivere codice con precisione. Questi LLM avanzati vengono spesso definiti come “modelli di ragionamento” per le loro notevoli capacità di analizzare e risolvere problemi complessi. Ma questi modelli ragionano veramente, o sono solo eccezionalmente bravi a pianificare? Questa distinzione è sottile ma profonda e ha importanti implicazioni per la comprensione delle capacità e dei limiti degli LLM.

Per comprendere questa distinzione, confrontiamo due scenari:

• Ragionamento: un detective che indaga su un crimine deve mettere insieme prove contraddittorie, dedurre quali sono false e arrivare a una conclusione basata su prove limitate. Questo processo coinvolge inferenza, risoluzione di contraddizioni e pensiero astratto.
• Pianificazione: un giocatore di scacchi che calcola la miglior sequenza di mosse per dare scacco matto all’avversario.

Mentre entrambi i processi coinvolgono più passaggi, il detective si impegna in un profondo ragionamento per trarre inferenze, valutare contraddizioni e applicare principi generali a un caso specifico. Il giocatore di scacchi, d’altra parte, si impegna principalmente nella pianificazione, selezionando una sequenza ottimale di mosse per vincere la partita. Gli LLM, come vedremo, funzionano molto più come il giocatore di scacchi che come il detective.

Comprendere la differenza: Ragionamento vs. Pianificazione

Per capire perché gli LLM sono bravi nella pianificazione e non nel ragionamento, è importante comprendere prima la differenza tra i due termini. Il ragionamento è il processo di derivare nuove conclusioni da premesse date utilizzando la logica e l’inferenza. Coinvolge l’identificazione e la correzione di incoerenze, la generazione di nuove intuizioni piuttosto che fornire solo informazioni, la presa di decisioni in situazioni ambigue e l’impegno in comprensione causale e pensiero controfattuale come “Cosa succederebbe se?” scenari.

La pianificazione, d’altra parte, si concentra sulla strutturazione di una sequenza di azioni per raggiungere un obiettivo specifico. Si basa sulla suddivisione di compiti complessi in passaggi più piccoli, sul seguire strategie di risoluzione dei problemi note, sull’adattamento di modelli precedentemente appresi a problemi simili e sull’esecuzione di sequenze strutturate piuttosto che sulla derivazione di nuove intuizioni. Mentre sia il ragionamento che la pianificazione coinvolgono l’elaborazione passo dopo passo, il ragionamento richiede un’astrazione e un’inferenza più profonde, mentre la pianificazione segue procedure stabilite senza generare conoscenze fondamentalmente nuove.

Come gli LLM si avvicinano al “Ragionamento”

I moderni LLM, come OpenAI’s o3 e DeepSeek-R1, sono dotati di una tecnica, nota come Chain-of-Thought (CoT) ragionamento, per migliorare le loro capacità di risoluzione dei problemi. Questo metodo incoraggia i modelli a suddividere i problemi in passaggi intermedi, mimando il modo in cui gli esseri umani pensano logicamente a un problema. Per vedere come funziona, consideriamo un semplice problema di matematica:

Se un negozio vende mele a 2 dollari l’una ma offre uno sconto di 1 dollaro per mela se si acquistano più di 5 mele, quanto costerebbero 7 mele?

Un tipico LLM che utilizza CoT potrebbe risolverlo in questo modo:

1. Determinare il prezzo regolare: 7 * 2 dollari = 14 dollari.
2. Identificare che lo sconto si applica (poiché 7 > 5).
3. Calcolare lo sconto: 7 * 1 dollaro = 7 dollari.
4. Sottrarre lo sconto dal totale: 14 dollari – 7 dollari = 7 dollari.

Suddividendo esplicitamente una sequenza di passaggi, il modello minimizza la possibilità di errori che sorgono dal tentativo di prevedere una risposta in un solo passaggio. Mentre questa suddivisione passo dopo passo fa sembrare che gli LLM ragionino, si tratta essenzialmente di una forma di risoluzione dei problemi strutturata, molto simile al seguire una ricetta passo dopo passo. D’altra parte, un vero processo di ragionamento potrebbe riconoscere una regola generale: Se lo sconto si applica oltre 5 mele, allora ogni mela costa 1 dollaro. Un essere umano può dedurre immediatamente una tale regola, ma un LLM non può, poiché segue semplicemente una sequenza strutturata di calcoli.

Perché Chain-of-Thought è pianificazione, non ragionamento

Mentre Chain-of-Thought (CoT) ha migliorato le prestazioni degli LLM in compiti orientati alla logica come problemi di parole matematiche e sfide di codifica, non coinvolge un vero ragionamento logico. Ciò è perché CoT segue la conoscenza procedurale, basandosi su passaggi strutturati piuttosto che generando nuove intuizioni. Mancano di una vera comprensione della causalità e delle relazioni astratte, il che significa che il modello non si impegna nel pensiero controfattuale o considera situazioni ipotetiche che richiedono intuizione oltre i dati visti. Inoltre, CoT non può fondamentalmente cambiare il proprio approccio oltre i modelli su cui è stato addestrato, limitando la sua capacità di ragionare in modo creativo o adattarsi in scenari non familiari.

Cosa servirebbe agli LLM per diventare vere macchine di ragionamento?

Quindi, cosa gli LLM necessitano per ragionare veramente come gli esseri umani? Ecco alcune aree chiave in cui richiedono miglioramenti e approcci potenziali per raggiungerlo:

1. Comprensione simbolica: gli esseri umani ragionano manipolando simboli e relazioni astratti. Gli LLM, tuttavia, mancano di un meccanismo di ragionamento simbolico genuino. Integrare l’intelligenza artificiale simbolica o modelli ibridi che combinano reti neurali con sistemi di logica formale potrebbe migliorare la loro capacità di impegnarsi in un vero ragionamento.
2. Inferenza causale: il vero ragionamento richiede la comprensione della causa e dell’effetto, non solo delle correlazioni statistiche. Un modello che ragiona deve inferire principi sottostanti dai dati piuttosto che prevedere semplicemente il prossimo token. La ricerca sull’intelligenza artificiale causale, che modella esplicitamente le relazioni causa-effetto, potrebbe aiutare gli LLM a passare dalla pianificazione al ragionamento.
3. Auto-riflessione e Metacognizione: gli esseri umani costantemente valutano i propri processi di pensiero chiedendosi “Ha senso questa conclusione?” Gli LLM, d’altra parte, non hanno un meccanismo per l’auto-riflessione. Costruire modelli che possano criticamente valutare i propri output sarebbe un passo verso il vero ragionamento.
4. Senso comune e intuizione: anche se gli LLM hanno accesso a grandi quantità di conoscenze, spesso lottano con il ragionamento di base del senso comune. Ciò accade perché non hanno esperienze del mondo reale per plasmare la loro intuizione e non possono facilmente riconoscere le assurdità che gli esseri umani noterebbero subito. Inoltre, mancano di un modo per portare dinamiche del mondo reale nella loro presa di decisioni. Un modo per migliorare questo potrebbe essere costruire un modello con un motore di senso comune, che potrebbe coinvolgere l’integrazione di input sensoriali del mondo reale o l’uso di grafi di conoscenza per aiutare il modello a comprendere meglio il mondo come fanno gli esseri umani.
5. Pensiero controfattuale: il ragionamento umano spesso coinvolge la domanda, “Cosa succederebbe se le cose fossero diverse?” Gli LLM lottano con questo tipo di “e se” scenari perché sono limitati dai dati su cui sono stati addestrati. Perché i modelli pensino più come gli esseri umani in queste situazioni, dovrebbero simulare scenari ipotetici e comprendere come i cambiamenti nelle variabili possano influenzare i risultati. Dovrebbero anche avere un modo per testare diverse possibilità e generare nuove intuizioni, piuttosto che prevedere solo sulla base di ciò che hanno già visto. Senza queste capacità, gli LLM non possono veramente immaginare futuri alternativi — possono solo lavorare con ciò che hanno imparato.

Conclusione

Mentre gli LLM possono sembrare ragionare, in realtà si affidano a tecniche di pianificazione per risolvere problemi complessi. Sia che si tratti di risolvere un problema di matematica o di impegnarsi in deduzione logica, stanno principalmente organizzando modelli noti in modo strutturato piuttosto che comprendere profondamente i principi alla base. Questa distinzione è cruciale nella ricerca sull’intelligenza artificiale perché se scambiamo una sofisticata pianificazione per un vero ragionamento, rischiamo di sovrastimare le vere capacità dell’IA.

La strada per un vero ragionamento dell’IA richiederà progressi fondamentali oltre la previsione del token e la pianificazione probabilistica. Richiederà breakthough nella logica simbolica, nella comprensione causale e nella metacognizione. Fino ad allora, gli LLM rimarranno potenti strumenti per la risoluzione dei problemi strutturati, ma non penseranno veramente come gli esseri umani.