Come Phi-4-Reasoning ridisegna il ragionamento AI sfidando il mito “più grande è meglio”

La recente release di Microsoft (MSFT ) di Phi-4-reasoning sfida un’ipotesi fondamentale nella costruzione di sistemi di intelligenza artificiale in grado di ragionare. Dalla introduzione del ragionamento a catena di pensieri nel 2022, i ricercatori credevano che il ragionamento avanzato richiedesse modelli linguistici molto grandi con centinaia di miliardi di parametri. Tuttavia, il nuovo modello di Microsoft da 14 miliardi di parametri, Phi-4-reasoning, mette in discussione questa convinzione. Utilizzando un approccio data-centric anziché affidarsi alla pura potenza computazionale, il modello raggiunge prestazioni paragonabili a sistemi molto più grandi. Questa svolta dimostra che un approccio data-centric può essere altrettanto efficace per l’addestramento di modelli di ragionamento quanto lo è per l’addestramento di modelli di intelligenza artificiale convenzionali. Ciò apre la possibilità per modelli di intelligenza artificiale più piccoli di raggiungere un ragionamento avanzato cambiando il modo in cui gli sviluppatori di intelligenza artificiale addestrano i modelli di ragionamento, spostandosi da “più grande è meglio” a “migliori dati sono meglio”.

Il paradigma di ragionamento tradizionale

Il ragionamento a catena di pensieri è diventato uno standard per risolvere problemi complessi nell’intelligenza artificiale. Questa tecnica guida i modelli linguistici attraverso un ragionamento passo dopo passo, scomponendo problemi difficili in passaggi più piccoli e gestibili. Mimica il pensiero umano facendo sì che i modelli “pensino ad alta voce” in linguaggio naturale prima di dare una risposta.

Tuttavia, questa capacità è arrivata con una limitazione importante. I ricercatori hanno costantemente scoperto che il ragionamento a catena di pensieri funzionava bene solo quando i modelli linguistici erano molto grandi. La capacità di ragionamento sembrava direttamente legata alle dimensioni del modello, con modelli più grandi che si esibivano meglio in compiti di ragionamento complesso. Ciò ha portato a una competizione nella costruzione di modelli di ragionamento grandi, dove le aziende si sono concentrate nel trasformare i loro grandi modelli linguistici in potenti motori di ragionamento.

L’idea di incorporare capacità di ragionamento nei modelli di intelligenza artificiale proveniva principalmente dall’osservazione che i grandi modelli linguistici possono eseguire apprendimento in contesto. I ricercatori hanno osservato che quando i modelli vengono mostrati esempi di come risolvere problemi passo dopo passo, imparano a seguire questo modello per nuovi problemi. Ciò ha portato alla convinzione che modelli più grandi addestrati su vasti dati sviluppassero naturalmente un ragionamento più avanzato. La forte connessione tra le dimensioni del modello e le prestazioni del ragionamento è diventata una verità accettata. Le squadre hanno investito enormi risorse nello scaling delle capacità di ragionamento utilizzando apprendimento per rinforzo, credendo che la potenza computazionale fosse la chiave per un ragionamento avanzato.

Comprendere l’approccio data-centric

La crescita dell’intelligenza artificiale data-centric sfida la mentalità “più grande è meglio”. Questo approccio sposta l’attenzione dall’architettura del modello all’ingegneria accurata dei dati utilizzati per addestrare i sistemi di intelligenza artificiale. Invece di trattare i dati come input fisso, la metodologia data-centric vede i dati come materiale che può essere migliorato e ottimizzato per aumentare le prestazioni dell’intelligenza artificiale.

Andrew Ng, un leader in questo campo, promuove la costruzione di pratiche di ingegneria sistematiche per migliorare la qualità dei dati anziché semplicemente regolare il codice o scalare i modelli. Questa filosofia riconosce che la qualità e la cura dei dati spesso contano più delle dimensioni del modello. Le aziende che adottano questo approccio mostrano che modelli più piccoli e ben addestrati possono superare modelli più grandi se addestrati su dataset di alta qualità e accuratamente preparati.

L’approccio data-centric pone una domanda diversa: “Come possiamo migliorare i nostri dati?” anziché “Come possiamo rendere il modello più grande?” Ciò significa creare dataset di addestramento migliori, migliorare la qualità dei dati e sviluppare un’ingegneria dei dati sistematica. Nell’intelligenza artificiale data-centric, l’attenzione si concentra su cosa rende i dati efficaci per specifiche attività, non solo su come raccoglierne di più.

Questo approccio ha mostrato grandi promesse nell’addestramento di modelli di intelligenza artificiale piccoli ma potenti utilizzando piccoli dataset e molto meno calcolo. I modelli Phi di Microsoft sono un buon esempio di addestramento di modelli linguistici piccoli utilizzando un approccio data-centric. Questi modelli sono addestrati utilizzando apprendimento a curriculum che è principalmente ispirato a come i bambini imparano attraverso esempi progressivamente più difficili. Inizialmente i modelli vengono addestrati su esempi facili, che vengono poi gradualmente sostituiti con esempi più difficili. Microsoft ha costruito un dataset da libri di testo, come spiegato nel loro articolo “I libri di testo sono tutto ciò di cui hai bisogno.” Ciò ha aiutato Phi-3 a superare modelli come Google’s (GOOGL ) Gemma e GPT 3.5 in attività come la comprensione del linguaggio, la conoscenza generale, i problemi di matematica della scuola elementare e le risposte alle domande mediche.

Nonostante il successo dell’approccio data-centric, il ragionamento è generalmente rimasto una caratteristica dei modelli di intelligenza artificiale più grandi. Ciò è dovuto al fatto che il ragionamento richiede pattern e conoscenze complesse che i modelli su larga scala catturano più facilmente. Tuttavia, questa convinzione è stata recentemente sfidata dallo sviluppo del modello Phi-4-reasoning.

La strategia di svolta di Phi-4-reasoning

Phi-4-reasoning mostra come l’approccio data-centric possa essere utilizzato per addestrare modelli di ragionamento piccoli. Il modello è stato costruito attraverso un addestramento fine-tuning supervisionato del modello base Phi-4 su prompt e esempi di ragionamento accuratamente selezionati generati con OpenAI’s o3-mini. L’attenzione si è concentrata sulla qualità e sulla specificità anziché sulle dimensioni del dataset. Il modello è addestrato utilizzando circa 1,4 milioni di prompt di alta qualità anziché miliardi di prompt generici. I ricercatori hanno filtrato gli esempi per coprire diversi livelli di difficoltà e tipi di ragionamento, assicurando la diversità. Questa cura nella selezione ha reso ogni esempio di addestramento finalizzato all’insegnamento di specifici pattern di ragionamento anziché semplicemente aumentare il volume dei dati.

Nell’addestramento fine-tuning supervisionato, il modello è stato addestrato con dimostrazioni complete di ragionamento che coinvolgono l’intero processo di pensiero. Queste catene di ragionamento passo dopo passo hanno aiutato il modello a imparare come costruire argomenti logici e risolvere problemi in modo sistematico. Per ulteriormente migliorare le capacità di ragionamento del modello, è stato ulteriormente raffinato con apprendimento per rinforzo su circa 6.000 problemi di matematica di alta qualità con soluzioni verificate. Ciò mostra che anche piccole quantità di apprendimento per rinforzo focalizzato possono migliorare significativamente il ragionamento quando applicate a dati ben curati.

Prestazioni oltre le aspettative

I risultati dimostrano che questo approccio data-centric funziona. Phi-4-reasoning supera modelli molto più grandi come DeepSeek-R1-Distill-Llama-70B e si avvicina quasi al modello completo DeepSeek-R1, nonostante sia molto più piccolo. Nel test AIME 2025 (un qualificatore per l’Olimpiade di matematica degli Stati Uniti), Phi-4-reasoning supera DeepSeek-R1, che ha 671 miliardi di parametri.

Questi guadagni vanno oltre la matematica e si estendono alla risoluzione di problemi scientifici, alla codifica, agli algoritmi, alla pianificazione e ai compiti spaziali. I miglioramenti derivanti dalla cura accurata dei dati si trasferiscono bene ai benchmark generali, suggerendo che questo metodo costruisce abilità di ragionamento fondamentali anziché trucchi specifici per le attività.

Phi-4-reasoning sfida l’idea che il ragionamento avanzato necessiti di una potenza computazionale massiccia. Un modello da 14 miliardi di parametri può eguagliare le prestazioni di modelli decine di volte più grandi quando addestrato su dati accuratamente curati. Questa efficienza ha importanti conseguenze per il deploy di sistemi di ragionamento dell’intelligenza artificiale in ambienti con risorse limitate.

Implicazioni per lo sviluppo dell’intelligenza artificiale

Il successo di Phi-4-reasoning segnala un cambio di direzione nel modo in cui i modelli di ragionamento dell’intelligenza artificiale dovrebbero essere costruiti. Invece di concentrarsi principalmente sull’aumento delle dimensioni del modello, le squadre possono ottenere risultati migliori investendo nella qualità e nella cura dei dati. Ciò rende il ragionamento avanzato più accessibile alle organizzazioni senza enormi budget di calcolo.

Il metodo data-centric apre anche nuove vie di ricerca. Il lavoro futuro può concentrarsi sulla scoperta di prompt di addestramento migliori, sulla creazione di dimostrazioni di ragionamento più ricche e sulla comprensione di quali dati aiutino meglio il ragionamento. Queste direzioni potrebbero essere più produttive che semplicemente costruire modelli più grandi.

Inoltre, ciò può aiutare a democratizzare l’intelligenza artificiale. Se modelli più piccoli addestrati su dati curati possono eguagliare i modelli più grandi, l’intelligenza artificiale avanzata diventa disponibile per più sviluppatori e organizzazioni. Ciò può anche accelerare l’adozione e l’innovazione dell’intelligenza artificiale in aree dove i modelli molto grandi non sono pratici.

Il futuro dei modelli di ragionamento

Phi-4-reasoning stabilisce un nuovo standard per lo sviluppo dei modelli di ragionamento. I futuri sistemi di intelligenza artificiale bilanceranno probabilmente la cura accurata dei dati con miglioramenti architettonici. Questo approccio riconosce che sia la qualità dei dati che la progettazione del modello sono importanti, ma migliorare i dati potrebbe portare a guadagni più rapidi e cost-effective.

Ciò consente anche la creazione di modelli di ragionamento specializzati addestrati su dati specifici di dominio. Invece di giganti general-purpose, le squadre possono costruire modelli focalizzati che eccellono in campi specifici attraverso la cura mirata dei dati. Ciò creerà intelligenza artificiale più efficiente per usi specifici.

Mentre l’intelligenza artificiale avanza, le lezioni tratte da Phi-4-reasoning influenzeranno non solo l’addestramento dei modelli di ragionamento, ma lo sviluppo dell’intelligenza artificiale nel suo complesso. Il successo della cura dei dati nel superare i limiti delle dimensioni suggerisce che i progressi futuri si trovino nella combinazione dell’innovazione dei modelli con l’ingegneria intelligente dei dati, anziché costruire solo architetture più grandi.

Il punto fondamentale

Il modello Phi-4-reasoning di Microsoft cambia la convinzione comune che il ragionamento avanzato dell’intelligenza artificiale necessiti di modelli molto grandi. Invece di affidarsi alle dimensioni, questo modello utilizza un approccio data-centric con dati di addestramento di alta qualità e accuratamente selezionati. Phi-4-reasoning ha solo 14 miliardi di parametri ma si esibisce altrettanto bene come modelli molto più grandi in compiti di ragionamento difficili. Ciò dimostra che concentrarsi su dati migliori è più importante che aumentare semplicemente le dimensioni del modello.

Questo nuovo modo di addestrare rende l’intelligenza artificiale avanzata più efficiente e accessibile alle organizzazioni che non hanno grandi risorse di calcolo. Il successo di Phi-4-reasoning indica una nuova direzione nello sviluppo dell’intelligenza artificiale. Si concentra sul miglioramento della qualità dei dati, sull’addestramento intelligente e sull’ingegneria accurata anziché semplicemente aumentare le dimensioni del modello.

Questo approccio può aiutare l’intelligenza artificiale a progredire più velocemente, ridurre i costi e consentire a più persone e aziende di utilizzare strumenti di intelligenza artificiale potenti. In futuro, l’intelligenza artificiale probabilmente crescerà combinando modelli migliori con dati migliori, rendendo l’intelligenza artificiale avanzata utile in molte aree specializzate.