Il Nuovo Istinto dell’Intelligenza Artificiale: Perché Pensare in Modo più Intelligente è più Importante che Pensare più a Lungo

Gli avanzamenti nell’intelligenza artificiale (AI) sono stati a lungo guidati dalla convinzione che l’aumento dei dati e della potenza di calcolo possa migliorare le prestazioni. Questo approccio “brute force” ha portato a impressionanti sistemi di intelligenza artificiale, come GPT-3, che hanno ottenuto risultati notevoli negli anni. Tuttavia, questo paradigma sta raggiungendo i suoi limiti. Man mano che i problemi di intelligenza artificiale diventano più complessi, diventa chiaro che aggiungere semplicemente più potenza di calcolo non sarà una soluzione sostenibile o efficace per il progresso a lungo termine. Questa consapevolezza ha spinto i ricercatori a rivedere il loro approccio allo sviluppo dell’intelligenza artificiale. In questo contesto, il modello Cogito v2 di Deep Cogito introduce un nuovo approccio che potrebbe cambiare il futuro dello sviluppo dell’intelligenza artificiale. Invece di dipendere da più potenza di calcolo o da ragionamento esteso, Cogito v2 sviluppa “istinti viscerali” interni che guidano il modello a identificare i percorsi giusti prima di iniziare la ricerca. Questo è un cambiamento di paradigma nel modo in cui l’intelligenza artificiale sta essere sviluppata, concentrandosi sul pensiero più intelligente, non più lungo.

Un Cambiamento nello Sviluppo dell’Intelligenza Artificiale

Per molti anni, la forza trainante dietro gli avanzamenti dell’intelligenza artificiale è stata l’idea che “più è meglio”. Questo approccio ha portato a modelli di intelligenza artificiale che generano catene di ragionamento estese per risolvere problemi complessi. I modelli di OpenAI, come GPT-3, sono un esempio di questo approccio, in cui catene di ragionamento più lunghe hanno portato a risultati impressionanti in compiti difficili. Sebbene questo metodo abbia prodotto risultati impressionanti, presenta notevoli svantaggi. Catene di ragionamento più lunghe richiedono più risorse computazionali, il che si traduce in tempi di inferenza più lenti e costi operativi più alti. Inoltre, la ricerca ha dimostrato che questi processi estesi spesso portano a rendimenti decrescenti, in cui un ragionamento più lungo porta a una maggiore distorsione e a una minore efficienza. Il problema fondamentale è che fare affidamento a catene di ragionamento lunghe e aumentare la potenza di calcolo non è più una soluzione efficace per affrontare problemi di intelligenza artificiale complessi. Questi approcci sono limitati dai loro tempi di elaborazione e requisiti di memoria massicci.

Perché l'”Istinto Viscale” è Importante per l’Intelligenza Artificiale

A differenza degli attuali sistemi di intelligenza artificiale che dipendono da ragionamento esteso, gli esseri umani spesso si affidano a ciò che viene chiamato “istinto viscerale” (una forma di giudizio intuitivo rapido) per risolvere problemi. Sebbene l’istinto viscerale possa sembrare un concetto astratto, è spesso il risultato di anni di esperienza, apprendimento e elaborazione del contesto che consente agli esseri umani di prendere decisioni rapide senza analizzare completamente ogni dettaglio. È questo tipo di intuizione che separa il calcolo grezzo dal ragionamento umano. Gli esseri umani costruiscono questo “istinto viscerale” attraverso il riconoscimento di pattern e l’esperienza accumulata, il che consente loro di prendere decisioni senza esplorare esaurientemente ogni opzione possibile. Il nuovo “istinto viscerale” dell’intelligenza artificiale mira a replicare questo processo.
Questo concetto, noto anche come “priorità di intelligenza”, potrebbe essere la chiave per dotare i sistemi di intelligenza artificiale di un ragionamento simile a quello umano e renderli più efficienti. I modelli di intelligenza artificiale con una forte priorità di intelligenza possono anticipare quali soluzioni sono probabili senza dover effettuare un’estesa computazione. Invece di affidarsi a metodi di ricerca esaustivi, l’istinto viscerale consente ai sistemi di intelligenza artificiale di sfruttare le conoscenze precedenti, concentrandosi sui percorsi più efficaci per raggiungere una soluzione.

Come Cogito v2 ha Incorporato l'”Istinto Viscale”

Cogito ha incorporato l’idea di “istinto viscerale” (più tecnicamente, priorità di intelligenza) nel suo modello recentemente rilasciato, Cogito v2. Hanno integrato questa idea utilizzando un meccanismo chiamato Iterated Distillation and Amplification (IDA). Questo meccanismo consente al modello di apprendere dal proprio processo di ragionamento e raffinare le proprie capacità di risoluzione dei problemi nel tempo. Invece di affidarsi a prompt statici o insegnanti fissi, IDA consente all’intelligenza artificiale di distillare percorsi di ragionamento di successo nei propri parametri del modello di base. Questo processo di auto-miglioramento raffina la capacità di ragionamento del modello nel tempo, ottimizzandolo non solo per risposte accurate, ma anche per i metodi di pensiero più efficienti.

• Iterated Distillation and Amplification (IDA)

Per comprendere come funziona IDA, possiamo esaminare la teoria dei due processi, che divide il pensiero umano in due sistemi: Sistema 1 e Sistema 2. Il Sistema 1 si riferisce a decisioni intuitive rapide, mentre il Sistema 2 è più lento, con un ragionamento più deliberato. La teoria suggerisce che gli esseri umani si affidano al Sistema 1 per la maggior parte dei compiti, ma passano al Sistema 2 quando si trovano di fronte a decisioni più complesse.

IDA è un ciclo a due fasi: amplificazione e distillazione. Nella fase di amplificazione, il modello utilizza metodi computazionali intensivi per generare soluzioni o tracce di ragionamento di alta qualità. Ciò è simile al pensiero del Sistema 2, in cui l’intelligenza artificiale prende il tempo per valutare attentamente le soluzioni potenziali. Nella fase di distillazione, il modello internalizza le intuizioni dalla fase di amplificazione, trasformando il processo di ragionamento dal Sistema 2 al Sistema 1. Come un guidatore umano diventa più intuitivo dopo aver acquisito esperienza, un modello di intelligenza artificiale con IDA può prendere decisioni più rapide e più efficienti nel tempo.

L’idea chiave dietro IDA è utilizzare metodi di ragionamento computazionalmente intensivi nella fase di amplificazione, quindi distillare il ragionamento migliorato nei parametri del modello. Questo processo consente al modello di internalizzare strategie di ragionamento efficaci, costruendo la sua capacità di pensare in modo intuitivo quando si risolvono problemi. Ripetendo questo ciclo, il sistema di intelligenza artificiale migliora costantemente la sua capacità di prendere decisioni con meno risorse computazionali.

Vantaggi dell’Integrazione dell'”Istinto Viscale” nell’Intelligenza Artificiale

Uno dei principali vantaggi dell’istinto viscerale dell’intelligenza artificiale è la sua efficienza. Modelli come Cogito v2 dimostrano catene di ragionamento che sono fino al 60% più corte di quelle dei modelli concorrenti. Ciò significa che possono arrivare alle risposte con meno passaggi interni, riducendo il tempo e le risorse richieste per l’inferenza. Ad esempio, un problema che potrebbe richiedere a DeepSeek R1 oltre 200 token per risolvere può essere completato da Cogito v2 in meno di 100 token.

Inoltre, il costo di addestramento di Cogito v2 è significativamente inferiore a quello dei modelli di intelligenza artificiale tradizionali. L’intero processo di addestramento per Cogito v2, che copre una vasta gamma di parametri, è costato meno di 3,5 milioni di dollari, che è molto inferiore alle spese tipicamente associate ai modelli di larga scala come GPT-4.

Cogito v2 ha anche dimostrato capacità emergenti in aree per cui non è stato esplicitamente addestrato. Ad esempio, nonostante sia stato addestrato principalmente su testo, Cogito v2 può ragionare su immagini, tracciando intuizioni sulla composizione e sugli habitat delle immagini. Questa capacità di ragionamento cross-modale è un passo significativo verso l’intelligenza generale artificiale, un importante traguardo sul percorso verso l’Intelligenza Generale Artificiale (AGI).

Ripensare lo Sviluppo dell’Intelligenza Artificiale

Il successo della priorità di intelligenza suggerisce che le strategie di sviluppo dell’intelligenza artificiale necessitano di un cambiamento fondamentale. Invece di semplicemente aumentare le dimensioni del modello o aumentare le risorse computazionali, lo sviluppo dell’intelligenza artificiale dovrebbe concentrarsi sulla costruzione di sistemi che possano sviluppare e raffinare le proprie strategie cognitive. Questo cambiamento rispecchia lo sviluppo cognitivo umano, in cui l’intelligenza non è il risultato di un cervello più grande o di più tempo di pensiero, ma piuttosto di migliori modelli mentali e strategie di ragionamento. Questo cambiamento di approccio potrebbe avere implicazioni a lungo termine. Concentrandosi su un ragionamento più intelligente anziché sulla potenza di calcolo grezza, l’intelligenza artificiale può diventare più versatile, adattabile e in grado di affrontare nuove sfide. Questo cambiamento potrebbe accelerare l’applicazione dell’intelligenza artificiale in settori come la sanità, la sicurezza informatica e il trasporto autonomo, rendendo i sistemi di intelligenza artificiale più efficienti, economici e impattanti.

Il Punto di Partenza

Il successo di Cogito v2 dimostra che il futuro dell’intelligenza artificiale non si trova nell’aumentare le dimensioni dei modelli o nell’aumentare la potenza di calcolo, ma nel raffinare le architetture di ragionamento e nell’ottimizzare per un problema di risoluzione più intelligente. Questo cambiamento promette un futuro più sostenibile e accessibile per l’intelligenza artificiale, in cui i sistemi possono migliorare e adattarsi continuamente con meno dipendenza dalle risorse computazionali massive. Concentrandosi sul ragionamento intelligente anziché sulla computazione brute, l’intelligenza artificiale può diventare più capace di affrontare problemi complessi e reali del mondo.