Sapient Intelligence presenta HRM-Text, un modello di intelligenza artificiale ispirato al cervello progettato per sfidare la corsa alla scala

MENTRE l’industria dell’intelligenza artificiale continua a investire miliardi in modelli linguistici sempre più grandi e in data center sempre più massicci, la società di ricerca sull’intelligenza artificiale con sede a Singapore, Sapient Intelligence, sta intraprendendo un approccio molto diverso.

La società ha annunciato HRM-Text, un nuovo modello linguistico di ragionamento da 1 miliardo di parametri progettato intorno a un’architettura ricorrente gerarchica ispirata a come il cervello separa il ragionamento lento e deliberato dall’elaborazione rapida e di basso livello.

anziché cercare di vincere attraverso la pura scala, Sapient sta posizionando HRM-Text come prova che la profondità del ragionamento e l’efficienza computazionale potrebbero diventare più importanti del numero grezzo di parametri nella prossima fase dello sviluppo dell’intelligenza artificiale.

Il lancio continua anche una tendenza più ampia che emerge nel settore dell’intelligenza artificiale: un crescente scetticismo sul fatto che scalare semplicemente i trasformatori all’infinito sarà sufficiente per raggiungere forme più generali di intelligenza.

Superare il libro di gioco del trasformatore

La maggior parte dei moderni modelli linguistici di grandi dimensioni si basa su architetture di trasformatori che elaborano le informazioni attraverso un sistema principalmente feed-forward focalizzato sulla previsione del token successivo. Il framework HRM di Sapient introduce invece una struttura ricorrente gerarchica in cui più livelli di ragionamento interagiscono internamente prima che venga generato qualsiasi output.

La società descrive l’architettura come operante attraverso due sistemi interconnessi: un controllore “lento” di livello superiore responsabile della pianificazione e del ragionamento astratto e un “lavoratore veloce” di livello inferiore che gestisce i calcoli dettagliati.

Questo differisce dai metodi di catena di pensiero ampiamente utilizzati nei sistemi di intelligenza artificiale attuali, in cui il ragionamento viene espresso attraverso lunghe sequenze di testo visibili. HRM-Text esegue invece gran parte del suo ragionamento internamente nello spazio latente prima di generare risposte.

Sapient sostiene che questa struttura consente a sistemi più piccoli di eseguire ragionamenti multi-step più sofisticati senza fare affidamento su dimensioni di modello enormi o costi di inferenza massicci.

Secondo i risultati dei benchmark forniti dalla società, HRM-Text ha raggiunto il 56,2% su MATH, l’81,9% su ARC-Challenge, l’82,2% su DROP e il 60,7% su MMLU nonostante la sua impronta relativamente piccola.

L’efficienza diventa un campo di battaglia strategico per l’intelligenza artificiale

Il lancio arriva in un momento in cui le preoccupazioni relative ai costi dell’infrastruttura dell’intelligenza artificiale, al consumo di energia e alla disponibilità di calcolo stanno diventando questioni centrali dell’industria.

La formazione e il dispiegamento di sistemi di intelligenza artificiale all’avanguardia richiedono ora spesso cluster di GPU massicci, data center iperscalabili e livelli di consumo energetico sempre più soggetti a scrutinio da parte dei governi e dei fornitori di infrastrutture. L’argomentazione di Sapient è che i prossimi progressi potrebbero non provenire dalla scalabilità di sistemi più grandi, ma da un ripensamento fondamentale dell’architettura stessa.

La società afferma che HRM-Text può essere addestrato in circa un giorno utilizzando 16 GPU su due macchine a un costo di circa 1.000 dollari. Al confronto, i modelli linguistici di frontiera possono richiedere budget di formazione che raggiungono i centinaia di milioni di dollari.

Il profilo di dispiegamento compatto del modello è anche degno di nota. Con la quantizzazione int4, HRM-Text occupa circa 0,6 GiB, rendendo teoricamente possibile il dispiegamento locale su smartphone e dispositivi edge.

Quell’enfasi su sistemi più piccoli e più distribuibili potrebbe diventare sempre più importante mentre le aziende spingono verso l’intelligenza artificiale sul dispositivo, l’inferenza sensibile alla privacy e i sistemi di ragionamento offline che non dipendono interamente dall’infrastruttura cloud.

La spinta più ampia verso l’intelligenza artificiale ispirata al cervello

Il lavoro di Sapient riflette un movimento più ampio all’interno della ricerca sull’intelligenza artificiale che esplora alternative alla scalabilità tradizionale dei trasformatori.

L’architettura HRM della società attinge ampiamente da concetti di neuroscienze come l’elaborazione gerarchica, la separazione temporale e il calcolo ricorrente.

Sul suo sito web, Sapient descrive il suo obiettivo a lungo termine come la ricerca dell’intelligenza artificiale generale attraverso architetture in grado di ragionare, pianificare e apprendere in modo adattivo piuttosto che affidarsi principalmente alla memorizzazione statistica.

Il team di ricerca della società include ex contributori di organizzazioni come DeepMind, DeepSeek e xAI, oltre a ricercatori collegati a istituzioni come il MIT, la Carnegie Mellon University, la Tsinghua University e l’Università di Cambridge.

Le versioni precedenti del modello di ragionamento gerarchico di Sapient avevano già attirato l’attenzione nei circoli di ricerca sull’intelligenza artificiale per aver raggiunto prestazioni di ragionamento solide utilizzando contatori di parametri drasticamente più piccoli rispetto ai LLM convenzionali.

Un cambiamento nel modo in cui si misura il progresso dell’intelligenza artificiale

Se architetture come HRM alla fine rivaleggeranno con i più grandi modelli di frontiera, rimane una questione aperta. L’industria dell’intelligenza artificiale ha ripetutamente visto emergere alternative promettenti prima di essere superate dall’economia implacabile della scala.

Tuttavia, il lancio di Sapient arriva in un momento in cui l’industria sta sempre più confrontandosi con i limiti dell’espansione brute. La scarsità di GPU, i colli di bottiglia energetici, i costi di inferenza e i rendimenti decrescenti dei set di dati più grandi stanno costringendo i ricercatori a riconsiderare le ipotesi che hanno dominato gli ultimi anni di sviluppo dell’intelligenza artificiale.

Se sistemi come HRM-Text continuano a migliorare, potrebbero ridisegnare il modo in cui si misura il progresso dell’intelligenza artificiale — spostando l’attenzione lontano dai contatori di parametri e verso l’efficienza, la profondità del ragionamento e l’adattabilità.

La società ha completamente open-sourcato HRM-Text attraverso GitHub come parte del lancio.