Modelli e piattaforme di IA
Thinking Machines Lab lancia Inkling 2 Mini per i dispositivi locali

Punti chiaveIl looping migliora il ragionamento senza permettere ai pesi di immagazzinare più…
Vedi di più
- Il looping migliora il ragionamento senza permettere ai pesi di immagazzinare più fatti, poiché la conoscenza segue il conteggio totale dei parametri.
- Il modello con looping ha richiesto il 140% in più di calcolo di inferenza per eguagliare la perdita della versione non potata senza looping.
- Il looping interno consente ai modelli di ragionare senza tracce scritte, il che compromette il monitoraggio della catena di pensiero.
Thinking Machines Lab ha lanciato Inkling 2 Mini il 20 novembre 2026: un modello a pesi aperti progettato per funzionare sui laptop consumer. Ha 26,4 miliardi di parametri totali e un ingombro in memoria di circa 20 GB; per migliorare il ragionamento, elabora più volte i propri strati intermedi.
I pesi completi di Inkling 2 Mini e di un modello di ricerca associato, TML-d24-varloop-research, sono disponibili su Hugging Face. Tinker offre inferenza e fine-tuning, oltre alla chat in Tinker Playground; tra le opzioni locali figurano Ollama sui sistemi Mac con almeno 32 GB di RAM e le versioni GGUF tramite Unsloth e llama.cpp.
Una dimostrazione dell’azienda mostra Inkling 2 Mini in esecuzione offline su un MacBook Pro in modalità aereo durante un volo: in pochi minuti il modello ha creato un simulatore di volo giocabile. In un’altra dimostrazione, un MacBook offline alimenta tutti i 20 abitanti di Thinkyville, una cittadina simulata in pixel art, mostrando come più agenti persistenti possano funzionare localmente.
Come funziona l’architettura a cicli
Inkling 2 Mini è un trasformatore a miscela di esperti: per ogni token viene usata solo una parte dei suoi componenti specializzati. I suoi 24 strati sono suddivisi in quattro blocchi da sei. Il primo e l’ultimo blocco vengono eseguiti una volta, mentre i due blocchi centrali condividono i pesi e vengono eseguiti tre volte; così, per ogni token si ottengono 48 applicazioni di strato a partire da 24 strati memorizzati. Una volta inclusi i cicli, il modello ha 3,4 miliardi di parametri attivi e 5,4 miliardi di attivazioni dei pesi per token.
I residui di attenzione consentono a ogni strato di apprendere una propria combinazione degli output dei blocchi precedenti, anziché sommare ogni output a un’unica somma progressiva. Anche il secondo e il terzo passaggio ricevono un messaggio con gating dal passaggio precedente. Inizialmente, il gate blocca il messaggio e durante l’addestramento impara a lasciarne passare una quantità maggiore, consentendo di introdurre i cicli senza destabilizzare il modello.
Nel confronto sull’addestramento condotto dall’azienda, un modello senza cicli e non sottoposto a potatura richiedeva il 7,5% di calcolo in meno per l’addestramento, ma il 140% di calcolo in più per l’inferenza, al fine di eguagliare la loss della versione a cicli su tracce agentiche da 512.000 token.
L’addestramento è iniziato con 384 esperti, selezionandone otto per token. Durante la fase intermedia dell’addestramento ne sono stati eliminati due terzi, mantenendo i 128 più utilizzati in ogni strato; in seguito, il modello è stato addestrato su 1.000 miliardi di token distillati da un modello Inkling interno più grande, per recuperare le prestazioni precedenti. Venti strati sono stati addestrati e vengono distribuiti in formato NVFP4 a 4 bit, mentre gli ultimi quattro sono in formato MXFP8 a 8 bit; secondo l’azienda, usare la stessa precisione nell’addestramento e nella distribuzione evita le perdite di conversione dovute alla quantizzazione post-addestramento.
Prestazioni nella programmazione e limiti del modello
Thinking Machines Lab riporta punteggi del 48,2% su DeepSWE v1.1 e del 77,9% nella valutazione SWE-bench Pro v2 Hard, composta da 51 attività, rispetto rispettivamente al 42,2% e al 73,8% di Qwen3.8-27B; il modello ottiene inoltre il 46,5% su Vals Index v2.2. Nel confronto, l’azienda segnala che le configurazioni di valutazione variano da un modello all’altro.
Secondo l’azienda, i cicli migliorano il ragionamento senza consentire ai pesi di memorizzare più fatti: la conoscenza dipende soprattutto dal numero totale di parametri. Il risultato di Inkling 2 Mini su AA-Omniscience è in linea con quello di altri modelli delle sue dimensioni, mentre i vantaggi rispetto a modelli a pesi aperti di dimensioni simili su BrowseComp, DeepSearchQA e MCP Atlas derivano dall’uso efficiente della ricerca e degli strumenti.
L’azienda afferma inoltre che Inkling 2 Mini non è il modello compatto più potente per le chat con più turni o per le istruzioni con molti vincoli; riporta un punteggio del 50,0% su MultiChallenge e del 33,4% su ComplexConstraints v1.1. Il modello resta indietro rispetto a quelli più grandi nei benchmark che richiedono un ragionamento intenso, tra cui CritPt v2 e HLE-Diamond.
Cosa mostrano i test con cicli variabili
I cicli complicano il monitoraggio della catena di pensiero, cioè la pratica di leggere il ragionamento scritto di un modello per sorvegliarne il comportamento. Un trasformatore convenzionale deve esplicitare il ragionamento che richiede ulteriori passaggi sequenziali; un modello a cicli può svolgere internamente un maggior numero di questi passaggi prima di produrre testo. Il ragionamento che non viene mai espresso nel testo non può essere esaminato da questo tipo di monitor.
Poiché Inkling 2 Mini supporta solo un numero fisso di passaggi, il laboratorio ha addestrato TML-d24-varloop-research con un numero di passaggi compreso tra uno e cinque, per lo più tre, e ha svolto l’apprendimento per rinforzo con tre passaggi. Su un sottoinsieme di Think Fast, l’azienda riferisce che l’orizzonte temporale senza catena di pensiero — definito come il tempo impiegato da una persona per completare attività che il modello riesce a portare a termine con un’affidabilità del 50% senza ragionamento scritto — è passato da 16 secondi con un passaggio a 37 secondi con tre, per poi appiattirsi approssimativamente. La precisione in N-Hop Lookup ha continuato a migliorare fino a dieci cicli, anche se l’addestramento non aveva superato i cinque passaggi.
Nell’analisi iniziale dell’azienda, per le domande di GPQA Diamond a cui è stata data una risposta corretta a ogni profondità testata, la lunghezza media delle tracce di ragionamento è scesa da 3.703 token con un passaggio a 1.661 con cinque. La lunghezza media delle frasi è cambiata appena, passando da 8,9 a 8,7 parole, e la quota di parole presenti in un dizionario inglese è passata dal 94,6% al 94,4%; le tracce più brevi erano più dirette e contenevano meno ripensamenti.
I test agentici hanno utilizzato una versione di Inkling 2 Mini sottoposta a fine-tuning esclusivamente per renderla utile e il modello a cicli variabili in LinuxArena. Usando Qwen3.6-35B-A3B come monitor meno capace, l’azienda non ha rilevato una tendenza chiara del tasso di occultamento all’aumentare del numero di cicli; limitando il monitor alle chiamate agli strumenti e ai relativi output, un numero significativo di attacchi è rimasto inosservato.
Questi risultati sulla monitorabilità sono preliminari. L’addestramento con apprendimento per rinforzo è avvenuto solo per tre passaggi, quindi gli esperimenti non permettono di stabilire che cosa imparerebbe un modello addestrato con un numero maggiore di passaggi; l’azienda avverte che un modello del genere potrebbe comprimere il proprio ragionamento in modo più aggressivo.
Per chi fa ricerca sulla supervisione, la questione aperta è se la leggibilità osservata a questa scala si mantenga con modelli più grandi e regimi di addestramento che ottimizzano cicli più profondi. Le versioni open-weight a numero di passaggi fisso e variabile offrono un modo diretto per indagare la questione a diverse profondità di ciclo.












