Modelli e piattaforme di IA

Thinking Machines Lab presenta Inkling, il suo primo modello di intelligenza artificiale multimodale open-weights

mm
Aggiungi Unite.AI alle tue fonti preferite su Google

Thinking Machines Lab ha rilasciato Inkling, il suo primo modello di intelligenza artificiale generale, che dà ai developer l’accesso a un sistema da quasi un trilione di parametri che può elaborare testo, immagini e audio. Il lancio del 15 luglio 2026 rappresenta il più importante traguardo di prodotto fino ad ora per l’azienda di intelligenza artificiale finanziata da former OpenAI Chief Technology Officer Mira Murati.

Piuttosto che affermare di aver costruito il modello più capace del mondo, Thinking Machines sta posizionando Inkling come fondazione personalizzabile per aziende, ricercatori e developer che desiderano un maggiore controllo su come si comporta la loro intelligenza artificiale. I suoi pesi possono essere scaricati tramite Hugging Face con licenza Apache 2.0, mentre il modello può anche essere affinato tramite la piattaforma di formazione Tinker di Thinking Machines.

Questo posizionamento potrebbe rivelarsi importante poiché il mercato dell’intelligenza artificiale si divide tra sistemi frontiera proprietari controllati da un numero limitato di aziende e alternative open-weight che le organizzazioni possono modificare, ospitare e integrare nella propria infrastruttura.

Un modello da 975 miliardi di parametri che utilizza solo una frazione alla volta

Inkling contiene 975 miliardi di parametri totali, rendendolo uno dei più grandi modelli open-weight rilasciati fino ad ora. Tuttavia, utilizza un’architettura sparse Mixture-of-Experts, il che significa che solo 41 miliardi di parametri sono attivati durante l’elaborazione di ogni token individuale.

Il modello contiene 66 layer di transformer e 256 esperti instradati. Ogni token viene inviato a sei di questi esperti, insieme a due esperti condivisi che rimangono attivi tra le richieste. Questo approccio è destinato a fornire la capacità di conoscenza di un modello molto grande senza richiedere che ogni parametro venga utilizzato durante ogni operazione di inferenza.

Thinking Machines ha dichiarato che la progettazione Mixture-of-Experts segue in gran parte le idee introdotte in DeepSeek-V3, compresi i suoi metodi di instradamento e bilanciamento del carico. Inkling utilizza anche una combinazione di layer di attenzione a finestra scorrevole e globale, insieme a incorporazioni di posizione relative anziché le incorporazioni di posizione rotative comunemente utilizzate nei moderni modelli linguistici.

Il modello supporta una finestra di contesto di fino a un milione di token. Tramite Tinker, gli sviluppatori hanno attualmente accesso a configurazioni da 64.000 token e 256.000 token, mentre la piena capacità di contesto è disponibile tramite distribuzioni compatibili dei pesi scaricati.

Ragionamento nativo su testo, immagini e audio

Inkling è nativamente multimodale, accettando testo, immagini e audio come input mentre genera testo come output. Le immagini vengono elaborate utilizzando un encoder di patch gerarchico, mentre l’audio viene convertito in token discreti e inserito nello stesso spazio di rappresentazione condiviso con testo e informazioni visive.

Thinking Machines ha pre-addestrato il modello su 45 trilioni di token tratti da testo, immagini, audio e video. L’azienda ha dichiarato che i dati includevano materiali pubblicamente disponibili, fonti di terze parti concesse in licenza o acquisite, e contenuti generati o aumentati sinteticamente. Tuttavia, la carta del modello non fornisce un inventario completo del set di dati, rendendo “pesi aperti” una descrizione più precisa che non completamente open source.

L’azienda ha anche introdotto un sistema di ragionamento controllabile che consente agli sviluppatori di regolare quanto calcolo Inkling applichi prima di produrre una risposta. Impostazioni di ragionamento più basse possono ridurre la latenza e il consumo di token, mentre impostazioni più elevate possono essere utilizzate per compiti di codifica, matematica, scienza e utilizzo di strumenti più difficili.

Insieme al modello principale, Thinking Machines ha anticipato Inkling-Small, un modello Mixture-of-Experts da 276 miliardi di parametri con 12 miliardi di parametri attivi. L’azienda ha dichiarato che i miglioramenti apportati ai suoi dati e alla sua ricetta di formazione hanno consentito al modello più piccolo di eguagliare o superare la versione più grande in diverse valutazioni, sebbene Inkling-Small non abbia ancora ricevuto lo stesso trattamento di rilascio completo.

Progettato per essere personalizzato tramite Tinker

Inkling è strettamente legato a Tinker, la piattaforma di formazione basata su cloud che Thinking Machines ha introdotto nel 2025. Tinker consente agli sviluppatori di scrivere procedure di formazione localmente mentre la piattaforma gestisce l’infrastruttura GPU distribuita necessaria per affinare modelli che vanno da sistemi relativamente piccoli ad architetture Mixture-of-Experts da un trilione di parametri.

La piattaforma supporta la formazione supervisionata, l’apprendimento per rinforzo, l’ottimizzazione delle preferenze dirette, la distillazione e l’adattamento a basso rango. I clienti possono scaricare i checkpoint risultanti, e Thinking Machines afferma che i dati di formazione dei clienti vengono utilizzati solo per affinare i modelli dei clienti e non vengono incorporati nei propri modelli di base.

Per dimostrare questo processo di personalizzazione, l’azienda ha chiesto a Inkling di affinare se stesso in un modello che non utilizzi mai la lettera “e”. Inkling ha generato i propri dati di formazione e il metodo di valutazione, creato e eseguito un lavoro di affinamento tramite Tinker, testato il checkpoint aggiornato e poi caricato i pesi modificati nel proprio ambiente di lavoro.

La dimostrazione è deliberatamente ristretta, ma illustra la strategia più ampia. Thinking Machines vuole che gli sviluppatori trattino i modelli di base come punti di partenza che possono essere adattati alla terminologia, ai flussi di lavoro, ai dati, alle politiche e al comportamento preferito di un’organizzazione, piuttosto che come prodotti finiti controllati interamente dal fornitore del modello originale.

Prestazioni competitive senza rivendicare la corona dei benchmark

Thinking Machines ammette apertamente che Inkling non è il modello più forte disponibile in ogni categoria. I suoi risultati dei benchmark lo collocano generalmente tra i sistemi open-weight più capaci, mentre i modelli proprietari leader di aziende come Anthropic, Google e OpenAI mantengono un vantaggio complessivo.

Inkling ha ottenuto il 97,1% nel benchmark dell’esame di matematica americano del 2026 e l’87,2% su GPQA Diamond, che valuta il ragionamento scientifico di livello universitario. Ha registrato il 77,6% su SWE-bench Verified e il 54,3% su SWE-bench Pro Public, due benchmark utilizzati per valutare la capacità degli agenti di codifica di risolvere problemi di ingegneria del software reali.

Su Humanity’s Last Exam, Inkling ha ottenuto il 29,7% senza strumenti e il 46% quando gli sono stati forniti strumenti. La sua prestazione con strumenti è stata competitiva con diversi modelli open, ma è rimasta al di sotto dei sistemi chiusi più forti inclusi nel confronto di Thinking Machines.

Inkling ha anche ottenuto un punteggio di 1.257 nella classifica di sviluppo web Agentic di Design Arena, dove valutatori umani confrontano applicazioni create da diversi modelli. Ciò lo ha posizionato vicino a diversi sistemi proprietari e davanti a una serie di competitor open-weight stabiliti.

Come per qualsiasi set di benchmark pubblicato dal fornitore, i risultati richiederanno una riproduzione indipendente. Thinking Machines ha utilizzato punteggi esterni quando disponibili, ma diverse valutazioni si sono basate su harness interni, configurazioni o risultati auto-segnalati da fornitori di modelli concorrenti.

Costi inferiori con significative esigenze di hardware

L’argomentazione dei costi di Inkling si basa in gran parte sulla sua architettura sparse e sul ragionamento controllabile. Attivare 41 miliardi di parametri invece di tutti i 975 miliardi dovrebbe rendere l’inferenza considerevolmente più efficiente rispetto all’esecuzione di un modello denso di dimensioni simili, mentre consentire agli sviluppatori di disabilitare il ragionamento esteso per le richieste che non lo richiedono.

Tramite Tinker, la versione da 64.000 token è elencata a 1,87 dollari per milione di token di precompilazione, 4,68 dollari per milione di token di campionamento e 5,61 dollari per milione di token di formazione. La configurazione da 256.000 token è più costosa, a 3,74 dollari per la precompilazione, 9,36 dollari per il campionamento e 11,23 dollari per la formazione, con tariffe più basse disponibili per l’input in cache.

Questi numeri rendono l’esperimentazione con modelli di grandi dimensioni più accessibile rispetto all’assemblaggio di un cluster di formazione dedicato, ma Inkling non è un modello che la maggior parte degli sviluppatori eseguirà su una stazione di lavoro ordinaria. Il checkpoint BF16 completo richiede almeno due terabyte di memoria grafica aggregata, equivalente a otto GPU B300 Nvidia (NVDA ) o 16 GPU H200.

Un checkpoint quantizzato NVFP4 riduce il requisito a circa 600 gigabyte, ma richiede comunque infrastrutture come quattro GPU B300 o otto GPU H200. Nella pratica, molte organizzazioni accederanno quindi probabilmente a Inkling tramite Tinker o fornitori di inferenza di terze parti piuttosto che ospitare direttamente il modello completo.

Bilanciare la resistenza alla censura con controlli di sicurezza

Uno degli obiettivi di progettazione più insoliti di Inkling è ciò che Thinking Machines descrive come resistenza alla censura. L’azienda afferma di aver addestrato specificamente il modello a rispondere a domande su argomenti che possono essere politicamente o istituzionalmente sensibili, piuttosto che rifiutarle automaticamente.

Cognition ha valutato Inkling utilizzando il benchmark di propaganda e censura e Thinking Machines ha riferito che il modello ha dimostrato forti modelli di “non conformità alla censura”. L’idea sottostante è che un modello open non dovrebbe ereditare restrizioni politiche o opinioni standardizzate semplicemente perché queste preferenze sono state incorporate dal suo sviluppatore originale.

Ciò non significa che Inkling sia progettato per rispondere a ogni richiesta. L’azienda ha addestrato separatamente il modello per rifiutare istruzioni relative ad armi, violenza, abuso informatico, minacce chimiche o biologiche, manipolazione e altre attività pericolose.

Inkling ha ottenuto il 78% nella sezione avversaria del benchmark di sicurezza FORTRESS mentre ha risposto correttamente al 95,9% delle domande benigne progettate per assomigliare a richieste dannose. Ha anche ottenuto il 98,6% su StrongREJECT, che misura se i modelli rifiutano istruzioni chiaramente dannose. Thinking Machines afferma che questa combinazione indica che il modello può mantenere controlli di sicurezza senza bloccare eccessivamente domande legittime, sebbene l’effetto dell’ulteriore affinamento di terze parti rimanga un problema di ricerca aperto.

Dal leadership di OpenAI a una startup da 12 miliardi di dollari

Thinking Machines Lab è stata formalmente lanciata nel febbraio 2025, diversi mesi dopo che Murati ha lasciato OpenAI. Era stata Chief Technology Officer di OpenAI durante i lanci di prodotti come ChatGPT, DALL-E e i primi sistemi multimodali e vocali dell’azienda.

Il team originale includeva circa 30 ricercatori e ingegneri reclutati da OpenAI, Meta, Mistral e altre organizzazioni di intelligenza artificiale. Circa due terzi dei dipendenti al lancio avevano precedentemente lavorato per OpenAI. Il gruppo fondatore includeva il co-fondatore di OpenAI John Schulman, Barret Zoph, Lilian Weng, Andrew Tulloch e Luke Metz, portando esperienze in apprendimento per rinforzo, allineamento del modello, intelligenza artificiale multimodale, pre-addestramento e post-addestramento.

Solo cinque mesi dopo il lancio, Thinking Machines ha raccolto circa 2 miliardi di dollari a una valutazione di 12 miliardi di dollari. Andreessen Horowitz ha guidato il round, con la partecipazione di Nvidia, Accel, ServiceNow (NOW ), Cisco, AMD e la società di trading quantitativo Jane Street.

Nvidia ha successivamente ampliato la sua relazione con l’azienda attraverso un partenariato strategico pluriennale. Annunciato nel marzo 2026, l’accordo prevede il dispiegamento di almeno un gigawatt di sistemi Nvidia Vera Rubin di prossima generazione per supportare la formazione dei modelli e le piattaforme di intelligenza artificiale personalizzabili di Thinking Machines. Nvidia ha anche effettuato un ulteriore investimento nell’azienda.

Inkling riflette una scommessa più ampia sull’intelligenza artificiale decentralizzata

Thinking Machines sostiene che la maggior parte dei sistemi di intelligenza artificiale vengono addestrati da un numero limitato di aziende e poi distribuiti come prodotti largamente fissi. La sua alternativa è un ecosistema in cui aziende e individui possono continuamente adattare i modelli utilizzando le proprie conoscenze, preferenze e giudizio.

Questa filosofia aiuta a spiegare perché Inkling viene rilasciato con pesi scaricabili piuttosto che offerto esclusivamente attraverso un’interfaccia proprietaria. Si collega anche al modello con Tinker, che fornisce l’infrastruttura di formazione necessaria per modificare il comportamento senza costringere ogni organizzazione ad assemblare il proprio grande cluster GPU.

C’è ancora tensione tra questa visione e le realtà pratiche del rilascio. Inkling è sufficientemente aperto da scaricare e modificare, ma sufficientemente grande che solo organizzazioni ben finanziate possono realisticamente ospitare il modello completo. I suoi dati di formazione vengono descritti in categorie generali piuttosto che documentati appieno, e la personalizzazione può potenzialmente indebolire i controlli di sicurezza costruiti nel punto di controllo originale.

Il rilascio dà comunque agli sviluppatori occidentali un’altra opzione open-weight di grandi dimensioni in un momento in cui molti dei modelli personalizzabili più competitivi provengono da laboratori cinesi come DeepSeek, Alibaba, Moonshot AI e Zhipu AI. Reuters ha notato che lo sviluppo open-weight occidentale ha perso slancio poiché diverse aziende leader americane hanno spostato la loro strategia verso approcci più proprietari.

Cosa significa Inkling per l’intelligenza artificiale

Il significato di Inkling potrebbe dipendere meno dal fatto che guidi ogni benchmark e più dal fatto che gli sviluppatori possano trasformarlo in sistemi specializzati che superino i modelli general-purpose all’interno di domini più stretti.

Aziende nel settore finanziario, sanitario, ingegneria, sicurezza informatica, ricerca scientifica e sviluppo software spesso possiedono conoscenze interne preziose che sono rappresentate in modo insufficiente nei dati di formazione pubblici. Un modello di base open-weight capace, combinato con un’infrastruttura di apprendimento per rinforzo e affinamento accessibile, potrebbe consentire a queste organizzazioni di codificare più di queste competenze direttamente nel comportamento del modello.

Allo stesso tempo, il modello dovrà dimostrare che le sue affermazioni di efficienza si traducono in costi di distribuzione totali più bassi, in particolare una volta considerate infrastruttura, volume di inferenza, affinamento, monitoraggio e testing di sicurezza. I ricercatori indipendenti dovranno anche esaminare le sue prestazioni nei benchmark, le capacità multilingue, la neutralità politica, i tassi di allucinazione e la resistenza alla degradazione della sicurezza dopo la personalizzazione.

Thinking Machines è entrata nel mercato con un team insolitamente esperto, un sostanziale sostegno degli investitori e impegni di infrastruttura normalmente associati a laboratori di intelligenza artificiale molto più vecchi. Inkling è la prima opportunità dell’azienda di dimostrare che queste risorse possono produrre più di ambiziose pianificazioni di ricerca e piattaforme di formazione.

Il modello non sostituisce i sistemi proprietari leader, e Thinking Machines Lab non afferma che lo faccia. Inkling offre invece una proposta diversa: che il futuro dell’intelligenza artificiale avanzata possa essere plasmato non solo da chi addestra il modello general-purpose più potente, ma anche da chi fornisce agli sviluppatori la base più solida per costruire i propri modelli.

Antoine è un leader visionario e socio fondatore di Unite.AI, guidato da una passione incrollabile per plasmare e promuovere il futuro dell'AI e della robotica. Un imprenditore seriale, crede che l'AI sarà così disruptiva per la società come l'elettricità, e spesso si lascia trasportare dall'entusiasmo per il potenziale delle tecnologie disruptive e dell'AGI.

Come futurista, è dedicato a esplorare come queste innovazioni plasmeranno il nostro mondo. Inoltre, è il fondatore di Securities.io, una piattaforma focalizzata sugli investimenti in tecnologie all'avanguardia che stanno ridefinendo il futuro e riplasmando interi settori.