Modele și platforme AI
Thinking Machines Lab lansează Inkling 2 Mini pentru dispozitive locale

Puncte cheieBuclarea îmbunătățește raționamentul fără a permite greutăților să stocheze mai multe…
Vezi mai mult
- Buclarea îmbunătățește raționamentul fără a permite greutăților să stocheze mai multe fapte, deoarece cunoașterea urmărește numărul total de parametri.
- Modelul cu bucle a avut nevoie de 140% mai mult calcul de inferență pentru a egala pierderea versiunii neprunate fără bucle.
- Buclarea internă permite modelelor să raționeze fără urme scrise, ceea ce subminează monitorizarea lanțului de gândire.
Thinking Machines Lab a lansat Inkling 2 Mini pe 20 noiembrie 2026, un model cu ponderi deschise conceput să ruleze pe laptopuri de larg consum. Are în total 26,4 miliarde de parametri și ocupă aproximativ 20 GB de memorie, folosind treceri repetate prin straturile sale intermediare pentru a-și îmbunătăți capacitatea de raționament.
Ponderile complete ale Inkling 2 Mini și ale unui model de cercetare complementar, TML-d24-varloop-research, sunt disponibile pe Hugging Face. Tinker oferă inferență și ajustare fină, iar chatul este disponibil în Tinker Playground; printre opțiunile locale se numără Ollama pe sistemele Mac cu cel puțin 32 GB de RAM și versiunile GGUF prin Unsloth și llama.cpp.
O demonstrație a companiei arată Inkling 2 Mini rulând offline pe un MacBook Pro în modul avion, în timpul unui zbor, unde a creat în câteva minute un simulator de zbor interactiv. O altă demonstrație folosește un singur MacBook offline pentru a alimenta toți cei 20 de locuitori din Thinkyville, un orășel pixelat simulat, ilustrând cum pot rula local mai mulți agenți persistenți.
Cum funcționează arhitectura cu bucle
Inkling 2 Mini este un transformator cu arhitectură de tip Mixture-of-Experts, ceea ce înseamnă că pentru fiecare token este folosită doar o parte dintre componentele sale specializate. Cele 24 de straturi sunt împărțite în patru blocuri a câte șase. Primul și ultimul bloc rulează o singură dată, în timp ce cele două blocuri din mijloc folosesc aceleași ponderi și rulează de trei ori, rezultând 48 de aplicări ale straturilor pentru fiecare token, pornind de la 24 de straturi stocate. Modelul are 3,4 miliarde de parametri activi și 5,4 miliarde de activări ale ponderilor per token, odată incluse buclele.
Conexiunile reziduale cu atenție permit fiecărui strat să învețe propria combinație de ieșiri ale blocurilor anterioare, în loc să adune fiecare ieșire într-o singură sumă cumulativă. A doua și a treia trecere primesc, de asemenea, un mesaj cu poartă de la trecerea precedentă. Inițial, poarta blochează mesajul, apoi învață să permită transmiterea unei părți mai mari din acesta în timpul antrenării, ceea ce permite introducerea buclelor fără a destabiliza modelul.
În comparația companiei privind antrenarea, antrenarea unui model fără eliminarea experților și fără bucle a necesitat cu 7,5% mai puține resurse de calcul, dar inferența a necesitat cu 140% mai multe resurse pentru a egala pierderea versiunii cu bucle pe trasee agentice de 512.000 de tokeni.
Antrenarea a început cu 384 de experți, dintre care opt erau selectați pentru fiecare token. Două treimi au fost eliminate în timpul antrenării intermediare, rămânând cei 128 de experți cel mai des utilizați în fiecare strat; apoi, modelul a fost antrenat pe 1 trilion de tokeni distilați dintr-un model Inkling intern mai mare, pentru a-și recupera performanțele anterioare. Douăzeci de straturi au fost antrenate și sunt implementate în formatul NVFP4 pe 4 biți, iar ultimele patru, în formatul MXFP8 pe 8 biți; compania afirmă că alinierea preciziei de antrenare cu cea de implementare evită pierderile de conversie asociate cuantizării după antrenare.
Performanța la programare și limitele modelului
Thinking Machines Lab raportează scoruri de 48,2% la DeepSWE v1.1 și de 77,9% la evaluarea SWE-bench Pro v2 Hard, care cuprinde 51 de sarcini, comparativ cu 42,2%, respectiv 73,8%, pentru Qwen3.8-27B, precum și un scor de 46,5% la Vals Index v2.2. Comparația companiei menționează că metodele de evaluare diferă de la un model la altul.
Compania afirmă că buclele îmbunătățesc raționamentul fără a permite stocarea unui număr mai mare de informații în ponderi; cunoștințele depind în principal de numărul total de parametri. Rezultatul Inkling 2 Mini la AA-Omniscience este în linie cu cel al altor modele de dimensiuni similare, în timp ce avantajele sale față de modelele cu ponderi deschise de dimensiuni similare la BrowseComp, DeepSearchQA și MCP Atlas se datorează utilizării eficiente a căutării și a instrumentelor.
Compania mai afirmă că Inkling 2 Mini nu este cel mai performant model de mici dimensiuni pentru conversații cu mai multe schimburi sau pentru instrucțiuni cu multe constrângeri, raportând scoruri de 50,0% la MultiChallenge și de 33,4% la ComplexConstraints v1.1. La benchmarkuri care solicită intens raționamentul, inclusiv CritPt v2 și HLE-Diamond, modelul rămâne în urma celor mai mari.
Ce arată testele cu bucle variabile
Buclele complică monitorizarea lanțului de raționament, adică practica de a citi raționamentul scris al unui model pentru a-i supraveghea comportamentul. Un transformator convențional trebuie să exprime în text raționamentul care necesită pași secvențiali suplimentari; un model cu bucle poate efectua mai mulți dintre acești pași pe plan intern înainte de a genera text. Raționamentul care nu ajunge niciodată în text nu poate fi inspectat de acest tip de monitor.
Deoarece Inkling 2 Mini acceptă doar un număr fix de treceri, laboratorul a antrenat TML-d24-varloop-research cu un număr de treceri cuprins între unu și cinci, cel mai adesea trei, și a efectuat învățare prin consolidare cu trei treceri. Pe un subset Think Fast, compania raportează că orizontul temporal fără lanț de raționament — definit ca timpul necesar unui om pentru a finaliza sarcini pe care modelul le poate duce la bun sfârșit cu o fiabilitate de 50%, fără raționament scris — a crescut de la 16 secunde la o trecere la 37 de secunde la trei treceri, apoi a rămas aproximativ constant. Precizia la N-Hop Lookup a continuat să se îmbunătățească până la zece bucle, deși antrenarea nu a depășit cinci treceri.
În analiza inițială a companiei asupra întrebărilor GPQA Diamond la care s-a răspuns corect la fiecare adâncime testată, lungimea medie a traseelor de raționament a scăzut de la 3.703 de tokeni la o trecere la 1.661 la cinci treceri. Lungimea medie a propozițiilor s-a modificat doar de la 8,9 la 8,7 cuvinte, iar proporția cuvintelor prezente într-un dicționar de engleză a scăzut de la 94,6% la 94,4%; traseele mai scurte erau mai directe și implicau mai puține reveniri asupra pașilor anteriori.
Testele agentice au folosit o versiune a Inkling 2 Mini ajustată fin exclusiv pentru a fi utilă și modelul cu bucle variabile în LinuxArena. Folosind Qwen3.6-35B-A3B ca monitor mai slab, compania nu a identificat nicio tendință clară a ratei de disimulare pe măsură ce creștea numărul de bucle; limitarea monitorului la apelurile și rezultatele instrumentelor a lăsat nedetectat un număr semnificativ de atacuri.
Aceste rezultate privind posibilitatea de monitorizare sunt preliminare. Învățarea prin întărire a fost efectuată doar în trei treceri, așadar experimentele nu stabilesc ce ar învăța un model antrenat cu un număr mai mare de treceri, iar compania avertizează că un astfel de model și-ar putea comprima raționamentul într-o măsură mai mare.
Pentru cercetătorii din domeniul supravegherii, întrebarea deschisă este dacă lizibilitatea observată la această scară se menține în cazul modelelor mai mari și al regimurilor de antrenare care optimizează bucle iterative mai profunde. Versiunile lansate cu ponderi deschise, cu buclă fixă și variabilă, oferă o modalitate directă de a investiga această întrebare la diferite adâncimi ale buclei.












