AI-modeller og plattformer
Thinking Machines Lab lanserer Inkling 2 Mini for lokale enheter

Viktige punkterLøkking forbedrer resonnering uten å la vektene lagre flere fakta, siden kunnskap…
Vis mer
- Løkking forbedrer resonnering uten å la vektene lagre flere fakta, siden kunnskap følger det totale antallet parametere.
- Den løkkede modellen trengte 140 % mer inferensberegning for å matche tapet til den ubeskårne ikke-løkkede versjonen.
- Intern løkking lar modeller resonnere uten skriftlige spor, noe som undergraver overvåking av tankekjeder.
Thinking Machines Lab lanserte Inkling 2 Mini 20. november 2026. Modellen har åpne vekter og er utviklet for å kjøre på vanlige bærbare datamaskiner. Den har totalt 26,4 milliarder parametere og bruker omtrent 20 GB minne. Gjentatte gjennomløp av de midterste lagene skal forbedre evnen til å resonnere.
De fullstendige vektene til Inkling 2 Mini og en tilhørende forskningsmodell, TML-d24-varloop-research, er tilgjengelige på Hugging Face. Tinker tilbyr inferens og finjustering, og modellen kan brukes til chat i Tinker Playground. Lokale alternativer omfatter Ollama på Mac-systemer med minst 32 GB RAM og GGUF-versjoner via Unsloth og llama.cpp.
En demonstrasjon fra selskapet viser Inkling 2 Mini kjøre frakoblet på en MacBook Pro i flymodus under en flyreise, der modellen laget en spillbar flysimulator på noen få minutter. I en annen demonstrasjon driver én frakoblet MacBook alle de 20 innbyggerne i Thinkyville, en simulert pikselby. Dette viser hvordan flere agenter med vedvarende tilstand kan kjøre lokalt.
Slik fungerer arkitekturen med gjentatte gjennomløp
Inkling 2 Mini er en transformer med en blanding av eksperter, noe som betyr at bare et utvalg av de spesialiserte komponentene brukes for hvert token. De 24 lagene er delt inn i fire blokker med seks lag i hver. Den første og den siste blokken kjøres én gang, mens de to midterste blokkene deler vekter og kjøres tre ganger. Dermed utføres hvert av de 24 lagene som er lagret, 48 ganger per token. Når gjentatte gjennomløp tas med i beregningen, har modellen 3,4 milliarder aktive parametere og 5,4 milliarder vektaktiveringer per token.
Oppmerksomhetsresidualer lar hvert lag lære sin egen blanding av utdata fra tidligere blokker, i stedet for å legge hvert utdata til én løpende sum. Det andre og tredje gjennomløpet mottar også et portstyrt signal fra det foregående gjennomløpet. Porten blokkerer først signalet, men lærer under treningen å slippe inn mer av det. Dermed kan gjentatte gjennomløp innføres uten å gjøre modellen ustabil.
I selskapets sammenligning av treningen brukte en modell uten beskjæring og gjentatte gjennomløp 7,5 % mindre beregningskapasitet under trening, men trengte 140 % mer beregningskapasitet til inferens for å oppnå samme tap som modellen med gjentatte gjennomløp på agentiske spor med 512 000 token.
Treningen startet med 384 eksperter, hvorav åtte ble valgt for hvert token. To tredeler ble fjernet ved beskjæring midtveis i treningen, slik at de 128 mest brukte ekspertene i hvert lag sto igjen. Deretter ble modellen trent på 1 billion token destillert fra en større intern Inkling-modell for å gjenvinne den tidligere ytelsen. Tjue lag ble trent og tas i bruk med 4-bits NVFP4, mens de fire siste bruker 8-bits MXFP8. Selskapet sier at samme presisjon under trening og utrulling unngår konverteringstap fra kvantisering etter trening.
Kodeytelse og modellens begrensninger
Thinking Machines Lab oppgir resultater på 48,2 % på DeepSWE v1.1 og 77,9 % i evalueringen SWE-bench Pro v2 Hard med 51 oppgaver. Til sammenligning fikk Qwen3.8-27B henholdsvis 42,2 % og 73,8 %. Modellen fikk også 46,5 % på Vals Index v2.2. Selskapets sammenligning påpeker at evalueringsoppsettene varierer fra modell til modell.
Selskapet sier at gjentatte gjennomløp forbedrer evnen til å resonnere uten at vektene dermed kan lagre flere fakta; kunnskapen avhenger i hovedsak av det totale antallet parametere. Inkling 2 Minis resultat på AA-Omniscience er på nivå med andre modeller av tilsvarende størrelse, mens modellens forsprang på andre modeller med åpne vekter i samme størrelsesklasse på BrowseComp, DeepSearchQA og MCP Atlas skyldes effektiv bruk av søk og verktøy.
Selskapet sier også at Inkling 2 Mini ikke er den sterkeste lille modellen for chat med flere samtalerunder eller instruksjoner med mange begrensninger. Resultatene var 50,0 % på MultiChallenge og 33,4 % på ComplexConstraints v1.1. Modellen ligger bak større modeller på referansetester som krever mye resonnering, blant annet CritPt v2 og HLE-Diamond.
Hva testene med variabelt antall gjennomløp viser
Gjentatte gjennomløp gjør overvåking av tankekjeder mer komplisert. Denne praksisen innebærer å lese modellens skriftlige resonnement for å følge med på hvordan den oppfører seg. En vanlig transformer må uttrykke resonnement som krever flere sekvensielle trinn, mens en modell med gjentatte gjennomløp kan utføre flere av trinnene internt før den produserer tekst. Resonnement som aldri kommer til uttrykk i teksten, kan ikke undersøkes av en slik overvåker.
Fordi Inkling 2 Mini bare støtter et fast antall gjennomløp, trente laboratoriet TML-d24-varloop-research med ett til fem gjennomløp, som oftest tre, og utførte forsterkningslæring med tre gjennomløp. På et delsett kalt Think Fast oppgir selskapet at modellens tidshorisont uten tankekjede – definert som tiden mennesker bruker på å fullføre oppgaver som modellen kan løse med 50 % pålitelighet uten skriftlig resonnement – økte fra 16 sekunder med ett gjennomløp til 37 sekunder med tre, før den omtrent flatet ut. Nøyaktigheten på N-Hop Lookup fortsatte å øke gjennom ti gjennomløp, selv om treningen ikke omfattet mer enn fem.
I selskapets første analyse av GPQA Diamond-spørsmål som ble besvart riktig ved alle testede dybder, falt gjennomsnittslengden på resonnementssporene fra 3 703 token med ett gjennomløp til 1 661 med fem. Gjennomsnittlig setningslengde endret seg bare fra 8,9 til 8,7 ord, og andelen ord som finnes i en engelsk ordbok, gikk fra 94,6 % til 94,4 %. De kortere sporene var mer direkte og inneholdt mindre tilbakesporing.
De agentiske testene brukte en versjon av Inkling 2 Mini som var finjustert utelukkende for å være hjelpsom, og modellen med variabelt antall gjennomløp i LinuxArena. Med Qwen3.6-35B-A3B som en svakere overvåker fant selskapet ingen tydelig tendens i andelen skjulte handlinger etter hvert som antallet gjennomløp økte. Da overvåkeren bare fikk se verktøykall og utdata, ble et betydelig antall angrep ikke oppdaget.
Disse resultatene om overvåkbarhet er foreløpige. Forsterkningslæring ble bare brukt ved tre gjennomløp, så eksperimentene fastslår ikke hva en modell som er trent med flere gjennomløp, ville lære. Selskapet advarer også om at en slik modell kan komprimere resonnementet sitt mer aggressivt.
For forskere som arbeider med tilsyn, er det åpne spørsmålet om lesbarheten som ble observert i denne skalaen, også gjelder større modeller og treningsopplegg som optimaliserer for dypere løkker. Utgivelsene med faste og variable løkker og åpne vekter gir en direkte måte å undersøke dette spørsmålet på tvers av ulike løkkedybder.












