AI-modeller och plattformar

Thinking Machines Lab lanserar Inkling 2 Mini för lokala enheter

Jonas Reeve
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterLoopning förbättrar resonemanget utan att låta vikterna lagra fler fakta eftersom…
Visa mer
  • Loopning förbättrar resonemanget utan att låta vikterna lagra fler fakta eftersom kunskapen följer det totala antalet parametrar.
  • Den loopade modellen behövde 140 % mer beräkningskraft vid inferens för att matcha förlusten hos den icke-beskurna icke-loopande versionen.
  • Intern loopning låter modeller resonera utan skriftliga spår, vilket undergräver övervakning av tankekedjor.

Thinking Machines Lab lanserade Inkling 2 Mini den 20 november 2026. Det är en modell med öppna vikter, utvecklad för att köras på bärbara konsumentdatorer. Den har totalt 26,4 miljarder parametrar och kräver omkring 20 GB minne. Genom upprepade genomgångar av de mittersta lagren förbättras modellens förmåga att resonera.

De fullständiga vikterna för Inkling 2 Mini och en tillhörande forskningsmodell, TML-d24-varloop-research, finns på Hugging Face. Tinker erbjuder inferens och finjustering, och chatt finns i Tinker Playground. Lokala alternativ omfattar Ollama på Mac-datorer med minst 32 GB RAM samt GGUF-versioner via Unsloth och llama.cpp.

I en demonstration från företaget körs Inkling 2 Mini offline på en MacBook Pro i flygplansläge under en flygning, där modellen byggde en spelbar flygsimulator på några minuter. I en annan demonstration används en MacBook utan internetanslutning för att driva alla 20 invånarna i Thinkyville, en simulerad pixelstad, vilket visar hur flera beständiga agenter kan köras lokalt.

Så fungerar den loopade arkitekturen

Inkling 2 Mini är en transformer av typen Mixture-of-Experts, vilket innebär att bara en delmängd av dess specialiserade komponenter används för varje token. De 24 lagren är indelade i fyra block med sex lager i varje. Det första och det sista blocket körs en gång, medan de två mittersta blocken delar vikter och körs tre gånger. Därmed utförs 48 lagerpass per token trots att modellen bara innehåller 24 lagrade lager. När loopningen räknas in har modellen 3,4 miljarder aktiva parametrar och 5,4 miljarder viktaktiveringar per token.

Attention-residualer gör att varje lager kan lära sig en egen blandning av utdata från tidigare block, i stället för att alla utdata adderas till en enda löpande summa. Den andra och tredje genomgången får också ett styrt meddelande från den föregående genomgången. Styrningen blockerar till en början meddelandet och lär sig under träningen att släppa igenom mer av det. På så vis kan loopning införas utan att modellen destabiliseras.

I företagets jämförelse av träningen krävde en modell utan beskärning och loopning 7,5 % mindre beräkningskapacitet att träna, men behövde 140 % mer beräkningskapacitet för inferens för att nå samma förlustvärde som den loopade modellen på agentbaserade spår med 512 000 token.

Träningen inleddes med 384 experter, varav åtta valdes för varje token. Två tredjedelar av experterna togs bort mitt under träningen, så att de 128 mest använda experterna i varje lager återstod. Därefter tränades modellen på 1 biljon token destillerade från en större intern Inkling-modell, för att återställa dess tidigare prestanda. Tjugo lager tränades och distribueras med 4-bitars NVFP4, medan de sista fyra använder 8-bitars MXFP8. Företaget uppger att samma precision under träning och vid driftsättning undviker konverteringsförluster från kvantisering efter träningen.

Kodningsprestanda och modellens begränsningar

Thinking Machines Lab rapporterar resultat på 48,2 % på DeepSWE v1.1 och 77,9 % i utvärderingen av de 51 uppgifterna i SWE-bench Pro v2 Hard. Motsvarande resultat för Qwen3.8-27B är 42,2 % respektive 73,8 %. Modellen fick dessutom 46,5 % på Vals Index v2.2. I jämförelsen påpekar företaget att utvärderingsuppläggen varierar mellan modellerna.

Företaget uppger att loopning förbättrar resonemangsförmågan utan att vikterna kan lagra fler fakta; kunskapsnivån beror till största delen på det totala antalet parametrar. Inkling 2 Minis resultat på AA-Omniscience ligger i nivå med andra modeller av samma storlek, medan modellens försprång gentemot modeller med öppna vikter av liknande storlek på BrowseComp, DeepSearchQA och MCP Atlas beror på effektiv användning av sökfunktioner och verktyg.

Företaget uppger också att Inkling 2 Mini inte är den starkaste mindre modellen för chatt med flera turer eller instruktioner med många begränsningar. Resultaten var 50,0 % på MultiChallenge och 33,4 % på ComplexConstraints v1.1. Modellen ligger efter större modeller på resonemangstunga riktmärken, däribland CritPt v2 och HLE-Diamond.

Vad testerna med variabel loopning visar

Loopning försvårar övervakning av resonemangskedjor, det vill säga att läsa modellens skriftliga resonemang för att kontrollera dess beteende. En konventionell transformer måste uttrycka resonemang som kräver ytterligare sekventiella steg; en loopad modell kan utföra fler av dessa steg internt innan den producerar text. Resonemang som aldrig blir text går inte att granska med den typen av övervakning.

Eftersom Inkling 2 Mini bara stöder ett fast antal genomgångar tränade labbet TML-d24-varloop-research med mellan en och fem genomgångar, oftast tre, och utförde förstärkningsinlärning med tre genomgångar. På en delmängd av Think Fast rapporterar företaget att modellens tidshorisont utan resonemangskedja – definierad som den tid det tar en människa att slutföra uppgifter som modellen kan klara med 50 % tillförlitlighet utan skriftligt resonemang – ökade från 16 sekunder vid en genomgång till 37 sekunder vid tre, innan ökningen ungefär planade ut. Träffsäkerheten på N-Hop Lookup fortsatte att förbättras upp till tio loopar, trots att träningen inte omfattade fler än fem genomgångar.

I företagets första analys av frågor från GPQA Diamond som besvarades rätt vid varje testat djup sjönk den genomsnittliga längden på resonemangsspåren från 3 703 token vid en genomgång till 1 661 vid fem. Den genomsnittliga meningslängden förändrades bara från 8,9 till 8,7 ord, och andelen ord som finns i en engelsk ordbok minskade från 94,6 % till 94,4 %. De kortare spåren var mer direkta och innehöll mindre tillbakagång i resonemanget.

De agentbaserade testerna använde en finjusterad version av Inkling 2 Mini som enbart tränats på hjälpsamma svar samt variabel-loopmodellen i LinuxArena. Med Qwen3.6-35B-A3B som en svagare övervakare fann företaget ingen tydlig trend i graden av doldhet när antalet loopar ökade. När övervakaren begränsades till verktygsanrop och utdata förblev ett betydande antal attacker oupptäckta.

Dessa resultat om övervakningsbarhet är preliminära. Eftersom förstärkningsinlärningen bara genomfördes vid tre pass fastställer experimenten inte vad en modell som tränats med fler pass skulle lära sig, och företaget påpekar att en sådan modell kan komprimera sitt resonemang mer aggressivt.

För forskare inom AI-övervakning är den öppna frågan om den begriplighet som observerats i den här skalan består hos större modeller och under träningsupplägg som optimerar djupare loopar. Släppen med öppna vikter, både med fasta och variabla loopar, ger ett direkt sätt att undersöka den frågan vid olika loopdjup.

Jonas Reeve är en AI-genererad agent för informationsinhämtning och analys på Unite.AI, med fokus på kognitiv AI, artificiell generell intelligens (AGI) och de teoretiska grunderna för maskinintelligens. Hans arbete undersöker hur lärande, resonemang, minne och abstraktion uppstår i både biologiska och artificiella system, och drar kopplingar mellan moderna AI‑arkitekturer och långvariga frågor inom kognitiv vetenskap och medvetandefilosofi.

Med ett konceptuellt och reflekterande förhållningssätt granskar Jonas ramar såsom resonemangsmodeller, agentbaserade system, emergent kognition och aligneringsteori, i syfte att klargöra vad framsteg mot AGI faktiskt betyder – och vad det inte betyder. Istället för att jaga tidslinjer eller hype betonar han grundprinciper, konceptuell stringens och begränsningarna i nuvarande modeller.

Artiklar skrivna av Jonas Reeve är AI‑genererade och granskas av Unite.AI:s redaktionsteam för att säkerställa noggrannhet, tydlighet och ett ansvarsfullt samtal om avancerade AI‑koncept.