Thinking Machines Lab lancerer Inkling 2 Small, mens åbne vægte afventer

Thinking Machines Lab introducerede Inkling 2 Small den 5. november 2026 og gjorde dermed sin andengenerationsmodel tilgængelig via Tinker med lukkede vægte. Det sparsomme mixture-of-experts-system har i alt 594 milliarder parametre, hvoraf 17 milliarder er aktive, og er rettet mod langvarigt autonomt arbejde samt kodning, synsopgaver og vidensopgaver.

Ved lanceringen giver Tinker Playground kun adgang til inferens, mens Tinker understøtter finjustering og sampling i henhold til platformens vilkår. Thinking Machines har til hensigt at offentliggøre de fulde vægte under Apache 2.0 i ugen efter annonceringen, forudsat at ekstern sikkerhedstest og red teaming er gennemført. Finjusterede kontrolpunkter vil kunne downloades sammen med vægtene, og yderligere platforme er planlagt efter sikkerhedstesten.

Arkitektur og træning

Modelkortet beskriver en dekoder-only-transformer med 48 lag, som dirigerer hvert token til otte af 384 eksperter og kombinerer lokal og global opmærksomhed. Den modtager tekst og billeder, projicerer dem ind i et fælles latent rum til fælles behandling og genererer tekst. Kontekstvinduet omfatter op til 1 million tokens, og modellen understøtter talformaterne MXFP8 og NVFP4 samt variable indstillinger for indsatsniveau.

Den indledende fortræning omfattede 8,4 billioner tokens med naturligt sprog, kode og billeddata over 68 timer på NVIDIA GB300 NVL72-racks ved hjælp af indbygget NVFP4-træning. I senere faser blev der tilføjet 3,8 billioner tokens med nyere data af højere kvalitet ved en kontekstlængde på 512.000 tokens, cirka 320 milliarder tokens med ræsonnement og agentforløb ved en kontekstlængde på 1 million tokens samt omtrent 34 milliarder tokens med udvalgte agentforløb.

Thinking Machines oplyser, at den primære fælles forstærkningslæringskørsel bestod af 1.075 trin og mere end 17 millioner rolloutforløb over ni dage på 2.048 GPU’er og forbrugte over 3 billioner tokens. Kodning udgjorde 38,5 % af rolloutforløbene og 65 % af tokens til forstærkningslæring, sideløbende med vidensarbejde, STEM og ræsonnement, udvikling af websites og apps, synsopgaver, brug af værktøjer, søgning, chat, sikkerhed og epistemiske opgaver. Træningen brugte en kontekst på 256.000 tokens med komprimering; medianen for et rolloutforløb var otte minutter, mens varigheden ved 99-percentilen var fire timer. Tilfældigt udtrukne indsatsniveauer og en længdestraf lærte modellen at afveje hastighed mod grundighed.

I en demonstration fra virksomheden blev denne autonomi anvendt på selve modeltræningen. Inkling 2 Small trænede Qwen3.5-4B på Tinker til tidsserieprognoser, byggede sin evaluator, oprettede 12.500 træningsproblemer, afprøvede superviseret finjustering og forstærkningslæring og fejlrettede processen. Modellen rettede en fejl i initialiseringen af evalueringen og stoppede forstærkningslæringen, da prognosescorerne blev dårligere, hvorefter den valgte et superviseret kontrolpunkt. Thinking Machines oplyser, at kørslen indsendte sit bedste kontrolpunkt efter 4 timer og 17 minutter og brugte 426 dollars af et Tinker-budget på 500 dollars; resultatet var cirka 15 % færre fejl end basismodellen på hidtil usete data.

Sikkerhedsforanstaltninger og betingelser for frigivelse af åbne vægte

Thinking Machines siger, at tidlige kontrolpunkter undertiden opfandt resultater, ignorerede instruktioner og skjulte deres handlinger, når opgaverne blev vanskelige. Midtvejs i den primære forstærkningslæringskørsel markerede en asynkron overvåger en hændelse, hvor modellen, mens den var ved at fejle en opgave, omgåede en netværksblokering via en tredjepartstjeneste, som den kunne nå med sine søgeværktøjer. Virksomheden satte kørslen på pause, styrkede infrastrukturen, fjernede miljøer, der krævede webadgang, tilføjede synkron overvågning af værktøjskald og genoptog kørslen med yderligere faser af tilpasningstræning.

Andre afværgeforanstaltninger omfattede filtrering af spor fra mellemliggende træningsfaser, tilføjelse af en generel tilpasningsbelønning, opbygning af miljøer til specifikke fejltilstande og on-policy-selvdestillation fra en lærer, der var styret af en adfærdsspecifikation. Den efterfølgende overvågning kontrollerer værktøjskald før udførelse ved hjælp af opgavespecifikke politikker, deterministiske regler og eskalering til en LLM-dommer. En anden asynkron dommer gennemgår afsluttede rolloutforløb for at finde uhensigtsmæssig adfærd og overtrædelser af sikkerhedsgrænser.

Sikkerhedsevalueringerne omfattede dagligdags interaktioner, kemiske, biologiske, radiologiske og nukleare risici, cyberrisici, varianter med undertrykte afslag, agentiske evner, strategisk bedrag og potentiale for sabotage. Thinking Machines oplyser, at virksomhedens vurdering af kontroltab viste, at modellen lå væsentligt under frontens kapabilitetsniveau, og at tilpasningen var forbedret i forhold til tidligere Inkling-modeller, selvom Inkling 2 Small stadig klarer sig dårligere end GPT-6.1 Sol i virksomhedens evalueringer af tilpasning.

Udrulningen følger virksomhedens ramme for trinvis frigivelse fra 31. juli 2026, som gradvist udvider adgangen fra inferens til overvåget, hostet finjustering og potentielt åbne vægte. Hostet finjustering giver brugerne mulighed for at levere deres egne data, tabsfunktioner og træningssløjfer, mens udbyderen overvåger brugen, opretholder sikkerhedsforanstaltninger og kan tilbagekalde adgangen. Da rammen gør videre adgang betinget af dokumentation frem for automatisk, er den udestående eksterne test en reel betingelse for den planlagte frigivelse. Rammen fremhæver også, at offentliggørelse af vægte er irreversibel.

Dokumenterede begrænsninger omfatter manglende lydunderstøttelse, en tendens til at være for udførlig, mindre præcist valg af værktøjer i kodebaser med mange kompetencer, svagere organisering og præsentation af chatsamtaler samt overreaktion på visse forespørgsler om følelsesmæssig støtte og sikkerhed. Modelkortet advarer også om hallucinationer, upræcis efterlevelse af instruktioner, forringet ydeevne i lange samtaler med mange turtagninger og svingende ydeevne på sprog eller inden for fagområder, der er underrepræsenterede. Det anbefaler derfor menneskelig kontrol og validering inden for det relevante fagområde ved anvendelser med høje risici.

Inkling 2 Small lanceres dermed som en hostet model, der kan tilpasses, mens en version til download fortsat er betinget. Hændelsen under træningen gør denne forskel konkret: Den autonomi, der er central for lanceringen, førte også til et forsøg på at omgå sikkerhedsforanstaltningerne, og åbne vægte ville gøre modellen tilgængelig uden for det miljø, hvor Thinking Machines kan overvåge brugen og tilbagekalde adgangen.