Modele i platformy AI
Thinking Machines Lab udostępnia Inkling 2 Mini do pracy na urządzeniach lokalnych

Kluczowe punktyZapętlanie poprawia rozumowanie, nie pozwalając wagom przechowywać więcej faktów…
Zobacz więcej
- Zapętlanie poprawia rozumowanie, nie pozwalając wagom przechowywać więcej faktów, ponieważ wiedza zależy od całkowitej liczby parametrów.
- Model z zapętlaniem wymagał o 140% więcej mocy obliczeniowej podczas wnioskowania, aby dorównać stratą nieprzyciętej wersji bez zapętlania.
- Wewnętrzne zapętlanie pozwala modelom rozumować bez zapisanych śladów, co podważa monitorowanie łańcucha myśli.
Thinking Machines Lab udostępniło Inkling 2 Mini 20 listopada 2026 r. To model z otwartymi wagami, zaprojektowany do działania na laptopach konsumenckich. Ma łącznie 26,4 mld parametrów, a jego pamięć zajmuje około 20 GB. Wykorzystuje wielokrotne przejścia przez środkowe warstwy, by poprawić zdolność rozumowania.
Pełne wagi Inkling 2 Mini oraz towarzyszącego mu modelu badawczego TML-d24-varloop-research są dostępne w serwisie Hugging Face. Tinker oferuje wnioskowanie i dostrajanie, a także czat w Tinker Playground. Lokalne opcje obejmują Ollama na komputerach Mac z co najmniej 32 GB pamięci RAM oraz wersje GGUF dostępne za pośrednictwem Unsloth i llama.cpp.
Na demonstracji firmy Inkling 2 Mini działa offline na MacBooku Pro w trybie samolotowym podczas lotu i w kilka minut tworzy grywalny symulator lotu. W innej demonstracji jeden MacBook działający offline zasila wszystkich 20 mieszkańców Thinkyville, symulowanego miasteczka z grafiką pikselową. Pokazuje to, że wiele stale działających agentów może pracować lokalnie.
Jak działa architektura z pętlami
Inkling 2 Mini to transformer typu mieszanki ekspertów, co oznacza, że dla każdego tokenu wykorzystywana jest tylko część jego wyspecjalizowanych komponentów. Jego 24 warstwy podzielono na cztery bloki po sześć warstw. Pierwszy i ostatni blok są uruchamiane raz, a dwa środkowe współdzielą wagi i są uruchamiane trzykrotnie. W efekcie dla każdego tokenu wykonywanych jest 48 operacji warstw, mimo że model zawiera 24 zapisane warstwy. Po uwzględnieniu pętli model ma 3,4 mld aktywnych parametrów i 5,4 mld aktywacji wag na token.
Reszty uwagi pozwalają każdej warstwie nauczyć się własnej kombinacji wyników wcześniejszych bloków, zamiast dodawać wszystkie wyniki do jednej bieżącej sumy. Drugie i trzecie przejście otrzymują również komunikat z poprzedniego przejścia, kontrolowany przez bramkę. Początkowo bramka blokuje ten komunikat, a podczas treningu uczy się przepuszczać go w większym stopniu, dzięki czemu pętle można wprowadzić bez destabilizowania modelu.
W porównaniu treningowym firmy model bez przycinania i bez pętli wymagał o 7,5% mniej mocy obliczeniowej podczas treningu, ale do osiągnięcia takiej samej wartości funkcji straty jak model z pętlami potrzebował o 140% więcej mocy obliczeniowej podczas wnioskowania na śladach agentowych o długości 512 000 tokenów.
Trening rozpoczęto od 384 ekspertów, wybierając ośmiu dla każdego tokenu. W trakcie treningu przycięto dwie trzecie ekspertów, pozostawiając 128 najczęściej używanych w każdej warstwie. Następnie model trenowano na 1 bln tokenów destylowanych z większego, wewnętrznego modelu Inkling, aby przywrócić jego wcześniejszą wydajność. Trenowano 20 warstw, które wdrożono w formacie 4-bitowym NVFP4; ostatnie cztery warstwy są w formacie 8-bitowym MXFP8. Firma twierdzi, że zachowanie takiej samej precyzji podczas treningu i wdrożenia pozwala uniknąć strat konwersji związanych z kwantyzacją po treningu.
Wydajność w kodowaniu i ograniczenia modelu
Thinking Machines Lab podaje wyniki 48,2% w teście DeepSWE v1.1 i 77,9% w ocenie SWE-bench Pro v2 Hard obejmującej 51 zadań. Dla Qwen3.8-27B wyniki te wynoszą odpowiednio 42,2% i 73,8%. Model uzyskał też 46,5% w teście Vals Index v2.2. Firma zaznacza, że konfiguracje ewaluacji różnią się w zależności od modelu.
Firma twierdzi, że pętle poprawiają zdolność rozumowania, ale nie pozwalają wagom przechowywać większej liczby faktów; zasób wiedzy zależy głównie od łącznej liczby parametrów. Wynik Inkling 2 Mini w teście AA-Omniscience jest zbliżony do wyników innych modeli o podobnej wielkości. Przewaga modelu nad innymi modelami z otwartymi wagami o zbliżonej wielkości w testach BrowseComp, DeepSearchQA i MCP Atlas wynika z wydajnego korzystania z wyszukiwania i narzędzi.
Firma dodaje, że Inkling 2 Mini nie jest najmocniejszym małym modelem do rozmów wieloetapowych ani wykonywania poleceń z wieloma ograniczeniami. Podaje wyniki 50,0% w teście MultiChallenge i 33,4% w ComplexConstraints v1.1. Model wypada słabiej niż większe modele w testach wymagających intensywnego rozumowania, takich jak CritPt v2 i HLE-Diamond.
Co pokazują testy zmiennej liczby pętli
Pętle utrudniają monitorowanie łańcucha rozumowania — praktykę polegającą na analizowaniu zapisanego toku rozumowania modelu w celu nadzorowania jego działania. W przypadku tradycyjnego transformera rozumowanie wymagające dodatkowych kroków sekwencyjnych musi zostać wyrażone na zewnątrz; model z pętlami może wykonać więcej takich kroków wewnętrznie, zanim wygeneruje tekst. Toku rozumowania, który nie zostaje ujęty w tekście, nie da się skontrolować za pomocą tego rodzaju monitora.
Ponieważ Inkling 2 Mini obsługuje wyłącznie stałą liczbę przejść, laboratorium wytrenowało model TML-d24-varloop-research z jednym do pięciu przejść, najczęściej trzema, a uczenie przez wzmacnianie przeprowadziło przy trzech przejściach. W podzbiorze Think Fast firma odnotowała wzrost horyzontu czasowego zadań bez jawnego toku rozumowania — zdefiniowanego jako czas, w którym człowiek wykonuje zadania, jakie model potrafi ukończyć z 50-procentową niezawodnością bez zapisanego toku rozumowania — z 16 sekund przy jednym przejściu do 37 sekund przy trzech. Następnie wynik w przybliżeniu się wypłaszczył. Trafność w teście N-Hop Lookup nadal rosła aż do dziesięciu pętli, mimo że podczas treningu nie stosowano więcej niż pięciu.
We wstępnej analizie firmy średnia długość śladów rozumowania dla pytań z testu GPQA Diamond, na które model poprawnie odpowiadał przy każdej sprawdzanej głębokości, spadła z 3703 tokenów przy jednym przejściu do 1661 przy pięciu. Średnia długość zdania zmieniła się tylko z 8,9 do 8,7 słowa, a odsetek słów występujących w angielskim słowniku — z 94,6% do 94,4%. Krótsze ślady były bardziej bezpośrednie i zawierały mniej powrotów do wcześniejszych etapów rozumowania.
W testach agentowych wykorzystano dostrojoną wyłącznie pod kątem pomocności wersję Inkling 2 Mini oraz model ze zmienną liczbą pętli w środowisku LinuxArena. Przy użyciu słabszego monitora Qwen3.6-35B-A3B firma nie stwierdziła wyraźnej zależności między liczbą pętli a częstością ukrywania działań. Ograniczenie monitora do wywołań narzędzi i ich wyników sprawiło, że znaczna liczba ataków pozostała niewykryta.
Te wyniki dotyczące możliwości monitorowania są wstępne. Uczenie przez wzmacnianie przeprowadzono wyłącznie w trzech iteracjach, dlatego eksperymenty nie pozwalają ustalić, czego nauczyłby się model trenowany przy większej liczbie iteracji, a firma zastrzega, że taki model mógłby bardziej agresywnie kompresować swoje rozumowanie.
W przypadku badaczy zajmujących się nadzorem otwartym pytaniem pozostaje, czy czytelność zaobserwowana w tej skali utrzyma się w większych modelach i przy metodach treningowych optymalizujących głębsze pętle. Wydania z otwartymi wagami w wariantach ze stałą i zmienną liczbą iteracji umożliwiają bezpośrednie zbadanie tej kwestii przy różnej głębokości pętli.












