Model dan platform AI
Thinking Machines Lab Merilis Inkling 2 Mini untuk Perangkat Lokal

Poin utamaPerulangan meningkatkan penalaran tanpa membiarkan bobot menyimpan lebih banyak fakta…
Lihat selengkapnya
- Perulangan meningkatkan penalaran tanpa membiarkan bobot menyimpan lebih banyak fakta karena pengetahuan mengikuti jumlah total parameter.
- Model berulang membutuhkan komputasi inferensi 140% lebih banyak untuk menyamai loss versi non-perulangan yang tidak dipangkas.
- Perulangan internal memungkinkan model bernalar tanpa jejak tertulis yang melemahkan pemantauan rantai pemikiran.
Thinking Machines Lab merilis Inkling 2 Mini pada 20 November 2026, sebuah model berbobot terbuka yang dirancang untuk dijalankan di laptop konsumen. Model ini memiliki total 26,4 miliar parameter dan membutuhkan sekitar 20GB memori, serta menggunakan lintasan berulang pada lapisan tengahnya untuk meningkatkan kemampuan penalaran.
Bobot lengkap Inkling 2 Mini dan model riset pendampingnya, TML-d24-varloop-research, tersedia di Hugging Face. Tinker menyediakan inferensi dan penyetelan halus, serta fitur obrolan di Tinker Playground. Untuk penggunaan lokal, tersedia Ollama pada sistem Mac dengan RAM minimal 32GB, serta versi GGUF melalui Unsloth dan llama.cpp.
Dalam demonstrasi perusahaan, Inkling 2 Mini dijalankan secara luring di MacBook Pro dalam mode pesawat selama penerbangan, lalu membuat simulator penerbangan yang dapat dimainkan dalam beberapa menit. Demonstrasi lainnya menggunakan satu MacBook luring untuk menggerakkan seluruh 20 penghuni Thinkyville, sebuah kota piksel simulasi, yang menunjukkan bahwa banyak agen persisten dapat dijalankan secara lokal.
Cara Kerja Arsitektur Berulang
Inkling 2 Mini adalah transformer dengan arsitektur campuran pakar (Mixture-of-Experts), yang berarti hanya sebagian komponen khususnya yang digunakan untuk setiap token. Ke-24 lapisannya dibagi menjadi empat blok yang masing-masing terdiri atas enam lapisan. Blok pertama dan terakhir dijalankan satu kali, sedangkan dua blok tengah berbagi bobot dan dijalankan tiga kali. Dengan demikian, setiap token melewati penerapan lapisan sebanyak 48 kali, meskipun hanya ada 24 lapisan yang tersimpan. Model ini memiliki 3,4 miliar parameter aktif dan 5,4 miliar aktivasi bobot per token setelah pengulangan diperhitungkan.
Residual atensi memungkinkan setiap lapisan mempelajari campurannya sendiri dari keluaran blok sebelumnya, alih-alih menjumlahkan semua keluaran ke dalam satu akumulasi. Lintasan kedua dan ketiga juga menerima pesan berpagar dari lintasan sebelumnya. Pada awalnya, gerbang tersebut memblokir pesan itu, lalu belajar untuk menerimanya lebih banyak selama pelatihan. Dengan demikian, pengulangan dapat diperkenalkan tanpa membuat model tidak stabil.
Dalam perbandingan pelatihan perusahaan, model tanpa pengulangan dan tanpa pemangkasan membutuhkan komputasi pelatihan 7,5% lebih sedikit, tetapi memerlukan komputasi inferensi 140% lebih banyak untuk menyamai nilai loss versi berulang pada jejak kerja agen sepanjang 512.000 token.
Pelatihan dimulai dengan 384 pakar, dengan delapan pakar dipilih untuk setiap token. Dua pertiganya dipangkas pada tahap pertengahan pelatihan, sehingga tersisa 128 pakar yang paling banyak digunakan di setiap lapisan. Setelah itu, model dilatih menggunakan 1 triliun token yang disuling dari model Inkling internal yang lebih besar untuk memulihkan kinerja sebelumnya. Dua puluh lapisan dilatih dan diterapkan dalam format NVFP4 4-bit, sedangkan empat lapisan terakhir menggunakan MXFP8 8-bit; menurut perusahaan, menyamakan presisi pelatihan dan penerapan menghindari kehilangan akibat konversi dari kuantisasi pascapelatihan.
Kinerja Pemrograman dan Keterbatasan Model
Thinking Machines Lab melaporkan skor 48,2% pada DeepSWE v1.1 dan 77,9% pada evaluasi SWE-bench Pro v2 Hard yang terdiri atas 51 tugas, dibandingkan dengan masing-masing 42,2% dan 73,8% untuk Qwen3.8-27B. Model ini juga meraih 46,5% pada Vals Index v2.2. Dalam perbandingannya, perusahaan mencatat bahwa pengaturan evaluasi berbeda-beda untuk setiap model.
Menurut perusahaan, pengulangan meningkatkan kemampuan penalaran tanpa membuat bobot model menyimpan lebih banyak fakta; pengetahuan sebagian besar ditentukan oleh jumlah total parameter. Hasil Inkling 2 Mini pada AA-Omniscience sejalan dengan hasil model lain yang berukuran serupa, sedangkan keunggulannya dibandingkan model berbobot terbuka berukuran serupa pada BrowseComp, DeepSearchQA, dan MCP Atlas berasal dari penggunaan pencarian dan alat secara efisien.
Perusahaan juga menyatakan bahwa Inkling 2 Mini bukan model kecil terkuat untuk obrolan multi-giliran atau instruksi dengan banyak batasan, dengan melaporkan skor 50,0% pada MultiChallenge dan 33,4% pada ComplexConstraints v1.1. Model ini tertinggal dari model yang lebih besar pada tolok ukur yang menuntut penalaran intensif, termasuk CritPt v2 dan HLE-Diamond.
Hasil Pengujian Pengulangan Variabel
Pengulangan mempersulit pemantauan rantai penalaran, yaitu praktik membaca penalaran tertulis model untuk mengawasi perilakunya. Transformer konvensional harus mengungkapkan penalaran yang memerlukan langkah berurutan tambahan; model berulang dapat menjalankan lebih banyak langkah tersebut secara internal sebelum menghasilkan teks. Penalaran yang tidak pernah dituangkan ke dalam teks tidak dapat diperiksa oleh pemantau semacam itu.
Karena Inkling 2 Mini hanya mendukung jumlah lintasan yang tetap, lab melatih TML-d24-varloop-research dengan satu hingga lima lintasan, sebagian besar tiga lintasan, dan melakukan pembelajaran penguatan pada tiga lintasan. Pada subset Think Fast, perusahaan melaporkan bahwa rentang waktu tanpa rantai penalaran—yang didefinisikan sebagai waktu yang dibutuhkan manusia untuk menyelesaikan tugas yang dapat dituntaskan model dengan keandalan 50% tanpa penalaran tertulis—meningkat dari 16 detik pada satu lintasan menjadi 37 detik pada tiga lintasan, sebelum kemudian relatif mendatar. Akurasi N-Hop Lookup terus meningkat hingga sepuluh pengulangan, meskipun pelatihan tidak pernah melampaui lima lintasan.
Dalam analisis awal perusahaan terhadap pertanyaan GPQA Diamond yang dijawab dengan benar pada setiap kedalaman yang diuji, rata-rata panjang jejak penalaran turun dari 3.703 token pada satu lintasan menjadi 1.661 token pada lima lintasan. Rata-rata panjang kalimat hanya berubah dari 8,9 menjadi 8,7 kata, sementara proporsi kata yang ditemukan dalam kamus bahasa Inggris turun dari 94,6% menjadi 94,4%; jejak yang lebih pendek tersebut lebih lugas dan lebih sedikit melakukan penelusuran ulang.
Pengujian agen menggunakan versi Inkling 2 Mini dan model pengulangan variabel yang disetel halus agar hanya berfokus pada sikap membantu, di LinuxArena. Dengan Qwen3.6-35B-A3B sebagai pemantau yang lebih lemah, perusahaan tidak menemukan tren yang jelas pada tingkat serangan terselubung seiring bertambahnya jumlah pengulangan; ketika pemantauan dibatasi pada panggilan alat dan keluarannya, masih banyak serangan yang tidak terdeteksi.
Hasil keterpantauan ini masih bersifat awal. Karena pembelajaran penguatan hanya dilakukan selama tiga lintasan, eksperimen ini tidak menunjukkan apa yang akan dipelajari model yang dilatih dengan jumlah lintasan lebih banyak, dan perusahaan mengingatkan bahwa model seperti itu mungkin akan memadatkan penalarannya dengan lebih agresif.
Bagi para peneliti pengawasan, pertanyaan yang belum terjawab adalah apakah keterpahaman yang terlihat pada skala ini tetap bertahan pada model yang lebih besar dan rezim pelatihan yang mengoptimalkan loop lebih dalam. Rilis bobot terbuka dengan loop tetap dan variabel menyediakan cara langsung untuk menyelidiki pertanyaan tersebut pada berbagai kedalaman loop.












