Моделі та платформи ШІ
Thinking Machines Lab випустила Inkling 2 Mini для роботи на локальних пристроях

Ключові моментиЦиклічне повторення покращує міркування, не дозволяючи вагам зберігати більше фактів…
Показати більше
- Циклічне повторення покращує міркування, не дозволяючи вагам зберігати більше фактів, оскільки знання відстежують загальну кількість параметрів.
- Моделі з циклічним повторенням знадобилося на 140% більше обчислень для виведення, щоб досягти втрат необрізаної версії без циклічного повторення.
- Внутрішнє циклічне повторення дозволяє моделям міркувати без письмових слідів, що підриває моніторинг ланцюжка думок.
Thinking Machines Lab випустила Inkling 2 Mini 20 листопада 2026 року. Ця модель із відкритими вагами створена для роботи на споживчих ноутбуках. Вона має загалом 26,4 мільярда параметрів і займає в пам’яті близько 20 ГБ; для поліпшення міркувань модель повторно проходить через середні шари.
Повні ваги Inkling 2 Mini та супутньої дослідницької моделі TML-d24-varloop-research доступні на Hugging Face. Tinker забезпечує інференс і донавчання, а для спілкування з моделлю можна скористатися Tinker Playground. Серед локальних варіантів — Ollama на комп’ютерах Mac щонайменше з 32 ГБ оперативної пам’яті, а також версії GGUF через Unsloth і llama.cpp.
У демонстрації компанії Inkling 2 Mini працює без підключення до інтернету на MacBook Pro в режимі польоту під час перельоту й за кілька хвилин створює придатний до гри авіасимулятор. В іншій демонстрації один MacBook без підключення до інтернету забезпечує роботу всіх 20 мешканців Thinkyville — симульованого піксельного містечка. Так показано, як кілька постійно активних агентів можуть працювати локально.
Як працює архітектура з повторними проходами
Inkling 2 Mini — це трансформер типу «суміш експертів»: для кожного токена використовують лише частину спеціалізованих компонентів. Його 24 шари поділено на чотири блоки по шість. Перший і останній блоки проходять один раз, а два середні блоки мають спільні ваги й проходяться тричі. У результаті кожен токен проходить через шари 48 разів, хоча збережено лише 24 шари. З урахуванням циклічного проходження модель має 3,4 мільярда активних параметрів і 5,4 мільярда активацій ваг на токен.
Залишкові зв’язки уваги дають кожному шару змогу засвоювати власне поєднання вихідних даних попередніх блоків замість того, щоб додавати кожен результат до єдиної накопичуваної суми. На другому й третьому проходах модель також отримує повідомлення від попереднього проходу, пропущене через керувальний механізм. Спочатку цей механізм блокує повідомлення, а під час навчання вчиться пропускати його дедалі більше. Завдяки цьому циклічне проходження можна запровадити, не дестабілізуючи модель.
За порівнянням компанії, навчання моделі без циклічного проходження та без обрізання експертів потребувало на 7,5% менше обчислювальних ресурсів, але для досягнення такої самої втрати, як у моделі з циклічним проходженням, їй було потрібно на 140% більше обчислювальних ресурсів під час інференсу на агентних трасах завдовжки 512 000 токенів.
Навчання почалося з 384 експертів, із яких для кожного токена вибирали вісім. Під час проміжного етапу навчання дві третини експертів відсіяли, залишивши по 128 найчастіше використовуваних експертів у кожному шарі. Після цього модель навчали на 1 трильйоні токенів, дистильованих із більшої внутрішньої моделі Inkling, щоб відновити її попередні результати. Двадцять шарів навчали й розгортають у форматі NVFP4 з точністю 4 біти, а останні чотири — у форматі MXFP8 з точністю 8 біт. Компанія стверджує, що однакова точність під час навчання й розгортання дає змогу уникнути втрат під час перетворення, спричинених квантуванням після навчання.
Результати в програмуванні та обмеження моделі
За даними Thinking Machines Lab, модель набрала 48,2% у тесті DeepSWE v1.1 і 77,9% у складному оцінюванні SWE-bench Pro v2 Hard, що охоплює 51 завдання. Для порівняння, Qwen3.8-27B набрала відповідно 42,2% і 73,8%. Крім того, модель отримала 46,5% у Vals Index v2.2. У порівнянні компанія зазначає, що методики оцінювання різняться залежно від моделі.
Компанія стверджує, що циклічне проходження поліпшує міркування, але не дає змоги зберігати у вагах більше фактів: обсяг знань здебільшого залежить від загальної кількості параметрів. Результат Inkling 2 Mini в AA-Omniscience відповідає результатам інших моделей такого самого розміру, тоді як її переваги над моделями з відкритими вагами подібного розміру в BrowseComp, DeepSearchQA та MCP Atlas пояснюються ефективним використанням пошуку й інструментів.
Компанія також зазначає, що Inkling 2 Mini не є найсильнішою малою моделлю для багатокрокового спілкування або виконання інструкцій із численними обмеженнями. Її результати становлять 50,0% у MultiChallenge і 33,4% у ComplexConstraints v1.1. У тестах із високими вимогами до міркування, зокрема CritPt v2 і HLE-Diamond, вона поступається більшим моделям.
Що показують випробування зі змінною кількістю циклів
Циклічне проходження ускладнює моніторинг ланцюжка міркувань — практику, за якої за письмовими міркуваннями моделі стежать за її поведінкою. Звичайний трансформер має викладати у текст міркування, для яких потрібні додаткові послідовні кроки; модель із циклічним проходженням може виконати більше таких кроків усередині, перш ніж згенерувати текст. Міркування, які не потрапляють до тексту, такий монітор перевірити не може.
Оскільки Inkling 2 Mini підтримує лише фіксовану кількість проходів, лабораторія навчила TML-d24-varloop-research працювати з одним—п’ятьма проходами, здебільшого трьома, а навчання з підкріпленням проводила для трьох проходів. За даними компанії, на підмножині Think Fast часовий горизонт без ланцюжка міркувань — визначений як час, за який людина виконує завдання, які модель може завершити з надійністю 50% без письмового обґрунтування, — збільшився з 16 секунд за одного проходу до 37 секунд за трьох, після чого майже перестав зростати. Точність у N-Hop Lookup продовжувала зростати аж до десяти циклів, хоча під час навчання їхня кількість не перевищувала п’яти.
У первинному аналізі компанії серед запитань GPQA Diamond, на які модель правильно відповіла за кожної перевіреної глибини, середня довжина трас міркувань скоротилася з 3 703 токенів за одного проходу до 1 661 за п’яти. Середня довжина речень змінилася лише з 8,9 до 8,7 слова, а частка слів, наявних в англійському словнику, — з 94,6% до 94,4%. Коротші траси були прямолінійнішими й містили менше повернень до попередніх кроків.
В агентних тестах у LinuxArena використовували Inkling 2 Mini та модель зі змінною кількістю циклів, донавчені лише на корисні відповіді. Залучивши менш потужну модель-монітор Qwen3.6-35B-A3B, компанія не виявила чіткої тенденції до зміни частоти прихованої поведінки зі збільшенням кількості циклів. Коли монітору дозволили аналізувати лише виклики інструментів і їхні результати, значна кількість атак залишилася непоміченою.
Ці результати щодо можливості моніторингу є попередніми. Навчання з підкріпленням лише на трьох проходах означає, що експерименти не дають змоги встановити, чого навчатиметься модель, тренована на більшій кількості проходів; компанія застерігає, що така модель може агресивніше стискати свої міркування.
Для дослідників, які вивчають нагляд, відкрите питання полягає в тому, чи збережеться спостережувана на цьому масштабі зрозумілість у більших моделях і за режимів навчання, що оптимізують глибші цикли. Релізи моделей із фіксованими та змінними відкритими вагами дають змогу безпосередньо дослідити це питання на різній глибині циклів.












