Партнерства
Thinking Machines Lab підписує угоду на $65 млн щорічно для Crusoe Cloud Inference
Додайте Unite.AI до бажаних джерел у Google
Crusoe і Thinking Machines Lab оголосили щорічну угоду на $65 млн 23 вересня 2026 року, щоб забезпечити інференс відкритих моделей лабораторії на Crusoe Cloud, при цьому виробничі навантаження обслуговуються на спеціальному розгортанні систем NVIDIA HGX B200 через Crusoe Managed Inference.
В оголошенні, випущеному в Сан-Франциско, зазначено, що Thinking Machines Lab обслуговуватиме ряд виробничих навантажень, включаючи моделі Inkling, GLM 5.2 та 5.3, а також власні тонко налаштовані варіанти, на спеціальному Tailored Deployment систем NVIDIA HGX B200, підключених до мережі NVIDIA Quantum-2 InfiniBand. Crusoe охарактеризував розгортання як розроблене для високопродуктивного, економічного обслуговування у великому масштабі.
Crusoe безпосередньо запустить і підтримуватиме кластер як Tailored Deployment, який у пресрелізі описується як спеціальна, протестована кінцева точка з підтримкою SLA, призначена надати Thinking Machines Lab співвідношення ціни й продуктивності та резерв для масштабування без необхідності керувати власним стеком інференсу. У пресрелізі Crusoe описує себе як першого у галузі вертикально інтегрованого постачальника AI‑інфраструктури.
Опції керованого інференсу та рушій MemoryAlloy
На сторінці продукту Crusoe Managed Inference компанія представляє Tailored Deployments як найвищий рівень оптимізації: клієнт надає модель і визначає вимоги, а Crusoe займається рештою, забезпечуючи спеціальну, протестовану кінцеву точку, орієнтовану на пропрієтарні моделі, індивідуальну оптимізацію інференсу та продуктивність, підтримувану SLA.
Сторінка також описує Serverless Inference, використання моделей з відкритим кодом з оплатою за обсяг використання через повністю керований API у Crusoe Intelligence Foundry, а також Self‑Serve Deployments, які тепер загальнодоступні, і які запускають моделі у Foundry з інференсом, оптимізованим для пропускної здатності або швидкості реакції, включаючи моделі, налаштовані за допомогою функції Serverless Fine‑Tuning компанії. Сам Foundry представлений як платформа для розробників, що дозволяє знаходити моделі, генерувати API‑ключі, моніторити метрики продуктивності та розгортати керовані кінцеві точки.
Crusoe заявляє, що його рушій інференсу працює на базі MemoryAlloy — структури взаємозв’язку пам’яті, нативної для кластера, що зберігається між вузлами та забезпечує інтелектуальну маршрутизацію для усунення надмірних обчислень попереднього заповнення. Компанія повідомляє про прискорення отримання першого токена до 9,9 раза та підвищення пропускної здатності до 5 разів завдяки спекулятивному декодуванню та динамічному батчуванню; ці показники вона отримала порівняно з vLLM, що обслуговує модель Llama‑3.3‑70B у розгортанні з чотирма вузлами.
Моделі Inkling та GLM
Угода включає названі навантаження, серед яких власне сімейство Inkling лабораторії. Thinking Machines Lab випустила Inkling 15 липня 2026 року, описуючи його як трансформер Mixture‑of‑Experts з відкритими вагами, що має 975 млрд загальних параметрів і 41 млрд активних параметрів, підтримуючи контекстне вікно до 1 млн токенів. За даними лабораторії, Inkling був попередньо навчений на 45 трильйонах токенів, що охоплюють текст, зображення, аудіо та відео, і це був перший великий тренувальний запуск лабораторії, проведений на системах NVIDIA GB300 NVL72.
Разом з Inkling лабораторія представила Inkling‑Small, легшу модель Mixture‑of‑Experts із 276 млрд параметрів, із яких 12 млрд активних, що має інший компроміс між продуктивністю та затримкою. Повні ваги Inkling опубліковані на Hugging Face, як у вигляді оригінального чекпоінту, так і у вигляді чекпоінту NVFP4 для ефективного інференсу на системах NVIDIA Blackwell, і модель доступна для тонкого налаштування у Tinker, платформі лабораторії для кастомізації моделей, з варіантами контекстної довжини 64 К та 256 К.
Угодою також включено GLM 5.2 та 5.3 до виробничих навантажень лабораторії у сервісі. У центрі моделей Crusoe Managed Inference зазначено GLM 5.3 від Z.ai з 753 млрд параметрів та контекстом у 1 000 000 токенів, а також GLM 5.3 Flash з 320 млрд параметрів, обидві моделі доступні для Serverless Inference.
Заяви керівництва та заплановане розширення
“Crusoe Managed Inference швидко перевів нас від оцінки до промислової експлуатації і відповідав стандартам, яких ми вимагаємо від власних систем, надаючи нам масштаб і економічну ефективність для реінвестування в дослідження, що є ядром нашої діяльності,” сказав Майл Отт, керівник ML Infra у Thinking Machines Lab.
Ерван Менард, старший віце-президент з управління продуктом у Crusoe Cloud, заявив, що Thinking Machines Lab має висококваліфіковану інженерну команду, яка очікує від партнерів відповідати високим вимогам у міру зростання. Він зазначив, що Crusoe створив Managed Inference, щоб надати економічно ефективну, надійну інфраструктуру, інференс та інструменти життєвого циклу моделей як сервіс, щоб компанії могли запускати обрані моделі у промисловій експлуатації у великому масштабі.
Компанії зазначили, що також планують розширитися до пакетного інференсу для генерації синтетичних даних у великому масштабі, що у пресрелізі представлено як перетворення інференсу в рушій для досліджень. Crusoe повідомив, що Thinking Machines Lab приєднується до списку клієнтів, завдяки яким Crusoe Managed Inference менш ніж за рік після запуску перевищив $100 млн законтрактованого річного повторюваного доходу (ARR).
