Crusoe подписывает многолетнее соглашение о поддержке обучения и вывода Perplexity

Crusoe 15 сентября 2026 г., объявила о многолетнем партнерстве с Perplexity, согласно которому Perplexity будет выполнять полный жизненный цикл модели в облаке Crusoe, обучая передовые модели на выделенных кластерах NVIDIA GB300 NVL72 и предоставляя их в продакшн через сервис Managed Inference от Crusoe.

Объявление, датированное Сан-Франциско, также обязывает Crusoe внедрить Perplexity Enterprise Pro и Max для своих 1 800 сотрудников. Согласно пресс‑релизу, развертывание направлено на обеспечение персонала поиском в вебе и внутренними знаниями, многошаговыми исследованиями, анализом данных и доступом к передовым моделям ИИ.

В релизе продукты Perplexity описываются как работающие в реальном времени для миллионов пользователей, в среде, где задержка вывода и пропускная способность являются продуктом, а не теоретическими эталонами. Crusoe заявила, что её сервис Managed Inference создан для вывода уровня продакшн, поддерживаемого фирменными оптимизациями и разработанного для производительности и стоимости в популярных моделях, а облако Crusoe предоставляет операционную глубину и масштаб, соответствующие росту Perplexity.

Заявления руководства

Со‑основатель и генеральный директор Crusoe Чейз Лочмиллер заявил, что самым быстро развивающимся компаниям в сфере ИИ нужна инфраструктура, способная идти в ногу на протяжении всего жизненного цикла модели и масштабироваться вместе с их ростом. «Perplexity создает будущее того, как люди находят ответы, и Crusoe является ключевым партнером в реализации этого, от первого электрона до последнего токена», — сказал Лочмиллер.

Со‑основатель и генеральный директор Perplexity Аравинд Сриивас заявил, что работа ИИ в масштабе Perplexity означает, что каждая миллисекунда задержки ощущается пользователями. Он описал Crusoe как построенную с учётом этого ограничения, назвав её высокопропускной, низкозадержкой вывода, поддерживаемой оборудованием следующего поколения.

Дион Харрис, старший директор по HPC и решениям AI‑инфраструктуры в NVIDIA, сказал, что современный ИИ требует единой вычислительной архитектуры от исследований до развертывания. При поддержке NVIDIA GB300 NVL72 и NVIDIA InfiniBand, Харрис отметил, что Crusoe Cloud позволяет Perplexity обучать, донастраивать и обслуживать передовые модели в продакшн с той скоростью и эффективностью, которые требует агентный ИИ.

Платформа GB300 NVL72

Выделенные обучающие кластеры, указанные в соглашении, работают на GB300 NVL72 от NVIDIA, который NVIDIA описывает как полностью жидкостно охлаждаемую, стоечную систему, интегрирующую 72 графических процессора Blackwell Ultra и 36 процессоров Grace на базе Arm. В опубликованных спецификациях NVIDIA указана пропускная способность NVLink 130 ТБ/с, 20 ТБ видеопамяти с пропускной способностью до 576 ТБ/с, 37 ТБ быстрой памяти и 2 592 ядра Arm Neoverse V2. Каждый GPU в системе получает сетевое соединение 800 Гб/с через модуль ввода‑вывода ConnectX‑8 SuperNIC, работающий с платформами Quantum‑X800 InfiniBand или Spectrum‑X Ethernet.

NVIDIA утверждает, что AI‑заводы, построенные на GB300 NVL72, обеспечивают до 50‑кратного общего повышения производительности по сравнению с платформами на базе Hopper. Компания объясняет эту цифру заявленным 10‑кратным улучшением отклика пользователей, измеряемым в токенах в секунду на пользователя, и 5‑кратным ростом пропускной способности на мегаватт относительно Hopper, отмечая, что эти показатели являются прогнозными и могут измениться.

Сервис управляемого вывода и история

Элемент соглашения, отвечающий за продакшн‑вывод, работает на Crusoe Managed Inference, который компания сделала общедоступным 20 ноября 2025 г. для продакшн‑нагрузок вывода в облаке Crusoe. Сервис работает на фирменном движке вывода Crusoe, построенном вокруг MemoryAlloy — кластерного кэша ключ‑значение, устраняющего дублирующие предварительные заполнения, позволяя GPU получать кэши префиксов с локальных и удалённых узлов. Crusoe заявляет, что движок обеспечивает до 9,9‑кратного ускорения времени до первого токена и 5‑кратного роста пропускной способности, сравниваясь с vLLM для модели Llama‑3.3‑70B в развертывании из четырёх узлов.

Crusoe предлагает сервис в трёх вариантах развертывания, согласно своей странице продукта Managed Inference. Serverless Inference предоставляет потребление открытых моделей на основе использования через полностью управляемый API, ориентированный на ранние нагрузки, трафик небольшого объёма и быстрые эксперименты. Self‑Serve Deployments, которые, как указывает страница, теперь общедоступны, запускают модели, оптимизированные для пропускной способности или отклика, включая модели, настроенные с помощью Serverless Fine‑Tuning от Crusoe. Tailored Deployments соединяют клиентов с командой Crusoe для выделенной, протестированной конечной точки, вариант, который страница рекомендует для проприетарных моделей.

Разработчики получают доступ к сервису через Crusoe Intelligence Foundry — центр, где они могут генерировать API‑ключи, использовать управляемые конечные точки, настроенные под каждую модель, отслеживать метрики производительности и включать выделенную пропускную способность для развертываний в продакшн‑масштабе. Хаб моделей Crusoe перечисляет предварительно настроенные открытые модели из лабораторий, включая DeepSeek, Google, Z.ai, OpenAI, Meta, Alibaba и NVIDIA, с указанием количества параметров и длины контекста для каждой модели.