Baseten открывает Serverless Loops для постобучения в общем доступе

6 ноября 2026 года Baseten объявила, что Serverless Loops стал общедоступным, и открыла всем доступ к своему управляемому SDK для дообучения с учителем и обучения с подкреплением на открытых моделях. Сервис взимает плату за токены, использованные при обучении, и позволяет напрямую перейти от контрольных точек к Baseten Dedicated Inference.

В основе Loops лежит разделение обязанностей: пользователи предоставляют обучающий сигнал, а Baseten управляет графическими процессорами, ядрами, архитектурами моделей и инфраструктурой распределённого обучения. С помощью пакета SDK для Python можно обучать LoRA-адаптеры, оставляя веса базовой модели замороженными. Пользователи выбирают базовую модель, ранг LoRA, скорость обучения, функцию потерь, данные или среду и алгоритм; Baseten запускает тренер и семплер, синхронизирует веса и обеспечивает работу вспомогательной инфраструктуры.

Пакет совместимости сохраняет импорты Tinker и основные вызовы для обучения и выборки, чтобы команды могли перенести существующие скрипты. В руководстве по миграции при этом предусмотрена замена аутентификации на API-ключ Baseten, контрольные точки возвращаются в виде URL-адресов файлов с постраничной выдачей, изображения необходимо передавать во входных данных непосредственно, а охват модулей LoRA зависит от семейства модели. Совместимость распространяется на API обучения, но некоторые детали, связанные с инфраструктурой, командам всё ещё нужно адаптировать самостоятельно.

Бессерверные модели и тарификация

В каталоге бессерверных моделей представлены три модели: Qwen/Qwen3.6-35B-A3B и zai-org/GLM-5.3-Flash для работы с текстом и изображениями, а также zai-org/GLM-5.3 только для работы с текстом. Максимальная длина последовательности для каждой модели составляет 262 144 токена. Длинноконтекстная конфигурация GLM-5.3 не поддерживает cross_entropy или dpo функции потерь. В выделенном режиме доступен более широкий каталог моделей; оплата взимается за время использования графического процессора, а также доступны настройки числа реплик, повторного использования прогретых ресурсов и вычислительных мощностей по запросу.

Бессерверные запуски используют общие вычислительные мощности без необходимости резервировать графические процессоры; плата взимается за токены, использованные при обучении и выборке. За время, потраченное на просмотр результатов, изменение функции вознаграждения или простой, плата за токены не начисляется. При выборе режима по умолчанию система может переключиться на выделенные мощности, если модель, ранг LoRA или длина последовательности не поддерживаются либо если запуск повторно использует развёртывания другого запуска. Если же задать область действия «бессерверный режим», неподдерживаемый запрос завершится ошибкой.

Доступность модели не гарантирует возможность её предоставления. Запуск могут по-прежнему блокировать ограничения доступа для конкретного рабочего пространства, отсутствие доступных графических процессоров и лимиты организации на число тренеров. Таким образом, у модели оплаты за токены есть практические ограничения по доступным мощностям, выходящие за рамки опубликованного каталога.

Контрольные точки и инференс в рабочей среде

В кратком руководстве по началу работы представлены четыре основные операции: forward_backward для работы с функцией потерь и градиентами, optim_step для обновления адаптеров, sample для генерации и save_state для возобновления обучения. Публикация весов семплера создаёт контрольную точку, пригодную для развёртывания, и клиент выборки, закреплённый за ней. Отдельная save_state операция сохраняет состояние модели и оптимизатора. Первый запрос на выборку может выполняться несколько минут, пока запускаются бессерверные вычислительные мощности; это стоит учитывать при проведении коротких экспериментов.

Контрольная точка семплера развёртывается как базовая модель с загруженным обученным LoRA-адаптером. Контрольные точки сохраняются и после завершения запусков; их можно развернуть через CLI, REST API или панель управления, используя токен доступа Hugging Face, поскольку при развёртывании загружаются веса базовой модели. Пока созданная конечная точка, совместимая с OpenAI, работает, за её графический процессор взимается плата. Удаление этого развёртывания прекращает начисление платы за графический процессор, но не удаляет контрольную точку; деактивация запуска Loops не удаляет развёртывание.

К моменту общего запуска Baseten улучшила обработку временных сетевых сбоев и отказов графических процессоров, сократила накладные расходы при запуске и ускорила передачу весов между тренерами и семплерами. По словам Baseten, эти изменения позволяют одновременно обслуживать больше клиентских нагрузок; кроме того, её производственный стек для инференса обрабатывает более 15 миллиардов запросов в день. В производственный контур входят автомасштабирование, управление развёртываниями и метрики инференса; пользователи также могут скачивать веса в формате Safetensors от Hugging Face.

Проверка и первые клиентские сценарии

По словам Baseten, компания проверила сервис с помощью численных тестов и сквозных экспериментов по обучению с подкреплением на заданиях τ-bench в сфере розничной торговли, авиаперевозок и банковских услуг, а затем оценила результаты на отложенных сложных заданиях. В проекте τ-bench описан тест для оценки того, могут ли агенты общаться с пользователями, вызывать инструменты, извлекать знания и соблюдать правила в корпоративных сферах; результаты проверяются по верифицируемым данным баз данных.

По данным Baseten, NVIDIA провела постобучение Nemotron Super 3.5 VL на задачах обработки текста и изображений, повысив точность классификации намерений с 76,8% до 94% и достигнув показателя F1 87% при проверке извлечения данных из чеков; работа также включала обучение с подкреплением для подсчёта визуальных объектов. Datadog использует многошаговое обучение агентов с подкреплением, чтобы проверять идеи обучения для своего агента SRE, а Ambience Healthcare провела постобучение моделей для исправления ошибок клинической транскрипции и точного распознавания медицинской терминологии и форматирования.

LangChain Labs дообучает модели на трассах работы агентов для LangSmith Engine. В том числе модели читают репозиторий GitHub, чтобы диагностировать проблему, и готовят черновик промпта или изменения кода для запроса на слияние. Для классификации трасс по типу и степени серьёзности сбоя или для сопоставления с существующими проблемами можно переключиться на модель меньшего размера с открытыми весами. Рабочий процесс LangChain показывает, как поведение приложения становится целью обучения, а размер модели и её специализация выбираются в зависимости от задачи.

Описания клиентских случаев использования документируют применение до объявления о выходе в общий доступ и показывают предполагаемый цикл работы инфраструктуры: данные приложения становятся входными данными для обучения, контрольные точки оцениваются, а отобранные модели готовятся к запуску в производственной среде. Для инфраструктурных команд столь же чётко определены границы затрат. Поддерживаемые бессерверные запуски не требуют резервирования графических процессоров и не влекут расходов на токены во время простоя, тогда как за работающую конечную точку инференса по-прежнему взимается плата за графический процессор; каталог бессерверных решений и ёмкость рабочей среды определяют, где доступен бессерверный вариант.