Baseten відкриває загальний доступ до безсерверного сервісу Loops для постнавчання

6 листопада 2026 року Baseten оголосила, що безсерверний сервіс Loops став загальнодоступним, відкривши для всіх доступ до керованого SDK для контрольованого донавчання та навчання з підкріпленням на відкритих моделях. Сервіс стягує плату за кожен токен під час навчання та забезпечує прямий шлях від контрольних точок до виділеного інференсу Baseten.

Loops побудовано на розподілі обов’язків: користувачі надають навчальний сигнал, тоді як Baseten керує графічними процесорами, ядрами, архітектурами моделей і бекендом розподіленого навчання. Python SDK навчає адаптери LoRA, залишаючи ваги базової моделі незмінними. Користувачі вибирають базову модель, ранг LoRA, швидкість навчання, функцію втрат, дані або середовище й алгоритм; Baseten запускає тренер, семплер, синхронізацію ваг і допоміжну інфраструктуру.

Пакет сумісності зберігає імпорти Tinker і основні виклики для навчання та семплювання, щоб команди могли перенести наявні скрипти. У посібнику з міграції зазначено, що автентифікацію потрібно змінити на ключ API Baseten, контрольні точки повертаються як URL-адреси файлів із пагінацією, зображення потрібно передавати вбудованими, а охоплення модулів LoRA визначається для кожного сімейства моделей. Сумісність поширюється на API навчання, однак командам доведеться самостійно налаштувати кілька деталей, специфічних для інфраструктури.

Безсерверні моделі та тарифікація

Каталог безсерверних моделей містить три моделі: Qwen/Qwen3.6-35B-A3B і zai-org/GLM-5.3-Flash для тексту й зображень, а також zai-org/GLM-5.3 лише для тексту. Для кожної з них максимальна довжина послідовності становить 262 144 токени. Конфігурація GLM-5.3 із довгим контекстом не підтримує cross_entropy або dpo функції втрат. Режим виділених ресурсів охоплює ширший каталог моделей, передбачає оплату за час використання графічного процесора та дає змогу налаштовувати кількість реплік, повторне використання прогрітих реплік і використання ресурсів із перериванням.

Безсерверні запуски використовують спільні ресурси без потреби резервувати графічні процесори; плата стягується за токени, використані під час навчання та семплювання. За час читання результатів, зміни функції винагороди чи простою плата за токени не нараховується. Якщо модель, ранг LoRA або довжина послідовності не підтримуються, або якщо запуск повторно використовує розгортання іншого запуску, вибір режиму за замовчуванням може переключити його на виділені ресурси. Якщо ж установити для області дії безсерверний режим, непідтримуваний запит завершиться помилкою.

Увімкнення моделі не гарантує, що ресурси буде надано. Запуск може бути заблоковано через обмежений доступ у конкретному робочому просторі, відсутність графічних процесорів або обмеження організації на кількість тренерів. Отже, модель оплати за токени має практичні обмеження доступності ресурсів, що виходять за межі опублікованого каталогу.

Контрольні точки та інференс у виробничому середовищі

Короткий посібник зі швидкого старту демонструє чотири основні операції: forward_backward для роботи з функцією втрат і градієнтами, optim_step для оновлення адаптерів, sample для генерації та save_state для відновлення навчання. Публікація ваг семплера створює контрольну точку, готову до розгортання, і клієнт для семплювання, закріплений за нею. Окрема save_state операція зберігає стан моделі й оптимізатора. Перший запит на семплювання може тривати кілька хвилин, поки запускаються безсерверні ресурси, — це варто враховувати під час коротких експериментів.

Контрольна точка семплера розгортається як базова модель із завантаженим навченим адаптером LoRA. Контрольні точки зберігаються після завершення запусків, і їх можна розгорнути через CLI, REST API або інформаційну панель за допомогою токена доступу Hugging Face, оскільки під час розгортання завантажуються ваги базової моделі. За роботу отриманої кінцевої точки, сумісної з OpenAI, стягується плата за графічний процесор, поки вона активна. Видалення розгортання припиняє нарахування плати за графічний процесор, але не видаляє контрольну точку; деактивація запуску Loops не видаляє розгортання.

До загального запуску Baseten поліпшила обробку тимчасових мережевих помилок і збоїв графічних процесорів, скоротила накладні витрати на запуск і прискорила передавання ваг між тренерами та семплерами. За словами Baseten, ці зміни дають змогу одночасно обслуговувати більше робочих навантажень клієнтів, а її стек інференсу для виробничого середовища обробляє понад 15 мільярдів запитів на день. Виробничий процес включає автоматичне масштабування, керування розгортаннями та метрики інференсу; користувачі також можуть завантажувати ваги у форматі Hugging Face Safetensors.

Перевірка та перші клієнтські навантаження

За словами Baseten, сервіс перевірили за допомогою числових тестів і наскрізних експериментів із навчанням з підкріпленням, використовуючи завдання τ-bench у сферах роздрібної торгівлі, авіаперевезень і банківських послуг, а потім оцінили на складних завданнях, які не використовувалися під час навчання. Проєкт τ-bench описує бенчмарк для перевірки того, чи можуть агенти спілкуватися з користувачами, викликати інструменти, отримувати знання та дотримуватися політик у різних галузях, причому результати звіряють із перевірними даними з бази даних.

За повідомленням Baseten, NVIDIA виконала постнавчання Nemotron Super 3.5 VL для текстових і візуальних завдань, підвищивши точність класифікації намірів із 76,8% до 94% і досягнувши показника F1 87% під час перевірки вилучення даних із чеків; робота також охоплювала навчання з підкріпленням для підрахунку візуальних об’єктів. Datadog використовує багатоходове агентне навчання з підкріпленням, щоб перевіряти ідеї щодо навчання свого агента SRE, а Ambience Healthcare виконала постнавчання моделей для виправлення помилок клінічної транскрипції та точного розпізнавання медичної термінології й форматування.

LangChain Labs донавчає моделі на трасах агентів для LangSmith Engine. Зокрема, вони аналізують репозиторій GitHub, щоб діагностувати проблему, і готують чернетку промпту або зміни коду для запиту на злиття. Система може перемикатися на меншу модель із відкритими вагами, щоб класифікувати траси за типом і серйозністю збою або зіставляти їх із наявними проблемами. Робочий процес LangChain показує, як поведінка застосунку стає цільовим завданням для навчання, а розмір моделі та спеціалізацію під завдання обирають відповідно до конкретної роботи.

Матеріали про клієнтів засвідчують використання сервісу ще до оголошення про загальну доступність (GA) і показують задуманий цикл роботи інфраструктури: дані застосунку стають вхідними даними для навчання, контрольні точки проходять оцінювання, а відібрані моделі наближаються до промислового розгортання. Для інфраструктурних команд так само чітко визначено межі витрат. Підтримувані безсерверні запуски дають змогу уникнути резервування GPU та плати за токени під час простою, тоді як за активну кінцеву точку інференції продовжують нараховувати плату за GPU; каталог безсерверних сервісів і ємність робочого простору визначають, де доступний безсерверний варіант.