Baseten udostępnia Serverless Loops w ogólnej dostępności do trenowania potreningowego

6 listopada 2026 r. Baseten ogłosił, że Serverless Loops jest ogólnie dostępny, udostępniając wszystkim zarządzany zestaw SDK do nadzorowanego dostrajania i uczenia przez wzmacnianie modeli otwartych. Usługa rozlicza trening za token i zapewnia bezpośrednią ścieżkę od punktów kontrolnych do Baseten Dedicated Inference.

Loops opiera się na podziale zadań: użytkownicy dostarczają sygnał treningowy, a Baseten obsługuje procesory GPU, kernele, architektury modeli i zaplecze do trenowania rozproszonego. Zestaw SDK dla języka Python trenuje adaptery LoRA przy zamrożonych wagach modelu bazowego. Użytkownicy wybierają model bazowy, rangę LoRA, współczynnik uczenia, funkcję straty, dane lub środowisko oraz algorytm; Baseten uruchamia moduł trenujący i moduł próbkowania, synchronizuje wagi oraz obsługuje infrastrukturę pomocniczą.

Pakiet zgodności zachowuje importy Tinker oraz podstawowe wywołania treningu i próbkowania, ułatwiając zespołom migrację istniejących skryptów. Przewodnik migracji nadal wymaga zmiany uwierzytelniania na klucz API Baseten, zwraca punkty kontrolne jako stronicowane adresy URL plików, wymaga przekazywania obrazów bezpośrednio jako danych wejściowych i zapewnia właściwy zakres modułów LoRA dla poszczególnych rodzin modeli. Zgodność obejmuje API treningowe, ale pozostawia zespołom do dostosowania kilka szczegółów związanych z infrastrukturą.

Modele bezserwerowe i rozliczenia

W katalogu modeli bezserwerowych znajdują się trzy modele: Qwen/Qwen3.6-35B-A3B oraz zai-org/GLM-5.3-Flash do przetwarzania tekstu i obrazu, a także zai-org/GLM-5.3 wyłącznie do przetwarzania tekstu. Każdy obsługuje maksymalną długość sekwencji wynoszącą 262 144 tokeny. Konfiguracja GLM-5.3 z długim kontekstem nie obsługuje cross_entropy ani dpo funkcji straty. Tryb dedykowany obejmuje szerszy katalog modeli, rozlicza czas pracy GPU i oferuje dodatkowe opcje zarządzania replikami, ponownego wykorzystania już uruchomionych zasobów oraz dostępem do mocy obliczeniowej w trybie spot.

Uruchomienia bezserwerowe korzystają ze współdzielonych zasobów bez konieczności rezerwowania GPU, a opłaty są naliczane za tokeny użyte podczas treningu i próbkowania. Czas poświęcony na analizowanie wyników, zmianę funkcji nagrody lub oczekiwanie bez wykonywania zadań nie wiąże się z opłatami za tokeny. Domyślny wybór trybu może przełączyć się na zasoby dedykowane, jeśli model, ranga LoRA lub długość sekwencji nie są obsługiwane albo gdy uruchomienie ponownie wykorzystuje wdrożenia innego uruchomienia. Ustawienie zakresu na bezserwerowy powoduje natomiast niepowodzenie nieobsługiwanego żądania.

Włączenie modelu nie gwarantuje przydzielenia zasobów. Uruchomienie może nadal zostać zablokowane z powodu dostępu ograniczonego do konkretnego obszaru roboczego, braku dostępnych procesorów GPU lub limitów trenera ustawionych dla organizacji. Oznacza to, że model płatności za token ma praktyczne ograniczenia dotyczące dostępnej mocy obliczeniowej, wykraczające poza opublikowany katalog.

Punkty kontrolne i wnioskowanie produkcyjne

Przewodnik szybkiego startu przedstawia cztery podstawowe operacje: forward_backward do obliczania funkcji straty i gradientów, optim_step do aktualizowania adapterów, sample do generowania oraz save_state do wznawiania treningu. Opublikowanie wag modułu próbkowania tworzy punkt kontrolny gotowy do wdrożenia oraz klienta do próbkowania przypisanego do tego punktu. Osobna save_state operacja zachowuje stan modelu i optymalizatora. Pierwsze żądanie próbkowania może potrwać kilka minut, zanim zostaną uruchomione zasoby bezserwerowe, co warto uwzględnić przy krótkich eksperymentach.

Punkt kontrolny modułu próbkowania jest wdrażany jako model bazowy z załadowanym wytrenowanym adapterem LoRA. Punkty kontrolne istnieją niezależnie od uruchomień i można je wdrażać za pomocą interfejsu wiersza poleceń, interfejsu REST API lub panelu, używając tokenu dostępu Hugging Face, ponieważ wdrożenie pobiera wagi modelu bazowego. Powstały punkt końcowy zgodny z OpenAI jest rozliczany za wykorzystanie procesora GPU przez cały czas działania. Usunięcie wdrożenia zatrzymuje naliczanie opłat za GPU, ale nie usuwa punktu kontrolnego; dezaktywacja uruchomienia Loops nie powoduje usunięcia wdrożenia.

Na potrzeby ogólnej dostępności Baseten usprawnił obsługę przejściowych błędów sieci i awarii procesorów GPU, ograniczył opóźnienia związane z uruchamianiem oraz przyspieszył przesyłanie wag między modułami trenującymi a modułami próbkowania. Według Baseten zmiany te pozwalają obsługiwać większą liczbę równoczesnych obciążeń klientów, a jego produkcyjny stos do wnioskowania obsługuje dziennie ponad 15 miliardów żądań. Ścieżka produkcyjna obejmuje automatyczne skalowanie, zarządzanie wdrożeniami i metryki wnioskowania, a użytkownicy mogą pobierać wagi w formacie Hugging Face Safetensors.

Walidacja i wczesne zastosowania u klientów

Baseten informuje, że zweryfikował usługę za pomocą testów numerycznych i kompleksowych eksperymentów z uczeniem przez wzmacnianie, wykorzystując zadania τ-bench z obszarów handlu detalicznego, lotnictwa i bankowości, a następnie przeprowadzając ewaluację na odłożonych, trudnych zadaniach. Projekt τ-bench opisuje benchmark służący do sprawdzania, czy agenci potrafią prowadzić rozmowy z użytkownikami, wywoływać narzędzia, wyszukiwać wiedzę i przestrzegać zasad w różnych obszarach działalności przedsiębiorstw; wyniki są weryfikowane na podstawie sprawdzalnych danych z baz danych.

Baseten podaje, że NVIDIA przeprowadziła potreningowe dostrajanie modelu Nemotron Super 3.5 VL do zadań związanych z tekstem i obrazem, zwiększając dokładność klasyfikacji intencji z 76,8% do 94% i osiągając wynik F1 na zbiorze walidacyjnym wynoszący 87% w ekstrakcji danych z paragonów; prace obejmowały również uczenie przez wzmacnianie do zliczania obiektów na obrazach. Datadog wykorzystuje wieloetapowe uczenie przez wzmacnianie agentów do testowania pomysłów na trening swojego agenta SRE, a Ambience Healthcare dostrajało modele, by korygować błędy w transkrypcjach klinicznych oraz wiernie odwzorowywać terminologię medyczną i formatowanie.

LangChain Labs dostraja modele po treningu na podstawie śladów działania agentów na potrzeby LangSmith Engine. Obejmuje to prace, w ramach których model odczytuje repozytorium GitHub, aby zdiagnozować problem, a następnie przygotowuje propozycję zmiany promptu lub kodu do pull requesta. Może też przełączyć się na mniejszy model o otwartych wagach, aby klasyfikować ślady według rodzaju i stopnia powagi błędu lub przypisywać je do istniejących zgłoszeń. Przepływ pracy LangChain pokazuje, jak zachowanie aplikacji staje się celem treningu, a rozmiar modelu i jego specjalizację dobiera się do konkretnego zadania.

Relacje klientów dokumentują korzystanie z rozwiązania przed ogłoszeniem jego ogólnej dostępności (GA) i pokazują zamierzony cykl infrastrukturalny: dane z aplikacji stają się danymi wejściowymi do treningu, punkty kontrolne podlegają ewaluacji, a wybrane modele trafiają na ścieżkę do środowiska produkcyjnego. W przypadku zespołów infrastrukturalnych granica kosztów jest równie jasna. Obsługiwane uruchomienia bezserwerowe nie wymagają rezerwowania GPU ani nie generują opłat za tokeny w czasie bezczynności, natomiast działający punkt końcowy wnioskowania nadal wiąże się z opłatami za GPU; katalog usług bezserwerowych i pojemność obszaru roboczego określają, gdzie można skorzystać z opcji bezserwerowej.