Baseten zpřístupňuje Serverless Loops pro dodatečné trénování všem

Baseten 6. listopadu 2026 oznámil, že Serverless Loops je nyní všeobecně dostupný, a zpřístupnil tak všem svůj spravovaný SDK pro supervizované jemné doladění a posilované učení otevřených modelů. Služba účtuje trénování podle počtu tokenů a nabízí přímou cestu od kontrolních bodů k Baseten Dedicated Inference.

Loops je založený na rozdělení práce: uživatelé dodávají trénovací signál, zatímco Baseten zajišťuje GPU, jádra, architektury modelů a backend pro distribuované trénování. Python SDK trénuje adaptéry LoRA se zmrazenými vahami základního modelu. Uživatelé volí základní model, hodnost LoRA, rychlost učení, ztrátovou funkci, data nebo prostředí a algoritmus; Baseten zajišťuje trénovací proces, vzorkovač, synchronizaci vah a podpůrnou infrastrukturu.

Balíček pro zajištění kompatibility zachovává importy Tinker a základní volání pro trénování a vzorkování, aby týmy mohly přejít ze stávajících skriptů. Průvodce migrací přesto mění způsob ověřování na klíč API Baseten, vrací kontrolní body jako stránkované adresy URL souborů, vyžaduje vložení obrazových vstupů přímo do požadavku a upravuje pokrytí modulů LoRA podle rodiny modelů. Kompatibilita se vztahuje na trénovací API, některé detaily specifické pro infrastrukturu však musí týmy upravit samy.

Modely bez serveru a účtování

Katalog modelů bez serveru obsahuje tři modely: Qwen/Qwen3.6-35B-A3B a zai-org/GLM-5.3-Flash pro text a obraz a zai-org/GLM-5.3 pouze pro text. Každý podporuje maximální délku sekvence 262 144 tokenů. Konfigurace GLM-5.3 pro dlouhý kontext nepodporuje cross_entropy ani dpo ztrátové funkce. Dedikovaný režim zahrnuje širší katalog modelů, účtuje dobu využití GPU a přidává ovládací prvky pro repliky, opětovné využití zahřátých instancí a kapacitu spotových instancí.

Spuštění bez serveru využívají sdílenou kapacitu bez nutnosti rezervovat GPU a účtují se podle počtu tokenů použitých při trénování a vzorkování. Za čas strávený čtením výsledků, změnou odměnové funkce nebo nečinností se žádné tokeny neúčtují. Při výchozím výběru režimu může systém přejít na dedikovanou kapacitu, pokud model, hodnost LoRA nebo délka sekvence nejsou podporovány, případně když spuštění znovu využívá nasazení jiného spuštění. Pokud je rozsah nastaven na režim bez serveru, nepodporovaný požadavek místo toho selže.

Povolení modelu nezaručuje, že bude možné zajistit potřebnou kapacitu. Spuštění mohou nadále blokovat přístupová práva specifická pro pracovní prostor, nedostupnost GPU a limity organizace pro trénovací procesy. Model účtovaný podle počtu tokenů tak má kromě zveřejněného katalogu i další praktická omezení kapacity.

Kontrolní body a produkční odvozování

Rychlý úvod představuje čtyři základní operace: forward_backward pro práci se ztrátou a gradienty, optim_step pro aktualizaci adaptérů, sample pro generování a save_state pro obnovitelné trénování. Zveřejněním vah vzorkovače vznikne kontrolní bod připravený k nasazení a klient pro vzorkování, který je k němu připnutý. Samostatná save_state operace zachovává stav modelu i optimalizátoru. První požadavek na vzorkování může trvat několik minut, než se spustí kapacita bez serveru, což je důležité zvážit při krátkých experimentech.

Kontrolní bod vzorkovače se nasazuje jako základní model s načteným natrénovaným adaptérem LoRA. Kontrolní body přetrvávají i po skončení příslušných spuštění a lze je nasadit prostřednictvím CLI, REST API nebo řídicího panelu s použitím přístupového tokenu Hugging Face, protože nasazení stahuje váhy základního modelu. Výsledný koncový bod kompatibilní s OpenAI účtuje za využití GPU po celou dobu, kdy je v provozu. Odstraněním tohoto nasazení se účtování GPU zastaví, aniž by se smazal kontrolní bod; deaktivace spuštění Loops nasazení neodstraní.

Při uvedení do všeobecné dostupnosti Baseten vylepšil zpracování přechodných síťových chyb a selhání GPU, snížil režii při spouštění a zrychlil přenos vah mezi trénovacími procesy a vzorkovači. Baseten uvádí, že tyto změny umožňují souběžné zpracování většího počtu zákaznických úloh a že jeho produkční zásobník pro odvozování zpracovává denně více než 15 miliard požadavků. Produkční řešení zahrnuje automatické škálování, správu nasazení a metriky odvozování; uživatelé si také mohou stáhnout váhy ve formátu Hugging Face Safetensors.

Ověřování a první pracovní úlohy zákazníků

Baseten uvádí, že službu ověřil pomocí numerických testů a experimentů s posilovaným učením od začátku do konce, které využívaly úlohy τ-bench z oblasti maloobchodu, letecké dopravy a bankovnictví. Následně proběhlo vyhodnocení na náročných úlohách, které nebyly součástí trénování. Projekt τ-bench popisuje benchmark, který ověřuje, zda agenti dokážou v různých podnikových oblastech komunikovat s uživateli, volat nástroje, vyhledávat znalosti a dodržovat zásady; výsledky se kontrolují podle ověřitelných údajů z databází.

Baseten uvádí, že NVIDIA dodatečně dotrénovala Nemotron Super 3.5 VL pro textové a obrazové úlohy, čímž zvýšila přesnost klasifikace záměrů ze 76.8% na 94% a dosáhla validačního skóre F1 87% při extrakci údajů z účtenek; součástí práce bylo také posilované učení pro počítání vizuálních objektů. Datadog využívá posilované učení s vícekolovou interakcí a agentními postupy k testování nápadů na trénování svého agenta SRE a Ambience Healthcare dodatečně dotrénovala modely, aby opravovaly chyby v klinických přepisech a přesně zachycovaly lékařskou terminologii i formátování.

LangChain Labs dodatečně trénuje modely na stopách agentů pro LangSmith Engine. Patří sem i práce, při níž model přečte repozitář na GitHubu, aby diagnostikoval problém, a připraví návrh úpravy promptu nebo kódu pro pull request. Může přejít na menší model s otevřenými vahami, který klasifikuje stopy podle způsobu a závažnosti selhání nebo je přiřazuje k existujícím problémům. Pracovní postup LangChain ukazuje, jak se chování aplikace stává cílem trénování a jak se velikost modelu i specializace na konkrétní úlohu volí podle její povahy.

Účty zákazníků dokládají využití ještě před oznámením obecné dostupnosti (GA) a ukazují zamýšlený infrastrukturní cyklus: data aplikace se stávají vstupem pro trénování, kontrolní body se vyhodnocují a vybrané modely postupují k nasazení v produkci. Pro infrastrukturní týmy je stejně jasně vymezená i hranice nákladů. Podporované běhy bez serveru nevyžadují rezervaci GPU ani neúčtují poplatky za tokeny během nečinnosti, zatímco za živý inferenční koncový bod se nadále účtuje využití jeho GPU; o tom, kde lze využít možnost bez serveru, rozhoduje katalog bezserverových služeb a kapacita pracovního prostoru.