Together AI lansează serviciul Together de post-antrenare pentru modele personalizate

Pe 19 octombrie 2026, Together AI a lansat Together pentru post-antrenare, un serviciu pentru crearea de modele personalizate prin bucle de învățare prin consolidare și de ajustare fină supravegheată definite de utilizatori, cu un tarif introductiv de 9 $ pe oră de utilizare a unui GPU B200 în primele șase săptămâni.

Modele disponibile la lansare, prețuri și acces timpuriu

Serviciul este conceput pentru crearea de modele personalizate atât pe baza recompenselor din mediu, prin RL, cât și pe baza datelor de supraveghere, prin SFT. Clienții definesc bucla de antrenare, inclusiv datele, mediile și cadrele de lucru pentru agenți, și pot adăuga etape precum înregistrarea datelor sau evaluarea comparativă externă, în timp ce Together optimizează în comun sistemele și infrastructura de bază pentru a îmbunătăți calitatea modelelor și viteza de antrenare. Together a declarat că a creat serviciul deoarece infrastructura RL devine tot mai complexă, iar multe companii care ar putea beneficia de post-antrenare fie nu încep niciodată, fie încep, dar se blochează din cauza poverii infrastructurii.

La lansare, serviciul oferă modele cu ponderi deschise: Muse Spark Open, GLM 5.3, Kimi K3 și Qwen 3.8-27B. Together a declarat că în următoarele săptămâni va extinde selecția, incluzând atât LLM-uri de ultimă generație, cât și modele mai mici și eficiente. În primele șase săptămâni, serviciul este disponibil la tariful redus de 9 $ pe oră de utilizare a unui GPU B200.

În lunile care au precedat lansarea, Together a oferit acces timpuriu unui grup restrâns de organizații. Adit Jain, cercetător la Collinear AI, a declarat că echipa sa colaborase cu compania încă de la lansarea versiunii beta Post-Training, în aprilie 2026.

Resurse de calcul dedicate modelelor și tarifare la minut de GPU

Toate experimentele se desfășoară pe ceea ce Together numește resurse de calcul pentru modele: alocări de GPU dedicate unui singur client, fără concurență din partea solicitărilor de prioritate ale altor utilizatori. Fiecare resursă de calcul pentru modele poate găzdui una sau mai multe sesiuni de antrenare, fiecare dintre acestea corespunzând unui singur experiment pe același model de bază, de exemplu, un set de adaptoare LoRA. Together a declarat că alocările dedicate permit și ajustarea fină a tuturor ponderilor, nu doar prin LoRA, atunci când modelele sunt adaptate la sarcini care presupun cunoștințe vaste.

Fiecare sesiune include o instanță Trainer, responsabilă de pașii de propagare înainte și înapoi, precum și de actualizarea ponderilor, alături de instanțe Generator, care execută derulări ale politicii. Pentru ajustarea fină supravegheată, o resursă de calcul pentru modele poate porni fără niciun generator, pentru a reduce costurile. Utilizatorii decid când sunt transmiși parametrii componentei Trainer către generator, iar RL asincron este acceptat pentru a asigura o utilizare ridicată a GPU-urilor ambelor componente, mai ales în timpul derulărilor lungi ale agenților.

Utilizatorii pot efectua antrenarea LoRA, inclusiv folosind mai multe adaptoare LoRA care împart aceeași capacitate GPU, precum și experimente cu toate ponderile, pentru anumite modele. Serviciul acceptă funcții de pierdere standard, inclusiv entropie încrucișată, GRPO, CISPO și DPPO, iar utilizatorii pot, de asemenea, să calculeze local o funcție obiectiv de antrenare personalizată și să-i trimită gradientele către componenta Trainer.

Potrivit documentației despre post-antrenare, interfața principală a SDK-ului cuprinde o metodă create, care alocă o resursă de calcul pentru modele (unitatea facturată), și o metodă create_session, care îi atașează o sesiune de antrenare, urmate de apeluri pentru fiecare pas: sample_batch, pentru generarea completărilor care urmează să fie evaluate; forward_backward, pentru calcularea funcției de pierdere și propagarea inversă a gradientelor; optim_step, pentru actualizarea ponderilor; și weights_sync, pentru publicarea ponderilor noi către replicile generatorului. SFT și DPO omit sample_batch și weights_sync, deoarece nu generează completări.

Resursele de calcul pentru modele sunt facturate la minut de GPU, iar Together a declarat că, de îndată ce experimentele se extind, costurile totale de antrenare ajung să fie mai mici decât în cazul tarifării pe bază de tokenuri. Documentația compară acest model cu serviciul standard de ajustare fină al companiei, care facturează fiecare token procesat și rulează ca o sarcină dusă la capăt fără posibilitatea de a interveni pe parcurs; utilizatorii serviciului de post-antrenare pot consulta indicatorii pentru fiecare pas, pot modifica rata de învățare, pot reordona datele sau pot opri o rulare în funcție de propria logică.

Stabilitatea antrenării și calea către implementare

Together a declarat că serviciul elimină numeroase surse de derivă a politicii între motoarele de antrenare și cele de inferență, unde mici neconcordanțe numerice, chiar și atunci când ponderile sunt identice, pot duce la rezultate slabe sau chiar la eșecul unei rulări RL. În acest scop, serviciul folosește tehnici standard, precum Rollout Routing Replay, alături de optimizări bazate pe cercetările companiei privind stabilitatea antrenării. Compania a precizat că motoarele sale de derulare folosesc aceleași optimizări ca stiva de servire, cu memorare în cache și rutare inteligente pentru agenții cu mai multe ture, iar paralelismul optimizat și împachetarea secvențelor accelerează atât pașii SFT, cât și pe cei RL.

După antrenare, compania oferă acum suport pentru servirea adaptoarelor multi-LoRA în Dedicated Model Inference, permițând utilizatorilor să schimbe adaptoarele în cadrul unei singure implementări pe GPU, în loc să pornească o implementare de producție separată pentru fiecare rulare. Together a declarat că fiecare punct de control al antrenării își păstrează calitatea în etapa de servire chiar și după trecerea de la eșantionarea multi-LoRA la inferența cu adaptoare comasate în precizie FP4.

Documentația descrie un flux de lucru care include antrenarea, evaluarea și pregătirea pentru producție: se antrenează mai multe adaptoare pe același model de bază înghețat, se atașează variantele candidate la o singură implementare multi-LoRA și se compară indicând un adaptor diferit în fiecare solicitare, apoi se implementează varianta câștigătoare în mod comasat, într-o implementare proprie. Pentru GLM-5.3 și Kimi-K3, adaptoarele trebuie mai întâi să treacă printr-o etapă de pregătire pentru inferența FP4.

Integrarea inițială, migrarea de la Tinker și primii utilizatori

Pentru a începe, sunt necesare cea mai recentă versiune a Together SDK și documentația. Together a publicat pe GitHub colecții de exemple într-un depozit numit post-training-cookbook, care acoperă antrenarea GRPO pe benchmarkul GSM8K, DPO implementat ca funcție de pierdere personalizată și antrenarea mai multor adaptoare LoRA în cadrul aceleiași resurse de model; documentația descrie colecția drept o bibliotecă Python de bucle gata de utilizare, ale cărei notebookuri prezintă GRPO, SFT și antrenarea mai multor adaptoare pe o singură resursă de model, folosind apelurile asincrone ale SDK-ului. Pentru echipele care au deja o configurație bazată pe API-ul Tinker, există o cale de migrare care înlocuiește o linie de import cu import together.post_training.tinker as tinker, detaliată într-un ghid de migrare.

Printre utilizatorii care au avut acces timpuriu, Anthony Li, director asociat pentru știința datelor la Deel, a spus că nivelul de control și flexibilitatea platformei i-au permis echipei sale să înceapă experimente RL reale în doar câteva ore și să ruleze simultan până la cinci experimente RL folosind aceeași capacitate GPU. Oliver Normand, inginer fondator la Jack & Jill, a spus că echipa sa a antrenat ulterior un model care prezice cu ce candidați va dori să se întâlnească un manager de recrutare — un pas esențial în procesul de căutare realizat de agentul de recrutare Jill al companiei — și că, în evaluările offline, a obținut o calitate egală cu cea a unui model cu sursă închisă, folosind un model cu sursă deschisă, semnificativ mai ieftin de utilizat; el a spus că inginerii Together integrați în echipă au scris scripturile care au produs primele rezultate ale echipei.

Jain, de la Collinear AI, a spus că procesul de onboarding autonom, fără probleme, a făcut ușoară lansarea unor sesiuni RL agentice la scară largă. Inginerii Together integrați în echipă colaborează cu clienții pe tot parcursul ciclului de post-antrenare, de la alegerea unui model cu sursă deschisă și a unui cadru pentru agenți până la configurarea datelor și a mediilor de antrenare, efectuarea evaluărilor și lansarea unui endpoint optimizat.