Η Baseten διαθέτει πλέον το Serverless Loops για μετεκπαίδευση σε όλους

Στις 6 Νοεμβρίου 2026, η Baseten ανακοίνωσε ότι το Serverless Loops διατίθεται πλέον σε όλους, ανοίγοντας σε όλους την πρόσβαση στο διαχειριζόμενο SDK της για επιτηρούμενη προσαρμογή και ενισχυτική μάθηση σε ανοικτά μοντέλα. Η υπηρεσία χρεώνει την εκπαίδευση ανά διακριτικό και προσφέρει άμεση μετάβαση από τα σημεία ελέγχου στο Baseten Dedicated Inference.

Το Loops βασίζεται σε έναν σαφή καταμερισμό εργασιών: οι χρήστες παρέχουν το σήμα εκπαίδευσης, ενώ η Baseten διαχειρίζεται τις GPU, τους πυρήνες, τις αρχιτεκτονικές μοντέλων και το σύστημα υποστήριξης της κατανεμημένης εκπαίδευσης. Το SDK Python εκπαιδεύει προσαρμογείς LoRA, διατηρώντας παγωμένα τα βάρη του βασικού μοντέλου. Οι χρήστες επιλέγουν το βασικό μοντέλο, τον βαθμό LoRA, τον ρυθμό μάθησης, τη συνάρτηση απώλειας, τα δεδομένα ή το περιβάλλον και τον αλγόριθμο· η Baseten εκτελεί τον εκπαιδευτή και τον δειγματολήπτη, συγχρονίζει τα βάρη και διαχειρίζεται την υποστηρικτική υποδομή.

Ένα πακέτο συμβατότητας διατηρεί τις εισαγωγές Tinker και τις βασικές κλήσεις εκπαίδευσης και δειγματοληψίας για ομάδες που μεταφέρουν υπάρχοντα σενάρια. Ο οδηγός μετεγκατάστασης εξακολουθεί να απαιτεί αλλαγή του τρόπου ελέγχου ταυτότητας σε κλειδί API της Baseten, επιστρέφει τα σημεία ελέγχου ως σελιδοποιημένες διευθύνσεις URL αρχείων, απαιτεί ενσωματωμένες εισόδους εικόνας και καθορίζει την κάλυψη των μονάδων LoRA ανά οικογένεια μοντέλων. Η συμβατότητα καλύπτει το API εκπαίδευσης, αλλά αφήνει στις ομάδες να προσαρμόσουν αρκετές λεπτομέρειες που αφορούν ειδικά την υποδομή.

Μοντέλα χωρίς διακομιστή και χρεώσεις

Ο κατάλογος μοντέλων χωρίς διακομιστή περιλαμβάνει τρία μοντέλα: Qwen/Qwen3.6-35B-A3B και zai-org/GLM-5.3-Flash για κείμενο και εικόνες, και zai-org/GLM-5.3 μόνο για κείμενο. Κάθε μοντέλο υποστηρίζει μέγιστο μήκος ακολουθίας 262.144 διακριτικών. Η διαμόρφωση μεγάλου παραθύρου περιβάλλοντος του GLM-5.3 δεν υποστηρίζει cross_entropy ή dpo απώλειες. Η αποκλειστική λειτουργία καλύπτει ευρύτερο κατάλογο μοντέλων, χρεώνει τον χρόνο χρήσης της GPU και προσφέρει επιπλέον ρυθμίσεις για αντίγραφα, επαναχρησιμοποίηση θερμών πόρων και διαθέσιμη δυναμικότητα.

Οι εκτελέσεις χωρίς διακομιστή χρησιμοποιούν κοινόχρηστη δυναμικότητα χωρίς να απαιτούν δέσμευση GPU και χρεώνουν τα διακριτικά που χρησιμοποιούνται στην εκπαίδευση και τη δειγματοληψία. Ο χρόνος ανάγνωσης αποτελεσμάτων, αλλαγής μιας συνάρτησης ανταμοιβής ή αδράνειας δεν επιβαρύνεται με χρεώσεις διακριτικών. Η προεπιλεγμένη επιλογή λειτουργίας μπορεί να στραφεί σε αποκλειστική δυναμικότητα αν δεν υποστηρίζεται το μοντέλο, ο βαθμός LoRA ή το μήκος ακολουθίας, ή αν μια εκτέλεση επαναχρησιμοποιεί αναπτύξεις άλλης εκτέλεσης. Αντίθετα, ο ορισμός του πεδίου εφαρμογής σε λειτουργία χωρίς διακομιστή προκαλεί αποτυχία του αιτήματος όταν αυτό δεν υποστηρίζεται.

Η ενεργοποίηση ενός μοντέλου δεν εγγυάται ότι θα διατεθεί. Η πρόσβαση που εξαρτάται από τον χώρο εργασίας, η μη διαθεσιμότητα GPU και τα όρια εκπαίδευσης που θέτει ο οργανισμός μπορούν και πάλι να εμποδίσουν μια εκτέλεση, θέτοντας πρακτικά όρια δυναμικότητας στο μοντέλο χρέωσης ανά διακριτικό, πέρα από όσα αναφέρονται στον δημοσιευμένο κατάλογο.

Σημεία ελέγχου και παραγωγική εξαγωγή συμπερασμάτων

Ο οδηγός γρήγορης εκκίνησης παρουσιάζει τέσσερις βασικές λειτουργίες: forward_backward για εργασία με απώλειες και κλίσεις, optim_step για ενημερώσεις προσαρμογέων, sample για παραγωγή και save_state για εκπαίδευση με δυνατότητα συνέχισης. Η δημοσίευση των βαρών του δειγματολήπτη δημιουργεί ένα σημείο ελέγχου έτοιμο για ανάπτυξη και έναν πελάτη δειγματοληψίας συνδεδεμένο με αυτό. Μια ξεχωριστή save_state λειτουργία διατηρεί την κατάσταση του μοντέλου και του βελτιστοποιητή. Το πρώτο αίτημα δειγματοληψίας μπορεί να χρειαστεί αρκετά λεπτά, όσο ενεργοποιείται η δυναμικότητα χωρίς διακομιστή, κάτι που αξίζει να ληφθεί υπόψη σε σύντομα πειράματα.

Ένα σημείο ελέγχου δειγματολήπτη αναπτύσσεται ως βασικό μοντέλο με φορτωμένο τον εκπαιδευμένο προσαρμογέα LoRA. Τα σημεία ελέγχου διατηρούνται και μετά τη λήξη των εκτελέσεών τους και μπορούν να αναπτυχθούν μέσω CLI, REST API ή πίνακα ελέγχου, με χρήση διακριτικού πρόσβασης Hugging Face, καθώς η ανάπτυξη κατεβάζει τα βασικά βάρη. Το τελικό συμβατό με OpenAI τελικό σημείο χρεώνει τη χρήση της GPU όσο παραμένει ενεργό. Η διαγραφή της ανάπτυξης διακόπτει τη χρέωση της GPU χωρίς να διαγράφει το σημείο ελέγχου· η απενεργοποίηση της εκτέλεσης Loops δεν καταργεί την ανάπτυξη.

Για τη γενική διάθεση, η Baseten βελτίωσε τη διαχείριση προσωρινών σφαλμάτων δικτύου και αστοχιών GPU, μείωσε τον χρόνο επιβάρυνσης κατά την εκκίνηση και επιτάχυνε τη μεταφορά βαρών μεταξύ εκπαιδευτών και δειγματοληπτών. Σύμφωνα με την Baseten, αυτές οι αλλαγές υποστηρίζουν περισσότερους ταυτόχρονους φόρτους εργασίας πελατών, ενώ η στοίβα παραγωγικής εξαγωγής συμπερασμάτων της εξυπηρετεί περισσότερα από 15 δισεκατομμύρια αιτήματα ημερησίως. Η παραγωγική ροή περιλαμβάνει αυτόματη κλιμάκωση, διαχείριση αναπτύξεων και μετρικές εξαγωγής συμπερασμάτων, ενώ οι χρήστες μπορούν να κατεβάζουν βάρη σε μορφή Hugging Face Safetensors.

Επικύρωση και πρώιμοι φόρτοι εργασίας πελατών

Η Baseten αναφέρει ότι επικύρωσε την υπηρεσία με αριθμητικές δοκιμές και πειράματα ενισχυτικής μάθησης από άκρο σε άκρο, χρησιμοποιώντας εργασίες τ-bench στους τομείς του λιανεμπορίου, των αερομεταφορών και των τραπεζικών υπηρεσιών, και στη συνέχεια αξιολόγησε την απόδοση σε δύσκολες εργασίες που δεν είχαν χρησιμοποιηθεί στην εκπαίδευση. Το έργο τ-bench περιγράφει μια δοκιμή αξιολόγησης του κατά πόσο οι πράκτορες μπορούν να συνομιλούν με χρήστες, να καλούν εργαλεία, να ανακτούν γνώσεις και να ακολουθούν πολιτικές σε επιχειρηματικούς τομείς, με τα αποτελέσματα να ελέγχονται βάσει επαληθεύσιμων δεδομένων βάσεων δεδομένων.

Η Baseten αναφέρει ότι η NVIDIA μετεκπαίδευσε το Nemotron Super 3.5 VL σε εργασίες κειμένου και εικόνας, βελτιώνοντας την ακρίβεια ταξινόμησης προθέσεων από 76.8% σε 94% και επιτυγχάνοντας F1 επικύρωσης 87% στην εξαγωγή στοιχείων από αποδείξεις· η εργασία περιλάμβανε επίσης ενισχυτική μάθηση για την καταμέτρηση οπτικών αντικειμένων. Η Datadog χρησιμοποιεί ενισχυτική μάθηση πρακτόρων πολλαπλών γύρων για να δοκιμάσει ιδέες εκπαίδευσης για τον πράκτορα SRE της, ενώ η Ambience Healthcare μετεκπαίδευσε μοντέλα για τη διόρθωση σφαλμάτων στην κλινική απομαγνητοφώνηση και την ακριβή καταγραφή ιατρικής ορολογίας και μορφοποίησης.

Η LangChain Labs κάνει μετεκπαίδευση μοντέλων με βάση ίχνη ενεργειών πρακτόρων για το LangSmith Engine. Στις σχετικές εργασίες περιλαμβάνονται η ανάγνωση ενός αποθετηρίου GitHub για τη διάγνωση ενός προβλήματος και η σύνταξη της προτροπής ή της αλλαγής κώδικα για ένα αίτημα ενσωμάτωσης. Μπορεί να μεταβαίνει σε μικρότερο μοντέλο ανοιχτών βαρών για να ταξινομεί τα ίχνη ανάλογα με τον τρόπο και τη σοβαρότητα της αποτυχίας ή να τα αντιστοιχίζει σε υπάρχοντα προβλήματα. Η ροή εργασίας της LangChain δείχνει πώς η συμπεριφορά μιας εφαρμογής γίνεται στόχος εκπαίδευσης, με το μέγεθος του μοντέλου και την εξειδίκευση της εργασίας να επιλέγονται ανάλογα με το ζητούμενο.

Οι λογαριασμοί πελατών τεκμηριώνουν τη χρήση πριν από την ανακοίνωση της γενικής διαθεσιμότητας (GA) και δείχνουν τον προβλεπόμενο κύκλο υποδομής: τα δεδομένα της εφαρμογής γίνονται δεδομένα εισόδου για την εκπαίδευση, τα σημεία ελέγχου αξιολογούνται και τα επιλεγμένα μοντέλα προχωρούν προς την παραγωγική λειτουργία. Για τις ομάδες υποδομής, το όριο του κόστους είναι εξίσου σαφές. Οι υποστηριζόμενες εκτελέσεις χωρίς διακομιστή αποφεύγουν τις δεσμεύσεις GPU και τις χρεώσεις για διακριτικά κατά τον χρόνο αδράνειας, ενώ ένα ενεργό τελικό σημείο εξαγωγής συμπερασμάτων εξακολουθεί να χρεώνεται για την GPU του· ο κατάλογος υπηρεσιών χωρίς διακομιστή και η χωρητικότητα του χώρου εργασίας καθορίζουν πού εφαρμόζεται αυτή η επιλογή.