Η Baseten φέρνει την τεχνογνωσία της στην εκτέλεση μοντέλων στη συμμαχία Nemotron της NVIDIA

Η Baseten ανακοίνωσε στις 5 Νοεμβρίου 2026 ότι εντάχθηκε στη συμμαχία NVIDIA Nemotron, συνεισφέροντας γνώσεις από επιχειρησιακά φορτία εργασίας και τεχνογνωσία στη μετεκπαίδευση και την εκτέλεση μοντέλων στην ανάπτυξη μοντέλων ανοικτού τύπου. Η συμμετοχή της διευρύνει τη συνεργασία της με την NVIDIA, καλύπτοντας πλέον τις κυκλοφορίες μοντέλων, την ενισχυτική μάθηση, την προσαρμογή και την αποκλειστική εξυπηρέτηση μοντέλων.

Η NVIDIA ξεκίνησε τη συμμαχία στις 16 Μαρτίου 2026, με στόχο τη συγκέντρωση έρευνας, τεχνογνωσίας, δεδομένων και υπολογιστικής ισχύος γύρω από ανοικτά μοντέλα αιχμής. Στην ανακοίνωση για την έναρξή της, η NVIDIA ανέφερε ότι το πρώτο έργο θα ήταν ένα βασικό μοντέλο που θα αναπτυσσόταν από κοινού από τη Mistral AI και την NVIDIA, θα εκπαιδευόταν στο NVIDIA DGX Cloud, θα κυκλοφορούσε ως λογισμικό ανοικτού κώδικα ώστε να εξειδικεύεται από προγραμματιστές και οργανισμούς και θα αποτελούσε τη βάση για την επερχόμενη οικογένεια Nemotron 4.

Η Baseten ήταν συνεργάτης από την πρώτη ημέρα της κυκλοφορίας των Nemotron 3.5 Super VL και Nemotron 3 Ultra. Ο ρόλος της στη συμμαχία εκτείνεται πέρα από την εξυπηρέτηση ολοκληρωμένων μοντέλων και περιλαμβάνει περιβάλλοντα εκπαίδευσης και επιχειρησιακή τεχνογνωσία που διαμορφώνεται από τη χρήση σε επιχειρήσεις. Στην πράξη, η έμφαση δίνεται στην προσαρμογή στις συγκεκριμένες επιχειρηματικές απαιτήσεις, με την ποιότητα της ανάπτυξης, το κόστος και την ευελιξία να αντιμετωπίζονται ως αλληλένδετες παράμετροι.

Εκπαίδευση για φορτία εργασίας παραγωγής

Η εταιρεία ανέπτυξε περιβάλλοντα ενισχυτικής μάθησης για σύνθετες ιεραρχίες οδηγιών, με δυνατότητες αγνόησης των άσχετων πληροφοριών και τήρησης λεπτομερών προτιμήσεων ύφους. Άλλα περιβάλλοντα αφορούν τον συλλογισμό και τον σχεδιασμό σε μακροχρόνιο ορίζοντα, μέσω στατιστικής ανάλυσης σύνθετων βιολογικών συνόλων δεδομένων, μαθηματικής απόδειξης θεωρημάτων και ανταγωνιστικού παιχνιδιού. Οι εργασίες αυτές προσομοιώνουν τον τρόπο με τον οποίο δίνονται οι οδηγίες σε περιβάλλοντα παραγωγής: μέσω προτροπών συστήματος, ορισμών εργαλείων, συμπληρωματικών μηνυμάτων από χρήστες, αποκρίσεων εργαλείων και μηνυμάτων σφάλματος.

Το έργο της στον τομέα των πολυτροπικών μοντέλων περιλαμβάνει εργασίες οπτικού και χωρικού συλλογισμού, καθώς και κλήσεις εργαλείων πολλών διαδοχικών βημάτων που απαιτούν οπτική κατανόηση. Η Baseten αναφέρει ότι η μετεκπαίδευση βελτίωσε τις επιδόσεις στο MMMU-Pro, ένα σημείο αναφοράς πολυτροπικού συλλογισμού επιπέδου ειδικών. Μια σχετική μελέτη, που υποβλήθηκε στις 5 Οκτωβρίου 2026, περιγράφει έναν προβολέα 50 εκατομμυρίων παραμέτρων, ο οποίος συνδέει τον κωδικοποιητή εικόνας του Kimi K2.6 με τα GLM 5.2 και GLM 5.3, διατηρώντας σταθερά τα προεκπαιδευμένα βάρη, και παρουσιάζει αξιολογήσεις στο MMMU-Pro και το BLINK.

Μετρήσιμα αποτελέσματα προσαρμογής

Η ερευνητική αναφορά της CodeRabbit στις 11 Αυγούστου 2026 περιγράφει ένα έργο με την NVIDIA και την Baseten, στο πλαίσιο του οποίου προσαρμόστηκε το Nemotron 3.5 Lightning για τη δρομολόγηση ελέγχων κώδικα, αρχικά μέσω επιβλεπόμενης βελτιστοποίησης και στη συνέχεια μέσω ενισχυτικής μάθησης με επαληθεύσιμες ανταμοιβές. Σε αξιολόγηση 1.000 εργασιών με παγωμένο σύνολο δεδομένων, η ακριβής συμφωνία στη δρομολόγηση αυξήθηκε από 75,8% για το βασικό μοντέλο σε 80,4% μετά την επιβλεπόμενη βελτιστοποίηση και σε 80,7% μετά την εκπαίδευση με ανταμοιβές. Το κάπα του Cohen, μέτρο συμφωνίας πέρα από την τυχαία σύμπτωση, αυξήθηκε από 0,429 σε 0,461 και στη συνέχεια σε 0,544.

Η CodeRabbit χαρακτήρισε την τελική μεταβολή κατά 0,3 ποσοστιαίες μονάδες στη συμφωνία δρομολόγησης ως μη υποβάθμιση και όχι ως στατιστικά καθοριστική βελτίωση, επειδή το διάστημα εμπιστοσύνης για τις ζευγαρωτές μετρήσεις περιλάμβανε το μηδέν. Η σύγκριση του κόστους εξυπηρέτησης εκτίμησε μείωση κατά 50,4% σε κορεσμένη διεκπεραιωτική ικανότητα: η ίδια αξιολόγηση κόστισε 2,34 $ με το βασικό μοντέλο και 1,16 $ σε μία Baseten A100. Οι έλεγχοι υπό συνεχή φόρτιση και με πραγματική κίνηση παραγωγής προβλέπονταν για επόμενη φάση.

Η Harvey παρουσιάζει μια διαφορετική περίπτωση προσαρμογής. Η Baseten αναφέρει ότι η νομική πλατφόρμα τεχνητής νοημοσύνης μετεκπαιδεύει το Nemotron στην Baseten για εξειδικευμένες ροές εργασίας που εξυπηρετούν καθημερινά δεκάδες χιλιάδες δικηγόρους. Σε ξεχωριστή έρευνα που δημοσίευσαν η Harvey και η Baseten στις 8 Σεπτεμβρίου 2026, φορτώθηκε ένας χώρος δεδομένων συγχώνευσης και εξαγοράς σε περιβάλλον Python και επιτράπηκε σε έναν κύριο πράκτορα να αναθέτει επιμέρους, οριοθετημένους ελέγχους σε υποπράκτορες. Η Harvey ανέφερε ότι, σε επτά μοντέλα και 50 μη χρησιμοποιηθέντες κατά την εκπαίδευση χώρους δεδομένων, το σύστημα αύξησε το μέσο ποσοστό επιτυχίας στα κριτήρια αξιολόγησης από 23,3% σε 62,4%.

Η αναφορά της Harvey σημειώνει επίσης ότι η ενισχυτική μάθηση σε ένα βασικό μοντέλο Qwen3.5-122B-A10B αύξησε το ποσοστό επιτυχίας του από 29,9% σε 63,0% στους συγκεκριμένους 50 χώρους δεδομένων, ενώ χαρακτηρίζει τα πειράματα αρχικές διερευνήσεις και το χάσμα που απομένει μέχρι σχεδόν τέλεια ποσοστά επιτυχίας σημαντικό.

Ανάπτυξη και φωνητική τεχνητή νοημοσύνη

Το Baseten Loops συνδέει τις διαχειριζόμενες ροές εργασίας ενισχυτικής μάθησης με την Αποκλειστική εξυπηρέτηση μοντέλων, ενώ οι πελάτες διατηρούν την κυριότητα των βαρών των εκπαιδευμένων μοντέλων τους. Το Loops υποστηρίζει τα Nemotron 3.5 Super VL και Nemotron 3 Ultra, ενώ το Super VL είναι διαθέσιμο για εκπαίδευση σε BF16 και NVFP4.

Οι εταιρείες αξιολογούν επίσης φωνητικούς πράκτορες που βασίζονται στο Nemotron σε ολοκληρωμένες εφαρμογές, συμπεριλαμβανομένων της ποιότητας του μοντέλου και της ταχύτητας απόκρισης. Η δοκιμή αναγνώρισης ομιλίας της Baseten στις 4 Αυγούστου 2026 ανέφερε ότι μία NVIDIA H100 υποστήριξε σταθερά έως και 100 ταυτόχρονες ροές ήχου πραγματικού χρόνου μέσω WebSocket. Η καθυστέρηση οριστικοποίησης —ο χρόνος από τη στιγμή που σταματά να μιλά ο ομιλητής μέχρι να είναι έτοιμη η τελική απομαγνητοφώνηση— αυξήθηκε από 98 χιλιοστά του δευτερολέπτου στις οκτώ ροές σε 138 χιλιοστά του δευτερολέπτου στις 100.

Η συμμετοχή της Baseten στη συμμαχία συνδέει την προσαρμογή μοντέλων με την υποδομή που χρησιμοποιείται για την εξυπηρέτηση των μοντέλων που προκύπτουν. Τα αποτελέσματα των πελατών παρέχουν συγκεκριμένα τεκμήρια υπέρ αυτής της προσέγγισης, ενώ η εκτίμηση της CodeRabbit σε συνθήκες κορεσμένης διεκπεραιωτικής ικανότητας και οι εκκρεμείς έλεγχοι παραγωγής, μαζί με τα πειράματα της Harvey σε πρώιμο στάδιο, οριοθετούν τα όριά της. Το βασικό ερώτημα είναι κατά πόσο τα μετρημένα οφέλη διατηρούνται σε συνθήκες παρατεταμένης χρήσης στην παραγωγή.