Η Baseten λανσάρει το Grid για τη δρομολόγηση και τη διακυβέρνηση της εταιρικής ανάπτυξης κώδικα με τεχνητή νοημοσύνη

Στις 4 Νοεμβρίου 2026, η Baseten ανακοίνωσε το Grid και ξεκίνησε τη δημόσια προεπισκόπηση του επιπέδου δρομολόγησης, πύλης και προστατευτικών δικλίδων για την εταιρική ανάπτυξη κώδικα με τεχνητή νοημοσύνη. Η εταιρεία ανέφερε ότι το Baseten Router πέτυχε σχεδόν 70% εξοικονόμηση στο κόστος ανά εργασία σε αρχικές δοκιμές συγκριτικής αξιολόγησης, με αντιστάθμισμα στην ποιότητα κατά 0,9 ποσοστιαίες μονάδες σε σύγκριση με το Opus 5.5· η πρώιμη πρόσβαση παρέχεται μέσω λίστας αναμονής.

Δρομολόγηση πέρα από τις τιμές των token

Το Grid αυτοματοποιεί μια επιλογή που διαφορετικά θα έπρεπε να κάνουν οι ίδιοι οι προγραμματιστές: ποιο εγκεκριμένο μοντέλο θα αναλάβει κάθε εργασία προγραμματισμού. Για κάθε αίτημα, το Baseten Router αξιολογεί τις εγκεκριμένες από τον οργανισμό επιλογές μοντέλων ανοικτού και κλειστού κώδικα και σταθμίζει την αναμενόμενη απόδοσή τους στην εργασία σε σχέση με το κόστος.

Αντί να κατατάσσει τα μοντέλα αποκλειστικά με βάση την τιμή ανά token, ο δρομολογητής συνυπολογίζει το κόστος των επαναλήψεων, των αποτυχημένων κλήσεων εργαλείων και των ελλιπών απαντήσεων. Στόχος του είναι να μειώνει το κόστος ολοκλήρωσης μιας εργασίας, ικανοποιώντας παράλληλα τις απαιτήσεις της ομάδας ως προς την ποιότητα και την απόδοση. Οι αυτόματες διαδρομές μπορούν να δίνουν προτεραιότητα στο κόστος, στην ευφυΐα ή σε έναν συνδυασμό των δύο.

Οι οργανισμοί μπορούν επίσης να επιλέξουν να κοινοποιούν ίχνη εκτέλεσης, τα οποία μπορούν να χρησιμοποιηθούν για την εκπαίδευση προσαρμοσμένων δρομολογητών με στόχο την αποδοτικότητα Pareto στα δικά τους συγκεκριμένα φορτία εργασίας. Η Baseten ανέφερε ότι η ακριβής εξοικονόμηση θα ποικίλλει ανάλογα με τη μορφή του φόρτου εργασίας και την επιθυμητή από τον πελάτη ισορροπία ανάμεσα στο κόστος και την ποιότητα, επομένως το σημείο αναφοράς δείχνει τις δυνατότητες και δεν αποτελεί καθολική μείωση.

Ο Chintan Parikh, επικεφαλής μηχανικής της Opendoor, δήλωσε ότι το Grid συγκέντρωσε σε ένα σημείο την εικόνα των εσωτερικών δαπανών για την τεχνητή νοημοσύνη και τις μείωσε αυτόματα, με ελάχιστη απώλεια ποιότητας. Σχεδόν όλοι στην Opendoor χρησιμοποιούν τεχνητή νοημοσύνη και οι περισσότεροι εργαζόμενοι δεν θέλουν να αποφασίζουν ποιο μοντέλο θα επιλέξουν.

Κεντρική πρόσβαση χωρίς αλλαγές στα εργαλεία προγραμματιστών

Το Grid Gateway παρέχει το επίπεδο διαχείρισης. Οι ομάδες πλατφόρμας μπορούν να εγκρίνουν μοντέλα, να παραχωρούν πρόσβαση σε επίπεδο ομάδας, να ορίζουν προϋπολογισμούς και να χρησιμοποιούν διαπιστευτήρια που διαχειρίζεται η εταιρεία, παρακολουθώντας παράλληλα τη χρήση από ομάδες, εφαρμογές και πράκτορες. Ένας πίνακας ελέγχου αναλύει τις δαπάνες ανά μοντέλο και εμφανίζει τη συνολική δαπάνη, τον όγκο των token, το ποσοστό επιτυχημένων ανακτήσεων από την cache και το κόστος που εξοικονομήθηκε.

Κατά την κυκλοφορία του, το Grid υποστηρίζει μοντέλα από τις OpenAI, Anthropic, Gemini Enterprise Agent Platform, Amazon Bedrock και Baseten. Οι προγραμματιστές μπορούν να συνδέσουν τα Claude Code, Codex, OpenCode και Pi με μία εντολή ρύθμισης, ενώ οι διαχειριστές μπορούν να αυτοματοποιήσουν τη διαμόρφωση μέσω διαχείρισης κινητών συσκευών.

Εσωτερικές εφαρμογές και πράκτορες που χρησιμοποιούν το Anthropic ή το OpenAI API μπορούν να συνδεθούν με την αλλαγή μιας βασικής διεύθυνσης URL και ενός αναγνωριστικού μοντέλου. Έτσι, το υπάρχον λογισμικό εντάσσεται στο ίδιο τελικό σημείο, χωρίς οι οργανισμοί να χρειάζεται να αντικαταστήσουν τα καθιερωμένα εργαλεία προγραμματισμού τους.

Οι ομάδες πλατφόρμας μπορούν επίσης να ορίσουν για κάθε περιβάλλον εκτέλεσης ένα προεπιλεγμένο μοντέλο προγραμματισμού και ένα μικρότερο μοντέλο παρασκηνίου για δευτερεύουσες εργασίες, όπως η σύνταξη περιλήψεων. Οι προγραμματιστές λαμβάνουν αυτές τις προεπιλεγμένες ρυθμίσεις κατά την εγκατάσταση και μπορούν να αλλάξουν μοντέλα αργότερα.

Κοινές δικλίδες ασφαλείας και υποδομή συμπερασματολογίας

Το Grid τοποθετεί διαμορφώσιμες πολιτικές ασφαλείας στην πύλη, εφαρμόζοντας κεντρικά ελέγχους στα αιτήματα και τις απαντήσεις. Οι πολιτικές μπορούν να διαφέρουν ανάλογα με το φορτίο εργασίας, ενώ τα αρχεία καταγραφής προσδιορίζουν τι επισημάνθηκε και πώς αντιμετωπίστηκε. Οι κίνδυνοι που εντοπίζονται περιλαμβάνουν έγγραφα με κρυφές οδηγίες που ανακατευθύνουν πράκτορες, μη εξουσιοδοτημένες ενέργειες και εμφάνιση πληροφοριών πελατών σε σημεία όπου δεν θα έπρεπε.

Αυτές οι δικλίδες ασφαλείας διαφέρουν από τους ελέγχους εκτέλεσης. Οι έλεγχοι ασφαλείας εξετάζουν επικίνδυνα αιτήματα και απαντήσεις, ενώ οι έλεγχοι εκτέλεσης καθορίζουν σε τι μπορεί να έχει πρόσβαση ένας πράκτορας και τι μπορεί να κάνει. Η Baseten ανέφερε ότι οι επιχειρήσεις χρειάζονται και τα δύο επίπεδα.

Κάτω από την πύλη, η πλατφόρμα συμπερασματολογίας της Baseten αναλαμβάνει τη δρομολόγηση, τη μετάφραση μεταξύ των πρωτοκόλλων μοντέλων και περιβαλλόντων εκτέλεσης, την προσωρινή αποθήκευση, την κλιμάκωση και τη βελτιστοποίηση. Όταν η Baseten παρέχει το επιλεγμένο μοντέλο, οι εκτεταμένες συνεδρίες πρακτόρων με πολλαπλές αλληλεπιδράσεις μπορούν να δρομολογούνται σε θερμή cache κλειδιών-τιμών, ώστε να μειώνεται το κόστος τους. Οι ομάδες της που ασχολούνται με την έρευνα απόδοσης μοντέλων, τη μετεκπαίδευση και την υποδομή εργάζονται επίσης πάνω σε προσαρμοσμένους πυρήνες, την κερδοσκοπική αποκωδικοποίηση και τις αξιολογήσεις που πρέπει να περάσει κάθε μοντέλο πριν από την κυκλοφορία του.

Πέρα από την προεπισκόπηση, η Baseten σχεδιάζει να υποστηρίξει την ανάθεση εργασιών μεγαλύτερης διάρκειας σε πράκτορες που φιλοξενούνται στο cloud, καθώς και τον συντονισμό πολλών πρακτόρων για σύνθετες εργασίες. Στα μελλοντικά σχέδια περιλαμβάνονται επίσης η δρομολόγηση που προσαρμόζεται στα δεδομένα και τις περιπτώσεις χρήσης των πελατών, πλουσιότερα σήματα ασφαλείας και η υποστήριξη των δικών τους δικλίδων ασφαλείας.

Το οικονομικό κριτήριο είναι, επομένως, το κόστος ολοκλήρωσης μιας εργασίας στην απαιτούμενη ποιότητα, με την τιμή των token να αποτελεί μόνο έναν από τους παράγοντες. Επειδή η αναφερόμενη εξοικονόμηση εξαρτάται από τη μορφή του φόρτου εργασίας και αρκετές δυνατότητες διαχείρισης πρακτόρων παραμένουν υπό σχεδιασμό, η προεπισκόπηση δεν ξεκαθαρίζει πόσο σταθερά θα μεταφερθούν αυτά τα αποτελέσματα συγκριτικής αξιολόγησης στην ανάπτυξη κώδικα σε περιβάλλον παραγωγής.