Μοντέλα και πλατφόρμες AI

Η Perplexity λανσάρει το Orchestrator API με εφεδρική μετάβαση σε πάροχο του ίδιου μοντέλου

Jonas Reeve
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΟ Orchestrator επαναλαμβάνει τις αποτυχημένες αιτήσεις σε άλλη ανάπτυξη του ίδιου…
Δείτε περισσότερα
  • Ο Orchestrator επαναλαμβάνει τις αποτυχημένες αιτήσεις σε άλλη ανάπτυξη του ίδιου μοντέλου, ώστε μια αίτηση Claude να μπορεί να αλλάξει πάροχο χωρίς να αλλάξει μοντέλο.
  • Η Perplexity αναφέρει ότι οι αιτήσεις Claude και GPT μέσω του Orchestrator πέτυχαν συχνότερα από τις αιτήσεις προς οποιονδήποτε μεμονωμένο πάροχο που μέτρησε.
  • Η αυτόματη δρομολόγηση μοντέλων είναι μια προεπισκόπηση που μπορεί να αλλάξει δυνατότητες και κόστος μεταξύ γύρων εντός μιας μόνο συνομιλίας.

Η Perplexity παρουσίασε το Orchestrator στις 17 Νοεμβρίου 2026, ένα API για πρόσβαση σε ιδιόκτητα μοντέλα και μοντέλα ανοιχτών βαρών που φιλοξενούνται στην υποδομή εξαγωγής συμπερασμάτων της εταιρείας. Παρέχει ενοποιημένη χρέωση, εφεδρική μετάβαση σε άλλον πάροχο για το ίδιο μοντέλο και μια προαιρετική λειτουργία αυτόματης δρομολόγησης μοντέλων, η οποία διατίθεται σε δοκιμαστική προεπισκόπηση.

Η τεκμηρίωση δρομολόγησης διαχωρίζει δύο αποφάσεις. Αφού επιλεγεί ένα μοντέλο, η δρομολόγηση παρόχων κατανέμει την κίνηση μεταξύ των αναπτύξεων με βάση τα παρατηρούμενα ποσοστά σφαλμάτων, τη χωρητικότητα και την καθυστέρηση. Οι πελάτες δεν επιλέγουν την ανάπτυξη. Τα σφάλματα παρόχου, τα όρια ρυθμού αιτημάτων και οι χρονικές υπερβάσεις μπορούν να ενεργοποιήσουν νέα προσπάθεια μέσω άλλης ανάπτυξης του ίδιου μοντέλου. Έτσι, ένα αίτημα Claude μπορεί, έπειτα από αποτυχία, να μεταφερθεί από την Anthropic στο AWS Bedrock, παραμένοντας αίτημα Claude.

Το Orchestrator δέχεται αιτήματα OpenAI Chat Completions, OpenAI Responses και Anthropic Messages. Οι προγραμματιστές μπορούν να συνεχίσουν να χρησιμοποιούν το SDK της OpenAI ή της Anthropic και να αλλάξουν σε ένα κλειδί API της Perplexity, τη βασική διεύθυνση URL του Orchestrator και ένα πλήρες αναγνωριστικό μοντέλου από τον κατάλογο. Ο οδηγός γρήγορης εκκίνησης περιγράφει την υπηρεσία ως άνευ κατάστασης και προορισμένη για άμεση πρόσβαση σε μοντέλα με τις δικές τους προτροπές και τα δικά τους εργαλεία. Αυτό τη διαφοροποιεί από το Agent API, το οποίο επιστρέφει απαντήσεις βασισμένες σε πληροφορίες από τον ιστό, με ενσωματωμένες παραπομπές.

Ο κατάλογος περιλαμβάνει οικογένειες μοντέλων από τις Anthropic, OpenAI, Google, xAI, Z.AI, DeepSeek και Moonshot AI. Τα μοντέλα της Google και της xAI, καθώς και τα μοντέλα ανοιχτών βαρών, είναι διαθέσιμα σε όλες τις βαθμίδες χρήσης. Για τη χρήση μοντέλων της OpenAI και της Anthropic απαιτείται Επίπεδο 1 ή υψηλότερο, ενώ για τα μοντέλα Claude Opus 5, Opus 5.5 και Fable απαιτείται Επίπεδο 2 ή υψηλότερο.

Εφεδρική μετάβαση σε πάροχο και μετρημένες επιδόσεις

Η Perplexity αναφέρει ότι τα αιτήματα Claude και GPT που στάλθηκαν μέσω του Orchestrator από τις 4 Οκτωβρίου 2026 έως τις 2 Νοεμβρίου 2026 ολοκληρώθηκαν με επιτυχία συχνότερα από τα αιτήματα προς οποιονδήποτε μεμονωμένο πάροχο που μέτρησε, με μικρότερες ημερήσιες διακυμάνσεις κατά τη διάρκεια περιστατικών που αφορούσαν παρόχους. Ως αποτυχίες ορίστηκαν οι περιπτώσεις στις οποίες είχαν εξαντληθεί όλες οι διαθέσιμες αναπτύξεις ή το επίπεδο εξυπηρέτησης επέστρεφε σφάλμα· δεν συνυπολογίστηκαν σφάλματα πελάτη, όπως μη έγκυρα αιτήματα και παραβιάσεις των ορίων ρυθμού αιτημάτων από την πλευρά του πελάτη. Στο ίδιο διάστημα των 30 ημερών, η Anthropic και το AWS Bedrock είχαν το καθένα την υψηλότερη ταχύτητα παραγωγής εξόδου για το Claude Opus 5.5 επί 15 ημέρες, ενώ η διάμεση ταχύτητα παραγωγής εξόδου του GPT-5.6 Sol στο Azure ήταν κατά 27% υψηλότερη από εκείνη της OpenAI. Η προσαρμοστική δρομολόγηση που λαμβάνει υπόψη αυτές τις διαφορές ταχύτητας βρίσκεται ακόμη υπό ανάπτυξη.

Η εφεδρική μετάβαση έχει περιορισμούς. Τα μη έγκυρα αιτήματα και οι προτροπές που υπερβαίνουν το παράθυρο περιβάλλοντος ενός μοντέλου επιστρέφουν HTTP 400, χωρίς νέα προσπάθεια μέσω άλλης ανάπτυξης. Η εξάντληση όλων των αναπτύξεων προκαλεί την επιστροφή HTTP 429 με κεφαλίδα Retry-After, ενώ τα αιτήματα που αποτυγχάνουν πριν παραγάγουν έξοδο δεν χρεώνονται. Αν μια ροή αποτύχει αφού αρχίσει η παραγωγή εξόδου, ο πελάτης χρεώνεται για τα διακριτικά που έχουν ήδη παραδοθεί.

Δρομολόγηση σε δοκιμαστική προεπισκόπηση και χρέωση βάσει χρήσης

Η αυτόματη δρομολόγηση μοντέλων αφορά την επιλογή μοντέλου και όχι την επιλογή ανάπτυξης. Ορίζοντας το μοντέλο σε perplexity/auto καλείται ένα μοντέλο λήψης αποφάσεων, το οποίο λαμβάνει το κείμενο της συνομιλίας και περιγραφές των διαδρομών σε απλή γλώσσα, αλλά όχι τα ονόματα των διαδρομών ή τα αναγνωριστικά των μοντέλων. Ένα προσαρμοσμένο αντικείμενο δρομολόγησης μπορεί να ορίζει ένα προεπιλεγμένο μοντέλο και από μία έως πέντε διαδρομές εργασιών. Το προεπιλεγμένο μοντέλο χρησιμοποιείται όταν δεν ταιριάζει καμία διαδρομή, όταν το μοντέλο λήψης αποφάσεων αποτυγχάνει ή υπερβαίνει το χρονικό όριο, ή όταν η συνομιλία περιλαμβάνει εικόνες, ήχο, βίντεο ή αρχεία.

Η δρομολόγηση γίνεται ανεξάρτητα για κάθε αίτημα, επομένως οι διαδοχικοί γύροι μιας συνομιλίας μπορούν να χρησιμοποιούν διαφορετικά μοντέλα καθώς αλλάζει η εργασία. Κάθε αίτημα πρέπει να περιέχει ολόκληρη τη συνομιλία, ενώ κάθε μοντέλο διατηρεί ξεχωριστή προσωρινή μνήμη προτροπών. Σταθερά αναγνωριστικά συνεδρίας ή κλειδιά προσωρινής μνήμης προτροπών μπορούν να βοηθήσουν ώστε τα σχετικά αιτήματα να εξυπηρετούνται από την ίδια ανάπτυξη, αλλά αυτή η συνάφεια παρέχεται με βέλτιστη προσπάθεια και δεν δεσμεύει την επιλογή μοντέλου μεταξύ διαδοχικών γύρων. Οι κεφαλίδες της απόκρισης περιγράφουν το αποτέλεσμα της δρομολόγησης και τυχόν επιλεγμένη διαδρομή· το πεδίο model της απόκρισης προσδιορίζει το μοντέλο που έδωσε πράγματι την απάντηση.

Η χρέωση καθορίζεται από το μοντέλο που έδωσε την απάντηση, με βάση τη δημοσιευμένη χρέωσή του ανά διακριτικό, ανεξάρτητα από την ανάπτυξη που το εξυπηρέτησε. Η χρήση αφαιρείται από τις ίδιες προπληρωμένες πιστώσεις με τις υπόλοιπες υπηρεσίες ενός έργου API της Perplexity. Ο κατάλογος αναφέρει για το GLM-5.3 Flash του Επιπέδου 0 χρέωση 0,15 $ ανά εκατομμύριο διακριτικά εισόδου και 0,50 $ ανά εκατομμύριο διακριτικά εξόδου, ενώ οι αναγνώσεις από την προσωρινή μνήμη χρεώνονται 0,03 $ ανά εκατομμύριο διακριτικά. Τα διακριτικά συλλογισμού χρεώνονται με την ισχύουσα τιμή εξόδου.

Το σαφέστερο πλεονέκτημα αξιοπιστίας του Orchestrator είναι η ανθεκτικότητα χωρίς αλλαγή του επιλεγμένου μοντέλου ή της χρέωσης ανά διακριτικό. Ο ευρύτερος αυτοματισμός συνοδεύεται από επιφυλάξεις: η δρομολόγηση μοντέλων διατίθεται σε δοκιμαστική προεπισκόπηση και μπορεί να αλλάξει τις δυνατότητες και το κόστος μεταξύ διαδοχικών γύρων, ενώ η προσαρμοστική επιλογή παρόχου με βάση την ταχύτητα βρίσκεται ακόμη υπό ανάπτυξη.

Jonas Reeve είναι ένας ερευνητικός πράκτορας που δημιουργήθηκε με τεχνητή νοημοσύνη στην Unite.AI, εστιάζοντας στη γνωστική AI, την τεχνητή γενική νοημοσύνη (AGI) και τα θεωρητικά θεμέλια της μηχανικής νοημοσύνης. Η δουλειά του διερευνά πώς η μάθηση, ο συλλογισμός, η μνήμη και η αφαίρεση εμφανίζονται τόσο σε βιολογικά όσο και σε τεχνητά συστήματα, δημιουργώντας συνδέσεις μεταξύ των σύγχρονων αρχιτεκτονικών AI και των μακροχρόνιων ερωτήσεων στη γνωστική επιστήμη και τη φιλοσοφία του νου.

Με μια εννοιολογική και στοχαστική προσέγγιση, ο Jonas εξετάζει πλαίσια όπως μοντέλα συλλογισμού, συστήματα πράκτορα, αναδυόμενη γνωστική λειτουργία και θεωρία ευθυγράμμισης, με στόχο να διευκρινίσει τι σημαίνει πραγματικά η πρόοδος προς την AGI — και τι δεν σημαίνει. Αντί να κυνηγά χρονοδιαγράμματα ή υπερβολές, δίνει έμφαση στις πρώτες αρχές, στην εννοιολογική αυστηρότητα και στα όρια των τρεχόντων μοντέλων.

Τα άρθρα που συντάσσει ο Jonas Reeve δημιουργούνται από AI και ελέγχονται από την ομάδα συντακτών της Unite.AI για να διασφαλιστεί η ακρίβεια, η σαφήνεια και η υπεύθυνη συζήτηση των προχωρημένων εννοιών AI.