Η Fireworks ανακοινώνει ταχύτερη εκτέλεση μοντέλων για πράκτορες και κυρίαρχη ανάπτυξη

Η Fireworks ανακοίνωσε μια σειρά προϊόντων τεχνητής νοημοσύνης για επιχειρήσεις στις 3 Νοεμβρίου 2026, στο πρώτο ετήσιο συνέδριο Forge, με κύρια ανακοίνωση τη δημόσια προεπισκόπηση της Ultra-fast inference, η οποία, σύμφωνα με την εταιρεία, έφτασε έως και τα 1.500 token ανά δευτερόλεπτο στο DeepSeek V4.1 Flash. Παρουσίασε επίσης εργαλεία για δρομολόγηση μοντέλων, αξιολόγηση και εξειδικευμένη εξυπηρέτηση μοντέλων, καθώς και την ιδιωτική προεπισκόπηση του Fireworks Sovereign, για υποδομές που ανήκουν στους πελάτες.

Προσαρμογή της ταχύτητας εκτέλεσης και του κόστους στις απαιτήσεις του φόρτου εργασίας

Η Ultra-fast βρίσκεται σε δημόσια προεπισκόπηση σε GPU NVIDIA Blackwell και έχει σχεδιαστεί για πράκτορες πολλαπλών βημάτων, στους οποίους κάθε κλήση μοντέλου αυξάνει τον χρόνο αναμονής για το αποτέλεσμα. Η Fireworks ανέφερε ότι, με την Ultra-fast, ο χρόνος ολοκλήρωσης στη δική της δοκιμή αναφοράς πράκτορα 30 γύρων μειώθηκε από ένα λεπτό σε οκτώ δευτερόλεπτα. Η δυνατότητα απευθύνεται σε εργασίες ευαίσθητες στον χρόνο, ενώ για εργασίες που μπορούν να περιμένουν διατίθενται οικονομικότερες επιλογές.

Για εργασίες που δεν απαιτούν άμεση ολοκλήρωση, η Background Mode εκτελεί επιλέξιμες εργασίες, όπως τη δημιουργία δεδομένων αξιολόγησης και την έρευνα κατά τη διάρκεια της νύχτας, στη μισή τιμή. Η Multi-day Prompt Caching στοχεύει στη μείωση του κόστους από την επαναλαμβανόμενη χρήση του ίδιου πλαισίου συμφραζομένων. Τα υψηλότερα όρια ρυθμού αιτημάτων για serverless υπηρεσίες και η Elastic Burst είναι πλέον γενικά διαθέσιμα για φόρτους εργασίας αυξημένης ζήτησης· όταν υπάρχει πλεονάζουσα χωρητικότητα, η Elastic Burst μπορεί να υπερβεί το συνήθες όριο χρήσης ενός πελάτη, χωρίς αλλαγές στον κώδικα ή στην τιμολόγηση.

Μια δοκιμή αναφοράς της Fireworks, με ημερομηνία 14 Σεπτεμβρίου 2026, για το DeepSeek V4.1 Flash δείχνει γιατί έχει σημασία η επαναλαμβανόμενη χρήση του ίδιου πλαισίου συμφραζομένων. Στη δοκιμή DeepSWE, το 99,6% των token εισόδου ήταν επιτυχίες στην κρυφή μνήμη, ενώ οι χρεώσεις για αυτές τις επιτυχίες αντιστοιχούσαν στο 60% του λογαριασμού. Η ανάλυση αυτή αναδεικνύει την επαναλαμβανόμενη χρήση του ίδιου πλαισίου συμφραζομένων ως σημαντικό πεδίο εξοικονόμησης κόστους για πράκτορες που λειτουργούν για μεγάλα χρονικά διαστήματα, αντί να θεωρείται ότι η παραγόμενη έξοδος είναι η μόνη πηγή δαπάνης.

Η ίδια έμφαση στο κόστος επεκτείνεται και στην εξειδίκευση μοντέλων. Το Ember-1, που παρουσιάστηκε στις 23 Σεπτεμβρίου 2026 ως προεπισκόπηση ερευνητικού σκοπού για serverless χρήση, χρησιμοποίησε περίπου 40% λιγότερα token από το Kimi K3, επιτυγχάνοντας συγκρίσιμη ποιότητα στις αξιολογήσεις της Fireworks. Διατίθεται σε serverless και αποκλειστικές αναπτύξεις.

Το Nexus Desktop και η τιμολόγηση συνδρομών

Το Fireworks Nexus δρομολογεί αιτήματα μεταξύ μοντέλων ανοιχτού και κλειστού κώδικα, μέσα από τα υπάρχοντα εργαλεία προγραμματισμού και συνεργασίας, επιλέγοντας μοντέλα εξατομικευμένα για κάθε χρήστη και λαμβάνοντας υπόψη την κρυφή μνήμη. Παρέχει επίσης στους οργανισμούς συγκεντρωτική εικόνα των δαπανών και εργαλεία ελέγχου. Το Nexus Desktop κυκλοφόρησε μαζί με το ήδη διαθέσιμο Nexus CLI, ενώ το Nexus λειτουργεί μέσα στην εφαρμογή Codex, στο Claude Desktop και στο OpenCode.

Τα νέα προγράμματα Nexus Pro ξεκινούν από 8 $ τον μήνα, ενώ τα προγράμματα Teams ξεκινούν από 10 $ ανά θέση χρήστη τον μήνα. Τα προγράμματα Enterprise περιλαμβάνουν επιπλέον ενιαία σύνδεση, διακυβέρνηση, κοινόχρηστους προϋπολογισμούς και ελέγχους πρόσβασης.

Η τεκμηρίωση του Nexus Desktop αναφέρει μια καθολική έκδοση για macOS, συμβατή με Mac με Apple silicon και Intel, ενώ η υποστήριξη για Linux και Windows αναμένεται σύντομα. Το CLI λειτουργεί σε macOS και Linux, με περιορισμένη υποστήριξη Windows μέσω του Git Bash. Οι συνδέσεις του Desktop περιλαμβάνουν τα ChatGPT, Claude Code, Cursor IDE, VS Code και OpenCode, ενώ η υποστήριξη του Claude Desktop χαρακτηρίζεται περιορισμένη.

Αξιολόγηση και εξειδικευμένη εξυπηρέτηση μοντέλων

Το No Eval, που βρίσκεται πλέον σε ιδιωτική προεπισκόπηση, χρησιμοποιεί ίχνη από συστήματα παραγωγής και σήματα από προϊόντα για να δημιουργεί αξιολογήσεις για συγκεκριμένες εργασίες. Οι αξιολογήσεις έχουν στόχο να αποκαλύπτουν τις αδυναμίες των μοντέλων και να δείχνουν αν η μετέπειτα εκπαίδευση τις αντιμετωπίζει, καλύπτοντας εργασίες που διαφορετικά μπορεί να απαιτούν εβδομάδες επισήμανσης και βαθμολόγησης δεδομένων.

Η εξειδικευμένη εκτέλεση μοντέλων πέρασε σε δημόσια προεπισκόπηση για την εξυπηρέτηση προσαρμογέων LoRA στην κοινόχρηστη serverless υποδομή της Fireworks, αρχικά με το GLM 5.3 Flash. Οι πελάτες πληρώνουν ανά token, με βάση την τιμή serverless του βασικού μοντέλου, χωρίς να χρειάζεται να δημιουργήσουν ανάπτυξη. Η φόρτωση ενός προσαρμογέα, η διατήρησή του στη μνήμη και ο χρόνος αδράνειας δεν επιφέρουν χρέωση εξυπηρέτησης, ενώ η εκπαίδευση χρεώνεται ξεχωριστά.

Για το GLM 5.3 Flash, οι δημοσιευμένες χρεώσεις είναι 0,15 $ ανά εκατομμύριο token εισόδου, 0,03 $ ανά εκατομμύριο token εισόδου που ανακτώνται από την κρυφή μνήμη και 0,50 $ ανά εκατομμύριο token εξόδου.

Η προεπισκόπηση υποστηρίζει μέγιστο βαθμό LoRA 64 και έως τρεις φορτωμένους προσαρμογείς ανά λογαριασμό για το βασικό μοντέλο. Σύμφωνα με την τεκμηρίωση της Fireworks, η φόρτωση διαρκεί λιγότερο από πέντε λεπτά, το πρώτο αίτημα μπορεί να χρειαστεί έως και ένα λεπτό και τα επόμενα αιτήματα έχουν καθυστέρηση περίπου ίση με εκείνη του βασικού μοντέλου. Κατά τη διάρκεια της προεπισκόπησης δεν παρέχονται εγγυήσεις καθυστέρησης.

Οι προσαρμογείς εκτελούνται σε GPU που είναι κοινόχρηστες με προσαρμογείς άλλων πελατών. Για φόρτους εργασίας που απαιτούν σταθερή καθυστέρηση, απομονωμένες GPU, συγκεκριμένη περιοχή ή εξυπηρέτηση υψηλότερης ακρίβειας, συνιστώνται αποκλειστικές αναπτύξεις· οι serverless υπηρεσίες απευθύνονται σε πειραματισμό και απότομες αυξομειώσεις της κίνησης.

Έλεγχοι για επιχειρήσεις και κυρίαρχη ανάπτυξη

Η διακυβέρνηση μοντέλων, οι έλεγχοι δαπανών και τα εξαγώγιμα αρχεία καταγραφής ελέγχου είναι πλέον γενικά διαθέσιμα. Η κεντρική διαχείριση λογαριασμών, οι περιφερειακοί έλεγχοι δεδομένων και η κρυπτογράφηση υπό τη διαχείριση των πελατών παραμένουν σε προεπισκόπηση.

Το Fireworks Sovereign, που βρίσκεται σε ιδιωτική προεπισκόπηση, εκτελεί τη μηχανή εξαγωγής συμπερασμάτων της εταιρείας στο νέφος, σε neocloud ή στο κέντρο δεδομένων του πελάτη. Η εξαγωγή συμπερασμάτων και η εκπαίδευση παραμένουν εντός του περιβάλλοντος του πελάτη και υπόκεινται στις πολιτικές του για την ασφάλεια και τον έλεγχο αλλαγών. Η Fireworks αναφέρει ότι διαχειρίζεται περισσότερες από 25.000 GPU σε περιβάλλοντα πελατών.

Το λειτουργικό μοντέλο κατανέμει τις αρμοδιότητες μεταξύ των δύο μερών. Η Fireworks πιστοποιεί τη συστοιχία, αναπτύσσει μοντέλα και αναλαμβάνει τις αναβαθμίσεις, την παρακολούθηση, τη βελτιστοποίηση της απόδοσης και την αντιμετώπιση περιστατικών, ενώ ο πελάτης διατηρεί την κυριότητα της αρχιτεκτονικής και των πολιτικών. Οι πελάτες διαχειρίζονται την εισερχόμενη κίνηση, την εξισορρόπηση φορτίου, το DNS, τα πιστοποιητικά TLS και τις εγκεκριμένες διαδρομές εξερχόμενης κίνησης. Το επίπεδο ελέγχου της Fireworks χρησιμοποιεί ένα ειδικό, ελέγξιμο διαπιστευτήριο, ενώ η εξερχόμενη κίνηση περιορίζεται στη λήψη βαρών μοντέλων και εικόνων, καθώς και σε λειτουργικά δεδομένα τηλεμετρίας.

Η Fireworks αναφέρει ότι το Sovereign προσφέρει 20% έως 50% μεγαλύτερη απόδοση με το ίδιο υλικό και περίπου 2,3 φορές περισσότερα διακριτικά ανά δολάριο που δαπανάται για υλικό. Η προαιρετική υβριδική εκτόνωση μεταφέρει επιλέξιμους φόρτους εργασίας στο Fireworks Cloud, σε περιοχές εγκεκριμένες από τον πελάτη, όταν μια συστοιχία φτάνει στον κορεσμό, και στη συνέχεια τους επαναφέρει στις GPU του πελάτη καθώς μειώνεται η ζήτηση, χρησιμοποιώντας το ίδιο API.

Η σειρά Forge εντάσσει την επιλογή μοντέλου, το κόστος της εξαγωγής συμπερασμάτων και τον έλεγχο της υποδομής στην ίδια επιχειρηματική απόφαση. Βασική προϋπόθεση είναι ότι κάθε επιλογή συνεπάγεται διαφορετικές λειτουργικές συνθήκες: οι προσαρμογείς χωρίς διακομιστή αποφεύγουν την ανάγκη για αποκλειστική χωρητικότητα, αλλά εκτελούνται σε κοινόχρηστες GPU χωρίς εγγυήσεις καθυστέρησης κατά την προεπισκόπηση, ενώ το Sovereign συνδυάζει υποδομή που ανήκει στον πελάτη με μια στοίβα εξυπηρέτησης την οποία διαχειρίζεται η Fireworks.