Η Thinking Machines Lab υπογράφει ετήσια συμφωνία $65M για το Crusoe Cloud Inference

Crusoe και Thinking Machines Lab ανακοίνωσαν μια ετήσια συμφωνία αξίας $65 εκατομμυρίων στις 23 Σεπτεμβρίου 2026, για την ενίσχυση της inference των ανοιχτών μοντέλων του εργαστηρίου στο Crusoe Cloud, με παραγωγικά φορτία εργασίας να εξυπηρετούνται σε μια αποκλειστική εγκατάσταση συστημάτων NVIDIA HGX B200 μέσω του Crusoe Managed Inference.

Η ανακοίνωση, με τόπο έκδοσης το Σαν Φρανσίσκο, δηλώνει ότι η Thinking Machines Lab θα εξυπηρετήσει μια σειρά φορτίων εργασίας παραγωγής, συμπεριλαμβανομένων των μοντέλων Inkling, GLM 5.2 και 5.3, καθώς και των δικών της προσαρμοσμένων παραλλαγών, σε μια αποκλειστική Tailored Deployment συστημάτων NVIDIA HGX B200 συνδεδεμένων με δίκτυο NVIDIA Quantum-2 InfiniBand. Η Crusoe περιέγραψε την εγκατάσταση ως σχεδιασμένη για υψηλή ρυθμαπόδοση, οικονομική εξυπηρέτηση σε κλίμακα.

Η Crusoe θα διαχειρίζεται και θα υποστηρίζει το σύμπλεγμα απευθείας ως Tailored Deployment, το οποίο η ανακοίνωση περιγράφει ως αποκλειστικό τελικό σημείο, αξιολογημένο με δοκιμές επιδόσεων και με εγγυήσεις SLA, το οποίο στοχεύει να προσφέρει στη Thinking Machines Lab σχέση τιμής‑απόδοσης και περιθώριο κλιμάκωσης χωρίς η Thinking Machines Lab να χρειάζεται να διαχειρίζεται τη δική της στοίβα inference. Στην ανακοίνωση, η Crusoe περιγράφει τον εαυτό της ως τον πρώτο στην βιομηχανία καθετοποιημένο πάροχο υποδομής AI.

Επιλογές Managed Inference και η Μηχανή MemoryAlloy

Στην σελίδα προϊόντος Managed Inference της Crusoe, η εταιρεία παρουσιάζει τις Tailored Deployments ως το υψηλότερο επίπεδο βελτιστοποίησης: ο πελάτης φέρνει το μοντέλο και ορίζει τις απαιτήσεις, ενώ η Crusoe διαχειρίζεται το υπόλοιπο, με ένα αποκλειστικό τελικό σημείο, αξιολογημένο με δοκιμές επιδόσεων, προσαρμοσμένο για ιδιόκτητα μοντέλα, εξειδικευμένη βελτιστοποίηση inference και απόδοση με υποστήριξη SLA.

Η σελίδα περιγράφει επίσης το Serverless Inference, χρήση μοντέλων ανοιχτού κώδικα με χρέωση βάσει χρήσης μέσω πλήρως διαχειριζόμενου API στο Crusoe Intelligence Foundry, καθώς και τις Self‑Serve Deployments, τώρα γενικά διαθέσιμες, που εκτελούν μοντέλα στο Foundry με inference βελτιστοποιημένο για ρυθμαπόδοση ή ανταπόκριση, συμπεριλαμβανομένων μοντέλων προσαρμοσμένων με τη λειτουργία Serverless Fine‑Tuning της εταιρείας. Το Foundry παρουσιάζεται ως πλατφόρμα για προγραμματιστές για ανακάλυψη μοντέλων, δημιουργία κλειδιών API, παρακολούθηση μετρικών απόδοσης και ανάπτυξη διαχειριζόμενων τελικών σημείων.

Η Crusoe δηλώνει ότι η μηχανή inference της τροφοδοτείται από το MemoryAlloy, μια δομή διασύνδεσης μνήμης σχεδιασμένη για το σύμπλεγμα που διατηρείται μεταξύ των κόμβων και επιτρέπει έξυπνη δρομολόγηση για την εξάλειψη περιττών υπολογισμών προ‑συμπλήρωσης. Η εταιρεία αναφέρει έως και 9,9x ταχύτερη παραγωγή του πρώτου token και έως 5x υψηλότερη ρυθμαπόδοση χρησιμοποιώντας υποθετική αποκωδικοποίηση και δυναμική ομαδοποίηση, αριθμούς που συγκρίνει με το vLLM που εξυπηρετεί το μοντέλο Llama‑3.3‑70B σε εγκατάσταση τεσσάρων κόμβων.

Τα μοντέλα Inkling και GLM

Τα ονομασμένα φορτία εργασίας της συμφωνίας περιλαμβάνουν την ίδια την οικογένεια μοντέλων Inkling του εργαστηρίου. Η Thinking Machines Lab δημοσίευσε το Inkling στις 15 Ιουλίου 2026, περιγράφοντάς το ως έναν μετασχηματιστή Mixture‑of‑Experts ανοιχτών βαρών με 975 δισεκατομμύρια συνολικές παραμέτρους και 41 δισεκατομμύρια ενεργές παραμέτρους, υποστηρίζοντας ένα παράθυρο συμφραζομένων έως 1 M tokens. Σύμφωνα με το εργαστήριο, το Inkling προεκπαιδεύτηκε σε 45 τρισεκατομμύρια tokens που καλύπτουν κείμενο, εικόνες, ήχο και βίντεο, και η προσπάθεια αυτή ήταν η πρώτη σημαντική εκπαίδευση του εργαστηρίου, πραγματοποιημένη σε συστήματα NVIDIA GB300 NVL72.

Παράλληλα με το Inkling, το εργαστήριο παρουσίασε το Inkling‑Small, ένα ελαφρύτερο μοντέλο Mixture‑of‑Experts με 276 δισεκατομμύρια παραμέτρους και 12 δισεκατομμύρια ενεργές παραμέτρους, που προσφέρει διαφορετικό συμβιβασμό μεταξύ απόδοσης και καθυστέρησης. Τα πλήρη βάρη του Inkling δημοσιεύονται στο Hugging Face, τόσο ως το αρχικό checkpoint όσο και ως checkpoint NVFP4 για αποδοτική inference σε συστήματα NVIDIA Blackwell, και το μοντέλο είναι διαθέσιμο για fine‑tuning στο Tinker, την πλατφόρμα προσαρμογής μοντέλων του εργαστηρίου, με επιλογές μήκους συμφραζομένων 64 K και 256 K.

Η συμφωνία τοποθετεί επίσης τα GLM 5.2 και 5.3 μεταξύ των φορτίων εργασίας παραγωγής του εργαστηρίου στην υπηρεσία. Το Managed Inference hub της Crusoe καταγράφει το GLM 5.3 της Z.ai με 753 δισεκατομμύρια παραμέτρους και παράθυρο 1.000.000 tokens, καθώς και το GLM 5.3 Flash με 320 δισεκατομμύρια παραμέτρους, και τα δύο διαθέσιμα για Serverless Inference.

Δηλώσεις Στελεχών και Προγραμματισμένη Επέκταση

“Το Crusoe Managed Inference μας πήγε από την αξιολόγηση στην παραγωγή γρήγορα και πληρούσε τα πρότυπα που θέτουμε στα δικά μας συστήματα, δίνοντάς μας τη δυνατότητα λειτουργίας σε κλίμακα και τα οικονομικά περιθώρια για επανεπένδυση στην έρευνα που αποτελεί τον πυρήνα του έργου μας,” είπε ο Myle Ott, ML Infra Lead στη Thinking Machines Lab.

Ο Erwan Menard, SVP of Product Management για το Crusoe Cloud, δήλωσε ότι η Thinking Machines Lab διαθέτει μια εξελιγμένη ομάδα μηχανικών που αναμένει από τους συνεργάτες να ανταποκριθούν στα υψηλά της πρότυπα καθώς μεγαλώνει. Πρόσθεσε ότι η Crusoe δημιούργησε το Managed Inference για να προσφέρει οικονομικά αποδοτική, αξιόπιστη υποδομή, inference και εργαλεία κύκλου ζωής μοντέλων ως υπηρεσία, ώστε οι εταιρείες να μπορούν να εκτελούν τα επιλεγμένα μοντέλα τους στην παραγωγή σε κλίμακα.

Οι εταιρείες δήλωσαν ότι σκοπεύουν επίσης να επεκταθούν σε batch inference για δημιουργία συνθετικών δεδομένων μεγάλης κλίμακας, κάτι που η ανακοίνωση περιγράφει ως μετατροπή του inference σε κινητήρα για την έρευνα. Η Crusoe ανέφερε ότι η Thinking Machines Lab εντάσσεται σε μια λίστα πελατών που έχει φτάσει το Crusoe Managed Inference πάνω από $100 εκατομμύρια σε συμβασιοποιημένα ετήσια επαναλαμβανόμενα έσοδα (ARR) λιγότερο από ένα χρόνο από την έναρξη.