Partnerschaften
Crusoe schließt mehrjähriges Abkommen zur Unterstützung von Perplexitys Training und Inferenz
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Crusoe am 15. September 2026, kündigte eine mehrjährige Partnerschaft mit Perplexity an, im Rahmen der Perplexity seinen gesamten Modelllebenszyklus auf Crusoe Cloud betreiben, Frontier-Modelle auf dedizierten NVIDIA GB300 NVL72‑Clustern trainieren und sie in der Produktion über den Managed‑Inference‑Dienst von Crusoe bereitstellen wird.
Die Ankündigung, datiert aus San Francisco, verpflichtet Crusoe zudem, Perplexity Enterprise Pro und Max für seine 1,800 Mitarbeitenden einzusetzen. Laut der Mitteilung soll die Bereitstellung das Personal mit Web‑ und interner Wissenssuche, mehrstufiger Recherche, Datenanalyse und Zugriff auf Frontier‑KI‑Modelle ausstatten.
Die Mitteilung beschreibt die Produkte von Perplexity als in Echtzeit für Millionen von Nutzern operierend, ein Umfeld, in dem Inferenz‑Latenz und Durchsatz das eigentliche Produkt und nicht theoretische Benchmarks darstellen. Crusoe erklärte, dass sein Managed‑Inference‑Dienst für produktionsreife Inferenz entwickelt wurde, angetrieben von proprietären Optimierungen und für Leistung und Kosten über gängige Modelle ausgelegt ist, und dass Crusoe Cloud die operative Tiefe und Skalierung bietet, um das Wachstum von Perplexity zu unterstützen.
Erklärungen der Führungskräfte
Crusoe‑Mitbegründer und CEO Chase Lochmiller sagte, dass die am schnellsten wachsenden KI‑Unternehmen eine Infrastruktur benötigen, die über den gesamten Modelllebenszyklus hinweg Schritt hält und mit ihnen skaliert, während sie wachsen. „Perplexity gestaltet die Zukunft der Art und Weise, wie Menschen Antworten finden, und Crusoe ist ein Schlüsselpartner, der das ermöglicht – vom ersten Elektron bis zum letzten Token“, sagte Lochmiller.
Perplexity‑Mitbegründer und CEO Aravind Srinivas erklärte, dass das Betreiben von KI in Perplexitys Größenordnung bedeutet, dass jede Millisekunde Latenz von den Nutzern wahrgenommen wird. Er beschrieb Crusoe als um diese Einschränkung herum gebaut und bezeichnete es als hoch‑durchsatz‑, niedrige‑Latenz‑Inferenz, unterstützt durch Hardware der nächsten Generation.
Dion Harris, Senior Director für HPC‑ und KI‑Infrastruktur‑Lösungen bei NVIDIA, sagte, moderne KI erfordere eine einheitliche Computing‑Architektur von der Forschung bis zur Bereitstellung. Angetrieben von NVIDIA GB300 NVL72 und NVIDIA InfiniBand, erklärte Harris, ermögliche Crusoe Cloud Perplexity, Frontier‑Modelle in der Produktion zu trainieren, feinzujustieren und bereitzustellen, mit der Geschwindigkeit und Effizienz, die agentische KI verlangt.
Die GB300‑NVL72‑Plattform
Die im Abkommen genannten dedizierten Trainings‑Cluster laufen auf NVIDIAs GB300 NVL72, das NVIDIA als ein vollständig flüssig gekühltes Rack‑Scale‑System beschreibt, das 72 Blackwell‑Ultra‑GPUs und 36 Arm‑basierte Grace‑CPUs integriert. NVIDIAs veröffentlichte Spezifikationen geben 130 TB/s NVLink‑Bandbreite, 20 TB GPU‑Speicher mit bis zu 576 TB/s Bandbreite, 37 TB schnellen Speicher und 2,592 Arm‑Neoverse‑V2‑CPU‑Kerne an. Jede GPU im System erhält 800 Gb/s Netzwerk‑Konnektivität über ein ConnectX‑8 SuperNIC‑IO‑Modul, das entweder mit Quantum‑X800 InfiniBand oder Spectrum‑X‑Ethernet‑Netzwerkplattformen arbeitet.
NVIDIA behauptet, dass KI‑Fabriken, die auf dem GB300 NVL72 basieren, im Vergleich zu Hopper‑basierten Plattformen eine bis zu 50‑fach höhere Gesamtleistung der KI‑Fabrik‑Ausgabe erzielen. Das Unternehmen führt diese Zahl auf eine angebliche 10‑fach Verbesserung der Nutzer‑Reaktionsfähigkeit zurück, gemessen in Tokens pro Sekunde pro Nutzer, sowie eine 5‑fach höhere Durchsatz‑Leistung pro Megawatt gegenüber Hopper, und weist darauf hin, dass es sich um projizierte Leistungswerte handelt, die Änderungen unterliegen können.
Managed‑Inference‑Dienst und Geschichte
Das produktionsbereitstellende Element des Abkommens läuft auf Crusoe Managed Inference, das das Unternehmen am 20. November 2025 allgemein verfügbar machte, für produktive Inferenz‑Workloads auf Crusoe Cloud. Der Dienst wird von Crusoes proprietärer Inferenz‑Engine angetrieben, die um MemoryAlloy herum gebaut ist, einem clusterweiten Schlüssel‑Wert‑Cache, der doppelte Vorbefüllungen eliminiert, indem GPUs Präfix‑Caches von lokalen und entfernten Knoten abrufen können. Crusoe gibt an, dass die Engine bis zu 9,9‑fach schnellere Zeit‑bis‑zum‑ersten‑Token und 5‑fach höheren Durchsatz liefert, gemessen gegenüber vLLM für das Llama‑3.3‑70B‑Modell in einer Vier‑Node‑Bereitstellung.
Crusoe bietet den Dienst in drei Bereitstellungsoptionen an, laut seiner Managed‑Inference‑Produktseite. Serverless Inference ermöglicht nutzungsbasierte Nutzung offener Modelle über eine vollständig verwaltete API, ausgerichtet auf frühzeitige Workloads, geringes Verkehrsvolumen und schnelle Experimente. Self‑Serve Deployments, die laut Seite nun allgemein verfügbar sind, betreiben Modelle, die für Durchsatz oder Reaktionsfähigkeit optimiert sind, einschließlich Modelle, die mit Crusoes Serverless Fine‑Tuning angepasst wurden. Tailored Deployments koppeln Kunden mit dem Crusoe‑Team für einen dedizierten, benchmarkten Endpunkt, eine Option, die die Seite für proprietäre Modelle empfiehlt.
Entwickler greifen über Crusoe Intelligence Foundry auf den Dienst zu, ein Hub, in dem sie API‑Schlüssel erzeugen, verwaltete Endpunkte nutzen können, die auf jedes Modell abgestimmt sind, Leistungskennzahlen überwachen und bereitgestellten Durchsatz für produktionsgroße Bereitstellungen aktivieren. Crusoes Model‑Hub listet vorkonfigurierte offene Modelle aus Laboren wie DeepSeek, Google, Z.ai, OpenAI, Meta, Alibaba und NVIDIA auf, mit angegebenen Parameterzahlen und Kontextlängen für jedes Modell.
