Crusoe indgår flerårig aftale om at drive Perplexitys træning og inferens

Crusoe den 15. september 2026 annoncerede et flerårigt partnerskab med Perplexity, hvorefter Perplexity vil køre hele sin model‑livscyklus på Crusoe Cloud, træne frontier‑modeller på dedikerede NVIDIA GB300 NVL72‑klynger og levere dem i produktion via Crusoe’s Managed Inference‑service.

Meddelelsen, dateret San Francisco, forpligter også Crusoe til at adoptere Perplexity Enterprise Pro og Max for sine 1.800 medarbejdere. Ifølge udgivelsen er implementeringen beregnet til at udstyre personalet med web‑ og intern viden‑søgning, flertrins‑forskning, dataanalyse og adgang til frontier‑AI‑modeller.

Udgivelsen beskriver Perplexitys produkter som kørende i realtid for millioner af brugere, et miljø hvor inferens‑latens og gennemløb er selve produktet snarere end teoretiske benchmarks. Crusoe sagde, at deres Managed Inference‑service er bygget til produktions‑grade inferens drevet af proprietære optimeringer og konstrueret for ydeevne og omkostninger på tværs af populære modeller, og at Crusoe Cloud tilbyder den operationelle dybde og skala, der matcher Perplexitys vækst.

Ledelsesudtalelser

Crusoe‑medstifter og administrerende direktør Chase Lochmiller sagde, at de hurtigst bevægende AI‑virksomheder har brug for infrastruktur, der holder trit gennem hele model‑livscyklussen og skalerer med dem, efterhånden som de vokser. “Perplexity bygger fremtiden for, hvordan folk finder svar, og Crusoe er en nøglepartner i at gøre det muligt, fra den første elektron til den sidste token,” sagde Lochmiller.

Perplexity‑medstifter og administrerende direktør Aravind Srinivas sagde, at kørsel af AI i Perplexitys skala betyder, at hver millisekund af latens mærkes af brugerne. Han beskrev Crusoe som bygget omkring denne begrænsning og kaldte det for høj‑gennemløb, lav‑latens inferens understøttet af næste‑generations hardware.

Dion Harris, seniordirektør for HPC‑ og AI‑infrastruktur‑løsninger hos NVIDIA, sagde, at moderne AI kræver en samlet computerarkitektur fra forskning til implementering. Drevet af NVIDIA GB300 NVL72 og NVIDIA InfiniBand, sagde Harris, at Crusoe Cloud gør det muligt for Perplexity at træne, finjustere og levere frontier‑modeller i produktion med den hastighed og effektivitet, som agentisk AI kræver.

GB300 NVL72‑platformen

De dedikerede træningsklynger, der er nævnt i aftalen, kører på NVIDIAs GB300 NVL72, som NVIDIA beskriver som et fuldt flydende kølet rack‑scale system, der integrerer 72 Blackwell Ultra‑GPU’er og 36 Arm‑baserede Grace‑CPU’er. NVIDIAs offentliggjorte specifikationer angiver 130 TB/s NVLink‑båndbredde, 20 TB GPU‑hukommelse med op til 576 TB/s båndbredde, 37 TB hurtig hukommelse og 2.592 Arm Neoverse V2‑CPU‑kerner. Hver GPU i systemet får 800 Gb/s netværksforbindelse via et ConnectX‑8 SuperNIC‑IO‑modul, som arbejder med enten Quantum‑X800 InfiniBand eller Spectrum‑X Ethernet‑netværksplatforme.

NVIDIA hævder, at AI‑fabrikker bygget på GB300 NVL72 leverer op til en 50‑gange samlet stigning i AI‑fabriks‑output‑ydeevne sammenlignet med Hopper‑baserede platforme. Virksomheden tilskriver dette tal en angivet 10‑gange forbedring i brugerrespons, målt i tokens per sekund per bruger, og en 5‑gange forbedring i gennemløb per megawatt i forhold til Hopper, og bemærker, at tallene er projiceret ydeevne, der kan ændres.

Managed Inference‑service og historie

Det produktions‑servicerende element i aftalen kører på Crusoe Managed Inference, som virksomheden gjorde generelt tilgængelig den 20. november 2025, til produktions‑inferens‑arbejdsbelastninger på Crusoe Cloud. Servicen drives af Crusoe’s proprietære inferens‑motor bygget omkring MemoryAlloy, en klynge‑bred nøgle‑værdi‑cache, der eliminerer duplicate prefills ved at lade GPU’er hente præfiks‑caches fra lokale og fjern‑noder. Crusoe oplyser, at motoren leverer op til 9,9‑gange hurtigere tid‑til‑første‑token og 5‑gange højere gennemløb, benchmarket mod vLLM for Llama‑3.3‑70B‑modellen i en fire‑node‑implementering.

Crusoe tilbyder servicen i tre implementeringsmuligheder, ifølge sin Managed Inference-produktside. Serverless Inference tilbyder forbrugsbaseret brug af åbne modeller via en fuldt administreret API, rettet mod tidlige workloads, lav‑volumen trafik og hurtig eksperimentering. Self‑Serve Deployments, som siden angiver er nu generelt tilgængelige, kører modeller optimeret til gennemløb eller respons, inklusive modeller tilpasset med Crusoe’s Serverless Fine‑Tuning. Tailored Deployments parrer kunder med Crusoe’s team for et dedikeret, benchmarket endpoint, en mulighed som siden henvender sig til proprietære modeller.

Udviklere får adgang til servicen via Crusade Intelligence Foundry, et hub hvor de kan generere API‑nøgler, bruge administrerede endpoints tilpasset hver model, overvåge ydeevnemålinger og aktivere provisioneret gennemløb for produktions‑skala implementeringer. Crusoe’s model‑hub viser forudkonfigurerede åbne modeller fra laboratorier inklusive DeepSeek, Google, Z.ai, OpenAI, Meta, Alibaba og NVIDIA, med angivne parameter‑antal og kontekst‑længder for hver model.