Crusoe Menandatangani Kesepakatan Multi-Tahun untuk Mendukung Pelatihan dan Inferensi Perplexity

Crusoe pada 15 September 2026, mengumumkan kemitraan multi-tahun dengan Perplexity di mana Perplexity akan menjalankan seluruh siklus hidup modelnya di Crusoe Cloud, melatih model frontier pada klaster NVIDIA GB300 NVL72 khusus dan menyajikannya dalam produksi melalui layanan Managed Inference milik Crusoe.

Pengumuman yang berlokasi di San Francisco itu juga mengikat Crusoe untuk mengadopsi Perplexity Enterprise Pro dan Max bagi 1.800 karyawannya. Menurut rilis tersebut, penerapan ini dimaksudkan untuk membekali staf dengan pencarian pengetahuan web dan internal, riset berlangkah banyak, analisis data, serta akses ke model AI frontier.

Rilis tersebut menggambarkan produk Perplexity beroperasi secara real-time untuk jutaan pengguna, sebuah lingkungan di mana latensi dan throughput inferensi menjadi produk sebenarnya, bukan sekadar tolok ukur teoretis. Crusoe menyatakan layanan Managed Inference-nya dibangun untuk inferensi kelas produksi yang didukung oleh optimisasi kepemilikan dan dirancang untuk kinerja serta biaya pada berbagai model populer, serta bahwa Crusoe Cloud menyediakan kedalaman operasional dan skala yang sepadan dengan pertumbuhan Perplexity.

Pernyataan Eksekutif

Co‑founder dan CEO Crusoe, Chase Lochmiller, mengatakan perusahaan AI yang bergerak paling cepat membutuhkan infrastruktur yang dapat mengikuti seluruh siklus hidup model dan berkembang seiring mereka tumbuh. “Perplexity sedang membangun masa depan cara orang menemukan jawaban, dan Crusoe adalah mitra kunci dalam mewujudkannya, dari elektron pertama hingga token terakhir,” kata Lochmiller.

Co‑founder dan CEO Perplexity, Aravind Srinivas, mengatakan bahwa menjalankan AI pada skala Perplexity berarti setiap milidetik latensi dirasakan oleh pengguna. Ia menggambarkan Crusoe sebagai dibangun di sekitar kendala tersebut, menyebutnya inferensi berkecepatan tinggi, latensi rendah yang didukung oleh perangkat keras generasi berikutnya.

Dion Harris, senior director HPC dan Solusi Infrastruktur AI di NVIDIA, mengatakan AI modern memerlukan arsitektur komputasi terpadu dari riset hingga penerapan. Ditenagai oleh NVIDIA GB300 NVL72 dan NVIDIA InfiniBand, Harris menyatakan Crusoe Cloud memungkinkan Perplexity melatih, menyempurnakan, dan menyajikan model frontier dalam produksi dengan kecepatan dan efisiensi yang dibutuhkan AI agen.

Platform GB300 NVL72

Klaster pelatihan khusus yang disebutkan dalam perjanjian berjalan pada GB300 NVL72 milik NVIDIA, yang NVIDIA gambarkan sebagai sistem berpendingin cair sepenuhnya, skala rak, yang mengintegrasikan 72 GPU Blackwell Ultra dan 36 CPU Grace berbasis Arm. Spesifikasi yang dipublikasikan NVIDIA mencantumkan bandwidth NVLink sebesar 130 TB/detik, memori GPU 20 TB dengan bandwidth hingga 576 TB/detik, memori cepat 37 TB, dan 2.592 inti CPU Arm Neoverse V2. Setiap GPU dalam sistem menerima konektivitas jaringan 800 Gb/detik melalui modul IO ConnectX-8 SuperNIC, bekerja dengan platform jaringan Quantum‑X800 InfiniBand atau Spectrum‑X Ethernet.

NVIDIA mengklaim bahwa pabrik AI yang dibangun di atas GB300 NVL72 memberikan peningkatan hingga 50× dalam kinerja output pabrik AI secara keseluruhan dibandingkan platform berbasis Hopper. Perusahaan mengaitkan angka tersebut dengan peningkatan 10× dalam responsivitas pengguna, diukur dalam token per detik per pengguna, dan peningkatan 5× dalam throughput per megawatt relatif terhadap Hopper, serta mencatat bahwa angka-angka tersebut merupakan proyeksi kinerja yang dapat berubah.

Layanan Managed Inference dan Sejarahnya

Elemen layanan produksi dalam perjanjian ini berjalan pada Crusoe Managed Inference, yang perusahaan buat tersedia secara umum pada 20 November 2025, untuk beban kerja inferensi produksi di Crusoe Cloud. Layanan ini didukung oleh mesin inferensi kepemilikan Crusoe yang dibangun di sekitar MemoryAlloy, sebuah cache nilai‑kunci seluruh klaster yang menghilangkan duplikasi prefill dengan memungkinkan GPU mengambil cache prefiks dari node lokal dan remote. Crusoe menyatakan mesin tersebut memberikan waktu ke token pertama hingga 9,9× lebih cepat dan throughput 5× lebih tinggi, dibandingkan vLLM untuk model Llama‑3.3‑70B dalam penyebaran empat node.

Crusoe menawarkan layanan ini dalam tiga opsi penyebaran, menurut halaman produk Managed Inferencenya. Serverless Inference menyediakan konsumsi berbasis penggunaan model terbuka melalui API yang sepenuhnya dikelola, ditujukan untuk beban kerja tahap awal, lalu lintas volume rendah, dan eksperimen cepat. Self‑Serve Deployments, yang halaman tersebut katakan kini tersedia secara umum, menjalankan model yang dioptimalkan untuk throughput atau responsivitas, termasuk model yang disesuaikan dengan Serverless Fine‑Tuning milik Crusoe. Tailored Deployments memadukan pelanggan dengan tim Crusoe untuk endpoint khusus yang telah di‑benchmark, sebuah opsi yang halaman tersebut arahkan untuk model kepemilikan.

Pengembang mengakses layanan ini melalui Crusoe Intelligence Foundry, sebuah hub tempat mereka dapat membuat kunci API, menggunakan endpoint terkelola yang disesuaikan untuk setiap model, memantau metrik kinerja, dan mengaktifkan throughput yang disediakan untuk penyebaran skala produksi. Hub model Crusoe mencantumkan model terbuka pra‑konfigurasi dari laboratorium termasuk DeepSeek, Google, Z.ai, OpenAI, Meta, Alibaba, dan NVIDIA, dengan jumlah parameter dan panjang konteks yang dinyatakan untuk setiap model.