Databricks Menyediakan AI Runtime Secara Umum untuk Pelatihan GPU

Pada 21 Oktober 2026, Databricks mengumumkan ketersediaan umum AI Runtime (AIR), platform GPU nirserver yang dikelola sepenuhnya dan terintegrasi ke dalam Databricks Lakehouse untuk melatih dan menyempurnakan model pembelajaran mendalam dengan data perusahaan.

Databricks mengatakan bahwa ratusan perusahaan, termasuk Robinhood, PicPay, Merck, Flo Health, TinyFish, dan FactSet, telah menggunakan AIR untuk melatih dan menerapkan model pembelajaran mendalam ke lingkungan produksi. Penggunaannya mencakup bidang kesehatan, manufaktur, dan agen yang berinteraksi langsung dengan konsumen. Perusahaan itu mengatakan bahwa tim riset AI internal Databricks menggunakan platform tersebut untuk melatih model yang mendukung KARL dan AI Parse. Databricks juga menyebut AIR telah teruji dalam lebih dari 100.000 jam-GPU pelatihan.

Perusahaan itu menyebut peluncuran ini sebagai jawaban atas kondisi ketika tim AI menghabiskan lebih banyak waktu untuk mengamankan kapasitas GPU, menangani kegagalan, dan menunggu eksperimen dimulai daripada meningkatkan model mereka. Menjalankan infrastruktur GPU secara terpisah dari Lakehouse menimbulkan celah tata kelola dan membuat data pelatihan yang sensitif berisiko, menurut pengumuman tersebut.

Infrastruktur GPU Terkelola

Databricks bertanggung jawab atas pengadaan GPU, konfigurasi klaster, dan pengelolaan jaringan, sehingga pelanggan dapat mulai melatih model tanpa harus mengoperasikan platform GPU sendiri secara menyeluruh. Perusahaan itu mengatakan bahwa pihaknya menjalankan puluhan pemeriksaan kesehatan GPU dan jaringan sebelum dan selama pelatihan agar beban kerja dapat diskalakan hingga ratusan GPU secara andal. Platform tersebut memvalidasi GPU sebelum menjadwalkannya, terus memantau beban kerja yang aktif, dan secara berkala menguji GPU yang tidak aktif untuk mendeteksi serta menghapus node yang tidak sehat.

AIR memindahkan data pelatihan melalui pemuat bawaan yang mengalirkan dan menyimpan data dalam tembolok, sehingga mengurangi waktu tunggu pekerjaan akibat I/O. UCVolumeDataset, alat pendampingnya, dirancang untuk meningkatkan throughput data tanpa memerlukan alur pemuatan khusus. Pengguna dapat mengakses GPU melalui antarmuka baris perintah atau bekerja secara interaktif di dalam notebook dan IDE. Databricks mengatakan bahwa untuk menjalankan beban kerja pertama, pengguna hanya perlu satu perintah CLI. Fitur AIR Skills juga dapat memigrasikan beban kerja dari klaster Kubernetes atau SLURM hanya dengan satu perintah dalam bahasa alami.

AIR terintegrasi secara bawaan dengan Lakeflow, produk orkestrasi alur kerja milik perusahaan tersebut, sehingga beban kerja GPU tetap selaras dengan alur kerja hulu dan hilir. Menurut pengumuman itu, pemindahan beban kerja ke produksi hanya memerlukan beberapa baris YAML tambahan. Pengumuman tersebut juga menjelaskan adanya kontrol prioritas dan preemption bawaan untuk meminimalkan waktu GPU menganggur, serta pemantauan melalui alat seperti Genie ZeroOps. Halaman produk AI Runtime mencantumkan GPU NVIDIA sesuai permintaan dengan kapasitas di beberapa wilayah, pelatihan terdistribusi di beberapa GPU dan node dengan jaringan RDMA terkelola, checkpointing yang dioptimalkan untuk pekerjaan berdurasi panjang, serta dukungan untuk kontainer Docker khusus, termasuk kontainer NVIDIA NGC.

Kostia Omelianchuk, ilmuwan riset terapan sekaligus pemimpin teknologi bidang di Superhuman, mengatakan dalam pengumuman tersebut bahwa platform ini memungkinkan timnya memindahkan pelatihan skala besar dari satu node dengan delapan GPU A100 ke 16 GPU H100 di beberapa node. Waktu pelatihan turun dari sekitar tujuh hari menjadi 48 jam, yang menurutnya merupakan peningkatan kecepatan sebesar 3,5x.

Peluncuran dalam Hitungan Detik dan Penelusuran Kesalahan

Databricks mengatakan AIR menghadirkan latensi peluncuran dalam hitungan detik, bahkan pada klaster besar berkemampuan RDMA dengan puluhan GPU. Layanan ini menggunakan kumpulan GPU nirserver yang tetap aktif dan pemuatan citra secara bertahap, sehingga beban kerja dapat dimulai dalam hitungan detik sementara sisa data citra dimuat di latar belakang. Pengguna dapat menjalankan lingkungan yang telah dibuat sebelumnya atau menggunakan kontainer mereka sendiri. Dengan penyimpanan tembolok lingkungan, lingkungan hanya perlu dibuat satu kali. Perusahaan itu menyebut AIR kompatibel dengan semua kerangka kerja utama, dan halaman produknya mencantumkan PyTorch dan Ray sebagai beberapa opsi yang didukung.

Databricks mengatakan bahwa pengalaman observabilitas baru di alat pelacakan eksperimen MLflow mengalirkan log beberapa detik setelah proses dikirimkan jika pengguna menambahkan flag watch ke perintah AIR. Penampil log baru juga dirancang khusus untuk pelatihan multi-node. Genie Code terintegrasi di seluruh pengalaman tersebut, dengan keterampilan agen siap pakai untuk menelusuri masalah dan mengoptimalkan kinerja pelatihan GPU. Perusahaan itu mengatakan bahwa keterampilan tersebut memanfaatkan wawasan dari tim riset dan kinerjanya, termasuk cara mereka memangkas waktu pelatihan Qwen sebanyak 6x di AIR.

Joe Tyler, peneliti AI utama di Sonar, mengatakan bahwa para insinyur riset di sana menggunakan AIR untuk menyusun alur kerja pelatihan LLM dan menguji hipotesis dengan cepat, sembari memperoleh visibilitas pada setiap tahap alur kerja. Nikhil Sunderraj, insinyur pembelajaran mesin utama di FactSet, mengatakan bahwa waktu yang diperlukan untuk menyiapkan, melatih, dan menerapkan model Text To Formula khusus turun dari hitungan hari menjadi hitungan jam.

Keamanan, Tata Kelola, dan Cara Memulai

Databricks mengatakan AIR beroperasi dalam batas tata kelola Databricks dan Unity Catalog, yang menerapkan izin baca dan tulis secara konsisten untuk akses data, checkpoint, dan log pada beban kerja GPU. Perusahaan itu mengatakan AIR menyediakan isolasi tingkat VM, bukan mekanisme isolasi yang mengekspos kernel host, serta mendukung PrivateLink dan kontrol lalu lintas keluar nirserver, yang didukung oleh investasi keamanannya untuk layanan nirserver. Pengumuman tersebut menyinggung insiden OpenAI Hugging Face sebagai bukti risiko mengelola infrastruktur GPU secara terpisah dari data perusahaan yang berada di bawah tata kelola.

Penggunaan AIR dan biayanya tercatat dalam tabel sistem penagihan Databricks bersama beban kerja Databricks lainnya. Catatan penggunaan di tingkat beban kerja menunjukkan proses pelatihan mana yang menggunakan anggaran GPU.

Robert Macy III, insinyur pembelajaran mesin di Robinhood, mengatakan AIR membantu timnya beralih dari eksperimen ke pelatihan dengan lebih cepat, dengan tata kelola dan kontrol data yang sudah terintegrasi. Eran Barash, wakil presiden bidang kecerdasan buatan dan pembelajaran mesin di QuantHealth, mengatakan timnya dapat meningkatkan skala pelatihan terdistribusi pada GPU nirserver untuk memproses jutaan catatan dalam alur kerja data yang sudah ada. Zach Richardson, kepala AI di TinyFish, mengatakan timnya dapat berlatih menggunakan GPU, mengevaluasi hasil dengan MLflow, dan menyajikan model yang dirancang untuk web milik perusahaan tanpa perlu menyiapkan infrastruktur terpisah untuk setiap tahap.

Databricks mengarahkan pengguna baru ke panduan memulai cepat, buku catatan templat, dan panduan awal, serta repositori ai-runtime-cookbook di GitHub yang dapat dikloning. Menurut perusahaan, repositori tersebut dapat menjalankan beban kerja GPU pertama hanya dengan satu perintah CLI. Perusahaan menyarankan pelanggan menghubungi tim pengelola akun mereka untuk mendapatkan informasi lebih lanjut.