Baseten Meluncurkan Sandboxes untuk Agen AI dengan Status Persisten dan Tugas Jangka Panjang

Baseten memperkenalkan Sandboxes pada 5 November 2026, yang menyediakan lingkungan microVM terisolasi bagi agen AI serta mempertahankan berkas, memori, dan proses yang sedang berjalan di antara tugas. Layanan eksekusi ini tersedia sekarang dan dapat digunakan secara gratis hingga 16 November 2026, sebagai komponen pertama dari cloud agen yang direncanakan Baseten.

Dokumentasi produk menetapkan batas default 10 sandbox yang berjalan secara bersamaan per organisasi, dan tim dukungan dapat menaikkan batas tersebut. Tim dapat menetapkan lingkungan terpisah untuk pengguna atau proyek tertentu, serta membuat atau menghapusnya seiring perubahan pengguna dan proyek. Contoh penggunaannya mencakup agen yang menulis dan menjalankan kode situs web untuk pengguna, atau mengunduh sumber, menganalisisnya, dan mengumpulkan hasil riset.

Isolasi microVM dan Status Tersimpan

Batas isolasi berupa microVM khusus untuk setiap lingkungan, dengan kernel terpisah dan isolasi pada tingkat perangkat keras. Baseten menyatakan bahwa pendekatan ini memberikan isolasi yang lebih kuat daripada pendekatan berbasis kontainer dan memungkinkan agen menjalankan kode yang tidak tepercaya, mengelola berkas, serta menjalankan proses tanpa pergerakan lateral. Sistem status menangani persoalan yang berbeda: mempertahankan kemajuan tanpa terus-menerus menjalankan komputasi.

Saat koneksi terputus, sistem membuat snapshot yang mencakup sistem berkas, memori, dan proses aktif. Komputasi diturunkan hingga nol saat lingkungan berada dalam kondisi tidur; ketika dilanjutkan, status tersimpannya dipulihkan sehingga pekerjaan dapat diteruskan di beberapa sesi atau dijeda untuk menunggu masukan manusia. Dengan demikian, penangguhan berfungsi sekaligus sebagai fitur kesinambungan dan mekanisme pengelolaan sumber daya: banyak ruang kerja dapat tetap tersimpan, sementara komputasi aktif dialokasikan untuk lingkungan yang sedang bekerja.

Baseten melaporkan waktu pemulihan 25 milidetik, kemampuan meningkatkan skala hingga ribuan sandbox dalam hitungan detik, serta keunggulan kecepatan hingga lima kali lipat dibandingkan alat sandbox lainnya. Sasaran latensi ini bersifat kumulatif: waktu mulai, pembacaan dan penulisan berkas, serta komunikasi bolak-balik untuk inferensi dapat menumpuk dalam rangkaian kerja agen yang panjang.

Dasbor menampilkan metrik langsung untuk permintaan API, tingkat kesalahan, CPU, dan memori, serta detail penerapan seperti wilayah, RAM, citra, dan label. Fitur observabilitas bawaan menunjukkan aktivitas lingkungan agen tanpa memerlukan penyiapan pemantauan terpisah.

Citra, Akses, dan Retensi Data

Setiap sandbox dimulai dari sebuah citra. Baseten menyediakan pilihan bawaan, sementara tim dapat membuat citra khusus dari Dockerfile atau mengimpornya dari registri; versinya dikelola untuk setiap tim. Citra dapat memuat sistem operasi dan lingkungan runtime bahasa pemrograman, paket dan alat baris perintah, kode atau data awal, serta pengaturan default untuk memori dan port. Server API Sandbox menangani perintah dan operasi berkas untuk alat MCP.

Setelah citra khusus berhasil dibuat, citra tersebut diberi versi bertag, dan setiap sandbox baru dimulai dari salinan versi itu. Berkas yang dibuat atau diubah selama proses berjalan tidak mengubah citra. Pengembang dapat membuat lingkungan melalui CLI Baseten, menjalankan perintah atau membuka terminal interaktif, dan agen pemrograman dapat menggunakan perintah CLI yang sama.

Status tersimpan memiliki batas penghapusan. Menghapus sandbox, termasuk saat masa berlakunya habis, akan menghapus data lokalnya secara permanen. Agar hasil tetap tersedia di berbagai sandbox, hasil tersebut harus disimpan di luar lingkungan atau dipertahankan pada volume sandbox yang terpasang.

Penyimpanan dan Jaringan Masih dalam Peta Jalan

Premis arsitektur Baseten adalah bahwa primitif cloud terdahulu dirancang untuk satu aplikasi yang melayani jutaan pengguna, sedangkan agen membalikkan model tersebut menjadi jutaan aplikasi mikro yang melayani segelintir pengguna manusia atau agen. Karena itu, setiap lingkungan membutuhkan alat, pekerjaan yang terakumulasi, dan berkasnya sendiri, dengan dukungan komputasi, penyimpanan, jaringan, dan identitas yang dirancang secara terpadu.

Sandboxes bergabung dengan Dedicated Inference, Model APIs, Training, Loops, dan Grid dalam platform Baseten, menambahkan kemampuan eksekusi ke produk inferensi, pelatihan, perutean, dan tata kelolanya. Untuk penyimpanan, Agent Drive akan menyediakan sistem berkas jarak jauh terdistribusi yang digunakan bersama di berbagai sandbox, dan dioptimalkan untuk volume penulisan tinggi serta berkas kecil seperti kode dan Markdown. Agent Proxy akan menegakkan aturan koneksi di luar sandbox dan menyisipkan kredensial selama panggilan sensitif, seperti pembayaran Stripe, tanpa mengekspos kredensial tersebut kepada agen. Rancangan yang lebih luas mencakup izin, pencatatan audit, firewall, alamat IP statis, dan kontrol yang dapat dikonfigurasi. Baseten memperkirakan Agent Drive dan Agent Proxy akan tersedia dalam beberapa bulan mendatang.

Batas praktisnya adalah Sandboxes dapat mempertahankan status kerja agen selama jeda, tetapi hasil yang harus tetap tersedia setelah penghapusan masih perlu disimpan di luar lingkungan atau pada volume yang terpasang. Sistem berkas bersama dan kontrol kredensial yang ditegakkan dari luar masih menjadi bagian dari peta jalan, sehingga saat ini cloud agen dimulai dari eksekusi, bukan dari keseluruhan sistem komputasi, penyimpanan, dan jaringan yang dijelaskan Baseten.