Modèles et plateformes d’IA
Baseten lance Sandboxes pour les agents d’IA à longue durée d’exécution et à état persistant
Ajouter Unite.AI à vos sources préférées sur Google
Baseten a lancé Sandboxes le 5 novembre 2026, offrant aux agents d’IA des environnements microVM isolés qui conservent les fichiers, la mémoire et les processus en cours entre les tâches. Le service d’exécution est disponible dès maintenant et gratuit jusqu’au 16 novembre 2026. Il s’agit du premier composant du cloud pour agents que Baseten prévoit de développer.
La documentation du produit fixe par défaut à 10 le nombre d’environnements isolés pouvant fonctionner simultanément par organisation ; l’assistance peut relever cette limite. Les équipes peuvent attribuer des environnements distincts à des utilisateurs ou à des projets, puis les créer ou les supprimer au gré de l’évolution des utilisateurs et des projets. Par exemple, un agent peut écrire et exécuter le code d’un site web pour un utilisateur, ou télécharger des sources, les analyser et compiler des résultats de recherche.
Isolation par microVM et état sauvegardé
Chaque environnement est isolé dans une microVM dédiée, avec son propre noyau et une isolation au niveau matériel. Baseten affirme que cette approche offre une isolation plus poussée que les solutions fondées sur des conteneurs et permet aux agents d’exécuter du code non fiable, de manipuler des fichiers et de lancer des processus sans déplacement latéral. Le système de gestion de l’état répond à un autre enjeu : préserver la progression sans maintenir les ressources de calcul en fonctionnement continu.
En cas de déconnexion, un instantané est créé, couvrant le système de fichiers, la mémoire et les processus actifs. Les ressources de calcul sont ramenées à zéro pendant la mise en veille de l’environnement ; à la reprise, son état sauvegardé est restauré, ce qui permet de poursuivre le travail d’une session à l’autre ou de le suspendre en attendant une intervention humaine. La suspension joue ainsi à la fois un rôle dans la continuité du travail et dans la gestion des ressources : de nombreux espaces de travail peuvent rester sauvegardés tandis que les ressources de calcul actives sont réservées aux environnements en cours d’utilisation.
Baseten annonce un délai de reprise de 25 millisecondes, une montée en charge à plusieurs milliers d’environnements isolés en quelques secondes et une vitesse jusqu’à cinq fois supérieure à celle d’autres outils de bac à sable. L’objectif de latence porte sur l’ensemble du processus : le démarrage, la lecture et l’écriture de fichiers ainsi que les allers-retours d’inférence peuvent autrement s’accumuler au fil de longues séquences d’actions d’un agent.
Le tableau de bord affiche en temps réel le nombre de requêtes API, le taux d’erreur, l’utilisation du processeur et de la mémoire, ainsi que des détails sur le déploiement, comme la région, la mémoire vive, l’image et les étiquettes. Les outils d’observabilité intégrés montrent l’activité de l’environnement d’un agent sans nécessiter de configuration distincte pour la surveillance.
Images, accès et conservation des données
Chaque environnement isolé démarre à partir d’une image. Baseten propose des options intégrées ; les équipes peuvent aussi créer des images personnalisées à partir d’un Dockerfile ou les importer depuis un registre, et gérer les versions pour chaque équipe. Une image peut contenir un système d’exploitation, des environnements d’exécution pour des langages, des paquets et des outils en ligne de commande, du code ou des données de départ, ainsi que des paramètres par défaut pour la mémoire et les ports. Un serveur d’API Sandbox gère les commandes et les opérations sur les fichiers pour les outils MCP.
Une fois la création d’une image personnalisée terminée, une version étiquetée lui est attribuée et chaque nouvel environnement isolé démarre à partir d’une copie de cette version. Les fichiers créés ou modifiés pendant une exécution ne changent pas l’image. Les développeurs peuvent créer des environnements avec l’interface en ligne de commande Baseten, exécuter des commandes ou ouvrir un terminal interactif ; les agents de programmation peuvent utiliser ces mêmes commandes.
La sauvegarde de l’état comporte une limite liée à la suppression. Supprimer un environnement isolé, y compris à son expiration, entraîne la suppression définitive de ses données locales. Pour que les résultats soient conservés d’un environnement isolé à l’autre, ils doivent être enregistrés en dehors de l’environnement ou stockés sur un volume d’environnement isolé monté.
Le stockage et le réseau restent à développer
Selon le principe architectural de Baseten, les premières ressources de base du cloud ont été conçues pour une seule application au service de millions d’utilisateurs, alors que les agents inversent ce modèle en créant des millions de microapplications destinées à une poignée d’utilisateurs humains ou d’agents. Chaque environnement a alors besoin de ses propres outils, du travail accumulé et de fichiers, avec des ressources de calcul, de stockage, de réseau et d’identité conçues pour fonctionner ensemble.
Sandboxes rejoint Dedicated Inference, Model APIs, Training, Loops et Grid sur la plateforme Baseten, qui étend ainsi son offre de produits d’inférence, d’entraînement, de routage et de gouvernance aux fonctionnalités d’exécution. Pour le stockage, Agent Drive fournirait un système de fichiers distant et distribué, partagé entre les environnements isolés et optimisé pour les volumes élevés d’écritures et les petits fichiers comme le code et les fichiers Markdown. Agent Proxy appliquerait les règles de connexion en dehors de l’environnement isolé et injecterait des identifiants lors d’opérations sensibles, comme un paiement avec Stripe, sans les révéler à l’agent. La conception plus générale comprend des autorisations, la journalisation des audits, un pare-feu, des adresses IP statiques et des contrôles configurables. Baseten prévoit le lancement d’Agent Drive et d’Agent Proxy au cours des prochains mois.
En pratique, Sandboxes peut préserver l’état de travail d’un agent pendant les pauses, mais les résultats qui doivent subsister après la suppression nécessitent toujours un stockage en dehors de l’environnement ou un volume monté. Le système de fichiers partagé et les contrôles d’identifiants appliqués à l’extérieur de l’environnement restent à l’état de projet. Pour l’instant, le cloud pour agents commence donc par l’exécution, et non par l’ensemble du système de calcul, de stockage et de réseau décrit par Baseten.
