Baseten lance Grid pour acheminer et encadrer le développement logiciel par l’IA en entreprise

Le 4 novembre 2026, Baseten a annoncé Grid et ouvert une préversion publique de sa couche d’acheminement, de passerelle et de garde-fous pour le développement logiciel par l’IA en entreprise. L’entreprise a indiqué que Baseten Router avait permis de réduire de près de 70 % le coût par tâche lors des premiers tests comparatifs, avec un compromis de 0,9 point de pourcentage sur la qualité par rapport à Opus 5.5 ; l’accès anticipé se fait sur liste d’attente.

Au-delà du prix des jetons

Grid automatise un choix que les développeurs doivent autrement faire eux-mêmes : quel modèle approuvé doit traiter chaque tâche de programmation. Pour chaque requête, Baseten Router évalue les options open source et propriétaires approuvées par l’organisation et met en balance les performances probables pour la tâche et le coût.

Au lieu de classer les modèles en fonction du seul prix des jetons, le routeur prend en compte le coût des nouvelles tentatives, des appels d’outils qui échouent et des réponses incomplètes. Il vise à réduire le coût d’exécution d’une tâche tout en respectant les exigences de qualité et de performance de l’équipe. Les règles d’acheminement automatique peuvent privilégier le coût, l’intelligence ou un équilibre entre les deux.

Les organisations peuvent également choisir de partager leurs traces, qui peuvent servir à entraîner des routeurs personnalisés afin d’optimiser l’efficacité de Pareto pour leurs charges de travail spécifiques. Baseten a précisé que les économies exactes varieraient selon la nature de la charge de travail et l’équilibre entre coût et qualité recherché par le client ; le résultat du test comparatif indique donc un potentiel, et non une réduction universelle.

Chintan Parikh, directeur de l’ingénierie chez Opendoor, a déclaré que Grid avait centralisé la visibilité sur les dépenses internes liées à l’IA et les avait automatiquement réduites avec une perte de qualité minime. Presque tout le monde chez Opendoor utilise l’IA, et la plupart des employés ne souhaitent pas avoir à choisir un modèle.

Un accès centralisé sans modifier les outils des développeurs

Grid Gateway fournit la couche d’administration. Les équipes plateforme peuvent approuver des modèles, accorder des accès à l’échelle des équipes, définir des budgets et utiliser des identifiants gérés par l’entreprise, tout en surveillant l’utilisation dans les équipes, les applications et les agents. Un tableau de bord répartit les dépenses par modèle et affiche les dépenses totales, le volume de jetons, le taux de succès du cache et les économies réalisées.

Au lancement, Grid prend en charge les modèles d’OpenAI, d’Anthropic, de Gemini Enterprise Agent Platform, d’Amazon Bedrock et de Baseten. Les développeurs peuvent connecter Claude Code, Codex, OpenCode et Pi à l’aide d’une seule commande de configuration, tandis que les administrateurs peuvent automatiser la configuration au moyen de la gestion des appareils mobiles.

Les applications et les agents internes qui utilisent l’Anthropic ou l’API OpenAI peuvent se connecter en modifiant une URL de base et un identifiant de modèle. Les logiciels existants sont ainsi intégrés au même point de terminaison, sans que les organisations aient à remplacer leurs outils de développement habituels.

Les équipes plateforme peuvent également attribuer à chaque environnement d’agent un modèle de programmation par défaut et un modèle d’arrière-plan plus léger pour des tâches secondaires, comme la rédaction de résumés. Les développeurs reçoivent ces paramètres par défaut lors de la configuration et peuvent changer de modèle par la suite.

Des garde-fous partagés et une infrastructure d’inférence

Grid intègre des politiques de sécurité configurables à la passerelle et vérifie de manière centralisée les requêtes et les réponses. Ces politiques peuvent varier selon la charge de travail, et les journaux indiquent ce qui a été signalé et la manière dont cela a été traité. Parmi les risques repérés figurent les documents contenant des instructions dissimulées qui détournent les agents, les actions non autorisées et l’apparition d’informations client à des endroits où elles ne devraient pas se trouver.

Ces garde-fous sont distincts des contrôles d’exécution. Les vérifications de sécurité examinent les requêtes et les réponses à risque, tandis que les contrôles d’exécution déterminent les ressources auxquelles un agent peut accéder et les actions qu’il peut effectuer. Baseten a indiqué que les entreprises ont besoin de ces deux niveaux de protection.

Sous la passerelle, la plateforme d’inférence de Baseten gère l’acheminement, la traduction entre les protocoles des modèles et des environnements d’agent, la mise en cache, la mise à l’échelle et l’optimisation. Lorsque Baseten sert le modèle sélectionné, les longues sessions d’agent à plusieurs tours peuvent être dirigées vers un cache clé-valeur préchauffé afin d’en réduire le coût. Ses équipes de recherche sur les performances des modèles, de post-entraînement et d’infrastructure travaillent également sur les noyaux personnalisés, le décodage spéculatif et les évaluations que chaque modèle doit réussir avant sa mise en production.

Après la préversion, Baseten prévoit de prendre en charge la délégation de tâches de longue durée à des agents hébergés dans le cloud ainsi que la coordination de plusieurs agents pour les tâches complexes. Sont également prévus un acheminement adapté aux données et aux cas d’usage des clients, des signaux de sécurité plus riches et la prise en charge des garde-fous propres aux clients.

Le critère économique est donc le coût d’une tâche achevée avec le niveau de qualité requis ; le prix des jetons n’est qu’un facteur parmi d’autres. Comme les économies annoncées dépendent de la nature de la charge de travail et que plusieurs fonctions de gestion des agents sont encore prévues, la préversion ne permet pas encore de savoir dans quelle mesure les résultats des tests comparatifs se confirmeront de façon constante en production pour les tâches de programmation.