Baseten lancia Grid per instradare e governare lo sviluppo aziendale assistito dall’IA

Baseten ha annunciato Grid il 4 novembre 2026, aprendo l’anteprima pubblica del suo livello di instradamento, gateway e protezioni per lo sviluppo aziendale assistito dall’IA. L’azienda ha riferito che, nei benchmark iniziali, Baseten Router ha ottenuto un risparmio di quasi il 70% sul costo per attività, a fronte di un compromesso sulla qualità di 0,9 punti percentuali rispetto a Opus 5.5; l’accesso anticipato è gestito tramite lista d’attesa.

Oltre il costo dei token

Grid automatizza una scelta che altrimenti spetta agli sviluppatori: quale modello approvato dovrebbe gestire ciascuna attività di programmazione. Per ogni richiesta, Baseten Router valuta le opzioni open source e proprietarie approvate dall’organizzazione e mette a confronto le prestazioni previste per l’attività con il costo.

Invece di classificare i modelli basandosi soltanto sul prezzo dei token, il router tiene conto anche del costo dei nuovi tentativi, delle chiamate agli strumenti non riuscite e delle risposte incomplete. Il suo obiettivo è ridurre il costo necessario per completare un’attività, rispettando al contempo i requisiti del team in termini di qualità e prestazioni. Gli instradamenti automatici possono dare priorità al costo, all’intelligenza o a un equilibrio tra i due.

Le organizzazioni possono inoltre scegliere di condividere le tracce, che possono essere utilizzate per addestrare router personalizzati in modo da ottenere un’efficienza paretiana sui rispettivi carichi di lavoro. Baseten ha dichiarato che il risparmio effettivo varierà in base alla struttura del carico di lavoro e all’equilibrio desiderato dal cliente tra costo e qualità: il benchmark indica quindi un potenziale, non una riduzione valida per tutti.

Chintan Parikh, responsabile dell’ingegneria di Opendoor, ha dichiarato che Grid ha riunito in un’unica vista le informazioni sulla spesa interna per l’IA e l’ha ridotta automaticamente, con una perdita di qualità minima. Quasi tutti a Opendoor utilizzano l’IA e la maggior parte dei dipendenti non vuole dover scegliere quale modello usare.

Accesso centralizzato senza modificare gli strumenti degli sviluppatori

Grid Gateway fornisce il livello amministrativo. I team di piattaforma possono approvare i modelli, concedere l’accesso a livello di team, impostare budget e utilizzare credenziali gestite dall’azienda, monitorando al contempo l’utilizzo tra team, applicazioni e agenti. Una dashboard suddivide la spesa per modello e mostra la spesa totale, il volume di token, il tasso di cache hit e il risparmio sui costi.

Al lancio, Grid supporta i modelli di OpenAI, Anthropic, Gemini Enterprise Agent Platform, Amazon Bedrock e Baseten. Gli sviluppatori possono collegare Claude Code, Codex, OpenCode e Pi con un unico comando di configurazione, mentre gli amministratori possono automatizzare la configurazione tramite la gestione dei dispositivi mobili.

Le applicazioni e gli agenti interni che utilizzano Anthropic o l’API di OpenAI possono collegarsi modificando un URL di base e l’ID del modello. In questo modo, il software esistente rientra nello stesso endpoint senza che le organizzazioni debbano sostituire gli strumenti di sviluppo già in uso.

I team di piattaforma possono anche assegnare a ciascun ambiente di esecuzione un modello di programmazione predefinito e un modello più piccolo da usare in background per attività secondarie, come la creazione di riepiloghi. Gli sviluppatori ricevono queste impostazioni predefinite durante la configurazione e possono cambiare modello in seguito.

Protezioni condivise e infrastruttura di inferenza

Grid applica al gateway criteri di sicurezza configurabili, effettuando controlli centralizzati sulle richieste e sulle risposte. I criteri possono variare in base al carico di lavoro e i registri indicano cosa è stato segnalato e come è stato gestito. Tra i rischi individuati figurano documenti contenenti istruzioni nascoste che reindirizzano gli agenti, azioni non autorizzate e la comparsa di informazioni sui clienti in contesti in cui non dovrebbero trovarsi.

Queste protezioni sono distinte dai controlli di esecuzione. I controlli di sicurezza esaminano le richieste e le risposte rischiose, mentre i controlli di esecuzione determinano a cosa può accedere un agente e quali azioni può compiere. Baseten ha dichiarato che le aziende hanno bisogno di entrambi i livelli.

Alla base del gateway, la piattaforma di inferenza di Baseten gestisce l’instradamento, la traduzione tra i protocolli dei modelli e quelli degli ambienti di esecuzione, la memorizzazione nella cache, il ridimensionamento e l’ottimizzazione. Quando Baseten fornisce il modello selezionato, le sessioni degli agenti prolungate e con più turni possono essere indirizzate a una cache key-value mantenuta calda, così da ridurne il costo. I team di Baseten dedicati alla ricerca sulle prestazioni dei modelli, al post-addestramento e alle infrastrutture lavorano anche su kernel personalizzati, decodifica speculativa e valutazioni che ogni modello deve superare prima del rilascio.

Dopo l’anteprima, Baseten prevede di supportare l’assegnazione di attività di lunga durata ad agenti ospitati nel cloud e il coordinamento di più agenti per compiti complessi. Sono inoltre previsti un instradamento adattato ai dati e ai casi d’uso dei clienti, segnali di sicurezza più articolati e il supporto alle protezioni proprie dei clienti.

Il criterio economico è quindi il costo per completare un’attività con la qualità richiesta; il prezzo dei token è soltanto uno dei fattori. Poiché il risparmio dichiarato dipende dalla struttura del carico di lavoro e diverse funzionalità di gestione degli agenti sono ancora in programma, l’anteprima non chiarisce quanto regolarmente i risultati dei benchmark si tradurranno in attività di sviluppo software in produzione.