Baseten lancerer Grid til at dirigere og styre AI-kodning i virksomheder

Baseten annoncerede Grid den 4. november 2026 og åbnede en offentlig forhåndsvisning af virksomhedens lag til dirigering, gateway og sikkerhedsforanstaltninger for AI-kodning i virksomheder. Virksomheden oplyste, at Baseten Router i de indledende benchmarks opnåede næsten 70 % lavere omkostninger pr. opgave med et kompromis på 0,9 procentpoint i kvalitet sammenlignet med Opus 5.5. Tidlig adgang gives via en venteliste.

Dirigering ud over tokenpriser

Grid automatiserer et valg, som udviklere ellers selv må træffe: Hvilken godkendt model skal håndtere den enkelte kodningsopgave? For hver anmodning vurderer Baseten Router organisationens godkendte muligheder inden for både åbne og lukkede modeller og afvejer den forventede opgaveydelse mod omkostningerne.

I stedet for kun at rangere modeller efter tokenpris medregner routeren omkostningerne ved nye forsøg, mislykkede værktøjskald og ufuldstændige svar. Målet er at reducere omkostningerne ved at løse en opgave og samtidig opfylde teamets krav til kvalitet og ydeevne. Automatiske ruter kan prioritere omkostninger, intelligens eller en balance mellem de to.

Organisationer kan også vælge at dele sporingsdata, som kan bruges til at træne brugerdefinerede routere, der opnår Pareto-effektivitet på deres specifikke arbejdsbelastninger. Baseten oplyste, at de præcise besparelser vil afhænge af arbejdsbelastningens karakter og kundens ønskede balance mellem omkostninger og kvalitet. Benchmarkresultatet er derfor en indikation af potentialet, ikke en universel besparelse.

Chintan Parikh, teknisk chef hos Opendoor, sagde, at Grid samlede overblikket over virksomhedens interne AI-udgifter og automatisk reducerede dem med et minimalt kvalitetstab. Næsten alle hos Opendoor bruger AI, og de fleste medarbejdere ønsker ikke selv at skulle vælge, hvilken model de skal bruge.

Central adgang uden ændringer af udviklerværktøjer

Grid Gateway udgør det administrative lag. Platformteams kan godkende modeller, give adgang på teamniveau, fastsætte budgetter og bruge legitimationsoplysninger, der administreres af virksomheden, samtidig med at de overvåger brugen på tværs af teams, applikationer og agenter. Et kontrolpanel fordeler udgifterne efter model og viser de samlede udgifter, tokenmængden, cache-hit-raten og de sparede omkostninger.

Ved lanceringen understøtter Grid modeller fra OpenAI, Anthropic, Gemini Enterprise Agent Platform, Amazon Bedrock og Baseten. Udviklere kan forbinde Claude Code, Codex, OpenCode og Pi med én opsætningskommando, mens administratorer kan automatisere konfigurationen via administration af mobilenheder.

Interne applikationer og agenter, der bruger Anthropic eller OpenAI API, kan forbindes ved at ændre en basis-URL og et model-id. Dermed kan eksisterende software bruge det samme endepunkt, uden at organisationer behøver at udskifte deres etablerede udviklerværktøjer.

Platformteams kan også tildele hvert agentmiljø en standardmodel til kodning og en mindre baggrundsmodel til sideopgaver som f.eks. opsummeringer. Udviklerne får disse standardindstillinger under opsætningen og kan skifte model senere.

Fælles sikkerhedsforanstaltninger og inferensinfrastruktur

Grid placerer konfigurerbare sikkerhedspolitikker ved gatewayen og kontrollerer centralt både anmodninger og svar. Politikkerne kan variere efter arbejdsbelastning, og logfiler viser, hvad der blev markeret, og hvordan det blev håndteret. De identificerede risici omfatter dokumenter med skjulte instruktioner, der omdirigerer agenter, uautoriserede handlinger og kundedata, der dukker op steder, hvor de ikke hører hjemme.

Disse sikkerhedsforanstaltninger er adskilt fra udførelseskontroller. Sikkerhedskontroller undersøger risikable anmodninger og svar, mens udførelseskontroller afgør, hvad en agent kan tilgå og gøre. Baseten oplyste, at virksomheder har brug for begge lag.

Under gatewayen håndterer Basetens inferensplatform dirigering, oversættelse mellem protokoller for modeller og agentmiljøer, cachelagring, skalering og optimering. Når Baseten leverer den valgte model, kan længerevarende agentsessioner med flere samtalerunder dirigeres til en varm key-value-cache for at reducere omkostningerne. Basetens teams for forskning i modelydelse, eftertræning og infrastruktur arbejder desuden med brugerdefinerede kerner, spekulativ afkodning og de evalueringer, som hver model skal bestå, inden den lanceres.

Efter forhåndsvisningen planlægger Baseten at understøtte uddelegering af længerevarende opgaver til agenter, der hostes i skyen, samt koordinering af flere agenter om komplekse opgaver. Planerne omfatter også dirigering, der er tilpasset kundedata og anvendelsesområder, mere nuancerede sikkerhedssignaler og understøttelse af kundernes egne sikkerhedsforanstaltninger.

Den økonomiske målestok er derfor omkostningen ved en fuldført opgave med den krævede kvalitet, hvor tokenprisen kun er én af flere faktorer. Da de rapporterede besparelser afhænger af arbejdsbelastningens karakter, og flere funktioner til agentstyring stadig er planlagt, står det efter forhåndsvisningen fortsat åbent, hvor konsekvent benchmarkresultaterne vil kunne overføres til kodningsarbejde i produktion.