Baseten julkaisee Gridin yritysten tekoälyavusteisen ohjelmoinnin reititykseen ja hallintaan

Baseten ilmoitti 4. marraskuuta 2026 Gridistä ja avasi samalla julkisen esikatseluversion reititys-, yhdyskäytävä- ja suojakerroksestaan yritysten tekoälyavusteiseen ohjelmointiin. Yhtiön mukaan Baseten Router saavutti alustavissa vertailutesteissä lähes 70 prosentin säästöt tehtäväkohtaisissa kustannuksissa, kun laadun osalta kompromissi Opus 5.5:een verrattuna oli 0,9 prosenttiyksikköä; ennakkokäyttöön pääsee jonotuslistan kautta.

Reititys token-hintojen tuolle puolen

Grid automatisoi valinnan, jonka kehittäjät muuten tekisivät itse: mikä hyväksytty malli hoitaa kunkin ohjelmointitehtävän. Baseten Router arvioi jokaisen pyynnön kohdalla organisaation hyväksymät avoimen ja suljetun lähdekoodin vaihtoehdot ja punnitsee tehtävän todennäköistä suorituskykyä suhteessa kustannuksiin.

Pelkkien token-hintojen perusteella tehtävän mallien paremmuusjärjestyksen sijaan reititin ottaa huomioon myös uudelleenyritysten, epäonnistuneiden työkalukutsujen ja keskeneräisten vastausten kustannukset. Tavoitteena on pienentää tehtävän suorittamisen kustannuksia ja samalla täyttää tiimin laatu- ja suorituskykyvaatimukset. Automaattinen reititys voi painottaa kustannuksia, älykkyyttä tai näiden tasapainoa.

Organisaatiot voivat myös halutessaan jakaa jälkiä, joita voidaan käyttää työkuormien mukaan räätälöityjen, Pareto-tehokkaiden reitittimien kouluttamiseen. Basetenin mukaan tarkat säästöt vaihtelevat työkuorman rakenteen ja asiakkaan haluaman kustannusten ja laadun tasapainon mukaan, joten vertailutulos kertoo mahdollisista säästöistä eikä yleispätevästä kustannusten alenemisesta.

Opendoorin tekniikasta vastaava johtaja Chintan Parikh kertoi, että Grid kokosi yhteen näkymän yrityksen sisäisiin tekoälykuluihin ja vähensi kuluja automaattisesti laadun kärsimättä juurikaan. Lähes kaikki Opendoorilla käyttävät tekoälyä, eivätkä useimmat työntekijät halua joutua valitsemaan käytettävää mallia.

Keskitetty käyttö ilman muutoksia kehittäjien työkaluihin

Grid Gateway tarjoaa hallintakerroksen. Alustatiimit voivat hyväksyä malleja, myöntää käyttöoikeuksia tiimeille, asettaa budjetteja ja käyttää yrityksen hallinnoimia tunnistetietoja sekä seurata käyttöä eri tiimeissä, sovelluksissa ja agenteissa. Koontinäytössä kulut eritellään malleittain, ja siinä näytetään kokonaiskulut, tokenien määrä, välimuistin osumaprosentti ja säästetyt kustannukset.

Julkaisuvaiheessa Grid tukee OpenAI-, Anthropic-, Gemini Enterprise Agent Platform-, Amazon Bedrock- ja Baseten-malleja. Kehittäjät voivat yhdistää Claude Coden, Codexin, OpenCoden ja Pin yhdellä määrityskomennolla, ja ylläpitäjät voivat automatisoida määritykset mobiililaitteiden hallinnan avulla.

Anthropic- tai OpenAI API -rajapintaa käyttävät yrityksen omat sovellukset ja agentit voidaan yhdistää vaihtamalla perus-URL-osoite ja mallin tunniste. Näin olemassa olevat ohjelmistot saadaan saman päätepisteen piiriin ilman, että organisaatioiden tarvitsee vaihtaa vakiintuneita kehittäjätyökalujaan.

Alustatiimit voivat myös määrittää kullekin agenttikehykselle oletusarvoisen ohjelmointimallin ja pienemmän taustamallin aputehtäviin, kuten yhteenvetojen laatimiseen. Kehittäjät saavat nämä oletusasetukset käyttöönoton yhteydessä ja voivat vaihtaa malleja myöhemmin.

Yhteiset suojatoimet ja päättelyinfrastruktuuri

Grid tuo yhdyskäytävälle mukautettavat turvallisuuskäytännöt, jotka tarkistavat pyynnöt ja vastaukset keskitetysti. Käytännöt voivat vaihdella työkuorman mukaan, ja lokitiedoista käy ilmi, mikä merkittiin riskialttiiksi ja miten asia käsiteltiin. Tunnistettuihin riskeihin kuuluvat asiakirjoihin piilotetut ohjeet, jotka ohjaavat agentteja toisin, luvattomat toiminnot sekä asiakastietojen päätyminen paikkoihin, joihin ne eivät kuulu.

Nämä suojatoimet ovat eri asia kuin toiminnanohjauksen rajoitukset. Turvallisuustarkistuksissa tutkitaan riskialttiita pyyntöjä ja vastauksia, kun taas toiminnanohjauksen rajoitukset määrittävät, mitä agentti voi käyttää ja tehdä. Basetenin mukaan yritykset tarvitsevat molemmat kerrokset.

Yhdyskäytävän taustalla Basetenin päättelyalusta huolehtii reitityksestä, mallien ja agenttikehysten protokollien välisestä muunnoksesta, välimuistista, skaalauksesta ja optimoinnista. Kun Baseten tarjoaa valitun mallin, pitkät, useita vuorovaikutuskierroksia sisältävät agentti-istunnot voidaan ohjata käyttämään lämpimänä pidettävää avain-arvovälimuistia niiden kustannusten vähentämiseksi. Yhtiön mallien suorituskykyä tutkivat, jälkikoulutuksesta vastaavat ja infrastruktuuritiimit työskentelevät myös mukautettujen ytimien, spekulatiivisen dekoodauksen sekä arviointien parissa, jotka jokaisen mallin on läpäistävä ennen julkaisua.

Esiversion lisäksi Baseten suunnittelee tukevansa pitkäkestoisempien tehtävien delegointia pilvessä toimiville agenteille sekä useiden agenttien koordinointia monimutkaisissa tehtävissä. Suunnitelmiin kuuluvat myös asiakkaiden dataan ja käyttötapauksiin mukautettu reititys, monipuolisemmat turvallisuussignaalit sekä asiakkaiden omien suojatoimien tukeminen.

Taloudellisessa arvioinnissa ratkaisevaa on siis vaaditulla laatutasolla suoritetun tehtävän kustannus, ja token-hinta on vain yksi huomioon otettava tekijä. Koska ilmoitetut säästöt riippuvat työkuorman rakenteesta ja useita agenttien hallintaominaisuuksia vasta suunnitellaan, esiversion perusteella ei vielä tiedetä, miten johdonmukaisesti vertailutestien tulokset näkyvät tuotantokäytön ohjelmointityössä.