Baseten julkaisee Joey-1:n, 2B-parametrisen päätösmallin, jonka painot ovat avoimesti saatavilla

Baseten julkaisi 29. lokakuuta 2026 joey-1:n, 2 miljardin parametrin päätösmallin, jonka sen oma tutkimuslaboratorio Base Labs kehitti. Malli maksaa 0,01 dollaria miljoonaa tokenia kohden, ja se on saatavilla Baseten Model APIs -palvelun kautta sekä avoimina painoina Hugging Facessa.

joey-1:n myötä Base Labsin päätösmalliperheeseen kuuluu nyt kolme eri kokoluokan mallia. Julkistuksessa uusi malli esitellään mammoth-1:n (27B) ja 21. lokakuuta julkaistun malliperheen elephant-1:n (9B) rinnalla. Tuolloin Baseten kuvaili mammoth-1:tä Jev Decision Indexin 208 päätösmallin joukossa korkeimmalle sijoittuneeksi ja elephant-1:tä johtavaksi 9B-päätösmalliksi. Kaikki kolme mallia on koulutettu samalla datajakaumalla, ja niillä on yhteinen rajapinta. Yhtiön mukaan mallista toiseen vaihtaminen onnistuu siksi yhdellä koodirivin muutoksella. Baseten asemoi mammoth-1:n tehtäviin, joissa tarkkuus on tärkeintä, elephant-1:n tasapainoiseksi oletusvaihtoehdoksi ja joey-1:n suuren volyymin ja viiveherkkiin työkuormiin.

Toisin kuin generatiiviset LLM-mallit, päätösmalli ei tuota tekstiä. Se palauttaa yhdellä eteenpäinlaskennalla luokan ja sen luottamusarvon. Kaikkien mahdollisten vastausten pisteet ovat yhteensä 1. Kun mallille annetaan tila — tekstiä, haluttaessa myös kuvia — ja joukko kysymyksiä, joey-1 palauttaa jokaiselle vaihtoehdolle kalibroidun todennäköisyyden yhdestä yhteisen etuliitteen esitäytöstä. Malli tukee kolmenlaisia kysymyksiä: kyllä/ei-kysymyksiä, valintaa nimettyjen vaihtoehtojen joukosta ja järjestettyjä pisteytystasoja. Basetenin aiemmassa malliperhettä käsittelevässä julkaisussa mainitaan päätösmallien käyttökohteiksi muun muassa tukipyyntöjen luokittelu ja ohjaus, roskapostin ja tietojenkalastelun tunnistus, kehotteiden suojaukset ja jailbreak-hyökkäysten tunnistus sekä pyyntöjen ohjaus pienten ja huipputason LLM-mallien välillä.

Basetenin mukaan LLM-työkuorman siirtäminen joey-1:een kannattaa, kun päätösten määrä on niin suuri, että kutsukohtainen kustannus ratkaisee projektin taloudellisen kannattavuuden, tai kun päätös on edellytys seuraavalle vaiheelle ja sen viive lisätään jokaiseen vastaukseen. Esimerkiksi 10 miljoonan tukipyynnön luokittelu kuukaudessa, kun kussakin on noin 500 tokenia, tarkoittaa yhteensä 5 miljardia tokenia. Yhtiön hinnoittelun mukaan tämä maksaa joey-1:llä noin 50 dollaria kuukaudessa ja mammoth-1:llä 500 dollaria. Baseten kuvailee joey-1:tä ensilinjan malliksi, jonka epävarmoissa tilanteissa voi korvata raskaammalla mallilla, kuten elephant-1:llä tai mammoth-1:llä.

Raportoidut viive- ja vertailutulokset

Baseten raportoi, että tuotantokäytössä joey-1 käsittelee keskimäärin 2 000 tokenin pyynnön 20 millisekunnin P50-päästä päähän -viiveellä. Se on noin 2,5 kertaa nopeampi kuin elephant-1, jonka vastaava viive on 49 millisekuntia. Yhtiön mukaan malli on myös viisi kertaa nopeampi kuin vastaavat päätösmallit. Baseten kertoi, että yhtiön sisäisissä testeissä joey-1 on vahvin enintään 3 miljardin parametrin päätösmalli; testien yksityiskohdat julkaistaan myöhemmin.

Mallikortin mukaan joey-1 sai Jev Decision Index 0.4:n julkisessa testijoukossa tuloksen 63,30 ja sijoittui 230 mallin joukossa 37:nneksi. Se saavutti kyseisessä testijoukossa korkeimman tuloksen alle 4 miljardin parametrin mallien joukossa. Mallikortin julkisen testijoukon taulukossa elephant-1:n tulos on 72,24, Cloudflare Clefin 61,71, Jev 1.14:n 60,70 ja Perplexity Decider Flash v1.2:n 60,06. Mallikortin mukaan joey-1:n tulos jää elephant-1:n tuloksesta kaikilla arvioiduilla osa-alueilla ja ylittää Jev 1.14:n tuloksen neljällä viidestä osa-alueesta: kielessä, työkaluissa ja automaatiossa, tiedonhaussa ja luokittelussa sekä taiteessa ja ihmisen makuarvioissa.

Mallikortin mukaan joey-1:n tulos Base Labsin sisäisessä Artificial Analysis Decision Index -indeksin toisintotestissä on 62,9. Sen edellä ovat mammoth-1 tuloksella 65,9, elephant-1 tuloksella 65,2 ja d1-ultra tuloksella 65. Basetenin mallikirjastosivulla kerrotaan, että lokakuussa 2026 julkaisuhetkellä joey-1 on Jev Decision Index 0.4:n paras 2B-malli.

Koulutusdata ja menetelmä

Mallikortin mukaan joey-1 jälkikoulutettiin Qwen3.5-2B-mallista samalla datajakaumalla ja menetelmällä kuin elephant-1 ja mammoth-1, ja koulutus toteutettiin Baseten Training Jobs -palvelussa. Kielimalli hienosäädettiin kokonaan tekstiä ja kuvia sisältävillä päätöstehtävillä, ja näköenkooderi pidettiin jäädytettynä. Täyden tarkkaavaisuuden kerroksissa käytettiin lohkoittaista kaksisuuntaista tarkkaavaisuusmaskia, ja sekvenssin enimmäispituus oli 16 384 tokenia.

Koulutusaineisto koostui 6,21 miljoonasta päätösesimerkistä. Laboratorio kutsuu aineistojen yhdistelmää nimellä Mix 8, ja siihen kuului 58,3 % päätöksenteon ydintaitoja, 16,1 % turvallisuutta ja vastaamisesta pidättäytymistä, 16,1 % arviointia ja asiantuntija-aloja sekä 9,5 % julkista päätösdataa. Koulutuksen tavoitefunktiossa yhdistettiin ristientropia ja Brier-kalibrointitermi, jonka lambda-arvoksi asetettiin 1. Malliin koulutettiin myös ”En tiedä” -vaihtoehto tilanteisiin, joissa se ei ole varma vastauksestaan. Koulutusmenetelmässä käytettiin yhtä epookkia ja 43 390 askelta. Oppimisnopeuden huippuarvo oli 1e-5, optimointiin käytettiin AdamW:tä beta-arvoilla 0,9 ja 0,95 ilman painon vaimennusta. Lämmittelyjakson pituus oli 3 %, vaimennus oli kosinimuotoinen ja laskennassa käytettiin bf16-tarkkuutta. Koulutus ajettiin kahdessa solmussa, joissa kummassakin oli kahdeksan H100-grafiikkasuoritinta, eli yhteensä käytössä oli 16 grafiikkasuoritinta.

Saatavuus, hinnoittelu ja käyttöönotto

joey-1 on saatavilla Baseten Model APIs -palvelussa /v1/systemone-päätepisteen kautta tunnuksella decision-models/baseten-joey-2b-latest. Tietojen säilyttämättömyys on oletusarvoisesti käytössä. Ilmoitettu hinta on 0,01 dollaria miljoonaa syötetokenia kohden, ja välimuistista luettavien syötetokenien sekä tulostokenien hinta on 0,00 dollaria. Malliperheen hinnoittelutaulukon mukaan elephant-1 maksaa 0,035 dollaria ja mammoth-1 0,1 dollaria miljoonaa tokenia kohden. Julkistuksessa joey-1:n hinnan kerrotaan olevan kymmenesosa mammoth-1:n hinnasta.

Model APIs -palvelussa päätösmallit tukevat 16k:n konteksti-ikkunaa, ja ne on optimoitu pienen viiveen työkuormiin. Dedikoidut käyttöönotot avaavat käyttöön koko 262k:n konteksti-ikkunan ja tukevat hienosäädettyjä painoja. Basetenin mukaan ne voivat myös nopeuttaa TTFT:tä ja TPS:ää (ensimmäisen tunnuksen saamiseen kuluvaa aikaa ja tunnuksia sekunnissa) työkuormakohtaisen optimoinnin ja LLM-työkuormien kanssa samaan paikkaan sijoittamisen ansiosta. elephant-1 ja joey-1 ovat käytettävissä jälkikoulutukseen Baseten Training Jobs -palvelussa, ja yhtiö on julkaissut hienosäätöoppaan GitHubissa.

Painot ovat avoimesti saatavilla MIT-lisenssillä. Itse ylläpidettävää käyttöä varten mallikortin asennuskomentosarja asentaa tiettyyn versioon lukitun palveluaikaisen suoritusympäristön ja palvelukorjauksella varustetun OneJevin, ja käyttöön tarvitaan yksi CUDA-grafiikkasuoritin. Mallikortissa todetaan, että koulutuksessa määritettyjä pituusrajoja pidemmät pyynnöt hylätään katkaisemisen sijaan.