Fortytwo julkaisee Engine API:n – raportoi 24,7% vähemmän tokeneita koodaustehtävissä

Fortytwo on julkaissut Fortytwo Enginen, inferenssi-API:n, jossa yhteistyötä tekevät tekoälymallit parantavat päättelyä ja vähentävät tehtävän suorittamiseen tarvittavan tuotetun tekstin määrää. Yhtiön mukaan sen ensimmäinen tuettu malli, Qwen 3.8 27B, käytti 450 DeepSWE-ohjelmistokehitystehtävän suorituksessa 24,7 % vähemmän tokeneita kuin sama malli yksinään ja ratkaisi samalla suuremman osuuden tehtävistä.

Julkistuksella pyritään vastaamaan tekoälyagenttien kasvavaan kustannusongelmaan: pieni tokenikohtainen hinta ei välttämättä tarkoita, että valmiin tehtävän hinta olisi pieni. Pitkissä koodaus- ja tutkimustehtävissä voi kertyä toistuvaa kontekstia, tarpeettomia työkalukutsuja ja uudelleenyrityksiä. Yhtiön mukaan Fortytwon lähestymistavalla pyritään vähentämään tätä hukkatyötä inferenssiprosessin aikana, samalla kun tokenikohtainen hinta pysyy perusmallin tasolla.

Päättelyn ohjaaminen ennen virheiden kasaantumista

Fortytwo kutsuu uuden Enginen taustalla olevaa teknologiaa Swarm Decoderiksi. Useat malliosallistujat muovaavat yhteistä päättelypolkua sen muodostuessa ja arvioivat, mikä suunta on vahvempi, ennen kuin vastaus on valmis. Tavoitteena on havaita heikot oletukset varhain ja välttää lisäsisällön tuottaminen sekä virheellisen suunnan jälkeen tarvittava korjaustyö.

Tämä poikkeaa Fortytwon aiemmasta arkkitehtuurista. Vuoden 2025 parvi-inferenssiä koskevassa tutkimuksessaan erilliset solmut tuottivat itsenäisiä vastauksia, vertasivat niitä suoraan keskenään ja yhdistivät parhaat osuudet. Yhtiö kuvailee tilastollista luokittelumekanismia, joka antaa enemmän painoarvoa hyväksi havaituille solmuille; vertaisarviointi auttaa niiden maineen muodostumisessa. Aiemmassa lähestymistavassa arvioitiin valmiita vastauksia, kun taas uusi Engine tuo vertaisluokittelun osaksi itse päättelyprosessia.

Tällä erolla on merkitystä agenteille, jotka työskentelevät monivaiheisten tehtävien parissa. Vahvimman valmiin vastauksen valitseminen voi parantaa vastausta, mutta se ei palauta tokeneita, jotka on jo käytetty heikompien vaihtoehtojen tuottamiseen. Jatkuvalla ohjauksella pyritään estämään tuloksettomaan suuntaan eteneminen jo alun perin. Fortytwon mukaan tokenilaskennassa huomioidaan kaikki osallistuvat mallit, eikä ainoastaan lopullista vastausta.

Toimitusjohtaja ja toinen perustaja Ivan Nikitin kuvaili hyötyä kaksiosaiseksi: ”Yhteisestä päättelystä on kaksinkertainen hyöty: vastaukset ovat parempia ja tehtävät vaativat vähemmän tokeneita.”

Mitä Fortytwon testit osoittavat

Yhtiön DeepSWE-arvioinnissa Engine sai 47,8 pistettä, kun perusmallin tulos oli 42,2 pistettä; parannusta kertyi 5,6 prosenttiyksikköä. Keskimääräinen tokenien käyttö väheni 16,3 miljoonasta 12,3 miljoonaan suoritusta kohden. Fortytwon mukaan kaikissa 450 suorituksessa perusmalli käytti yhteensä 7,4 miljardia tokenia ja Engine 5,6 miljardia.

Julkistusaineistossa raportoidaan myös paremmat tulokset viidessä muussa vertailutestissä, jotka kattavat tieteen, koodauksen ja yleisen päättelyn:

Lähde: Fortytwon julkistus Engine-palvelun lanseerauksesta. Tuloksissa verrataan Qwen 3.8 27B -mallia Enginen kanssa ja ilman sitä yhtiön arviointikäytännön mukaisesti.

Nämä ovat yhtiön raportoimia tuloksia. Tokenien 24,7 prosentin vähennys koskee nimenomaan DeepSWE-suorituksia, eikä sitä pidä tulkita kaikissa vertailutesteissä tai kaikissa tuotantotyökuormissa mitatuksi säästöksi. Kehittäjille käytännön testi on se, suorittaako malli heidän omat tehtävänsä tarkasti käyttämällä yhteensä vähemmän tokeneita ja tekemällä vähemmän uudelleenyrityksiä ja työkalukutsuja.

Tuttu API, mutta yhteensopivuudella on rajansa

Palvelu on saatavilla Fortytwon kehittäjäalustan kautta. Sen API-dokumentaatiossa kerrotaan yhteensopivuudesta OpenAI Chat Completions API:n kanssa. Näin olemassa olevassa SDK:ssa tai asiakasohjelmassa voi käyttää Fortytwon API-avainta ja perus-URL-osoitetta sekä tuettua mallitunnistetta.

Dokumentoituja ominaisuuksia ovat suoratoisto, funktiotyökalut, rinnakkaiset työkalukutsut ja rakenteinen tulostus. Kehittäjät voivat myös valita päättelyn tehokkuustason. Näiden ominaisuuksien ansiosta palvelu soveltuu agenteille, joiden on kutsuttava ohjelmistotyökaluja ja palautettava koneellisesti luettavia tuloksia sen sijaan, että ne tuottaisivat vain keskustelutekstiä.

Yhteensopivuudella on rajansa. Dokumentaation mukaan Chat Completions ja mallien luettelointi ovat tuettuja päätepisteitä, mutta esimerkiksi Responses-, Embeddings-, Audio-, Files- ja Assistants-rajapintoja ei tueta. Joitakin pyyntökenttiä tuetaan vain osittain tai niiden toiminta riippuu valitusta mallista, ja tuettomista kentistä palautetaan virhe sen sijaan, että ne ohitettaisiin huomaamatta. Olemassa olevaa sovellusta siirtävien tiimien kannattaa siksi tarkistaa sen todelliset pyynnöt yhteensopivuusoppaasta.

Laajempi panostus tekoälyn yhteiseen työskentelyyn

Engine toimii Fortytwo Harbor-ratkaisun rinnalla. Se on yrityksen tarjoama palvelu organisaatioille, jotka haluavat ottaa parvipäättelyn käyttöön omassa infrastruktuurissaan. Fortytwo kertoo Harborin perustuvan siihen, että data pysyy organisaation rajojen sisällä ja kustannukset muodostuvat kiinteästä laitehinnasta token-kohtaisen API-laskutuksen sijaan.

Yrityksen laajempaan tutkimusohjelmaan kuuluu myös koulutusdatan tuottaminen sen malliverkoston avulla. Yrityksen verkkosivuilla esitellään Strand-Rust-Coder-14B, avoin malli, joka on koulutettu Fortytwon tuottamalla aineistolla. Tämä työ keskittyy mallien kouluttamiseen, kun taas uusi Engine pyrkii parantamaan sitä, miten olemassa olevat avoimilla painoilla julkaistut mallit päättelevät käytön aikana.

Vuonna 2024 perustettu Fortytwo kertoo, että sen 15 insinöörin tiimiin kuuluu työntekijöitä myös Mountain View’ssa ja Abu Dhabissa. Yhtiö keräsi vuonna 2025 kahden miljoonan dollarin pre-seed-rahoituksen ja liittyi Abu Dhabin Hub71-ekosysteemiin vuonna 2026. Engineen on määrä tulla lisää avoimia malleja Qwen 3.8 27B:n jälkeen.

Julkaisussa painotetaan kustannuksia onnistunutta tehtävää kohden. Jos jatkuva vertaisarviointi pystyy luotettavasti vähentämään hukkaan menevää päättelyä niin paljon, että säästöt kattavat sen omat lisäkustannukset, kehittäjillä voi olla käytössään toinenkin keino parantaa agenttien taloudellisuutta parempien mallien ja nopeamman laitteiston rinnalla.