Translated julkaisee Lara Minin, 45 kielen tutkimusmallin

Translated julkisti Lara Minin 12. marraskuuta 2026. Kyseessä on alusta asti koulutettu tutkimusmalli, jonka koulutusaineisto kattaa 6 biljoonaa tokenia englanniksi ja 44 muulla kielellä, mukaan lukien kaikki EU:n 24 virallista kieltä. Järjestelmässä on 7,2 miljardia parametria, mutta kutakin tokenia kohden aktivoituu vain 600 miljoonaa parametria.

Asiantuntijasekoitearkkitehtuurissa kutakin tokenia kohden aktivoituu neljä 128 reititetystä asiantuntijasta, ja yksi yhteinen asiantuntija pysyy aktiivisena. Mallin 34 kerrokseen kuuluu 14 Gated DeltaNet -lineaarisen huomion kerrosta, 13 liukuvaan ikkunaan perustuvan huomion kerrosta, joiden ikkuna on 512 tokenia, sekä seitsemän globaalin huomion kerrosta. Tämä rajoittaa päättelytilan kasvua täyteen huomioon verrattuna. Alkuperäisen koulutusajon jälkeen erillisessä 100 miljardin tokenin vaiheessa konteksti-ikkunaa laajennettiin 4 096 tokenista 131 072 tokeniin.

Translated kokosi aineiston avoimesti julkaistuista lähteistä, suodatti ja poisti niistä kaksoiskappaleet ja muodosti näin 13,8 biljoonan tokenin kokonaisuuden. Alkuperäisen koulutuksen tokeneista 97 % oli peräisin dokumenttien ensilukukerroilta. Englannin osuus oli 2,49 biljoonaa tokenia eli 41,4 %, kun taas 44 muun kielen osuus oli 2,18 biljoonaa tokenia eli 36,4 %. Loput muodostuivat koodista, matematiikasta ja esimerkeistä, jotka oli muotoiltu ohjatun hienosäädön aineiston kaltaisiksi.

Englannilla korvaamisen testaaminen

Erillisessä testissä tutkijat käyttivät samaa tarkistuspistettä kahteen hallittuun 100 miljardin tokenin jäähdytysvaiheeseen. Ne ovat koulutuksen viimeinen vaihe, jossa oppimisnopeus laskee nollaan. Kun monikielinen 33 prosentin osuus korvattiin englannilla, englannin osuus kasvoi 27 prosentista 60 prosenttiin. Teknisessä raportissa kerrotaan, että englanninkielisten kehitysaineistojen keskiarvo nousi vain 0,3 pistettä, kun taas tuettujen kielten monikielinen keskiarvo laski 2,7 pistettä.

Koe koskee vain jäähdytysvaihetta; siinä ei mitata monikielisen osuuden vaikutusta varsinaisen esikoulutusvaiheen aikana. Erillisessä reititysanalyysissä havaittiin, että kielet käyttävät samoja asiantuntijoita eivätkä saa omia asiantuntijaryhmiään. Lähisukuisilla kielillä reititys oli verkon alkupäässä samankaltaista ja keskikerroksissa lähes identtistä. Kirjoittajat huomauttavat, ettei yhteinen reititys osoita, että myös semanttiset esitykset olisivat yhteisiä. Heidän kokeensa eivät myöskään osoita, että monikielinen koulutus parantaisi yleistä päättelykykyä tai englanninkielistä suorituskykyä.

Vertailutulokset ja niiden rajoitukset

Translated vertasi Lara Miniä 56 muuhun avoimeen perusmalliin 26 englannin, monikielisyyden, matematiikan ja koodauksen vertailutestissä käyttäen samoja kehotteita, asetuksia ja vastausten poimintatapaa. Niistä 36 mallista, joissa oli enintään 2 miljardia aktiivista parametria, Lara Minin kokonaiskeskiarvo oli 57,0. Se päihitti granite-4.0-h-tinyn (53,9) ja Qwen3-1.7B:n (53,8). Niiden ilmoitetut esikoulutuksen tokenimäärät olivat vastaavasti 22,5 biljoonaa ja 36 biljoonaa, kun taas Lara Minin alkuperäisessä koulutusajossa niitä oli 6 biljoonaa.

Translatedin tulosten mukaan Lara Mini sijoittui tässä malliluokassa ensimmäiseksi monikielisessä ymmärtämisessä (56,7) ja matematiikassa (59,9), toiseksi englannissa (66,4) ja viidenneksi koodauksessa (45,1). Kokonaispisteytyksessä neljän osa-alueen keskiarvoilla on yhtä suuri paino, ja monikielisten vertailutestien keskiarvo lasketaan kaikille malleille niiden muiden kuin englanninkielisten kielten perusteella, joita Lara Mini tukee. Vertailussa on mukana perusmalleja, ei ohjeiden mukaan hienosäädettyjä järjestelmiä. Laatu vaihtelee myös kielittäin: tuetuista kielistä azerbaidžani ja bengali saivat heikoimpia tuloksia, sillä niiden koulutusaineistoa on rajallisesti.

Translated mittasi Lara Minin tuottavan noin 1 100 merkkiä sekunnissa yhdelle käyttäjälle A100-näytönohjaimella ilman kvantisointia. Jokainen malli, jonka kokonaiskeskiarvo oli nopeusvertailussa korkeampi, tuotti tekstiä vähintään 1,8 kertaa hitaammin. Etu on suurin yhdellä käyttäjällä ja pitkillä kehotteilla, ja se pienenee, kun samaa näytönohjainta käyttää useita käyttäjiä.

Tutkimuksen saatavuus ja tuotesuunnitelmat

Julkaistu malli on tekstin jatkamiseen tarkoitettu perusmalli, ei ohjeita seuraava tai keskusteluun tarkoitettu järjestelmä, eikä sitä ole turvallisuussäädetty. Sen mallikortissa varoitetaan, että malli voi tuottaa virheellistä, puolueellista tai loukkaavaa tekstiä, eikä sitä pidä ottaa käyttöön avustajana ilman lisäkoulutusta.

Mallipainojen käyttöoikeutta on rajattu, ja Translated tarkistaa jokaisen pyynnön. Painot on lisensoitu CC BY-NC-SA 4.0 -lisenssillä tutkimukseen ja muihin ei-kaupallisiin tarkoituksiin, kun taas koodi ja tokenisoija käyttävät Apache 2.0 -lisenssiä. Translated tarjoaa kaupallisen lisenssin erikseen eikä julkaise mallin yhteydessä koulutusaineistoa.

Translatedin tutkimussivun mukaan myös valitut yritysasiakkaat saavat käyttöoikeuden, ja sivulla kuvataan erikoistuneiden suvereenien sovellusten hienosäätö mallin suunnitelluksi käyttötarkoitukseksi. Lara Mini kuuluu Lara 4:ään, Lara Translate -palvelun seuraavan sukupolven perustamalliperheeseen.

13. marraskuuta 2026 julkaistussa jatkopäivityksessä kerrottiin, ettei Lara Mini ollut vielä saatavilla Lara Translatessa. Yhtiö aikoi käyttää sitä pohjamallina seuraavan Lara Translate -sovelluksen verkkoyhteydettömään tekstinkäännökseen, jossa teksti käsitellään puhelimessa ja pysyy siten laitteessa. Mainittu 45 kielen määrä kuvaa koulutuksessa mukana olleita kieliä; verkkoyhteydettömän käännöksen julkaisuvaiheen kielitukea ei täsmennetty.

Suunniteltu sovellus yhdistää tutkimuksen konkreettiseen tuotetestiin: tutkimuskäyttöön tarkoitetun, niukasti koulutetun tarkistuspisteen muuntamiseen yksityisyyttä suojaavaksi, laitteessa toimivaksi käännökseksi siten, että Translatedin arvioinnissa raportoitu tehokkuus ja monikielinen suorituskyky säilyvät.