Translated lanserer Lara Mini, en forskningsmodell for 45 språk

Translated kunngjorde Lara Mini 12. november 2026 og lanserte dermed en forskningsmodell som er trent fra bunnen av på 6 billioner tokener fra engelsk og 44 andre språk, deriblant alle de 24 offisielle EU-språkene. Systemet har 7,2 milliarder parametere, men aktiverer bare 600 millioner parametere per token.

Mixture-of-experts-arkitekturen aktiverer fire av 128 rutede eksperter for hvert token, mens én delt ekspert alltid er aktiv. De 34 lagene består av 14 lag med lineær oppmerksomhet av typen Gated DeltaNet, 13 lag med oppmerksomhet over et glidende vindu på 512 tokener og sju lag med global oppmerksomhet. Dette begrenser veksten i inferenstilstanden sammenlignet med full oppmerksomhet. Etter den første treningskjøringen utvidet en separat fase på 100 milliarder tokener kontekstvinduet fra 4 096 til 131 072 tokener.

Translated bygde datasettet på grunnlag av åpent tilgjengelige kilder, som ble filtrert og deduplisert til en samling på 13,8 billioner tokener. 97 % av tokenerne i den første treningsrunden kom fra dokumenters første gjennomlesning. Engelsk bidro med 2,49 billioner tokener, eller 41,4 %, mens de 44 andre språkene bidro med 2,18 billioner, eller 36,4 %. Resten besto av kode, matematikk og eksempler formatert som data for veiledet finjustering.

Testing av engelsk som erstatning

I en separat test brukte forskerne det samme kontrollpunktet i to kontrollerte nedkjøringsfaser på 100 milliarder tokener. Dette er den siste fasen av treningen, der læringsraten reduseres til null. Da den flerspråklige andelen på 33 % ble erstattet med engelsk, økte andelen engelsk fra 27 % til 60 %. Den tekniske rapporten oppgir at gjennomsnittet på engelske utviklingsdata bare økte med 0,3 poeng, mens gjennomsnittet på de støttede språkene i den flerspråklige evalueringen falt med 2,7 poeng.

Eksperimentet gjelder bare nedkjøringsfasen; det måler ikke effekten av den flerspråklige andelen under hovedfasen av forhåndstreningen. En separat analyse av rutingen viste at språkene deler eksperter i stedet for å få hver sine ekspertgrupper. Beslektede språk hadde lignende ruting tidlig i nettverket og nesten identisk ruting i de midtre lagene. Forfatterne understreker at delt ruting ikke er bevis for delte semantiske representasjoner, og at forsøkene deres ikke viser at flerspråklig trening forbedrer generell resonnering eller ytelse på engelsk.

Referanseresultater og begrensninger

Translated evaluerte Lara Mini mot 56 andre åpne grunnmodeller på 26 referansetester innen engelsk, flerspråklighet, matematikk og kode, med felles instruksjoner, innstillinger og metode for uttrekk av svar. Blant de 36 modellene med opptil 2 milliarder aktive parametere fikk Lara Mini et samlet gjennomsnitt på 57,0, foran granite-4.0-h-tiny med 53,9 og Qwen3-1.7B med 53,8. De rapporterte forhåndstreningsmengdene var henholdsvis 22,5 billioner og 36 billioner tokener, sammenlignet med 6 billioner for Laras Minis første treningskjøring.

Resultatene fra Translated plasserte Lara Mini øverst i denne gruppen i flerspråklig forståelse med 56,7 og i matematikk med 59,9, på andreplass i engelsk med 66,4 og på femteplass i kode med 45,1. Den samlede poengsummen gir de fire fagområdenes gjennomsnitt lik vekt, og for alle modellene beregnes gjennomsnittet for flerspråklige referansetester ut fra Lara Minis støttede språk utenom engelsk. Sammenligningen omfatter grunnmodeller, ikke modeller som er finjustert til å følge instruksjoner. Kvaliteten varierer også mellom språkene, og aserbajdsjansk og bengali er blant de støttede språkene med lavest poengsum, der treningsdataene er begrensede.

Translated målte at Lara Mini genererte rundt 1 100 tegn per sekund for én bruker på en A100-GPU uten kvantisering. Alle modellene som hadde et høyere samlet gjennomsnitt i hastighetssammenligningen, genererte tekst minst 1,8 ganger langsommere. Fordelen er størst for én bruker og lange instruksjoner, og blir mindre når mange brukere deler GPU-en.

Tilgang til forskningen og produktplaner

Modellen som er gjort tilgjengelig, er en grunnmodell for tekstfortsettelse, ikke et system som følger instruksjoner eller en chatløsning, og den er ikke sikkerhetsfinjustert. Modellkortet advarer om at modellen kan generere feilaktig, forutinntatt eller støtende tekst, og at den ikke bør tas i bruk som assistent uten ytterligere trening.

Tilgangen til modellvektene er begrenset, og Translated vurderer hver søknad. Vektene er lisensiert under CC BY-NC-SA 4.0 for forskning og andre ikke-kommersielle formål, mens koden og tokenisatoren bruker Apache 2.0-lisensen. Translated tilbyr kommersiell lisensiering separat og gir ikke ut treningsdata sammen med modellen.

Forskningssiden til Translated opplyser at utvalgte bedriftskunder også vil få tilgang, og beskriver finjustering for spesialiserte, suverene bruksområder som en planlagt bruk. Lara Mini er en del av Lara 4, familien av grunnmodeller som skal danne grunnlaget for neste generasjon av Lara Translate.

En oppfølging publisert 13. november 2026 opplyste at Lara Mini ennå ikke var tilgjengelig i Lara Translate. Selskapet planla å bruke modellen som grunnlag for frakoblet teksteoversettelse i den neste Lara Translate-appen, med behandling på telefonen slik at teksten blir værende på enheten. Opplysningen om 45 språk viser til hvilke språk modellen er trent på; det ble ikke spesifisert hvilke språk som skulle støttes ved lanseringen av frakoblet oversettelse.

Den planlagte appen knytter forskningen til en konkret produkttest: å gjøre et enkelt forskningssjekkpunkt om til privat oversettelse på enheten, samtidig som effektiviteten og den flerspråklige ytelsen som er rapportert i evalueringen fra Translated, opprettholdes.