Translated lancerer Lara Mini, en forskningsmodel til 45 sprog

Translated annoncerede Lara Mini den 12. november 2026 og lancerede dermed en forskningsmodel, der er trænet fra bunden på 6 billioner tokens på engelsk og 44 andre sprog, herunder samtlige 24 officielle EU-sprog. Systemet har 7,2 milliarder parametre, men aktiverer kun 600 millioner parametre pr. token.

Mixture-of-experts-arkitekturen aktiverer fire af 128 routede eksperter for hvert token, mens én delt ekspert forbliver aktiv. Modellens 34 lag består af 14 lag med lineær opmærksomhed af typen Gated DeltaNet, 13 lag med glidende vinduesopmærksomhed og et vindue på 512 tokens samt syv lag med global opmærksomhed, hvilket begrænser væksten i inferenstilstanden sammenlignet med fuld opmærksomhed. Efter den indledende træningskørsel udvidede et separat trin på 100 milliarder tokens kontekstvinduet fra 4.096 til 131.072 tokens.

Translated opbyggede datasættet ud fra offentligt frigivne kilder, som blev filtreret og deduplikeret til en pulje på 13,8 billioner tokens; 97 % af de indledende træningstokens var første gennemlæsning af et dokument. Engelsk bidrog med 2,49 billioner tokens, svarende til 41,4 %, mens de 44 andre sprog bidrog med 2,18 billioner, svarende til 36,4 %. Resten bestod af kode, matematik og eksempler formateret som data til supervised fine-tuning.

Test af substitution med engelsk

Til en separat test brugte forskerne det samme checkpoint til to kontrollerede annealeringsforløb på 100 milliarder tokens. Annealering er den afsluttende træningsfase, hvor læringsraten falder til nul. Da den flersprogede andel på 33 % blev erstattet med engelsk, steg engelskandelen fra 27 % til 60 %. Den tekniske rapport angiver, at gennemsnittet på engelske udviklingsdata kun steg med 0,3 point, mens gennemsnittet for de understøttede sprog på flersprogede opgaver faldt med 2,7 point.

Eksperimentet omfatter kun annealeringsfasen; det måler ikke, hvilken effekt den flersprogede andel har under hovedfasen af prætræningen. En separat analyse af routingen viste, at sprogene deler eksperter i stedet for at få tildelt separate ekspertgrupper, og at beslægtede sprog havde lignende routing tidligt i netværket og næsten identisk routing i de midterste lag. Forfatterne understreger, at delt routing ikke dokumenterer delte semantiske repræsentationer, og at deres eksperimenter ikke viser, at flersproget træning forbedrer generel ræsonnering eller præstation på engelsk.

Benchmarkresultater og deres begrænsninger

Translated evaluerede Lara Mini på 26 engelsksprogede, flersprogede, matematiske og kodebaserede benchmarks sammen med 56 andre åbne basismodeller. Evalueringen brugte fælles prompts, indstillinger og metoder til udtrækning af svar. Blandt de 36 modeller med op til 2 milliarder aktive parametre opnåede Lara Mini et samlet gennemsnit på 57,0, foran granite-4.0-h-tiny med 53,9 og Qwen3-1.7B med 53,8. Deres rapporterede prætræning omfattede henholdsvis 22,5 og 36 billioner tokens sammenlignet med 6 billioner i Lara Minis indledende træningskørsel.

Translateds resultater placerede Lara Mini på førstepladsen i denne klasse inden for flersproget forståelse med 56,7 og matematik med 59,9, på andenpladsen i engelsk med 66,4 og på femtepladsen i kode med 45,1. Den samlede score vægter gennemsnittet for de fire områder lige højt, og de flersprogede benchmarks beregnes for alle modeller som et gennemsnit på tværs af de sprog, der understøttes af Lara Mini, bortset fra engelsk. Sammenligningen omfatter basismodeller, ikke instruktionsjusterede systemer. Kvaliteten varierer også mellem sprogene; aserbajdsjansk og bengali er blandt de understøttede sprog med de laveste scorer, fordi der er begrænsede træningsdata.

Translated målte Lara Minis generering til cirka 1.100 tegn i sekundet for én bruger på en A100-GPU uden kvantisering; alle modeller med et højere samlet gennemsnit i hastighedssammenligningen genererede tekst mindst 1,8 gange langsommere. Fordelen er størst for én bruger og lange prompts og bliver mindre, når mange brugere deler GPU’en.

Forskningsadgang og produktplaner

Den frigivne model er en basismodel til tekstfortsættelse, ikke et system, der følger instruktioner eller fungerer som chat, og den er ikke sikkerhedsjusteret. Modellens modelkort advarer om, at den kan generere forkert, forudindtaget eller stødende tekst, og at den ikke bør implementeres som assistent uden yderligere træning.

Adgangen til vægtene er begrænset, og hver anmodning gennemgås af Translated. Vægtene er licenseret under CC BY-NC-SA 4.0 til forskning og andre ikke-kommercielle formål, mens koden og tokenizerens licens er Apache 2.0. Translated tilbyder separat licensering til kommerciel brug og frigiver ingen træningsdata sammen med modellen.

Translateds forskningsside oplyser, at udvalgte erhvervskunder også får adgang, og beskriver finjustering til specialiserede suveræne anvendelser som et tilsigtet formål. Lara Mini er en del af Lara 4, familien af grundmodeller, der skal drive den næste generation af Lara Translate.

En opfølgende artikel offentliggjort den 13. november 2026 oplyste, at Lara Mini endnu ikke var tilgængelig i Lara Translate. Virksomheden planlagde at bruge den som grundlag for offlineoversættelse af tekst i den næste Lara Translate-app, hvor behandlingen skulle foregå på telefonen, så teksten forbliver på enheden. Oplysningen om 45 sprog beskriver træningsdækningen; det blev ikke specificeret, hvilke sprog der ville blive understøttet ved lanceringen af offlineoversættelse.

Den planlagte app knytter forskningen til en konkret produkttest: at omsætte et sparsomt forskningscheckpoint til privat oversættelse direkte på enheden, samtidig med at effektiviteten og den flersprogede ydeevne, der blev rapporteret i Translateds evaluering, bevares.