Translated lanserar Lara Mini, en forskningsmodell för 45 språk

Translated presenterade Lara Mini den 12 november 2026 och släppte en forskningsmodell som tränats från grunden på 6 biljoner token från engelska och 44 andra språk, däribland alla 24 officiella EU-språk. Systemet har 7,2 miljarder parametrar men aktiverar bara 600 miljoner parametrar per token.

Blandad expertarkitektur aktiverar fyra av 128 routade experter för varje token, samtidigt som en delad expert förblir aktiv. De 34 lagren består av 14 linjära uppmärksamhetslager av typen Gated DeltaNet, 13 glidande fönsterlager för uppmärksamhet med ett fönster på 512 token och sju lager med global uppmärksamhet, vilket begränsar tillväxten av inferenstillståndet jämfört med fullständig uppmärksamhet. Efter den första träningskörningen utökades kontextfönstret från 4 096 till 131 072 token i ett separat steg med 100 miljarder token.

Translated byggde datasetet av öppet publicerade källor och filtrerade och deduplicerade dem till en samling på 13,8 biljoner token; 97 % av de inledande träningstokenen kom från den första genomläsningen av ett dokument. Engelska stod för 2,49 biljoner token, eller 41,4 %, medan de 44 andra språken stod för 2,18 biljoner, eller 36,4 %. Resten bestod av kod, matematik och exempel formaterade som data för övervakad finjustering.

Test av att ersätta andra språk med engelska

I ett separat test använde forskarna samma kontrollpunkt för två kontrollerade träningsfaser på 100 miljarder token vardera, där inlärningshastigheten avtar till noll i den sista träningsfasen. När den flerspråkiga andelen på 33 % ersattes med engelska ökade engelskans andel från 27 % till 60 %. I den tekniska rapporten står det att genomsnittet för engelskans utvecklingsdata ökade med bara 0,3 poäng, medan genomsnittet för de språk som stöds i den flerspråkiga utvärderingen minskade med 2,7 poäng.

Experimentet gäller bara den avslutande träningsfasen och mäter inte hur den flerspråkiga andelen påverkar den huvudsakliga förträningen. En separat analys av routningen visade att språken delar experter i stället för att tilldelas separata expertgrupper. Besläktade språk uppvisade liknande routning tidigt i nätverket och nästan identisk routning i de mittersta lagren. Författarna påpekar att delad routning inte visar att de semantiska representationerna också delas, och att deras experiment inte visar att flerspråkig träning förbättrar det allmänna resonemanget eller prestationen på engelska.

Benchmarkresultat och deras begränsningar

Translated utvärderade Lara Mini mot 56 andra öppna basmodeller på 26 benchmarktester inom engelska, flerspråkighet, matematik och kod, med gemensamma promptar, inställningar och metoder för att extrahera svar. Bland de 36 modellerna med högst 2 miljarder aktiva parametrar fick Lara Mini ett totalt genomsnitt på 57,0, före granite-4.0-h-tiny på 53,9 och Qwen3-1.7B på 53,8. De rapporterade totalsummorna för förträningen var 22,5 biljoner respektive 36 biljoner token, jämfört med 6 biljoner token i Lara Minis första träningskörning.

Translateds resultat placerade Lara Mini först i den här gruppen i flerspråkig förståelse med 56,7 och i matematik med 59,9, på andra plats i engelska med 66,4 och på femte plats i kod med 45,1. Totalpoängen väger genomsnittet för de fyra områdena lika tungt, och resultaten för flerspråkiga benchmarktester beräknas för varje modell som ett genomsnitt över de språk som Lara Mini stöder, utöver engelska. Jämförelsen omfattar basmodeller, inte instruktionsfinjusterade system. Kvaliteten varierar också mellan språken; azerbajdzjanska och bengali hör till de språk som stöds men får lägst poäng, eftersom träningsdata är begränsade.

Translated mätte Lara Minis hastighet till cirka 1 100 genererade tecken per sekund för en användare på en A100-GPU utan kvantisering. Alla modeller som hade ett högre totalt genomsnitt i hastighetsjämförelsen genererade text minst 1,8 gånger långsammare. Fördelen är störst för en enskild användare och långa promptar, och minskar när många användare delar på GPU:n.

Forskningsåtkomst och produktplaner

Den lanserade modellen är en basmodell för textfortsättning, inte ett system som följer instruktioner eller en chattbot, och den har inte säkerhetsfinjusterats. I modellkortet varnas det för att modellen kan generera felaktig, vinklad eller stötande text och att den inte bör användas som assistent utan ytterligare träning.

Tillgången till modellvikterna är begränsad, och varje begäran granskas av Translated. Vikterna licensieras under CC BY-NC-SA 4.0 för forskning och andra icke-kommersiella ändamål, medan koden och tokeniseraren använder Apache 2.0. Translated erbjuder separat kommersiell licensiering och släpper inga träningsdata tillsammans med modellen.

På Translateds forskningssida står det att utvalda företagskunder också får tillgång till modellen. Där beskrivs finjustering för specialiserade suveräna tillämpningar som ett avsett användningsområde. Lara Mini ingår i Lara 4, en familj av grundmodeller som ska ligga till grund för nästa generation av Lara Translate.

I en uppföljning som publicerades den 13 november 2026 stod det att Lara Mini ännu inte var tillgänglig i Lara Translate. Företaget planerade att använda modellen som bas för offlineöversättning av text i nästa Lara Translate-app. Texten skulle behandlas på telefonen, så att den stannar kvar på enheten. Uppgiften om 45 språk avser språk som ingick i träningen; det angavs inte vilka språk som skulle stödjas vid lanseringen av offlineöversättningen.

Den planerade appen kopplar forskningen till ett konkret produkttest: att göra en sparsam forskningskontrollpunkt till privat översättning direkt på enheten och samtidigt behålla den effektivitet och flerspråkiga prestanda som rapporterades i Translateds utvärdering.