Translated lansează Lara Mini, un model de cercetare în 45 de limbi

Translated a anunțat Lara Mini pe 12 noiembrie 2026, lansând un model de cercetare antrenat de la zero pe 6 000 de miliarde de tokenuri în engleză și în alte 44 de limbi, inclusiv toate cele 24 de limbi oficiale ale UE. Sistemul, cu 7,2 miliarde de parametri, activează doar 600 de milioane de parametri pentru fiecare token.

Arhitectura cu experți multipli activează patru dintre cei 128 de experți selectați pentru fiecare token, în timp ce un expert comun rămâne activ. Cele 34 de straturi combină 14 straturi de atenție liniară Gated DeltaNet, 13 straturi de atenție cu fereastră glisantă de 512 tokenuri și șapte straturi de atenție globală, limitând creșterea stării de inferență în raport cu atenția completă. După sesiunea inițială de antrenare, o etapă separată, cu 100 de miliarde de tokenuri, a extins fereastra de context de la 4 096 la 131 072 de tokenuri.

Translated a construit setul de date din surse publicate în mod deschis, filtrându-le și eliminând duplicatele pentru a obține un corpus de 13 800 de miliarde de tokenuri; 97% dintre tokenurile folosite la antrenarea inițială reprezentau prima citire a unui document. Engleza a furnizat 2 490 de miliarde de tokenuri, adică 41,4%, iar celelalte 44 de limbi au furnizat 2 180 de miliarde, adică 36,4%. Restul a provenit din cod, matematică și exemple formatate asemenea datelor de ajustare fină supervizată.

Testarea înlocuirii cu engleză

Pentru un test separat, cercetătorii au folosit același punct de control pentru două etape controlate de ajustare a ratei de învățare, fiecare cu 100 de miliarde de tokenuri. În această fază finală a antrenării, rata de învățare scade până la zero. Înlocuirea ponderii de 33% alocate limbilor multilingve cu engleza a mărit ponderea englezei de la 27% la 60%. Raportul tehnic arată că media rezultatelor la evaluarea în limba engleză a crescut cu doar 0,3 puncte, în timp ce media rezultatelor multilingve pentru limbile acceptate a scăzut cu 2,7 puncte.

Experimentul se referă numai la etapa de ajustare a ratei de învățare; nu măsoară efectul ponderii limbilor multilingve în etapa principală de preantrenare. O analiză separată a rutării a constatat că limbile folosesc aceiași experți, în loc să primească grupuri distincte de experți, iar limbile înrudite au tipare de rutare similare în primele straturi ale rețelei și aproape identice în straturile din mijloc. Autorii avertizează că rutarea comună nu demonstrează existența unor reprezentări semantice comune și că experimentele lor nu arată că antrenarea multilingvă îmbunătățește raționamentul general sau performanța în limba engleză.

Scorurile la teste de referință și limitele lor

Translated a evaluat Lara Mini în raport cu alte 56 de modele de bază cu acces deschis, folosind 26 de teste de referință pentru limba engleză, competențe multilingve, matematică și programare, precum și instrucțiuni, setări și metode de extragere a răspunsurilor comune. Dintre cele 36 de modele cu cel mult 2 miliarde de parametri activi, Lara Mini a obținut o medie generală de 57,0, depășind granite-4.0-h-tiny, cu 53,9, și Qwen3-1.7B, cu 53,8. Totalurile raportate pentru preantrenarea acestora au fost de 22 500 de miliarde, respectiv 36 000 de miliarde de tokenuri, comparativ cu 6 000 de miliarde pentru sesiunea inițială de antrenare a Lara Mini.

Rezultatele obținute de Translated plasează Lara Mini pe primul loc din această categorie la înțelegerea multilingvă, cu 56,7, și la matematică, cu 59,9; pe locul al doilea la limba engleză, cu 66,4; și pe locul al cincilea la programare, cu 45,1. Scorul general acordă ponderi egale mediilor celor patru domenii, iar scorurile la testele de referință multilingve sunt calculate, pentru fiecare model, ca medie pentru limbile non-engleze acceptate de Lara Mini. Comparația include modele de bază, nu sisteme ajustate pentru a urma instrucțiuni. Calitatea variază, de asemenea, de la o limbă la alta, iar azerbaidjana și bengaleza se numără printre limbile acceptate cu cele mai mici scoruri, acolo unde datele de antrenare sunt limitate.

Translated a măsurat pentru Lara Mini o viteză de aproximativ 1 100 de caractere generate pe secundă pentru un singur utilizator, pe un GPU A100 și fără cuantizare; fiecare model cu o medie generală mai mare în comparația de viteză a generat textul de cel puțin 1,8 ori mai lent. Avantajul este cel mai pronunțat pentru un singur utilizator și instrucțiuni lungi, și se reduce când mai mulți utilizatori folosesc același GPU.

Acces la cercetare și planuri privind produsul

Modelul lansat este un model de bază care continuă textul, nu un sistem conceput să urmeze instrucțiuni sau să poarte conversații, și nu a fost ajustat pentru siguranță. Fișa modelului avertizează că acesta poate genera texte incorecte, părtinitoare sau ofensatoare și că nu ar trebui implementat ca asistent fără antrenare suplimentară.

Accesul la ponderi este supus aprobării, fiecare solicitare fiind evaluată de Translated. Ponderile sunt licențiate în baza licenței CC BY-NC-SA 4.0 pentru cercetare și alte scopuri necomerciale, în timp ce codul și tokenizerul sunt licențiate în baza Apache 2.0. Translated oferă separat licențe comerciale și nu publică datele de antrenare împreună cu modelul.

Pagina de cercetare a Translated precizează că și anumiți clienți din mediul de afaceri vor avea acces și menționează ajustarea fină pentru aplicații suverane specializate ca utilizare preconizată. Lara Mini face parte din Lara 4, familia de modele fundamentale destinată să susțină următoarea generație a Lara Translate.

Un articol ulterior, publicat pe 13 noiembrie 2026, a precizat că Lara Mini nu era încă disponibilă în Lara Translate. Compania intenționa să o folosească drept bază pentru traducerea offline a textelor în următoarea aplicație Lara Translate, procesarea urmând să se desfășoare pe telefon, astfel încât textul să rămână pe dispozitiv. Mențiunea privind cele 45 de limbi descrie acoperirea antrenării; limbile disponibile la lansare pentru traducerea offline nu au fost precizate.

Aplicația planificată leagă cercetarea de un test concret al produsului: transformarea unui punct de control de cercetare cu activare rară într-un sistem privat de traducere direct pe dispozitiv, păstrând eficiența și performanța multilingvă raportate în evaluarea Translated.