Translated udostępnia Lara Mini — model badawczy obsługujący 45 języków

12 listopada 2026 r. firma Translated ogłosiła model Lara Mini, wytrenowany od podstaw na 6 bilionach tokenów obejmujących język angielski i 44 inne języki, w tym wszystkie 24 języki urzędowe UE. System o 7,2 miliarda parametrów aktywuje tylko 600 milionów parametrów na token.

Architektura typu mixture of experts aktywuje dla każdego tokenu czterech z 128 ekspertów wybieranych przez mechanizm routingu, a jeden współdzielony ekspert pozostaje aktywny. Jej 34 warstwy obejmują 14 warstw uwagi liniowej Gated DeltaNet, 13 warstw uwagi z oknem przesuwnym o długości 512 tokenów oraz siedem warstw globalnej uwagi, co ogranicza wzrost stanu wnioskowania w porównaniu z pełną uwagą. Po początkowym etapie treningu odrębny etap obejmujący 100 miliardów tokenów wydłużył okno kontekstu z 4 096 do 131 072 tokenów.

Firma Translated zbudowała zbiór danych z publicznie udostępnionych źródeł, filtrując je i usuwając duplikaty, aby utworzyć pulę 13,8 biliona tokenów; 97% tokenów użytych w początkowym treningu pochodziło z pierwszego odczytu dokumentu. Język angielski dostarczył 2,49 biliona tokenów, czyli 41,4%, a 44 pozostałe języki — 2,18 biliona, czyli 36,4%. Resztę stanowiły kod, matematyka oraz przykłady sformatowane jak dane do nadzorowanego dostrajania.

Test zastępowania danych angielskich

W odrębnym teście naukowcy wykorzystali ten sam punkt kontrolny do przeprowadzenia dwóch kontrolowanych etapów wygaszania obejmujących po 100 miliardów tokenów — końcowej fazy treningu, w której współczynnik uczenia spada do zera. Zastąpienie angielskim 33-procentowego udziału danych wielojęzycznych zwiększyło udział angielskiego z 27% do 60%. Raport techniczny podaje, że średni wynik w anglojęzycznym zbiorze deweloperskim wzrósł zaledwie o 0,3 punktu, podczas gdy średni wynik wielojęzyczny dla obsługiwanych języków spadł o 2,7 punktu.

Eksperyment dotyczy wyłącznie etapu wygaszania; nie mierzy wpływu udziału danych wielojęzycznych na główny etap wstępnego treningu. Odrębna analiza routingu wykazała, że języki współdzielą ekspertów, zamiast korzystać z osobnych grup ekspertów, a pokrewne języki wykazują podobny routing we wczesnych warstwach sieci i niemal identyczny w warstwach środkowych. Autorzy zastrzegają, że współdzielony routing nie dowodzi istnienia wspólnych reprezentacji semantycznych, a ich eksperymenty nie wykazują, że trening wielojęzyczny poprawia ogólne zdolności rozumowania ani wyniki w języku angielskim.

Wyniki testów porównawczych i ich ograniczenia

Translated porównała Lara Mini z 56 innymi otwartymi modelami bazowymi w 26 testach porównawczych dotyczących języka angielskiego, wielu języków, matematyki i kodowania, stosując wspólne prompty, ustawienia i metody ekstrakcji odpowiedzi. Wśród 36 modeli z maksymalnie 2 miliardami aktywnych parametrów Lara Mini uzyskała średni wynik ogólny 57,0, wyprzedzając granite-4.0-h-tiny z wynikiem 53,9 oraz Qwen3-1.7B z wynikiem 53,8. Zgłoszona liczba tokenów użytych do ich wstępnego treningu wyniosła odpowiednio 22,5 biliona i 36 bilionów, w porównaniu z 6 bilionami w początkowym etapie treningu Lara Mini.

Wyniki Translated plasują Lara Mini na pierwszym miejscu w tej klasie pod względem rozumienia wielojęzycznego — z wynikiem 56,7 — oraz matematyki — z wynikiem 59,9; na drugim miejscu w języku angielskim — z wynikiem 66,4 — i na piątym w kodowaniu — z wynikiem 45,1. Wynik ogólny nadaje jednakową wagę średnim wynikom z czterech dziedzin, a dla każdego modelu wyniki testów wielojęzycznych uśredniono dla obsługiwanych przez Lara Mini języków innych niż angielski. Porównanie obejmuje modele bazowe, a nie systemy dostrojone do wykonywania instrukcji. Jakość różni się także w zależności od języka: azerski i bengalski należą do obsługiwanych języków z najniższymi wynikami, w których dostępne są ograniczone dane treningowe.

Translated zmierzyła szybkość generowania tekstu przez Lara Mini na poziomie około 1 100 znaków na sekundę dla jednego użytkownika korzystającego z procesora graficznego A100, bez kwantyzacji; każdy model z wyższym średnim wynikiem ogólnym w porównaniu szybkości generował tekst co najmniej 1,8 raza wolniej. Przewaga jest największa w przypadku jednego użytkownika i długich promptów, a zmniejsza się, gdy z procesora graficznego korzysta jednocześnie wielu użytkowników.

Dostęp do badań i plany dotyczące produktu

Udostępniony model bazowy służy do kontynuowania tekstu, a nie do wykonywania instrukcji ani prowadzenia rozmów, i nie został dostrojony pod kątem bezpieczeństwa. W karcie modelu ostrzeżono, że może generować błędne, stronnicze lub obraźliwe treści i nie należy wdrażać go jako asystenta bez dodatkowego treningu.

Dostęp do wag jest ograniczony, a każdy wniosek rozpatruje firma Translated. Wagi udostępniono na licencji CC BY-NC-SA 4.0 do celów badawczych i innych zastosowań niekomercyjnych, natomiast kod i tokenizator — na licencji Apache 2.0. Translated oferuje osobną licencję komercyjną i nie udostępnia wraz z modelem żadnych danych treningowych.

Strona badawcza Translated informuje, że dostęp otrzymają również wybrani klienci korporacyjni, i wskazuje dostrajanie do specjalistycznych zastosowań suwerennych jako jedno z planowanych zastosowań. Lara Mini jest częścią Lara 4 — rodziny modeli bazowych, która ma napędzać kolejną generację Lara Translate.

W opublikowanym 13 listopada 2026 r. materiale uzupełniającym podano, że Lara Mini nie była jeszcze dostępna w Lara Translate. Firma planowała wykorzystać ją jako model bazowy do tłumaczenia tekstu offline w następnej aplikacji Lara Translate, tak aby przetwarzanie odbywało się na telefonie, a tekst pozostawał na urządzeniu. Informacja o 45 językach odnosi się do zakresu danych treningowych; nie określono, które języki będą obsługiwane przy premierze funkcji tłumaczenia offline.

Planowana aplikacja łączy badania z konkretnym testem produktu: przekształceniem skromnego badawczego punktu kontrolnego w prywatne tłumaczenie wykonywane na urządzeniu, przy zachowaniu wydajności i wielojęzycznych wyników przedstawionych w ewaluacji Translated.