Η Translated κυκλοφορεί το Lara Mini, ένα ερευνητικό μοντέλο 45 γλωσσών

Η Translated ανακοίνωσε το Lara Mini στις 12 Νοεμβρίου 2026, κυκλοφορώντας ένα ερευνητικό μοντέλο που εκπαιδεύτηκε από την αρχή σε 6 τρισεκατομμύρια διακριτά στοιχεία κειμένου (tokens) από τα αγγλικά και άλλες 44 γλώσσες, μεταξύ των οποίων και οι 24 επίσημες γλώσσες της ΕΕ. Το σύστημα των 7,2 δισεκατομμυρίων παραμέτρων ενεργοποιεί μόλις 600 εκατομμύρια παραμέτρους για κάθε token.

Η αρχιτεκτονική μείγματος ειδικών ενεργοποιεί τέσσερις από τους 128 ειδικούς που επιλέγονται για κάθε token, ενώ ένας κοινόχρηστος ειδικός παραμένει ενεργός. Τα 34 επίπεδά της συνδυάζουν 14 επίπεδα γραμμικής προσοχής Gated DeltaNet, 13 επίπεδα προσοχής με συρόμενο παράθυρο 512 tokens και επτά επίπεδα καθολικής προσοχής, περιορίζοντας την αύξηση της κατάστασης συμπερασμού σε σύγκριση με την πλήρη προσοχή. Μετά την αρχική εκπαίδευση, ένα ξεχωριστό στάδιο 100 δισεκατομμυρίων tokens επέκτεινε το παράθυρο συμφραζομένων από 4.096 σε 131.072 tokens.

Η Translated δημιούργησε το σύνολο δεδομένων από πηγές που είχαν δημοσιοποιηθεί ανοιχτά, φιλτράροντάς τες και αφαιρώντας τα διπλότυπα, ώστε να συγκροτήσει ένα σύνολο 13,8 τρισεκατομμυρίων tokens· το 97% των tokens της αρχικής εκπαίδευσης προερχόταν από την πρώτη ανάγνωση ενός εγγράφου. Τα αγγλικά αντιστοιχούσαν σε 2,49 τρισεκατομμύρια tokens, δηλαδή στο 41,4%, ενώ οι άλλες 44 γλώσσες σε 2,18 τρισεκατομμύρια, δηλαδή στο 36,4%. Το υπόλοιπο αποτελούνταν από κώδικα, μαθηματικά και παραδείγματα σε μορφή παρόμοια με εκείνη των δεδομένων εποπτευόμενης λεπτομερούς ρύθμισης.

Δοκιμή υποκατάστασης των αγγλικών

Για μια ξεχωριστή δοκιμή, οι ερευνητές χρησιμοποίησαν το ίδιο σημείο ελέγχου σε δύο ελεγχόμενες φάσεις ανόπτησης των 100 δισεκατομμυρίων tokens, δηλαδή στην τελική φάση εκπαίδευσης κατά την οποία ο ρυθμός μάθησης μειώνεται σταδιακά έως το μηδέν. Αντικαθιστώντας με αγγλικά το 33% που αντιστοιχούσε στις άλλες γλώσσες, το μερίδιο των αγγλικών αυξήθηκε από 27% σε 60%. Η τεχνική έκθεση αναφέρει ότι ο μέσος όρος ανάπτυξης στα αγγλικά αυξήθηκε μόλις κατά 0,3 μονάδες, ενώ ο μέσος όρος για τις πολυγλωσσικές δοκιμασίες στις υποστηριζόμενες γλώσσες μειώθηκε κατά 2,7 μονάδες.

Το πείραμα αφορά μόνο τη φάση ανόπτησης· δεν μετρά την επίδραση του μεριδίου των άλλων γλωσσών κατά το κύριο στάδιο προεκπαίδευσης. Μια ξεχωριστή ανάλυση της δρομολόγησης διαπίστωσε ότι οι γλώσσες μοιράζονται τους ειδικούς αντί να διαθέτουν ξεχωριστές ομάδες ειδικών, ενώ οι συγγενικές γλώσσες παρουσιάζουν παρόμοια δρομολόγηση στα αρχικά επίπεδα του δικτύου και σχεδόν πανομοιότυπη δρομολόγηση στα μεσαία επίπεδα. Οι συγγραφείς επισημαίνουν ότι η κοινή δρομολόγηση δεν αποδεικνύει την ύπαρξη κοινών σημασιολογικών αναπαραστάσεων και ότι τα πειράματά τους δεν τεκμηριώνουν πως η πολυγλωσσική εκπαίδευση βελτιώνει τη γενική συλλογιστική ή τις επιδόσεις στα αγγλικά.

Βαθμολογίες στις δοκιμές αξιολόγησης και τα όριά τους

Η Translated αξιολόγησε το Lara Mini σε σύγκριση με 56 άλλα ανοιχτά βασικά μοντέλα, με βάση 26 δοκιμασίες αξιολόγησης για τα αγγλικά, τις άλλες γλώσσες, τα μαθηματικά και τον προγραμματισμό, χρησιμοποιώντας κοινές προτροπές, ρυθμίσεις και μεθόδους εξαγωγής απαντήσεων. Ανάμεσα στα 36 μοντέλα με έως και 2 δισεκατομμύρια ενεργές παραμέτρους, το Lara Mini είχε συνολικό μέσο όρο 57,0, υψηλότερο από το 53,9 του granite-4.0-h-tiny και το 53,8 του Qwen3-1.7B. Τα αντίστοιχα αναφερόμενα σύνολα δεδομένων προεκπαίδευσης ανέρχονταν σε 22,5 τρισεκατομμύρια και 36 τρισεκατομμύρια tokens, αντίστοιχα, έναντι 6 τρισεκατομμυρίων tokens στην αρχική εκπαίδευση του Lara Mini.

Στα αποτελέσματα της Translated, το Lara Mini κατέλαβε την πρώτη θέση στην κατηγορία του στην πολυγλωσσική κατανόηση με βαθμολογία 56,7 και στα μαθηματικά με 59,9, τη δεύτερη θέση στα αγγλικά με 66,4 και την πέμπτη θέση στον προγραμματισμό με 45,1. Η συνολική βαθμολογία αποδίδει ίσο βάρος στους μέσους όρους των τεσσάρων τομέων, ενώ οι πολυγλωσσικές δοκιμασίες υπολογίζονται ως μέσος όρος για τις υποστηριζόμενες μη αγγλόφωνες γλώσσες του Lara Mini σε κάθε μοντέλο. Η σύγκριση αφορά βασικά μοντέλα και όχι συστήματα λεπτομερώς ρυθμισμένα για την εκτέλεση οδηγιών. Η ποιότητα διαφέρει επίσης ανά γλώσσα: τα αζερικά και τα μπενγκάλι συγκαταλέγονται στις γλώσσες με τις χαμηλότερες βαθμολογίες μεταξύ των υποστηριζόμενων γλωσσών, όπου τα δεδομένα εκπαίδευσης είναι περιορισμένα.

Η Translated μέτρησε για το Lara Mini ταχύτητα περίπου 1.100 παραγόμενων χαρακτήρων ανά δευτερόλεπτο για έναν χρήστη, σε GPU A100 και χωρίς κβαντοποίηση· κάθε μοντέλο που είχε υψηλότερο συνολικό μέσο όρο στη σύγκριση ταχύτητας παρήγαγε κείμενο τουλάχιστον 1,8 φορές πιο αργά. Το πλεονέκτημα είναι μεγαλύτερο για έναν μόνο χρήστη και μεγάλες προτροπές, και περιορίζεται όταν πολλοί χρήστες μοιράζονται την GPU.

Πρόσβαση στην έρευνα και σχέδια για το προϊόν

Το προϊόν που διατέθηκε είναι ένα βασικό μοντέλο συνέχισης κειμένου και όχι σύστημα που ακολουθεί οδηγίες ή συνομιλεί, ενώ δεν έχει υποβληθεί σε ρύθμιση ασφάλειας. Η κάρτα μοντέλου προειδοποιεί ότι μπορεί να παράγει λανθασμένο, μεροληπτικό ή προσβλητικό κείμενο και ότι δεν πρέπει να αναπτυχθεί ως βοηθός χωρίς περαιτέρω εκπαίδευση.

Η πρόσβαση στα βάρη υπόκειται σε έγκριση και κάθε αίτημα εξετάζεται από την Translated. Τα βάρη διατίθενται με άδεια CC BY-NC-SA 4.0 για έρευνα και άλλους μη εμπορικούς σκοπούς, ενώ για τον κώδικα και τον διαχωριστή λέξεων (tokenizer) χρησιμοποιείται η άδεια Apache 2.0. Η Translated προσφέρει ξεχωριστά εμπορική άδεια χρήσης και δεν διαθέτει δεδομένα εκπαίδευσης μαζί με το μοντέλο.

Στη σελίδα έρευνάς της, η Translated αναφέρει ότι θα παρέχεται επίσης πρόσβαση σε επιλεγμένους εταιρικούς πελάτες και περιγράφει τη λεπτομερή ρύθμιση για εξειδικευμένες, κυρίαρχες εφαρμογές ως προβλεπόμενη χρήση. Το Lara Mini αποτελεί μέρος του Lara 4, της οικογένειας θεμελιωδών μοντέλων που προορίζεται να τροφοδοτήσει την επόμενη γενιά του Lara Translate.

Σε συμπληρωματική ανακοίνωση που δημοσιεύτηκε στις 13 Νοεμβρίου 2026, αναφέρθηκε ότι το Lara Mini δεν ήταν ακόμη διαθέσιμο στο Lara Translate. Η εταιρεία σχεδίαζε να το χρησιμοποιήσει ως βάση για τη μετάφραση κειμένου εκτός σύνδεσης στην επόμενη εφαρμογή Lara Translate, με την επεξεργασία να γίνεται στο τηλέφωνο ώστε το κείμενο να παραμένει στη συσκευή. Η αναφορά στις 45 γλώσσες αφορά την κάλυψη της εκπαίδευσης· δεν διευκρινίστηκε ποιες γλώσσες θα υποστηρίζονταν κατά την κυκλοφορία της λειτουργίας μετάφρασης εκτός σύνδεσης.

Η σχεδιαζόμενη εφαρμογή συνδέει την έρευνα με μια συγκεκριμένη δοκιμή προϊόντος: τη μετατροπή ενός αραιού ερευνητικού σημείου ελέγχου σε ιδιωτική μετάφραση που εκτελείται στη συσκευή, διατηρώντας παράλληλα την αποδοτικότητα και τις πολυγλωσσικές επιδόσεις που αναφέρθηκαν στην αξιολόγηση της Translated.