Translated lanza Lara Mini, un modelo de investigación en 45 idiomas

Translated anunció Lara Mini el 12 de noviembre de 2026 y lanzó un modelo de investigación entrenado desde cero con 6 billones de tokens en inglés y otros 44 idiomas, incluidos los 24 idiomas oficiales de la UE. El sistema, de 7.200 millones de parámetros, activa solo 600 millones de parámetros por token.

La arquitectura de mezcla de expertos activa cuatro de los 128 expertos seleccionados para cada token, mientras que un experto compartido permanece activo. Sus 34 capas combinan 14 capas de atención lineal Gated DeltaNet, 13 capas de atención con ventana deslizante de 512 tokens y siete capas de atención global, lo que limita el crecimiento del estado de inferencia en comparación con la atención completa. Tras la ronda inicial de entrenamiento, una etapa separada de 100.000 millones de tokens amplió la ventana de contexto de 4.096 a 131.072 tokens.

Translated creó el conjunto de datos a partir de fuentes publicadas abiertamente, que filtró y deduplicó para formar un conjunto de 13,8 billones de tokens; el 97 % de los tokens del entrenamiento inicial correspondió a la primera lectura de un documento. El inglés aportó 2,49 billones de tokens, o el 41,4 %, mientras que los otros 44 idiomas aportaron 2,18 billones, o el 36,4 %. El resto correspondió a código, matemáticas y ejemplos con formato similar al de los datos de ajuste fino supervisado.

Prueba de sustitución por inglés

Para una prueba aparte, los investigadores utilizaron el mismo punto de control en dos etapas controladas de recocido de 100.000 millones de tokens, la fase final del entrenamiento, en la que la tasa de aprendizaje disminuye hasta cero. Al sustituir por inglés la proporción multilingüe del 33 %, la proporción de inglés aumentó del 27 % al 60 %. El informe técnico señala que el promedio en desarrollo para inglés mejoró apenas 0,3 puntos, mientras que el promedio multilingüe de los idiomas compatibles cayó 2,7 puntos.

El experimento se limita a la etapa de recocido; no mide el efecto de la proporción multilingüe durante la fase principal de preentrenamiento. Un análisis independiente de la asignación reveló que los idiomas comparten expertos en lugar de contar con grupos de expertos separados, y que los idiomas emparentados presentan patrones de asignación similares al principio de la red y casi idénticos en las capas intermedias. Los autores advierten que compartir patrones de asignación no demuestra que haya representaciones semánticas compartidas y que sus experimentos no demuestran que el entrenamiento multilingüe mejore el razonamiento general ni el rendimiento en inglés.

Resultados de las pruebas de referencia y sus limitaciones

Translated evaluó Lara Mini frente a otros 56 modelos base abiertos en 26 pruebas de referencia de inglés, multilingüismo, matemáticas y código, con instrucciones, parámetros y extracción de respuestas uniformes. Entre los 36 modelos con hasta 2.000 millones de parámetros activos, Lara Mini obtuvo un promedio general de 57,0, por delante de granite-4.0-h-tiny, con 53,9, y Qwen3-1.7B, con 53,8. Los totales de preentrenamiento informados para estos modelos fueron de 22,5 y 36 billones de tokens, respectivamente, frente a los 6 billones de la ronda inicial de Lara Mini.

Los resultados de Translated sitúan a Lara Mini en el primer puesto de esa categoría en comprensión multilingüe, con 56,7, y matemáticas, con 59,9; en segundo lugar en inglés, con 66,4; y en quinto lugar en código, con 45,1. La puntuación general asigna el mismo peso a los promedios de los cuatro ámbitos, y las puntuaciones de las pruebas multilingües se promedian para cada modelo entre los idiomas compatibles de Lara Mini que no son inglés. La comparación abarca modelos base, no sistemas ajustados para seguir instrucciones. La calidad también varía según el idioma: el azerí y el bengalí están entre los idiomas compatibles con las puntuaciones más bajas, debido a la escasez de datos de entrenamiento.

Translated midió en Lara Mini una velocidad de generación de aproximadamente 1.100 caracteres por segundo para un usuario en una GPU A100, sin cuantización; todos los modelos con un promedio general más alto en la comparación de velocidad generaron texto al menos 1,8 veces más despacio. La ventaja es mayor para un solo usuario y con instrucciones largas, y se reduce cuando varios usuarios comparten la GPU.

Acceso a la investigación y planes para el producto

El modelo publicado es un modelo base de continuación de texto, no un sistema de conversación ni de seguimiento de instrucciones, y no cuenta con ajuste de seguridad. Su ficha del modelo advierte que puede generar texto erróneo, sesgado u ofensivo y que no debería implementarse como asistente sin entrenamiento adicional.

El acceso a los pesos está restringido y Translated revisa cada solicitud. Los pesos están sujetos a la licencia CC BY-NC-SA 4.0 para investigación y otros usos no comerciales, mientras que el código y el tokenizador utilizan la licencia Apache 2.0. Translated ofrece por separado licencias comerciales y no publicará datos de entrenamiento junto con el modelo.

La página de investigación de Translated señala que algunos clientes empresariales también tendrán acceso y describe el ajuste fino para aplicaciones soberanas especializadas como uno de los usos previstos. Lara Mini forma parte de Lara 4, la familia de modelos fundacionales destinada a impulsar la próxima generación de Lara Translate.

Una actualización publicada el 13 de noviembre de 2026 indicó que Lara Mini todavía no estaba disponible en Lara Translate. La empresa tenía previsto utilizarlo como modelo base para la traducción de texto sin conexión en la próxima aplicación de Lara Translate, con el procesamiento en el teléfono para que el texto permanezca en el dispositivo. La cifra de 45 idiomas describe la cobertura del entrenamiento; no se especificó qué idiomas admitiría la traducción sin conexión en el lanzamiento.

La aplicación prevista vincula la investigación con una prueba concreta del producto: convertir un punto de control de investigación escaso en una herramienta de traducción privada que funcione en el dispositivo, sin perder la eficiencia ni el rendimiento multilingüe descritos en la evaluación de Translated.