Baseten lanza Joey-1, un modelo de decisión de pesos abiertos con 2B de parámetros

El 29 de octubre de 2026, Baseten lanzó joey-1, un modelo de decisión de 2B de parámetros desarrollado por su laboratorio de investigación interno, Base Labs. Su precio es de 0,01 $ por millón de tokens y está disponible a través de Baseten Model APIs y como pesos abiertos en Hugging Face.

Con joey-1, la familia de modelos de decisión de Base Labs ahora abarca tres tamaños. El anuncio presenta el nuevo modelo junto con mammoth-1 (27B) y elephant-1 (9B), de la presentación de la familia del 21 de octubre. En aquel lanzamiento anterior, Baseten describió mammoth-1 como el modelo mejor clasificado entre los 208 modelos de decisión del Jev Decision Index y elephant-1 como el principal modelo de decisión de 9B. Los tres modelos se entrenan con la misma combinación de datos y comparten la misma API, lo que, según la empresa, permite cambiar de uno a otro con una sola línea de código. Baseten recomienda mammoth-1 para las decisiones en las que la precisión es lo más importante, elephant-1 como opción predeterminada equilibrada y joey-1 para cargas de trabajo de gran volumen y sensibles a la latencia.

A diferencia de los LLM generativos, un modelo de decisión no genera texto. En una sola pasada hacia delante, devuelve una etiqueta y una puntuación de confianza para ella; las puntuaciones de todas las respuestas posibles suman 1. Dado un estado —texto, opcionalmente con imágenes— y un conjunto de preguntas, joey-1 devuelve una probabilidad calibrada para cada opción mediante un prellenado con un prefijo compartido. El modelo admite tres tipos de preguntas: sí/no, elección entre opciones con nombre y niveles de puntuación ordenados. En una publicación anterior sobre la familia, Baseten enumera usos de los modelos de decisión que incluyen la clasificación y el enrutamiento de tickets, la detección de spam y phishing, las barreras de seguridad para las indicaciones y la detección de jailbreaks, así como el enrutamiento de solicitudes entre LLM pequeños y modelos LLM de frontera.

Baseten afirmó que conviene trasladar una carga de trabajo de LLM a joey-1 cuando el volumen de decisiones es lo bastante alto como para que el costo por llamada determine la viabilidad económica del proyecto, o cuando la decisión es un requisito previo para otro paso y su latencia se suma a la de cada respuesta. Por ejemplo, clasificar 10 millones de tickets de soporte al mes, con unos 500 tokens cada uno, supone un total de 5.000 millones de tokens. La empresa calcula que esto costaría unos 50 $ al mes con joey-1, frente a 500 $ con mammoth-1. Baseten describe joey-1 como un modelo de primera línea, con modelos más potentes, como elephant-1 o mammoth-1, disponibles como opción de escalamiento cuando joey-1 no está seguro.

Latencia y resultados de las pruebas de referencia comunicados

Baseten informó que, a escala de producción, joey-1 procesa una solicitud promedio de 2.000 tokens con una latencia de extremo a extremo P50 de 20 ms, aproximadamente 2,5 veces más rápido que elephant-1, que registra 49 ms, y describió el modelo como cinco veces más rápido que modelos de decisión comparables. La empresa afirmó que, según sus pruebas internas —cuyos detalles se darán a conocer más adelante—, joey-1 es el modelo de decisión más sólido entre los que tienen 3B de parámetros o menos.

La ficha del modelo informa que joey-1 obtuvo una puntuación de 63,30 en la partición pública 0.4 del Jev Decision Index, lo que lo sitúa en el puesto 37 de 230 modelos y constituye la puntuación más alta entre los modelos con menos de 4B de parámetros en esa partición. La tabla de la partición pública de la ficha incluye a elephant-1 con 72,24, Cloudflare Clef con 61,71, Jev 1.14 con 60,70 y Perplexity Decider Flash v1.2 con 60,06. Según la ficha, joey-1 obtiene puntuaciones inferiores a elephant-1 en todas las áreas evaluadas y superiores a Jev 1.14 en cuatro de las cinco: lenguaje, herramientas y automatización, recuperación y clasificación, y artes y gusto humano.

En la réplica interna de Base Labs del Artificial Analysis Decision Index, la ficha indica que joey-1 obtuvo 62,9, por debajo de mammoth-1, con 65,9; elephant-1, con 65,2; y d1-ultra, con 65. La página de la biblioteca de modelos de Baseten afirma que, tras su lanzamiento en octubre de 2026, joey-1 es el modelo 2B mejor clasificado en la versión 0.4 del Jev Decision Index.

Datos y método de entrenamiento

Según la ficha del modelo, joey-1 se sometió a entrenamiento posterior a partir de Qwen3.5-2B con la misma combinación de datos y el mismo método que elephant-1 y mammoth-1, mediante Baseten Training Jobs. El proceso consistió en un ajuste fino completo del modelo de lenguaje con decisiones basadas en texto e imágenes, manteniendo congelado el codificador visual. Se utilizó una máscara de atención bidireccional por bloques en las capas de atención completa y una longitud máxima de secuencia de 16.384 tokens.

El conjunto de datos de entrenamiento comprendía 6,21 millones de ejemplos de decisión, distribuidos en una combinación que el laboratorio denomina Mix 8: 58,3 % de competencias básicas de decisión, 16,1 % de seguridad y abstención, 16,1 % de evaluación y ámbitos especializados, y 9,5 % de datos públicos de decisión. El objetivo de entrenamiento combinó la entropía cruzada con un término de calibración de Brier, con lambda fijada en 1, e incluyó una opción «No lo sé» entrenada para los casos en que el modelo no está seguro de su respuesta. El método consistió en una época de 43.390 pasos, con una tasa de aprendizaje máxima de 1e-5, el optimizador AdamW, valores beta de 0,9 y 0,95 y sin decaimiento de pesos, un calentamiento del 3 %, un decaimiento cosenoidal y precisión bf16. El entrenamiento se ejecutó en dos nodos de ocho GPU H100 cada uno, es decir, 16 GPU en total.

Disponibilidad, precios e implementación

joey-1 ya está disponible a través de Baseten Model APIs mediante el endpoint /v1/systemone, con el ID de modelo decision-models/baseten-joey-2b-latest; la retención de datos cero está activada de forma predeterminada. El precio publicado es de 0,01 $ por millón de tokens de entrada, mientras que el precio indicado para los tokens de entrada almacenados en caché y los de salida es de 0,00 $. La tabla de precios de la familia establece un costo de 0,035 $ por millón de tokens para elephant-1 y de 0,1 $ para mammoth-1; el anuncio señala que joey-1 cuesta una décima parte de mammoth-1.

En Model APIs, los modelos de decisión admiten una ventana de contexto de 16k y están optimizados para cargas de trabajo de baja latencia. Las implementaciones dedicadas desbloquean la ventana de contexto completa de 262k y admiten pesos ajustados; Baseten afirmó que también pueden ofrecer un TTFT y un TPS más rápidos (tiempo hasta el primer token y tokens por segundo) gracias a optimizaciones específicas para cada carga de trabajo y a la coubicación con cargas de trabajo de LLM. elephant-1 y joey-1 están disponibles para el entrenamiento posterior en Baseten Training Jobs, y la empresa ha publicado en GitHub una guía práctica para el ajuste fino.

Los pesos están disponibles bajo la licencia MIT. Para alojar el modelo por cuenta propia, el script de configuración de la ficha del modelo instala un entorno de ejecución para servir modelos fijado a una versión específica, OneJev con un parche para servir modelos, y requiere una GPU CUDA. La ficha señala que las solicitudes que superan los límites de longitud con los que se entrenó el modelo se rechazan en lugar de truncarse.