Modelos y plataformas de IA
AWS incorpora el entrenamiento de todos los pesos a la personalización sin servidor de SageMaker

Puntos claveEl ajuste fino completo actualiza cada peso, mientras que LoRA congela los pesos…
Ver más
- El ajuste fino completo actualiza cada peso, mientras que LoRA congela los pesos preentrenados e inserta adaptadores de bajo rango.
- Las tasas de aprendizaje agresivas de 5e-5 o superiores causaron olvido catastrófico, con la precisión de MMLU cayendo al 3.6%.
- La operación sin servidor elimina la gestión de infraestructura, pero no reduce el número de pesos que se entrenan.
Amazon Web Services anunció el 18 de noviembre de 2026 la compatibilidad con el ajuste fino completo (FFT) en la personalización de modelos sin servidor de SageMaker AI, y comunicó una corrección semántica del 90,0 % en un experimento de programación con más de 100.000 ejemplos de entrenamiento, aunque advirtió que los ajustes agresivos provocaron graves pérdidas de conocimientos generales.
Los clientes proporcionan un modelo base, un conjunto de datos y los hiperparámetros; el servicio asigna los recursos de cómputo y gestiona los puntos de control sin necesidad de aprovisionar GPU, configurar clústeres ni ajustar la configuración del entrenamiento distribuido. En el ejemplo del SDK de SageMaker para Python de AWS, cambiar de método consiste en sustituir TrainingType.FULL por TrainingType.LORA, sin modificar el resto de la configuración del trabajo.
FFT actualiza todos los pesos del modelo. En cambio, LoRA congela los pesos preentrenados e incorpora matrices adaptadoras de bajo rango, lo que reduce los requisitos de capacidad de GPU, pero limita las actualizaciones a un espacio de representación más reducido. AWS explica que el entrenamiento de rango completo puede captar adaptaciones de dominio más complejas a medida que crecen los conjuntos de datos, en lugar de limitarse a aumentar la cantidad de parámetros entrenables.
Pruebas controladas de programación
AWS comparó los métodos mediante ajuste fino supervisado (SFT) de un modelo base Qwen3-4B, con las mismas instrucciones, objetivos y código de evaluación. El conjunto de datos Magicoder-Evol-Instruct-110K proporcionó pares de instrucciones y respuestas de programación sobre diseño de algoritmos, depuración, estructuras de datos y programación de sistemas. La división asignó 99.000 registros al entrenamiento, 5.500 a la validación y 5.500 a un conjunto de prueba reservado.
Las evaluaciones midieron por separado el rendimiento en las tareas y la retención de conocimientos. Amazon Nova Pro actuó como juez basado en un modelo de lenguaje grande (LLM): examinó el código generado junto con la instrucción original para evaluar su corrección lógica. PRIMECODE midió la similitud con las soluciones de referencia mediante las métricas deterministas BLEU, ROUGE-1/2/L y F1, mientras que MMLU evaluó los conocimientos generales en 57 disciplinas académicas.
AWS comunicó que la puntuación de corrección semántica alcanzó su máximo a las tres épocas y que un entrenamiento más prolongado redujo el rendimiento de todas las variantes probadas. En la comparación mediante un gráfico de radar, FFT superó a LoRA y al modelo base en todas las dimensiones de calidad mostradas, con las mayores ventajas en BLEU y ROUGE-2, lo que sugiere que la diferencia no se limitó a una sola métrica.
AWS indicó que realizó decenas de experimentos de personalización con varios modelos base, variando la tasa de aprendizaje, el tamaño del lote, la proporción de calentamiento, el número de épocas y la escala del conjunto de datos; cada ejecución, desde el envío del trabajo hasta la evaluación, duró unas pocas horas. Los modelos resultantes se registraron automáticamente como paquetes de modelos versionados en SageMaker Model Registry para su revisión o implementación.
Riesgos de olvido en el ajuste fino completo
AWS advirtió que FFT no era superior en todos los casos: tanto FFT como LoRA obtuvieron resultados inferiores a los del modelo base en la coincidencia exacta de MATH, y una comparación aparte con un LLM como juez favoreció a LoRA, con un 81,5 %, frente al 79,5 % de FFT.
Las tasas de aprendizaje agresivas provocaron pérdidas graves. En las pruebas de AWS, con una tasa de 5e-5 o superior, las puntuaciones de MATH cayeron al 2–3 % y la precisión de MMLU, al 3,6 %; esto evidencia un olvido catastrófico, es decir, la pérdida de capacidades más amplias cuando el entrenamiento específico de un dominio sobrescribe los conocimientos preentrenados. El mapa de riesgos de AWS señaló 2e-5 como un valor más seguro para conjuntos de datos grandes; entre las configuraciones probadas, la configuración de referencia que combinaba esa tasa con un calentamiento del 5 % y un tamaño de lote global de 8 fue la que mejor conservó los conocimientos generales, según la medición de MMLU.
El tamaño del lote también afectó a la retención. Con una tasa de aprendizaje fija, los lotes más pequeños generaron actualizaciones más ruidosas, cuyo comportamiento equivalía al de una tasa de aprendizaje más alta y aumentaba el riesgo de olvido. Los lotes más grandes redujeron el ruido, pero también el número de pasos de optimización, con el posible resultado de un subajuste del modelo.
Ventajas y desventajas para la implementación
Según la lista de modelos compatibles de AWS, SFT con FFT está disponible para modelos de pesos abiertos, entre ellos DeepSeek R1 Distill Qwen 1.5B, Google Gemma 4 26B A4B y NVIDIA Nemotron 3 Nano 30B (A3B).
La documentación de FFT indica que el método utiliza los mismos formatos de conjuntos de datos que LoRA, pero requiere más recursos de cómputo y más tiempo de entrenamiento; genera artefactos de mayor tamaño que contienen todos los pesos del modelo y no es compatible con la personalización continua. Además, elimina la sobrecarga de los adaptadores durante la inferencia.
La operación sin servidor cambia quién asigna la infraestructura y gestiona los puntos de control, pero no reduce la cantidad de pesos que se entrenan. Por tanto, el lanzamiento facilita la ejecución de una personalización más profunda, aunque la relación entre los costos de cómputo y la calidad sigue dependiendo de que las mejoras específicas para cada tarea compensen un entrenamiento más exigente y cualquier pérdida de capacidades más amplias.












