Reduciendo las crecientes necesidades de energía de Machine Learning

Ante la creciente preocupación sobre los requisitos de energía de los grandes modelos de aprendizaje automático, un reciente estudio de MIT Lincoln Laboratory y la Universidad Northeastern ha investigado los ahorros que se pueden lograr mediante la limitación de la energía de las GPU empleadas en el entrenamiento y la inferencia de modelos, así como varias otras técnicas y métodos para reducir el consumo de energía de la IA.

El nuevo trabajo también llama a que los nuevos artículos de investigación de IA concluyan con una “Declaración de Energía” (similar a la tendencia reciente de “declaraciones de implicaciones éticas” en artículos de investigación de aprendizaje automático).

La principal sugerencia del trabajo es que la limitación de la energía (limitar la energía disponible a la GPU que entrena el modelo) ofrece beneficios de ahorro de energía significativos, particularmente para el Modelado de Lenguaje Masked (MLM) y marcos como BERT y sus derivados.

Tres redes de modelado de lenguaje que operan a un porcentaje de la configuración predeterminada de 250W (línea negra), en términos de uso de energía. Restringir el consumo de energía no restringe la eficiencia del entrenamiento o la precisión en una base de 1 a 1, y ofrece ahorros de energía que son notables a escala. Fuente: https://arxiv.org/pdf/2205.09646.pdf

Para modelos de mayor escala, que han captado la atención en los últimos años debido a conjuntos de datos de hipercala y nuevos modelos con miles de millones o billones de parámetros, se pueden obtener ahorros similares como un intercambio entre el tiempo de entrenamiento y el consumo de energía.

Entrenamiento de modelos de NLP más formidables a escala bajo restricciones de energía. El tiempo relativo promedio bajo un límite de 150W se muestra en azul, y el consumo de energía relativo promedio para 150W en naranja.

Para estas implementaciones de mayor escala, los investigadores encontraron que un límite de 150W en la utilización de energía obtuvo una disminución promedio del 13,7% en el consumo de energía en comparación con el máximo predeterminado de 250W, así como un aumento relativamente pequeño del 6,8% en el tiempo de entrenamiento.

Además, los investigadores señalan que, a pesar de los titulares que el costo del entrenamiento de modelos ha generado en los últimos años, los costos de energía de utilizar los modelos entrenados son mucho mayores*.

‘Para el modelado de lenguaje con BERT, las ganancias de energía a través de la limitación de la energía son notablemente mayores cuando se realiza la inferencia que para el entrenamiento. Si esto es consistente para otras aplicaciones de IA, esto podría tener implicaciones significativas en términos de consumo de energía para plataformas de computación en la nube o a gran escala que sirven aplicaciones de inferencia para investigación e industria.’

Además, y quizás de manera más controvertida, el documento sugiere que el entrenamiento principal de modelos de aprendizaje automático se relegue a los meses más fríos del año y a la noche, para ahorrar en costos de enfriamiento.

Arriba, estadísticas de PUE para cada día de 2020 en el centro de datos de los autores, con un aumento/sustento notable y sostenido en los meses de verano. Abajo, la variación horaria promedio en PUE para la misma ubicación en el transcurso de una semana, con el consumo de energía aumentando hacia el medio del día, ya que tanto el hardware de enfriamiento de GPU interno como el enfriamiento ambiental del centro de datos luchan por mantener una temperatura viable.

Los autores afirman:

‘Evidentemente, las cargas de trabajo de NLP típicas son mucho menos eficientes en el verano que aquellas ejecutadas durante el invierno. Dado el gran cambio estacional, si hay experimentos computacionalmente costosos que se pueden programar para meses más fríos, este cronograma puede reducir significativamente la huella de carbono.’

El documento también reconoce las posibilidades emergentes de ahorro de energía que son posibles a través de la poda y la optimización de la arquitectura del modelo y los flujos de trabajo, aunque los autores dejan el desarrollo adicional de esta avenida a otras iniciativas.

Finalmente, los autores sugieren que los nuevos artículos científicos del sector de aprendizaje automático sean alentados, o tal vez limitados, a concluir con una declaración que declare el uso de energía del trabajo realizado en la investigación, y las posibles implicaciones de energía de adoptar iniciativas sugeridas en el trabajo.

El documento, liderando con el ejemplo, explica las implicaciones de energía de su propia investigación.

El documento se titula Gran Poder, Gran Responsabilidad: Recomendaciones para Reducir la Energía para el Entrenamiento de Modelos de Lenguaje, y proviene de seis investigadores de MIT Lincoln y Northeastern.

La creciente demanda de energía de Machine Learning

A medida que las demandas computacionales para los modelos de aprendizaje automático han aumentado en conjunto con la utilidad de los resultados, la cultura actual de ML equipara el gasto de energía con un mejor rendimiento – a pesar de algunos notables defensores, como Andrew Ng, que sugieren que la curación de datos puede ser un factor más importante.

En una clave colaboración de MIT de 2020, se estimó que una mejora de diez veces en el rendimiento del modelo implica un aumento de 10.000 veces en los requisitos computacionales, junto con una cantidad correspondiente de energía.

En consecuencia, la investigación sobre el entrenamiento de ML menos intensivo en energía ha aumentado en los últimos años. El nuevo documento, los autores afirman, es el primero en tomar un vistazo profundo al efecto de las limitaciones de energía en el entrenamiento y la inferencia de modelos de aprendizaje automático, con énfasis en marcos de NLP (como la serie GPT).

Dado que la calidad de la inferencia es una preocupación primordial, los autores afirman sobre sus hallazgos al comienzo:

‘Este método no afecta las predicciones de los modelos entrenados o, en consecuencia, su precisión en tareas. Es decir, si dos redes con la misma estructura, valores iniciales y datos por lotes se entrenan durante el mismo número de lotes bajo diferentes limitaciones de energía, sus parámetros resultantes serán idénticos y solo la energía requerida para producirlos puede diferir.’

Reduciendo el poder para NLP

Para evaluar el impacto de las limitaciones de energía en el entrenamiento y la inferencia, los autores utilizaron la herramienta de línea de comandos nvidia-smi (Interfaz de administración del sistema), junto con una biblioteca de MLM de HuggingFace.

Los autores entrenaron modelos de Procesamiento de Lenguaje Natural BERT, DistilBERT y Big Bird sobre MLM, y monitorearon su consumo de energía en entrenamiento y despliegue.

Los modelos se entrenaron contra el conjunto de datos WikiText-103 de DeepAI durante 4 épocas en lotes de ocho, en 16 GPU V100, con cuatro limitaciones de energía diferentes: 100W, 150W, 200W y 250W (el predeterminado, o base, para una GPU NVIDIA V100). Los modelos presentaban parámetros entrenados desde cero y valores de inicialización aleatorios, para garantizar evaluaciones de entrenamiento comparables.

Como se ve en la primera imagen de arriba, los resultados demuestran buenos ahorros de energía con aumentos no lineales y favorables en el tiempo de entrenamiento. Los autores afirman:

‘Nuestros experimentos indican que la implementación de limitaciones de energía puede reducir significativamente el uso de energía al costo del tiempo de entrenamiento.’

Adelgazando ‘Big NLP’

A continuación, los autores aplicaron el mismo método a un escenario más exigente: entrenar BERT con MLM en configuraciones distribuidas a través de varias GPU – un caso de uso más típico para modelos de NLP de FAANG bien financiados y publicitados.

La principal diferencia en este experimento fue que un modelo podría utilizar entre 2-400 GPU por instancia de entrenamiento. Se aplicaron las mismas limitaciones para el uso de energía, y se utilizó la misma tarea (WikiText-103). Vea la segunda imagen de arriba para los gráficos de los resultados.

El documento establece:

‘Promediando cada elección de configuración, un límite de 150W en la utilización de energía condujo a una disminución promedio del 13,7% en el uso de energía y un aumento del 6,8% en el tiempo de entrenamiento en comparación con el máximo predeterminado. [El] ajuste de 100W tiene tiempos de entrenamiento significativamente más largos (31,4% más largos en promedio). Un límite de 200W corresponde con casi el mismo tiempo de entrenamiento que un límite de 250W, pero con ahorros de energía más modestos que un límite de 150W.’

Los autores sugieren que estos resultados apoyan la limitación de energía a 150W para arquitecturas de GPU y las aplicaciones que se ejecutan en ellas. También señalan que los ahorros de energía obtenidos se traducen en plataformas de hardware, y volvieron a ejecutar las pruebas para comparar los resultados para GPU NVIDIA K80, T4 y A100.

Ahorros obtenidos en tres GPU NVIDIA diferentes.

La inferencia, no el entrenamiento, consume energía

El documento cita varios estudios anteriores que demuestran que, a pesar de los titulares, es la inferencia (el uso de un modelo terminado, como un modelo de NLP) y no el entrenamiento lo que consume la mayor cantidad de energía, sugiriendo que a medida que los modelos populares se comercializan y se vuelven mainstream, el uso de energía podría convertirse en un problema mayor que el que es actualmente en esta etapa más incipiente del desarrollo de NLP.

Así, los investigadores midieron el impacto de la inferencia en el uso de energía, encontrando que la imposición de limitaciones de energía tiene un efecto notable en la latencia de inferencia:

‘En comparación con 250W, un ajuste de 100W requirió el doble de tiempo de inferencia (un aumento del 114%) y consumió un 11,0% menos de energía, 150W requirió un 22,7% más de tiempo y ahorró un 24,2% de energía, y 200W requirió un 8,2% más de tiempo con un 12,0% menos de energía.’

Entrenamiento de invierno

El documento sugiere que el entrenamiento (si no la inferencia, por razones obvias) podría programarse en momentos en que el centro de datos esté en su punto máximo de Eficiencia del Uso de Energía (PUE) – efectivamente, eso es en invierno, y por la noche, para ahorrar en costos de enfriamiento.

‘Se pueden obtener ahorros de energía significativos si las cargas de trabajo se pueden programar en momentos en que se espera un PUE más bajo. Por ejemplo, mover un trabajo de corta duración del día al noche puede proporcionar una reducción del 10% aproximada, y mover un trabajo más largo y costoso (por ejemplo, un modelo de lenguaje que tarda semanas en completarse) del verano al invierno puede ver una reducción del 33%.

‘Si bien es difícil predecir los ahorros que un investigador individual puede lograr, la información presentada aquí destaca la importancia de los factores ambientales que afectan la energía total consumida por sus cargas de trabajo.’

Mantenerlo nublado

Finalmente, el documento observa que los recursos de procesamiento caseros no tienen implementadas las mismas medidas de eficiencia que los grandes centros de datos y los proveedores de computación en la nube de alto nivel, y que se pueden obtener beneficios ambientales transfiriendo las cargas de trabajo a lugares que han invertido mucho en una buena PUE.

‘Si bien hay comodidad en tener recursos de computación privados que son accesibles, esta comodidad tiene un costo. En general, los ahorros de energía y el impacto se obtienen más fácilmente a gran escala. Los centros de datos y los proveedores de computación en la nube invierten mucho en la eficiencia de sus instalaciones.’

* Enlaces pertinentes proporcionados por el documento.