Modelos y plataformas de IA

Google Acaba de Publicar Números Reales sobre el Uso de Energía de la IA — Y No Son lo que Piensas

mm
Añade Unite.AI a tus fuentes preferidas en Google

Todos hablan del gran impacto energético de la IA. Has visto los titulares: “ChatGPT utiliza tanta electricidad como un pequeño país” o “Cada consulta de IA consume un vaso de agua”.

Google (GOOGL ) acaba de publicar datos reales de sus sistemas de producción, y los números cuentan una historia completamente diferente.

El Costo Energético Real de tu Consulta de IA

Aquí está lo que encontró Google: La consulta de texto mediana de Gemini utiliza 0,24 vatios-hora de energía. Eso es menos electricidad que la que se utiliza al ver televisión durante nueve segundos. ¿Consumo de agua? Cinco gotas. No cinco vasos. Cinco gotas.

La brecha entre la percepción pública y la realidad es masiva. Las estimaciones anteriores afirmaban que las consultas de IA consumían entre 10 y 50 mililitros de agua por consulta. Algunos estudios sugirieron un consumo de energía 30 veces mayor que lo que Google mide en producción.

¿Por qué la gran diferencia? Porque nadie ha medido sistemas reales a gran escala hasta ahora. Los estudios académicos realizan pruebas aisladas en hardware subutilizado. Están midiendo básicamente la eficiencia de combustible de un coche mientras está en punto muerto en la entrada de la casa.

La Mejora 44x

Google redujo sus emisiones de carbono de IA en 44 veces en un año. No 44 por ciento — 44 veces.

Esta no es alguna mejora teórica en un laboratorio. Esto está sucediendo ahora en los sistemas que atienden miles de millones de consultas. Lograron esto a través de una combinación de optimización de software (mejora de 33 veces) y fuentes de energía más limpias (mejora de 1,4 veces).

La mayoría de los estudios solo miran los chips de IA que realizan el cálculo. Eso es como medir el uso de energía de un restaurante solo contando los hornos, ignorando los refrigeradores, las luces y el sistema de calefacción y refrigeración.

Los datos de Google muestran la imagen completa: Sí, los aceleradores de IA utilizan el 58% de la energía. Pero también necesitas procesadores y memoria regulares (24%), capacidad de respaldo para la confiabilidad (10%) y sistemas de enfriamiento (8%). Si omites alguno de estos en tu medición, tus números son básicamente insignificantes.

Cuando Google aplicó la metodología estrecha que todos los demás utilizan — solo midiendo los chips de IA en máquinas completamente utilizadas — su cifra de energía se redujo a 0,10 vatios-hora. El sistema de producción real utiliza 2,4 veces más energía porque los sistemas reales necesitan redundancia, enfriamiento y infraestructura de soporte.

Qué Significa Esto en Realidad para el Futuro de la IA

La narrativa sobre el consumo de energía de la IA necesita una verificación de la realidad. Sí, la IA utiliza energía. Pero los sistemas optimizados correctamente son mucho más eficientes que los escenarios de pesadilla que sugieren.

El contexto es importante aquí. Esas 0,24 vatios-hora por consulta! Los estadounidenses utilizan alrededor de 30 kilovatios-hora de electricidad por día en promedio. Necesitarías ejecutar 125.000 consultas de IA para igualar un día de uso de energía doméstica promedio.

La historia del consumo de agua es aún más dramática. Esas cinco gotas de agua por consulta! Utilizas más agua en el primer segundo de lavarte las manos.

La Pila de Optimización

Google no está logrando estos números a través de algún avance único. Están apilando optimizaciones en cada capa del sistema.

Están ejecutando modelos “borrador” más pequeños que esbozan respuestas, y luego verifican con modelos más grandes solo cuando es necesario. Están agrupando miles de consultas juntas para la eficiencia. Están utilizando chips personalizados diseñados específicamente para cargas de trabajo de IA que son 30 veces más eficientes que su primera generación.

Sus centros de datos funcionan con solo un 9% de sobrecarga por encima del mínimo teórico — básicamente tan eficientes como es físicamente posible. Y cada vez más están alimentados por energía limpia, lo que reduce las emisiones incluso cuando el uso de electricidad aumenta.

Conclusión

La historia real es que los sistemas de IA eficientes pueden ser dramáticamente más sostenibles de lo que se teme comúnmente, pero esto requiere una optimización integral que la mayoría de la industria aún no ha logrado.

Esto solo funciona cuando las empresas realmente optimizan su pila completa y miden adecuadamente. Las empresas que tratan la infraestructura de IA como un pensamiento posterior, ejecutando sistemas ineficientes en redes de energía sucias, son las que están creando los problemas que todos temen.

La brecha entre los sistemas de IA eficientes y los ineficientes es absolutamente masiva. Y en este momento, la mayoría de la industria todavía está ejecutando la versión ineficiente.

Alex McFarland es un periodista y escritor de inteligencia artificial que explora los últimos desarrollos en inteligencia artificial. Ha colaborado con numerosas startups y publicaciones de inteligencia artificial en todo el mundo.