El Santo Grial del Poder Computacional en la IA

A pesar del progreso increíble, las capacidades de la inteligencia artificial aún están limitadas en comparación con las expectativas del mundo real. Construimos modelos complejos, ejecutamos redes neuronales y probamos algoritmos, pero a veces el progreso se estanca en los lugares donde menos lo esperamos.

El problema a menudo no radica en los algoritmos o los datos, sino en la potencia computacional, los recursos que permiten que los modelos aprendan y operen a la escala necesaria. Entonces, ¿qué hay detrás de esta barrera? Examinemos el recurso crítico sin el cual incluso los proyectos de IA más prometedores no pueden salir del laboratorio.

El déficit de cómputo y sus consecuencias

Para entender este tema, comencemos con la historia de las comunicaciones móviles. Cuando aparecieron las redes 3G y posteriormente 4G, Internet ya estaba casi global. Y cuando se introdujo 5G, mucha gente se hizo una pregunta perfectamente razonable: “¿La Internet será más rápida, pero qué hay de eso?”

En realidad, el aumento en la velocidad de Internet no se trata de la conveniencia del usuario. Transforma todo el paisaje tecnológico. Surgen casos de uso que anteriormente eran imposibles. 5G resultó ser mucho más rápido que 4G, y este salto no fue gradual, como el salto de 1G a 2G, sino exponencial. Como resultado, aparecen nuevas aplicaciones, dispositivos y clases de tecnología enteras.

Cámaras de tráfico, sistemas de análisis de tráfico en tiempo real y mecanismos de regulación de tráfico automatizados, todo esto se vuelve posible gracias a las nuevas tecnologías de comunicación. La policía obtiene nuevas formas de intercambiar datos, y en el espacio, los telescopios y satélites pueden transmitir vastas cantidades de información a la Tierra. Un salto cualitativo en una tecnología fundamental impulsa el desarrollo de todo el ecosistema.

El mismo principio se aplica a la potencia computacional. Imagina la capacidad de cómputo total de la humanidad en unidades hipotéticas. Hoy en día, podríamos tener, digamos, diez unidades. Con ellas, podemos generar imágenes y videos, escribir textos, crear materiales de marketing… Esto ya es sustancial, pero el rango de aplicaciones es limitado principalmente.

Ahora imagina que no tenemos diez, sino mil unidades. De repente, las tecnologías que anteriormente eran demasiado caras se vuelven factibles, y las startups que se abandonaron debido a los altos costos computacionales comienzan a tener sentido económico.

Toma, por ejemplo, los taxis robóticos. Hoy en día, dependen en gran medida de computadoras locales relativamente débiles instaladas en el vehículo. Sin embargo, si la señal de video se transmite a la nube con enormes recursos computacionales, los datos se pueden procesar y devolver en tiempo real. Y esto es crítico: un coche que se mueve a 100 km/h debe tomar decisiones en fracciones de segundo, ir recto, girar, frenar o no frenar.

Eso es cuando una industria de taxis robóticos completamente funcional se vuelve posible, no solo soluciones aisladas como las que vemos hoy en día. Cualquier computadora local instalada en un coche está inherentemente limitada de una manera que un sistema conectado no lo está. Cuanto más rápido podamos escalarlo, más rápido cambiará el mundo que nos rodea.

Acceso a chips y el “boleto de oro” en la IA

En el contexto de la potencia computacional, surge la pregunta: ¿está el acceso a chips modernos convirtiéndose en el “boleto de oro” para entrar en el mercado de la IA? ¿Están los grandes jugadores que firman contratos con fabricantes de chips o los producen ellos mismos creando una brecha entre las grandes empresas y todos los demás?

Una brecha de este tipo solo surge en un caso: si un modelo de negocio se centra exclusivamente en vender chips a grandes clientes. En la práctica, los fabricantes como NVIDIA apuntan a proporcionar soluciones en la nube para todos. Sus chips optimizados están disponibles en la nube tanto para OpenAI como para desarrolladores independientes.

Incluso las alianzas estratégicas entre empresas como Google, Anthropic, Microsoft, OpenAI, Amazon y NVIDIA son principalmente asociaciones para la utilización compartida de recursos, en lugar de intentos de cerrar el mercado. Este modelo permite la asignación eficiente de la potencia computacional, acelerando así el desarrollo tecnológico.

Si rastreamos la cadena de uso de recursos computacionales, comienza con el usuario final. Por ejemplo, cuando usas WhatsApp para llamadas de video y mensajería, la empresa debe asegurarse de que el servicio funcione: almacenar y procesar datos, ejecutar modelos para la limpieza de video, agregar efectos y mejorar la calidad de la imagen.

Mantener servidores propietarios es costoso, se vuelven obsoletos y requieren mantenimiento constante. Es por eso que han surgido soluciones en la nube, “la nube”. El mercado está dominado por tres jugadores: Google Cloud, AWS y Microsoft Azure. Otras empresas no pueden competir a este nivel: la escala de la infraestructura es demasiado vasta.

Los servicios en la nube son centros de datos masivos con enfriamiento, suministro de energía y mantenimiento las 24 horas. Albergan servidores y chips especializados de NVIDIA, AMD y otros fabricantes, lo que permite procesos computacionales a gran escala.

Aquí llegamos a la pregunta clave que discutí en mi columna anterior sobre centros de datos, y quiero continuar aquí: ¿cuál es el principal cuello de botella en este sistema? ¿Es la escasez de electricidad o la dificultad de enfriar los centros de datos en regiones donde el clima lo hace especialmente desafiante? En realidad, el secreto reside en los chips mismos…

El santo grial

¿Por qué NVIDIA hoy está valorada en alrededor de 5 billones de dólares y se cuenta entre las empresas más exitosas del mundo? La razón es simple: NVIDIA produce los chips en los que se entrenan y ejecutan los modelos de IA.

Cada uno de estos chips consume enormes cantidades de electricidad cuando se entrenan modelos grandes o se procesan volúmenes de datos cada vez mayores. Pero ¿cómo se utiliza eficientemente esa energía? Es aquí donde entran en juego los chips especializados; manejan tareas específicas mucho más eficientemente que las GPU de propósito general.

Los modelos de IA difieren. OpenAI, por ejemplo, tiene una familia de modelos, Anthropic otra. Los conceptos pueden ser similares, pero las estructuras matemáticas y los procesos computacionales son diferentes. Un chip de propósito general, cuando se entrena con modelos de OpenAI (como ChatGPT) versus modelos de Anthropic (como Claude), actúa como una “herramienta de un tamaño que se adapta a todos”, consumiendo, digamos, 100.000 horas de cómputo para un modelo y 150.000 para otro. La eficiencia varía significativamente y rara vez es óptima.

Las empresas resuelven este problema produciendo chips especializados. Por ejemplo, un chip puede estar optimizado para la arquitectura de ChatGPT y entrenarla en, digamos, 20 minutos, mientras que otro está adaptado a la arquitectura de Anthropic y también completa el entrenamiento en 20 minutos. El consumo de energía y el tiempo de entrenamiento se reducen múltiples veces en comparación con un chip de propósito general.

Cuando estos chips se venden a grandes empresas, como Google, Amazon, Microsoft o Azure, se ofrecen como productos independientes. Los usuarios pueden elegir, por ejemplo, un chip optimizado para un modelo YOLO o un chip más simple y económico para una arquitectura Xen. De esta manera, las empresas obtienen acceso a recursos computacionales precisamente adaptados a sus tareas, en lugar de comprar GPU de propósito general. Si un usuario tiene diez funciones diferentes, puede utilizar diez chips especializados diferentes.

La tendencia es clara: los chips especializados están reemplazando gradualmente a los de propósito general. Muchas startups ahora trabajan con ASIC (Circuitos Integrados de Aplicación Específica), chips diseñados para tareas computacionales específicas. Los primeros ASIC aparecieron para la minería de Bitcoin: inicialmente, la criptomoneda se minaba en GPU de NVIDIA, luego se crearon chips diseñados exclusivamente para Bitcoin y no podían realizar otras tareas.

Lo veo en la práctica: la misma configuración de hardware puede producir resultados completamente diferentes dependiendo de la tarea. En mi startup Introspector, estudiamos estos procesos en proyectos reales, y como asesor estratégico de Keymakr, observo cómo los clientes obtienen eficiencia de los chips especializados, lo que permite que los modelos se ejecuten más rápido. Proyectos que anteriormente se estancaban durante el entrenamiento o la inferencia alcanzan resultados estables con este enfoque.

Sin embargo, la especialización estrecha conlleva riesgos. Un chip optimizado para la arquitectura de Anthropic no funcionará para entrenar modelos de OpenAI, y viceversa. Cada nueva arquitectura requiere una nueva generación de hardware, lo que crea un riesgo de “obsolescencia” a gran escala. Si Anthropic lanza una nueva arquitectura mañana, todos los chips de la generación anterior se vuelven ineficientes o inútiles. Producir nuevos chips cuesta miles de millones de dólares y puede tomar años.

Esto crea un dilema: ¿deberíamos hacer chips especializados que funcionen perfectamente en un escenario estrecho o seguir produciendo chips de propósito general que resuelven todas las tareas de manera moderada, pero no requieren reemplazo completo cuando las arquitecturas cambian?

La eficiencia en este contexto se mide por tres parámetros principales: tiempo de ejecución, consumo de electricidad y generación de calor. Estos parámetros están directamente relacionados: cuanto más tiempo se ejecuta un sistema, más energía consume y más calor produce. Reducir un parámetro mejora automáticamente los otros dos.

Aquí yace el “santo grial” del rendimiento de la IA: si al menos uno de los parámetros de eficiencia fundamentales se puede optimizar, los otros parámetros casi automáticamente mejoran también.

Proceso sostenible

Con el uso creciente de chips especializados, el problema de los riesgos de sobreproducción se ha vuelto apremiante. Actualmente, el exceso de equipo ya es significativo, y las empresas están abordando este problema de diversas maneras sostenibles, incluyendo el reciclaje de recursos existentes.

Reciclar equipo se ha convertido en un elemento clave del desarrollo sostenible en las industrias de alta tecnología. Los chips contienen cantidades sustanciales de metales preciosos y base, cobre, aluminio, paladio y materiales de tierras raras, así como materiales utilizados en microchips y transistores. Una vez que el equipo se vuelve obsoleto, estos recursos valiosos se pueden devolver a la producción, reduciendo el costo de los nuevos componentes al mismo tiempo que se reduce la huella ambiental de la industria.

Algunas fábricas especializadas y empresas se centran en el reciclaje y la extracción de metales preciosos de componentes obsoletos. Por ejemplo, algunas instalaciones utilizan procesos hidrometalúrgicos y métodos químicos avanzados para extraer oro y cobre con un alto grado de pureza, lo que permite que estos materiales se reutilicen en nuevos chips.

Además, las empresas están implementando modelos de circuito cerrado, donde el equipo antiguo se actualiza o se integra en nuevas soluciones, reduciendo así la necesidad de extracción de recursos primarios. Estos enfoques no solo ayudan a minimizar los residuos, sino que también reducen la huella de carbono de la producción, ya que la minería y el procesamiento de metales tradicionales requieren una cantidad significativa de energía.

La gestión sostenible del ciclo de vida de los chips y el equipo podría convertirse en un estándar de la industria, donde el progreso tecnológico se alinea con la responsabilidad ambiental.