Qué nos puede enseñar DeepSeek sobre el costo y la eficiencia de la IA

Con su logotipo de ballena adorable, el reciente lanzamiento de DeepSeek podría haber sido solo otra copia de ChatGPT. Lo que lo hizo tan noticiable – y lo que hizo que las acciones de los competidores cayeran en picado – fue lo poco que costó crearlo. En efecto, arrojó un mono wrench en la noción de EE. UU. De la inversión que se necesita para entrenar un modelo de lenguaje grande (LLM) de alta función.

DeepSeek supuestamente gastó solo $6 millones para entrenar su modelo de IA. Compare eso con los $80-$100 millones que OpenAI gastó en Chat GPT-4 o los $1.000 millones que han apartado para GPT-5. DeepSeek cuestiona ese nivel de inversión y deja a grandes jugadores como Nvidia (NVDA ) – cuya acción valía $600 mil millones en un día – TSMC y Microsoft (MSFT ) inquietos por la viabilidad financiera a largo plazo de la IA. Si es posible entrenar modelos de IA por significativamente menos de lo que se asumía anteriormente, ¿qué implica esto para el gasto en IA en general?

Aunque la interrupción de DeepSeek ha llevado a discusiones importantes, algunos puntos clave parecen perderse en el ajetreo. Sin embargo, lo que las noticias plantean es un mayor enfoque en cuánto cuesta la innovación y el posible impacto económico de la IA. Aquí hay tres ideas importantes que surgen de estas noticias:

1. La etiqueta de precio de $6 millones de DeepSeek es engañosa

Las empresas necesitan comprender el costo total de propiedad (TCO) de su infraestructura. Aunque la etiqueta de precio de $6 millones de DeepSeek se ha mencionado mucho, eso es probablemente el costo de solo su ejecución de pre-entrenamiento y no de toda su inversión. El costo total – no solo de ejecución, sino de construcción y entrenamiento de DeepSeek – probablemente sea mucho mayor. La firma de análisis de la industria SemiAnalysis reveló que la empresa detrás de DeepSeek gastó $1.600 millones en hardware para hacer que su LLM sea una realidad. Entonces, el costo probable está en algún lugar intermedio.

Cualquiera que sea el costo real, el advenimiento de DeepSeek ha creado un enfoque en la innovación rentable que podría ser transformacional. La innovación a menudo se ve impulsada por limitaciones, y el éxito de DeepSeek subraya la forma en que la innovación puede ocurrir cuando los equipos de ingeniería optimizan sus recursos frente a restricciones del mundo real.

2. La inferencia es lo que hace que la IA sea valiosa, no el entrenamiento

Es importante prestar atención a cuánto cuesta entrenar un modelo de IA, pero el entrenamiento representa una pequeña parte del costo total de construir y ejecutar un modelo de IA. Inferencia — las múltiples formas en que la IA cambia cómo trabajan, interactúan y viven las personas — es donde la IA se vuelve verdaderamente valiosa.

Esto plantea la paradoja de Jevons, una teoría económica que sugiere que a medida que los avances tecnológicos hacen que el uso de un recurso sea más eficiente, el consumo general de ese recurso puede aumentar en realidad. En otras palabras, a medida que los costos de entrenamiento disminuyen, la inferencia y el consumo agente aumentarán, y el gasto general seguirá el mismo patrón.

La eficiencia de la IA puede, de hecho, conducir a un aumento en el gasto en IA, lo que debería beneficiar a todas las empresas, no solo a las chinas. Asumiendo que cabalgan la ola de eficiencia, las empresas como OpenAI y Nvidia también se beneficiarán.

3. Lo que sigue siendo cierto es que la economía de unidades es lo más importante

Hacer que la IA sea más eficiente no se trata solo de reducir los costos; también se trata de optimizar la economía de unidades. The Motley Fool prevé que este año será el año de la eficiencia de la IA. Si tienen razón, las empresas deben prestar atención a reducir sus costos de entrenamiento de IA, así como sus costos de consumo de IA.

Las organizaciones que construyen o utilizan IA necesitan conocer su economía de unidades en lugar de destacar cifras impresionantes como el costo de entrenamiento de $6 millones de DeepSeek. La verdadera eficiencia implica asignar todos los costos, realizar un seguimiento de la demanda impulsada por la IA y mantener un seguimiento constante del costo-valor.

La economía de unidades en la nube (CUE) se refiere a la medición y maximización de las ganancias impulsadas por la nube. La CUE compara sus costos en la nube con las métricas de ingresos y demanda, lo que revela cuán eficiente es su gasto en la nube, cómo ha cambiado con el tiempo y (si tiene la plataforma adecuada) las mejores formas de aumentar esa eficiencia.

Comprender la CUE tiene aún mayor utilidad en un contexto de IA, dado que es inherentemente más costoso consumir que los servicios de nube tradicionales vendidos por los hiperscalers. Las empresas que construyen aplicaciones agente podrían calcular su costo por transacción (por ejemplo, costo por factura, costo por entrega, costo por operación, etc.) y utilizar esto para evaluar el retorno de la inversión de servicios, productos y características específicos impulsados por la IA. A medida que aumenta el gasto en IA, las empresas se verán obligadas a hacerlo; ninguna empresa puede tirar dólares ilimitados a la innovación experimental para siempre. Eventualmente, tiene que tener sentido comercial.

Hacia una mayor eficiencia

Sin embargo, significativo que sea el número de $6 millones, DeepSeek puede haber proporcionado un momento crucial que despierta a la industria tecnológica a la importancia inevitable de la eficiencia. Esperemos que esto abra las compuertas para el entrenamiento, la inferencia y las aplicaciones agente rentables que desbloquean el verdadero potencial y el ROI de la IA.