Los costos de la IA están acelerando: aquí está cómo mantenerlos bajo control

El uso de la nube sigue en aumento, al igual que sus costos asociados, particularmente aquellos impulsados por la IA. Los analistas de Gartner predicen que el gasto mundial en servicios de nube pública alcanzará $723.400 millones en 2025, un aumento con respecto a los $600.000 millones de 2024. Y el 70% de los ejecutivos encuestados en un informe de IBM citaron la IA generativa como un factor clave en este aumento.

Al mismo tiempo, DeepSeek de China generó expectación cuando afirmó que solo necesitó dos meses y $6 millones para entrenar su modelo de IA. Aunque hay dudas sobre si esas cifras cuentan toda la historia, si los precios de las acciones de Microsoft (MSFT ) y Nvidia (NVDA ) siguen siendo volátiles, la noticia despertó al mundo occidental sobre la necesidad de sistemas de IA eficientes en términos de costos.

Hasta ahora, las empresas han podido tratar los crecientes costos de la IA como gastos de investigación y desarrollo. Sin embargo, los costos de la IA, especialmente aquellos asociados con productos y características exitosas, eventualmente afectarán el costo de los bienes vendidos (COGS) y, en consecuencia, los márgenes brutos. Las innovaciones de la IA siempre estuvieron destinadas a enfrentar el escrutinio del sentido común empresarial; el anuncio de DeepSeek simplemente aceleró ese cronograma.

Al igual que con el resto de la nube pública, las empresas necesitarán gestionar sus costos de la IA, incluidos los costos de entrenamiento y consumo. Deberán conectar el gasto en la IA con los resultados comerciales, optimizar los costos de la infraestructura de la IA, perfeccionar las estrategias de precios y embalaje, y maximizar el retorno de la inversión en la IA.

¿Cómo pueden hacerlo? Con la economía de unidades de nube (CUE).

¿Qué es la economía de unidades de nube (CUE)?

La CUE comprende la medición y maximización del beneficio impulsado por la nube. Su mecanismo fundamental es conectar los datos de costos de la nube con los datos de demanda y ingresos de los clientes, revelando las dimensiones más y menos rentables de un negocio y mostrando a las empresas cómo y dónde optimizar. La CUE se aplica a todas las fuentes de gastos en la nube, incluidos los costos de la IA.

La base de la CUE es la asignación de costos, que consiste en organizar los costos de la nube según quién o qué los impulsa. Las dimensiones de asignación comunes incluyen el costo por cliente, el costo por equipo de ingeniería, el costo por producto, el costo por característica y el costo por microservicio. Las empresas que utilizan una plataforma de gestión de costos moderna a menudo asignan costos en un marco que refleja su estructura empresarial (su jerarquía de ingeniería, infraestructura de plataforma, etc.).

Luego, el corazón de la CUE es la métrica de costo unitario, que compara los datos de costos con los datos de demanda para mostrar a una empresa su costo total para servir. Por ejemplo, una empresa de marketing B2B podría querer calcular su “costo por 1.000 mensajes” enviados a través de su plataforma. Para hacer esto, necesitaría rastrear sus costos de la nube y el número de mensajes enviados, alimentar esos datos en un sistema único y pedirle a ese sistema que divida sus costos de la nube por sus mensajes y graficar el resultado en un panel.

Como la empresa comenzó con la asignación de costos, luego podría ver su costo por 1.000 mensajes por cliente, producto, característica, equipo, microservicio o cualquier otra vista que considere reflejar su estructura empresarial.

Los resultados:

• Dimensiones de negocio flexibles por las cuales pueden filtrar su métrica de costo unitario, mostrándoles qué áreas de su negocio impulsan sus costos de la nube
• Una métrica de costo unitario iluminadora que les muestra cuán eficientemente están satisfaciendo la demanda de los clientes
• La capacidad de realizar mejoras de eficiencia dirigidas, como refactorizar la infraestructura, ajustar los contratos de los clientes, o perfeccionar los modelos de precios y embalaje

CUE en la era de la IA

En el modelo de CUE, los costos de la IA son solo una fuente más de gastos en la nube que se pueden incorporar en el marco de asignación de una empresa. La forma en que las empresas de IA diseminan los datos de costos todavía está evolucionando, pero en principio, las plataformas de gestión de costos de la nube tratan los costos de la IA de manera similar a como tratan los costos de AWS, Azure, GCP y SaaS.

Las plataformas modernas de gestión de costos de la nube asignan los costos de la IA y muestran su impacto en la eficiencia en el contexto de las métricas de costo unitario.

Las empresas deberían asignar sus costos de la IA de varias maneras intuitivas. Una sería el costo por equipo, una dimensión de asignación común a todas las fuentes de gastos en la nube, que muestra los costos que cada equipo de ingeniería es responsable de asumir. Esto es particularmente útil porque los líderes saben exactamente a quién notificar y a quién rendir cuentas cuando los costos de un equipo en particular aumentan.

Las empresas también podrían querer saber su costo por tipo de servicio de IA — modelos de aprendizaje automático (ML) versus modelos de base versus modelos de terceros como OpenAI. O podrían calcular su costo por etapa del ciclo de vida de desarrollo de software (SDLC) para comprender cómo cambian los costos de una característica impulsada por la IA a medida que pasa de la fase de desarrollo a la de prueba, la de ensamblaje y, finalmente, la de producción. Una empresa podría ser aún más detallada y calcular su costo por etapa del ciclo de vida de desarrollo de la IA, incluyendo la limpieza de datos, el almacenamiento, la creación de modelos, el entrenamiento de modelos y la inferencia.

Al alejarse un poco de los detalles: la CUE significa comparar los datos de costos de la nube organizados con los datos de demanda de los clientes y luego determinar dónde optimizar. Los costos de la IA son solo una fuente más de datos de costos de la nube que, con la plataforma adecuada, encajan perfectamente en la estrategia general de CUE de una empresa.

Evitando el tsunami de COGS

A partir de 2024, solo el 61% de las empresas tenían sistemas formales de gestión de costos de la nube en lugar (según una encuesta de CloudZero). Los costos de la nube no gestionados pronto se vuelven inmanejables: el 31% de las empresas —similar a la proporción que no gestiona formalmente sus costos— sufren golpes importantes en el COGS, informando que los costos de la nube consumen el 11% o más de sus ingresos. Los costos de la IA no gestionados solo exacerbarán esta tendencia.

Hoy en día, las organizaciones más avanzadas tratan los costos de la nube como cualquier otro gasto importante, calculando su ROI, desglosando ese ROI por sus dimensiones comerciales más críticas y dotando a los miembros del equipo relevantes con los datos necesarios para optimizar ese ROI. Las plataformas de gestión de costos de la nube de próxima generación ofrecen un flujo de trabajo de CUE integral, ayudando a las empresas a evitar el tsunami de COGS y a fortalecer su viabilidad a largo plazo.