La Inteligencia Artificial en la Empresa: Contando el Costo Total

La inteligencia artificial ha superado la teoría y la novedad. Para muchas organizaciones, ahora se encuentra junto a los sistemas básicos como parte de la infraestructura. Muchas personas todavía piensan en ella principalmente en términos de LLMs públicos y chatbots – algo que puedes usar y descartar cuando termines. Ver la inteligencia artificial a través de esta lente puede pasar por alto la amplia gama de modelos y técnicas que pueden mejorar los resultados de manera más eficiente con menos riesgo.

La verdad es que la inteligencia artificial debe evaluarse como cualquier otra inversión importante en infraestructura – con una visión clara del costo, beneficio y riesgo operativo desde el principio. Llevarla a un estado utilizable significa invertir en tuberías de datos de calidad, observabilidad, gobernanza y las personas que la mantienen alineada con los resultados comerciales deseados. Cortar esquinas aquí, y la factura se mueve simplemente al futuro con intereses agregados.

Cómo se Escalan Realmente los Costos de la Inteligencia Artificial

Es comprensible que los equipos asuman que los costos de la inteligencia artificial crecen en una línea recta: hacer el doble de trabajo, pagar el doble de dinero. En realidad, el esfuerzo, los costos y los resultados pueden moverse de manera independiente entre sí de maneras sorprendentes. Pedir a una inteligencia artificial que lea un documento largo de una vez y tiene que considerar cada palabra en relación con cada otra palabra. En la mayoría de los LLMs populares, eso significa que el trabajo involucrado y, por lo tanto, el costo, no crece de la manera que la gente espera naturalmente – duplicar la entrada, duplicar el costo – sino que crece aproximadamente con el cuadrado de la longitud de la entrada. Un conocimiento de fundamentos como este puede tener un impacto real en la línea de fondo de cualquier despliegue de inteligencia artificial. Si una organización que maneja grandes volúmenes de texto todos los días, un regulador, por ejemplo, diseña desde el principio alrededor de la búsqueda de gráficos o tuberías de recuperación en lugar de enviar documentos completos al modelo, la experiencia del usuario final es aún “hacer una pregunta, obtener una respuesta en segundos”, al igual que un chatbot público. Eso mantiene a los ejecutivos entusiastas de la inteligencia artificial felices con interacciones instantáneas, mientras que debajo de la superficie el sistema está haciendo mucho menos trabajo innecesario y la factura de cómputo es mucho menor como resultado.

Cómo se Distribuye el Gasto en Inteligencia Artificial en la Organización

Las elecciones tecnológicas son solo parte de la historia, el resto es cómo las organizaciones se acercan a la inteligencia artificial para empezar. En muchas organizaciones, la preparación de datos se encuentra con la ingeniería. Las revisiones de cumplimiento se encuentran con los legales. El gasto en la nube vive con los equipos de plataforma o infraestructura. La selección de modelo, configuración y cualquier afinamiento usualmente se encuentran con unos pocos operadores especializados. Cada grupo ve su propia parte del trabajo y su propia línea de presupuesto. El gasto aparece como cómputo aquí, tiempo de contratista allí, y el tiempo de las personas se absorbe en “negocios habituales” en varios equipos. Con números dispersos en centros de costo, obtener el costo total de un solo proyecto de inteligencia artificial puede no ser visible en ningún lugar y es fácil de subestimar. En ese entorno, los costos de la inteligencia artificial pueden espiral silenciosamente, simplemente porque nadie está rastreando el número completo en un solo lugar.

Un Enfoque Práctico para la Gestión de Costos de la Inteligencia Artificial

Evitar la inteligencia artificial no es el movimiento correcto para las organizaciones, pero tampoco es tratarla como una tecnología de captura. Una buena estrategia es siempre comenzar con el resultado deseado y trabajar hacia atrás. No todos los casos necesitan un modelo general grande y costoso de ejecutar. Muchas tareas pueden manejarse con técnicas de aprendizaje automático bien entendidas que caen bajo el paraguas de la inteligencia artificial y pueden ejecutarse en infraestructura existente.

Comience con pequeños proyectos piloto que miden el costo total de propiedad, no solo el uso del modelo, lo que significa mirar el cómputo, por supuesto, pero también el trabajo de integración, el tiempo de ingeniería, la gestión del cambio y el esfuerzo de cumplimiento. El objetivo es elegir el modelo más pequeño y simple que entregue un resultado aceptable en lugar de asumir que “más modelo” significa “más beneficio”.

La inteligencia artificial no es una cosa. Es una combinación de técnicas y herramientas que se pueden usar de diferentes maneras. Verla de esta manera rompe el misterio alrededor de resultados impresionantes y permite a las empresas aprovechar su poder con más responsabilidad y mayor efecto.

Personas, Tiempo y Inteligencia Artificial

Cada despliegue de inteligencia artificial es en la práctica una colaboración entre personas y software. Ya sea que se reconozca formalmente o no, es así como se hace el trabajo. El cambio actual hacia una inteligencia artificial más agente – herramientas que pueden encadenar pasos, llamar a otros sistemas y actuar con menos instrucciones – no cambia eso, de hecho aumenta las apuestas para obtener el lado humano del flujo de trabajo correcto.

Estas herramientas pueden ser fáciles de confiar en exceso. Cuando un sistema presenta respuestas con fluidez y confianza, es natural que las personas asuman que generalmente está en lo correcto. Si esa herramienta se introduce en un flujo de trabajo sin capacitación adecuada, límites claros y controles sensatos, puede generar silenciosamente un flujo de pequeños errores. Cada uno tiene que ser descubierto, entendido y corregido por una persona. En papel, la inteligencia artificial parece eficiente, en la práctica hay un costo oculto en tiempo humano extra gastado limpiando después de ella. En entornos de cara al cliente o regulados, esos pequeños errores también pueden llevar un costo de reputación. Sin embargo, las herramientas se entregan o se utilizan, la responsabilidad por sus salidas todavía se sienta con la organización y, en términos diarios, con los operadores humanos que las utilizan. Eso necesita ser explícitamente entendido para que esas herramientas sean verdaderamente útiles.

Un patrón mejor es una asociación deliberada: personas capacitadas permanecen claramente a cargo de los resultados, y la inteligencia artificial se utiliza para acelerar las partes del trabajo que se adaptan a ella, como resumir, redactar, ordenar, buscar. Incluso cuando todavía se necesita algún tipo de verificación y corrección, el efecto general de la inteligencia artificial bien introducida y bien administrada en los flujos de trabajo puede ser más velocidad, más consistencia y más capacidad de lo que un equipo podría lograr por sí solo.

Gobernanza como Parte del Presupuesto de la Inteligencia Artificial

Incluso cuando las elecciones técnicas son sólidas y el uso es eficiente, una participación creciente del gasto en inteligencia artificial estará vinculada a la gobernanza en lugar de cómputo crudo. Para las organizaciones que operan en la UE, la ley de inteligencia artificial lo hace muy claro. Toma una visión basada en riesgos de la inteligencia artificial y, lo que es importante, eso no se aplica solo a productos de cara al público. Los sistemas internos utilizados en áreas como la contratación y la promoción, la gestión y el monitoreo de los trabajadores, y la toma de decisiones relacionadas con la seguridad pueden caer dentro del alcance y traer expectativas alrededor de la gestión de riesgos, la documentación, el registro y la supervisión humana con ellos. Otras regiones se están moviendo en una dirección similar, aunque las reglas parezcan ligeramente diferentes, la tendencia general es la misma: las organizaciones más grandes se espera que sepan dónde se utiliza la inteligencia artificial, qué está haciendo y cómo se controla.

El efecto práctico de esto es que los proyectos internos de inteligencia artificial ahora pueden venir con una carga de trabajo de gobernanza propia que no es opcional. Cada nuevo caso de uso podría significar una nueva evaluación de riesgo o impacto, más monitoreo y más preguntas de los equipos de cumplimiento, auditoría o riesgo. Nada de eso aparecerá en las métricas de uso del modelo, pero es un esfuerzo real que debe ser pagado.

Nuevamente, nada de esto es razón para evitar la inteligencia artificial. Es un recordatorio de que el costo de funcionamiento de un proceso interno habilitado para inteligencia artificial no es solo el precio de invocar un modelo. La gobernanza y las expectativas regulatorias ahora son parte del costo total de propiedad

Dónde Fallan los Despliegues de Inteligencia Artificial

Un patrón familiar en los proyectos de inteligencia artificial es la brecha entre cómo se ve un sistema en una demostración y cómo se comporta a escala en el mundo real. En un entorno controlado, con un conjunto limitado de preguntas y datos amigables, los resultados pueden parecer impecables. Es fácil en ese momento asumir que el sistema está listo para asumir una categoría completa de trabajo.

Los problemas tienden a aparecer más tarde, cuando el sistema se expone a la variedad y el volumen completo de uso real: consultas inusuales, usuarios estresados, registros incompletos, casos de borde desordenados. Las grietas que eran invisibles en la demostración comienzan a aparecer como respuestas desviadas, matices perdidos, bucles de soporte, tiempos de manejo más largos y daño silencioso a la confianza. Las métricas internas, como “consultas manejadas” y “tiempo ahorrado”, pueden parecer buenas en papel, pero la experiencia vivida por los usuarios finales puede contar una historia diferente.

Saltar directamente desde una demostración pulida o un piloto pequeño donde el éxito en condiciones controladas se trata como evidencia de que el sistema está listo para una implementación más amplia puede ser un error costoso. En el mundo real, los usuarios traen consultas desordenadas, datos incompletos y sus propias suposiciones sobre lo que la herramienta puede hacer. Si las expectativas no se gestionan, y el flujo de trabajo alrededor del sistema no se diseña con retrocesos y escalada en mente, la organización paga dos veces: una vez por la construcción y nuevamente en soporte extra, rework, quejas y confianza perdida. La tecnología puede parecer impresionante en papel, pero sin un enfoque pragmático de cómo se encuentra con personas y procesos reales, el retorno de esa inversión se erosiona rápidamente.

El lado opuesto es que los sistemas bien diseñados, con límites claros y propiedad humana construida desde el principio, pueden hacer cosas que ningún equipo humano podría manejar solo: escanear grandes volúmenes de información en segundos, detectar patrones a lo largo de años de datos y manejar decisiones rutinarias a una escala que de otra manera estaría fuera de alcance. El punto es que para ganar esos beneficios, las organizaciones deben igualar su ambición con una visión realista de cómo la tecnología se comportará una vez que esté en el mundo.

Pensamientos Finales

Nada de esto es un argumento en contra de la inteligencia artificial. Es un argumento a favor de tratarla con la misma seriedad que cualquier otro sistema que pueda cambiar materialmente cómo opera un negocio.

Utilizada bien, la inteligencia artificial ayuda a los equipos pequeños a actuar a una escala más grande, descubrir patrones que serían difíciles de detectar manualmente y hacer que el juicio experto vaya más lejos. Pero llegar allí requiere una visión clara de dónde se utiliza la inteligencia artificial, qué cuesta en total y cómo se gobierna. Eso significa hacer elecciones deliberadas sobre modelos y arquitecturas, invertir en datos y observabilidad, y diseñar procesos donde las personas se mantengan en el bucle.

“Moverse rápido y romper cosas” fue un eslogan escrito para equipos humanos que trabajan en sistemas de escala humana: si algo se rompe, lo reviertes, lo parchas y sigues adelante. Una vez que la inteligencia artificial se teje en decisiones sobre clientes, empleados o ciudadanos, la misma actitud puede producir problemas que se propagan más rápido, golpean más fuerte y son mucho más difíciles de desenredar. La velocidad todavía importa, y la inteligencia artificial ciertamente puede ayudar aquí, pero debe equilibrarse con una visión clara de riesgo, costo y responsabilidad.

No hay forma de eliminar completamente el costo o el riesgo. Pero hay una clara diferencia entre las organizaciones que confían en experimentos ad hoc y aquellas que construyen la inteligencia artificial en sus operaciones de manera medida, con una visión clara desde el gasto hasta el éxito. A lo largo de la variedad de problemas y resultados que enfrentan las organizaciones, no hay una sola solución de inteligencia artificial que pueda resolverlos todos. El uso efectivo de la inteligencia artificial en la empresa siempre debe ser especializado, supervisado y cuidadosamente definido.