La IA empresarial depende de datos en los que la gente pueda confiar

En 2025, las empresas invirtieron entre 30 y 40 mil millones de dólares en IA generativa, sin embargo el Proyecto NANDA del MIT descubrió que solo el 5 por ciento de las más de 300 implementaciones empresariales que examinó estaban generando retornos financieros medibles.

He trabajado más de 25 años dentro de programas de datos empresariales. Mucho antes de que la IA generativa entrara en la conversación, observé lo rápido que la tecnología perdía credibilidad cuando la gente no podía confiar en los datos que la sustentan. La IA generativa eleva la apuesta porque puede convertir datos cuestionables en una respuesta segura.

Solíamos decir “basura entra, basura sale”. Ahora es “basura entra, desastre sale”. Cuando los datos parecían sospechosos, una persona podía usar su juicio y contactar a un especialista en datos. El especialista realizaba un análisis de causa raíz, identificaba el problema y aplicaba una solución. Hoy, los agentes pueden actuar sobre cualquier dato que encuentren. Sin una supervisión humana experta, el resultado puede convertirse en parte de las operaciones, usarse en decisiones y escalar en toda la organización.

El mismo problema puede aparecer en un chatbot. La falta de gobernanza puede convertir datos malos o mal comprendidos en una respuesta que suena autoritaria, de inmediato y a gran escala.

La confianza es el verdadero cuello de botella de la adopción

Cuando un chatbot interno brinda a alguien una respuesta segura pero incorrecta, esa persona puede dejar de confiar en él. En una gran organización, la IA también encontrará los datos que preferirías que no descubriera. Lo comparo con los calcetines sucios bajo la cama: esos datos pueden estar fuera de la vista, pero la IA los encontrará y los utilizará.

El contexto debe acompañar a los datos y ser la base sobre la que los LLM se apoyan. Antes de que un modelo de IA utilice datos, la gente necesita saber qué significan, de dónde provienen, quién los posee y qué reglas y políticas empresariales los rodean.

Los líderes pueden pasar por alto esto porque el sistema rara vez se bloquea. La IA puede equivocarse con seguridad; puede sugerir pegamento para tu pizza (ejemplo muy antiguo). Imagina un chatbot que brinda una respuesta segura pero errónea, y la fuerza laboral deja de confiar en él. Reconstruir esa confianza lleva mucho más tiempo que establecer los controles adecuados desde el principio.

Esa erosión también se refleja en los datos. Los empleados de más del 90 por ciento de las empresas MIT estudió siguen usando herramientas de IA personales por su cuenta, incluso después de que el piloto oficial que su empleador construyó no logró ganarse su confianza. Cuando la herramienta aprobada no ha ganado su confianza, los empleados buscan otra manera de realizar el trabajo.

Gran parte de la investigación de IA de este año apunta al mismo problema: las organizaciones avanzan con IA antes de haber realizado el trabajo necesario para que sus datos sean confiables. Gartner ha estimado que casi dos tercios de las organizaciones carecen de las prácticas adecuadas de gestión de datos para IA o no están seguras de disponer de ellas. Una investigación de IDC encontró una brecha similar en el aspecto de la confianza: el 78 por ciento de las organizaciones afirma confiar plenamente en su IA, pero solo el 40 por ciento ha invertido realmente en la gobernanza y el trabajo de explicabilidad que justificaría esa confianza.

El desajuste entre la confianza y la inversión ayuda a explicar por qué tantas iniciativas de IA se estancan antes de llegar a producción o no logran alinearse con el valor previsto.

La gobernanza de IA es ahora la ventaja competitiva

Durante la mayor parte de mi carrera, la gobernanza de datos fue una de las áreas menos glamorosas de TI empresarial. Catalogar metadatos, definir la propiedad, perfilar datos y gestionar flujos de trabajo podía sentirse como trabajo de limpieza. La gente a menudo lo omitía porque el esfuerzo parecía mayor que el valor que generaba.

La IA ha cambiado eso. Está convirtiéndose en una capacidad de gobernanza en áreas como el diseño de planos de datos, la creación de glosarios curados por la industria y la recomendación y activación de políticas de datos. Incluso la trazabilidad de datos ahora puede inferirse y optimizarse más rápido que antes, lo que facilita percibir el valor de los pipelines de datos gestionados y la observabilidad.

La regulación también está haciendo que la transparencia de datos sea más urgente. El EU AI Act se aplicó de forma general el 2 de agosto de 2026, incluyendo normas de transparencia para ciertos sistemas y contenido generado por IA. La Ley también establece requisitos separados para sistemas de alto riesgo, incluyendo documentación e información que ayuda a los implementadores a interpretar sus resultados, aunque algunas disposiciones de alto riesgo siguen cronogramas posteriores.

Para las empresas, la lección práctica es sencilla: una trazabilidad y gobernanza claras facilitan documentar qué datos se usaron, de dónde provienen y cómo se supone que debe operar el sistema.

El panorama regulatorio en EE. UU sigue sin resolverse. Sin una ley federal integral de IA, las empresas deben navegar entre diferentes requisitos estatales, incluso mientras la Casa Blanca busca limitar la capacidad de los estados para crear y aplicar sus propias normas de IA. La Ley de IA de Colorado, el marco estatal más completo existente, ya ha sido retrasado y reescrito una vez en medio de esa disputa, y sus obligaciones principales se han pospuesto hasta 2027. Para muchas empresas estadounidenses, la tentación es esperar a que la incertidumbre se disipe.

Yo sostengo que ese es el instinto equivocado. Sea cual sea el modelo regulatorio que finalmente prevalezca en EE. UU, el requisito subyacente no desaparecerá. Conozca de dónde provienen sus datos. Sepa si alguien los validó realmente antes de que la IA los utilizara. Desarrollar esa disciplina ahora ayudará a las empresas a prepararse para la nueva regulación y a convertir los pilotos prometedores de IA en herramientas que el negocio pueda usar con confianza.

Qué separa al 5 por ciento

Permítame contarle sobre un cliente. Su equipo de libro mayor tenía que revisar 300 hojas de cálculo distintas cada vez que surgía una discrepancia en los registros. Trescientos. Finalmente, alguien reconstruyó todo ese caos como un único activo de datos gobernado, con los cálculos, los informes y los datos subyacentes empaquetados y validados de antemano. La próxima vez que surgió un problema, la solución requirió una fracción del esfuerzo que antes se necesitaba. Solo en ese proceso se ahorraron aproximadamente 750 días de trabajo. Eso equivale a millones de dólares en ahorros, solo por limpiar esa situación.

La mejora surgió al hacer que los datos correctos fueran fáciles de encontrar y lo suficientemente fiables como para utilizarlos sin dudar. La colaboración y la reutilización lo hicieron posible. Los productos de datos confiables pueden alinearse con los estándares corporativos, extenderse y actualizarse con el tiempo, evaluarse en cuanto a confianza y gestionarse por su valor. Este enfoque reduce la necesidad de crear cientos o miles de productos vinculados a tablas de bases de datos físicas individuales.

Los programas sólidos hacen visible esa confianza. En los mercados de datos con los que trabajo, los activos pueden clasificarse como oro, plata o bronce según factores como calidad, curación, uso y propiedad. Un usuario empresarial puede ver cuán fiable es un activo antes de usarlo. Esa visibilidad ayuda a la gente a dejar de adivinar y los hace más propensos a reutilizar datos que ya existen.

La cifra del 95 por ciento es una advertencia sobre cuán casualmente muchas empresas han tratado los datos detrás de la IA generativa. Las organizaciones que están avanzando están ofreciendo a las personas una visión clara de dónde provienen sus datos, cómo fueron validados y si son adecuados para la tarea. Después de años en los que la gestión de datos se consideró trabajo de fondo, la IA finalmente está haciendo visible su valor.