La IA empresarial depende de datos en los que la gente pueda confiar

En 2025, las empresas invirtieron entre 30 mil millones y 40 mil millones de dólares en IA generativa, sin embargo, el Proyecto NANDA del MIT descubrió que solo el 5 por ciento de más de 300 implementaciones empresariales que examinó estaban generando retornos financieros medibles.

He pasado más de 25 años trabajando en programas de datos empresariales. Mucho antes de que la IA generativa entrara en la conversación, vi lo rápido que la tecnología perdía credibilidad cuando la gente no podía confiar en los datos que la sustentan. La IA generativa eleva la apuesta porque puede convertir datos cuestionables en una respuesta segura.

Solíamos decir ‘basura entra, basura sale’. Ahora es ‘basura entra, desastre sale’. Cuando los datos parecían sospechosos, una persona podía usar su juicio y contactar a un especialista en datos. El especialista realizaba un análisis de causa raíz, identificaba el problema y aplicaba una solución. Hoy, los agentes pueden actuar sobre cualquier dato que encuentren. Sin una supervisión humana experta, el resultado puede convertirse en parte de las operaciones, usarse en decisiones y escalar en toda la organización.

El mismo problema puede aparecer en un chatbot. Saltarse la gobernanza puede convertir datos malos o mal entendidos en una respuesta que suena autoritaria, de inmediato y a gran escala.

La confianza es el verdadero cuello de botella de la adopción

Cuando un chatbot interno brinda a alguien una respuesta segura pero incorrecta, esa persona puede dejar de confiar en él. En una gran organización, la IA también encontrará los datos que preferirías que no encontrara. Lo comparo con los calcetines sucios bajo la cama: esos datos pueden estar fuera de la vista, pero la IA los encontrará y los usará.

El contexto debe acompañar a los datos y ser la base sobre la que los LLM se apoyan. Antes de que un modelo de IA use datos, la gente necesita saber qué significan, de dónde provienen, quién los posee y qué reglas y políticas empresariales los rodean.

Los líderes pueden pasar por alto esto porque el sistema rara vez falla. La IA puede estar segura y equivocarse; puede sugerir pegamento para tu pizza (ejemplo muy antiguo). Imagina un chatbot que brinda una respuesta segura pero incorrecta, y la fuerza laboral deja de confiar en él. Reconstruir esa confianza lleva mucho más tiempo que establecer los controles adecuados desde el principio.

Esa erosión también se refleja en los datos. Los empleados de más del 90 por ciento de las empresas estudiado por MIT siguen usando herramientas de IA personales por su cuenta, incluso después de que el piloto oficial que su empleador construyó no logró ganar su confianza. Cuando la herramienta aprobada no ha ganado su confianza, los empleados buscan otra forma de realizar el trabajo.

Gran parte de la investigación de IA de este año apunta al mismo problema: las organizaciones avanzan con IA antes de haber realizado el trabajo necesario para que sus datos sean confiables. Gartner ha estimado que casi dos tercios de las organizaciones carecen de las prácticas adecuadas de gestión de datos para IA o no están seguros de poseerlas. Una investigación separada de IDC encontró una brecha similar en el aspecto de la confianza: el 78 por ciento de las organizaciones afirma confiar plenamente en su IA, pero solo el 40 por ciento ha invertido realmente en la gobernanza y la explicabilidad que justificarían esa confianza.

El desajuste entre la confianza y la inversión ayuda a explicar por qué tantas iniciativas de IA se estancan antes de llegar a producción o no se alinean con el valor previsto.

La gobernanza de IA es ahora la ventaja competitiva

Durante la mayor parte de mi carrera, la gobernanza de datos fue una de las áreas menos glamorosas de la TI empresarial. Catalogar metadatos,, definir la propiedad, perfilar datos y gestionar flujos de trabajo podía sentirse como trabajo de mantenimiento. La gente a menudo lo omitía porque el esfuerzo parecía mayor que el valor que producía.

La IA ha cambiado eso. Está convirtiéndose en una capacidad de gobernanza en áreas como el diseño de planos de datos, la creación de glosarios curados por la industria y la recomendación y activación de políticas de datos. Incluso la trazabilidad de datos ahora puede inferirse y agilizarse más rápido que antes, facilitando la realización del valor de los pipelines de datos gestionados y la observabilidad.

La regulación también está haciendo que la transparencia de datos sea más urgente. La EU AI Act entró en vigor de manera general el 2 de agosto de 2026, incluyendo normas de transparencia para ciertos sistemas y contenido generado por IA. La Ley también establece requisitos separados para sistemas de alto riesgo, incluyendo documentación e información que ayuda a los implementadores a interpretar sus resultados, aunque algunas disposiciones de alto riesgo siguen cronogramas posteriores.

Para las empresas, la lección práctica es sencilla: una trazabilidad y gobernanza claras facilitan documentar qué datos se usaron, de dónde provienen y cómo se supone que debe operar el sistema.

El panorama regulatorio en EE. UU. sigue sin resolverse. Sin una ley federal integral de IA, las empresas deben navegar entre diferentes requisitos estatales, incluso mientras la Casa Blanca busca limitar la capacidad de los estados para crear y hacer cumplir sus propias normas de IA. La AI Act de Colorado, el marco estatal más completo existente, ya ha sido retrasado y reescrito una vez en medio de esa disputa, con sus obligaciones principales pospuestas hasta 2027. Para muchas empresas estadounidenses, la tentación es esperar a que la incertidumbre se aclare.

Yo sostengo que ese es el instinto equivocado. Sea cual sea el modelo regulatorio que finalmente prevalezca en EE. UU., el requisito subyacente no desaparecerá. Conozca de dónde provienen sus datos. Sepa si alguien realmente los validó antes de que la IA los utilizara. Desarrollar esa disciplina ahora ayudará a las empresas a prepararse para la nueva regulación y a convertir pilotos de IA prometedores en herramientas que el negocio pueda usar con confianza.

Qué separa al 5 por ciento

Permítanme contarles sobre un cliente. Su equipo de libro mayor tenía que revisar 300 hojas de cálculo distintas cada vez que surgía una discrepancia en los registros. Trescientos. Finalmente, alguien reconstruyó todo ese caos como un único activo de datos gobernado, con los cálculos, los informes y los datos subyacentes empaquetados y validados de antemano. La próxima vez que surgió un problema, la solución requirió una fracción del esfuerzo que antes necesitaba. Solo en ese proceso, se ahorraron aproximadamente 750 días de trabajo. Eso representa millones de dólares en ahorros de costos solo por limpiar eso.

La mejora provino de hacer que los datos correctos fueran fáciles de encontrar y lo suficientemente fiables como para usarlos sin dudar. La colaboración y la reutilización lo hicieron posible. Los productos de datos confiables pueden alinearse con los estándares corporativos, extenderse y actualizarse con el tiempo, calificarse por su confianza y gestionarse por su valor. Este enfoque reduce la necesidad de crear cientos o miles de productos vinculados a tablas de bases de datos físicas individuales.

Los programas sólidos hacen visible esa confianza. En los mercados de datos con los que trabajo, los activos pueden clasificarse como oro, plata o bronce según factores como calidad, curación, uso y propiedad. Un usuario empresarial puede ver cuán fiable es un activo antes de usarlo. Esa visibilidad ayuda a la gente a dejar de adivinar y los hace más dispuestos a reutilizar datos que ya existen.

La cifra del 95 por ciento es una advertencia sobre cuán casualmente muchas empresas han tratado los datos detrás de la IA generativa. Las organizaciones que están avanzando están brindando a las personas una visión clara de dónde provienen sus datos, cómo fueron validados y si son adecuados para la tarea. Después de años de que la gestión de datos se considerara trabajo de fondo, la IA finalmente está haciendo visible su valor.