Por qué GenAI se estanca sin una gobernanza sólida

A medida que las empresas luchan por mover los proyectos de Generative AI desde la experimentación hasta la producción, muchas empresas siguen atascadas en el modo de piloto. Como destaca nuestra investigación reciente, el 92% de las organizaciones están preocupadas de que los pilotos de GenAI estén acelerando sin abordar primero los problemas fundamentales de datos. Incluso más revelador: el 67% no ha podido escalar ni la mitad de sus pilotos a producción. Esta brecha de producción se debe menos a la madurez tecnológica y más a la preparación de los datos subyacentes. El potencial de GenAI depende de la solidez del terreno sobre el que se basa. Y hoy, para la mayoría de las organizaciones, ese terreno es inestable en el mejor de los casos.

Por qué GenAI se atasca en el piloto

Aunque las soluciones de GenAI son ciertamente poderosas, son tan efectivas como los datos que las alimentan. El viejo adagio de “basura que entra, basura que sale” es más cierto hoy que nunca. Sin datos confiables, completos, autorizados y explicables, los modelos de GenAI a menudo producen resultados que son inexactos, sesgados o inadecuados para el propósito.

Desafortunadamente, las organizaciones han apresurado a implementar casos de uso de bajo esfuerzo, como chatbots de IA que ofrecen respuestas personalizadas de diferentes documentos internos. Y aunque estos mejoran la experiencia del cliente en cierta medida, no exigen cambios profundos en la infraestructura de datos de la empresa. Pero para escalar GenAI estratégicamente, ya sea en atención médica, servicios financieros o automatización de la cadena de suministro, se requiere un nivel diferente de madurez de datos.

De hecho, el 56% de los Directores de Datos citan la confiabilidad de los datos como una barrera clave para la implementación de la IA. Otros problemas son datos incompletos (53%), problemas de privacidad (50%) y brechas de gobernanza de IA más grandes (36%).

No hay gobernanza, no hay GenAI

Para llevar a GenAI más allá de la etapa de piloto, las empresas deben tratar la gobernanza de datos como un imperativo estratégico para su negocio. Necesitan asegurarse de que los datos estén a la altura de la tarea de alimentar los modelos de IA, y para ello, las siguientes preguntas deben ser abordadas:

• ¿Los datos utilizados para entrenar el modelo provienen de los sistemas correctos?
• ¿Hemos eliminado la información de identificación personal y seguido todas las regulaciones de datos y privacidad?
• ¿Somos transparentes y podemos probar la procedencia de los datos que utiliza el modelo?
• ¿Podemos documentar nuestros procesos de datos y estar preparados para demostrar que los datos no tienen sesgo?

La gobernanza de datos también debe estar integrada en la cultura de la organización. Para hacer esto, se requiere construir alfabetización en IA en todos los equipos. El Acta de IA de la UE formaliza esta responsabilidad, requiriendo que tanto los proveedores como los usuarios de los sistemas de IA hagan sus mejores esfuerzos para garantizar que los empleados tengan suficiente alfabetización en IA, asegurando que comprendan cómo funcionan estos sistemas y cómo utilizarlos de manera responsable. Sin embargo, la adopción efectiva de IA va más allá del conocimiento técnico. También exige una base sólida en habilidades de datos, desde comprender la gobernanza de datos hasta formular preguntas analíticas. Tratar la alfabetización en IA de manera aislada de la alfabetización en datos sería miope, dado lo estrechamente que están relacionadas.

En términos de gobernanza de datos, todavía hay trabajo por hacer. Entre las empresas que desean aumentar sus inversiones en gestión de datos, el 47% está de acuerdo en que la falta de alfabetización en datos es una barrera principal. Esto destaca la necesidad de construir apoyo de nivel superior y desarrollar las habilidades adecuadas en toda la organización es crucial. Sin estas bases, incluso los LLM más poderosos lucharán por entregar.

Desarrollar IA que debe ser responsable

En el entorno regulatorio actual, ya no es suficiente que la IA “simplemente funcione”, también debe ser responsable y explicada. El Acta de IA de la UE y el plan de acción de IA propuesto por el Reino Unido requieren transparencia en casos de uso de alto riesgo de IA. Otros siguen el ejemplo, y más de 1.000 proyectos de ley relacionados están en la agenda en 69 países.

Este movimiento global hacia la rendición de cuentas es un resultado directo de las crecientes demandas de los consumidores y las partes interesadas de equidad en los algoritmos. Por ejemplo, las organizaciones deben poder decir los motivos por los que un cliente fue rechazado para un préstamo o cobrado una tarifa de seguro premium. Para poder hacer eso, necesitarían saber cómo el modelo tomó esa decisión, y eso a su vez depende de tener un rastro claro y audible de los datos que se utilizaron para entrenarlo.

A menos que haya explicabilidad, los negocios corren el riesgo de perder la confianza del cliente, así como enfrentar repercusiones financieras y legales. Como resultado, la trazabilidad de la procedencia de los datos y la justificación de los resultados no es un “sería bueno tener”, sino un requisito de cumplimiento.

Y a medida que GenAI se expande más allá de ser utilizado para herramientas simples hasta convertirse en agentes completamente desarrollados que pueden tomar decisiones y actuar en consecuencia, las apuestas para una sólida gobernanza de datos aumentan aún más.

Pasos para construir IA de confianza

Entonces, ¿cómo se ve el buen desempeño? Para escalar GenAI de manera responsable, las organizaciones deben buscar adoptar una estrategia de datos única en tres pilares:

• Ajustar la IA al negocio: Catalogar sus datos alrededor de los objetivos comerciales clave, asegurando que refleje el contexto único, los desafíos y las oportunidades específicas de su negocio.
• Establecer confianza en la IA: Establecer políticas, estándares y procesos para el cumplimiento y la supervisión de la implementación ética y responsable de la IA.
• Construir tuberías de datos listas para la IA: Combinar sus diversas fuentes de datos en una base de datos resistente para una sólida preparación de la IA, horneando la conectividad preconstruida de GenAI.

Cuando las organizaciones lo hacen bien, la gobernanza acelera el valor de la IA. Por ejemplo, en los servicios financieros, los fondos de cobertura están utilizando la IA generativa para superar a los analistas humanos en la predicción de precios de acciones mientras reducen significativamente los costos. En la fabricación, la optimización de la cadena de suministro impulsada por la IA permite a las organizaciones reaccionar en tiempo real a los cambios geopolíticos y las presiones ambientales.

Y estas no son solo ideas futuristas, están sucediendo ahora, impulsadas por datos confiables.

Con bases de datos sólidas, las empresas reducen la deriva del modelo, limitan los ciclos de retrabajo y aumentan la velocidad hacia el valor. Es por eso que la gobernanza no es un obstáculo; es un habilitador de la innovación.

¿Qué sigue?

Después de la experimentación, las organizaciones están moviéndose más allá de los chatbots y están invirtiendo en capacidades transformadoras. Desde la personalización de las interacciones con los clientes hasta acelerar la investigación médica, mejorar la salud mental y simplificar los procesos regulatorios, GenAI está comenzando a demostrar su potencial en various industrias.

Sin embargo, estos logros dependen enteramente de los datos que los sustentan. GenAI comienza con la construcción de una base de datos sólida, a través de una sólida gobernanza de datos. Y aunque GenAI y la IA agente seguirán evolucionando, no reemplazarán la supervisión humana en un futuro cercano. En cambio, estamos entrando en una fase de creación de valor estructurada, donde la IA se convierte en un copiloto confiable. Con las inversiones adecuadas en calidad de datos, gobernanza y cultura, las empresas pueden finalmente convertir a GenAI de una promesa de piloto en algo que realmente despega.