Por qué GenAI se estanca sin una gobernanza sólida

Las empresas se esfuerzan por pasar de la experimentación a la producción de proyectos de Inteligencia Artificial Generativa, pero muchas siguen atascadas en la fase de prueba. Según nuestra investigación reciente, el 92% de las organizaciones están preocupadas de que los proyectos piloto de GenAI estén avanzando sin abordar primero los problemas fundamentales de datos. Incluso más revelador: el 67% no ha podido escalar ni la mitad de sus proyectos piloto a producción. Esta brecha de producción se debe menos a la madurez tecnológica y más a la preparación de los datos subyacentes. El potencial de GenAI depende de la solidez del terreno en el que se basa. Y hoy, para la mayoría de las organizaciones, ese terreno es inestable en el mejor de los casos.

Por qué GenAI se estanca en la prueba

Aunque las soluciones de GenAI son ciertamente poderosas, solo son tan efectivas como los datos que las alimentan. El viejo adagio de “basura que entra, basura que sale” es más cierto hoy que nunca. Sin datos confiables, completos, autorizados y explicables, los modelos de GenAI a menudo producen resultados que son inexactos, sesgados o inadecuados para su propósito.

Desafortunadamente, las organizaciones han apresurado a desplegar casos de uso de bajo esfuerzo, como chatbots de IA que ofrecen respuestas personalizadas de diferentes documentos internos. Y aunque estos mejoran la experiencia del cliente en cierta medida, no exigen cambios profundos en la infraestructura de datos de la empresa. Pero para escalar GenAI de manera estratégica, ya sea en atención médica, servicios financieros o automatización de la cadena de suministro, se requiere un nivel diferente de madurez de datos.

De hecho, el 56% de los Directores de Datos citan la confiabilidad de los datos como una barrera clave para la implementación de la IA. Otros problemas son los datos incompletos (53%), los problemas de privacidad (50%) y las brechas de gobernanza de la IA más grandes (36%).

No hay gobernanza, no hay GenAI

Para llevar GenAI más allá de la fase de prueba, las empresas deben tratar la gobernanza de datos como un imperativo estratégico para su negocio. Deben asegurarse de que los datos estén a la altura de la tarea de alimentar los modelos de IA, y para ello, deben abordar las siguientes preguntas:

• ¿Los datos utilizados para entrenar el modelo provienen de los sistemas adecuados?
• ¿Hemos eliminado la información personalmente identificable y seguido todas las regulaciones de datos y privacidad?
• ¿Somos transparentes y podemos demostrar la procedencia de los datos que el modelo utiliza?
• ¿Podemos documentar nuestros procesos de datos y estar preparados para demostrar que los datos no tienen sesgo?

La gobernanza de datos también debe estar integrada en la cultura de la organización. Para ello, se requiere construir la alfabetización en IA en todos los equipos. La Ley de IA de la UE formaliza esta responsabilidad, requiriendo que tanto los proveedores como los usuarios de sistemas de IA hagan sus mejores esfuerzos para garantizar que los empleados sean suficientemente alfabetizados en IA, comprendiendo cómo funcionan estos sistemas y cómo utilizarlos de manera responsable. Sin embargo, la adopción efectiva de la IA va más allá del conocimiento técnico. También exige una base sólida en habilidades de datos, desde la comprensión de la gobernanza de datos hasta la formulación de preguntas analíticas. Tratar la alfabetización en IA de manera aislada de la alfabetización en datos sería miope, considerando lo estrechamente que están relacionadas.

En cuanto a la gobernanza de datos, todavía hay trabajo por hacer. Entre las empresas que desean aumentar sus inversiones en gestión de datos, el 47% está de acuerdo en que la falta de alfabetización en datos es una barrera principal. Esto destaca la necesidad de construir apoyo a nivel superior y desarrollar las habilidades adecuadas en toda la organización. Sin estas bases, incluso las LLM más potentes lucharán por entregar.

Desarrollar IA que debe ser responsable

En el entorno regulatorio actual, ya no es suficiente que la IA “funcione”, también debe ser responsable y explicada. La Ley de IA de la UE y el plan de acción de IA propuesto por el Reino Unido requieren transparencia en los casos de uso de alto riesgo de la IA. Otros siguen el mismo camino, y más de 1.000 proyectos de ley relacionados están en la agenda en 69 países.

Este movimiento global hacia la responsabilidad es un resultado directo de las crecientes demandas de los consumidores y partes interesadas de equidad en los algoritmos. Por ejemplo, las organizaciones deben poder explicar por qué un cliente fue rechazado para un préstamo o cobrado una tarifa de seguro premium. Para poder hacerlo, necesitarían saber cómo el modelo tomó esa decisión, y eso a su vez depende de tener un rastro claro y auditable de los datos utilizados para entrenarlo.

A menos que haya explicabilidad, los negocios corren el riesgo de perder la confianza del cliente, así como enfrentar repercusiones financieras y legales. Como resultado, la trazabilidad de la procedencia de los datos y la justificación de los resultados no es un “nice to have”, sino un requisito de cumplimiento.

Y a medida que GenAI se expande más allá de ser utilizado para herramientas simples a agentes completamente desarrollados que pueden tomar decisiones y actuar en consecuencia, las apuestas para una sólida gobernanza de datos aumentan aún más.

Pasos para construir IA de confianza

Entonces, ¿cómo se ve el éxito? Para escalar GenAI de manera responsable, las organizaciones deben adoptar una estrategia de datos única en tres pilares:

• Ajustar la IA al negocio: Catalogar los datos alrededor de los objetivos comerciales clave, asegurando que reflejen el contexto, los desafíos y las oportunidades únicos de su negocio.
• Establecer confianza en la IA: Establecer políticas, estándares y procesos para el cumplimiento y la supervisión de la implementación ética y responsable de la IA.
• Construir tuberías de datos listas para la IA: Combinar las diversas fuentes de datos en una base de datos resistente para una sólida preparación de la IA, integrando la conectividad de GenAI preconstruida.

Cuando las organizaciones lo hacen bien, la gobernanza acelera el valor de la IA. Por ejemplo, en los servicios financieros, los fondos de cobertura están utilizando la IA generativa para superar a los analistas humanos en la predicción de precios de acciones mientras reducen significativamente los costos. En la fabricación, la optimización de la cadena de suministro impulsada por la IA permite a las organizaciones reaccionar en tiempo real a los cambios geopolíticos y las presiones ambientales.

Y estas no son solo ideas futuristas, están sucediendo ahora, impulsadas por datos confiables.

Con bases de datos sólidas, las empresas reducen la deriva de los modelos, limitan los ciclos de reentrenamiento y aumentan la velocidad para obtener valor. Eso es por qué la gobernanza no es un obstáculo; es un habilitador de la innovación.

¿Qué sigue?

Después de la experimentación, las organizaciones están moviéndose más allá de los chatbots y están invirtiendo en capacidades transformadoras. Desde la personalización de las interacciones del cliente hasta acelerar la investigación médica, mejorar la salud mental y simplificar los procesos regulatorios, GenAI está comenzando a demostrar su potencial en various industrias.

Sin embargo, estos logros dependen enteramente de los datos que los sustentan. GenAI comienza con la construcción de una base de datos sólida, a través de una sólida gobernanza de datos. Y aunque GenAI y la IA agente continuarán evolucionando, no reemplazarán la supervisión humana en un futuro cercano. En cambio, estamos entrando en una fase de creación de valor estructurado, donde la IA se convierte en un copiloto confiable. Con las inversiones adecuadas en la calidad de los datos, la gobernanza y la cultura, las empresas pueden finalmente convertir GenAI de un piloto prometedor en algo que realmente despega.