Líderes de opinión

Por qué las empresas deberían adoptar una gobernanza de la IA basada en valores

Isabella Grandi
Añade Unite.AI a tus fuentes preferidas en Google
Puntos claveUn marco de gobernanza de IA basado en valores permite a las empresas operar…
Ver más
  • Un marco de gobernanza de IA basado en valores permite a las empresas operar globalmente sin reconstruir sistemas para cada jurisdicción.
  • Adoptar seis valores clave como la responsabilidad y la equidad genera confianza pública y cumple con los más altos estándares éticos.
  • Una gobernanza sólida de IA crea valor empresarial al permitir una entrada más rápida al mercado y reducir el riesgo en múltiples regiones.

En septiembre de 2025, todos los Estados miembros de las Naciones Unidas se reunieron por primera vez para debatir la gobernanza internacional de la IA. Muchos volvieron a estar representados en febrero en el AI Impact Summit de Delhi. El encuentro dio lugar a la creación de dos nuevos organismos dedicados a la gobernanza de la IA, pero fue, en el mejor de los casos, un éxito simbólico.

Los nuevos mecanismos de la ONU se diseñaron para lograr consenso. Por eso evitan ámbitos controvertidos, como los usos militares de la IA, y carecen de fuentes claras de financiación y de facultades para exigir el cumplimiento de las decisiones. Esto no debería sorprender a los observadores experimentados. La ONU actual no puede actuar con rapidez ni garantizar que todos acaten sus decisiones, lo que la convierte en un foro en el que resulta difícil conseguir cambios reales.

Se trata de un patrón conocido. Pese a años de intentos dispersos de alcanzar un consenso sobre la regulación de la IA, no se han logrado acuerdos internacionales significativos. Se ha creado así un vacío en el que los países y bloques se han visto obligados a elaborar sus propias normas. Sin embargo, una gobernanza eficaz es crucial si queremos que la IA se adopte ampliamente, goce de la confianza pública y aporte beneficios sociales y económicos duraderos

Soluciones provisionales y remiendos

Para las empresas globales que desarrollan y operan sistemas de IA, la ausencia de mecanismos de gobernanza comunes y acordados supone un problema. Quieren desplegar sus sistemas en todo el mundo, pero no hay dos jurisdicciones que apliquen exactamente las mismas normas. Por eso deben crear primero un marco general de gobernanza para su sistema y después reconstruirlo desde cero en cada país donde operan, para cumplir las leyes y regulaciones locales. Esto genera una enorme cantidad de trabajo adicional, encarece las iniciativas de IA y aumenta el riesgo de retrasos, además de limitar la capacidad de las empresas globales para lograr economías de escala y ofrecer herramientas eficaces a usuarios de todo el mundo.

Existe, no obstante, una alternativa. Para las empresas que desean simplificar su enfoque, la mejor opción podría ser un marco de gobernanza de la IA que tenga en cuenta los principios éticos comunes a las distintas regiones y garantice en todas partes estándares elevados de protección de la libertad, la privacidad y la seguridad de las personas. Es una forma eficaz de reforzar la confianza pública en la tecnología, ampliar la base de clientes y aprovechar los beneficios potenciales de la IA para la sociedad.

Seis valores clave para la gobernanza de la IA

A cualquier organización interesada en una gobernanza de la IA basada en valores le sugeriría los seis valores clave que seguimos: rendición de cuentas, explicabilidad, transparencia, equidad, seguridad y posibilidad de impugnar decisiones.

Elegimos estos valores porque abarcan todas las áreas principales del ciclo de vida de un sistema de IA y ya están recogidos en diversas normas internacionales y nacionales, como la norma de la Organización Internacional de Normalización ISO/IEC 42001 y el manual de inteligencia artificial para el Gobierno del Reino Unido.

Empecemos por la rendición de cuentas: significa saber quién responde de qué en cada etapa del ciclo de vida de la IA. Si las responsabilidades no se asignan con claridad, pueden omitirse controles esenciales porque ninguna persona o equipo asume la responsabilidad final. Las organizaciones deben designar por su nombre a responsables de alto nivel, como su director de IA, para los sistemas y las etapas clave. Deben utilizar un modelo de gobernanza basado en riesgos y examinar las herramientas de terceros con el mismo rigor que las desarrolladas internamente. Eso implica comprender las condiciones, las limitaciones y las responsabilidades legales de los proveedores tan bien como los propios sistemas.

La Organización para la Cooperación y el Desarrollo Económicos, OCDE, expresa bien esta idea en sus orientaciones para reforzar la rendición de cuentas en la IA, que recomiendan crear «mecanismos para integrar el proceso de gestión de riesgos de la IA en la gobernanza organizativa más amplia, fomentando una cultura de gestión de riesgos tanto dentro de las organizaciones como en toda la cadena de valor de la IA».

A continuación está la explicabilidad. Las organizaciones deben poder mostrar cómo un sistema de IA llega a una decisión. Para ello hacen falta mecanismos que documenten y permitan rastrear la toma de decisiones, junto con registros claros del diseño del sistema, los datos de entrenamiento y los procesos de decisión. En conjunto, permiten a los equipos comprender el origen y el recorrido de la información desde la concepción del sistema hasta su despliegue.

La equidad busca que los sistemas de IA produzcan resultados equitativos y no reproduzcan ni amplifiquen los sesgos existentes. Sin comprobaciones deliberadas, pueden causar daños mediante resultados sesgados, especialmente en ámbitos de gran impacto como la contratación de personal, la sanidad y la justicia penal. Para reducir este problema, las organizaciones deben introducir medidas de detección de sesgos, revisar periódicamente los resultados para los grupos pertinentes y diseñar marcos de gobernanza que puedan atender los requisitos locales de no discriminación. En la práctica, esto supone crear sistemas que cumplan los estándares jurídicos más exigentes que probablemente encontrarán, incluidas las obligaciones de la Equality Act 2010 del Reino Unido y de la Carta de los Derechos Fundamentales de la UE.

La transparencia aporta claridad a usuarios y reguladores. Las personas deben entender cuándo se utiliza IA, qué papel desempeña en las decisiones y en qué datos se basa. Un punto de partida práctico es estandarizar la documentación de los sistemas, con apoyo de herramientas internas como las fichas de modelos. Son documentos breves que acompañan a los modelos de aprendizaje automático y explican el contexto de uso previsto, los detalles de los procedimientos de evaluación del rendimiento y otra información relevante. Sin transparencia, los usuarios no pueden impugnar resultados injustos, los reguladores no pueden intervenir eficazmente y los efectos perjudiciales pueden quedar ocultos.

La seguridad protege los sistemas de IA frente al acceso no autorizado, la manipulación y los comportamientos no intencionados. Una protección débil puede poner en riesgo a las organizaciones, los usuarios y sus datos y exponerlos a daños económicos y reputacionales. Las organizaciones deben fijar umbrales de rendimiento y precisión, someter los sistemas a pruebas de estrés en condiciones realistas e incorporar pruebas de equipo rojo para detectar vulnerabilidades.

Por último, la posibilidad de impugnación ofrece una vía clara y accesible para cuestionar las decisiones basadas en IA o recurrirlas. Sin ella, los usuarios afectados no tienen medios de reparación y los problemas quizá nunca salgan a la luz o se resuelvan. Las organizaciones deben facilitar canales de comunicación en el punto de uso, designar responsables de alto nivel para gestionar las reclamaciones y garantizar que los sistemas puedan pausarse, revisarse o actualizarse cuando sea necesario.

¿Qué beneficios ofrece un marco basado en valores?

Hay dos razones de peso para adoptar este enfoque de gobernanza de la IA basado en valores. En primer lugar, quienes desarrollan y despliegan sistemas tienen una responsabilidad ética ante las personas y organizaciones a las que afectan. En segundo lugar, es una forma más eficaz de hacer realidad los beneficios prometidos de la IA.

Los usuarios de los sistemas, tanto empresas como particulares, confían implícitamente en que sus creadores no utilizarán indebidamente los datos personales ni los expondrán a riesgos innecesarios. Cuando las organizaciones traicionan esa confianza, resulta muy difícil retener a los usuarios. En definitiva, las personas no aceptarán la introducción de los sistemas si no se cumplen ambas condiciones: confiar en ellos y ver los beneficios claros que aportan. De lo contrario, aumentará la división social y económica y perderemos muchas oportunidades de esta tecnología.

En cambio, las empresas que aplican un marco basado en valores en todas partes, incluidas las regiones con requisitos de gobernanza menos estrictos, pueden demostrar a clientes, inversores y reguladores que se exigen estándares superiores a los del mero cumplimiento básico. Esto genera confianza, participación y, en última instancia, éxito empresarial.

Una gobernanza sólida de la IA crea valor y no es una carga de cumplimiento normativo. Permite lanzar nuevos productos con mayor rapidez, reducir la exposición al riesgo y ampliar las soluciones a varios mercados con confianza.

El informe de McKinsey «El estado de la IA» concluyó, según sus resultados, que «la supervisión de la gobernanza de la IA por parte del CEO… es uno de los elementos más correlacionados con un mayor impacto en el beneficio neto, declarado por la propia organización, derivado de su uso de IA generativa», lo que subraya las ventajas comerciales de este enfoque. En ese sentido, integrar marcos éticos sólidos en los sistemas de IA es una forma de interés propio bien entendido.

Más allá de todo ello, es sencillamente lo correcto. Hemos construido nuestra política global de IA ética sobre el mismo principio: las tecnologías avanzadas deben servir a las personas y a la sociedad, no al revés. Esto refleja la visión más amplia de la Sociedad 5.0, un modelo de innovación centrado en el ser humano que busca combinar el progreso económico con la solución de los retos sociales.

Para que tecnologías emergentes como la IA contribuyan a una sociedad más feliz y armoniosa, deben apoyarse en bases éticas sólidas. El punto de partida es prestar atención no solo a los estándares que las organizaciones están obligadas a cumplir, sino también a los que desean alcanzar.

Isabella Grandi es Directora de Estrategia de Datos y IA, Gobernanza y Ética en NTT DATA UK&I. Ella colabora con organizaciones para dar forma y entregar una IA y gobernanza de IA responsables que las lleven desde su estado actual a un modelo de operación más maduro y basado en datos.

Su trabajo se centra en integrar la práctica ética y la gestión robusta del riesgo de IA en la forma en que las organizaciones diseñan y despliegan la IA, asegurando que el uso responsable esté incorporado en las estructuras de toma de decisiones y las operaciones diarias.