Por qué las empresas deben seguir un enfoque basado en valores para la gobernanza de la IA

En septiembre de 2025, por primera vez, todos los estados miembros de las Naciones Unidas se reunieron para discutir la gobernanza internacional de la IA; muchos estuvieron representados de nuevo en febrero en la Cumbre de Impacto de la IA en Delhi. El evento llevó al lanzamiento de dos nuevos organismos centrados en la gobernanza de la IA; pero fue, en el mejor de los casos, un éxito simbólico.

Los nuevos mecanismos de la ONU fueron diseñados para asegurar el consenso: se alejan de áreas controvertidas como los usos militares de la IA, y carecen de fuentes claras de financiamiento y poderes de aplicación. Esto no debería sorprender a los observadores experimentados. La ONU de hoy carece de la capacidad de moverse rápidamente o asegurar el cumplimiento universal de sus decisiones, lo que la convierte en un foro difícil para efectuar un cambio real.

Esto se ajusta a un patrón bien establecido. A pesar de años de intentos dispersos de construir un consenso sobre las regulaciones de la IA, no ha habido acuerdos internacionales significativos, lo que ha creado un vacío en el que los países y bloques individuales han sido obligados a desarrollar sus propias reglas. Sin embargo, la gobernanza efectiva de la IA es crucial si deseamos verla adoptada ampliamente, confiada por el público y utilizada de manera que proporcione beneficios sociales y económicos duraderos.

Arreglar y reparar

Para las empresas globales que construyen y operan sistemas de IA, la falta de mecanismos de gobernanza comunes y acordados es problemática. Desean desplegar sistemas de IA en todo el mundo, pero no hay dos jurisdicciones que cumplan con el mismo conjunto de reglas. Por lo tanto, se ven obligados a crear un marco de gobernanza genérico alrededor de su sistema, y luego a reconstruirlo desde cero en cada país en el que operan para asegurarse de que cumpla con las leyes y regulaciones locales. Este enfoque crea una cantidad enorme de trabajo adicional, hace que las iniciativas de IA sean más costosas y propensas a retrasos, y debilita la capacidad de las empresas globales para realizar economías de escala y compartir herramientas efectivas con los usuarios en todas partes.

Hay, sin embargo, una alternativa. Para las empresas que buscan simplificar su enfoque, la mejor opción puede ser construir un marco de gobernanza de la IA que tenga en cuenta los principios éticos comunes en diferentes regiones, asegurando que cumplan con altos estándares en todas partes en términos de proteger la libertad, la privacidad y la seguridad de los individuos. Esta técnica representa una forma poderosa para que las empresas de IA aumenten la confianza pública en su tecnología, fortalezcan su base de clientes y aprovechen los beneficios potenciales de la IA para la sociedad.

Seis valores clave para la gobernanza de la IA

Para cualquier organización interesada en adoptar un enfoque basado en valores para la gobernanza de la IA, sugiero utilizar los seis valores clave que seguimos: responsabilidad, explicabilidad, transparencia, equidad, seguridad y impugnabilidad.

Nosotros elegimos estos valores porque cubren todas las áreas principales del ciclo de vida del sistema de IA y porque ya han sido codificados en varios estándares internacionales y nacionales relacionados con la IA, como el ISO/IEC 42001 de la Organización Internacional de Normalización y el Libro de jugadas de inteligencia artificial para el gobierno del Reino Unido.

Para comenzar, la responsabilidad significa saber quién es responsable de qué en cada etapa del ciclo de vida de la IA. Sin una propiedad clara, los controles vitales pueden ser omitidos porque no hay un individuo o equipo que tenga la responsabilidad última. Las organizaciones deben asignar propietarios senior y nombrados – como su Oficial de IA – a los sistemas de IA y a las etapas clave, y utilizar un modelo de gobernanza basado en riesgos, aplicando el mismo escrutinio a las herramientas de terceros que a las desarrolladas en casa. Esto significa entender los términos del proveedor, las limitaciones y las responsabilidades tan bien como entienden sus propios sistemas.

La Organización para la Cooperación y el Desarrollo Económicos (OCDE) captura esto bien en su guía para avanzar en la responsabilidad de la IA, que recomienda que las organizaciones creen “mecanismos para integrar el proceso de gestión de riesgos de la IA en la gobernanza organizacional más amplia, fomentando una cultura de gestión de riesgos tanto dentro de las organizaciones como en toda la cadena de valor de la IA”.

A continuación, está la explicabilidad. Las organizaciones deben ser capaces de mostrar cómo un sistema de IA llega a una decisión. Eso requiere mecanismos para documentar y rastrear la toma de decisiones, junto con registros claros del diseño del sistema, los datos de entrenamiento y los procesos de decisión. Tomados en conjunto, esto permite a los equipos entender la genealogía de la información desde la creación del sistema hasta su implementación.

La equidad se centra en asegurar que los sistemas de IA produzcan resultados equitativos y no repliquen ni amplifiquen los sesgos existentes. Sin controles deliberados, los sistemas pueden causar daño al entregar resultados sesgados – un problema particular en áreas de alto impacto como la contratación, la atención médica y la justicia penal. Para mitigar esto, las organizaciones deben implementar medidas de detección de sesgos, revisar los resultados con regularidad en grupos relevantes y diseñar marcos de gobernanza que puedan acomodar los requisitos de no discriminación locales. En la práctica, esto significa construir sistemas para cumplir con el estándar legal más alto que es probable que encuentren, incluyendo las obligaciones bajo leyes como la Ley de Igualdad del Reino Unido de 2010 y la Carta de Derechos Fundamentales de la UE.

La transparencia se trata de brindar claridad tanto a los usuarios como a los reguladores. La gente debe entender cuándo se está utilizando la IA, qué papel desempeña en la toma de decisiones y qué datos la sustentan. Un punto de partida práctico es estandarizar la documentación en los sistemas de IA, respaldada por herramientas internas como las tarjetas de modelo: documentos cortos proporcionados con los modelos de aprendizaje automático que explican el contexto en el que se pretende utilizar los modelos, los detalles de los procedimientos de evaluación del rendimiento y otra información relevante. Sin transparencia, los usuarios no pueden impugnar los resultados injustos, los reguladores no pueden intervenir de manera efectiva y los impactos perjudiciales pueden ser ocultados.

La seguridad implica proteger los sistemas de IA del acceso no autorizado, la manipulación o el comportamiento no intencionado. Si la seguridad es débil, las IA pueden poner a las organizaciones, los usuarios y sus datos en riesgo, exponiéndolos a daños financieros y de reputación. Las organizaciones deben definir umbrales de rendimiento y precisión, someter a prueba los sistemas en condiciones realistas y incorporar pruebas de equipo rojo para identificar vulnerabilidades.

Finalmente, la impugnabilidad garantiza que las personas tengan una forma clara y accesible de desafiar o apelar las decisiones impulsadas por la IA. Sin ella, los usuarios afectados no tienen recurso y los problemas pueden nunca ser detectados o resueltos. Las organizaciones deben proporcionar canales de informes en el punto de uso, asignar propietarios senior para gestionar las quejas y asegurarse de que los sistemas puedan ser pausados, revisados o actualizados cuando sea necesario.

¿Cuáles son los beneficios de un marco basado en valores?

Hay dos razones poderosas para adoptar este enfoque basado en valores para la gobernanza de la IA. Primero, porque aquellos que construyen y despliegan sistemas de IA tienen una responsabilidad ética hacia las personas y organizaciones afectadas por ellos; y, segundo, porque este es un enfoque más efectivo para realizar los beneficios prometidos de la IA en la práctica.

Los usuarios de los sistemas de IA, tanto corporativos como individuales, depositan una confianza implícita en sus creadores para no malversar los datos personales ni exponerlos a riesgos innecesarios. Cuando las organizaciones rompen esa confianza, se vuelve muy difícil para ellas retener a esos usuarios. En última instancia, a menos que la gente confíe en los sistemas de IA y pueda ver los beneficios claros que entregan, no irán a favor de su introducción. Esto causará más división social y económica, y perderemos muchas de las oportunidades presentadas por esta tecnología.

Por otro lado, las empresas que aplican un marco basado en valores en todas partes – incluyendo en regiones con requisitos de gobernanza más relajados – pueden demostrar a los clientes, inversores y reguladores que se están sujetando a un estándar más alto que el de la mera conformidad. Esto genera confianza, compromiso y, en última instancia, éxito empresarial.

Una gobernanza de la IA sólida es una creadora de valor, no una carga de conformidad. Permite a las empresas llevar nuevos productos al mercado más rápidamente, reducir su exposición al riesgo y escalar sus soluciones en múltiples mercados con confianza.

El informe “El estado de la IA” de McKinsey encontró que “la supervisión de la gobernanza de la IA por parte de un CEO… es un elemento más correlacionado con un mayor impacto en la línea de fondo autoinformado de la utilización de la IA general por parte de una organización”, subrayando los beneficios comerciales de este enfoque. En ese sentido, construir marcos éticos sólidos en los sistemas de IA representa un interés propio iluminado.

Más allá de todo esto, sin embargo, es simplemente lo correcto por hacer. Hemos construido nuestra política de IA ética global alrededor del mismo principio: que las tecnologías avanzadas deben servir a las personas y a la sociedad, no al revés. Esto refleja la visión más amplia de la Sociedad 5.0: un modelo de innovación centrado en el ser humano que busca combinar el progreso económico con la resolución de los desafíos sociales.

Si las tecnologías emergentes como la IA han de fomentar una sociedad más feliz y armoniosa, deben estar construidas sobre fundamentos éticos sólidos. Esto comienza con un enfoque no solo en los estándares que las organizaciones deben cumplir, sino también en los estándares que desean lograr.