¿Es la minimización el mejor enfoque para la gobernanza de la IA?

A medida que las organizaciones integran la inteligencia artificial (IA) en sus operaciones comerciales, necesitan formas claras de gestionar los riesgos asociados con su desarrollo y uso. Una gobernanza eficaz proporciona supervisión, pero los procedimientos complejos pueden consumir recursos y ralentizar la implementación. La minimización ofrece una posible forma de hacer que la gobernanza sea más proporcional, al limitar el uso innecesario de datos y, al mismo tiempo, preservar la rendición de cuentas y las salvaguardas.

Por qué es importante la gobernanza de la IA

La gobernanza de la IA establece las políticas, las responsabilidades y la supervisión que orientan la manera en que las organizaciones desarrollan, implementan y utilizan sistemas de IA. Ayuda a las organizaciones a identificar riesgos, asignar autoridad para la toma de decisiones y establecer procesos para supervisar el rendimiento y abordar los problemas.

Al adoptar la IA, las organizaciones deben considerar varios riesgos, como las vulneraciones de la privacidad, las vulnerabilidades de seguridad, los resultados sesgados, las respuestas inexactas y la transparencia limitada. Sin controles adecuados, las decisiones generadas por la IA pueden afectar a clientes, empleados y otras partes interesadas de maneras difíciles de corregir. La gobernanza también ayuda a las organizaciones a cumplir los requisitos legales aplicables y a alinear el uso de la IA con los objetivos empresariales.

La Asociación Internacional de Profesionales de la Privacidad informó que el 77 % de las organizaciones encuestadas trabajaban en la gobernanza de la IA en 2025. Este hallazgo indica que las organizaciones prestan una atención considerable al tema, aunque trabajar en la gobernanza no significa necesariamente que una organización haya completado o implementado plenamente su marco.

La definición clara de responsabilidades y la supervisión continua ayudan a las organizaciones a identificar problemas emergentes, investigar resultados inesperados y ajustar los controles a medida que cambian los sistemas. Una gobernanza eficaz también puede fortalecer la confianza de las partes interesadas al demostrar que una organización considera las implicaciones del uso de la IA y sigue rindiendo cuentas por sus decisiones.

Desafíos de la gobernanza de la IA

Aunque la gobernanza ayuda a las organizaciones a gestionar los riesgos de la IA, establecer y mantener una supervisión eficaz puede resultar difícil. Para definir el alcance de la supervisión, las organizaciones deben determinar qué sistemas de IA, actividades y dependencias necesitan estar sujetos a ella. 

Para establecer un alcance claro para la gobernanza de la IA, las organizaciones pueden consultar la norma ISO/IEC 42001, que establece requisitos para crear y mantener un sistema de gestión de la IA. El cumplimiento puede mejorar el rendimiento de los modelos, lo que permite una IA más rápida y segura. También ayuda a las organizaciones a determinar qué partes de sus operaciones quedan comprendidas en su sistema de gestión de la IA. Estas normas tienen en cuenta la cobertura geográfica, las conexiones con otros sistemas y el alcance de sus actividades relacionadas con la IA. 

Otros desafíos clave son:

• Complejidad de los sistemas de IA: Las aplicaciones de IA pueden depender de modelos interconectados, conjuntos de datos, herramientas de terceros y decisiones automatizadas. Estas dependencias pueden dificultar el rastreo de los resultados, la identificación de vulnerabilidades y la determinación de dónde hacen falta controles.
• Privacidad y seguridad de los datos: Las organizaciones deben proteger la información confidencial durante la recopilación de datos, el entrenamiento de modelos, la implementación y el uso continuo. 
• Sesgo y transparencia limitada: Los datos de entrenamiento no representativos pueden contribuir a resultados injustos, mientras que el comportamiento opaco de los modelos puede dificultar la explicación, evaluación o impugnación de las decisiones.
• Normativas y estándares en evolución: Las organizaciones que operan en distintas jurisdicciones pueden estar sujetas a requisitos legales diferentes o cambiantes. Los procesos de gobernanza deben adaptarse a las obligaciones pertinentes sin generar duplicaciones innecesarias.
• Limitaciones de recursos y operativas: Las competencias especializadas, la documentación, las revisiones y la supervisión continua requieren tiempo y financiación. 
• Equilibrio entre supervisión e innovación: Los requisitos de aprobación excesivos pueden retrasar los proyectos, mientras que unos controles débiles pueden dejar riesgos importantes sin abordar.

Estos desafíos ponen de relieve el valor de reducir la complejidad innecesaria. Sin embargo, minimizar la gobernanza también debe incluir el establecimiento de controles que protejan a las personas y la información y garanticen la rendición de cuentas de la organización.

Por ejemplo, la Contraloría del Estado de Nueva York determinó que las agencias de la ciudad de Nueva York adoptaron enfoques dispares para supervisar la IA, y que algunas carecían de políticas para evaluar el sesgo y la precisión. Los hallazgos ponen de relieve que reducir la complejidad requiere estándares de gobernanza claros y coherentes para mantener la rendición de cuentas. 

Qué significa la minimización en la gobernanza de la IA

La minimización en la gobernanza de la IA consiste en reducir el uso innecesario de datos y la carga administrativa, sin dejar de aplicar las medidas necesarias para gestionar los riesgos. Tiene dos dimensiones principales: la minimización de datos y la minimización de la gobernanza. Ambas buscan que las prácticas de IA sean más proporcionales a su propósito y a su posible impacto.

Minimización de datos

La minimización de datos limita la recopilación, conservación, tratamiento y divulgación de información a lo que un sistema de IA necesita para un propósito definido. Las organizaciones pueden aplicar este principio restringiendo el acceso a información sensible y utilizando datos anonimizados o sintéticos cuando corresponda.

Reducir los datos innecesarios puede limitar la exposición de la privacidad y disminuir la cantidad de información que las organizaciones deben proteger. Sin embargo, la minimización de datos exige un criterio cuidadoso. Eliminar información pertinente puede reducir la precisión del modelo, disminuir la representación de distintos grupos o dificultar la identificación de resultados sesgados. Las organizaciones deben determinar qué datos son necesarios para alcanzar el propósito previsto y obtener resultados fiables y equitativos.

Simplificación de la gobernanza

La simplificación de la gobernanza se centra en agilizar los procesos de supervisión. Las organizaciones pueden unificar revisiones que se solapan y reutilizar evaluaciones cuando corresponda. También pueden aclarar las facultades para tomar decisiones y eliminar niveles de aprobación que no aporten una protección significativa frente a los riesgos.

Estos cambios ayudan a reducir los costos administrativos y las demoras, y a aclarar las responsabilidades de los equipos. Sin embargo, la simplificación de la gobernanza no debe eliminar la documentación esencial, la revisión independiente, la supervisión humana ni los controles obligatorios. El objetivo es hacer más eficiente la supervisión sin dejar de exigir rendición de cuentas.

Estrategias de minimización para la gobernanza de la IA

Un enfoque de minimización puede hacer más eficiente la gobernanza de la IA cuando las organizaciones adaptan las prácticas relativas a los datos y los requisitos de supervisión a los riesgos de cada caso de uso. Varias medidas pueden reducir la complejidad innecesaria y, al mismo tiempo, preservar la rendición de cuentas, un rendimiento fiable y las salvaguardas adecuadas.

Adoptar un enfoque basado en el riesgo

Las organizaciones pueden clasificar los sistemas de IA según el uso previsto, el impacto potencial y la sensibilidad de los datos. El Marco de Gestión de Riesgos de IA del National Institute of Standards and Technology ofrece una estructura para gestionar los riesgos de la IA mediante cuatro funciones que incluyen Gobernar, Mapear, Medir y Gestionar. Las organizaciones pueden utilizar estas funciones para identificar los riesgos, evaluar su importancia y determinar las respuestas adecuadas.

Definir requisitos claros para los datos

Cada sistema de IA debe tener un propósito definido antes de que comience la recopilación de datos. A continuación, las organizaciones pueden identificar las categorías de datos necesarias, eliminar los campos irrelevantes, restringir el acceso y establecer límites de conservación adecuados. Las pruebas deben confirmar que los conjuntos de datos reducidos siguen permitiendo obtener resultados precisos y equitativos.

Optimizar los modelos y los recursos informáticos

La optimización de modelos, los algoritmos eficientes y el hardware de bajo consumo energético pueden ayudar a reducir las exigencias informáticas innecesarias. Las empresas pueden explorar el aprendizaje federado, que reduce la necesidad de transferir grandes cantidades de información. Estas prácticas pueden reducir los costos informáticos y el consumo de energía, al tiempo que protegen la privacidad de los datos. 

Simplificar los flujos de trabajo de gobernanza

Las organizaciones pueden unificar revisiones que se solapan, reutilizar evaluaciones que abordan los mismos riesgos, aclarar responsabilidades y establecer vías de aprobación según el nivel de riesgo. Los procesos estandarizados ayudan a los equipos a gestionar con eficiencia las aplicaciones rutinarias y a derivar los casos más complejos a los especialistas adecuados.

Preservar las salvaguardas esenciales

Un enfoque de minimización debe mantener las protecciones de privacidad y seguridad, las evaluaciones de sesgo, la supervisión humana adecuada, los registros de auditoría y los procedimientos de respuesta a incidentes. Las organizaciones también deben confirmar que los procesos simplificados sigan cumpliendo las obligaciones legales y reglamentarias aplicables.

Supervisar el rendimiento y reevaluar los controles

Los requisitos de gobernanza pueden cambiar a medida que un sistema de IA evoluciona, llega a nuevos usuarios o se utiliza para tareas adicionales. Las organizaciones deben supervisar la precisión, la equidad y los riesgos para la privacidad después de la implementación. También deben revisar los requisitos de datos y los procedimientos de supervisión cuando cambien las circunstancias.

Lograr que la minimización funcione en la gobernanza de la IA

La minimización es más eficaz cuando forma parte de una estrategia de gobernanza basada en el riesgo. Sin embargo, el nivel de minimización adecuado variará según el propósito, la complejidad y el impacto potencial de cada sistema de IA. Al equilibrar la eficiencia con las salvaguardas adecuadas, la rendición de cuentas y la evaluación continua, las organizaciones pueden simplificar la gobernanza de la IA y mantener un uso responsable y fiable de esta tecnología.