La UE lanzará las primeras regulaciones de IA

El 21 de abril, la Unión Europea anunciará su primer marco regulatorio que gobierne el uso de la inteligencia artificial. Las nuevas regulaciones prohibirán completamente los sistemas de aprendizaje automático de “alto riesgo” y establecerán estándares mínimos para otras tecnologías de aprendizaje automático, imponiendo sanciones de 20 millones de euros o el 4% del volumen de negocios de la empresa, por incumplimientos.

Un borrador del nuevo ley, obtenido por Politico, buscaría fomentar la innovación y el desarrollo de sistemas de IA para el beneficio general de la economía y la sociedad de la UE, en áreas como la fabricación, la mejora de la eficiencia energética y la modelización del cambio climático; pero prohibiría el uso del aprendizaje automático en sistemas de puntuación crediticia, evaluación automática de sentencias penales y evaluación de la idoneidad para beneficios de seguridad social y solicitudes de asilo o visados, entre otras prohibiciones que se revelarán más adelante.

El borrador establece explícitamente que los sistemas de puntuación social al estilo chino para personas y empresas están en oposición a los valores de la Unión Europea, y serán prohibidos bajo la regulación, junto con tecnologías de “vigilancia masiva” impulsadas por IA.

Supervisión Regulatoria

Posterior a su nombramiento de un grupo de expertos de alto nivel en inteligencia artificial en marzo de 2021, la UE también tiene la intención de instituir una nueva Junta Europea de Inteligencia Artificial, con cada estado miembro representado, junto con un representante de la Comisión Europea y la autoridad de protección de datos de la UE.

Quizás el edicto más amplio y potencialmente controvertido en el borrador es que prohíbe los sistemas que causan daño a las poblaciones de la UE al “manipular su comportamiento, opiniones o decisiones”, lo que incluiría arguablemente muchas tecnologías que alimentan el análisis de marketing comercial y político.

Las regulaciones harán excepciones para la lucha contra la delincuencia grave, permitiendo despliegues prescritos de sistemas de reconocimiento facial, dentro de los límites de alcance y duración de uso.

Al igual que con la amplia gama de GDPR, parece que estas nuevas regulaciones pueden ser lo suficientemente generales como para provocar un “efecto de enfriamiento” en áreas donde no se proporcionan pautas estrictas para el uso de la IA, con corporaciones que corren el riesgo de exposición cuando su uso del aprendizaje automático cae en un área gris dentro de las regulaciones.

Sesgo bajo las nuevas regulaciones de IA de la UE

Sin embargo, el mayor desafío y posible embrollo legal viene en la forma de la estipulación del borrador de regulación de que los conjuntos de datos no “incorporen sesgos intencionados o no intencionados” que puedan facilitar la discriminación.

El sesgo de datos es uno de los aspectos más desafiantes en el desarrollo de sistemas de aprendizaje automático – difícil de probar, difícil de abordar y profundamente vinculado a las culturas centrales de los cuerpos de recopilación de datos. El problema está cada vez más poniendo a los cuerpos de investigación privados y estatales en una corriente cruzada entre la necesidad de representar con precisión grupos distintos (prácticamente el objetivo fundacional de las matemáticas computacionales y el análisis estadístico empírico) y el potencial de promover el perfil racial y la demonización cultural, entre otras consideraciones.

Por lo tanto, es probable que los mercados no pertenecientes a la UE estén esperando que la nueva regulación proporcione al menos algunas áreas de orientación y una gama de definiciones aplicables en este respecto.

Resistencia externa a la regulación de IA de la UE

La nueva regulación probablemente tendrá un impacto profundo en las ramificaciones legales del uso de la inteligencia artificial para analizar datos frente a los usuarios, así como en dichos datos, ya que aún será posible extraerlos de los usuarios web en la era de seguimiento que actualmente está siendo introducida por Apple, Firefox y (en menor medida), Chrome.

Es posible que la jurisdicción deba definirse claramente, por ejemplo, en casos en los que los gigantes FAANG recopilan datos de usuarios en cumplimiento de GDPR, pero procesan esos datos a través de sistemas de aprendizaje automático fuera de la Unión Europea. No está claro si los algoritmos derivados de dichos sistemas podrían aplicarse a plataformas dentro de la UE, y aún menos claro cómo tal aplicación podría ser probada.

En el caso del uso de la IA para informar decisiones de custodia y sentencias, una tendencia en aumento en los Estados Unidos, los experimentos ocasionales del Reino Unido en este sector habrían estado cubiertos bajo las nuevas regulaciones si el país no hubiera salido de la Unión Europea.

En 2020, un borrador de memorando de la Casa Blanca sobre la regulación de la IA estableció el caso estadounidense para una regulación baja de la IA, declarando que ‘Las agencias federales deben evitar acciones regulatorias o no regulatorias que obstaculicen innecesariamente la innovación y el crecimiento de la IA’. Arguablemente, esta actitud parece probable que sobreviva a la administración Trump bajo la cual se publicó el memorando, pero refleja más bien la fricción que se avecina entre los EE. UU. y la UE a raíz de la nueva regulación.

De manera similar, el ‘Mapa de ruta de la IA’ del Consejo de IA del Reino Unido expresa un gran entusiasmo por los beneficios económicos de la adopción de la IA, pero una preocupación general por que las nuevas regulaciones no deban obstaculizar este progreso.

La primera ley real para la IA

El compromiso de la UE con una postura legal sobre la IA es innovador. Los últimos diez años se han caracterizado por una tormenta de documentos blancos y hallazgos y recomendaciones preliminares de comités de todo el mundo, centrados en la ética de la IA, con pocas leyes reales aprobadas.

Distribución geográfica de los emisores de directrices éticas de IA por número de documentos publicados, en una encuesta de 2019. El número más alto de directrices éticas se publica en los Estados Unidos y dentro de la Unión Europea, seguido del Reino Unido y Japón. Canadá, Islandia, Noruega, los Emiratos Árabes Unidos, la India, Singapur, Corea del Sur, Australia están representados con 1 documento cada uno. Haber contribuido a una declaración específica del G7, los estados miembros de los países del G7 se destacan por separado. Fuente: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Lecturas adicionales

Políticas y estrategias nacionales de IA (OCDE)