Los fracasos del borrador de la Ley de Inteligencia Artificial de la UE

Un nuevo análisis jurídico del borrador de la Ley de Inteligencia Artificial de la Unión Europea presenta una amplia variedad de críticas a las regulaciones propuestas publicadas en abril, concluyendo que gran parte del documento está “cosido” a partir de regulaciones de consumo de los años 80 que apenas son aplicables; que en realidad promueve un entorno de inteligencia artificial desregulado en Europa, en lugar de someter al sector a una regulación coherente; y – entre otras críticas – que las propuestas trazan un marco regulatorio de inteligencia artificial futuro que tiene “poco sentido y impacto”.

Titulado Desmitificando el borrador de la Ley de Inteligencia Artificial de la UE, el pre-print es una colaboración entre investigadores de la UCL de Londres y la Universidad Radboud de Nimega.

El artículo añade a un creciente cuerpo de opiniones negativas sobre la implementación propuesta (en lugar de la intención muy admirada) de un marco regulatorio de inteligencia artificial, incluyendo la afirmación en abril de uno de los contribuyentes del borrador de regulación de que las directrices propuestas son “tibias, de visión corta y deliberadamente vagas”, lo que caracteriza el documento de la Comisión Europea como un defensor de la “ética falsa”.

Sistemas de Inteligencia Artificial Manipuladores

El nuevo artículo sostiene que las restricciones propuestas por la Ley de Inteligencia Artificial sobre “sistemas manipuladores” están limitadas por una definición vaga y contradictoria de “daño”, comentando que “[u]n cínico podría sentir que la Comisión está más interesada en el valor retórico de las prohibiciones que en su efecto práctico”.

Las regulaciones propuestas establecen dos prácticas prohibidas:

(a) La comercialización, puesta en servicio o uso de un sistema de inteligencia artificial que utilice técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente el comportamiento de una persona de manera que cause o pueda causar daño físico o psicológico a esa persona o a otra persona;

(b) La comercialización, puesta en servicio o uso de un sistema de inteligencia artificial que explote cualquiera de las vulnerabilidades de un grupo específico de personas debido a su edad, discapacidad física o mental, para distorsionar materialmente el comportamiento de una persona perteneciente a ese grupo de manera que cause o pueda causar daño físico o psicológico a esa persona o a otra persona;

Los investigadores argumentan que estas restricciones no abordan si los servicios o software de un proveedor de inteligencia artificial son exitosos para lograr sus propios objetivos, sino solo si el usuario final sufre “daño” en el proceso. Agregan que la definición de daño del borrador se limita fatalmente a los usuarios individuales, en lugar del tipo de daño colectivo o social que puede inferirse razonablemente de una serie de controversias basadas en inteligencia artificial en los últimos años, como el escándalo de Cambridge Analytica.

El artículo observa que “En la vida real, el daño puede acumularse sin que un solo evento active un umbral de seriedad, lo que hace difícil probar”.

Sistemas de Inteligencia Artificial Perjudiciales Permitidos, pero no para el Consumo de la UE

La Ley de Inteligencia Artificial propone implementar una prohibición sobre los sistemas biométricos en tiempo real en espacios públicos por parte de las fuerzas del orden. Aunque algunas críticas públicas se han dirigido a las excepciones que las propuestas hacen para el antiterrorismo, la trata de niños y la emisión de una orden de arresto europea, los investigadores observan que nada impediría a los proveedores vender sistemas biométricos que violen las normas a regímenes oprimidos.

El artículo observa que esto ya es una práctica histórica, como se reveló en un informe de 2020 de Amnistía Internacional.

Afirma además que la especificación de “sistema biométrico en tiempo real” de la Ley de Inteligencia Artificial es arbitraria y excluye los sistemas analíticos fuera de línea, como el procesamiento posterior de footage de video de eventos de protesta.

Además, se señala que las propuestas no ofrecen mecanismo para restringir los sistemas biométricos que no estén relacionados con la aplicación de la ley, que en su lugar se dejan a la GDPR; y que la GDPR en sí “establece un requisito de consentimiento individual de alta calidad para cada persona escaneada, lo cual es imposible de cumplir”.

La redacción de esta sección de la Ley de Inteligencia Artificial también es objeto de crítica por parte de los investigadores. El borrador establece que se requerirá una autorización previa para la implementación de sistemas biométricos para el “uso individual” de dichos sistemas por parte de las autoridades competentes – pero no aclara qué significa “uso individual” en este contexto. El artículo observa que las órdenes polémicas pueden ser temáticas, y relacionarse con organizaciones, propósitos y lugares amplios.

Además, las regulaciones propuestas no establecen un mecanismo de transparencia para el número y tipo de autorizaciones emitidas, lo que hace que la supervisión pública sea problemática.

Subcontratación de la Regulación a ‘Normas Armonizadas’

La investigación establece que las entidades más importantes en la Ley de Inteligencia Artificial en realidad no se mencionan ni una vez en el borrador de regulaciones: CEN (Comité Europeo de Normalización) y CENELEC (Comité Europeo de Normalización Electrotécnica) – dos de los tres Organismos de Normalización Europeos (ESO) que la Comisión Europea puede encargar que formulen normas armonizadas, que en muchos casos serían los marcos regulatorios gobernantes para ciertos tipos de servicios y despliegues de inteligencia artificial.

Esto significa efectivamente que los productores de inteligencia artificial pueden optar por seguir las normas de lo que son en efecto regulaciones competidoras en lugar de complementarias, en lugar de cumplir con los requisitos esenciales establecidos en la Ley de Inteligencia Artificial. Esto permite a los proveedores interpretar las regulaciones propuestas de manera más laxa cuando entren en vigor en 2024-5.

Los investigadores también opinan que los años de lobby industrial entre los organismos de normalización probablemente redefinirán considerablemente estas “normas esenciales”, y sugieren que las regulaciones “ideales” deberían comenzar con un nivel ético y de claridad legislativa más alto, si solo para tener en cuenta este proceso inevitable de desgaste.

Legitimizando la Falacia de los Sistemas de Reconocimiento de Emociones

La Ley de Inteligencia Artificial incluye una disposición contra la implementación de sistemas de reconocimiento y categorización de emociones – marcos que pueden no identificar necesariamente a un individuo, pero que afirman entender qué sienten o pueden categorizarlos en términos de género, etnia y varios otros signos económicos y sociales.

Los investigadores argumentan que esta cláusula es inútil, ya que la GDPR ya obliga a los proveedores de dichos sistemas a proporcionar a los usuarios información clara sobre el uso de dichos sistemas, para que los usuarios puedan optar por no utilizarlos (lo que puede implicar no utilizar un servicio en línea o no entrar en un área donde existan dichos sistemas).

Más importante aún, el artículo afirma que esta cláusula legitima una tecnología desacreditada y caracteriza los sistemas de reconocimiento de emociones al estilo FACS en la luz de la vergonzosa historia de la frenología y otros enfoques casi chamánicos para la categorización social desde la época industrial temprana.

‘Aquellos que afirman detectar emociones utilizan taxonomías simplificadas y cuestionables; asumen incorrectamente la universalidad a través de culturas y contextos; y corren el riesgo de “volver al pasado frenológico” de analizar rasgos de carácter a partir de estructuras faciales. Las disposiciones de la Ley sobre reconocimiento de emociones y categorización biométrica parecen insuficientes para mitigar los riesgos.’

Una Propuesta Demasiado Modesta

Además de estas, los investigadores abordan otras deficiencias percibidas en la Ley de Inteligencia Artificial en relación con la regulación de los deepfakes, la falta de supervisión de las emisiones de carbono de los sistemas de inteligencia artificial, la duplicación de la supervisión regulatoria con otros marcos y la definición inadecuada de entidades legales procesables.

Instan a los legisladores y activistas civiles a tomar medidas para abordar los problemas identificados y observan que incluso su desmantelamiento extensivo de las regulaciones propuestas ha tenido que omitir muchas otras áreas de preocupación, debido a la falta de espacio.

No obstante, el artículo elogia el intento vanguardista de la Ley por introducir un sistema de regulación horizontal de los sistemas de inteligencia artificial, citando sus muchos “elementos sensatos”, como la creación de una jerarquía de niveles de evaluación de riesgos, el compromiso de introducir prohibiciones y la propuesta de una base de datos pública de sistemas a los que los proveedores tendrían que contribuir para obtener legitimidad europea, aunque observa que este último requisito probablemente planteará problemas legales.