Los fracasos del borrador de la Ley de Inteligencia Artificial de la UE

Una nueva crítica legal del borrador de la Ley de Inteligencia Artificial de la Unión Europea presenta una amplia variedad de críticas a las regulaciones propuestas publicadas en abril, concluyendo que gran parte del documento está ‘cosido’ con regulaciones de consumo de los años 80 que apenas son aplicables; que en realidad promueve un entorno de inteligencia artificial desregulado en Europa, en lugar de someter al sector a una regulación coherente; y – entre otras críticas – que las propuestas trazan un marco regulatorio de inteligencia artificial para el futuro que tiene ‘poco sentido y impacto’.

Titulado Desmitificando el borrador de la Ley de Inteligencia Artificial de la UE, el pre-print es una colaboración entre investigadores de la UCL de Londres y la Universidad Radboud en Nijmegen.

El documento se suma a un creciente cuerpo de opiniones negativas sobre la implementación propuesta (en lugar de la intención muy admirada) de un marco regulatorio de inteligencia artificial, incluyendo la afirmación en abril de uno de los contribuyentes del borrador de la regulación de que las directrices propuestas son ‘tibias, de visión corta y deliberadamente vagas’, lo que caracteriza el documento de la Comisión Europea como un defensor de la ‘ética falsa’.

Sistemas de inteligencia artificial manipuladores

El nuevo documento sostiene que las restricciones propuestas por la Ley de Inteligencia Artificial sobre ‘sistemas manipuladores’ están limitadas por una definición vaga e incluso contradictoria de ‘daño’, comentando que ‘[u]n cínico podría sentir que la Comisión está más interesada en el valor retórico de las prohibiciones que en su efecto práctico’.

Las regulaciones propuestas esbozan dos prácticas prohibidas putativas:

(a) la comercialización, puesta en servicio o uso de un sistema de inteligencia artificial que despliega técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente el comportamiento de una persona de manera que cause o sea probable que cause daño físico o psicológico a esa persona o a otra persona;

(b) la comercialización, puesta en servicio o uso de un sistema de inteligencia artificial que explota cualquiera de las vulnerabilidades de un grupo específico de personas debido a su edad, discapacidad física o mental, con el fin de distorsionar materialmente el comportamiento de una persona perteneciente a ese grupo de manera que cause o sea probable que cause daño físico o psicológico a esa persona o a otra persona;

Los investigadores argumentan que estas restricciones no abordan si los servicios o software de un proveedor de inteligencia artificial son exitosos para promover sus propios objetivos, sino solo si el usuario final sufre ‘daño’ en el proceso. Agregan que la definición de daño en el borrador es fatalmente limitada a los usuarios individuales, en lugar del tipo de daño colectivo o social que puede inferirse razonablemente de una serie de controversias relacionadas con la inteligencia artificial en los últimos años, como el escándalo de Cambridge Analytica.

El documento observa que ‘En la vida real, el daño puede acumularse sin que un solo evento active un umbral de gravedad, lo que hace difícil probar’.

Sistemas de inteligencia artificial perjudiciales permitidos, pero no para el consumo de la UE

La Ley de Inteligencia Artificial propone implementar una prohibición de sistemas biométricos en tiempo real en espacios públicos por parte de las fuerzas del orden. Aunque algunos escépticos han dirigido su escepticismo hacia las excepciones que hacen las propuestas para el antiterrorismo, la trata de niños y la persecución de una orden de arresto europea, los investigadores observan que nada impediría a los proveedores vender sistemas biométricos que violen estas normas a regímenes oprimidos.

El documento observa que esto ya es una práctica histórica, como se reveló en un informe de 2020 de Amnistía Internacional.

Además, se señala que la especificación de ‘sistema biométrico en tiempo real’ en la Ley de Inteligencia Artificial es arbitraria y excluye los sistemas analíticos fuera de línea, como el procesamiento posterior de imágenes de video de eventos de protesta.

Además, se observa que las propuestas no ofrecen mecanismo para restringir los sistemas biométricos que no están relacionados con la aplicación de la ley, que en su lugar se dejan a la GDPR de manera perezosa; y que la GDPR en sí misma ‘establece un requisito de consentimiento de alta calidad e individual para cada persona escaneada, lo cual es efectivamente imposible de cumplir’.

La redacción de esta sección de la Ley de Inteligencia Artificial también es objeto de crítica por parte de los investigadores. El borrador estipula que se requerirá una autorización previa para la implementación de sistemas biométricos para el ‘uso individual’ de dichos sistemas por parte de las autoridades competentes – pero no aclara qué significa ‘uso individual’ en este contexto. El documento observa que las órdenes polémicas pueden ser temáticas, y relacionarse con organizaciones, propósitos y lugares amplios.

Además, las regulaciones propuestas no estipulan un mecanismo de transparencia para el número y tipo de autorizaciones emitidas, lo que hace que la supervisión pública sea problemática.

Subcontratación de la regulación a ‘normas armonizadas’

La investigación establece que las entidades más importantes en la Ley de Inteligencia Artificial en realidad no se mencionan ni una vez en las regulaciones propuestas: CEN (Comité Europeo de Normalización) y CENELEC (Comité Europeo de Normalización Electrotécnica) – dos de los tres Organismos de Normalización Europeos (ESO) que la Comisión Europea puede encomendar para formular normas armonizadas, que en muchos casos serían los marcos regulatorios dominantes para ciertos tipos de servicios y despliegues de inteligencia artificial.

Esto significa que los productores de inteligencia artificial pueden optar por seguir las normas de lo que son en efecto regulaciones competidoras en lugar de complementarias, en lugar de cumplir con los requisitos esenciales establecidos en la Ley de Inteligencia Artificial. Esto permite a los proveedores interpretar las regulaciones propuestas de manera más flexible cuando entren en vigor en 2024-5.

Los investigadores del documento también opinan que los años de lobby industrial entre los organismos de normalización probablemente redefinirán considerablemente estas ‘normas esenciales’, y sugieren que las regulaciones ‘ideales’ deberían comenzar con un nivel ético y claridad legislativa más altos, si solo para tener en cuenta este inevitable proceso de desgaste.

Legitimando la falacia de los sistemas de reconocimiento de emociones

La Ley de Inteligencia Artificial incluye una disposición contra la implementación de sistemas de reconocimiento y categorización de emociones – marcos que pueden no necesariamente identificar a un individuo, pero que afirman entender qué sienten o pueden categorizarlos en términos de género, etnia y varios otros signos económicos y sociales.

Los investigadores argumentan que esta cláusula es inútil, ya que la GDPR ya obliga a los proveedores de dichos sistemas a proporcionar a los usuarios información clara sobre el uso de dichos sistemas, para que los usuarios puedan optar por no utilizarlos (lo que puede implicar no utilizar un servicio en línea o no entrar en un área donde existan dichos sistemas).

Más importante aún, el documento afirma que esta cláusula legitima una tecnología desacreditada, y procede a caracterizar los sistemas de reconocimiento de emociones al estilo FACS a la luz de la vergonzosa historia de la frenología y otros enfoques casi chamánicos para la categorización social desde la temprana era industrial.

‘Aquellos que afirman detectar emociones utilizan taxonomías simplificadas y cuestionables; asumen incorrectamente la universalidad a través de culturas y contextos; y corren el riesgo de ‘[llevarnos] de regreso al pasado frenológico’ de analizar los rasgos de carácter a partir de estructuras faciales. Las disposiciones de la Ley sobre el reconocimiento de emociones y la categorización biométrica parecen insuficientes para mitigar los riesgos.’

Una propuesta demasiado modesta

Además de estas, los investigadores abordan otras deficiencias percibidas en la Ley de Inteligencia Artificial en cuanto a la regulación de los deepfakes, la falta de supervisión de las emisiones de carbono de los sistemas de inteligencia artificial, la duplicación de la supervisión regulatoria con otros marcos y la definición inadecuada de entidades legales procesables.

Instan a los legisladores y activistas a tomar medidas para subsanar los problemas identificados, y observan que incluso su extensa deconstrucción de las regulaciones propuestas ha tenido que omitir muchas otras áreas de preocupación, debido a la falta de espacio.

Sin embargo, el documento elogia el intento vanguardista de la Ley por introducir un sistema de regulación horizontal de los sistemas de inteligencia artificial, citando sus muchos ‘elementos sensatos’, como la creación de una jerarquía de niveles de evaluación de riesgos, el compromiso de introducir prohibiciones y la propuesta de una base de datos pública de sistemas a los que los proveedores necesitarían contribuir para obtener legitimidad europea, aunque observa los dilemas legales que este último requisito probablemente generará.