As Falhas do Projeto de Lei de Inteligência Artificial da UE

Uma nova crítica jurídica ao projeto de lei de inteligência artificial da União Europeia, conhecido como “Lei de IA”, apresenta uma ampla gama de críticas às regulamentações propostas lançadas em abril, concluindo que grande parte do documento é “costurada” a partir de regulamentações de consumo dos anos 80 que mal se aplicam; que na verdade promove um ambiente de IA desregulamentado na Europa, em vez de trazer o setor sob regulamentação coerente; e – entre uma série de outras críticas – que as propostas traçam um quadro regulatório de IA futuro que tem “pouco sentido e impacto”.

Intitulado Desmistificando o Projeto de Lei de Inteligência Artificial da UE, o pré-impressão é uma colaboração entre pesquisadores da UCL London e da Universidade Radboud em Nijmegen.

O artigo adiciona a um corpo crescente de opinião negativa sobre a implementação proposta (e não a intenção muito admirada) de um quadro regulatório de IA, incluindo a afirmação em abril de um dos contribuintes do projeto de regulamentação de que as diretrizes propostas são “mornas, míopes e deliberadamente vagas”, caracterizando o documento da Comissão Europeia como um proponente de “ética falsa”.

Sistemas de IA Manipulativos

O novo artigo sustenta que as restrições propostas pela Lei de IA sobre “sistemas manipulativos” são limitadas por uma definição vaga e até contraditória de “dano”, comentando que “[u]m cínico pode sentir que a Comissão está mais interessada no valor retórico das proibições do que no efeito prático”.

As regulamentações propostas esboçam duas práticas proibidas putativas:

(a)  a colocação no mercado, colocação em serviço ou uso de um sistema de IA que implanta técnicas subliminares além da consciência de uma pessoa para distorcer materialmente o comportamento de uma pessoa de maneira que cause ou possa causar dano físico ou psicológico a essa pessoa ou a outra pessoa;

(b)  a colocação no mercado, colocação em serviço ou uso de um sistema de IA que explora alguma das vulnerabilidades de um grupo específico de pessoas devido à sua idade, deficiência física ou mental, para distorcer materialmente o comportamento de uma pessoa pertencente a esse grupo de maneira que cause ou possa causar dano físico ou psicológico a essa pessoa ou a outra pessoa;

Os pesquisadores argumentam que essas restrições não abordam se os serviços ou software de um fornecedor de IA são bem-sucedidos em promover seus próprios objetivos, mas apenas se o usuário final sofre “dano” no processo. Eles acrescentam que a definição de dano do projeto é fatalmente limitada a usuários individuais, em vez do tipo de dano coletivo ou social que pode ser razoavelmente inferido de uma série de controvérsias baseadas em IA nos últimos anos, como o escândalo do Cambridge Analytica.

O artigo observa que “Na vida real, o dano pode se acumular sem que um único evento dispare um limiar de seriedade, tornando difícil provar”.

Sistemas de IA Prejudiciais Permitidos, mas Não para Consumo da UE

A Lei de IA propõe implementar uma proibição de sistemas biométricos em tempo real em espaços públicos pela polícia. Embora some ceticismo público tenha sido direcionado às exceções que as propostas fazem para anti-terrorismo, tráfico de crianças e perseguição de um mandado de prisão europeu, os pesquisadores observam também que nada impediria os fornecedores de vender sistemas biométricos que contrariem essas restrições a regimes oprimidos.

O artigo observa que isso já é uma prática histórica, como revelado em um relatório de 2020 da Anistia Internacional.

Além disso, afirma que a especificação da Lei de IA de “sistema biométrico em tempo real” é arbitrária e exclui sistemas analíticos off-line, como o processamento posterior de imagens de eventos de protesto.

Adicionalmente, é observado que as propostas não oferecem mecanismo para restringir sistemas biométricos que não estão relacionados à aplicação da lei, que são preguiçosamente adiados para o GDPR; e que o GDPR em si “estabelece um requisito de consentimento de alta qualidade e individual para cada pessoa digitalizada, o que é efetivamente impossível de cumprir”.

A redação desta seção da Lei de IA também é criticada pelos pesquisadores. O projeto estipula que a pré-autorização será necessária para a implantação de sistemas biométricos para o “uso individual” das autoridades competentes – mas não esclarece o que “uso individual” significa neste contexto. O artigo observa que mandados controversos podem ser temáticos e se relacionar a organizações, propósitos e lugares amplos.

Além disso, as regulamentações propostas não estipulam um mecanismo de transparência para o número e tipo de autorizações emitidas, tornando a fiscalização pública problemática.

Terceirizando a Regulamentação para ‘Padrões Harmonizados’

A pesquisa afirma que as entidades mais importantes na Lei de IA na verdade não são mencionadas nem uma vez nas regulamentações propostas: CEN (Comitê Europeu de Padronização) e CENELEC (Comitê Europeu de Padronização Eletrotécnica) – dois dos três Organismos de Padronização Europeus (ESOs) que a Comissão Europeia pode mandatar para formular padrões harmonizados, que em muitos casos permaneceriam como os principais quadros regulatórios para certos tipos de serviços e implantações de IA.

Isso significa efetivamente que os produtores de IA podem optar por seguir os padrões do que são, na prática, regulamentações concorrentes em vez de complementares, em vez de atender aos requisitos essenciais delineados na Lei de IA. Isso permite que os fornecedores interpretem as regulamentações propostas de forma mais frouxa quando elas entrarem em vigor em 2024-5.

Os pesquisadores também opinam que os anos de lobby industrial entre os organismos de padronização provavelmente redefinirão esses “padrões essenciais” consideravelmente e sugerem que as “regulamentações ideais” devem começar em um nível ético e de clareza legislativa mais alto, apenas para dar conta desse inevitável processo de erosão.

Legitimando a Falácia dos Sistemas de Reconhecimento de Emoções

A Lei de IA apresenta disposições contra a implantação de sistemas de reconhecimento e categorização de emoções – estruturas que podem não identificar necessariamente um indivíduo, mas que reivindicam entender o que as pessoas estão sentindo ou ser capazes de categorizá-las em termos de gênero, etnia e vários outros signos econômicos e sociais.

Os pesquisadores argumentam que essa cláusula é inútil, pois o GDPR já obriga os fornecedores de tais sistemas a fornecer aos usuários informações claras sobre o uso desses sistemas, para que os usuários possam optar por não usá-los (o que pode envolver não usar um serviço online ou não entrar em uma área onde tais sistemas são anunciados).

Mais importante ainda, o artigo afirma que essa cláusula legitima uma tecnologia desacreditada e caracteriza sistemas de reconhecimento de emoções do tipo FACS à luz da história vergonhosa da frenologia e outras abordagens quase-xamânicas para categorização social da era industrial.

‘Aqueles que reivindicam detectar emoções usam taxonomias simplistas e questionáveis; supõem universalidade across culturas e contextos; e arriscam ‘[levar] de volta ao passado frenológico’ de analisar traços de caráter a partir de estruturas faciais. As disposições da Lei sobre reconhecimento de emoções e categorização biométrica parecem insuficientes para mitigar os riscos.’

Uma Proposta Muito Modesta

Além disso, os pesquisadores abordam outras deficiências percebidas na Lei de IA em relação à regulamentação de deepfakes, falta de supervisão das emissões de carbono de sistemas de IA, duplicação de supervisão regulatória com outros quadros, e definição inadequada de entidades legais processáveis.

Eles instam os legisladores e ativistas civis a tomar medidas para corrigir os problemas identificados e observam ainda que mesmo sua extensa desconstrução das regulamentações propostas teve que omitir muitas outras áreas de preocupação devido à falta de espaço.

No entanto, o artigo elogia a tentativa vanguarda da Lei de introduzir um sistema de regulamentação horizontal de sistemas de IA, citando seus muitos ‘elementos sensatos’, como criar uma hierarquia de níveis de avaliação de risco, ter o compromisso de introduzir proibições, e propor um banco de dados público de sistemas aos quais os fornecedores precisariam contribuir para ganhar legitimidade europeia, embora observando as questões jurídicas que esse último requisito provavelmente levantará.