Ângulo de Anderson
União Europeia Lançará Primeiras Regulamentações de IA
Adicione Unite.AI às suas fontes preferidas no Google
Em 21 de abril, a União Europeia anunciará sua primeira estrutura regulatória que governa o uso de inteligência artificial. As novas regulamentações proibirão completamente sistemas de aprendizado de máquina de “alto risco” e introduzirão padrões mínimos para outras tecnologias de aprendizado de máquina, impondo penalidades de €20 milhões, ou 4% do faturamento da empresa, por violações.
Um relatório preliminar da nova lei, obtido pelo Politico, buscaria fomentar a inovação e o desenvolvimento de sistemas de IA para o benefício geral da economia e da sociedade da UE, em áreas como manufatura, melhoria da eficiência energética e modelagem de mudanças climáticas; mas proibiria o uso de aprendizado de máquina em sistemas de avaliação de crédito, avaliação automática de penas e avaliação de elegibilidade para benefícios de seguridade social e pedidos de asilo ou vistos, entre outras proibições a serem reveladas posteriormente.
O relatório preliminar afirma explicitamente que sistemas de pontuação social estilo chinês para indivíduos e empresas são opostos aos valores da União Europeia e serão proibidos sob a regulamentação, juntamente com tecnologias de “vigilância em massa” alimentadas por IA.
Supervisão Regulatória
Posteriormente à sua nomeação de um grupo de especialistas de alto nível em inteligência artificial em março de 2021, a UE também pretende instituir um novo Conselho Europeu de Inteligência Artificial, com cada estado-membro representado, juntamente com um representante da Comissão Europeia e da autoridade de proteção de dados da UE.
Talvez o mais abrangente e potencialmente controverso édito no relatório preliminar é que ele proíbe sistemas que causem danos às populações da UE por “manipular seu comportamento, opiniões ou decisões”, o que incluiria, argumentativamente, muitas tecnologias que alimentam a análise de marketing comercial e político.
As regulamentações farão exceções para o combate ao crime grave, permitindo implantações prescritas de sistemas de reconhecimento facial, dentro dos limites de escopo e duração de uso.
Assim como a ampla abrangência do GDPR, parece que essas novas regulamentações podem ser suficientemente gerais para incitar um “efeito de resfriamento” em áreas onde diretrizes estritas para o uso de IA não são fornecidas, com corporações arriscando exposição onde seu uso de aprendizado de máquina cai em uma área cinzenta dentro das regulamentações.
Vieses Sob as Novas Regulamentações de IA da UE
No entanto, o maior desafio e possível brecha legal vem na forma da estipulação da regulamentação preliminar de que conjuntos de dados não “incorporem nenhum viés intencional ou não intencional” que possam facilitar a discriminação.
Viés de dados é um dos aspectos mais desafiadores no desenvolvimento de sistemas de aprendizado de máquina – difícil de provar, difícil de abordar e profundamente ligado às culturas centrais de corpos de coleta de dados. A questão está cada vez mais colocando corpos de pesquisa privados e estatais em uma corrente cruzada entre a necessidade de representar com precisão grupos distintos (praticamente o objetivo fundador da matemática computacional e da análise estatística empírica) e o potencial de promover perfis raciais e demonização cultural, entre outras considerações.
Portanto, é provável que mercados não europeus estejam esperando que a nova regulamentação forneça pelo menos algumas áreas de orientação e uma gama de definições aplicáveis neste sentido.
Resistência Externa à Regulamentação de IA da UE
A nova regulamentação provavelmente terá um impacto profundo nas implicações legais do uso de aprendizado de máquina para analisar dados de frente para o público – bem como nos próprios dados, pois ainda será possível extrair dados de usuários da web na era pós-rastreamento que está sendo introduzida por Apple, Firefox e (em menor medida), Chrome.
A jurisdição pode precisar ser claramente definida, por exemplo, em casos em que os gigantes FAANG coletam dados de usuários em conformidade com o GDPR, mas processam esses dados por meio de sistemas de aprendizado de máquina fora da União Europeia. Não está claro se algoritmos derivados por meio de tais sistemas poderiam ser aplicados a plataformas dentro da UE e ainda menos claro como tal aplicação poderia ser provada.
No caso do uso de IA para informar decisões de custódia e sentenças, uma tendência crescente nos Estados Unidos, os experimentos ocasionais do Reino Unido neste setor estariam cobertos pelas novas regulamentações se o país não tivesse saído da União Europeia.
Em 2020, um rascunho de memorando da Casa Branca sobre a regulamentação de IA declarou o caso americano para a regulamentação baixa de IA, afirmando que ‘As agências federais devem evitar ações regulatórias ou não regulatórias que desnecessariamente prejudiquem a inovação e o crescimento de IA’. Argumentativamente, essa atitude parece provável de sobreviver à administração Trump, sob a qual o memorando foi publicado, mas reflete a abrasão que está por vir entre os EUA e a UE na esteira da nova regulamentação.
Da mesma forma, o “AI Roadmap” do Conselho de IA do Reino Unido expressa grande entusiasmo pelos benefícios econômicos da adoção de IA, mas uma preocupação geral de que novas regulamentações não sejam permitidas para impedir esse progresso.
A Primeira Lei Real para IA
O compromisso da UE com uma posição legal sobre IA é inovador. Os últimos dez anos foram caracterizados por uma tempestade de documentos brancos e achados preliminares de comitês e recomendações de governos de todo o mundo, concentrando-se na ética de IA, com poucas leis reais sendo aprovadas.
Distribuição geográfica de emissores de diretrizes de ética de IA por número de documentos divulgados, em uma pesquisa de 2019. O maior número de diretrizes de ética é divulgado nos Estados Unidos e dentro da União Europeia, seguido pelo Reino Unido e Japão. Canadá, Islândia, Noruega, Emirados Árabes Unidos, Índia, Singapura, Coreia do Sul, Austrália são representados com 1 documento cada. Tendo contribuído para uma declaração específica do G7, os estados-membros dos países do G7 são destacados separadamente. Fonte: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
Leitura Adicional
