Regulamento
UE lançará os primeiros regulamentos de IA
Em 21 de abril, a União Europeia anunciará seu primeiro marco regulatório para o uso da inteligência artificial. As novas regulamentações proibirão totalmente sistemas de aprendizado de máquina de "alto risco" e introduzirão padrões mínimos para outras tecnologias de aprendizado de máquina, impondo multas de € 20 milhões, ou 4% do faturamento das empresas, para infrações.
Um projeto de relatório da nova lei, obtido pelo Politico, buscaria promover a inovação e o desenvolvimento de sistemas de IA para o benefício geral da economia e da sociedade da UE, em áreas como manufatura, melhoria da eficiência energética e modelagem de mudanças climáticas; mas proibiria o uso de aprendizado de máquina em sistemas de pontuação de crédito, avaliação automatizada de sentenças penais e avaliação de adequação a benefícios de previdência social e pedidos de asilo ou visto, entre outras proibições a serem reveladas posteriormente.
O projeto afirma explicitamente que Estilo chinês sistemas de pontuação social para indivíduos e empresas são contrários aos valores da União Europeia e serão proibidos pela regulamentação, juntamente com tecnologias de "vigilância em massa" alimentadas por IA.
Supervisão Regulatória
Posteriormente à sua nomeação de um grupo de especialistas de alto nível em inteligência artificial em março de 2021, a UE também pretende instituir um novo Conselho Europeu de Inteligência Artificial, com cada estado membro representado, juntamente com um representante da Comissão Europeia e da autoridade de proteção de dados da UE.
Talvez o decreto mais abrangente e potencialmente controverso do projeto seja o que proíbe sistemas que causam danos às populações da UE ao "manipular seu comportamento, opiniões ou decisões", o que incluiria, sem dúvida, muitas tecnologias que potencializam a análise de marketing comercial e político.
Os regulamentos abrirão exceções para o combate a crimes graves, permitindo implantações prescritas de sistemas de reconhecimento facial, dentro dos limites de escopo e duração de uso.
Tal como acontece com o ampla varredura do GDPR, parece que essas novas regulamentações podem ser gerais o suficiente para incitar um "efeito inibidor" em áreas onde diretrizes rígidas para o uso de IA não são fornecidas, com as corporações correndo o risco de exposição quando seu uso de aprendizado de máquina cai em uma potencial área cinzenta dentro das regulamentações.
Viés sob os novos regulamentos de IA da UE
No entanto, de longe, o maior desafio e possível atoleiro legal vem na forma da estipulação do projeto de regulamento de que os conjuntos de dados não "incorporam quaisquer preconceitos intencionais ou não intencionais" que possam facilitar a discriminação.
Viés de dados é um dos aspectos mais desafiadores no desenvolvimento de sistemas de aprendizado de máquina – difícil de provar, difícil de abordar e profundamente vinculado às culturas centrais dos órgãos de coleta de dados. A questão está cada vez mais colocando órgãos de pesquisa privados e estatais em uma corrente cruzada entre a necessidade de representar com precisão grupos distintos (praticamente o objetivo fundador da matemática computacional e da análise estatística empírica) e o potencial de promulgar perfis raciais e demonização cultural, entre outras considerações .
Portanto, é provável que mercados fora da UE esperem que a nova regulamentação forneça pelo menos algumas áreas específicas de orientação e uma gama de definições aplicáveis a esse respeito.
Resistência Externa à Regulamentação da IA da UE
É provável que a nova regulamentação tenha um impacto profundo nas ramificações legais do uso do aprendizado de máquina para analisar dados públicos - bem como nos dados que ainda serão possíveis de extrair dos usuários da web na era pós-rastreamento que está sendo inaugurada atualmente por Apple, Firefox e (para um menor extensão), Chrome.
A jurisdição pode precisar ser claramente definida, por exemplo, em casos em que os gigantes do FAANG coletam dados de usuários em conformidade com o GDPR, mas processam esses dados por meio de sistemas de aprendizado de máquina fora da União Europeia. Não está claro se algoritmos derivados desses sistemas poderiam ser aplicados a plataformas dentro da UE, e menos ainda como tal aplicação poderia ser comprovada.
No caso do uso de IA para informar decisões privativas de liberdade e sentenças, um tendência crescente nos Estados Unidos, o próprio Reino Unido ocasionalmente experimentos neste setor estariam cobertos pela nova regulamentação se o país não tivesse saído da União Européia.
Em 2020, um rascunho de memorando da Casa Branca sobre a regulamentação da IA apresentou o argumento americano a favor da baixa regulamentação da IA, declarando que 'As agências federais devem evitar ações regulatórias ou não regulatórias que dificultem desnecessariamente a inovação e o crescimento da IA'. Indiscutivelmente, essa atitude parece sobreviver ao governo Trump sob o qual o memorando foi publicado, mas reflete a abrasão entre os EUA e a UE na sequência do novo regulamento.
Da mesma forma, o Conselho de IA do Reino Unido 'Roteiro da IA' expressa grande entusiasmo pelos benefícios econômicos da adoção da IA, mas uma preocupação geral de que novos regulamentos não impeçam esse progresso.
A primeira lei real para IA
O compromisso da UE com uma posição jurídica em matéria de IA é inovador. Os últimos dez anos foram caracterizados por uma nevasca de white papers e conclusões preliminares do comitê e recomendações de governos de todo o mundo, concentrando-se na ética da IA, com poucas leis reais sendo aprovadas.
Distribuição geográfica dos emissores de diretrizes éticas de IA por número de documentos divulgados, em pesquisa de 2019. O maior número de diretrizes éticas é divulgado nos Estados Unidos e na União Europeia, seguido do Reino Unido e do Japão. Canadá, Islândia, Noruega, Emirados Árabes Unidos, Índia, Cingapura, Coreia do Sul e Austrália são representados com 1 documento cada. Tendo contribuído para uma declaração específica do G7, os estados membros dos países do G7 são destacados separadamente. Fonte: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
