Crescentes Chamadas para Regulação de IA Após Semanas de Relatórios de Notícias

Ao longo das últimas semanas, têm havido crescentes chamadas para uma regulação mais forte da inteligência artificial (IA). A preocupação surge após várias histórias de notícias que mostram os possíveis abusos da tecnologia. Agora, ainda mais questionamentos estão sendo levantados com a publicação do muito aguardado livro branco sobre inteligência artificial da Comissão Europeia (UE), que é a primeira tentativa pan-nacional de regular a IA. Por volta do mesmo tempo, a Casa Branca – Escritório de Política de Ciência e Tecnologia (OSTP) publicou um relatório sobre sua Iniciativa Americana de Inteligência Artificial.

Antes da publicação do livro branco da UE, o Intercept divulgou uma história de notícias sobre documentos internos da União Europeia vazados. De acordo com os documentos, a UE estava considerando a criação de uma rede de bancos de dados de reconhecimento facial em toda a Europa. As forças policiais nacionais de 10 estados-membros da UE produziram um relatório que pediu a criação e interconexão dos bancos de dados em cada estado-membro. Muitos estão preocupados de que a criação de tais bancos de dados inevitavelmente será conectada com bancos de dados semelhantes nos Estados Unidos, permitindo que grandes quantidades de dados biométricos sejam consolidadas. Muitos esperavam que o livro branco da UE propusesse uma proibição da regulação facial, mas isso não estava lá.

De acordo com Edin Omanovic, diretor de advocacy da Privacy International, “Isso é preocupante em nível nacional e em nível europeu, especialmente à medida que alguns países da UE se inclinam para governos mais autoritários.”

Uma das grandes histórias de notícias nas últimas semanas, iniciada por uma investigação do New York Times em janeiro, tem a ver com a startup Clearview AI. O aplicativo de reconhecimento facial da empresa identifica pessoas por meio de um banco de dados de imagens tiradas de mídias sociais. O aplicativo compara uma foto com o banco de dados de mais de 3 bilhões de imagens provenientes de sites como Facebook (META ), Venmo e Youtube. Uma vez que o aplicativo encontra coincidências, ele responde com links para o site onde as fotos foram originalmente publicadas. Essa tecnologia pode levar à descoberta de detalhes pessoais sobre um indivíduo. De acordo com o relatório, o aplicativo foi usado por mais de 600 agências de aplicação da lei. Enquanto o banco de dados da Clearview tem mais de 3 bilhões de imagens, o banco de dados do FBI contém apenas 641 milhões de imagens de cidadãos americanos.

A história explodiu novamente com um novo relatório da BuzzFeed News (BZFD ) na semana passada. De acordo com o relatório, a empresa considerou expandir para além apenas de propósitos de aplicação da lei, com varejo, imóveis, bancos e mercados internacionais sendo considerados. O relatório também afirmou que o aplicativo de reconhecimento facial já foi vendido para milhares de organizações em todo o mundo e foi usado pelo Departamento de Justiça, ICE, Macy’s (M ), Walmart (WMT ) e a NBA. Talvez o mais problemático na lista de clientes seja um fundo de riqueza soberana nos Emirados Árabes Unidos e milhares de entidades governamentais.

Os novos desenvolvimentos causaram preocupações entre defensores da privacidade sobre possíveis usos de vigilância em massa. Outra preocupação é a possibilidade de imprecisão com a tecnologia, levando à aplicação da lei contra indivíduos inocentes. Além de todas as preocupações com a privacidade, empresas como Facebook, Google (GOOGL ) e Twitter estão ameaçando tomar medidas legais. Além de ações legais privadas, pelo menos dois senadores americanos declararam que pretendem investigar a empresa.

Um exemplo do abuso dessa tecnologia pode ser visto dentro da Agência de Imigração e Controle Alfandegário dos EUA (ICE). O Washington Post relatou na semana passada que os funcionários da ICE têm permissão para usar tecnologia de reconhecimento facial para procurar em milhões de fotos de licenças de motorista de Maryland, e podem fazer isso sem aprovação estadual ou judicial.

De acordo com Harrison Rudolph, associado sênior da Escola de Direito da Universidade de Georgetown – Centro de Privacidade e Tecnologia, “A ICE está usando informações biométricas nas sombras, sem aviso ou aprovação do governo, para caçar as pessoas mais vulneráveis.”

Esses são apenas alguns dos exemplos mais públicos de como essa tecnologia está sendo usada, mas muito mais está acontecendo nos bastidores. Devido a isso, houve um aumento nos pedidos de escrutínio e regulação. Uma maior transparência, seja por meio de relatórios investigativos ou não, está trazendo muitas práticas à luz. Sem que o público tenha uma compreensão da inteligência artificial e do que ela pode significar para a economia, governo, aplicação da lei, vigilância e todos os outros aspectos da sociedade, há pouca esperança de que governos e empresas se autoregulem. A sociedade está vendo tanto os enormes benefícios da IA quanto as preocupações maciças, com tudo acontecendo muito rápido para que empresas, governos e indivíduos consigam acompanhar. nomy, governo, lei, aplicação da lei, vigilância e todos os outros aspectos da sociedade, há pouca esperança de que governos e empresas se autoregulem. Sociedade está vendo tanto os enormes benefícios da IA quanto as preocupações maciças, com tudo acontecendo muito rápido para que empresas, governos e indivíduos consigam acompanhar.