O que o Projeto de Lei de Direitos de IA da Casa Branca Significa para a América e o Resto do Mundo

O Escritório de Política Científica e Tecnológica da Casa Branca (OSTP) recentemente lançou um whitepaper chamado “O Projeto para um Projeto de Lei de Direitos de IA: Fazendo com que os Sistemas Automatizados Trabalhem para o Povo Americano”. Este quadro foi lançado um ano após a OSTP anunciar o lançamento de um processo para desenvolver “um projeto de lei de direitos para um mundo impulsionado por IA”.

O prefácio deste projeto de lei ilustra claramente que a Casa Branca entende as ameaças iminentes à sociedade que são impostas pela IA. É o que está declarado no prefácio:

“Entre os grandes desafios impostos à democracia hoje está o uso de tecnologia, dados e sistemas automatizados de maneiras que ameaçam os direitos do público americano. Com frequência, essas ferramentas são usadas para limitar nossas oportunidades e impedir nosso acesso a recursos ou serviços críticos. Esses problemas são bem documentados. Na América e em todo o mundo, sistemas supostamente destinados a ajudar no cuidado com os pacientes se provaram inseguros, ineficazes ou tendenciosos. Algoritmos usados em decisões de contratação e crédito foram encontrados para refletir e reproduzir desigualdades indesejadas existentes ou incorporar novos vieses e discriminação prejudiciais. A coleta de dados de mídia social sem controle foi usada para ameaçar as oportunidades das pessoas, comprometer sua privacidade ou rastrear sua atividade de forma pervasiva – muitas vezes sem seu conhecimento ou consentimento.”

O que este Projeto de Lei de Direitos e o quadro que ele propõe significará para o futuro da IA ainda está para ser visto. O que sabemos é que novos desenvolvimentos estão surgindo a uma taxa exponencial. O que era considerado impossível, a tradução instantânea de idiomas agora é uma realidade, e ao mesmo tempo temos uma revolução na compreensão de linguagem natural (NLU) liderada pela OpenAI e sua famosa plataforma GPT-3.

Desde então, vimos a geração instantânea de imagens por meio de uma técnica chamada Stable Diffusion, que pode logo se tornar um produto de consumo mainstream. Em essência, com essa tecnologia, um usuário pode simplesmente digitar qualquer consulta que possa imaginar, e como mágica, a IA gera uma imagem que corresponde à consulta.

Quando consideramos o crescimento exponencial e a Lei do Aumento Acelerado, logo chegará um momento em que a IA terá assumido todos os aspectos da vida diária. As pessoas e empresas que sabem disso e aproveitam essa mudança de paradigma lucrarão. Infelizmente, um grande segmento da sociedade pode se tornar vítima de consequências mal-intencionadas e não intencionais da IA.

O Projeto de Lei de Direitos de IA visa apoiar o desenvolvimento de políticas e práticas que protejam os direitos civis e promovam valores democráticos na construção, implantação e governança de sistemas automatizados. Como esse projeto de lei se comparará à abordagem da China ainda está para ser visto, mas é um projeto de lei de direitos que tem o potencial de mudar o cenário da IA e provavelmente será adotado por aliados como a Austrália, o Canadá e a UE.

Como foi declarado, o Projeto de Lei de Direitos de IA é não vinculante e não constitui política do governo dos EUA. Ele não substitui, modifica ou dirige a interpretação de qualquer estatuto, regulamento, política ou instrumento internacional existente. O que isso significa é que caberá às empresas e governos respeitar as políticas delineadas neste whitepaper.

Este projeto de lei identificou cinco princípios que devem guiar o design, uso e implantação de sistemas automatizados para proteger o público americano na era da inteligência artificial. Abaixo, vamos esboçar os 5 princípios:

1. Sistemas Seguros e Eficazes

Há um perigo claro e presente para a sociedade por sistemas de IA abusivos, especificamente aqueles que dependem do aprendizado profundo. Isso é tentado ser abordado com esses princípios:

“Você deve ser protegido de sistemas inseguros ou ineficazes. Sistemas automatizados devem ser desenvolvidos com consulta de comunidades, partes interessadas e especialistas em domínio para identificar preocupações, riscos e impactos potenciais do sistema. Os sistemas devem passar por testes pré-implantação, identificação e mitigação de riscos e monitoramento contínuo que demonstrem que são seguros e eficazes com base em seu uso pretendido, mitigação de resultados inseguros, incluindo aqueles além do uso pretendido, e aderência a padrões específicos de domínio. Os resultados dessas medidas de proteção devem incluir a possibilidade de não implantar o sistema ou removê-lo do uso. Sistemas automatizados não devem ser projetados com a intenção ou possibilidade razoável de colocar em perigo sua segurança ou a segurança de sua comunidade. Eles devem ser projetados para protegê-lo proativamente de danos decorrentes de usos não intencionais, mas previsíveis, ou impactos de sistemas automatizados. Você deve ser protegido de uso inapropriado ou irrelevante de dados no design, desenvolvimento e implantação de sistemas automatizados, e do dano composto de seu reuso. Avaliação e relatório independentes que confirmem que o sistema é seguro e eficaz, incluindo relatórios de etapas tomadas para mitigar danos potenciais, devem ser realizados e os resultados tornados públicos sempre que possível.”

2. Proteções contra Discriminação Algorítmica

Essas políticas abordam alguns dos elefantes na sala quando se trata de empresas que abusam de indivíduos.

Um problema comum ao contratar funcionários usando sistemas de IA é que o sistema de aprendizado profundo frequentemente treina em dados tendenciosos para alcançar conclusões de contratação. Isso basicamente significa que más práticas de contratação no passado resultarão em discriminação de gênero ou racial por um agente de contratação. Um estudo indicou a dificuldade de tentar desgenrar dados de treinamento.

Outro problema fundamental com dados tendenciosos por governos é o risco de prisão injusta, ou pior, algoritmos de previsão de criminalidade que oferecem penas mais longas para minorias.

“Você não deve enfrentar discriminação por algoritmos e sistemas devem ser usados e projetados de maneira equitativa. A discriminação algorítmica ocorre quando sistemas automatizados contribuem para tratamento ou impactos injustificados que desfavorecem pessoas com base em sua raça, cor, etnia, sexo (incluindo gravidez, parto e condições médicas relacionadas, identidade de gênero, status intersex, orientação sexual) religião, idade, origem nacional, deficiência, status de veterano, informações genéticas ou qualquer outra classificação protegida por lei. Dependendo das circunstâncias específicas, a discriminação algorítmica pode violar proteções legais. Projetistas, desenvolvedores e implantadores de sistemas automatizados devem tomar medidas proativas e contínuas para proteger indivíduos e comunidades contra a discriminação algorítmica e para usar e projetar sistemas de maneira equitativa. Essa proteção deve incluir avaliações de equidade proativas como parte do design do sistema, uso de dados representativos e proteção contra proxies para recursos demográficos, garantindo acessibilidade para pessoas com deficiência no design e desenvolvimento, testes de disparidade pré-implantação e contínuos e mitigação, e supervisão organizacional clara. Avaliação e relatório independentes em linguagem simples, na forma de uma avaliação de impacto algorítmico, incluindo resultados de testes de disparidade e informações de mitigação, devem ser realizados e tornados públicos sempre que possível para confirmar essas proteções.”

3. Privacidade de Dados

Este princípio de privacidade de dados é o que mais provavelmente afetará o maior segmento da população. A primeira metade do princípio parece se preocupar com a coleta de dados, especificamente com dados coletados na internet, um problema conhecido especialmente para plataformas de mídia social. Esses mesmos dados podem então ser usados para vender anúncios, ou pior, para manipular a opinião pública e influenciar eleições.

“Você deve ser protegido de práticas abusivas de dados por meio de proteções incorporadas e você deve ter agência sobre como os dados sobre você são usados. Você deve ser protegido de violações de privacidade por meio de escolhas de design que garantam que essas proteções sejam incluídas por padrão, incluindo garantir que a coleta de dados se conforme às expectativas razoáveis e que apenas os dados estritamente necessários para o contexto específico sejam coletados. Projetistas, desenvolvedores e implantadores de sistemas automatizados devem buscar sua permissão e respeitar suas decisões sobre coleta, uso, acesso, transferência e exclusão de seus dados de maneira apropriada e na maior extensão possível; onde não for possível, salvaguardas de privacidade por design alternativas devem ser usadas. Os sistemas não devem empregar decisões de design e experiência do usuário que obscureçam a escolha do usuário ou sobrecarreguem os usuários com configurações padrão que são invasivas de privacidade. O consentimento deve ser usado apenas para justificar a coleta de dados em casos em que possa ser dado de forma apropriada e significativa. Qualquer solicitação de consentimento deve ser breve, ser compreensível em linguagem simples e dar a você agência sobre a coleta de dados e o contexto específico de uso; as práticas atuais de aviso e escolha difíceis de entender para usos amplos de dados devem ser alteradas.”

A segunda metade do Princípio de Privacidade de Dados parece se preocupar com a vigilância por governos e empresas.

Atualmente, as empresas são capazes de monitorar e espionar funcionários, em alguns casos pode ser para melhorar a segurança no local de trabalho, durante a pandemia de COVID-19 foi para impor o uso de máscaras, na maioria das vezes é feito simplesmente para monitorar como o tempo no trabalho é utilizado. Em muitos desses casos, os funcionários se sentem como se estivessem sendo monitorados e controlados além do que é considerado aceitável.

“Proteções e restrições aprimoradas para dados e inferências relacionadas a domínios sensíveis, incluindo saúde, trabalho, educação, justiça criminal e finanças, e para dados relacionados a jovens devem colocá-lo em primeiro lugar. Em domínios sensíveis, seus dados e inferências relacionadas devem ser usados apenas para funções necessárias, e você deve ser protegido por revisão ética e proibições de uso. Você e suas comunidades devem ser livres de vigilância não controlada; tecnologias de vigilância devem ser submetidas a uma supervisão aprimorada que inclui pelo menos uma avaliação pré-implantação de seus danos potenciais e limites de escopo para proteger a privacidade e as liberdades civis. Vigilância e monitoramento contínuos não devem ser usados em educação, trabalho, habitação ou em outros contextos onde o uso de tais tecnologias de vigilância seja provável que limite direitos, oportunidades ou acesso. Sempre que possível, você deve ter acesso a relatórios que confirmem que suas decisões de dados foram respeitadas e forneçam uma avaliação do impacto potencial de tecnologias de vigilância em seus direitos, oportunidades ou acesso.”

Deve ser observado que a IA pode ser usada para o bem para proteger a privacidade das pessoas.

4. Aviso e Explicação

Isso deve ser o chamado às armas para empresas implantarem um conselho consultivo de ética de IA, bem como impulsionar o desenvolvimento de IA explicável. A IA explicável é necessária no caso de um modelo de IA cometer um erro, entender como a IA funciona permite o diagnóstico fácil de um problema.

A IA explicável também permitirá a partilha transparente de informações sobre como os dados estão sendo utilizados e por que uma decisão foi tomada pela IA. Sem IA explicável, será impossível cumprir com essas políticas devido ao problema da caixa preta do aprendizado profundo.

Empresas que se concentram em melhorar esses sistemas também incorrerão em benefícios positivos ao entender as nuances e complexidades por trás de por que um algoritmo de aprendizado profundo tomou uma decisão específica.

“Você deve saber que um sistema automatizado está sendo usado e entender como e por que ele contribui para resultados que o afetam. Projetistas, desenvolvedores e implantadores de sistemas automatizados devem fornecer documentação em linguagem simples e acessível, incluindo descrições claras do funcionamento geral do sistema e do papel da automação, aviso de que tais sistemas estão em uso, a pessoa ou organização responsável pelo sistema e explicações de resultados que sejam claras, oportunas e acessíveis. Tal aviso deve ser mantido atualizado e as pessoas afetadas pelo sistema devem ser notificadas de alterações significativas no caso de uso ou funcionalidade-chave. Você deve saber como e por que um resultado que o afeta foi determinado por um sistema automatizado, incluindo quando o sistema automatizado não é a única entrada que determina o resultado. Sistemas automatizados devem fornecer explicações que sejam tecnicamente válidas, significativas e úteis para você e para qualquer operador ou outros que precisem entender o sistema, e calibradas para o nível de risco com base no conteúdo. Relatórios que incluem informações resumidas sobre esses sistemas automatizados em linguagem simples e avaliações da clareza e qualidade do aviso e explicações devem ser tornados públicos sempre que possível.”

5. Alternativas Humanas, Consideração e Recurso

Ao contrário da maioria dos princípios acima, este princípio é mais aplicável a entidades governamentais ou instituições privatizadas que trabalham em nome do governo.

Mesmo com um conselho consultivo de ética de IA e IA explicável, é importante recorrer a uma revisão humana quando vidas estão em jogo. Sempre há o potencial de erro, e ter uma revisão humana de um caso quando solicitado pode evitar um cenário como um IA enviando as pessoas erradas para a prisão.

O sistema judiciário e o sistema de justiça criminal têm mais espaço para causar danos irreparáveis a membros marginalizados da sociedade e devem prestar atenção especial a este princípio.

“Você deve ser capaz de optar por uma alternativa, quando apropriado, e ter acesso a uma pessoa que possa considerar e remediar problemas que você encontre rapidamente. Você deve ser capaz de optar por uma alternativa humana em favor de sistemas automatizados, quando apropriado. A adequação deve ser determinada com base em expectativas razoáveis em um contexto determinado e com foco em garantir acessibilidade ampla e proteger o público de impactos especialmente prejudiciais. Em alguns casos, uma alternativa humana pode ser exigida por lei. Você deve ter acesso a uma consideração e remédio humanos oportunos e a um recurso e escalonamento de problemas se um sistema automatizado falhar, produzir um erro ou se você quiser apelar ou contestar seu impacto sobre você. A consideração e o recurso humanos devem ser acessíveis, equitativos, eficazes, mantidos, acompanhados de treinamento de operador apropriado e não devem impor uma carga desproporcional sobre o público. Sistemas automatizados com uso pretendido em domínios sensíveis, incluindo, mas não limitado a, sistema de justiça criminal, emprego, educação e saúde, devem ser adaptados ao propósito, fornecer acesso significativo à supervisão, incluir treinamento para qualquer pessoa que interaja com o sistema e incorporar consideração humana para decisões adversas ou de alto risco. Relatórios que incluem uma descrição desses processos de governança humana e avaliação de sua oportunidade, acessibilidade, resultados e eficácia devem ser tornados públicos sempre que possível.”

Resumo

A OSTP deve ser creditada por tentar introduzir um quadro que une os protocolos de segurança necessários para a sociedade, sem introduzir políticas draconianas que possam prejudicar o progresso no desenvolvimento do aprendizado de máquina.

Depois que os princípios são delineados, o projeto de lei continua fornecendo um acompanhamento técnico para as questões discutidas, bem como informações detalhadas sobre cada princípio e as melhores maneiras de avançar para implementar esses princípios.

Proprietários de negócios astutos e empresas devem prestar atenção para estudar este projeto de lei, pois só pode ser vantajoso implementar essas políticas o mais rápido possível.

A IA explicável continuará a dominar em importância, como pode ser visto a partir desta citação do projeto de lei.

“Ao longo do governo federal, as agências estão conduzindo e apoiando pesquisas sobre sistemas de IA explicáveis. O NIST está conduzindo pesquisas fundamentais sobre a explicabilidade de sistemas de IA. Uma equipe multidisciplinar de pesquisadores visa desenvolver métodos de medição e melhores práticas para apoiar a implementação de princípios fundamentais de IA explicável. A Agência de Pesquisa e Desenvolvimento Avançado de Defesa tem um programa sobre IA Explicável que visa criar uma suíte de técnicas de aprendizado de máquina que produzam modelos mais explicáveis, mantendo um alto nível de desempenho de aprendizado (precisão de previsão), e permitir que os usuários humanos entendam, confiem apropriadamente e gerenciem a nova geração de parceiros artificialmente inteligentes. O programa da National Science Foundation sobre Justiça em IA também inclui um interesse específico em fundamentos de pesquisa para IA explicável.”

O que não deve ser ignorado é que, eventualmente, os princípios delineados aqui se tornarão o novo padrão.