Bradford Newman, Presidente da Prática de Segredos Comerciais da América do Norte – Série de Entrevistas

Bradford se especializa em questões relacionadas a segredos comerciais e Inteligência Artificial. Ele é o Presidente do Subcomitê de IA da ABA. Reconhecido pelo Daily Journal em 2019 como um dos 20 principais advogados de IA da Califórnia, Bradford foi fundamental na proposta de legislação federal sobre IA no local de trabalho e propriedade intelectual que, em 2018, foi transformada em um projeto de lei de discussão da Câmara dos Representantes dos Estados Unidos. Ele também desenvolveu as melhores práticas de governança corporativa e supervisão de IA projetadas para garantir a justiça algorítmica.

O que foi que inicialmente despertou seu interesse em inteligência artificial?

Eu representei os principais inovadores e produtores de produtos e tecnologia de IA por muitos anos. Meu interesse sempre foi ir além da cortina e entender os aspectos legais e técnicos do aprendizado de máquina e assistir à evolução da IA. Estou fascinado pelo que é possível para aplicações em vários domínios.

Você é um defensor feroz da regulação racional da inteligência artificial, especificamente na regulação que protege a saúde pública, pode discutir quais são algumas de suas principais preocupações?

Acredito que estamos nos estágios iniciais de uma das mais profundas revoluções que a humanidade já experimentou. A IA tem o potencial de impactar todos os aspectos de nossas vidas, desde o momento em que acordamos de manhã até o momento em que dormimos — e também enquanto dormimos. Muitas das aplicações da IA terão um impacto positivo na qualidade de nossas vidas e, provavelmente, em nossa longevidade como espécie.

No momento, do ponto de vista da ciência da computação e do aprendizado de máquina, os humanos ainda estão muito envolvidos no processo, desde a codificação dos algoritmos, até a compreensão dos conjuntos de dados de treinamento, até o processamento dos resultados, reconhecendo as limitações e tornando a tecnologia produtiva.

Mas estamos em uma corrida contra o tempo em dois fronts principais. Primeiro, o que é comumente referido como o “problema da caixa preta”: a participação humana e a compreensão da IA diminuirão com o tempo à medida que a sofisticação da IA (pense em ANNs) evoluir. E segundo, o uso da IA por governos e interesses privados aumentará.

Minha preocupação é que a IA será usada, tanto intencionalmente quanto não intencionalmente, de maneiras que são contrárias aos ideais democráticos ocidentais de liberdade individual e liberdade.

Como podemos abordar essas preocupações?

A sociedade está no ponto em que devemos resolver não o que é possível em relação à IA, mas o que deve ser proibido e/ou parcialmente restrito.

Primeiro, devemos identificar especificamente as decisões que nunca podem ser tomadas em sua totalidade ou em parte pela saída algorítmica gerada pela IA. Isso significa que, mesmo em situações em que todos os especialistas concordam que os dados de entrada e saída são totalmente imparciais, transparentes e precisos, deve haver uma proibição estatutária sobre o uso de IA para qualquer tipo de tomada de decisão preditiva ou substantiva.

Admitidamente, isso é contraintuitivo em um mundo onde anseiamos por certeza matemática, mas estabelecer uma “zona de exclusão” de IA é essencial para preservar as liberdades que todos nós prezamos e que servem como base para nossa sociedade.

Segundo, para outras decisões identificadas com base em análises de IA que não são proibidas, precisamos de legislação que defina claramente aquelas em que um ser humano deve estar envolvido no processo de tomada de decisão.

Você foi fundamental na proposta de legislação federal sobre IA no local de trabalho e propriedade intelectual que, em 2018, foi transformada em um projeto de lei de discussão da Câmara dos Representantes dos Estados Unidos. Pode discutir algumas dessas propostas?

A Lei de Proteção de Dados de IA tem como objetivo promover a inovação e é projetada para (1) aumentar a transparência na natureza e uso da IA e construir confiança pública na IA; (2) abordar o impacto da IA no mercado de trabalho e (3) proteger a saúde e segurança públicas.

Ela tem vários componentes-chave. Por exemplo, proíbe que as empresas abrangidas dependam exclusivamente da IA para tomar certas decisões, incluindo uma decisão sobre o emprego de indivíduos ou a negação ou limitação de tratamento médico, e proíbe que as empresas de seguros médicos tomem decisões sobre a cobertura de um tratamento médico com base apenas em análises de IA. Ela também estabelece a Junta de IA — uma nova agência federal encarregada de responsabilidades específicas para regular a IA em relação à saúde e segurança públicas. E exige que as entidades abrangidas nomeiem um Diretor de Inteligência Artificial.

Você também desenvolveu as melhores práticas de governança corporativa e supervisão de IA projetadas para garantir a justiça algorítmica. Quais são algumas das principais questões atuais que você vê com a justiça ou viés nos sistemas de IA?

Esse assunto tem sido o foco de intensa escrutínio por acadêmicos e agora está recebendo a atenção de agências governamentais dos EUA, como a Comissão para Oportunidades Iguais de Emprego (EEOC), e o escritório de advogados de acusação. A maioria das vezes, a causa resulta de uma falha nos conjuntos de dados de treinamento ou da falta de compreensão e transparência no ambiente de teste. Isso é agravado pela falta de propriedade central e supervisão de IA por parte da gestão sênior.

Essa falta de compreensão técnica e consciência situacional é uma preocupação significativa de responsabilidade. Eu falei com vários advogados de acusação proeminentes que estão caçando casos de viés de IA.

A aprendizagem profunda muitas vezes sofre do problema da “caixa preta”, onde inserimos dados em uma Rede Neural Artificial (ANN) e, em seguida, recebemos uma saída, sem saber como essa saída foi gerada. Você acredita que isso é um problema grave?

Sim. E à medida que os algoritmos e as redes neurais continuam a evoluir, e os humanos estão cada vez menos “no loop”, há um risco real de ultrapassar o ponto de inflexão em que não seremos mais capazes de entender elementos críticos de função e saída.

Com a COVID-19, países de todo o mundo introduziram sistemas de vigilância estatal alimentados por IA. Quão grande é o problema que você tem com o potencial de abuso desse tipo de vigilância?

É ingênuo, e francamente, irresponsável do ponto de vista dos direitos e liberdades individuais, ignorar ou minimizar o risco de abuso. Embora o rastreamento de contatos pareça prudente em meio a uma pandemia global, e o reconhecimento facial baseado em IA fornece uma medida eficaz para fazer o que os humanos sozinhos não seriam capazes de realizar, a sociedade deve instituir proibições legais sobre o mau uso, juntamente com mecanismos de supervisão e aplicação eficazes. Caso contrário, estamos cedendo ao Estado um elemento fundamental de nossos direitos e liberdades individuais. Uma vez que esses direitos sejam concedidos de forma geral, esse elemento básico de nossa liberdade e privacidade não será devolvido.

Você afirmou anteriormente que “Devemos estabelecer uma ‘zona de exclusão’ de IA se quisermos preservar as liberdades que os americanos prezam e que servem como base para nossa sociedade.” Pode compartilhar algumas dessas preocupações que você tem?

Quando discutimos IA, devemos sempre nos concentrar no propósito essencial da IA: produzir análises preditivas precisas a partir de grandes conjuntos de dados, que são então usados para classificar humanos e tomar decisões. Em seguida, devemos examinar quem são os tomadores de decisão, o que eles estão decidindo e em que baseiam suas decisões.

Se entendermos que os tomadores de decisão são aqueles com o maior impacto em nossa saúde, sustento e liberdades — empregadores, senhorios, médicos, seguradoras, aplicação da lei e todas as outras empresas privadas, comerciais e governamentais que podem gerar, coletar ou comprar análises de IA — fica fácil ver que, em uma democracia liberal ocidental, ao contrário de um regime totalitário, devem haver decisões que não devem, e não podem, ser deixadas apenas para a IA.

Embora muitas decisões óbvias venham à mente, como proibir a prisão de alguém antes de cometer um crime, a adoção generalizada da IA em todos os aspectos de nossas vidas apresenta instâncias mais complexas de dilemas éticos. Por exemplo, se um algoritmo prevê com precisão que trabalhadores que postam fotos em redes sociais de férias na praia, onde estão bebendo álcool, abandonam ou são demitidos de seus empregos em média 3,5 anos antes daqueles que postam fotos de si mesmos se exercitando, deve a primeira categoria ser negada uma promoção ou aumento com base apenas na saída algorítmica? Se um algoritmo determina corretamente que adolescentes que jogam videogames por mais de 2 horas por dia têm menos probabilidade de se formar em uma universidade de quatro anos, deve esse tipo de estudante ser negado admissão? Se as mulheres asiáticas na casa dos 60 anos admitidas na UTI por sintomas relacionados à COVID-19 têm uma taxa de sobrevivência mais alta do que os homens afro-americanos na casa dos 70 anos, devem as mulheres receber tratamento médico preferencial?

Esses exemplos simplificados são apenas alguns dos muitos casos em que a dependência apenas da IA contradiz nossas visões do que os direitos humanos individuais exigem.

Há algo mais que você gostaria de compartilhar sobre IA ou Baker McKenzie?

Estou extremamente energizado para ajudar a liderar a prática internacional de IA da Baker McKenzie em meio ao panorama em evolução. Reconhecemos que nossos clientes estão com fome de orientação sobre tudo relacionado à IA, desde a negociação de contratos, até o estabelecimento de supervisão interna, até a evitação de alegações de viés, até a compreensão do quadro regulatório emergente nacional e internacional.

As empresas querem fazer a coisa certa, mas há muito poucos escritórios de advocacia que têm a expertise e a compreensão necessárias de IA e aprendizado de máquina para serem capazes de ajudá-las. Para aqueles de nós que são tanto viciados em IA quanto advogados, este é um momento emocionante para agregar valor real para nossos clientes.

Obrigado pelas respostas fantásticas sobre algumas dessas principais preocupações sociais envolvendo IA. Os leitores que desejam aprender mais sobre Bradford Newman devem clicar aqui.