Bradford Newman, Presidente da Prática de Segredos Comerciais da América do Norte – Série de Entrevistas

Bradford se especializa em questões relacionadas a segredos comerciais e Inteligência Artificial. Ele é o Presidente do Subcomitê de IA da ABA. Reconhecido pelo Daily Journal (DJCO ) em 2019 como um dos 20 principais advogados de IA da Califórnia, Bradford tem sido fundamental na proposição de legislação federal de IA no local de trabalho e propriedade intelectual que, em 2018, foi transformada em um projeto de lei de Discussão da Câmara dos Representantes dos Estados Unidos. Ele também desenvolveu as melhores práticas de governança e supervisão de IA projetadas para garantir a justiça algorítmica.

O que foi que inicialmente despertou seu interesse em inteligência artificial?

Eu representei os principais inovadores e produtores de produtos e tecnologia de IA por muitos anos. Meu interesse sempre foi ir além da cortina e entender os aspectos legais e técnicos do aprendizado de máquina e assistir ao desenvolvimento da IA. Estou fascinado pelo que é possível em termos de aplicações em vários domínios.

Você é um defensor feroz da regulação racional da inteligência artificial, especialmente em regulação que protege a saúde pública, pode discutir alguns de seus principais problemas?

Acredito que estamos nos estágios iniciais de uma das mais profundas revoluções que a humanidade já experimentou. A IA tem o potencial de impactar todos os aspectos de nossas vidas, desde o momento em que acordamos de manhã até o momento em que dormimos — e também enquanto dormimos. Muitas das aplicações da IA terão um impacto positivo na qualidade de nossas vidas e, provavelmente, na nossa longevidade como espécie.

No momento, do ponto de vista da ciência da computação e do aprendizado de máquina, os seres humanos ainda estão muito envolvidos no processo, desde a codificação dos algoritmos, até a compreensão dos conjuntos de dados de treinamento, até o processamento dos resultados, reconhecendo as limitações e comercializando a tecnologia.

Mas estamos em uma corrida contra o tempo em dois principais fronts. Primeiro, o que é comumente referido como o “problema da caixa preta”: a participação humana e a compreensão da IA diminuirão com o tempo à medida que a sofisticação da IA (pense em ANNs) evolui. E segundo, o uso da IA por governos e interesses privados aumentará.

Minha preocupação é que a IA será usada, tanto intencionalmente quanto não intencionalmente, de maneiras que estão em desacordo com os ideais democráticos ocidentais de liberdade e liberdade individual.

Como podemos abordar essas preocupações?

A sociedade está no ponto em que devemos resolver não o que é possível com respeito à IA, mas o que deve ser proibido e/ou parcialmente restrito.

Primeiro, devemos especificamente identificar as decisões que nunca podem ser tomadas, nem totalmente nem parcialmente, pelo resultado algorítmico gerado pela IA. Isso significa que, mesmo em situações em que todos os especialistas concordam que os dados de entrada e saída são totally imparciais, transparentes e precisos, deve haver uma proibição estatutária sobre o uso de IA para qualquer tipo de tomada de decisão preditiva ou substantiva.

Admitidamente, isso é contraintuitivo em um mundo em que ansiamos por certeza matemática, mas estabelecer uma “zona de exclusão” de IA é essencial para preservar as liberdades que todos nós valorizamos e que servem como base para nossa sociedade.

Segundo, para outras decisões identificadas com base em análises de IA que não são proibidas, precisamos de legislação que defina claramente aquelas em que um ser humano deve estar envolvido no processo de tomada de decisão.

Você foi fundamental na proposição de legislação federal de IA no local de trabalho e propriedade intelectual que, em 2018, foi transformada em um projeto de lei de Discussão da Câmara dos Representantes dos Estados Unidos. Pode discutir algumas dessas propostas?

A Lei de Proteção de Dados de IA tem como objetivo promover a inovação e é projetada para (1) aumentar a transparência na natureza e uso da inteligência artificial; (2) abordar o impacto da inteligência artificial no mercado de trabalho e (3) proteger a saúde e segurança públicas.

Ela tem vários componentes principais. Por exemplo, proíbe que as empresas abrangidas dependam exclusivamente da inteligência artificial para tomar certas decisões, incluindo uma decisão sobre o emprego de indivíduos ou a negação ou limitação de tratamento médico, e proíbe que as seguradoras de saúde tomem decisões sobre a cobertura de um tratamento médico apenas com base em análises de IA. Também estabelece a Junta de Inteligência Artificial — uma nova agência federal encarregada de responsabilidades específicas para regular a IA em relação à saúde e segurança públicas. E exige que as entidades abrangidas nomeiem um Diretor de Inteligência Artificial.

Você também desenvolveu as melhores práticas de governança e supervisão de IA projetadas para garantir a justiça algorítmica. Quais são alguns dos problemas atuais que você vê com a justiça ou viés nos sistemas de IA?

Este assunto tem sido o foco de intensa escrutínio por acadêmicos e agora está recebendo a atenção de agências governamentais dos EUA, como a Comissão para Oportunidades Iguais de Emprego (EEOC), e do setor de ações judiciais. A maioria das vezes, a causa resulta de um defeito nos conjuntos de dados de treinamento ou da falta de compreensão e transparência no ambiente de teste. Isso é agravado pela falta de propriedade e supervisão centralizada da IA por parte da gestão sênior.

Esta falta de compreensão técnica e consciência situacional é uma preocupação significativa de responsabilidade. Eu falei com vários advogados de ações judiciais proeminentes que estão à caça de casos de viés de IA.

O aprendizado profundo muitas vezes sofre com o problema da caixa preta, pelo qual inserimos dados em uma Rede Neural Artificial (ANN) e, em seguida, recebemos uma saída, sem saber como essa saída foi gerada. Você acredita que isso é um problema importante?

Sim. E à medida que os algoritmos e as redes neurais continuam a evoluir, e os seres humanos estão cada vez menos “no loop”, há um risco real de ultrapassar o ponto de inflexão em que não seremos mais capazes de entender elementos críticos de função e saída.

Com a COVID-19, países de todo o mundo introduziram sistemas de vigilância estatal com IA. Quão grande é o problema do potencial abuso com esse tipo de vigilância?

É ingênuo e, francamente, irresponsável do ponto de vista dos direitos e liberdades individuais, ignorar ou minimizar o risco de abuso. Enquanto o rastreamento de contatos parece prudente em meio a uma pandemia global, e o reconhecimento facial baseado em IA fornece uma medida eficaz para fazer o que os seres humanos sozinhos não seriam capazes de realizar, a sociedade deve instituir proibições legais sobre o mau uso, juntamente com mecanismos de supervisão e aplicação eficazes. Caso contrário, estamos cedendo ao Estado um elemento fundamental de nossos direitos e liberdades individuais. Uma vez que esses direitos sejam concedidos de forma geral, não serão devolvidos.

Você anteriormente afirmou que “Devemos estabelecer uma ‘zona de exclusão’ de IA se quisermos preservar as liberdades que os americanos valorizam e que servem como base para nossa sociedade.” Pode compartilhar algumas dessas preocupações que você tem?

Quando discutimos IA, devemos sempre nos concentrar no propósito essencial da IA: produzir análises preditivas precisas a partir de grandes conjuntos de dados, que são usados para classificar seres humanos e tomar decisões. Em seguida, devemos examinar quem são os tomadores de decisão, o que estão decidindo e em que estão baseando suas decisões.

Se entendermos que os tomadores de decisão são aqueles com o maior impacto em nossa saúde, meio de vida e liberdades — empregadores, senhorios, médicos, seguradoras, aplicação da lei e todas as outras empresas privadas, comerciais e governamentais que podem gerar, coletar ou comprar análises de IA — fica fácil ver que, em uma democracia liberal ocidental, em oposição a um regime totalitário, há decisões que não devem, e não devem, ser deixadas apenas para a IA.

Enquanto muitas decisões óbvias vêm à mente, como proibir a prisão de alguém antes de cometer um crime, a adoção generalizada da IA em todos os aspectos de nossas vidas apresenta instâncias mais complexas de dilemas éticos. Por exemplo, se um algoritmo prevê com precisão que trabalhadores que postam fotos em redes sociais de férias na praia, onde estão bebendo álcool, abandonam o emprego ou são demitidos em média 3,5 anos antes daqueles que postam fotos de si mesmos trabalhando, deve a primeira categoria ser negada uma promoção ou aumento com base apenas na saída algorítmica? Se um algoritmo determina que adolescentes que jogam videogames por mais de 2 horas por dia são menos propensos a se formar em uma universidade de quatro anos, deve esses estudantes serem negados admissão? Se as mulheres asiáticas em seus 60 anos admitidas na UTI por sintomas relacionados à COVID-19 têm uma taxa de sobrevivência mais alta do que os homens afro-americanos em seus 70 anos, devem as mulheres receber tratamento médico preferencial?

Esses exemplos simplificados são apenas alguns dos numerosos casos em que a dependência apenas da IA contradiz nossa visão do que os direitos humanos individuais exigem.

Há algo mais que você gostaria de compartilhar sobre IA ou Baker McKenzie?

Estou extremamente motivado para liderar a prática de IA truly internacional da Baker McKenzie em meio ao panorama em evolução. Reconhecemos que nossos clientes estão ansiosos por orientação sobre tudo relacionado à IA, desde a negociação de contratos, até o estabelecimento de supervisão interna, até a evitação de alegações de viés, até a compreensão do quadro regulatório emergente nacional e internacional.

As empresas querem fazer a coisa certa, mas há muito poucos escritórios de advocacia que têm a expertise e a compreensão necessárias da IA e do aprendizado de máquina para serem capazes de ajudá-las. Para aqueles de nós que são tanto viciados em IA quanto advogados, este é um momento emocionante para agregar valor real para nossos clientes.

Obrigado pelas respostas fantásticas sobre algumas dessas principais preocupações sociais envolvendo IA. Os leitores que desejam saber mais sobre Bradford Newman devem clicar aqui.