Reid Blackman, Ph.D, Fundador e CEO da Virtue Consultants – Série de Entrevistas

Reid Blackman é o Fundador e CEO da Virtue Consultants. Nessa capacidade, ele trabalhou com empresas para integrar ética e mitigação de riscos éticos na cultura da empresa e no desenvolvimento, implantação e aquisição de produtos de tecnologia emergente. Ele também é um Conselheiro Sênior da Ernst & Young e faz parte do seu Conselho Consultivo de Inteligência Artificial, e é membro da Iniciativa de Design Eticamente Alinhado da IEEE.

O trabalho de Reid foi destacado no The Wall Street Journal e Dell Perspectives, e ele contribuiu com artigos para The Harvard Business Review, TechCrunch, VentureBeat e Risk & Compliance Magazine. Ele foi citado em numerosos artigos de notícias e fala regularmente em vários locais, incluindo o Fórum Econômico Mundial, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University e AIG.

Você foi um Professor de Filosofia na Universidade de Colgate de 2009 a 2018. Em que momento você começou a incorporar a ética da IA em suas aulas?

Eu costumava ensinar um curso de Filosofia Social e Política, onde abordava Marx. Uma das principais afirmações de Marx é que o capitalismo acabará dando lugar ao comunismo, devido a um aumento maciço nos “meios de produção”. Em outras palavras, o capitalismo impulsiona a eficiência cada vez maior em nome da concorrência e da abertura de novos mercados, o que significa um aumento na criação de tecnologias que podem produzir mais e mais em menos tempo. Marx também previu que isso colocaria cada vez mais dinheiro nas mãos de poucas pessoas e empurraria mais e mais pessoas para a pobreza, após o que as estruturas capitalistas seriam derrubadas por uma revolução liderada pelas crescentes massas de pessoas destituídas. Tudo isso leva a uma discussão em torno da ética da tecnologia que torna desnecessário o trabalho humano, que é um elemento central da ética da IA.

Pequena história lateral, se você estiver interessado: Em 2002, eu era um estudante de pós-graduação liderando uma discussão sobre Marx com estudantes de graduação na Universidade Northwestern. Em algum momento, um estudante levantou a mão e disse: “Eventualmente, não precisaremos que os humanos façam nenhum trabalho.” A turma ficou confusa. Eu também fiquei confuso. Então eu disse: “Bem, então quem fará o trabalho?” Ele respondeu de uma maneira muito direta: “Robôs.” A turma explodiu em risos. Eu contei os meus próprios. Mas é óbvio quem teve a última risada.

Em 2018, você lançou a Virtue Consultants, uma consultoria de ética que capacita líderes de Dados e IA a identificar e mitigar os riscos éticos de seus produtos. O que o inspirou a começar essa jornada empresarial?

Ciúme. Bem, mais ou menos. Eu comecei uma empresa de atacado de fogos de artifício quando era um estudante de pós-graduação, acho que por volta de 2003 ou 2004. Isso foi melhor do que eu esperava, e a empresa ainda existe, embora agora eu seja um conselheiro e não mais lidere as operações diárias. De qualquer forma, é relevante porque explica como eu vim a ser um mentor para startups no programa de empreendedorismo da Colgate (chamado TIA, Thought Into Action, liderado por dois excelentes VC, Andy Greenfield e Wills Hapworth, que lideram o TIA Ventures). Como mentor, eu vi estudantes embarcando em projetos emocionais enquanto tentavam descobrir como estabelecer e escalar seus startups com ou sem fins lucrativos, e eu pensei: “Eu quero isso!” Mas o que seria minha nova aventura? Ela precisava falar com meu amor por filosofia e ética, e a primeira coisa que fazia sentido era uma consultoria de ética. Eu não via o mercado para esses serviços na época, porque não havia um mercado para ver, e então esperei. E então Cambridge Analytica, BLM e #MeToo fizeram manchetes nacionais, e de repente houve uma maior conscientização sobre a necessidade.

Quão importante é para as empresas introduzir uma Declaração de Ética da IA?

Uma Declaração de Ética da IA não é essencial, mas é uma ferramenta extremamente útil para definir seus objetivos. Quando você está introduzindo um programa de ética da IA em sua organização, você deseja identificar e mitigar e gerenciar vários riscos éticos, reputacionais, regulatórios e legais. Essa é a sua principal função. Uma declaração de ética ajuda a articular como as coisas serão uma vez que você tenha a infraestrutura, o processo e as práticas em vigor para atingir essa função. Na medida em que uma estratégia precisa de um objetivo – o que sempre precisa – uma Declaração de Ética da IA é uma boa maneira de articular esses objetivos, embora não seja a única maneira.

Como as empresas podem garantir que a declaração de ética seja transferida para o processo e prática?
Uma declaração de ética é apenas um pequeno passo na direção certa. Se você quiser continuar, o próximo passo natural é fazer uma avaliação de onde você está em relação aos objetivos articulados nessa declaração. Uma vez que você saiba onde estão as lacunas mais arriscadas – ou seja, onde você está mais propenso a não atingir seus objetivos – então você pode começar a criar soluções para reduzir essas lacunas. Talvez seja um comitê de ética. Talvez seja um processo de due diligence durante o desenvolvimento do produto. Talvez seja melhorar como você lida com dados em departamentos não-produtos, como marketing e RH. Provavelmente é tudo isso e mais.

Quais são algumas soluções que as empresas devem implementar para evitar viés no algoritmo de IA real?

Há uma série de ferramentas técnicas lá fora para identificar viés, mas elas são limitadas. Elas permitirão que você compare as saídas do seu modelo com as dezenas de métricas quantitativas oferecidas na literatura acadêmica de ética de ML, mas você precisa ter cuidado porque essas métricas não são mutuamente compatíveis. Então, uma decisão ética substantiva precisa ser tomada: qual, se alguma dessas métricas, é a apropriada neste contexto?

Além de usar uma ferramenta como essa, suplementada com uma maneira responsável de responder a essa pergunta, as equipes de produto fariam bem em pensar sobre onde o viés pode se infiltrar antes de começar a construir. Como ele pode ser contido ou refletido nos conjuntos de dados de treinamento? Como sobre a determinação da função objetiva? O que sobre a determinação do limiar? Há muitos lugares onde o viés pode se infiltrar. A previsão sobre onde isso poderia estar no seu projeto atual e como ele poderia entrar lá é essencial para identificar e mitigar o viés.

As empresas de IA são notórias por serem dominadas por homens brancos que podem, involuntariamente, programar alguns vieses no sistema de IA. Para evitar isso, quais características os departamentos de recursos humanos devem procurar?

Eu sou a favor de maiores oportunidades e diversidade entre os engenheiros e equipes de produto em geral. Dito isso, acho que isso está olhando as coisas pelo prisma errado. O principal problema quando se trata de algoritmos tendenciosos não é que os vieses de algum cara branco levam a um código tendencioso. É que os conjuntos de dados de treinamento são tendenciosos. Na verdade, um artigo recente da Columbia – “Programadores tendenciosos? Ou dados tendenciosos? Um experimento de campo em operacionalizar a ética da IA” – concluiu que “[p]rogramadores que entendem a orientação técnica reduzem com sucesso o viés”, e que “[p]revisões algorítmicas de programadores de IA femininos e minoritários não exibem menos viés algorítmico ou discriminação”. Então, embora os RH devem prestar atenção às questões de diversidade, está longe de ser claro que as estratégias para reduzir as saídas tendenciosas da IA devem se concentrar principalmente – ou exclusivamente – em decisões de contratação relacionadas a esforços de diversidade.

Pode discutir o que é diligência de risco ético e por que as empresas devem implementá-la?

Uma diligência de risco ético é uma tentativa de identificar os vários riscos éticos que podem ser realizados com o produto que você está criando, incluindo como ele é implantado, como ele pode ser usado e mal utilizado, etc. Você deseja se concentrar nas características do produto – tanto as que ele tem quanto as que ele não tem – e as maneiras pelas quais elas podem levar, quando implantadas em vários contextos, a atos éticos errados. Quando é feito bem, é uma inspeção sistemática e exaustiva. Claro, enquanto você pode tentar olhar para o canto, há coisas que você pode perder, o que é por que o monitoramento contínuo é importante.

Quanto ao por que as empresas devem implementá-la: elas apenas precisam considerar os riscos éticos, reputacionais, regulatórios e legais por não fazê-lo. Pense sobre a Optum nas notícias e sob investigação regulatória por um algoritmo (aparentemente) tendencioso que recomendou aos profissionais de saúde prestar mais atenção a pacientes brancos do que a pacientes negros doentes. Ou o Goldman Sachs (GS ), sob investigação pelo limite de crédito do Apple (AAPL ) Card, que (aparentemente) discrimina as mulheres. Ou o software de contratação da Amazon (AMZN ), que foi descartado devido a preocupações sobre viés antes de ser implantado. Ou a IBM sendo processada por Los Angeles por (aparentemente) ter apropriado indevidamente dados coletados de seu aplicativo Weather. Ou o Facebook (META ) ….

Há algo mais que você gostaria de compartilhar sobre a Virtue Consultants?

A Virtue ajuda líderes seniores a colocar a ética da IA em prática, seja ajudando a educar e qualificar as pessoas sobre o assunto, escrevendo uma Declaração de Ética da IA, criando e implementando um quadro de risco ético da IA ação, ou simplesmente servindo como conselheiros sobre ética da IA. Se isso soa interessante, as pessoas devem vir dizer olá.

Obrigado pela grande entrevista, os leitores que desejam aprender mais sobre Reid devem visitar Reid Blackman, ou você pode visitar Virtue Consultants.