Ashley Bryant-Baker, Diretora de Dados e Análise da Fresh Eyes Digital – Série de Entrevistas

Ashley Bryant-Baker é Diretora de Dados e Análise da Fresh Eyes Digital, uma empresa de consultoria focada no sucesso de organizações sem fins lucrativos. Antes de ingressar na Fresh Eyes Digital, ela dirigia sua própria empresa de consultoria, B&B Data Solutions, onde ajudava marcas a criar e aproveitar soluções de dados. Ela trabalha com análise de dados por mais de uma década em setores que variam de bens de consumo, viagens, logística, saúde e organizações sem fins lucrativos.

Ela se tornou uma palestrante procurada sobre os tópicos de Viés de Gênero em IA, Segmentação de Clientes Usando IA e diversidade no local de trabalho. Ela foi recentemente convidada a falar em vários eventos, incluindo SXSW, Data Minds Connect e Digital Summit DC. Ashley frequentou The American Graduate School em Paris, Georgetown, LSU e Fort Hays University. Ela tem um mestrado em Economia Internacional, Certificado em Ciência de Dados, um Bacharelado em Administração e um Bacharelado em Artes.

O que a atraiu inicialmente para a ciência da computação e a ciência de dados?

Na faculdade, eu estudei arte e estava interessada em trabalhar para uma empresa de jogos de vídeo quando me formasse como designer de jogos. Meu plano era fazer modelos de computador 3D e projetar personagens e objetos com os quais as pessoas interagiriam no jogo. Eu até trabalhei como testadora de qualidade de jogos de vídeo para a EA Sports na faculdade. Como na época não havia uma concentração em arte computacional na minha universidade, decidi fazer um curso secundário em ciência da computação para complementar meu diploma em arte. Inicialmente, eu não gostava das aulas de ciência da computação em absoluto. Havia uma hostilidade quase frontal contra as pessoas que não tinham experiência (como eu) por parte de outros alunos e até mesmo alguns professores. Eu persisti no meu curso secundário porque meu objetivo para o meu projeto de arte final era projetar e programar um jogo de vídeo funcional. Eu usei python e maya para criar um jogo de xadrez 3D com peças animadas que caminhavam pelo tabuleiro e um AI muito simples que podia jogar contra você. Na época, eu não sabia nada sobre python e supus que nunca o usaria novamente.

Avançando para um dos meus primeiros empregos após a faculdade. Eu estava trabalhando em uma empresa de marketing como gerente de projeto júnior. Eu trabalhava com uma equipe de artistas, especialistas em marketing, especialistas em produção e uma analista em toda a empresa que gerenciava análise para cerca de 15 clientes sozinha. Ela me pedia ajuda periodicamente para verificar sua matemática ou criar relatórios simples. Quando ela teve que tirar uma licença médica por várias semanas, ela pediu ao meu supervisor e a mim se eu poderia assumir o lugar dela enquanto ela estivesse fora. Quando ela voltou, eu pedi transferência para o seu departamento. Trabalhar com os dados era tão interessante para mim. Foi definitivamente uma reviravolta inesperada na minha carreira, mas eu não olhei para trás desde então. Eu continuei querendo aprender mais, então fiz cursos e candidatei-me a empregos de análise onde eu poderia aprender com os outros. Então, tudo voltou ao ponto de partida e eu estava trabalhando com python novamente, embora de uma maneira completamente diferente do que antes.

Tudo isso para dizer. Eu inicialmente entrei na ciência de dados puramente por acidente.

Você é atualmente Diretora de Dados e Análise da Fresh Eyes Digital, uma empresa que trabalha com organizações sem fins lucrativos. Pode compartilhar o que a empresa faz e o trabalho que você realiza lá?

Fresh Eyes é uma empresa de consultoria que fornece suporte de marketing e arrecadação de fundos para organizações sem fins lucrativos. Nós trabalhamos com clientes para entender seus doadores, criar campanhas digitais em torno dos objetivos das organizações sem fins lucrativos e ajudar as organizações sem fins lucrativos a entender como sua presença digital pode ser elevada para atingir esses objetivos. A Fresh Eyes me contratou porque eles queriam construir uma oferta de dados mais robusta. Inicialmente, eu trabalhei com eles como consultora, onde eu ajudei a projetar testes digitais multivariados, entender resultados e automatizar serviços de análise e painéis. Agora estou trabalhando com eles para criar uma série de ofertas para organizações sem fins lucrativos. Alguns projetos em que estou trabalhando incluem análise preditiva em torno das taxas de conversão e doação de constituintes e doadores ao longo do tempo. Entendendo os efeitos de fatores externos, como o clima político, mudanças econômicas e ciclos de notícias, bem como fatores internos, como estratégias de mensagens de marketing, relatórios de impacto de organizações sem fins lucrativos e até mesmo a movimentação de funções de liderança dentro de uma organização e como esses podem afetar a propensão a converter. Muito dessas informações informam nossas análises de previsão e painéis e modelos de classificação para melhor entender doadores e engajamento.

As organizações sem fins lucrativos estão abraçando o uso de métodos estatísticos avançados e estão percebendo que isso ajuda sua capacidade de ver sua missão quando são capazes de entender melhor seu impacto e arrecadar dinheiro de forma mais estruturada.

Uma de suas conquistas de que você mais se orgulha é ser uma defensora da diversidade em STEM, pode compartilhar alguns desses destaques?

Há muitas organizações incríveis lá fora que estão trabalhando em direção à diversidade e equidade em STEM: Black Girls Code, ByteBack aqui em DC, DataKind e, mais recentemente, minha irmandade Zeta Phi Beta Inc., juntamente com várias outras organizações, se associou à Google para treinar grupos sub-representados em treinamento técnico e computacional. Eu faço minha parte voluntariando-me com essas organizações, sendo mentora de pessoas que estão entrando no campo, falando em eventos (particularmente eventos de tecnologia, onde eu às vezes sou a única mulher ou pessoa de cor) e ensinando em oficinas em escolas (especialmente escolas majoritariamente minoritárias, escolas rurais e escolas alternativas). Além disso, eu trabalhei com várias empresas para diversificar seus programas de estágio e programas de graduação de nível de entrada. Muito desse trabalho eu fiz por hábito. Eu cresci em um lar e uma comunidade onde o voluntariado era parte da vida cotidiana. Eu continuei isso durante a faculdade e além com Zeta Phi Beta Inc. No entanto, acho que eu me inclinei para essa área porque eu não tive a oportunidade de aprender sobre computadores e codificação até a faculdade e, quando cheguei à faculdade, lembro-me do sentimento de negatividade que eu senti ao perseguir meu curso secundário em ciência da computação. Eu não quero que ninguém, especialmente alguém que está tentando aprender e melhorar a si mesmo, experimente isso. Eu não acho que eu realmente percebi o impacto que eu estava fazendo até que eu estava falando com um grupo de estudantes em um evento de recrutamento e uma jovem garota negra e sua mãe se aproximaram de mim e disseram que eu era a primeira mulher técnica negra que eles haviam visto em qualquer conferência ou evento de recrutamento. Foi quando eu soube que eu tinha que fazer disso parte da minha rotina regular.

Eu tento participar desses tipos de programas regularmente. De fato, em 16 de março, eu estarei co-organizando um hackathon com uma incrível cientista de dados e amiga minha, Swathi, em conjunto com Girls in AI.

Você também trabalhou na expansão da educação em tecnologia em bairros rurais e/ou de baixa renda. Quão significativo é esse problema?

Uau. Não há tempo suficiente para falar sobre o quão grande é esse problema! O coronavírus tornou claro que existem desigualdades que são sistêmicas em nossa sociedade. Infelizmente, uma das maiores é a educação. Eu tenho um amigo que trabalha em uma escola alternativa na periferia de DC. Os alunos lá são frequentemente mais velhos, eles têm que manter empregos além de frequentar a escola, eles não sempre têm as ferramentas em casa para fazer o aprendizado à distância, como um laptop ou computador. Esses alunos tinham um professor que defendia por eles, trabalhando com a escola para obter uma opção móvel para que a maioria dos alunos pudesse acessar a escola em seus telefones celulares. No entanto, isso não é sempre o caso em ambientes de escolas de baixa renda ou alternativas. A situação rural é igualmente difícil para os alunos e professores. A internet de alta velocidade pode ser MUITO cara em áreas rurais e, em alguns casos, indisponível. Alunos sentados nos estacionamentos do McDonald’s para acessar a internet é inaceitável, mas uma necessidade infeliz em algumas dessas áreas. Eu sei de professores em áreas rurais da Pensilvânia que não conseguem obter boa internet para se conectar às suas salas de aula virtuais.

Fora do coronavírus, há a questão do subfinanciamento em escolas rurais e de baixa renda, uma falta de professores tecnicamente treinados, particularmente em áreas rurais, onde atrair talentos pode ser difícil, e, claro, o viés geral contra os alunos de cor, alunos imigrantes e até mesmo os alunos rurais que podem parecer ou soar diferentes da “cultura americana” mais amplamente aceita. Todos esses cenários contribuem para a falta de acesso à educação em STEM e, portanto, os alunos que nunca são expostos a esses assuntos e carreiras.

Quão grande é o problema do viés de gênero e racial em IA?

É algo que todas as empresas e organizações devem pensar. Infelizmente, isso é um problema difícil de resolver porque, se a IA está mostrando viés para ou contra um grupo particular, isso geralmente significa que, nessa área particular, a empresa ou organização já tinha um padrão de viés para começar. A IA depende de padrões passados para prever o comportamento futuro e simplesmente amplifica esse comportamento. No entanto, é difícil fazer com que os humanos reconheçam seus próprios vieses, todos temos e frequentemente agimos neles inconscientemente. É necessário haver sistemas em lugar para ajudar a mitigar esses vieses e manter as equipes responsáveis, tanto nos grupos técnicos quanto nos grupos de negócios.

Como podemos garantir que as aplicações de IA de hoje não amplifiquem os vieses que os humanos têm?

Há algumas etapas que as organizações podem tomar para criar um padrão de prática em ciência de dados e IA para ajudar a mitigar o viés. Eu não posso enfatizar o suficiente como isso tem que ser um processo colaborativo entre grupos técnicos e grupos de negócios. A importância do contexto que não é sempre visível para as equipes técnicas é fundamental.

Isso começa com o reconhecimento e identificação de fontes potenciais de viés. Isso pode acontecer no processo de coleta de dados, na seleção de recursos para a construção de modelos ou pode acontecer completamente fora dos dados nos negócios. Por exemplo, eu fui solicitada por um líder de uma empresa se seu público-alvo era realmente homens mais velhos, ricos, que mais frequentemente viviam em bairros rurais ou suburbanos. Eu olhei para os dados e percebi que o pipeline de dados da empresa tinha uma super-representação desse grupo. Mas eu também notei que a maioria dos clientes da empresa vinha das mesmas fontes de mídia, rádio conservadora. Eu aprendi com um membro da equipe de marketing que a empresa recebeu marketing de baixo custo ou sem custo nessas plataformas no início de seu lançamento e a maioria dos clientes refletia isso. O viés não estava nos dados, mas na falta de diversificação na estratégia de comunicação. No entanto, como resultado, o modelo de pontuação de valor de vida que a equipe de dados criou pontuou homens mais velhos, mais ricos, de comunidades rurais e suburbanas como os clientes de melhor desempenho, amplificando a estratégia de comunicação que a equipe de marketing empregou. Isso é algo que nenhuma equipe técnica deve ser responsável por saber, mas eles devem ser responsáveis por fazer as perguntas certas.

Isso me leva ao segundo passo, que é estabelecer diretrizes para procurar e, em seguida, lidar com o viés uma vez que ele tenha sido descoberto. Uma vez que você tenha identificado fontes potenciais de viés, a organização deve criar uma lista de verificação dessas fontes para procurar esses problemas e criar um caminho para alguém que encontre dados ou padrões preocupantes para abordá-los. Isso não pode ser feito no vácuo. É a responsabilidade de todas as equipes garantir que as aplicações não amplifiquem os vieses. Como no exemplo acima, a equipe de dados não tem responsabilidade sobre a estratégia de comunicação. Eles podem ajudar a identificar os resultados e, em seguida, trabalhar com outras equipes na organização para abordá-los. Nesse caso, a equipe de comunicação trabalhou com a equipe de ciência de dados para testar outras estratégias de comunicação que atendiam a diferentes grupos demográficos.

Quando os vieses aparecem em modelos de dados, às vezes pode ser em como uma equipe de dados determina a seleção de recursos, quais dados estão sendo incluídos ou excluídos nos armazenamentos de dados ou até mesmo a métrica sendo prevista. Nesses casos, é importante para a equipe de dados entender que a precisão do modelo não é sempre equivalente à justiça do modelo. Pode ser verdade que incluir certos recursos em um modelo de dados aumenta a precisão preditiva do modelo, mas o aumento adicional de 0,5% de precisão pode vir com um custo social ou de negócios. Determinar o que é justo não é uma tarefa fácil e requer a participação de equipes multifacetadas. Uma metodologia chamada “justiça contrafactual” considera que uma decisão é justa em relação a um indivíduo se for a mesma no mundo real e em um mundo contrafactual onde o indivíduo pertence a um grupo demográfico diferente. Além disso, a Microsoft e a Google AI publicaram padrões para os quais a justiça em IA é contabilizada. Eu pessoalmente me refiro às diretrizes da UE sobre ética em inteligência artificial, que considero bastante abrangentes para a minha indústria. Uma vez que um padrão de justiça é estabelecido, a equipe de dados pode determinar se a solução é processar os dados antes, alterar as decisões do sistema depois ou incorporar definições de justiça no processo de treinamento em si. A questão do viés nos dados é complexa e requer avaliação regular e as vozes de uma ampla gama de pessoas. Não é apenas uma questão técnica a ser resolvida.

Quais são suas opiniões sobre as políticas de ética em IA e dados promulgadas pelo governo?

Eu acho que houve movimentos na direção certa ao criar um padrão de procedimento quando se trata de ética em IA e dados. A ordem executiva de Trump sobre ética em IA cria um registro de modelos implantados dentro do governo, estabelece um cronograma para criar orientações de política, encoraja as agências a contratar equipes e indivíduos focados em tecnologia e encoraja a transparência no uso de IA em toda a extensão do governo em áreas não envolvidas com P&D ou segurança nacional, o que considero imensamente importante. Esse tipo de plano abrangente é um desenvolvimento emocionante no governo, que historicamente tem sido lento para adaptar a tecnologia. No entanto, as políticas fizeram pouco para criar uma cultura de ética, criar planos compulsórios ou coerentes em toda a agência ou até mesmo definir exatamente o que ética ou justiça significa nesses contextos. À medida que a nova administração assume, eu impressionaria sobre elas para solidificar esses planos com um plano mais estruturado e coerente em todas as agências, bem como um procedimento de avaliação que considere cuidadosamente o impacto humano, pois muito do trabalho que nosso governo faz afeta a vida diária das pessoas, tanto nacional quanto internacionalmente.

Há algo mais que você gostaria de compartilhar sobre seu trabalho com a Fresh Eyes Digital?

A ciência de dados pode ser usada por organizações sem fins lucrativos para aumentar o impacto de quem está trabalhando para melhorar o mundo de muitas maneiras. Para essas organizações, coletar dados não é normalmente o problema. Eles têm muitos dados para trabalhar. Usar esses dados de maneira clara e ação é difícil para essas organizações, que frequentemente são espremidas por recursos e podem não ter uma equipe interna de análise pronta. O trabalho que fazemos no departamento de dados da Fresh Eyes Digital ajuda essas organizações a entender e implantar seus dados da maneira certa, tomando decisões mais informadas e estratégicas. Eu estou feliz em ter a oportunidade de trabalhar com essas organizações de uma maneira que ajuda a torná-las mais eficientes e eficazes à medida que trabalham para impactar o mundo de maneiras positivas.

Obrigada pelas respostas detalhadas e estou ansiosa para seguir seus futuros empreendimentos. Os leitores que desejam aprender mais devem visitar o site Ashley Bryant-Baker e/ou Fresh Eyes Digital,