Ashley Bryant-Baker, Diretora de Dados e Análise da Fresh Eyes Digital – Série de Entrevistas

Ashley Bryant-Baker é Diretora de Dados e Análise da Fresh Eyes Digital, uma empresa de consultoria focada no sucesso de organizações sem fins lucrativos. Antes de ingressar na Fresh Eyes Digital, ela dirigia sua própria empresa de consultoria, B&B Data Solutions, onde ajudava marcas a criar e aproveitar soluções de dados. Ela trabalha com análise de dados há mais de uma década em setores que variam de bens de consumo, viagens, logística, saúde e organizações sem fins lucrativos.

Ela se tornou uma palestrante procurada sobre os temas de Viés de Gênero em IA, Segmentação de Clientes Usando IA e diversidade no local de trabalho. Ela foi recentemente convidada a falar em vários eventos, incluindo SXSW, Data Minds Connect e Digital Summit DC. Ashley frequentou a American Graduate School em Paris, Georgetown, LSU e a Universidade de Fort Hays. Ela tem um mestrado em Economia Internacional, Certificado em Ciência de Dados, um bacharelado em Administração e um bacharelado em Artes.

O que a atraiu inicialmente para a ciência da computação e a ciência de dados?

Na faculdade, eu estudei arte e estava interessada em trabalhar para uma empresa de jogos de vídeo quando me formasse como designer de jogos. Meu plano era fazer modelos de computador 3D e design de personagens e objetos que as pessoas interagiriam no jogo. Eu até trabalhei como testadora de qualidade de jogos de vídeo para a EA Sports na faculdade. Como na época não havia uma concentração em artes computacionais na minha universidade, eu decidi fazer um curso secundário em ciência da computação para complementar meu diploma em arte. Inicialmente, eu não gostei nada das aulas de ciência da computação. Havia uma hostilidade quase fronteiriça contra as pessoas que não tinham experiência (como eu) por parte de outros alunos e até mesmo alguns professores. Eu persisti no meu curso secundário porque meu objetivo para o meu trabalho de conclusão de curso era projetar e programar um jogo de vídeo funcional. Eu usei python e maya para construir um jogo de xadrez 3D com peças animadas que caminhavam pelo tabuleiro e um AI muito simples que podia jogar contra você. Na época, eu não sabia nada sobre python e eu supus que nunca o usaria novamente.

Avançando para um dos meus primeiros empregos após a faculdade. Eu estava trabalhando em uma empresa de marketing como gerente de projetos júnior. Eu trabalhava com uma equipe de artistas, especialistas em marketing, especialistas em produção e uma analista que gerenciava análise para cerca de 15 clientes sozinha. Ela me pedia ajuda periodicamente para verificar sua matemática ou criar relatórios simples. Quando ela teve que tirar uma licença médica por várias semanas, ela pediu ao meu supervisor e a mim se eu poderia assumir o seu lugar enquanto ela estivesse ausente. Quando ela voltou, eu pedi para ser transferido para o seu departamento. Trabalhar com os dados foi muito interessante para mim. Foi definitivamente uma reviravolta inesperada na minha carreira, mas eu não olhei para trás desde então. Eu continuei querendo aprender mais, então eu fiz cursos e candidatei-me a empregos de análise onde eu poderia aprender com os outros. Então, tudo voltou ao ponto de partida e eu estava trabalhando com python novamente, embora de uma maneira completamente diferente do que antes.

Tudo isso para dizer que eu inicialmente entrei na ciência de dados por acaso.

Você é atualmente Diretora de Dados e Análise da Fresh Eyes Digital, uma empresa que trabalha com organizações sem fins lucrativos. Pode compartilhar o que a empresa faz e o trabalho que você realiza lá?

Fresh Eyes é uma empresa de consultoria que fornece suporte de marketing e arrecadação de fundos para organizações sem fins lucrativos. Nós trabalhamos com os clientes para entender seus doadores, construir campanhas digitais em torno dos objetivos das organizações sem fins lucrativos e ajudar as organizações sem fins lucrativos a entender como sua presença digital pode ser elevada para atingir esses objetivos. Fresh Eyes me contratou porque eles queriam construir uma oferta de dados mais robusta. Inicialmente, eu trabalhei com eles como consultora, onde eu os ajudei a projetar testes multivariados digitais, entender os resultados e automatizar serviços de análise e painéis. Agora, estou trabalhando com eles para construir uma série de ofertas para organizações sem fins lucrativos. Alguns projetos em que estou trabalhando incluem análise preditiva em torno das taxas de conversão e doação de constituintes e doadores ao longo do tempo. Entender os efeitos de fatores externos, como o clima político, mudanças econômicas e ciclos de notícias, bem como fatores internos, como estratégias de mensagens de marketing, relatórios de impacto de organizações sem fins lucrativos e até mesmo a movimentação de funções de liderança dentro de uma organização e como todos esses podem afetar a propensão a se converter. Muitas dessas informações informam nossa análise de previsão e painéis e modelos de classificação para entender melhor os doadores e o engajamento.

Organizações sem fins lucrativos estão adotando o uso de métodos estatísticos avançados e percebendo que isso ajuda sua capacidade de ver sua missão realizada quando elas podem entender melhor seu impacto e arrecadar dinheiro de forma mais estruturada.

Uma de suas conquistas de que você se orgulha é ser uma defensora da diversidade em STEM, pode compartilhar alguns desses destaques?

Há muitas organizações incríveis lá fora que estão trabalhando em direção à diversidade e equidade em STEM: Black Girls Code, ByteBack aqui em DC, DataKind e, mais recentemente, minha irmandade Zeta Phi Beta Inc., juntamente com várias outras organizações, se associaram à Google (GOOGL ) para treinar grupos sub-representados em treinamento técnico e computacional. Eu faço minha parte voluntariando-me com essas organizações, sendo mentora para pessoas que estão entrando no campo, falando em eventos (particularmente eventos de tecnologia, onde eu às vezes sou a única mulher ou pessoa de cor) e ensinando em workshops em escolas (especialmente escolas majoritariamente minoritárias, escolas rurais e escolas alternativas). Além disso, eu trabalhei com várias empresas para diversificar seus programas de estágio e programas de graduação de nível de entrada. Muito desse trabalho eu fiz por hábito. Eu cresci em um lar e uma comunidade onde o voluntariado era parte da vida cotidiana. Eu continuei isso durante a faculdade e além com Zeta Phi Beta Inc. No entanto, acho que eu me inclinei para essa área porque eu não tive a oportunidade de aprender sobre computadores e codificação até a faculdade e, quando cheguei à faculdade, lembro-me do sentimento de negatividade que eu senti ao perseguir meu curso secundário em ciência da computação. Eu não quero que ninguém, especialmente alguém que está tentando aprender e melhorar a si mesmo, experimente isso. Eu não acho que eu realmente percebi o impacto que eu estava tendo até que eu estava falando com um grupo de estudantes em um evento de recrutamento e uma jovem garota negra e sua mãe se aproximaram de mim e disseram que eu era a primeira mulher técnica negra que eles haviam visto em qualquer conferência ou evento de recrutamento. Foi quando eu soube que eu tinha que fazer disso parte da minha rotina regular.

Eu tento participar regularmente desses tipos de programas. Na verdade, em 16 de março, eu estarei co-organizando um hackathon com uma incrível cientista de dados e amiga minha, Swathi, em conjunto com Girls in AI.

Você também trabalhou na expansão da educação em tecnologia em bairros rurais e/ou de baixa renda. Quão significativo é esse problema?

Não há tempo suficiente para falar sobre o quão grande é esse problema! O coronavírus tornou cristalino que existem desigualdades sistêmicas em nossa sociedade. Infelizmente, uma das maiores é a educação. Eu tenho um amigo que trabalha em uma escola alternativa nos arredores de DC. Os alunos lá são frequentemente mais velhos, eles têm que manter empregos em conjunto com a frequência à escola, eles nem sempre têm as ferramentas em casa para fazer o aprendizado à distância, como um laptop ou computador de mesa. Esses alunos tiveram um professor que defendeu por eles, trabalhando com a escola para obter uma opção móvel para garantir que a maioria dos alunos pudesse acessar a escola em seus telefones celulares. No entanto, isso não é sempre o caso em ambientes de escolas de baixa renda ou alternativas. A situação rural é igualmente difícil para os alunos e professores. A internet de alta velocidade pode ser muito cara em áreas rurais e, em alguns casos, indisponível. Alunos sentados nos estacionamentos do McDonald’s para acessar a internet é inaceitável, mas uma necessidade infeliz em algumas dessas áreas. Eu sei de professores em áreas rurais da Pensilvânia que eles mesmos não conseguem obter boa internet para se conectar às suas salas de aula virtuais.

Fora do coronavírus, há a questão do subfinanciamento em escolas rurais e de baixa renda, uma falta de professores tecnicamente treinados, particularmente em áreas rurais, onde atrair talentos pode ser difícil, e, claro, o viés geral contra estudantes de cor, estudantes imigrantes e até estudantes rurais que podem parecer ou soar diferentes da cultura “americana” mais amplamente aceita. Todos esses cenários contribuem para a falta de acesso à educação em STEM e, portanto, os estudantes que nunca são expostos a esses assuntos e carreiras.

Quão grande é o problema do viés de gênero e racial em IA?

É algo com que todas as empresas e organizações devem se preocupar. Infelizmente, isso é difícil de resolver porque, se a IA está mostrando viés em direção a ou contra um grupo particular, isso geralmente significa que, nessa área específica, a empresa ou organização já tinha um padrão de viés para começar. A IA depende de padrões passados para prever comportamento futuro e simplesmente amplifica esse comportamento. No entanto, é difícil fazer com que os humanos reconheçam seus próprios vieses; todos os temos e frequentemente agimos neles inconscientemente. É necessário haver sistemas em lugar para ajudar a mitigar esses vieses e manter as equipes responsáveis, tanto no lado técnico quanto no lado empresarial.

Como podemos garantir que as aplicações de IA de hoje não amplifiquem os vieses que os humanos têm?

Há algumas etapas que as organizações podem tomar para criar um padrão de prática em ciência de dados e IA para ajudar a mitigar o viés. Eu não posso enfatizar o suficiente como isso tem que ser um processo colaborativo entre grupos técnicos e grupos empresariais. A importância do contexto que não é sempre visível para as equipes técnicas é fundamental.

Isso começa com o reconhecimento e identificação de fontes potenciais de viés. Isso pode acontecer no processo de coleta de dados, na seleção de recursos para a construção de modelos ou pode acontecer completamente fora dos dados nos negócios. Por exemplo, eu fui solicitada por um líder de uma empresa se seu público-alvo era realmente homens mais velhos, ricos, que mais frequentemente viviam em bairros rurais ou suburbanos. Eu olhei para os dados e percebi que seu pipeline de dados tinha uma super-representação desse grupo. Mas eu também notei que a maioria de seus clientes vinha das mesmas fontes de mídia, rádio de talk show conservador. Eu aprendi com um membro da equipe de marketing que a empresa recebeu marketing de baixo custo ou sem custo nessas plataformas no início de seu lançamento e a maioria de seus clientes refletia isso. O viés não estava nos dados, mas na falta de diversificação na estratégia de comunicação. No entanto, como resultado, o modelo de pontuação de valor de vida que a equipe de dados criou pontuou homens mais velhos, mais ricos, de comunidades rurais e suburbanas como os clientes de melhor desempenho, amplificando a estratégia de comunicação que a equipe de marketing empregou. Isso é algo que nenhuma equipe técnica deveria ser responsável por saber, no entanto, eles deveriam ser responsáveis por fazer as perguntas certas.

Isso me leva à segunda etapa, que é estabelecer diretrizes para procurar e, em seguida, lidar com o viés uma vez que tenha sido descoberto. Uma vez que você tenha identificado fontes potenciais de viés, a organização deve criar uma lista de verificação dessas fontes para procurar esses problemas e criar um caminho para alguém que encontre dados ou padrões preocupantes para abordá-los. Isso não pode ser feito em um vácuo. É a responsabilidade de todas as equipes garantir que as aplicações não amplifiquem vieses. Como no exemplo acima, a equipe de dados não tem responsabilidade sobre a estratégia de comunicação. Eles podem ajudar a identificar os achados e, em seguida, trabalhar com outras equipes na organização para abordá-los. Nesse caso, a equipe de comunicação trabalhou com a equipe de ciência de dados para testar estratégias de comunicação diferentes que atendiam a diferentes grupos demográficos.

Quando os vieses aparecem em modelos de dados, às vezes pode estar em como uma equipe de dados determina a seleção de recursos, quais dados estão sendo incluídos ou excluídos nos repositórios de dados ou até mesmo a métrica sendo prevista. Nesses casos, é importante para a equipe de dados entender que a precisão do modelo não é sempre equivalente à justiça do modelo. Pode ser verdade que incluir certos recursos em um modelo de dados aumenta a precisão preditiva do modelo, mas o acréscimo de 0,5% de precisão pode vir com um custo social ou empresarial. Determinar o que é justo não é uma tarefa fácil e requer a participação de equipes multifacetadas. Uma metodologia chamada “justiça contrafactual” considera que uma decisão é justa em relação a um indivíduo se for a mesma no mundo real e em um mundo contrafactual onde o indivíduo pertence a um grupo demográfico diferente. Além disso, a Microsoft (MSFT ) e a Google AI publicaram padrões para levar em conta a justiça em IA. Eu pessoalmente me refiro às diretrizes da UE sobre ética em inteligência artificial, que eu acho bastante abrangentes para a minha indústria. Uma vez que um padrão de justiça é estabelecido, a equipe de dados pode determinar se a solução é processar os dados antes, alterar as decisões do sistema depois ou incorporar definições de justiça no processo de treinamento em si. A questão do viés nos dados é complexa e requer avaliação regular e as vozes de uma ampla gama de pessoas. Não é simplesmente uma questão técnica a ser resolvida.

Quais são suas opiniões sobre as políticas de ética de dados e IA promulgadas pelo governo?

Acho que houve movimentos na direção certa ao criar um padrão de procedimento quando se trata de IA e ética de dados. A ordem executiva de Trump sobre ética em IA cria um registro de modelos implantados dentro do governo, estabelece um cronograma para criar orientações de política, encoraja as agências a contratar equipes e indivíduos focados em tecnologia e encoraja a transparência no uso de IA em toda a extensão do governo em áreas que não envolvem P&D ou segurança nacional, o que eu acho imensamente importante. Esse tipo de plano abrangente é um desenvolvimento emocionante no governo, que historicamente foi lento em adaptar a tecnologia. No entanto, as políticas fizeram pouco para criar uma cultura de ética, criar planos compulsórios ou coerentes em toda a agência ou até mesmo definir exatamente o que ética ou justiça significa nesses contextos. À medida que a nova administração assume, eu impressionaria sobre elas para solidificar esses planos com um plano mais estruturado e coerente em toda a agência, bem como um procedimento de avaliação que considere cuidadosamente o impacto humano, pois muito do trabalho que nosso governo faz afeta a vida diária das pessoas, tanto dentro quanto fora do país.

Há algo mais que você gostaria de compartilhar sobre seu trabalho com a Fresh Eyes Digital?

A ciência de dados pode ser usada por organizações sem fins lucrativos para aumentar o impacto de quem está trabalhando para melhorar nosso mundo de muitas maneiras. Para essas organizações, coletar dados não é normalmente o problema. Eles têm muitos dados para trabalhar. Usar esses dados de maneira clara e ação é difícil para essas organizações, que frequentemente são espremidas por recursos e podem não ter uma equipe interna de análise pronta. O trabalho que fazemos no departamento de dados da Fresh Eyes Digital ajuda essas organizações a entender e implantar seus dados da maneira certa, tomando decisões mais informadas e estratégicas. Estou feliz em ter a oportunidade de trabalhar com essas organizações de uma maneira que ajuda a torná-las mais eficientes e eficazes à medida que trabalham para impactar nosso mundo de maneiras positivas.

Obrigado pelas respostas detalhadas e estou ansioso para seguir seus futuros empreendimentos. Os leitores que desejam saber mais devem visitar o site Ashley Bryant-Baker e/ou Fresh Eyes Digital,