Ashley Bryant-Baker, Directrice des données et de l’analyse chez Fresh Eyes Digital – Série d’entretiens

Ashley Bryant-Baker est la directrice des données et de l’analyse chez Fresh Eyes Digital, une société de conseil axée sur le succès des organisations à but non lucratif. Avant Fresh Eyes Digital, elle a dirigé sa propre société de conseil, B&B Data Solutions, où elle a aidé les marques à créer et à exploiter des solutions de données. Elle travaille dans le domaine de l’analyse depuis plus d’une décennie dans des secteurs allant des produits de consommation, du voyage, de la logistique, des soins de santé et des organisations à but non lucratif.

Elle est devenue une conférencière très demandée sur les sujets de biais de genre dans l’IA, de segmentation des clients à l’aide de l’IA et de diversité sur le lieu de travail. Elle a récemment été invitée à parler à des événements tels que SXSW, Data Minds Connect et Digital Summit DC. Ashley a fréquenté The American Graduate School à Paris, Georgetown, LSU et Fort Hays University. Elle détient une maîtrise en économie internationale, un certificat en science des données, un baccalauréat en administration des affaires et un baccalauréat en arts.

Qu’est-ce qui vous a initialement attirée vers l’informatique et la science des données ?

À l’université, j’ai étudié les arts et j’étais intéressée par le travail pour une société de jeux vidéo à la sortie de mes études en tant que conceptrice de jeux. Mon plan était de créer des modèles 3D et de concevoir des personnages et des objets avec lesquels les gens interagiraient dans le jeu. J’ai même travaillé en tant que testrice de qualité pour EA Sports à l’université. Puisqu’il n’y avait pas de concentration en arts informatiques à mon université, j’ai décidé de suivre une mineure en informatique pour compléter mon diplôme en arts. J’ai initialement détesté les cours d’informatique. Il y avait une hostilité à l’égard des personnes sans expérience (comme moi) de la part des autres étudiants et même de certains professeurs. J’ai poursuivi ma mineure parce que mon objectif pour mon projet de fin d’études était de concevoir et de programmer un jeu de société fonctionnel. J’ai utilisé Python et Maya pour créer un jeu d’échecs 3D avec des pièces animées qui marchaient sur le plateau et un IA très simple qui pouvait jouer contre vous. À l’époque, je ne savais rien sur Python et j’ai supposé que je n’allais jamais l’utiliser à nouveau.

Je me suis retrouvée à un de mes premiers emplois après l’université. J’ai travaillé dans une société de marketing en tant que responsable de projet junior. J’ai travaillé avec une équipe d’artistes, de spécialistes du marketing, de spécialistes de la production et d’une seule analyste dans l’ensemble du bâtiment qui gérait les analyses pour environ 15 clients à elle seule. Elle me demandait périodiquement de l’aide pour vérifier ses calculs ou créer des rapports simples. Lorsqu’elle a dû prendre un congé médical pendant plusieurs semaines, elle a demandé à mon superviseur et à moi si je pouvais la remplacer pendant son absence. Lorsqu’elle est revenue, j’ai demandé un transfert dans son département. Travailler avec les données m’a intéressée. C’était définitivement un tournant inattendu dans ma carrière, mais je n’ai pas regardé en arrière depuis. J’ai continué à vouloir apprendre, donc j’ai suivi des cours et j’ai postulé pour des emplois d’analyse où je pouvais apprendre des autres. Puis tout est revenu à la normale et j’ai travaillé à nouveau avec Python, même si c’était d’une manière complètement différente de celle d’avant.

Tout cela pour dire que je suis entrée dans la science des données purement par accident.

Vous êtes actuellement directrice des données et de l’analyse chez Fresh Eyes Digital, une société qui travaille avec des organisations à but non lucratif. Pouvez-vous partager ce que fait la société et le travail que vous y faites ?

Fresh Eyes est une société de conseil qui fournit un soutien en marketing et en collecte de fonds aux organisations à but non lucratif. Nous travaillons avec les clients pour comprendre leurs donateurs, créer des campagnes numériques autour des objectifs des organisations à but non lucratif et aider les organisations à but non lucratif à comprendre comment leur présence numérique peut être élevée pour atteindre ces objectifs. Fresh Eyes m’a embauchée parce qu’ils voulaient créer une offre de données plus robuste. Initialement, j’ai travaillé avec eux en tant que consultante, où j’ai aidé à concevoir des tests multivariés numériques, à comprendre les résultats et à automatiser les services d’analyse et de tableau de bord. Maintenant, je travaille avec eux pour développer une gamme d’offres pour les organisations à but non lucratif. Certains des projets sur lesquels je travaille incluent l’analyse prédictive des taux de conversion et de don des constituants et des donateurs au fil du temps. Comprendre les effets des facteurs externes, tels que le climat politique, les changements économiques et les cycles d’actualité, ainsi que les facteurs internes, tels que les stratégies de messagerie marketing, les rapports d’impact des organisations à but non lucratif et même le mouvement des rôles de leadership au sein d’une organisation et comment tout cela peut affecter la propension à se convertir. Beaucoup de ces informations éclairent nos analyses et tableaux de bord de prévision et les modèles de classification pour mieux comprendre les donateurs et l’engagement.

Les organisations à but non lucratif adoptent l’utilisation de méthodes statistiques avancées et réalisent que cela les aide à voir leur mission à travers lorsqu’elles sont capables de mieux comprendre leur impact et de collecter des fonds de manière plus structurée.

L’un de vos plus grands accomplissements est d’être un avocat de la diversité dans les STEM, pouvez-vous partager certains de ces points forts ?

Il y a tellement d’organisations formidables qui travaillent vers la diversité et l’équité dans les STEM : Black Girls Code, ByteBack ici à DC, DataKind et plus récemment ma sororité Zeta Phi Beta Inc. ainsi que plusieurs autres organisations ont collaboré avec Google (GOOGL ) pour former des groupes sous-représentés en formation technique et informatique. Je fais ma part en travaillant bénévolement avec ces organisations, en étant une mentore pour les personnes qui entrent dans le domaine, en parlant lors d’événements (en particulier les événements technologiques, où je suis parfois la seule femme ou personne de couleur) et en enseignant dans des ateliers dans les écoles (en particulier les écoles majoritairement minoritaires, les écoles rurales et les écoles alternatives). De plus, j’ai travaillé avec plusieurs entreprises pour diversifier leurs programmes de stages et leurs programmes de diplômés de premier cycle. Beaucoup de ce travail, je l’ai fait par habitude. J’ai grandi dans un foyer et une communauté où le bénévolat faisait partie de la vie quotidienne. J’ai continué cela à travers l’université et au-delà avec Zeta Phi Beta Inc. Cependant, je pense que je me suis orientée vers ce domaine parce que je n’ai pas eu l’opportunité d’apprendre sur les ordinateurs et la programmation jusqu’à l’université, et lorsque je suis arrivée à l’université, je me souviens du sentiment de négativité que j’ai ressenti en poursuivant ma mineure en informatique. Je ne veux pas que quiconque, en particulier quelqu’un qui essaie d’apprendre et de s’améliorer, ressente cela. Je ne pense pas que j’aie vraiment réalisé l’impact que j’avais jusqu’à ce que je parle à un groupe d’étudiants lors d’un événement de recrutement et qu’une jeune fille noire et sa mère soient venues me voir et me disent que j’étais la première femme technique noire qu’elles avaient jamais vue à une conférence ou à un événement de recrutement. C’est alors que j’ai su que je devais faire de cela une partie de ma routine régulière.

Je tente de participer régulièrement à ce type de programmes. En fait, le 16 mars, je co-organiserai un hackathon avec une incroyable scientifique des données et amie à moi, Swathi, en collaboration avec Girls in AI.

Vous avez également travaillé sur l’expansion de l’éducation technologique dans les quartiers ruraux et/ou à faible revenu. Quelle est l’importance de ce problème ?

Wow, il n’y a pas assez de temps pour parler de l’ampleur de ce problème ! Le coronavirus a rendu cristallinement clair qu’il y a des inégalités systémiques dans notre société. Malheureusement, l’une des plus grandes est l’éducation. J’ai un bon ami qui travaille dans une école alternative à la périphérie de DC. Les étudiants là-bas sont souvent plus âgés, ils doivent occuper un emploi en plus de fréquenter l’école secondaire, ils n’ont pas toujours les outils à la maison pour faire l’apprentissage à distance comme un ordinateur portable ou un ordinateur de bureau. Ces étudiants avaient un enseignant qui plaidait pour eux, travaillant avec l’école pour obtenir une option mobile pour que la plupart des étudiants puissent accéder à l’école sur leurs téléphones cellulaires. Cependant, ce n’est pas toujours le cas dans les environnements scolaires à faible revenu ou alternatifs. La situation rurale est également difficile pour les étudiants et les enseignants. Un accès Internet à haut débit peut être très coûteux dans les zones rurales et, dans certains cas, inaccessible. Les étudiants qui siègent dans les parkings de McDonald’s pour accéder à Internet est inacceptable, mais une nécessité malheureuse dans certaines de ces zones. Je connais des enseignants dans les zones rurales de Pennsylvanie qui ne peuvent pas obtenir un bon accès Internet pour se connecter à leurs salles de classe virtuelles.

En dehors du coronavirus, il y a le problème de sous-financement dans les écoles rurales et à faible revenu, un manque d’enseignants formés techniquement, en particulier dans les zones rurales où attirer des talents peut être difficile, et, bien sûr, les préjugés généraux contre les étudiants de couleur, les étudiants immigrés et même les étudiants ruraux qui peuvent avoir une apparence ou un accent différents de la culture “américaine” plus largement acceptée. Tous ces scénarios contribuent au manque d’accès à l’éducation en STEM et, par conséquent, les étudiants qui ne sont jamais exposés à ces sujets et carrières.

Quelle est l’ampleur du biais de genre et racial dans l’IA ?

C’est quelque chose que toutes les entreprises et organisations devraient considérer. Malheureusement, cela est difficile à résoudre, car si l’IA montre un biais en faveur ou contre un groupe en particulier, cela signifie souvent que l’entreprise ou l’organisation avait déjà un modèle de biais dans ce domaine. L’IA s’appuie sur les modèles passés pour prédire le comportement futur et amplifie simplement ce comportement. Cependant, il est difficile de faire reconnaître aux humains leurs propres préjugés, nous en avons tous et agissons souvent inconsciemment. Il faut mettre en place des systèmes pour atténuer ces préjugés et tenir les équipes responsables, tant sur le plan technique que commercial.

Comment pouvons-nous nous assurer que les applications d’IA d’aujourd’hui n’amplifient pas les préjugés humains ?

Il y a des mesures que les organisations peuvent prendre pour créer une norme de pratique dans la science des données et l’IA pour aider à atténuer les préjugés. Je ne peux pas exprimer suffisamment à quel point cela doit être un processus collaboratif entre les groupes techniques et commerciaux. L’importance du contexte qui n’est pas toujours visible pour les équipes techniques est primordiale.

Cela commence par la reconnaissance et l’identification des sources potentielles de préjugés. Cela peut se produire lors du processus de collecte de données, de la sélection de fonctionnalités pour la construction de modèles ou cela peut se produire complètement en dehors des données dans les pratiques commerciales. Par exemple, j’ai été demandé une fois par un dirigeant d’une entreprise si leur public cible était vraiment des hommes plus âgés et plus riches qui vivaient plus souvent dans des quartiers ruraux ou suburbains. J’ai regardé les données et j’ai réalisé que leur pipeline de données avait une surreprésentation de ce groupe. Mais j’ai également remarqué que la plupart de leurs clients venaient des mêmes sources de médias, la radio de talk-show conservatrice. J’ai appris d’un membre de l’équipe marketing que l’entreprise avait reçu un marketing à faible coût ou gratuit sur ces plateformes au lancement et que la plupart de leurs clients reflétaient cela. Le préjugé n’était pas dans les données, mais dans le manque de diversification de la stratégie de communication. Cependant, en conséquence, le modèle de notation de valeur à vie que l’équipe de données a créé a noté les hommes plus âgés et plus riches des communautés rurales et suburbaines comme les clients les mieux performants, amplifiant ainsi la stratégie de communication que l’équipe marketing a employée. C’est quelque chose dont aucune équipe technique ne devrait être responsable, mais ils devraient être responsables de poser les bonnes questions.

Cela me conduit à la deuxième étape, qui consiste à établir des directives pour rechercher et traiter les préjugés une fois qu’ils ont été découverts. Une fois que vous avez identifié les sources potentielles de préjugés, l’organisation devrait créer une liste de contrôle de ces sources pour rechercher ces problèmes et créer un chemin pour quelqu’un qui trouve des données ou des modèles préoccupants pour les aborder. Cela ne peut pas être fait dans le vide. C’est la responsabilité de toutes les équipes de s’assurer que les applications n’amplifient pas les préjugés. Comme dans l’exemple ci-dessus, l’équipe de données n’a pas la responsabilité de la stratégie de communication. Ils peuvent aider à identifier les résultats et travailler ensuite avec d’autres équipes au sein de l’organisation pour les aborder. Dans ce cas, l’équipe de communication a travaillé avec l’équipe de science des données pour tester d’autres stratégies de communication qui desservaient différents groupes démographiques.

Lorsque les préjugés apparaissent dans les modèles de données, cela peut parfois être dû à la façon dont l’équipe de données détermine la sélection de fonctionnalités, quelles données sont incluses ou exclues des magasins de données ou même à la métrique prédite. Dans ces cas, il est important pour l’équipe de données de comprendre que la précision du modèle n’est pas toujours équivalente à l’équité du modèle. Il peut être vrai que l’inclusion de certaines fonctionnalités dans un modèle de données augmente la précision prédictive du modèle, mais les 0,5 % d’exactitude supplémentaires peuvent se faire au prix d’un coût sociétal ou commercial. Déterminer ce que signifie l’équité n’est pas une tâche facile et nécessite la participation d’équipes multifacettes. Une méthodologie appelée « équité contrafactuelle » considère qu’une décision est équitable envers un individu si elle est la même dans le monde réel et dans un monde contrafactuel où l’individu appartient à un groupe démographique différent. De plus, Microsoft (MSFT ) et Google AI ont publié des normes pour tenir compte de l’équité dans l’IA. Je me réfère personnellement aux directives de l’UE sur l’éthique dans l’intelligence artificielle, que je trouve assez complètes pour mon industrie. Une fois qu’une norme d’équité est établie, l’équipe de données peut déterminer si la solution consiste à traiter les données au préalable, à modifier les décisions du système par la suite ou à intégrer les définitions d’équité dans le processus de formation lui-même. La question du préjugé dans les données est complexe et nécessite une évaluation régulière et les voix d’un large éventail de personnes. Ce n’est pas simplement une question technique à résoudre.

Quels sont vos points de vue sur les politiques d’éthique des données et de l’IA adoptées par le gouvernement ?

Je pense qu’il y a eu des mouvements dans la bonne direction en créant une norme de procédure lorsqu’il s’agit d’éthique des données et de l’IA. L’ordre exécutif de Trump sur l’éthique de l’IA crée un registre des modèles déployés au sein du gouvernement, établit un calendrier pour créer des directives de politique, encourage les agences à embaucher des équipes et des individus axés sur la technologie et encourage la transparence dans l’utilisation de l’IA au sein du gouvernement dans des domaines qui ne sont pas liés à la R&D ou à la sécurité nationale, ce que je pense est extrêmement important. Ce type de plan à portée large est un développement passionnant au sein du gouvernement, qui a historiquement été lent à adopter la technologie. Cependant, les politiques n’ont pas fait grand-chose pour créer une culture d’éthique, créer des plans obligatoires ou cohérents entre les agences ou même définir exactement ce que signifient l’éthique et l’équité dans ces contextes. Alors que la nouvelle administration arrive, je leur dirais de consolider ces plans avec un plan plus structuré et plus cohérent entre toutes les agences, ainsi qu’une procédure d’évaluation qui prend soigneusement en compte l’impact humain, car beaucoup du travail que notre gouvernement fait affecte la vie quotidienne des gens, tant à l’intérieur qu’à l’extérieur du pays.

Y a-t-il autre chose que vous aimeriez partager sur votre travail avec Fresh Eyes Digital ?

La science des données peut être utilisée par les organisations à but non lucratif pour accroître l’impact de ceux qui travaillent pour améliorer notre monde de tant de manières. Pour ces organisations, la collecte de données n’est généralement pas leur problème. Ils ont beaucoup de données à leur disposition. Utiliser ces données de manière claire et actionnable est difficile pour ces organisations qui sont souvent à court de ressources et peuvent ne pas avoir d’équipe d’analyse interne prête à l’emploi. Le travail que nous faisons dans le département des données de Fresh Eyes Digital aide ces organisations à comprendre et à déployer leurs données de la bonne manière, en prenant des décisions plus éclairées et stratégiques. Je suis heureuse d’avoir l’opportunité de travailler avec ces organisations d’une manière qui les aide à devenir plus efficaces et efficientes dans leur quête pour avoir un impact positif sur notre monde.

Je vous remercie pour ces réponses détaillées et je me réjouis de suivre vos futures aventures. Les lecteurs qui souhaitent en savoir plus peuvent visiter le site Web d’Ashley Bryant-Baker et/ou Fresh Eyes Digital,