Ashley Bryant-Baker, Directeur van Data & Analytics bij Fresh Eyes Digital – Interviewreeks

Ashley Bryant-Baker is Directeur van Data en Analytics bij Fresh Eyes Digital, een consultancybedrijf dat zich richt op het succes van non-profitorganisaties. Voordat ze bij Fresh Eyes Digital kwam, had ze haar eigen consultancybedrijf, B&B Data Solutions, waar ze merken hielp bij het opbouwen en benutten van datasystemen. Ze heeft meer dan tien jaar ervaring in analytics in verschillende industrieën, waaronder consumentengoederen, reizen, logistiek, gezondheidszorg en non-profitorganisaties.

Ze is een gewilde spreker op het gebied van geslachtsbias in AI, klantsegmentatie met AI en diversiteit op de werkplek. Ze is onlangs uitgenodigd om te spreken op verschillende evenementen, waaronder SXSW, Data Minds Connect en Digital Summit DC. Ashley heeft gestudeerd aan The American Graduate School in Parijs, Georgetown, LSU en Fort Hays University. Ze heeft een masterdiploma in internationale economie, een certificaat in datawetenschap, een bachelor in bedrijfskunde en een bachelor in kunst.

Wat trok je aanvankelijk aan tot informatica en datawetenschap?

Ik studeerde kunst op de universiteit en was geïnteresseerd in het werken voor een videospelbedrijf toen ik afgestudeerd was als gamedesigner. Mijn plan was om 3D-computermodellen en -personages te ontwerpen die mensen in het spel zouden kunnen gebruiken. Ik werkte zelfs als kwaliteitscontroleur voor EA Sports op de universiteit. Aangezien er op dat moment geen computerkunstopleiding was aan mijn universiteit, besloot ik om computerwetenschap als minor te kiezen om mijn kunstopleiding aan te vullen. Ik vond de computerwetenschapscursussen aanvankelijk niet leuk. Er was een soort vijandigheid tegenover mensen zonder ervaring (zoals ik) van andere studenten en sommige professoren. Ik voltooide mijn minor omdat mijn doel was om een werkend videospel te ontwerpen en programmeren voor mijn kunstopleiding. Ik gebruikte python en maya om een 3D-schaakspel met geanimeerde stukken te bouwen die over het bord liepen en een eenvoudige AI die tegen je kon spelen. Toen wist ik niets over python en dacht ik dat ik het nooit meer zou gebruiken.

Ik ging naar een van mijn eerste banen na mijn afstuderen. Ik werkte bij een marketingbureau als junior projectmanager. Ik werkte met een team van kunstenaars, marketingspecialisten, productiespecialisten en één analist in het hele gebouw die de analytics voor ongeveer 15 klanten beheerde. Ze vroeg me af en toe om hulp om haar berekeningen te controleren of eenvoudige rapporten te maken. Toen ze voor een paar weken met ziekteverlof moest, vroeg ze mijn supervisor en mij of ik voor haar kon invallen. Toen ze terugkwam, vroeg ik om overgeplaatst te worden naar haar afdeling. Werken met data was zo interessant voor me. Het was zeker een onverwachte wending in mijn carrière, maar ik heb nooit meer omgekeken. Ik wilde steeds meer leren, dus volgde ik cursussen en solliciteerde ik op analyticsbanen waar ik van anderen kon leren. Toen kwam alles weer full circle en werkte ik weer met python, maar op een totaal andere manier dan voorheen.

Om een lang verhaal kort te maken, ik kwam per ongeluk in de datawetenschap terecht.

Je bent momenteel Directeur van Data & Analytics bij Fresh Eyes Digital, een bedrijf dat met non-profitorganisaties werkt. Kun je vertellen wat het bedrijf doet en welk werk je daar doet?

Fresh Eyes is een consultancybedrijf dat marketing- en fondsenwervingsondersteuning biedt aan non-profitorganisaties. We werken met klanten om hun donateurs te begrijpen, digitale campagnes op te bouwen rondom de doelen van non-profitorganisaties en non-profitorganisaties te helpen begrijpen hoe hun digitale aanwezigheid kan worden verhoogd om deze doelen te bereiken. Fresh Eyes heeft me aangenomen omdat ze een robuustere data-aanbod wilden opbouwen. Aanvankelijk werkte ik met hen als consultant, waar ik hen hielp bij het ontwerpen van digitale multivariate tests, het begrijpen van resultaten en het automatiseren van analytics- en dashboarddiensten. Nu werk ik met hen aan het opbouwen van een reeks aanbod voor non-profitorganisaties. Sommige projecten waar ik aan werk, zijn voorspellende analyses van de conversie- en donatieratio’s van donateurs en belanghebbenden over tijd. Het begrijpen van de effecten van externe factoren, zoals de politieke klimaat, economische veranderingen en nieuws cycli, evenals interne factoren, zoals marketingstrategieën, non-profit impactrapporten en zelfs de beweging van leiderschapsrollen binnen een organisatie en hoe deze allemaal de neiging tot conversie kunnen beïnvloeden. Veel van deze informatie informeert onze voorspellende analytics en dashboards en classificatiemodellen om donateurs en betrokkenheid beter te begrijpen.

Non-profitorganisaties omarmen de gebruik van geavanceerde statistische methoden en realiseren zich dat dit helpt bij hun vermogen om hun missie te verwezenlijken wanneer ze hun impact beter kunnen begrijpen en geld kunnen werven op een meer gestructureerde manier.

Een van je grootste prestaties is het zijn van een pleitbezorger voor diversiteit in STEM, kun je enkele van deze highlights delen?

Er zijn zo veel geweldige organisaties die werken aan diversiteit en gelijkheid in STEM: Black Girls Code, ByteBack hier in DC, DataKind en onlangs mijn sorority Zeta Phi Beta Inc. samen met verschillende andere organisaties die een partnership hebben met Google (GOOGL ) om ondervertegenwoordigde groepen te trainen in computer- en technische training. Ik doe mijn deel door vrijwilligerswerk te doen met deze organisaties, mentoren te zijn voor mensen die nieuw zijn in het veld, te spreken op evenementen (vooral tech-evenementen, waar ik soms de enige vrouw of persoon van kleur ben) en les te geven op workshops op scholen (vooral scholen met een meerderheid van minderheden, plattelandsgebieden en alternatieve scholen). Bovendien heb ik met verschillende bedrijven gewerkt om hun stagiaire- en startprogramma’s te diversifiëren. Veel van dit werk deed ik uit gewoonte. Ik groeide op in een huis en een gemeenschap waar vrijwilligerswerk deel uitmaakte van het dagelijks leven. Ik heb dit voortgezet op de universiteit en daarna met Zeta Phi Beta Inc. Maar ik denk dat ik naar dit gebied getrokken werd omdat ik niet de kans had om over computers en programmeren te leren tot ik op de universiteit was en toen ik op de universiteit was, herinner ik me het gevoel van negativiteit dat ik ervoer toen ik mijn minor in computerwetenschap volgde. Ik wil niet dat iemand, vooral iemand die probeert te leren en zichzelf te verbeteren, dat gevoel ervaart. Ik denk niet dat ik me echt realiseerde wat voor impact ik had tot ik met een groep studenten op een wervingsbeurs sprak en een jonge zwarte meisje en haar moeder naar me toe kwamen en zeiden dat ik de eerste technische zwarte vrouw was die ze ooit op een conferentie of wervingsbeurs hadden gezien. Dat was toen ik wist dat ik dit onderdeel moest maken van mijn reguliere routine.

Ik probeer regelmatig deel te nemen aan dit soort programma’s. Feitelijk ga ik op 16 maart een hackathon co-hosten met een geweldige datawetenschapper en goede vriendin van me Swathi in samenwerking met Girls in AI.

Je hebt ook gewerkt aan het uitbreiden van technisch onderwijs in plattelands- en/of lage-inkomensgebieden. Hoe groot is dit probleem?

Wow, er is niet genoeg tijd om te praten over hoe groot dit probleem is! Coronavirus heeft het kristalhelder gemaakt dat er systemische ongelijkheden zijn in onze samenleving. Helaas is een van de grootste hiervan onderwijs. Ik heb een goede vriendin die werkt op een alternatieve school aan de rand van DC. Studenten daar zijn vaak ouder, ze moeten banen hebben naast hun high school-opleiding, ze hebben niet altijd de middelen thuis om afstandsonderwijs te doen zoals een laptop of desktopcomputer. Deze studenten hadden een leraar die voor hen pleitte, die met de school werkte om een mobiele optie te krijgen om ervoor te zorgen dat de meeste studenten toegang hadden tot school op hun telefoon. Maar dat is niet altijd het geval in lage-inkomens- of alternatieve schoolomgevingen. De situatie in plattelandsgebieden is even moeilijk voor studenten en leraren. Hoge-snelheidsinternet kan erg duur zijn in plattelandsgebieden en soms zelfs niet beschikbaar. Studenten die in de parkeerplaats van McDonald’s zitten voor internettoegang is onaanvaardbaar, maar helaas noodzakelijk in sommige van deze gebieden. Ik ken leraren in plattelandsPennsylvania die zelf geen goed internet kunnen krijgen om verbinding te maken met hun virtuele klaslokalen.

Buiten de coronacrisis om is er het probleem van onderfinanciering in plattelands- en lage-inkomensscholen, een gebrek aan technisch getrainde leraren, vooral in plattelandsgebieden waar het aantrekken van talent moeilijk kan zijn, en natuurlijk de algemene bias tegen studenten van kleur, immigrantenstudenten en zelfs plattelandsstudenten die er anders uitzien dan de meer algemeen geaccepteerde “Amerikaanse” cultuur. Al deze scenario’s dragen bij aan het gebrek aan toegang tot STEM-onderwijs en dus studenten die nooit worden blootgesteld aan deze onderwerpen en carrières.

Hoe groot is het probleem van geslachts- en raciale bias in AI?

Het is iets waar alle bedrijven en organisaties over na moeten denken. Helaas is dit een moeilijk probleem om op te lossen, omdat AI-bias tegen een bepaalde groep meestal betekent dat het bedrijf of de organisatie al een patroon van bias had in dat specifieke gebied. AI is afhankelijk van eerdere patronen om toekomstig gedrag te voorspellen en versterkt dit gedrag simpelweg. Het is echter moeilijk om mensen te laten inzien dat ze zelf bias hebben, we hebben er allemaal en handelen er vaak onbewust naar. Er moeten systemen zijn om deze bias te mitigeren en teams verantwoordelijk te houden, zowel op technisch als op zakelijk niveau.

Hoe kunnen we ervoor zorgen dat de AI-toepassingen van vandaag de bias van mensen niet versterken?

Er zijn enkele stappen die organisaties kunnen nemen om een standaard van praktijk in datawetenschap en AI te creëren om bias te helpen mitigeren. Ik kan niet genoeg benadrukken hoe dit een collaboratief proces moet zijn tussen technische en zakelijke teams. De belangrijkheid van context die niet altijd zichtbaar is voor technische teams is van cruciaal belang.

Het begint met het erkennen en identificeren van potentiële bronnen van bias. Het kan gebeuren in het dataverzamelingsproces, de selectie van functies voor modelbouw of het kan gebeuren volledig buiten de data in de bedrijfspraktijken. Bijvoorbeeld, ik werd eens gevraagd door een leider van een bedrijf of hun kernpubliek echt oude, rijke mannen waren die vaker in plattelands- of voorstedelijke gebieden woonden. Ik keek naar de data en realiseerde me dat hun pijplijn van data een oververtegenwoordiging van deze groep had. Maar ik merkte ook op dat de bulk van hun klanten afkomstig was van dezelfde mediabronnen, conservatieve praatradio. Ik leerde van een lid van het marketingteam dat het bedrijf lage tot geen kosten had gemaakt voor marketing op deze platforms in het begin van hun lancering en dat de bulk van hun klanten deze weerspiegelde. De bias zat niet in de data, maar in het gebrek aan diversificatie in de communicatiestrategie. Als gevolg daarvan scoorde het lifetime-waardemodel dat het datateam had gemaakt, oude, rijke mannen uit plattelands- en voorstedelijke gebieden als de best presterende klanten, waardoor de communicatiestrategie die het marketingteam had geïmplementeerd, werd versterkt. Dit is iets waarvoor geen enkel technisch team verantwoordelijk zou moeten zijn, maar ze zouden wel verantwoordelijk moeten zijn voor het stellen van de juiste vragen.

Dit leidt me naar de tweede stap, die is om richtlijnen op te stellen voor het zoeken naar en vervolgens omgaan met bias zodra het is ontdekt. Zodra je potentiële bronnen van bias hebt geïdentificeerd, moet de organisatie een checklist van deze bronnen opstellen om naar deze problemen te zoeken en een pad te creëren voor iemand die verontrustende data of patronen vindt om ze aan te pakken. Dit kan niet in een vacuüm worden gedaan. Het is de verantwoordelijkheid van alle teams om ervoor te zorgen dat toepassingen geen bias versterken. Zoals in het voorbeeld hierboven, het datateam heeft geen verantwoordelijkheid voor de communicatiestrategie. Ze kunnen helpen bij het identificeren van de bevindingen en vervolgens samenwerken met andere teams in de organisatie om ze aan te pakken. In dit geval werkte het marketingteam samen met het datascienceteam om te testen of andere communicatiestrategieën verschillende demografische groepen bedienden.

Wanneer bias optreedt in datamodellen, kan dit soms gebeuren in de manier waarop een datateam functieselectie bepaalt, welke data wordt opgenomen of uitgesloten in de datamodellen, of zelfs de metrische waarde die wordt voorspeld. In deze gevallen is het belangrijk voor het datateam om te begrijpen dat modelnauwkeurigheid niet altijd equivalent is aan modelrechtvaardigheid. Het kan waar zijn dat het opnemen van bepaalde functies in een datamodel de voorspellende nauwkeurigheid van het model verhoogt, maar de extra 0,5% nauwkeurigheid kan een maatschappelijke of bedrijfskost met zich meebrengen. Het bepalen wat rechtvaardigheid betekent, is geen eenvoudige taak en vereist de deelname van multifacetteerteams. Een methode genaamd “counterfactual fairness” houdt rekening met het feit dat een beslissing rechtvaardig is ten opzichte van een individu als het hetzelfde is in de werkelijke wereld en in een tegenfeitelijke wereld waar het individu tot een andere demografische groep behoort. Bovendien hebben Microsoft (MSFT ) en Google AI-standaarden gepubliceerd om rechtvaardigheid in AI te verantwoorden. Ik verwijzingspersonen naar de EU-richtlijnen voor ethiek in kunstmatige intelligentie, die ik vrij uitgebreid vind voor mijn industrie. Zodra een standaard van rechtvaardigheid is vastgesteld, kan het datateam bepalen of de oplossing is om de data van tevoren te verwerken, de beslissingen van het systeem later te wijzigen of rechtvaardigheidsdefinities op te nemen in het trainingsproces zelf. De vraag naar bias in data is een complexe die regelmatige evaluatie en de stemmen van een breed scala aan mensen vereist. Het is niet alleen een technisch probleem dat moet worden opgelost.

Wat zijn je mening over door de overheid opgelegde AI- en dataprivacybeleid?

Ik denk dat er stappen in de goede richting zijn gezet door het creëren van een standaardprocedure voor AI- en dataprivacyethiek. Trumps uitvoeringsbevel over AI-ethiek creëert een register van modellen die binnen de overheid worden ingezet, stelt een tijdschema op voor het creëren van beleidsrichtlijnen, moedigt agentschappen aan om technisch gefocuste teams en individuen aan te nemen en moedigt transparantie aan in AI-gebruik binnen de overheid in gebieden die niet betrokken zijn bij R&D of nationale veiligheid, wat ik enorm belangrijk vind. Dit soort verreikend plan is een spannende ontwikkeling in de overheid, die historisch gezien langzaam is geweest in het aanpassen van technologie. Echter, de beleidsmaatregelen hebben weinig gedaan om een cultuur van ethiek te creëren, verplichte of samenhangende plannen over agentschappen heen te maken of om precies te definiëren wat ethiek of rechtvaardigheid in deze contexten betekent. Als de nieuwe regering aan komt, zou ik hen aanraden om deze plannen te versterken met een meer gestructureerd en samenhangend plan over alle agentschappen heen, evenals een evaluatieprocedure die zorgvuldig de menselijke impact overweegt, aangezien veel van het werk dat onze overheid doet, een invloed heeft op het dagelijks leven van mensen, zowel binnenlands als in het buitenland.

Is er nog iets dat je zou willen delen over je werk met Fresh Eyes Digital?

Datawetenschap kan worden gebruikt door non-profitorganisaties om hun impact te verhogen die werken aan het verbeteren van onze wereld op zo veel manieren. Voor deze organisaties is het verzamelen van data niet het probleem. Ze hebben veel data om mee te werken. Het gebruik van deze data op een duidelijke en actiegerichte manier is moeilijk voor deze organisaties, die vaak onder druk staan qua middelen en mogelijk geen interne analytics-team tot hun beschikking hebben. Het werk dat we doen in de data-afdeling van Fresh Eyes Digital helpt deze organisaties om hun data te begrijpen en in te zetten op de juiste manier, waardoor ze beter geïnformeerde, strategische beslissingen kunnen nemen. Ik ben blij dat ik de kans heb om met deze organisaties te werken op een manier die hen helpt om efficiënter en effectiever te worden in hun werk om onze wereld op positieve wijze te beïnvloeden.

Bedankt voor de gedetailleerde antwoorden en ik kijk uit naar het volgen van je toekomstige ondernemingen. Lezers die meer willen leren, kunnen de website van Ashley Bryant-Baker bezoeken en/of Fresh Eyes Digital,