Ashley Bryant-Baker, direktør for data og analyser i Fresh Eyes Digital – Intervju-serie

Ashley Bryant-Baker er direktør for data og analyser i Fresh Eyes Digital, et konsulentselskap som fokuserer på suksessen til ikke-statlige organisasjoner. Før Fresh Eyes Digital, drev hun sitt eget konsulentselskap, B&B Data Solutions, hvor hun hjalp merker å bygge og utnytte data-løsninger. Hun har arbeidet med analyser i over et tiår i industrier som forbrukervarer, reise, logistikk, helse og ikke-statlige organisasjoner.

Hun har blitt en ettertraktet foreleser på temaer som kjønnsbias i AI, kundesegmentering med AI og mangfold på arbeidsplassen. Hun har nylig blitt invitert til å holde foredrag på ulike arrangementer, inkludert SXSW, Data Minds Connect og Digital Summit DC. Ashley har gått på The American Graduate School i Paris, Georgetown, LSU og Fort Hays University. Hun har en mastergrad i internasjonal økonomi, sertifikat i data-vitenskap, en bachelorgrad i bedriftsøkonomi og en bachelorgrad i kunst.

Hva var det som først tiltalte deg til datavitenskap og data-analyse?

På universitetet studerte jeg kunst og var interessert i å arbeide for et videospillselskap når jeg ble ferdig som spill-designer. Planen min var å lage 3D-datamodeller og designe karakterer og objekter som folk ville interagere med i spillet. Jeg arbeidet sogar som en videospill-kvalitets-sikkerhetstester for EA Sports på universitetet. Da det på den tiden ikke var noen datamaskin-kunst-konsentrasjon på universitetet, bestemte jeg meg for å ta en minor i datavitenskap for å supplere min kunst-grad. Jeg likte ikke datavitenskaps-klassene så mye. Det var en grense for fiendtlighet mot mennesker uten erfaring (som meg) fra andre studenter og selv noen professorer. Jeg fullførte min minor fordi målet mitt for min kunst-avhandling var å designe og programmere et fungerende videospill. Jeg brukte python og maya til å bygge et 3D-sjakk-spill med animerte brikker som gikk over brettet og en enkel AI som kunne spille mot deg. På den tiden visste jeg ingenting om python og antok at jeg aldri ville bruke det igjen.

I fremtiden, i en av mine første jobber etter universitetet, arbeidet jeg på et markedsførings-selskap som en jr. prosjektleder. Jeg arbeidet med et team av kunstnere, markedsførere, produksjonsspesialister og en analytiker i hele bygningen som håndterte analyser for rundt 15 kunder på egen hånd. Hun ba meg om hjelp fra tid til tid for å dobbeltsjekke hennes matematikk eller lage enkle rapporter. Når hun måtte ta medisinsk permisjon i flere uker, ba hun min overordnede og meg om å ta over for henne mens hun var borte. Når hun kom tilbake, ba jeg om å bli overført til hennes avdeling. Å arbeide med data var så interessant for meg. Det var definitivt en uventet vending i min karriere, men jeg har ikke sett tilbake siden. Jeg fortsatte å ønske å lære mer, så jeg tok kurs og søkte om analytics-jobber hvor jeg kunne lære fra andre. Så kom alt sammen og jeg arbeidet med python igjen, om enn på en helt annen måte enn før.

Alt dette for å si at jeg kom inn i data-vitenskap helt ved en tilfeldighet.

Du er nå direktør for data og analyser i Fresh Eyes Digital, et selskap som arbeider med ikke-statlige organisasjoner. Kan du dele hva selskapet gjør og hvilket arbeid du gjør der?

Fresh Eyes er et konsulentselskap som tilbyr markedsføring og innsamlingsstøtte til ikke-statlige organisasjoner. Vi arbeider med kunder for å forstå deres donorer, bygge digitale kampanjer rundt ikke-statlige mål og hjelpe ikke-statlige organisasjoner å forstå hvordan deres digitale tilstedeværelse kan bli forbedret for å nå disse målene. Fresh Eyes ansatte meg fordi de ønsket å bygge en mer robust data-tilbud. Først arbeidet jeg med dem som en konsulent hvor jeg hjalp dem å designe digitale multivariate tester, forstå resultater og automatisere analytics- og dashboard-tjenester. Nå arbeider jeg med dem for å bygge ut et sett med tilbud for ikke-statlige organisasjoner. Noen prosjekter jeg arbeider på inkluderer prediktiv analyse rundt konvertérings- og donasjons-rater over tid for både konstituerende og donorer. Forstå effekten av eksterne faktorer, som politisk klima, økonomiske endringer og nyhets-sykluser, samt interne faktorer, som markedsførings-strategier, ikke-statlige påvirknings-rapporter og endring av ledelses-roller innen en organisasjon og hvordan disse alle kan påvirke konverterings-grad. Mye av denne informasjonen informerer våre prognose-analyser og dashboards og klassifiserings-modeller for å bedre forstå donorer og engasjement.

Ikke-statlige organisasjoner omfavner bruken av avanserte statistiske metoder og innser at det hjelper deres evne til å se sin misjon gjennom når de kan bedre forstå sin påvirkning og samle inn penger på en mer strukturert måte.

En av dine største prestasjoner er å være en forkjemper for mangfold i STEM, kan du dele noen av disse høydepunktene?

Det er så mange flotte organisasjoner der ute som arbeider mot mangfold og inklusjon i STEM: Black Girls Code, ByteBack her i DC, DataKind og nylig min sororitet Zeta Phi Beta Inc. sammen med flere andre organisasjoner har samarbeidet med Google (GOOGL ) for å trene underrepresenterte grupper i datamaskin- og teknisk trening. Jeg gjør min del ved å frivillig arbeide med disse organisasjonene, være en mentor for mennesker som nytt kommer inn i feltet, holde foredrag på arrangementer (spesielt tekniske arrangementer, hvor jeg ofte er den eneste kvinnen eller personen med farge) og undervise på workshop i skoler (spesielt majoritets-minoritets-skoler, landsbygds-skoler og alternative skoler). Jeg har også arbeidet med flere bedrifter for å diversifisere deres internship-programmer og nyutdannede-grads-programmer. Mye av dette arbeidet gjorde jeg av vane. Jeg vokste opp i et hjem og en samfunn hvor frivillig arbeid var en del av hverdagslivet. Jeg har fortsatt dette gjennom universitetet og utover med Zeta Phi Beta Inc. Men jeg tror jeg ble dradd mot dette området fordi jeg ikke hadde mulighet til å lære om datamaskiner og programmering før universitetet, og da jeg kom til universitetet, husker jeg følelsen av negativitet jeg opplevde da jeg fulgte min minor i datavitenskap. Jeg ønsker ikke at noen, spesielt noen som prøver å lære og forbedre seg selv, skal oppleve det. Jeg tror ikke jeg virkelig innsett hvordan stor innvirkning jeg hadde før jeg snakket med en gruppe studenter på et rekrutterings-arrangement og en ung svart jente og hennes mor kom opp til meg og sa at jeg var den første tekniske svarte kvinnen de hadde noen gang sett på noen konferanse eller rekrutterings-arrangement. Da visste jeg at jeg måtte gjøre dette til en del av min vanlige rutine.

Jeg prøver å delta i disse typene programmer regelmessig. Faktisk den 16. mars skal jeg sam-arrangere en hackathon med en fantastisk data-vitenskapsmann og god venn av mine Swathi i samarbeid med Girls in AI.

Du har også arbeidet med å utvide teknisk utdanning i landsbygds- og/eller lav-inntekts-nabolag. Hvor stort er dette problemet?

Wow. Det er ikke nok tid til å snakke om hvor stort problem dette er! Koronavirus gjorde det krystallklart at det finnes systemiske urettferdigheter i vårt samfunn. Dessverre er en av de største av disse urettferdighetene utdanning. Jeg har en god venn som arbeider på en alternativ skole på utsiden av DC. Elevene der er ofte eldre, de må holde ned jobber i tillegg til å gå på high school, de har ikke alltid verktøyene hjemme til å gjøre fjernundervisning som en bærbar datamaskin eller en datamaskin. Disse elevene hadde en lærer som advokat for dem, arbeidet med skolen for å få en mobil-valgmulighet for å sikre at de fleste elevene kunne få tilgang til skolen på sine mobiltelefoner. Men det er ikke alltid tilfelle i lav-inntekts- eller alternativ-skolemiljøer. Den landsbygds-situasjonen er like vanskelig for elever og lærere. Høyhastighets-internett kan være svært dyrt i landsbygds-områder og i noen tilfeller utilgjengelig. Elevene som sitter i McDonald’s-parkeringer for å få tilgang til internett er uakseptabelt, men en uheldig nødvendighet i noen av disse områdene. Jeg kjenner lærere i landsbygds-Pennsylvania som selv ikke kan få god internett-tilgang til å koble til sine virtuelle klasserom.

Utenfor koronavirus er det problemet med underfinansiering i landsbygds- og lav-inntekts-skoler, en mangel på teknisk trente lærere, spesielt i landsbygds-områder hvor det kan være vanskelig å tiltrekke seg talent, og, naturligvis, den generelle fordommen mot elever med farge, innvandrer-elever og selv landsbygds-elever som kan se eller høre annerledes ut enn den mer aksepterte “amerikanske” kulturen. Alle disse scenarioene bidrar til mangelen på tilgang til STEM-utdanning og derfor elever som aldri blir eksponert for disse emnene og karriereveiene.

Hvor stort er problemet med kjønns- og rase-bias i AI?

Dette er noe alle bedrifter og organisasjoner bør tenke på. Dessverre er dette et vanskelig problem å løse fordi hvis AI viser bias mot eller mot en bestemt gruppe, betyr det ofte at i det spesifikke området hadde selskapet eller organisasjonen allerede en mønster av bias fra før. AI er avhengig av tidligere mønster for å forutsi fremtidig atferd og forsterker bare denne atferden. Men det er vanskelig å få mennesker til å erkjenne sine egne fordommer, vi alle har dem og ofte handler vi ubevisst på dem. Det må være systemer på plass for å hjelpe med å mitigere disse fordommene og holde teamene ansvarlige både på den tekniske og forretnings-siden.

Hvordan kan vi sikre at AI-applikasjonene i dag ikke forsterker fordommene mennesker har?

Det finnes noen skritt organisasjoner kan ta for å skape en standard for praksis i data-vitenskap og AI for å hjelpe med å mitigere bias. Jeg kan ikke understreke nok hvor viktig det er at dette er en samarbeidsprosess mellom tekniske grupper og forretnings-grupper. Viktigheten av kontekst som ikke alltid er synlig for tekniske team er avgjørende.

Dette begynner med å erkjenne og identifisere potensielle kilder for bias. Dette kan skje i data-innsamlings-prosessen, valg av funksjoner for modell-bygging eller det kan skje helt utenfor data i forretnings-praksis. For eksempel ble jeg en gang spurt av en leder i et selskap om deres kjerne-tilhørere virkelig var eldre, rike menn som oftere bodde i landsbygds- eller forsted-områder. Jeg så på dataene og innsett at deres pipeline av data hadde en overrepresentasjon av denne gruppen. Men jeg la også merke til at størsteparten av deres kunder kom fra samme medie-kilder, konservative taleradio. Jeg lærte fra en medlem av markedsførings-teamet at selskapet mottok lav- eller ingen-kostnad markedsføring på disse plattformene tidlig i deres lansering og størsteparten av deres kunder reflekterte dette. Fordommen lå ikke i dataene, men i mangelen på diversifisering i kommunikasjons-strategien. Men som et resultat, scoret livstids-verdi-modellen som data-teamet lagde eldre, rikere, menn fra landsbygds- og forsted-områder som de beste kundene, og forsterket kommunikasjons-strategien som markedsførings-teamet anvendte. Dette er noe som ingen teknisk team bør være ansvarlig for å vite, men de bør være ansvarlige for å stille de riktige spørsmålene.

Dette fører meg til det andre skrittet, som er å sette retningslinjer for å lete etter og deretter håndtere bias når det er oppdaget. Når du har identifisert potensielle kilder for bias, bør organisasjonen lage en sjekkliste over disse kildene for å se etter disse problemene og skape en vei for noen som finner bekymringsverdige data eller mønster å håndtere dem. Dette kan ikke gjøres i et vakuum. Det er ansvarlig for alle team å sikre at applikasjonene ikke forsterker fordommer. Som i eksempelet ovenfor har data-teamet ingen ansvar for kommunikasjons-strategien. De kan hjelpe med å peke ut funnene og deretter arbeide med andre team i organisasjonen for å håndtere dem. I dette tilfellet arbeidet kommunikasjons-teamet med data-vitenskap-teamet for å teste inn i andre kommunikasjons-strategier som tjente forskjellige demografiske grupper.

Når bias viser seg i data-modeller, kan det noen ganger være i hvordan et data-team bestemmer funksjons-valg, hva data som inkluderes eller ekskluderes i data-lagrene eller selv metricen som forutsies. I disse tilfellene er det viktig for data-teamet å forstå at modell-nøyaktighet ikke alltid er lik modell-rettferdighet. Det kan være sant at å inkludere bestemte funksjoner i en data-modell øker den prediktive nøyaktigheten av modellen, men den ekstra 0,5% nøyaktigheten kan komme på bekostning av et samfunn eller en forretnings-kostnad. Å bestemme hva rettferdighet betyr er ikke en enkel oppgave og krever deltakelse fra multifacetterte team. En metode kalt “counterfactual fairness” betrakter en beslutning som rettferdig overfor en person hvis den er den samme i den virkelige verden og i en kontrafaktisk verden hvor personen tilhører en annen demografisk gruppe. I tillegg har Microsoft (MSFT ) og Google AI publisert standarder for å regne med rettferdighet i AI. Jeg personlig refererer til EU-veiledningene om etikk i kunstig intelligens, som jeg finner å være ganske omfattende for min bransje. Når en standard for rettferdighet er etablert, kan data-teamet bestemme om løsningen er å prosessere dataene på forhånd, endre systemets beslutninger etterpå eller inkorporere rettferdighets-definisjoner i trenings-prosessen selv. Spørsmålet om bias i data er et komplekst spørsmål som krever regelmessig vurdering og stemmer fra en bred variasjon av mennesker. Det er ikke bare et teknisk problem å løse.

Hva er dine synspunkter på regjeringens AI- og data-etikk-politikk?

Jeg tror det har vært bevegelser i rett retning ved å skape en standard for prosedyre når det gjelder AI og data-etikk. Trumps executive order på AI-etikk skaper et register over modeller som er deployet innen regjeringen, setter opp en tidsplan for å skape politikk-veiledning, oppmuntrebyråer til å ansette teknisk-fokuserte team og individer og oppmuntre gjennomsiktighet i AI-bruk gjennom regjeringen i områder som ikke er involvert med R&D eller nasjonal sikkerhet, som jeg tror er usedvanlig viktig. Denne type langt-rekkende plan er en spennende utvikling i regjeringen, som historisk sett har vært langsom til å tilpasse teknologi. Men politikken har gjort lite for å skape en kultur av etikk, skape obligatoriske eller sammenhengende planer over byråer eller å definere nøyaktig hva etikk eller rettferdighet betyr i disse kontekstene. Når den nye administrasjonen kommer inn, ville jeg trykke på dem til å solidifisere disse planene med en mer strukturert og sammenhengende plan over alle byråer, samt en vurderings-prosess som nøye vurderer den menneskelige påvirkningen, ettersom så mye av arbeidet som vår regjering gjør påvirker dagliglivet til mennesker både hjemme og utenfor landets grenser.

Er det noe annet du ønsker å dele om ditt arbeid med Fresh Eyes Digital?

Data-vitenskap kan brukes av ikke-statlige organisasjoner til å øke påvirkningen som arbeider for å forbedre vår verden på så mange måter. For disse organisasjonene er det vanligvis ikke et problem å samle inn data. Å bruke denne dataen på en tydelig og handling-orientert måte er vanskelig for disse organisasjonene som ofte er presset på ressurser og kanskje ikke har en intern analytics-team tilgjengelig. Arbeidet vi gjør i data-avdelingen i Fresh Eyes Digital hjelper disse organisasjonene å forstå og bruke sin data på riktige måter, og gjøre mer informerte, strategiske beslutninger. Jeg er glad for å ha muligheten til å arbeide med disse organisasjonene på en måte som hjelper dem å bli mer effektive og effektive i deres arbeid for å påvirke vår verden på positive måter.

Takk for de detaljerte svarene og jeg ser frem til å følge dine fremtidige eventyr. Lesere som ønsker å lære mer bør besøke Ashley Bryant-Baker-nettsiden og/eller Fresh Eyes Digital,