Ashley Bryant-Baker, ředitelka dat a analýz ve Fresh Eyes Digital – rozhovor

Ashley Bryant-Baker je ředitelkou dat a analýz ve firmě Fresh Eyes Digital, která se specializuje na podporu neziskových organizací. Předtím, než nastoupila do Fresh Eyes Digital, vedla svou vlastní poradenskou firmu B&B Data Solutions, kde pomáhala značkám budovat a využívat datové řešení. Pracovala v oblasti analýz již více než deset let v různých odvětvích, jako jsou spotřební zboží, cestovní ruch, logistika, zdravotnictví a neziskové organizace.

Stala se vyhledávanou řečníkem na témata, jako je genderová předpojatost v AI, segmentace zákazníků pomocí AI a rozmanitost na pracovišti. Byla nedávno pozvána, aby vystoupila na různých akcích, včetně SXSW, Data Minds Connect a Digital Summit DC. Ashley studovala na American Graduate School v Paříži, Georgetownu, LSU a Fort Hays University. Má magisterský titul v mezinárodní ekonomice, certifikát v datové vědě, bakalářský titul v oboru podnikání a bakalářský titul v umění.

Co vás původně přitáhlo k počítačovým vědám a datové vědě?

Na vysoké škole jsem studovala umění a byla jsem zainteresována pracovat pro videoherní společnost jako designérka her. Mým plánem bylo vytvořit 3D počítačové modely a navrhnout postavy a objekty, se kterými by lidé interagovali ve hře. Pracovala jsem dokonce jako testérka kvality videoher pro EA Sports na vysoké škole. Protože v té době neexistoval na naší univerzitě žádný počítačový umělecký obor, rozhodla jsem se doplnit svůj umělecký titul minoritou v počítačových vědách. Zpočátku jsem počítačové vědy vůbec nemusela. Byla tam určitá nepřátelství vůči lidem, kteří neměli žádné zkušenosti (jako já) ze strany ostatních studentů a dokonce i některých profesorů. Vydržela jsem minoritu, protože můj cíl pro umělecký diplomový projekt byl navrhnout a naprogramovat funkční videohru. Použila jsem python a mayu, abych vytvořila 3D šachy s animovanými kousky, které přecházely po šachovnici, a velmi jednoduchou AI, která mohla hrát proti vám. V té době jsem nevěděla nic o pythonu a předpokládala jsem, že jej nikdy znovu neužiji.

O několik let později, když jsem pracovala na jedné ze svých prvních prací po vysoké škole, jsem pracovala v marketingové firmě jako junior projektová manažerka. Pracovala jsem s týmem umělců, marketingových specialistů, produkčních specialistů a jedné analytičky, která sama zpracovávala analytiku pro asi 15 klientů. Žádala mě občas o pomoc, abych zkontrolovala její matematiku nebo vytvořila jednoduché zprávy. Když musela jít na několik týdnů na zdravotní dovolenou, požádala svého nadřízeného a mě, zda bych могла převzít její práci, zatímco byla pryč. Když se vrátila, požádala jsem o přeložení do jejího oddělení. Práce s daty byla pro mě tak zajímavá. Byl to určitě nečekaný zvrat v mé kariéře, ale už se neohlížím zpět. Chtěla jsem se stále učit více, a tak jsem absolvovala kurzy a ucházelala se o analytické pozice, kde bych se mohla učit od ostatních. Pak se všechno stalo jinak a opět jsem pracovala s pythonem, byť úplně jiným způsobem než dříve.

Všechno to znamená, že jsem se do datové vědy dostala čistě náhodou.

Jste目前 ředitelkou dat a analýz ve Fresh Eyes Digital, společnosti, která spolupracuje s neziskovými organizacemi. Můžete nám říci, co dělá vaše společnost a jakou práci tam vykonáváte?

Fresh Eyes je poradenská firma, která poskytuje marketingovou a fundraisingovou podporu neziskovým organizacím. Pracujeme s klienty, abychom pochopili jejich dárce, vytvořili digitální kampaně kolem cílů neziskových organizací a pomohli neziskovým organizacím pochopit, jak lze jejich digitální přítomnost zvýšit, aby dosáhly těchto cílů. Fresh Eyes mě najala, protože chtěla vybudovat robustnější datové služby. Zpočátku jsem s nimi pracovala jako konzultantka, kde jsem jim pomohla navrhnout digitální multivariační testování, pochopit výsledky a automatizovat analytické a dashboardové služby. Nyní s nimi pracuji na vybudování sady nabídek pro neziskové organizace. Některé projekty, na kterých pracuji, zahrnují prediktivní analýzu konverzních a darovacích sazeb donorů a přispěvatelů v průběhu času. Pochopit účinky vnějších faktorů, jako je politické klima, ekonomické změny a zpravodajské cykly, jakož i vnitřních faktorů, jako jsou marketingové komunikační strategie, zprávy o dopadu neziskových organizací a dokonce i pohyb vedoucích rolí uvnitř organizace a jak všechny tyto faktory mohou ovlivnit tendenci konvertovat. Velká část těchto informací informuje naše prognostické analytiky a dashboardy a klasifikační modely, abychom lépe pochopili dárce a zapojení.

Neziskové organizace přijímají používání pokročilých statistických metod a uvědomují si, že jim to pomáhá lépe vidět svůj účel, když jsou schopny lépe pochopit svůj dopad a shromažďovat peníze strukturovanějším způsobem.

Jedním z vašich nejvýznamnějších úspěchů je být zastáncem rozmanitosti ve STEM, můžete sdílet některé z těchto úspěchů?

Existuje tolik skvělých organizací, které pracují na rozmanitosti a rovnosti ve STEM: Black Girls Code, ByteBack zde v DC, DataKind a nedávno moje sesterská organizace Zeta Phi Beta Inc. ve spolupráci s několika dalšími organizacemi a Googlem na školení nedostatečně zastoupených skupin v počítačovém a technickém vzdělávání. Svou roli hraju dobrovolnictvím s těmito organizacemi, jako mentorka pro lidi, kteří vstupují do oboru, vystupováním na akcích (zejména tech akcích, kde jsem někdy jedinou ženou nebo osobou barevné pleti) a vyučováním na workshopech ve školách (zejména ve většinově menšinových školách, venkovských školách a alternativních školách). Kromě toho jsem pracovala s několika podniky na diverzifikaci jejich stážních programů a programů pro absolventy. Velkou část této práce jsem dělala zvykem. Vyrůstala jsem v domě a komunitě, kde dobrovolnictví bylo součástí každodenního života. Pokračovala jsem v tom na vysoké škole a dále se Zeta Phi Beta Inc. Nicméně si myslím, že jsem se přiklonila k této oblasti, protože jsem neměla možnost se učit o počítačích a programování, dokud jsem nešla na vysokou školu, a když jsem tam byla, vzpomínám si na pocit negativismu, který jsem cítila, když jsem studovala minoritu v počítačových vědách. Nechci, aby někdo, zejména ten, kdo se snaží se učit a zlepšovat, zažil to, co jsem zažila. Nemyslím si, že jsem si uvědomila dopad, který jsem měla, dokud jsem nemluvila se skupinou studentů na akcích náboru a mladá černá dívka a její matka přišly ke mně a řekli, že jsem první technicky zdatná černá žena, kterou viděli na konferenci nebo akcích náboru. To bylo okamžik, kdy jsem věděla, že musím udělat tuto část své pravidelné rutiny.

Pokouším se účastnit těchto typů programů pravidelně. Skutečně 16. března budu spolupořadatelkou hackathonu s úžasnou datovou vědkyní a kamarádkou Swathi ve spolupráci se Girls in AI.

Pracovala jste také na rozšíření technického vzdělávání v venkovských a/nebo nízkopříjmových čtvrtích. Jak významný je tento problém?

Úžas. Není dostatek času, aby se o tomto obrovském problému hovořilo! Coronavirus ukázal, že existují systémové nerovnosti ve společnosti. Bohužel jednou z největších z nich je vzdělávání. Mám dobrého přítele, který pracuje na alternativní škole na okraji DC. Studenti tam jsou často starší, musí mít práci vedle školy, nemají vždy nástroje doma, aby mohli dělat vzdálené učení, jako je laptop nebo desktopový počítač. Tyto studenty měl učitel, který se za ně zasazoval, pracoval se školou, aby získali mobilní možnost, aby většina studentů mohla přistupovat ke škole prostřednictvím svých mobilních telefonů. To však není vždy případ ve venkovských nebo nízkopříjmových školních prostředích. Situace ve venkovských oblastech je podobně obtížná pro studenty a učitele. Vysokorychlostní internet může být ve venkovských oblastech velmi drahý a v některých případech je nedostupný. Studenti sedící v parkovišti McDonald’s pro internet je nepřijatelné, ale bohužel nutností v některých z těchto oblastí. Znám učitele ve venkovském Pensylvánii, kteří sami nemohou získat dobrý internet pro připojení ke svým virtuálním třídám.

Mimo koronavirus existuje problém podfinancování ve venkovských a nízkopříjmových školách, nedostatek technicky vzdělaných učitelů, zejména ve venkovských oblastech, kde je obtížné přilákat talent, a samozřejmě obecná předpojatost proti studentům barevné pleti, imigrantům a dokonce i venkovským studentům, kteří mohou vypadat nebo znít jinak než obecně přijímaná “americká” kultura. Všechny tyto scénáře přispívají k nedostatku přístupu ke vzdělání ve STEM a studenti, kteří nejsou nikdy vystaveni těmto předmětům a kariérám.

Jak velký je problém genderové a rasové předpojatosti v AI?

Je to něco, o čem by si měly všechny podniky a organizace uvědomit. Bohužel je to obtížné vyřešit, protože pokud AI ukazuje předpojatost vůči nebo proti určité skupině, často to znamená, že v dané oblasti již existovala předpojatost vůči této skupině. AI se spoléhá na minulé vzorce, aby předpovídala budoucí chování, a jednoduše zesiluje toto chování. Je však obtížné donutit lidi, aby uznali své vlastní předpojatosti, všichni je máme a často na nich nevědomky jednají. Musí existovat systémy, které pomohou tyto předpojatosti zmírnit a držet týmy zodpovědné, a to jak na technické, tak na obchodní straně.

Jak můžeme zajistit, aby současné AI aplikace nezvětšovaly předpojatosti, které lidé mají?

Existují kroky, které organizace mohou podniknout, aby vytvořily standardní postupy v datové vědě a AI, aby pomohly zmírnit předpojatosti. Nemohu dostatečně zdůraznit, že to musí být spolupracující proces mezi technickými a obchodními týmy. Důležitost kontextu, který není vždy viditelný pro technické týmy, je zásadní.

Začíná to uznáním a identifikací potenciálních zdrojů předpojatosti. Může se to stát v procesu sběru dat, výběru funkcí pro stavbu modelů nebo se to může stát úplně mimo data v obchodních postupech. Například jsem byla jednou požádána lídrem společnosti, zda jejich jádrová cílová skupina skutečně byla starší, bohatí muži, kteří častěji žili ve venkovských nebo předměstských oblastech. Podívala jsem se na data a uvědomila jsem si, že jejich potrubí dat mělo nadměrné zastoupení této skupiny. Ale také jsem si uvědomila, že většina jejich zákazníků pocházela ze stejných zdrojů médií, konzervativních rozhlasových stanic. Naučila jsem se od člena marketingového týmu, že společnost získala nízkonákladovou marketingovou podporu na těchto platformách na začátku svého spuštění a většina jejich zákazníků odrážela to. Předpojatost nebyla v datech, ale v nediverzifikované komunikační strategii. Nicméně v důsledku toho skóre modelu životní hodnoty, který vytvořil tým dat, ohodnotilo starší, bohatší muže z venkovských a předměstských komunit jako nejlepší zákazníky, zesílilo komunikační strategii, kterou marketingový tým zaměstnával. To je něco, za co by žádný technický tým neměl být zodpovědný, ale měli by být zodpovědní za položení správných otázek.

To mě vede k druhému kroku, kterým je stanovení pokynů pro hledání a poté řešení předpojatosti, jakmile je objevena. Jakmile jste identifikovali potenciální zdroje předpojatosti, organizace by měla vytvořit kontrolní seznam těchto zdrojů, aby hledali tyto problémy, a vytvořit cestu pro někoho, kdo najde znepokojivé data nebo vzorce, aby je řešil. To nelze udělat v vakuum. Je to odpovědnost všech týmů, aby zajistily, že aplikace nezvětšují předpojatosti. Jako v příkladu výše nemá tým dat žádnou odpovědnost za komunikační strategii. Mohou pomoci identifikovat zjištění a poté pracovat s ostatními týmy v organizaci, aby je řešily. V tomto případě marketingový tým pracoval s týmem datové vědy, aby otestoval jiné komunikační strategie, které oslovily různé demografické skupiny.

Když se předpojatosti objevují v datech modelů, někdy to může být způsobeno tím, jak tým dat určuje výběr funkcí, které údaje jsou zahrnuty nebo vyloučeny z úložišť dat, nebo dokonce metriky, které se předpovídají. V těchto případech je důležité, aby tým dat pochopil, že přesnost modelu není vždy ekvivalentní spravedlnosti modelu. Mohlo by být pravdou, že zahrnutí určitých funkcí do modelu dat zvyšuje prediktivní přesnost modelu, ale další 0,5 % přesnosti může přijít za společenskou nebo obchodních náklady. Určení toho, co znamená spravedlnost, není snadný úkol a vyžaduje účast multifaceted týmu. Jedna metodologie zvaná “kontrafaktická spravedlnost” zvažuje, zda je rozhodnutí spravedlivé vůči jednotlivci, pokud je stejné ve skutečném světě a v kontrafaktickém světě, kde jednotlivec patří do jiné demografické skupiny. Kromě toho Microsoft (MSFT ) a Google (GOOGL ) AI zveřejnily standardy, kterými se řídí spravedlnost v AI. Osobně odkazuji na pokyny EU pro etiku v umělé inteligenci, které považuji za bastante komplexní pro můj obor. Jakmile je stanoven standard spravedlnosti, tým dat může určit, zda je řešení zpracovat data předem, upravit rozhodnutí systému následně nebo začlenit definice spravedlnosti do procesu školení samotného. Otázka předpojatosti v datech je složitá a vyžaduje pravidelnou evaluaci a hlasy širokého spektra lidí. Není to prostě technický problém, který má být vyřešen.

Jaké jsou vaše názory na vládní nařízení o etice AI a dat?

Myslím, že byly učiněny kroky správným směrem vytvořením standardního postupu, pokud jde o etiku AI a dat. Trumpův výkonný příkaz k etice AI vytváří registr modelů nasazených v rámci vlády, stanoví časový harmonogram pro vytváření pokynů pro politiku, podporuje agentury, aby najaly technicky zaměřené týmy a jednotlivce, a podporuje transparentnost při používání AI v rámci vlády v oblastech, které nejsou součástí výzkumu a vývoje nebo národní bezpečnosti, což považuji za nesmírně důležité. Tento druh široce sahajícího plánu je vzrušujícím vývojem v rámci vlády, která historicky byla pomalá při adaptaci technologií. Nicméně, politiky udělaly málo pro vytvoření kultury etiky, vytvoření povinných nebo ucelených plánů napříč agenturami nebo pro definici toho, co znamená etika nebo spravedlnost v těchto kontextech. Když nastupuje nová administrativa, bych na nich trval na upevnění těchto plánů s více strukturovaným a uceleným plánem napříč všemi agenturami, jakož i s procedurou hodnocení, která pečlivě zvažuje dopad na lidi, protože tolik práce, kterou naše vláda dělá, ovlivňuje denní životy lidí jak doma, tak v zahraničí.

Je něco jiného, co byste rádi sdíleli o své práci ve Fresh Eyes Digital?

Datová věda může být použita neziskovými organizacemi ke zvýšení dopadu těch, kteří pracují na zlepšení našeho světa mnoha způsoby. Pro tyto organizace není sběr dat obvykle problémem. Mají spoustu dat, se kterými pracovat. Používání těchto dat jasným a proveditelným způsobem je pro tyto organizace obtížné, protože jsou často stlačeny zdroji a nemusí mít vnitřní analytický tým. Práce, kterou děláme v datovém oddělení ve Fresh Eyes Digital, pomáhá těmto organizacím pochopit a nasadit svá data správným způsobem, což jim umožňuje učinit lépe informovaná, strategická rozhodnutí. Ráda mám příležitost pracovat s těmito organizacemi způsobem, který jim pomáhá stát se více efektivními a efektivnějšími při jejich práci na pozitivním dopadu na náš svět.

Děkuji za podrobné odpovědi a těším se, že budu sledovat vaše budoucí podniky. Čtenáři, kteří si chtějí dozvědět více, by měli navštívit web Ashley Bryant-Baker a/nebo Fresh Eyes Digital,