Ashley Bryant-Baker, Dyrektor Data & Analytics w Fresh Eyes Digital – Wywiad

Ashley Bryant-Baker jest Dyrektorem Data i Analytics w Fresh Eyes Digital, firmie konsultingowej zajmującej się sukcesem organizacji non-profit. Przed Fresh Eyes Digital prowadziła własną firmę konsultingową, B&B Data Solutions, gdzie pomagała markom budować i wykorzystywać rozwiązania oparte na danych. Pracowała w dziedzinie analityki przez ponad dekadę w branżach takich jak produkty konsumpcyjne, podróże, logistyka, opieka zdrowotna i non-profit.

Stała się poszukiwanym prelegentem na temat Gender Bias w AI, Customer Segmentation Using AI oraz różnorodności w miejscu pracy. Została niedawno zaproszona do wygłoszenia prelekcji na różnych wydarzeniach, w tym SXSW, Data Minds Connect i Digital Summit DC. Ashley uczęszczała do The American Graduate School w Paryżu, Georgetown, LSU i Fort Hays University. Ma tytuł magistra ekonomii międzynarodowej, certyfikat w dziedzinie nauki o danych, tytuł licencjata w dziedzinie biznesu i tytuł licencjata w dziedzinie sztuki.

Czym pierwotnie zainteresowała się panie nauką komputerową i nauką o danych?

Na studiach studiowałam sztukę i chciałam pracować w firmie produkującej gry wideo jako projektantka gier. Mój plan był taki, aby po ukończeniu studiów pracować jako projektantka gier, tworząc 3D modele komputerowe i projektując postacie i obiekty, z którymi ludzie będą mogli wchodzić w interakcje w grze. Pracowałam nawet jako testerka gier wideo dla EA Sports na studiach. Ponieważ w tamtym czasie nie było na mojej uczelni koncentracji sztuki komputerowej, zdecydowałam się na dodatkowy kierunek studiów z informatyki, aby uzupełnić swój dyplom z dziedziny sztuki. Początkowo nie podobały mi się zajęcia z informatyki. Była tam pewna wrogość wobec osób bez doświadczenia (jak ja) ze strony innych studentów i nawet niektórych profesorów. Ukończyłam ten kierunek studiów, ponieważ mój cel był taki, aby zaprojektować i napisać działającą grę wideo. Użyłam pythona i mayi, aby zbudować 3D grę w szachy z animowanymi figurem, które przechodziły po planszy i bardzo prostym AI, które mogło grać przeciwko Tobie. W tamtym czasie nie wiedziałam nic o pythonie i założyłam, że nigdy go nie użyję.

Przeskoczmy do jednej z moich pierwszych prac po ukończeniu studiów. Pracowałam w firmie marketingowej jako młodszy menedżer projektu. Pracowałam z zespołem artystów, specjalistów od marketingu, specjalistów od produkcji i jednego analityka w całym budynku, który zarządzał analityką dla około 15 klientów samodzielnie. Prosiła mnie o pomoc od czasu do czasu, aby sprawdzić jej obliczenia lub utworzyć proste raporty. Kiedy musiała udać się na urlop zdrowotny na kilka tygodni, poprosiła mojego przełożonego i mnie, czy mogę ją zastąpić, dopóki nie wróci. Kiedy wróciła, poprosiłem o przeniesienie do jej departamentu. Praca z danymi była dla mnie tak interesująca. Był to zdecydowanie nieoczekiwany zwrot w mojej karierze, ale nie oglądałam się za siebie. Chciałam uczyć się więcej, więc brałam kursy i aplikowałam na stanowiska analityczne, gdzie mogłam się uczyć od innych. Wtedy wszystko wróciło do punktu wyjścia i znowu pracowałam z pythonem, choć w zupełnie inny sposób niż wcześniej.

Wszystko to po to, aby powiedzieć, że trafiłam do nauki o danych całkowicie przez przypadek.

Jesteś obecnie Dyrektorem Data & Analytics w Fresh Eyes Digital, firmie, która współpracuje z organizacjami non-profit. Czy mógłbyś powiedzieć, co robi ta firma i jaka jest Twoja rola w niej?

Fresh Eyes jest firmą konsultingową, która świadczy usługi marketingowe i fundraisingowe dla organizacji non-profit. Pracujemy z klientami, aby zrozumieć ich darczyńców, budować kampanie cyfrowe wokół celów non-profit i pomagać organizacjom non-profit zrozumieć, jak ich obecność cyfrowa może być podniesiona, aby osiągnąć te cele. Fresh Eyes zatrudniła mnie, ponieważ chcieli zbudować bardziej rozbudowaną ofertę danych. Początkowo pracowałam z nimi jako konsultant, gdzie pomogłam im zaprojektować testy multivariantowe, zrozumieć wyniki i zautomatyzować usługi analityczne i dashboardingowe. Teraz pracuję z nimi, aby zbudować pakiet ofert dla organizacji non-profit. Niektóre projekty, nad którymi pracuję, to analiza predykcyjna dotycząca wskaźników konwersji i darowizn darczyńców w czasie. Zrozumienie wpływu czynników zewnętrznych, takich jak klimat polityczny, zmiany gospodarcze i cykle informacyjne, a także wewnętrznych, takich jak strategie komunikacyjne, raporty o wpływie non-profit i nawet zmiany ról kierowniczych w organizacji, i jak wszystko to może wpłynąć na skłonność do konwersji. Dużo z tych informacji informuje nasze analizy prognostyczne i dashboarde, oraz modele klasyfikacyjne, aby lepiej zrozumieć darczyńców i zaangażowanie.

Organizacje non-profit coraz częściej korzystają z zaawansowanych metod statystycznych i zdają sobie sprawę, że pomaga to w realizacji ich misji, kiedy są w stanie lepiej zrozumieć swój wpływ i zbierać pieniądze w bardziej zorganizowany sposób.

Jednym z Twoich największych osiągnięć jest bycie orędownikiem różnorodności w STEM, czy mógłbyś podzielić się niektórymi z tych wyróżnień?

Istnieje wiele wspaniałych organizacji, które pracują nad różnorodnością i równością w STEM: Black Girls Code, ByteBack w DC, DataKind i najbardziej niedawno moja sorority Zeta Phi Beta Inc. wraz z kilkoma innymi organizacjami, które współpracują z Google (GOOGL ), aby szkolić osoby z grup niedoreprezentowanych w szkoleniach komputerowych i technicznych. Robię swoją część, wolontariując z tymi organizacjami, będąc mentorką dla osób nowo wchodzących w branżę, przemawiając na wydarzeniach (szczególnie wydarzeniach technicznych, gdzie czasami jestem jedyną kobietą lub osobą kolorową) i ucząc na warsztatach w szkołach (szczególnie w szkołach większościowych, szkołach wiejskich i szkołach alternatywnych). Dodatkowo pracowałam z kilkoma firmami, aby zróżnicować ich programy stażowe i programy dla absolwentów. Dużo z tej pracy robiłam z nawyku. Wychowałam się w domu i społeczności, w których wolontariat był częścią codziennego życia. Kontynuuję to przez college i dalej z Zeta Phi Beta Inc. Uważam jednak, że skłaniałam się ku tej dziedzinie, ponieważ nie miałam okazji uczyć się o komputerach i kodowaniu aż do college’u, a kiedy dotarłam do college’u, pamiętam uczucie negatywności, które odczuwałam, studiując informatykę. Nie chcę, aby ktokolwiek, szczególnie osoba, która próbuje się uczyć i doskonalić, doświadczył tego samego.

Próbuję uczestniczyć w tego rodzaju programach regularnie. W rzeczywistości 16 marca będę współorganizować hackathon z niezwykłym naukowcem i moim przyjacielem Swathi w ramach Girls in AI.

Czy również pracowałaś nad rozszerzeniem edukacji technicznej w obszarach wiejskich i/lub niskodochodowych?

Wow, nie ma wystarczającej ilości czasu, aby porozmawiać o tym, jak ogromnym problemem jest to! Koronawirus uczynił to absolutnie jasnym, że istnieją nierówności, które są systemowe w naszym społeczeństwie. Niestety jedną z największych jest edukacja. Mam dobrego przyjaciela, który pracuje w szkole alternatywnej na obrzeżach DC. Uczniowie tam często są starsi, muszą utrzymywać się z pracy wraz z pójściem do szkoły średniej, nie zawsze mają narzędzi w domu, aby uczyć się na odległość, takich jak laptop lub komputer stacjonarny. Ci uczniowie mieli nauczyciela, który ich wspierał, pracując ze szkołą, aby uzyskać mobilną opcję, aby większość uczniów mogła uzyskać dostęp do szkoły za pomocą telefonu komórkowego. Nie zawsze jest to jednak przypadkiem w środowiskach szkół niskodochodowych lub alternatywnych. Sytuacja na obszarach wiejskich jest podobnie trudna dla uczniów i nauczycieli. Szybki internet może być bardzo drogi na obszarach wiejskich i w niektórych przypadkach niedostępny. Uczniowie siedzący w parkingach McDonald’s, aby uzyskać dostęp do internetu, jest niedopuszczalne, ale niestety konieczne w niektórych z tych obszarów. Znam nauczycieli w ruralnej Pensylwanii, którzy sami nie mogą uzyskać dobrego internetu, aby połączyć się ze swoimi wirtualnymi klasami.

Poza koronawirusem istnieje problem niedofinansowania w szkołach wiejskich i niskodochodowych, braku nauczycieli wyspecjalizowanych w technologiach, szczególnie na obszarach wiejskich, gdzie przyciąganie talentów może być trudne, a także ogólny bias przeciwko uczniom kolorowym, imigrantom i nawet uczniom z obszarów wiejskich, którzy mogą wyglądać lub brzmieć inaczej niż powszechnie akceptowana “amerykańska” kultura. Wszystkie te scenariusze przyczyniają się do braku dostępu do edukacji STEM i tym samym uczniowie, którzy nigdy nie są narażeni na te przedmioty i kariery.

Jak duży problem jest gender i rasowy bias w AI?

To coś, o czym wszystkie firmy i organizacje powinny myśleć. Niestety jest to trudny problem do rozwiązania, ponieważ jeśli AI wykazuje bias wobec lub przeciwko określonej grupie, to najczęściej oznacza to, że w tej dziedzinie firma lub organizacja już miała wcześniej wzorzec biasu. AI opiera się na wcześniejszych wzorcach, aby przewidzieć przyszłe zachowania i po prostu zwiększa to zachowanie. Jednak trudno jest nakłonić ludzi do rozpoznania własnych biasów, wszyscy je mamy i często nieświadomie działamy zgodnie z nimi. Muszą istnieć systemy, które pomogą złagodzić te biasy i utrzymać zespoły odpowiedzialne zarówno po stronie technicznej, jak i biznesowej.

Jak możemy zapewnić, że aplikacje AI nie zwiększają biasów, które ludzie mają?

Istnieją kroki, które organizacje mogą podjąć, aby stworzyć standard praktyki w dziedzinie nauki o danych i AI, aby pomóc złagodzić bias. Nie mogę wystarczająco podkreślić, że musi to być współpraca między zespołami technicznymi i biznesowymi. Waga kontekstu, który nie jest zawsze widoczny dla zespołów technicznych, jest niezwykle ważna.

Zaczyna się to od rozpoznania i zidentyfikowania potencjalnych źródeł biasu. Może to nastąpić w procesie zbierania danych, wyborze funkcji do budowy modelu lub zupełnie poza danymi w praktykach biznesowych. Na przykład zostałam poproszona przez lidera firmy, czy ich podstawowa publiczność to naprawdę starsi, zamożni mężczyźni, którzy częściej mieszkają na obszarach wiejskich lub przedmieściach. Spójrzę na dane i zauważyłam, że ich potok danych miał nadreprezentację tej grupy. Zauważyłam również, że większość ich klientów pochodziła z tych samych źródeł medialnych, konserwatywnych stacji radiowych. Dowiedziałam się od członka zespołu marketingowego, że firma otrzymała tanie lub bezpłatne marketing w tych platformach na początku swojego uruchomienia, a większość ich klientów odzwierciedlała to. Bias nie był w danych, ale w braku dywersyfikacji w strategii komunikacyjnej. Jednak w efekcie model oceny wartości dożywotniej, który zespół danych stworzył, oceniał starszych, zamożniejszych mężczyzn z obszarów wiejskich i przedmieść jako najlepszych klientów, zwiększając strategię komunikacyjną, którą zespół marketingowy zastosował. To coś, za co żaden zespół techniczny nie powinien być odpowiedzialny, ale powinien pytać o odpowiednie pytania.

To prowadzi mnie do drugiego kroku, który polega na ustaleniu wytycznych dotyczących poszukiwania i następnie radzenia sobie z biasem, gdy został on wykryty. Po zidentyfikowaniu potencjalnych źródeł biasu organizacja powinna utworzyć listę kontrolną tych źródeł, aby szukać tych problemów i utworzyć ścieżkę dla kogoś, kto znajdzie niepokojące dane lub wzorce, aby rozwiązać je. Nie można tego zrobić w izolacji. Jest to odpowiedzialność wszystkich zespołów, aby upewnić się, że aplikacje nie zwiększają biasów. Jak w przykładzie powyżej, zespół danych nie ma odpowiedzialności za strategię komunikacyjną. Mogą oni pomóc w identyfikacji ustaleń, a następnie współpracować z innymi zespołami w organizacji, aby je rozwiązać. W tym przypadku zespół komunikacyjny współpracował z zespołem nauki o danych, aby przetestować inne strategie komunikacyjne, które dotknęły różne grupy demograficzne.

Gdy bias pojawia się w modelach danych, czasami może to być spowodowane tym, jak zespół danych określa wybór funkcji, jakie dane są uwzględnione lub wykluczone z magazynów danych, lub nawet metryki, które są przewidywane. W takich przypadkach ważne jest, aby zespół danych zrozumiał, że dokładność modelu nie zawsze jest równoznaczna z uczciwością modelu. Może być prawdą, że uwzględnienie pewnych funkcji w modelu danych zwiększa dokładność modelu, ale dodatkowe 0,5% dokładności może nastąpić kosztem społecznym lub biznesowym. Określenie, co oznacza uczciwość, nie jest łatwym zadaniem i wymaga udziału wielowymiarowych zespołów. Jedną z metodologii jest “sprawiedliwość kontrfaktualna”, która bierze pod uwagę, że decyzja jest uczciwa wobec jednostki, jeśli jest taka sama w świecie rzeczywistym i w świecie kontrfaktualnym, w którym jednostka należy do innej grupy demograficznej. Dodatkowo Microsoft (MSFT ) i Google AI opublikowały standardy, według których można uwzględnić uczciwość w AI. Osobiście odwołuję się do wytycznych UE dotyczących etyki w sztucznej inteligencji, które uważam za dość kompleksowe dla mojej branży. Po ustaleniu standardu uczciwości zespół danych może określić, czy rozwiązaniem jest przetworzenie danych wcześniej, zmodyfikowanie decyzji systemu później, czy włączenie definicji uczciwości do samego procesu szkolenia. Kwestia biasu w danych jest skomplikowana i wymaga regularnej oceny oraz głosów szerokiej gamy ludzi. Nie jest to po prostu techniczny problem do rozwiązania.

Jakie są Twoje poglądy na rządowe polityki etyki AI i danych?

Uważam, że dokonano kroków w dobrym kierunku, tworząc standard procedury, gdy chodzi o AI i etykę danych. Rozporządzenie Trumpa w sprawie etyki AI tworzy rejestr modeli wdrożonych w ramach rządu, ustanawia harmonogram tworzenia wytycznych politycznych, zachęca agencje do zatrudniania zespołów i osób skupionych na technologiach oraz zachęca do transparentności w użyciu AI w ramach rządu w obszarach niezwiązanych z R&D lub bezpieczeństwem narodowym, co uważam za niezwykle ważne. Tego rodzaju daleko idący plan jest ekscytującym rozwojem w rządzie, który historycznie był powolny w adaptacji technologii. Niemniej jednak polityki nie zrobiły wystarczająco dużo, aby stworzyć kulturę etyki, stworzyć obowiązkowe lub spójne plany w agencjach lub nawet zdefiniować dokładnie, co oznacza etyka lub uczciwość w tych kontekstach. Gdy nowa administracja przychodzi, naciskałbym na nich, aby utrwalić te plany bardziej strukturalnym i spójnym planem we wszystkich agencjach, a także procedurą oceny, która starannie rozważa wpływ ludzki, ponieważ wiele z pracy, którą wykonuje nasz rząd, wpływa na codzienne życie ludzi zarówno w kraju, jak i za granicą.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat swojej pracy z Fresh Eyes Digital?

Nauka o danych może być wykorzystywana przez organizacje non-profit, aby zwiększyć ich wpływ, które pracują nad poprawą naszego świata na wiele sposobów. Dla tych organizacji zbieranie danych nie jest zwykle problemem. Mają wiele danych do pracy. Używanie tych danych w sposób klarowny i możliwy do zastosowania jest trudne dla tych organizacji, które często są ograniczone zasobami i mogą nie mieć wewnętrznego zespołu analitycznego. Praca, którą wykonujemy w dziale danych w Fresh Eyes Digital, pomaga tym organizacjom zrozumieć i wdrożyć swoje dane w odpowiedni sposób, podejmując bardziej świadome, strategiczne decyzje. Cieszę się, że mam okazję pracować z tymi organizacjami w sposób, który pomaga im stać się bardziej wydajnymi i skutecznymi w swojej pracy, aby wpłynąć na nasz świat pozytywnie.

Dziękuję za szczegółowe odpowiedzi i czekam na Twoje przyszłe przedsięwzięcia. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić stronę Ashley Bryant-Baker i/lub Fresh Eyes Digital,