Ashley Bryant-Baker, Direktorin von Data & Analytics bei Fresh Eyes Digital – Interview-Serie

Ashley Bryant-Baker ist Direktorin von Data und Analytics bei Fresh Eyes Digital, einer Beratungsfirma, die sich auf den Erfolg von Non-Profit-Organisationen konzentriert. Vor Fresh Eyes Digital leitete sie ihre eigene Beratungsfirma, B&B Data Solutions, wo sie Marken half, Datenlösungen zu entwickeln und zu nutzen. Sie hat über ein Jahrzehnt lang in der Analyse von Daten gearbeitet, in Branchen wie Konsumgüter, Reisen, Logistik, Gesundheitswesen und Non-Profit-Organisationen.

Sie ist zu einer gefragten Rednerin auf den Gebieten von Geschlechterbias in KI, Kundensegmentierung mit KI und Vielfalt am Arbeitsplatz geworden. Sie wurde kürzlich zu verschiedenen Veranstaltungen eingeladen, darunter SXSW, Data Minds Connect und Digital Summit DC. Ashley hat die American Graduate School in Paris, Georgetown, LSU und Fort Hays University besucht. Sie hat einen Master-Abschluss in Internationale Wirtschaft, ein Zertifikat in Data Science, einen Bachelor-Abschluss in Betriebswirtschaft und einen Bachelor-Abschluss in Kunst.

Was hat Sie ursprünglich zur Informatik und Data Science hingezogen?

Im College studierte ich Kunst und wollte nach dem Abschluss als Spieledesignerin für ein Videospiel-Unternehmen arbeiten. Mein Plan war, 3D-Computermodelle und Charaktere zu entwerfen, mit denen Menschen im Spiel interagieren konnten. Ich arbeitete sogar als Testerin für Videospiele bei EA Sports, während ich noch im College war. Da es zu dieser Zeit keinen Schwerpunkt auf Informatik an meiner Universität gab, entschied ich mich, Informatik als Nebenfach zu studieren, um meinen Kunstabschluss zu ergänzen. Ich mochte die Informatik-Kurse anfangs nicht besonders. Es gab eine gewisse Feindseligkeit gegenüber Menschen ohne Erfahrung (wie mich) von Seiten der anderen Studenten und sogar einiger Professoren. Ich behielt mein Nebenfach bei, weil mein Ziel für mein Kunstprojekt war, ein funktionierendes Videospiel zu entwerfen und zu programmieren. Ich verwendete Python und Maya, um ein 3D-Schachspiel mit animierten Figuren zu bauen, die über das Brett liefen, und einer sehr einfachen KI, die gegen mich spielen konnte. Zu diesem Zeitpunkt wusste ich nichts über Python und nahm an, dass ich es nie wieder verwenden würde.

Wenn ich auf eine meiner ersten Jobs nach dem College zurückblicke, arbeitete ich bei einer Marketingfirma als Junior-Project-Managerin. Ich arbeitete mit einem Team von Künstlern, Marketing-Spezialisten, Produktions-Spezialisten und einer Analytikerin, die die Analyse für etwa 15 Kunden alleine durchführte. Sie bat mich gelegentlich um Hilfe, um ihre Mathematik zu überprüfen oder einfache Berichte zu erstellen. Als sie für mehrere Wochen in die medizinische Abteilung musste, bat sie meinen Vorgesetzten und mich, ob ich ihre Arbeit übernehmen konnte, während sie weg war. Als sie zurückkam, bat ich um eine Versetzung in ihre Abteilung. Die Arbeit mit Daten war für mich so interessant. Es war definitiv eine unerwartete Wendung in meiner Karriere, aber ich habe mich nie umgedreht. Ich wollte immer mehr lernen, also besuchte ich Kurse und bewarb mich um Analyse-Jobs, bei denen ich von anderen lernen konnte. Dann kam alles wieder zusammen, und ich arbeitete wieder mit Python, wenn auch auf eine völlig andere Weise als zuvor.

Um es kurz zu machen: Ich kam ursprünglich rein zufällig zur Data Science.

Sie sind derzeit Direktorin von Data & Analytics bei Fresh Eyes Digital, einem Unternehmen, das mit Non-Profit-Organisationen zusammenarbeitet. Können Sie uns erzählen, was das Unternehmen macht und welche Arbeit Sie dort leisten?

Fresh Eyes ist eine Beratungsfirma, die Marketing- und Spendenunterstützung für Non-Profit-Organisationen bietet. Wir arbeiten mit Kunden zusammen, um ihre Spender zu verstehen, digitale Kampagnen um die Ziele der Non-Profit-Organisationen herum zu bauen und Non-Profit-Organisationen zu helfen, zu verstehen, wie ihre digitale Präsenz erhöht werden kann, um diese Ziele zu erreichen. Fresh Eyes hat mich eingestellt, weil sie ein umfassenderes Datenangebot aufbauen wollten. Zunächst arbeitete ich als Beraterin mit ihnen zusammen, wo ich half, digitale multivariate Tests zu entwerfen, Ergebnisse zu verstehen und Analyse- und Dashboard-Dienste zu automatisieren. Jetzt arbeite ich daran, ein Angebotsspektrum für Non-Profit-Organisationen aufzubauen. Einige Projekte, an denen ich arbeite, sind prädiktive Analysen zu Konvertierungs- und Spenderraten von Konstituenten und Spendern im Laufe der Zeit. Ich untersuche die Auswirkungen externer Faktoren wie politisches Klima, wirtschaftliche Veränderungen und Nachrichtenzyklen sowie interner Faktoren wie Marketing-Strategien, Non-Profit-Impact-Berichte und sogar Bewegungen von Führungsrollen innerhalb einer Organisation und wie all diese Faktoren die Neigung zur Konvertierung beeinflussen können. Viele dieser Informationen informieren unsere prognostischen Analysen und Dashboards sowie Klassifizierungsmodelle, um Spender und Engagement besser zu verstehen.

Non-Profit-Organisationen nutzen zunehmend fortgeschrittene statistische Methoden und erkennen, dass dies ihre Fähigkeit verbessert, ihre Mission durchzusetzen, wenn sie ihre Auswirkungen besser verstehen und Geld auf eine strukturierte Weise sammeln können.

Eines Ihrer größten Erfolge ist die Förderung von Vielfalt in STEM. Können Sie uns einige Highlights teilen?

Es gibt so viele großartige Organisationen, die an Vielfalt und Gleichheit in STEM arbeiten: Black Girls Code, ByteBack in DC, DataKind und kürzlich meine Sorority Zeta Phi Beta Inc. sowie mehrere andere Organisationen, die mit Google (GOOGL ) zusammenarbeiten, um unterrepräsentierte Gruppen in Computer- und technischer Ausbildung zu schulen. Ich tue meinen Teil, indem ich mit diesen Organisationen zusammenarbeite, Mentorin für Menschen bin, die neu in das Feld kommen, auf Veranstaltungen spreche (insbesondere auf Technologie-Veranstaltungen, bei denen ich oft die einzige Frau oder Person of Color bin) und an Workshops in Schulen unterrichte (insbesondere in Mehrheits-Minderheitenschulen, ländlichen Schulen und Alternativschulen). Außerdem habe ich mit mehreren Unternehmen zusammengearbeitet, um ihre Praktikums- und Graduate-Programme zu diversifizieren. Ein Großteil dieser Arbeit habe ich aus Gewohnheit getan. Ich bin in einem Zuhause und einer Gemeinschaft aufgewachsen, in der ehrenamtliche Arbeit Teil des täglichen Lebens war. Ich habe dies während meines Studiums und danach mit Zeta Phi Beta Inc. fortgesetzt. Ich denke jedoch, dass ich mich zu diesem Bereich hingezogen fühlte, weil ich nicht die Gelegenheit hatte, über Computer und Programmierung zu lernen, bis ich aufs College kam, und als ich dann aufs College kam, erinnere ich mich an das Gefühl der Negativität, das ich empfand, als ich mein Nebenfach Informatik studierte. Ich möchte nicht, dass jemand, insbesondere jemand, der versucht, zu lernen und sich zu verbessern, diese Erfahrung macht. Ich denke nicht, dass ich wirklich erkannt habe, welchen Einfluss ich hatte, bis ich mit einer Gruppe von Studenten auf einer Recruiting-Veranstaltung sprach und ein junges schwarzes Mädchen und ihre Mutter zu mir kamen und sagten, dass ich die erste technische schwarze Frau war, die sie auf einer Konferenz oder Recruiting-Veranstaltung gesehen hatten. Das war der Moment, in dem ich wusste, dass ich dies zu einem Teil meiner regelmäßigen Routine machen musste.

Ich versuche, regelmäßig an diesen Art von Programmen teilzunehmen. Tatsächlich werde ich am 16. März ein Hackathon mit einer großartigen Datenwissenschaftlerin und meiner Freundin Swathi in Verbindung mit Girls in AI co-moderieren.

Sie haben auch an der Erweiterung der technischen Ausbildung in ländlichen und/oder einkommensschwachen Nachbarschaften gearbeitet. Wie groß ist dieses Problem?

Wow, es gibt nicht genug Zeit, um über die Größe dieses Problems zu sprechen! Der Coronavirus hat es kristallklar gemacht, dass es systemische Ungleichheiten in unserer Gesellschaft gibt. Leider ist eine der größten davon die Bildung. Ich habe eine gute Freundin, die an einer Alternativschule am Rande von DC arbeitet. Die Schüler dort sind oft älter, sie müssen neben der Schule Jobs haben und sie haben nicht immer die Tools zu Hause, um Fernunterricht zu machen, wie einen Laptop oder einen Desktop-Computer. Diese Schüler hatten einen Lehrer, der für sie eintrat und mit der Schule zusammenarbeitete, um eine mobile Option zu erhalten, damit die meisten Schüler auf ihre Schularbeit auf ihren Handys zugreifen konnten. Das ist jedoch nicht immer der Fall in einkommensschwachen oder alternativen Schulumgebungen. Die Situation in ländlichen Gebieten ist für Schüler und Lehrer ähnlich schwierig. Hochgeschwindigkeits-Internet kann in ländlichen Gebieten sehr teuer sein und in einigen Fällen nicht verfügbar. Schüler, die in McDonald’s-Parkplätzen nach Internet suchen, ist unannehmbar, aber in einigen dieser Gebiete leider notwendig. Ich kenne Lehrer in ländlichen Gebieten von Pennsylvania, die selbst kein gutes Internet für ihre virtuellen Klassenzimmer haben.

Außerhalb des Coronavirus gibt es das Problem der Unterfinanzierung in ländlichen und einkommensschwachen Schulen, einen Mangel an technisch ausgebildeten Lehrern, insbesondere in ländlichen Gebieten, wo es schwierig sein kann, Talente anzuziehen, und natürlich den allgemeinen Bias gegen Schüler von Farbe, Einwanderer-Schüler und sogar ländliche Schüler, die möglicherweise anders aussehen oder klingen als die allgemein akzeptierte “amerikanische” Kultur. All diese Szenarien tragen zu dem Mangel an Zugang zu STEM-Bildung bei und daher zu Schülern, die nie mit diesen Themen und Karrieren in Berührung kommen.

Wie groß ist das Problem des Geschlechter- und Rassen-Bias in KI?

Es ist etwas, worüber alle Unternehmen und Organisationen nachdenken sollten. Leider ist dies ein hartes Problem zu lösen, weil KI-Bias gegen eine bestimmte Gruppe oft bedeutet, dass das Unternehmen oder die Organisation in diesem Bereich bereits ein Muster des Bias hatte. KI ist auf vergangene Muster angewiesen, um zukünftiges Verhalten vorherzusagen, und verstärkt dieses Verhalten einfach. Es ist jedoch schwierig, Menschen dazu zu bringen, ihre eigenen Vorurteile zu erkennen, wir alle haben sie und handeln oft unbewusst danach. Es müssen Systeme vorhanden sein, um diese Vorurteile zu mildern und Teams auf beiden Seiten, technisch und geschäftlich, zur Rechenschaft zu ziehen.

Wie können wir sicherstellen, dass die KI-Anwendungen von heute die Vorurteile der Menschen nicht verstärken?

Es gibt einige Schritte, die Organisationen unternehmen können, um einen Standard für die Data-Science- und KI-Praxis zu schaffen, um Vorurteile zu mildern. Ich kann nicht genug betonen, wie wichtig es ist, dass dies ein gemeinsamer Prozess zwischen technischen und geschäftlichen Teams ist. Die Bedeutung des Kontexts, der nicht immer für technische Teams sichtbar ist, ist von entscheidender Bedeutung.

Es beginnt mit der Erkennung und Identifizierung potenzieller Quellen von Bias. Es kann während des Datenerfassungsprozesses, der Feature-Auswahl für die Modellbildung oder außerhalb der Daten in den Geschäftspraktiken auftreten. Zum Beispiel wurde ich einmal von einem Führungskräfte eines Unternehmens gefragt, ob ihr Kernpublikum wirklich ältere, wohlhabende Männer waren, die öfter in ländlichen oder suburbanen Gemeinden lebten. Ich sah mir die Daten an und erkannte, dass ihre Datenpipeline eine Überrepräsentation dieser Gruppe hatte. Aber ich bemerkte auch, dass die Mehrheit ihrer Kunden aus denselben Medienquellen kamen, konservativer Talkradio. Ich erfuhr von einem Mitglied des Marketing-Teams, dass das Unternehmen zu Beginn seiner Gründung kostenlose Marketing auf diesen Plattformen erhalten hatte, und die Mehrheit ihrer Kunden spiegelte dies wider. Der Bias lag nicht in den Daten, sondern in der mangelnden Diversifizierung der Kommunikationsstrategie. Als Ergebnis jedoch bewertete das Lifetime-Value-Scoring-Modell, das das Data-Team erstellte, ältere, wohlhabendere Männer aus suburbanen und ländlichen Gemeinden als die besten Kunden, und verstärkte so die Kommunikationsstrategie, die das Marketing-Team eingesetzt hatte. Dies ist etwas, für das kein technisches Team verantwortlich sein sollte, aber sie sollten dafür verantwortlich sein, die richtigen Fragen zu stellen.

Dies führt mich zum zweiten Schritt, nämlich Richtlinien für die Suche nach und die Behandlung von Bias zu erstellen, sobald es entdeckt wurde. Sobald Sie potenzielle Quellen von Bias identifiziert haben, sollte die Organisation eine Checkliste dieser Quellen erstellen, um diese Probleme zu suchen, und einen Weg für jemanden, der besorgniserregende Daten oder Muster findet, zu schaffen, um sie anzusprechen. Dies kann nicht im Vakuum erfolgen. Es ist die Verantwortung aller Teams, sicherzustellen, dass Anwendungen Vorurteile nicht verstärken. Wie im obigen Beispiel ist das Data-Team nicht für die Kommunikationsstrategie verantwortlich. Sie können helfen, die Ergebnisse zu identifizieren, und dann mit anderen Teams in der Organisation zusammenarbeiten, um sie anzusprechen. In diesem Fall arbeitete das Kommunikationsteam mit dem Data-Science-Team zusammen, um andere Kommunikationsstrategien zu testen, die verschiedene demografische Gruppen bedienen.

Wenn Vorurteile in Datenmodellen auftauchen, kann es manchmal an der Art und Weise liegen, wie das Data-Team die Feature-Auswahl bestimmt, welche Daten in den Datenbestand aufgenommen oder ausgeschlossen werden, oder sogar an der Metrik, die vorhergesagt wird. In diesen Fällen ist es wichtig, dass das Data-Team versteht, dass Modellgenauigkeit nicht immer gleichbedeutend mit Modellgerechtigkeit ist. Es mag stimmen, dass die Aufnahme bestimmter Merkmale in ein Datenmodell die Vorhersagegenauigkeit des Modells erhöht, aber die zusätzlichen 0,5% Genauigkeit können auf Kosten der Gesellschaft oder des Unternehmens erfolgen. Die Bestimmung dessen, was fair bedeutet, ist keine leichte Aufgabe und erfordert die Teilnahme von multifunktionalen Teams. Eine Methode namens “Gegenfaktische Fairness” berücksichtigt, dass eine Entscheidung fair gegenüber einer Person ist, wenn sie in der realen Welt und in einer Gegenwelt, in der die Person einer anderen demografischen Gruppe angehört, dieselbe ist. Zusätzlich haben Microsoft (MSFT ) und Google AI Standards veröffentlicht, um Fairness in KI zu berücksichtigen. Ich persönlich beziehe mich auf die EU-Richtlinien zu Ethik in KI, die ich für meine Branche ziemlich umfassend halte. Sobald ein Fairness-Standard etabliert ist, kann das Data-Team bestimmen, ob die Lösung darin besteht, die Daten im Voraus zu verarbeiten, die Entscheidungen des Systems im Nachhinein zu ändern oder Fairness-Definitionen in den Trainingsprozess selbst aufzunehmen. Die Frage des Bias in Daten ist ein komplexes Problem, das regelmäßige Bewertung und die Stimmen einer breiten Palette von Menschen erfordert. Es ist nicht nur ein technisches Problem, das gelöst werden muss.

Was sind Ihre Ansichten zu von der Regierung erlassenen AI- und Datenethik-Richtlinien?

Ich denke, es gab Bewegungen in die richtige Richtung, indem ein Standardverfahren für AI- und Datenethik geschaffen wurde. Trumps Exekutivbefehl zu AI-Ethik erstellt ein Register von innerhalb der Regierung eingesetzten Modellen, legt einen Zeitplan für die Erstellung von Richtlinien fest, ermutigt Agenturen, tech-fokussierte Teams und Einzelpersonen einzustellen, und fördert Transparenz bei der Nutzung von KI in der Regierung in Bereichen, die nicht mit Forschung und Entwicklung oder nationaler Sicherheit zu tun haben, was ich für sehr wichtig halte. Dieser umfassende Plan ist eine aufregende Entwicklung in der Regierung, die historisch gesehen langsam bei der Anpassung von Technologie war. Die Richtlinien haben jedoch wenig getan, um eine Kultur der Ethik zu schaffen, verpflichtende oder kohärente Pläne über Agenturen hinweg zu erstellen oder genau zu definieren, was Ethik oder Fairness in diesen Kontexten bedeutet. Wenn die neue Regierung antritt, würde ich ihnen empfehlen, diese Pläne mit einem strukturierteren und kohärenteren Plan über alle Agenturen hinweg sowie einem Bewertungsverfahren zu festigen, das die menschliche Auswirkung sorgfältig berücksichtigt, da viel von der Arbeit, die unsere Regierung leistet, das tägliche Leben von Menschen sowohl innerhalb als auch außerhalb des Landes beeinflusst.

Gibt es noch etwas, das Sie über Ihre Arbeit mit Fresh Eyes Digital teilen möchten?

Data Science kann von Non-Profit-Organisationen genutzt werden, um ihre Auswirkungen zu erhöhen, die daran arbeiten, unsere Welt auf so viele Weise zu verbessern. Für diese Organisationen ist das Sammeln von Daten normalerweise nicht das Problem. Sie haben viele Daten, mit denen sie arbeiten können. Die Nutzung dieser Daten auf klare und handhabbare Weise ist für diese Organisationen, die oft von Ressourcen eingeschränkt sind und möglicherweise kein internes Analyse-Team haben, schwierig. Die Arbeit, die wir in der Data-Abteilung von Fresh Eyes Digital leisten, hilft diesen Organisationen, ihre Daten auf die richtige Weise zu verstehen und einzusetzen, um informiertere, strategischere Entscheidungen zu treffen. Ich bin dankbar für die Gelegenheit, mit diesen Organisationen in einer Weise zusammenzuarbeiten, die ihnen hilft, effizienter und effektiver zu werden, während sie daran arbeiten, unsere Welt auf positive Weise zu beeinflussen.

Vielen Dank für die detaillierten Antworten, und ich freue mich darauf, Ihre zukünftigen Unternehmungen zu verfolgen. Leser, die mehr erfahren möchten, sollten die Ashley Bryant-Baker-Website und/oder Fresh Eyes Digital besuchen.