倫理
アシュリー・ブライアント・ベイカー、Fresh Eyes Digitalのデータ＆アナリティクスディレクター – インタビュー・シリーズ
アシュリー・ブライアント・ベイカーは、非営利組織の成功に焦点を当てたコンサルティング会社であるFresh Eyes Digitalのデータおよびアナリティクスディレクターです。Fresh Eyes Digitalに参加する前は、自身のコンサルティング会社B&B Data Solutionsを経営しており、ブランドがデータソリューションを構築して活用するのを支援していました。彼女は、10年以上にわたって、消費者向け製品、旅行、物流、ヘルスケア、非営利組織などの業界でアナリティクスに従事しています。
彼女は、AIにおけるジェンダーバイアス、AIを使用した顧客セグメンテーション、職場の多様性などのトピックで人気のあるスピーカーになりました。彼女は最近、SXSW、Data Minds Connect、Digital Summit DCなどのイベントで話をするよう招待されています。アシュリーは、パリのアメリカン・グラジュエート・スクール、ジョージタウン、LSU、フォート・ヘイズ大学に通っています。彼女は、国際経済学の修士号、データサイエンスの証明書、ビジネス学士号、芸術学士号を持っています。
コンピューターサイエンスとデータサイエンスに最初に惹かれたのは何でしたか？
大学で芸術を学んでいたとき、卒業後にゲームデザイナーとしてビデオゲーム会社で働くことを計画していました。私の計画は、3Dコンピューターモデルを作成し、ゲーム内で人々が互動するキャラクターとオブジェクトをデザインすることでした。大学時代には、EA Sportsのビデオゲーム品質保証テスターとしても働きました。 当時、私の大学にはコンピューターアーツの専攻がなかったため、芸術学位を補完するためにコンピューターサイエンスを副専攻しました。最初のコンピューターサイエンスの授業は全く好きではなかったです。経験のない人（私のような人）に対する他の学生や一部の教授からの敵対的な態度がありました。私の芸術の卒業制作のために、動作するビデオゲームをデザインしてプログラミングすることを目標にしていたので、副専攻を続けました。私はPythonとMayaを使用して、ボード上を歩くアニメーション付きの3Dチェスゲームと、シンプルなAIを作成しました。当時、Pythonについて何も知らなかったので、もう二度と使うことはないと思っていました。
卒業後の最初の仕事の1つでは、マーケティング会社でジュニアプロジェクトマネージャーとして働きました。私はアーティスト、 マーケティングスペシャリスト、生産スペシャリスト、そして1人のアナリストと一緒に働きました。アナリストは、15のクライアントのアナリティクスを1人で管理していました。彼女は時折私に数学を確認したり、シンプルなレポートを作成したりするよう頼んでいました。彼女が数週間の病気休暇に行ったとき、私の上司と私に彼女の仕事を代わりに行うよう頼みました。彼女が戻ってきたとき、私は彼女の部門への転勤を求めました。データを扱うことは私にとって非常に面白かったです。私のキャリアの予想外の転換でしたが、以来戻ることはありません。もっと学びたいと思ったので、コースを受講し、アナリティクスの仕事に応募して他の人から学びました。そうして全てが円を描いて、私は再びPythonを使用するようになりましたが、前回とは全く異なる方法でした。
これすべてを言うには、データサイエンスに最初に惹かれたのは純粋に偶然でした。
現在、Fresh Eyes Digitalのデータ＆アナリティクスディレクターを務めています。この会社は非営利組織と協力しています。会社の事業内容とそこでの仕事についてお話しください。
Fresh Eyesは、非営利組織のマーケティングとファンドレイジングを支援するコンサルティング会社です。私たちはクライアントと協力して、寄付者を理解し、非営利目標を中心にデジタルキャンペーンを構築し、非営利組織がデジタルプレゼンスを高めて目標を達成する方法を理解するのを支援します。Fresh Eyesは、より強力なデータ提供を構築したいという思いから私を雇用しました。最初はコンサルタントとして働き、デジタルマルチバリアテストの設計、結果の理解、分析およびダッシュボードの自動化サービスを支援しました。現在、私は非営利組織向けのサービスを構築するためにFresh Eyesと協力しています。進行中のプロジェクトの1つは、構成員や寄付者の変換率と寄付率を予測する分析です。政治情勢、経済変動、ニュースサイクルなどの外部要因、およびマーケティングメッセージ戦略、非営利組織の影響レポート、組織内のリーダーシップ役職の動きなどの内部要因を理解することです。これらの情報は、寄付者と関与をよりよく理解するための予測分析、ダッシュボード、分類モデルに役立ちます。
非営利組織は、先進的な統計方法の使用を採用し、影響をよりよく理解し、より構造化された方法で資金を調達することができるため、目的を達成するのに役立つことを認識しています。
あなたの最も自慢できる業績の1つは、STEMにおける多様性の擁護者であることです。いくつかのハイライトを共有してください。
多様性と公平性をSTEMに導入しようとしている素晴らしい組織がたくさんあります。Black Girls Code、ByteBack、DataKind、そして最近では私のソロリティZeta Phi Beta Inc.を含むいくつかの組織がGoogleと提携して、代表されていないグループにコンピュータと技術トレーニングを提供しています。私はこれらの組織とボランティアとして協力し、新しい分野に入る人々にメンターとなり、特にテクノロジーイベント（そこでは私が唯一の女性または有色人種であることが多い）で話をし、学校（特に多数派のマイノリティ学校、農村学校、代替学校）でワークショップを教えています。さらに、私はいくつかの企業と協力して、インターンシッププログラムと新入社員の卒業プログラムを多様化させてきました。私はこれらの活動を習慣的に行ってきました。私はボランティアが日常生活の一部である家庭とコミュニティで育ちました。私はこれを大学時代とその後、Zeta Phi Beta Inc.で続けてきました。ただし、私がこの分野に惹かれたのは、コンピューターサイエンスの副専攻のときに感じた否定的な感覚がなかったからです。私は、学習し自分を向上させようとしている人、特に誰かが誰かを否定的な感覚にさせてしまうことは絶対にしたくないと思います。私は本当に影響を与えていることを認識しなかったと思います。あるとき、リクルーティングイベントで学生たちと話をしていると、黒人の少女とその母親が私に近づいてきて、彼女たちが初めて会った技術的な黒人の女性だと言ってきました。そのとき、私がこの活動を定期的に行う必要があることを実感しました。
私はこれらの種のプログラムに定期的に参加しようとしています。実際、3月16日には、素晴らしいデータサイエンティストで友人のSwathiと共に、Girls in AIと共同でハッカソンを共同開催します。
あなたはまた、農村部および/または低所得地域でのテクノロジー教育の拡大にも取り組んでいます。この問題の重大性はどの程度ですか？
この問題の重大性について話す時間は十分ではありません！コロナウイルスは、社会にシステム的な不平等があることを明らかにしました。残念ながら、最大の不平等の1つは教育です。私はDCの郊外にある代替学校で働く友人がいます。生徒たちは、しばしば年上で、高校に通うだけでなく仕事もしています。彼らは、遠隔学習を行うためのツール、たとえばラップトップやデスクトップコンピューターを持っていないことがよくあります。これらの生徒たちには、教師が彼らのために働いて、学校が携帯電話で学校にアクセスできるモバイルオプションを得るために努力しています。しかし、これが常に低所得または代替学校環境にある場合ではありません。農村地域の状況も、学生や教師にとって同様に困難です。農村地域では、高速インターネットが非常に高価であるか、場合によっては利用できないことがあります。学生がマクドナルドの駐車場でインターネットアクセスを得ているということは、受け入れられませんが、残念ながら必要な場合があります。このような地域では、教師が自分で仮想クラスルームに接続するための良好なインターネットを得ることができないこともあります。
コロナウイルスの外では、農村および低所得学校の資金不足、特に農村地域では技術的にトレーニングされた教師を引き付けるのが難しいこと、そして学生に対する一般的な偏見、特に有色人種、移民、農村出身の学生など、一般的に受け入れられている「アメリカ文化」から外れた学生に対する偏見などがあります。これらのシナリオはすべて、STEM教育へのアクセス不足につながり、学生たちはこれらの科目やキャリアに触れることがありません。
AIにおけるジェンダーと人種バイアスの問題はどの程度重大な問題ですか？
これは、すべてのビジネスや組織が考慮すべき問題です。残念ながら、これは難しい問題です。AIが特定のグループに対してバイアスを示している場合、多くの場合、その会社や組織がすでにその分野でバイアスを持っていることを意味します。AIは、将来の行動を予測するために過去のパターンに依存しており、これらのパターンを単純に増幅させます。しかし、人間が自分のバイアスを認識するのは難しいです。私たち 모두バイアスを持っており、しばしば無意識にそれに基づいて行動します。バイアスを軽減するためのシステムを設け、技術チームとビジネスチームの両方に責任を持たせる必要があります。
今日のAIアプリケーションが人間のバイアスを増幅しないようにするにはどうすればよいですか？
組織は、データサイエンスとAIにおける公平性の標準的な実践を確立することで、バイアスを軽減するための措置を講じることができます。私は、技術チームとビジネスチームの間で協力的なプロセスが必要であることを強調したいと思います。技術チームには見えていないコンテキストの重要性は、非常に重要です。
これは、潜在的なバイアスの源を認識して特定することから始まります。データ収集プロセスで、モデル構築のための特徴選択で、またはデータ以外のビジネス慣行でバイアスが発生する可能性があります。たとえば、ある会社のリーダーが私に、会社のコアオーディエンスが本当に老若男女で、郊外や農村地域に住むことが多い人たちであるかどうかを尋ねました。私はデータを調べて、会社のデータパイプラインがこのグループを過剰に表現していることを発見しました。しかし、マーケティングチームのメンバーから、会社が初期の立ち上げ時に保守的なトークラジオで低コストまたは無料のマーケティングを行っていたことを知りました。顧客の大部分はこれらのプラットフォームから来ていたので、データチームが作成したライフタイムバリュースコアリングモデルは、老若男女を最も高性能な顧客としてスコアリングしていました。ただし、これはマーケティングチームが採用したコミュニケーション戦略を増幅するものでした。これは、技術チームが知るべきことではありませんが、正しい質問を尋ねる責任があります。
これにより、2番目のステップである、バイアスが見つかったときにそれに対処するためのガイドラインを設定することができます。潜在的なバイアスの源を特定したら、組織はこれらの源を探すためのチェックリストを作成し、誰かが懸念するデータやパターンを見つけたときにそれに対処するための経路を作成する必要があります。これは、バキュームの中で行うことはできません。バイアスを増幅させないようにすることは、すべてのチームの責任です。上記の例のように、データチームはコミュニケーション戦略に対して責任を負っていません。彼らは、発見とそれに対処するために他のチームと協力することができます。この場合、コミュニケーションチームは、さまざまな人口統計グループにサービスを提供するさまざまなコミュニケーション戦略をテストするために、データサイエンスチームと協力しました。
データモデルでバイアスが見つかったとき、特徴選択の方法、データストアに含まれるデータ、または予測されるメトリックによってバイアスが発生する可能性があります。このような場合は、データチームがモデル精度が常にモデル公平性に相当するわけではないことを理解する必要があります。特定の特徴をデータモデルに含めることで、モデル精度が向上するかもしれませんが、追加の0.5%の精度は、社会的またはビジネス上のコストを伴う場合があります。公平性の意味を決定することは、簡単なタスクではありません。多面的なチームの参加が必要です。反事実公平性と呼ばれる方法では、決定が公平であるとみなされるのは、実際の世界と、個人が異なる人口統計グループに属する反事実の世界で同じである場合のみです。さらに、MicrosoftとGoogle AIは、AIにおける公平性を説明するための基準を公開しています。私は、EUのAIにおける倫理に関するガイドラインを、私の業界ではかなり包括的であると考えています。公平性の基準が確立されると、データチームは、データを事前に処理するか、システムの決定をその後変更するか、公平性の定義をトレーニングプロセス自体に組み込むかを決定できます。データのバイアスの問題は、複雑で、幅広い人々の声が必要な問題です。これは、単に技術的な問題を解決することではありません。
AIとデータ倫理に関する政府の政策についてのあなたの見解は何ですか？
私は、AIとデータ倫理に関する標準的な手順を作成することで、正しい方向に向かっていると考えています。トランプの大統領令は、政府内で展開されたモデルを登録し、政策ガイダンスの作成のタイムラインを設定し、技術に注力したチームと個人の雇用を奨励し、R&Dや国家安全保障に関与していない政府のAIの使用における透明性を促進しています。これは、従来技術の採用が遅れていた政府にとって、興奮するべき開発です。しかし、これらの政策は、倫理の文化を作ったり、機関全体に一貫した計画を作ったり、倫理や公平性の意味を定義したりすることはできませんでした。新しい政権が就任するにつれて、私は、機関全体に構造化された計画を固めること、また、政府の仕事が国民の日常生活に与える影響を慎重に検討する評価手続きを創設することを強調したいと思います。
Fresh Eyes Digitalでのあなたの仕事についてさらに何か共有したいことはありますか？
データサイエンスは、世界を改善しようとしている非営利組織に大きな影響を与えることができます。非営利組織にとって、データを収集することは通常問題ではありません。彼らはたくさんのデータを持っています。ただし、これらのデータを明確かつ実行可能な方法で使用することは、これらの組織にとって難しいことです。Fresh Eyes Digitalのデータ部門で行っている仕事は、これらの組織がデータを理解して展開するのを支援し、より情報に基づいた戦略的な決定を下すのを支援しています。私は、これらの組織と協力して、世界にポジティブな影響を与えるために効果的で効率的になるのを支援する機会を持つことを光栄に思います。
詳細な回答ありがとうございます。将来的にあなたの仕事を追っていきたいと思います。さらに詳しく知りたい読者は、アシュリー・ブライアント・ベイカーのウェブサイトまたはFresh Eyes Digitalを訪問してください。
