ニューヨーク大学タンドン工学学校のジュリア・ストヤノビッチ教授 – インタビュー・シリーズ

ジュリア・ストヤノビッチは、ニューヨーク大学タンドン工学学校の教授であり、責任あるAIセンターの創設ディレクターです。彼女は最近、ニューヨーク市議会のテクノロジー委員会に、採用と雇用の決定におけるAIの使用を規制する提案について証言しました。

責任あるAIセンターの創設ディレクターとして、取り組んでいるイニシアチブについてお話しください。

私は、スティーブン・クヤンと共に、責任あるAIセンター（R/AI）を共同で運営しています。スティーブンと私は、互いに補完的な関心と専門知識を持っています。私は、コンピューターサイエンスの背景を持つ学者であり、データエンジニアリング、責任あるデータサイエンス、政策の交差点における用途に基づく研究に強い関心を持っています。スティーブンは、NYUタンドン・フューチャーラボのマネージングディレクターであり、すでにニューヨーク市で大きな経済的影響を与えています。私たちのR/AIのビジョンは、応用研究、公共教育、関与、そして特に小規模企業を含む企業が責任あるAIを開発するのを支援することによって、「責任あるAI」を「AI」と同義にすることです。

過去数ヶ月間、R/AIは、自動化された意思決定システム（ADS）の監督について積極的に会話をしています。私たちのアプローチは、教育活動と政策関与の組み合わせに基づいています。

ニューヨーク市は、Int 1894という法案を検討しています。これは、監査と公開の組み合わせによって、採用におけるADSの使用を規制するものです。R/AIは、この法案について、研究と、公共関与活動から得た洞察に基づいて、公的コメントを提出しました。

私たちは、The GovLabとミュンヘン工科大学のAI倫理研究所と協力して、「AI倫理：グローバルな視点」という無料のオンラインコースを開発しました。これは今月初めに開始されました。

R/AIの最近のプロジェクトの1つは、「データ、責任を持って」というコミックブックシリーズです。シリーズの最初の巻は「鏡、鏡」と呼ばれています。これは、英語、スペイン語、フランス語で利用可能であり、3つの言語すべてでスクリーンリーダーでアクセスできます。このコミックは、イノベーション・オブ・ザ・マンス賞を受賞し、トロント・スターなどで取り上げられました。

採用と雇用の決定におけるAIの偏見に関する現在の、または潜在的な問題についてお話しください。

これは、複雑な質問であり、私たちが「偏見」という用語の意味を明確にする必要があります。重要な点は、自動化された採用システムが「予測分析」であるということです。つまり、これらは過去に基づいて将来を予測します。過去は、会社が採用した個人の歴史的なデータと、これらの個人が仕事でどのように実行したかについてのデータで表されます。システムはこのデータで「トレーニング」され、つまり、統計的なパターンを特定し、これらを使用して予測を行います。これらの統計的なパターンがAIの「魔力」であり、予測モデルが基づいているものです。明らかに、しかし重要な点は、歴史的なデータからこれらのパターンが抽出されたということです。ただし、これらのパターンは、採用されなかった個人のデータを含んでいないため、偏見を生み出す可能性があります。特定の人口統計や社会経済グループから個人が採用されることが多い場合、これらのグループの特徴が予測モデルの一部となります。たとえば、エグゼクティブ役職に採用されるのは、常にトップ大学の卒業生である場合、システムは、他の学校に通った人も同様に実行できるかどうかを学習することができません。同様の問題が、性別、人種、障害の状態にも生じます。

AIにおける偏見は、データにおける偏見だけに限定されません。技術的な解決策が不適切である場合、またはAIの目標が間違っている場合、またはAIの導入後に人間の意思決定が放棄された場合に生じます。各々の理由は、それぞれ独自の議論を必要とし、スペースの制限によりここでは詳しく説明することができません。したがって、データにおける偏見について説明します。

データにおける偏見を説明する際、私は「鏡の反射」のメタファーを使用します。データは世界のイメージであり、その鏡の反射です。データにおける偏見について考える際、私たちはこの反射を調べます。データにおける偏見の1つの解釈は、反射が歪んでおり、世界のいくつかの部分が過少または過大に表現されている、または読み取りが歪んでいるということです。データにおける偏見の別の解釈は、反射が100%忠実であっても、それは現在の世界の反射であり、将来の世界の反射ではないということです。重要な点は、データやアルゴリズムが、世界が完璧な反射であるか、破壊された反射であるか、またはこれらの歪みが複合するかを判断することではないということです。これは、個々、グループ、社会全体が、現在の世界が受け入れられるか、または改善する方法について合意する必要があることです。

予測分析に戻ります。データにおける不平等が強いほど、予測モデルによってこれらが拾われ、将来に複製され、または悪化する可能性が高くなります。

私たちの目標が、公平性と多様性の観点から採用慣行を改善することである場合、機械にこの仕事をアウトソーシングすることはできません。私たちが採用と雇用における偏見の真の原因を特定し、社会的、法的、技術的な解決策について、すべての利害関係者からの入力を得て交渉する必要があります。技術は、我々が現状を改善するのを支援する役割を果たすことができます。ただし、データや予測分析の偏見を除去することで、採用における深刻な差別問題を解決できるという考えは、最善を尽くしてナイーブです。

あなたは最近、ニューヨーク市議会のテクノロジー委員会に証言しました。特に注目すべきコメントは次の通りです。「私たちは、広告の配信における性別や人種の偏見が、Facebookの広告配信において重要な役割を果たしていることを発見しました。」このような偏見を避けるための解決策は何ですか?

私のコメントは、Ali et al.による「最適化を通じた差別：Facebookの広告配信が偏った結果につながる可能性」という素晴らしい論文に基づいています。著者は、広告配信メカニズム自体が差別的な影響を生み出し、増幅させていることを発見しました。明らかに、この発見は、FacebookやGoogle、Twitterなどのプラットフォームの不透明性の背景において、特に問題です。プラットフォームには、差別的な影響を抑制することを迅速に、そして信頼性を持って証明する責任があります。そうでない場合、住宅、雇用、その他の人の生活や生計がかかっている分野でのパーソナライズされた広告ターゲティングの継続的な使用を正当化することはできません。

データサイエントリストやAI開発者は、システムに意図しない偏見が生じないようにするために、どのようにすればよいですか?

これは、データサイエントリストや技術者だけの責任ではありません。技術者は、この戦いの最前線にいます。コンピューターサイエンス者として、私は、私たちが設計するシステムが「客観的」、「最適」、「正確」であると考えることの魅力に気づきます。コンピューターサイエンスとデータサイエンスがどれほど成功し、影響力があり、広く使用されているかということは、祝福と呪いです。私たち技術者は、客観性と正確性の不可能な目標の後ろに隠れることができません。私たちには、世界における私たちの立場について慎重に考え、社会的および政治的プロセスに影響を与えることについて自分自身を教育する責任があります。社会は、私たちが速く進んで物を壊すことを許容できません。私たちには、反省して進む必要があります。

哲学がかつて科学と社会的議論の中心であったことを思い出してください。次に、数学が来て、コンピューターサイエンスが来ました。現在、データサイエンスが中心舞台に立っています。私たちは、哲学的ルーツに戻る必要があります。

あなたは、情報に基づいた公共を創ることの重要性についても言及しました。AIやAI偏見の問題について、AIに精通していない人々や、AIの問題を理解していない人々をどうやって教育することができますか?

技術について非技術者を教育し、技術者の社会的影響について教育する必要性があります。これらの目標を達成するには、政府の強力なコミットメントと大量の投資が必要です。非技術者と技術者両方のために、材料と教育方法を開発し、参加を促進する方法を見つける必要があります。これらの作業を商業エンティティに任せることはできません。欧州連合は、市民の基本的なAI教育を支援するいくつかの政府を擁し、高校プログラムにAIカリキュラムを組み込んでいます。私たちR/AIは、広くアクセス可能な公開コースを開発中であり、AIを私たちが望むものにするために、関与した公共を創り出すことを目指しています。私たちはこの作業について非常に興奮しています。詳細については、来月以降にお楽しみください。

ご詳細な回答ありがとうございます。読者がさらに学びたい場合は、責任あるAIセンターを訪れてください。