ジョブ・アプリカントの履歴書は、有効に性別を除去することができない、AI 研究者が発見

ニューヨーク大学の研究者は、非常に単純な自然言語処理（NLP）モデルが、性別を除去した履歴書から、ジョブ・アプリカントの性別を決定することができることを発見しました。マシンラーニング方法で履歴書からすべての性別指標を除去した場合でも、これは当てはまります。

348,000 の男性/女性の履歴書を処理した研究に基づいて、研究者は次のように結論付けています。

‘履歴書には、多くの性別情報が含まれています。性別を履歴書から隠すために多大な努力をしたにもかかわらず、単純な Tf-Idf モデルは性別を区別することができます。これは、モデルが性別を区別し、バイアスを下流に伝播することを学ぶという懸念を実証しています。’

この発見は、面接プロセス中に性別を隠すことが現実的に可能であるということではなく、AI ベースの批判が人間の介入なしに履歴書を評価する可能性があるため、重要です。人事の AI は、近年、性別バイアスで評判を落としています。

研究者の研究結果は、性別情報が除去されることに非常に強いことを示しています。

NYU 論文の結果。 ソース: https://arxiv.org/pdf/2112.08910.pdf

上記の結果は、0-1 の面積下の受信者操作特性（AUROC）メトリックを使用しています。ここで、「1」は性別の 100% の特定を表します。テーブルには、8 つの実験の範囲が含まれています。

最も低い実験結果（実験 #7 と #8）では、性別を明らかにする情報が除去されており、利用できないほど履歴書が簡素化されています。ただし、単純な NLP モデルである Word2Vec は、約 70% の精度で性別を特定することができます。

研究者は次のように述べています。

‘アルゴリズムベースの採用状況では、これらの結果は、トレーニング データが完全に偏りがない限り、単純な NLP モデルは履歴書から性別を区別し、バイアスを下流に伝播することを学ぶことを意味します。’

著者は、実用的採用パイプラインで履歴書を「性別を除去」するための有効な AI ベースのソリューションがないことを示唆しています。性別バイアスの問題に対処するためのより良いアプローチは、公平な扱いを積極的に強制するマシンラーニング テクニックです。

AI 用語では、これは「ポジティブ ディスクリミネーション」に相当し、性別を明らかにする履歴書は避けられないものとして受け入れられますが、平等主義的な措置として再ランキングが積極的に適用されます。このようなアプローチは、2019 年に LinkedIn によって提案され、2018 年にはドイツ、イタリア、スペインの研究者によって提案されています。

論文は、Gendered Language in Resumes and its Implications for Algorithmic Bias in Hiring というタイトルで、NYU スターン ビジネス スクールのテクノロジー、オペレーションズ、統計学部の Prasanna Parasurama と、スターン ビジネス スクールのテクノロジー、オペレーションズ、統計学部のジョアン セドック氏によって書かれています。

採用における性別バイアス

著者は、性別バイアスが採用手続きにシステム化されつつあることを強調しています。人事マネージャーは、AI ベースの「スクリーニング」プロセスを使用しており、これは性別に基づいて拒否することを意味します。

著者は、2018 年に明らかになった Amazon の採用アルゴリズムのケースを引用しています。このアルゴリズムは、歴史的に男性が採用されることが多かったため、女性の候補者を拒否することを学習しました。

‘モデルは、歴史的な採用データから、男性が採用されることが多いことを学習し、したがって男性の履歴書を女性の履歴書よりも高く評価しました。’

‘候補者の性別はモデルに明示的に含まれていませんでしたが、履歴書の性別情報に基づいて、男性と女性の履歴書を区別することを学習しました。たとえば、男性は「executed」と「captured」という言葉を使用することが多かったです。’

2011 年の研究によると、男性を暗示的に求人する求人広告は、男性を明示的に引き付けるものであり、女性の応募を抑制するものです。デジタル化とビッグデータ スキーマは、これらの慣行を自動化システムにさらに永続させることを約束していますが、これらの症状が積極的に是正されなければなりません。

データ

NYU の研究者は、性別を分類するために予測モデルを使用して、シリーズのモデルをトレーニングしました。さらに、モデルが性別を予測する能力が、潜在的に性別を明らかにする情報の除去に耐えられるかどうかを調べることを目指しました。

データセットは、8 つの米国ベースの IT 社の応募者履歴書から作成され、各履歴書には名前、性別、経験年数、専門分野または研究分野、応募した仕事の詳細が含まれていました。

このデータから、Word2Vec モデルをトレーニングして、より深いコンテキスト情報をベクトル表現として抽出しました。これは、トークンに解析され、フィルタリングされ、最終的に各履歴書に 1 つの埋め込み表現が得られました。

男性と女性のサンプルは 1 対 1 にマッチングされ、エラーの余地が 2 年の経験で、最も適切な男性と女性の候補者をペアにしてサブセットを作成しました。したがって、データセットには、174,000 の男性と 174,000 の女性の履歴書が含まれています。

アーキテクチャとライブラリ

分類タスクに使用された 3 つのモデルは、TF-IDF + ロジスティック、ワード エンベッディング + ロジスティック、ロングフォーマーでした。

最初のモデルは、語彙の違いを基に性別を区別するバッグ オブ ワーズ ベースラインを提供します。2 番目のアプローチは、オフザシェルフのワード エンベッディング システムと、性別を除去したワード エンベッディングの両方で使用されました。

データは、トレーニング、評価、テスト用に 80/10/10 に分割されました。

上記の結果からも明らかなように、トランスフォーマー ベースのロングフォーマー ライブラリは、以前のアプローチよりもはるかに洗練され、性別を明らかにする情報が除去されたドキュメントから性別を検出する能力において、ほぼ「保護されていない」履歴書と同等のレベルでした。

実験には、性別を明らかにする情報が除去された履歴書に対するデータ削除研究が含まれていました。

除去された情報には、趣味（ウィキペディアの定義による）、LinkedIn ID、性別を明らかにする可能性のある URL が含まれました。さらに、「フラタニティ」、「ウェイトレス」、「セールスマン」などの用語は、これらのスパース バージョンから削除されました。

追加の結果

上記の結果に加えて、NYU の研究者は、性別を除去したワード エンベッディングが、モデルが性別を予測する能力を低下させることはなかったことを発見しました。論文では、著者は、性別が書かれた言語にどの程度浸透しているかを示唆していますが、これらのメカニズムとシグナラーはまだ十分に理解されていないことを示しています。