AIベースのシステムにおけるバイアスと公平性

金融犯罪と戦う場合、詐欺師やその他の悪意のある行為者を止めること以外の課題が存在します。

新しく導入される最先端のテクノロジーには、採用段階で考慮する必要がある独自の問題があります。これらの問題を解決することで、規制上の影響を受けることなく詐欺師と戦うことができます。詐欺検知では、モデルフェアネスとデータバイアスが発生する可能性があります。システムが特定のグループまたはカテゴリのデータに偏って重み付けされている場合、または表現が不足している場合にこれが発生します。理論的には、予測モデルは、他の文化からの名字と詐欺アカウントを誤って関連付けたり、特定の金融活動の人口セグメント内でのリスクを誤って低下させたりする可能性があります。

バイアスされたAIシステムは、評判が影響を受ける可能性があるため、重大な脅威を表します。これは、利用可能なデータが人口や探索対象の現象を代表していない場合に発生します。このデータには、予測したい現象を適切に捉えるために必要な変数が含まれていません。あるいは、データには、文化的および個人的な経験によって生じる、人々のグループに対する偏見を含む、人間によって生成されたコンテンツが含まれている可能性があります。これにより、決定を下す際に歪みが生じます。最初はデータが客観的であるように見えるかもしれませんが、データは人間によって収集および分析されるため、バイアスを含む可能性があります。

AIシステムや機械学習モデルの設計および使用における偏見と不公平性の問題には、銀の弾丸のような解決策はありませんが、これらの問題は社会的およびビジネス上の理由で考慮する必要があります。

AIにおける正しいこと

AIベースのシステムにおけるバイアスを解決することは、ビジネス上の賢いことであり、ビジネスリーダーにとっての賭けは高くなります。バイアスされたAIシステムは、金融機関を間違った道に導く可能性があり、機会、リソース、情報、またはサービス品質を不公平に割り当てる可能性があります。これらは、市民的自由を侵害したり、個人の安全を危険にさらしたり、個人の幸福に影響を与えたりする可能性もあります。

企業は、AIバイアスの力とリスクを理解することが重要です。機関が知らないうちに、バイアスされたAIベースのシステムは、人種や性別の偏見を貸し出し決定に使用する有害なモデルまたはデータを使用している可能性があります。名前や性別などの情報は、違法な方法で申し込み者を分類および識別するための代理として使用される可能性があります。バイアスが意図的でない場合でも、機関は規制要件に準拠していないためリスクにさらされ、特定のグループの人々が不当にローンや信用ラインを拒否される可能性があります。

現在、組織はAIシステムにおけるバイアスを効果的に軽減するための手段を持ち合わせていません。しかし、AIが意思決定の自動化プロセスを支援し、コストを削減するために、企業が増えてきているため、組織はバイアスを減らすことを目指すことが重要です。規制要件に準拠し、収益を増やすためには、道徳的な理由だけでなく、バイアスを減らすことが必要です。

「公平性を意識した」文化と実装

公平性を意識した設計と実装に焦点を当てたソリューションは、最も有益な成果をもたらすでしょう。プロバイダーは、責任あるデータの取得、処理、管理をアルゴリズムの公平性の必要なコンポーネントとして考慮する分析文化を持っている必要があります。AIプロジェクトの結果が偏った、妥協された、または歪んだデータセットによって生成される場合、影響を受ける当事者は差別的な損害から十分に保護されません。

データサイエンスチームが考慮する必要があるデータの公平性の要素は次のとおりです。

• 代表性:状況によっては、不利な立場にあるグループまたは法律で保護されているグループのデータサンプルにおける過少代表または過剰代表が、トレーニングされたモデルの結果で脆弱な当事者を体系的に不利に扱う可能性があります。这种種のサンプリングバイアスを避けるために、ドメインの専門知識は、収集または取得されたデータとモデル化される根本的な人口との適合性を評価するために不可欠です。テクニカルチームのメンバーは、サンプリングの代表性の欠陥に対する是正措置を提供する必要があります。
• 目的適合性と十分性:プロジェクトの目的のために収集されたデータが十分かどうかを理解することが重要です。データセットが不足している場合、AIシステムの目的のために必要な特性を公平に反映することができません。したがって、技術的および政策的能力を持つプロジェクトチームのメンバーは、データの量が十分で目的適合性があるかどうかを共同で判断する必要があります。
• ソースの完全性と測定の精度:有効なバイアス軽減は、データ抽出と収集プロセスの初期段階から始まります。ソースと測定ツールは、データセットに差別的な要因を導入する可能性があります。差別的損害を防ぐために、データサンプルには最適なソースの完全性が必要です。これには、データ収集プロセスが適切で信頼性が高く公平な測定ソースと堅牢な収集方法を使用していることを確認することが含まれます。
• 適時性と新鮮度:データセットが古いデータを含む場合、基本的なデータ分布の変化により、トレーニングされたモデルの汎用性が悪くなる可能性があります。これらの分布の変化が社会的関係やグループのダイナミクスの変化を反映する場合、基本的な人口の実際の特性に関する精度の低下により、AIシステムにバイアスが導入される可能性があります。差別的な結果を防ぐために、データセットのすべての要素の適時性と新鮮度を注意深く検討する必要があります。
• 関連性、適切性、ドメイン知識:最も適切なソースとデータの種類を使用することは、ロバストでバイアスがないAIシステムを構築するために不可欠です。基本的な人口分布とプロジェクトの予測目標に関する堅牢なドメイン知識は、解決策の合理的な解決に貢献する最適な関連測定入力を選択するために不可欠です。ドメインの専門家は、最適なカテゴリと測定ソースを決定するために、データサイエンスチームと密接に協力する必要があります。

AIベースのシステムは、意思決定の自動化プロセスを支援し、コストを削減するのに役立ちますが、金融機関は、偏った決定が行われないことを確認するために、注意を払う必要があります。コンプライアンスのリーダーは、データサイエンスチームと密接に協力して、AIの機能が責任があり、効果的で、バイアスがないことを確認する必要があります。責任あるAIを推進する戦略は、正しいことであり、将来のAI規制への準拠への道でもあります。