金融犯罪におけるAIベースシステムの偏見と公平性

金融犯罪に対する対策において、単に詐欺師や悪意のある行為者を阻止することだけでは対処できない課題がある。

新しく導入される最先端の技術には、採用段階で考慮する必要がある特有の問題があり、規制上の影響を受けないように詐欺師と戦うためにこれらの問題を考慮する必要がある。詐欺検出において、モデル公平性とデータ偏見が発生する可能性があり、システムが特定のグループまたはカテゴリのデータを過度に重視したり、不足したりすることがある。理論的には、予測モデルは、他の文化からの名字と詐欺アカウントを誤って関連付けたり、特定の金融活動に対する人口セグメントのリスクを誤って低下させたりすることがある。

偏ったAIシステムは、評判が影響を受ける可能性があるため、重大な脅威を表し、利用可能なデータが人口または探索の現象を代表していない場合に発生する。このデータには、予測しようとしている現象を適切に捉える変数が含まれていない。あるいは、データには、人間によって生成されたコンテンツが含まれており、これには、文化的および個人的な経験によって引き起こされる、人々のグループに対する偏見が含まれており、決定を下す際に歪みを生じる可能性がある。データは最初は客観的であるように見えるが、人間によって収集および分析されるため、偏った可能性がある。

偏見と不公平性の問題に対する根本的な解決策は存在しないが、これらの問題は社会的およびビジネス上の理由から考慮する必要がある。

AIにおける正しいこと

AIベースシステムにおける偏見に対処することは、ビジネス上の賢いことであり、ビジネスリーダーにとっての賭けは高くなる。偏ったAIシステムは、金融機関に不公平な機会、リソース、情報、またはサービスを割り当てることによって、間違った道に導く可能性がある。また、偏ったAIシステムは、市民的自由を侵害したり、個人の安全を危険にさらしたり、個人の幸福に影響を与えたりする可能性もある。

企業はAI偏見の力とリスクを理解することが重要である。機関が知らないうちに、偏ったAIベースシステムは、人種や性別の偏見を貸し出し決定に公開する有害なモデルまたはデータを使用している可能性がある。名前や性別などの情報は、違法な方法で申請者を分類および識別するための代理として使用される可能性がある。偏見が意図的でない場合でも、機関は規制要件に準拠していないため、リスクにさらされる可能性があり、特定のグループの人々が不当にローンや信用ラインを拒否される可能性がある。

現在、組織にはAIシステムにおける偏見を効果的に軽減するための手段が不足している。しかし、AIがビジネス全体で意思決定を支援するために導入されるにつれて、組織は、道徳的な理由だけでなく、規制要件に準拠し、収益を増やすために、偏見を軽減するよう努めることが重要である。

「公平性を意識した」文化と実装

公平性を意識した設計と実装に焦点を当てたソリューションは、最も有益な成果をもたらす。提供者は、責任あるデータ収集、処理、管理をアルゴリズムの公平性の必要なコンポーネントとして考慮する分析文化を持っている必要がある。AIプロジェクトの結果が偏った、妥協された、または歪んだデータセットによって生成された場合、影響を受ける当事者は差別的な損害から適切に保護されないからである。

これらは、データサイエンスチームが考慮する必要があるデータ公平性の要素である：

• 代表性:コンテキストに応じて、データサンプルにおける不利な立場にあるグループまたは法律で保護されているグループの代表性が不足している、または過剰である場合、トレーニングされたモデルの結果として脆弱な当事者が体系的に不利になる可能性がある。这种のサンプリング偏見を避けるために、ドメインの専門知識が、収集されたデータとモデル化されるべき根底的な人口との適合性を評価するために不可欠である。テクニカルチームのメンバーは、サンプリングの代表的な欠陥を修正するための手段を提供する必要がある。
• 目的適合性と十分性:プロジェクトの目的のために収集されたデータが十分かどうかを理解することが重要である。データセットが不足している場合、AIシステムの目的と一致する正当な結果を生み出すために考慮されるべき特性を公平に反映できない可能性がある。したがって、プロジェクトチームの技術的および政策的能力を持つメンバーは、データの量が十分で目的適合性があるかどうかを共同で決定する必要がある。
• ソースの完全性と測定精度:有効な偏見軽減は、データ抽出と収集プロセスの最初の段階から始まる。ソースと測定ツールは、データセットに差別的な要素を導入する可能性がある。差別的な危害を回避するために、データサンプルには最適なソースの完全性が必要である。これには、データ収集プロセスが適切で信頼性が高く公平な測定ソースとロバストな収集方法を使用していることを確認することが含まれる。
• 適時性と新鮮度:データセットが古いデータを含む場合、基礎となるデータ分布の変化は、トレーニングされたモデルの一般性に悪影響を及ぼす可能性がある。これらの分布の変化が社会的関係やグループのダイナミクスの変化を反映する場合、基礎となる人口の実際の特性に関する精度の低下は、AIシステムに偏見を導入する可能性がある。差別的な結果を防ぐために、データセットのすべての要素の適時性と新鮮度を慎重に検討する必要がある。
• 関連性、適切性、ドメイン知識:最も適切なソースとデータの種類を理解して使用することは、強固で偏りのないAIシステムを構築する上で非常に重要である。基礎となる人口分布とプロジェクトの予測目標に関するドメイン知識は、定義された解決策の合理的な解決に貢献する最適な関連測定入力を選択する上で不可欠である。ドメインの専門家は、最適なカテゴリと測定ソースを決定するために、データサイエンスチームと密接に協力する必要がある。

AIベースシステムは、意思決定の自動化プロセスを支援し、コストを節約するが、金融機関は、偏った決定が行われないようにするために、AIを解決策として検討する必要がある。コンプライアンスリーダーは、AIの能力が責任あるもので、有効で、偏りのないものであることを確認するために、データサイエンスチームと密接に連携する必要がある。責任あるAIを推進する戦略は、正しいことであり、将来のAI規制への準拠への道でもある。