AI 基于系统中的偏见和公平性

在打击金融犯罪方面，挑战不仅仅是阻止诈骗者或其他恶意行为者，还包括其他问题。

一些最新的、先进的技术在推出时往往带有特定的问题，这些问题必须在采用阶段考虑，以便在不违反监管规定的情况下成功打击诈骗者。在欺诈检测中，模型公平性和数据偏见可能会出现，当系统对某些群体或数据类别的权重过大或代表性不足时就会发生这种情况。理论上，预测模型可能会错误地将其他文化的姓氏与欺诈账户关联起来，或者在某些金融活动中错误地降低某些人群的风险。

偏见的 AI 系统可能构成严重的威胁，当声誉可能受到影响时就会发生这种情况，原因是可用的数据不代表人口或探索现象。这些数据不包括适当的变量来预测我们想要预测的现象。或者，数据可能包含人类产生的内容，这些内容可能包含针对某些群体的偏见，这些偏见源于文化和个人经验，导致决策时产生偏差。虽然数据看起来似乎是客观的，但它仍然是由人类收集和分析的，因此可能存在偏见。

虽然没有解决 AI 系统中歧视和不公平的危险的银弹，或者在构建机器学习模型和使用中没有永久的解决方案来解决公平性和偏见的缓解问题，但这些问题必须出于社会和商业原因而被考虑。

在 AI 中做正确的事情

解决 AI 基于系统中的偏见不仅是正确的事情，也是商业上明智的事情——企业领导者的风险很高。偏见的 AI 系统可能会将金融机构引向错误的方向，通过不公平地分配机会、资源、信息或服务质量。它们甚至可能侵犯公民自由，危及个人安全，或者影响个人福祉，如果被视为轻蔑或冒犯的话。

对于企业来说，了解 AI 偏见的力量和风险非常重要。虽然机构可能不知道，但一个偏见的 AI 基于系统可能正在使用有害的模型或数据，这些数据可能包含种族或性别偏见，影响贷款决策。诸如姓名和性别等信息可能成为非法分类和识别申请人的代理人。即使偏见是无意的，它仍然将组织置于风险之中，因为它可能不符合监管要求，并可能导致某些群体被不公平地拒绝贷款或信用额度。

目前，组织没有足够的措施来有效地减轻 AI 系统中的偏见。但是，随着 AI 在企业中越来越多地被用于决策自动化和节省成本，组织必须谨慎地确保偏见决策不会发生。合规领导者应该与数据科学团队保持一致，以确保 AI 能力是负责的、有效的和无偏见的。拥有一个倡导负责 AI 的战略是正确的事情，它也可能提供了一条遵守未来 AI 法规的途径。

“公平意识”文化和实施

专注于公平意识设计和实施的解决方案将会带来最有益的结果。提供者应该拥有一个分析文化，考虑负责的数据采集、处理和管理作为算法公平性的必要组成部分，因为如果 AI 项目的结果是由偏见、损害或偏斜的数据集生成的，受影响的方将无法充分地受到保护，免受歧视性的伤害。

以下是数据公平性中数据科学团队必须牢记的要素：

• 代表性：根据上下文，不论是代表性不足还是过度代表性，数据样本中可能会导致对弱势群体或合法保护群体的系统性不利。为了避免这种采样偏见，领域专业知识将在评估数据与被建模的基础人口之间的适合度方面发挥关键作用。技术团队成员应该提供纠正代表性缺陷的方法。
• 适用性和充分性：了解数据是否适合项目的预期目的至关重要。数据集如果不足，可能无法公平地反映应该用于产生公正结果的质量。因此，具有技术和政策能力的项目团队成员应该合作，确定数据量是否足够和适用。
• 源完整性和测量准确性：有效的偏见缓解从数据提取和收集过程的开始就开始。测量的来源和工具可能会将歧视性因素引入数据集。为了确保不造成歧视性的伤害，数据样本必须具有最佳的源完整性。这涉及确保数据收集过程中使用了适当、可靠和公正的测量来源和收集方法。
• 及时性和新鲜度：如果数据集包含过时的数据，数据分布的变化可能会对训练模型的普遍性产生不利影响。假设这些分布变化反映了社会关系或群体动态的变化，这种对基础人口的实际特征的准确性的损失可能会将偏见引入 AI 系统。为了防止歧视性的结果，数据集的所有元素的及时性和新鲜度都应该受到审查。
• 相关性、适当性和领域知识：理解和使用最合适的数据来源和类型对于构建强大和无偏见的 AI 系统至关重要。对基础人口分布和项目预测目标的坚实领域知识，对于选择能够为解决方案的合理决策做出贡献的最相关的测量输入至关重要。领域专家应该与数据科学团队密切合作，以确定最合适的测量类别和来源。

虽然 AI 基于系统在决策自动化过程中提供帮助并带来成本节约，但考虑将 AI 作为解决方案的金融机构必须谨慎地确保偏见决策不会发生。合规领导者应该与数据科学团队保持一致，以确保 AI 能力是负责的、有效的和无偏见的。拥有一个倡导负责 AI 的战略是正确的事情，它也可能提供了一条遵守未来 AI 法规的途径。