基于人工智能的系统在金融犯罪中的偏见和公平性

当谈到打击金融犯罪时，挑战不仅仅是阻止诈骗者或其他恶意行为者。一些最新的、先进的技术在推出时往往有其自身的特定问题，这些问题必须在采用阶段考虑，以便在不违反监管规定的情况下成功打击诈骗者。在欺诈检测中，模型的公平性和数据偏见可能会发生，当系统过度偏重或缺乏某些群体或类别的数据表示时。理论上，预测模型可能会错误地将其他文化的姓氏与欺诈账户关联起来，或者在某些类型的金融活动中错误地降低某些人群的风险。

偏见的人工智能系统可能会构成严重的威胁，当可用数据不能代表所要探索的现象或人口时就会发生这种情况。这些数据可能不包括能够正确捕捉所要预测的现象的变量，或者数据可能包含由文化和个人经历继承的偏见，这可能会导致决策失真。虽然数据看起来似乎是客观的，但它仍然是由人类收集和分析的，因此可能存在偏见。

虽然没有万能的解决方案来消除人工智能系统中的歧视和不公平的危险，也没有永久的解决方案来解决机器学习模型和使用中的公平性和偏见缓解问题，但这些问题必须出于社会和商业原因而被考虑。

在人工智能中做正确的事

解决人工智能系统中的偏见不仅是正确的做法，也是商业上明智的做法——而且商业领导者的风险很高。偏见的人工智能系统可能会将金融机构引向错误的方向，通过不公平地分配机会、资源、信息或服务质量。它们甚至可能侵犯公民自由，危及个人安全，或影响个人福祉，如果被认为是轻蔑或冒犯性的。

对于企业来说，了解人工智能偏见的力量和风险至关重要。虽然机构可能不知道，但一个偏见的人工智能系统可能正在使用有害的模型或数据，这些数据可能会将种族或性别偏见引入贷款决策中。诸如姓名和性别等信息可能成为以非法方式对申请人进行分类和识别的代理。即使偏见是无意的，它仍然会将组织置于风险之中，因为它没有遵守监管要求，并可能导致某些群体被不公平地拒绝贷款或信用额度。

目前，组织没有足够的措施来有效地减轻人工智能系统中的偏见。但是，随着人工智能在企业中越来越多地被用来支持决策，组织必须努力减少偏见，不仅是出于道德原因，也是为了遵守监管要求和增加收入。

“公平意识”文化和实施

专注于公平意识设计和实施的解决方案将带来最有益的结果。提供商应该具有分析文化，负责数据采集、处理和管理是算法公平性的必要组成部分，因为如果人工智能项目的结果是由有偏见、受损或有偏见的数据集生成的，受影响的各方将无法得到充分的保护，以免受歧视性的伤害。

这些是数据科学团队必须牢记的数据公平性要素：

• 代表性： 根据上下文，数据样本中弱势群体或法律保护群体的代表性不足或过度代表可能会导致模型训练结果系统性地不利于弱势群体。为了避免这种采样偏见，领域专业知识将在评估收集或获取的数据与要建模的底层人口的适合性方面发挥关键作用。技术团队成员应提供纠正代表性缺陷的采样方法。
• 适用性和充分性： 了解收集的数据是否足以实现项目的预期目的至关重要。数据集不足可能无法公平地反映应该用于产生公正结果的品质，这些结果应符合人工智能系统的预期目的。因此，具有技术和政策能力的项目团队成员应合作确定数据数量是否充分和适用。
• 源完整性和测量准确性： 有效的偏见缓解从数据提取和收集过程的开始就开始。测量的来源和工具可能会将歧视性因素引入数据集。为了确保不歧视性地伤害，数据样本必须具有最佳的源完整性。这涉及确保数据收集过程涉及适当、可靠和公正的测量来源和强大的收集方法。
• 及时性和新鲜度： 如果数据集包含过时的数据，则底层数据分布的变化可能会对训练模型的普遍性产生不利影响。假设这些分布漂移反映了社会关系或群体动态的变化，这种对底层人口的实际特征的准确性损失可能会将偏见引入人工智能系统。为了防止歧视性结果，数据集的所有元素的及时性和新鲜度都应受到审查。
• 相关性、适当性和领域知识： 使用最合适的数据源和类型来构建强大和无偏见的人工智能系统至关重要。对底层人口分布和项目的预测目标有坚实的领域知识，对于选择有利于解决方案的合理决策的最相关的测量输入至关重要。领域专家应与数据科学团队密切合作，以确定最合适的类别和测量来源。

虽然基于人工智能的系统可以帮助自动化决策过程并带来成本节约，但考虑将人工智能作为解决方案的金融机构必须保持警惕，以确保不发生偏见决策。合规领导者应与数据科学团队保持一致，以确认人工智能能力是负责的、有效的和无偏见的。拥有一个倡导负责人工智能的战略是正确的做法，它还可能为遵守未来的人工智能法规提供了一条途径。