思想领袖
AI 与金融犯罪预防：为什么银行需要平衡的方法
AI 是银行的双刃剑：一方面，它为银行带来了许多更高效的运营可能性，但另一方面，它也带来了外部和内部风险。
金融犯罪者正在利用这项技术制造 深度伪造视频、声音和假文件，这些文件可以通过计算机和人类检测，或者加速电子邮件欺诈活动。在美国，生成式 AI 预计将加速欺诈损失，到 2027 年，年度增长率将达到 32%，达到 400 亿美元，根据德勤最近的一份 报告。
也许，银行的回应应该是武装自己更好的工具，利用 AI 来预防金融犯罪。金融机构正在开始部署 AI 来监控交易、生成可疑活动报告、自动化欺诈检测等。这些有可能加速流程同时提高准确性。
问题在于，当银行没有平衡地实施 AI 时，会影响合规性、偏见和适应新威胁的能力。
我们相信在金融领域采取谨慎的混合方法来采用 AI，这种方法将继续需要人类的输入。
基于规则和 AI 驱动的 AFC 系统的区别
传统上，AFC（特别是反洗钱（AML）系统）都使用了由合规团队根据法规制定的固定规则。例如，在交易监控中，这些规则被实施以根据特定的预定义标准（如交易金额阈值或地理风险因素）标记交易。
AI 提出了一个新的筛选金融犯罪风险的方法。机器学习模型可以根据一系列不断演变的数据集来检测可疑模式。该系统分析交易、历史数据、客户行为和背景数据来监控可疑活动，同时随着时间的推移进行学习，提供自适应和可能更有效的犯罪监控。
然而，虽然基于规则的系统是可预测和容易审计的，AI 驱动的系统引入了一个复杂的“黑盒”元素，原因是决策过程不透明。很难追踪 AI 系统的推理过程，以确定为什么某些行为被标记为可疑，因为涉及的元素太多。这可能导致 AI 系统根据过时的标准或提供事实错误的见解而得出某些结论，而这些问题可能不会立即被发现。它还可能为金融机构的监管合规带来问题。
可能的监管挑战
金融机构必须遵守严格的监管标准，例如欧盟的 反洗钱指令 和美国的 银行保密法，这些标准要求明确、可追踪的决策过程。AI 系统，特别是深度学习模型，可能难以解释。
为了确保在采用 AI 时的问责制，银行需要仔细规划、彻底测试、专门的合规框架和人类监督。人类可以通过解释标记交易的理由，使其可解释和可辩护地呈现给监管机构，从而验证自动化决策。
金融机构也越来越受到压力，要求使用 可解释的 AI（XAI）工具，使 AI 驱动的决策对监管机构和审计员可理解。XAI 是一个使人类能够理解 AI 系统输出和其底层决策过程的过程。
需要人类判断的整体视角
采用 AI 不应导致对自动化系统的自满。人类分析师带来了上下文和判断力，这些是 AI 所缺乏的，使得在复杂或模糊的案例中能够进行细致的决策，这仍然是 AFC 调查中的必需品。
依赖 AI 的风险包括错误（例如假阳性、假阴性）和偏见的可能性。AI 可能容易出现假阳性，如果模型没有良好地调整或是在有偏见的数据上训练。虽然人类也容易出现偏见，但 AI 的附加风险是很难在系统中识别偏见。
此外，AI 模型运行在输入的数据上，它们可能无法捕捉到历史趋势之外的新颖或罕见的可疑模式，或者基于现实世界的见解。用 AI 替换基于规则的系统可能会在 AFC 监控中留下盲点。
在偏见、模糊性或新颖性的情况下，AFC 需要一个有辨别力的眼睛，这是 AI 无法提供的。如果我们从流程中删除人类，可能会严重阻碍团队理解金融犯罪模式、识别模式和发现新兴趋势的能力。反过来，这可能会使保持任何自动化系统的更新更加困难。
混合方法：结合基于规则和 AI 驱动的 AFC
金融机构可以将基于规则的方法与 AI 工具相结合，创建一个多层次的系统，该系统利用两种方法的优势。混合系统将使 AI 实施更加准确和灵活地应对新兴的金融犯罪威胁，同时不会牺牲透明度。
为了实现这一点，机构可以将 AI 模型与持续的人类反馈相结合。模型的自适应学习将不仅基于数据模式，还基于人类输入来完善和重新平衡它。
并非所有 AI 系统都相同。AI 模型应经过持续的测试，以评估准确性、公平性和合规性，并根据监管变化和新的威胁情报（由 AFC 团队确定）进行定期更新。
风险和合规专家应接受 AI 培训，或者应聘一名 AI 专家加入团队，以确保 AI 开发和部署是在特定范围内进行的。他们还应制定特定于 AI 的合规框架，建立遵守监管的途径，在合规领域中是一个新兴领域。
在采用 AI 的过程中，必须确保组织的所有元素都被告知新 AI 模型的能力，但也告知其局限性（例如潜在的偏见），以使他们更能察觉潜在的错误。
您的组织还必须在采取战略考虑方面做出其他决定，以保护安全和数据质量。投资高质量的安全数据基础设施并确保它们在准确和多样化的数据集上进行训练是至关重要的。
AI 是和将继续成为银行的双刃剑：既是威胁也是防御工具。但是，他们需要正确处理这项强大的新技术，以避免制造问题而不是解决问题。
