Искусственный интеллект и предотвращение финансовых преступлений: почему банкам нужен сбалансированный подход

Искусственный интеллект – это двусторонняя монета для банков: хотя он открывает многие возможности для более эффективных операций, он также может представлять внешние и внутренние риски.

Финансовые преступники используют технологию для создания deepfake-видео, голосов и фальшивых документов, которые могут обмануть компьютерные и человеческие системы обнаружения, или для усиления деятельности по мошенничеству с электронной почтой. Только в США генеративный ИИ, как ожидается, ускорит потери от мошенничества на 32% в год, достигнув 40 миллиардов долларов США к 2027 году, согласно недавнему отчету Deloitte.

Может быть, тогда ответ банков должен заключаться в том, чтобы вооружиться еще лучше инструментами, используя ИИ во всей деятельности по предотвращению финансовых преступлений. Финансовые учреждения действительно начинают использовать ИИ в антифинансовых преступлениях (АФП) – для мониторинга транзакций, генерации отчетов о подозрительных действиях, автоматизации обнаружения мошенничества и т. д. Эти меры имеют потенциал ускорить процессы, повышая при этом точность.

Проблема возникает, когда банки не балансируют внедрение ИИ с человеческим суждением. Без человека в цикле внедрение ИИ может повлиять на соблюдение правил, предвзятость и адаптивность к новым угрозам.

Мы верим в осторожный, гибридный подход к внедрению ИИ в финансовом секторе, который будет продолжать требовать человеческого участия.

Разница между правилами, основанными на ИИ, и системами АФП

Традиционно АФП – и, в частности, системы против отмывания денег (AML) – работали с фиксированными правилами, установленными командами по соблюдению правил в ответ на нормативные акты. В случае мониторинга транзакций, например, эти правила реализуются для флагирования транзакций на основе конкретных предварительно определенных критериев, таких как пороги суммы транзакции или географические факторы риска.

ИИ представляет новый способ скрининга финансовых преступлений. Модели машинного обучения можно использовать для обнаружения подозрительных закономерностей на основе серии наборов данных, которые постоянно эволюционируют. Система анализирует транзакции, исторические данные, поведение клиентов и контекстные данные для мониторинга подозрительных действий, обучаясь со временем, предлагая адаптивный и потенциально более эффективный мониторинг преступлений.

Однако, хотя системы, основанные на правилах, предсказуемы и легко аудитируемы, системы, основанные на ИИ, вводят сложный “черный ящик” из-за не透рачных процессов принятия решений. Труднее отслеживать рассуждения системы ИИ для флагирования определенного поведения как подозрительного, учитывая, что участвует так много элементов. Это может привести к тому, что ИИ достигнет определенного вывода на основе устаревших критериев или предоставит фактически неверные сведения, без того, чтобы это было сразу обнаружено. Это также может вызвать проблемы для соблюдения правил финансовыми учреждениями.

Возможные нормативные проблемы

Финансовые учреждения должны соблюдать строгие нормативные стандарты, такие как Директива ЕС о борьбе с отмыванием денег и Закон США о банковской тайне, которые требуют ясных, прослеживаемых процессов принятия решений. Системы ИИ, особенно модели глубокого обучения, могут быть трудными для интерпретации.

Чтобы обеспечить подотчетность при внедрении ИИ, банкам необходимо тщательное планирование, тщательное тестирование, специализированные рамки соблюдения правил и человеческий надзор. Люди могут проверить автоматические решения, интерпретируя рассуждения, лежащие в основе флагирования транзакции, что делает ее объяснимой и обоснованной для регулирующих органов.

Финансовые учреждения также находятся под все большим давлением, чтобы использовать инструменты объяснимого ИИ (XAI), чтобы сделать решения, основанные на ИИ, понятными для регулирующих органов и аудиторов. XAI – это процесс, который позволяет людям понять вывод ИИ-системы и лежащие в основе процессы принятия решений.

Человеческое суждение, необходимое для целостного взгляда

Внедрение ИИ не должно привести к самоуспокоенности с автоматизированными системами. Человеческие аналитики приносят контекст и суждение, которых не хватает ИИ, позволяя принимать тонкие решения в сложных или неоднозначных случаях, что остается важным в расследованиях АФП.

Среди рисков зависимости от ИИ есть возможность ошибок (например, ложных положительных, ложных отрицательных) и предвзятости. ИИ может быть склонен к ложным положительным, если модели не хорошо настроены или обучены на предвзятых данных. Хотя люди также подвержены предвзятости, дополнительный риск ИИ заключается в том, что может быть трудно выявить предвзятость в системе.

Кроме того, модели ИИ работают на основе данных, которые им предоставляются – они могут не обнаружить новые или редкие подозрительные закономерности вне исторических тенденций или на основе реальных данных. Полная замена систем, основанных на правилах, на ИИ может оставить слепые зоны в мониторинге АФП.

В случаях предвзятости, двусмысленности или новизны АФП требует проницательного взгляда, которого ИИ не может обеспечить. В то же время, если мы удалим людей из процесса, это может серьезно ограничить способность команд понимать закономерности финансовых преступлений, выявлять закономерности и определять новые тенденции. Это, в свою очередь, может затруднить поддержание автоматизированных систем в актуальном состоянии.

Гибридный подход: объединение систем АФП, основанных на правилах, и ИИ

Финансовые учреждения могут объединить подход, основанный на правилах, с инструментами ИИ, чтобы создать многослойную систему, которая использует сильные стороны обоих подходов. Гибридная система сделает внедрение ИИ более точным в долгосрочной перспективе и более гибким в решении новых угроз финансовых преступлений, не жертвуя при этом прозрачностью.

Для этого учреждения могут интегрировать модели ИИ с постоянным человеческим обратной связью. Адаптивное обучение моделей будет основано не только на закономерностях данных, но и на человеческом вводе, который уточняет и сбалансирует его.

Не все системы ИИ равны. Модели ИИ должны проходить постоянное тестирование для оценки точности, справедливости и соблюдения правил, с регулярными обновлениями на основе изменений правил и новой информации о угрозах, выявленных командами АФП.

Эксперты по риску и соблюдению правил должны быть обучены ИИ или нанять эксперта по ИИ в команду, чтобы обеспечить, что разработка и внедрение ИИ осуществляются в определенных рамках. Они также должны разработать рамки соблюдения правил, специфичные для ИИ, устанавливая путь к соблюдению правил в новом секторе для экспертов по соблюдению правил.

В рамках внедрения ИИ важно, чтобы все элементы организации были проинформированы о возможностях новых моделей ИИ, с которыми они работают, но также и о их ограничениях (таких как потенциальная предвзятость), чтобы сделать их более чувствительными к потенциальным ошибкам.

Ваша организация также должна принять определенные стратегические решения, чтобы сохранить безопасность и качество данных. Это важно инвестировать в высококачественную, безопасную инфраструктуру данных и обеспечить, что они обучены на точных и разнообразных наборах данных.

ИИ является и будет продолжать быть как угрозой, так и оборонительным инструментом для банков. Но они должны обращаться с этой мощной новой технологией правильно, чтобы не создавать проблемы, а решать их.