Предвзятость и справедливость ИИ-основанных систем в борьбе с финансовыми преступлениями

Когда речь идет о борьбе с финансовыми преступлениями, существуют проблемы, которые выходят за рамки простого предотвращения мошенничества или других противоправных действий.

Некоторые из最新ших и передовых технологий, которые запускаются, часто имеют свои собственные специфические проблемы, которые необходимо учитывать на этапах внедрения, чтобы успешно бороться с мошенниками без регулирующих последствий. В обнаружении мошенничества справедливость модели и предвзятость данных могут возникнуть, когда система более сильно взвешена или лишена представительства определенных групп или категорий данных. В теории прогностическая модель могла бы ошибочно ассоциировать фамилии из других культур с мошенническими счетами или ложно уменьшить риск внутри сегментов населения для определенных типов финансовых hoạtностей.

Предвзятые системы ИИ могут представлять серьезную угрозу, когда репутации могут быть затронуты, и возникает, когда доступные данные не представляют собой популяцию или явление, которое мы хотим предсказать. Эти данные не включают переменные, которые должным образом отражают явление, которое мы хотим предсказать. Альтернативно данные могут включать контент, созданный людьми, который может содержать предвзятость против групп людей, унаследованную от культурных и личных опытов, что приводит к искажениям при принятии решений. Хотя сначала данные могут показаться объективными, они все равно собираются и анализируются людьми и, следовательно, могут быть предвзятыми.

Хотя нет серебряной пули, когда речь идет о ликвидации опасностей дискриминации и несправедливости в системах ИИ или постоянных исправлениях проблемы справедливости и смягчения предвзятости при проектировании моделей машинного обучения и использовании, эти проблемы должны быть рассмотрены как для социальных, так и для деловых причин.

Делание правильных вещей в ИИ

Решение проблемы предвзятости в ИИ-основанных системах не только правильное, но и умное дело для бизнеса — и ставки для лидеров бизнеса высоки. Предвзятые системы ИИ могут привести финансовые учреждения по неправильному пути, распределяя возможности, ресурсы, информацию или качество обслуживания несправедливо. Они даже могут нарушать гражданские свободы, представлять угрозу для безопасности людей или влиять на благополучие человека, если воспринимаются как пренебрежительные или оскорбительные.

Важно, чтобы предприятия понимали силу и риски предвзятости ИИ. Хотя часто неизвестно учреждению, предвзятая ИИ-основанная система могла бы использовать вредные модели или данные, которые раскрывают расовую или гендерную предвзятость в решении о предоставлении кредита. Информация, такая как имена и пол, могла бы быть прокси для категоризации и идентификации заявителей незаконными способами. Даже если предвзятость неумышленная, она все равно ставит организацию под угрозу, не соответствуя нормативным требованиям и потенциально приводя к тому, что определенные группы людей будут несправедливо лишены кредитов или кредитных линий.

В настоящее время организации не имеют необходимых элементов, чтобы успешно смягчить предвзятость в системах ИИ. Но поскольку ИИ все чаще используется в бизнесе для принятия решений, важно, чтобы организации стремились уменьшить предвзятость, не только по моральным причинам, но и для соблюдения нормативных требований и построения дохода.

“Осведомленная о справедливости” культура и реализация

Решения, ориентированные на осведомленность о справедливости при проектировании и реализации, будут иметь наиболее благоприятные результаты. Поставщики должны иметь аналитическую культуру, которая учитывает ответственное получение, обработку и управление данными как необходимые компоненты алгоритмической справедливости, поскольку если результаты проекта ИИ генерируются предвзятыми, компрометированными или искаженными наборами данных, затронутые стороны не будут должным образом защищены от дискриминационного вреда.

Это элементы справедливости данных, которые команды данных должны учитывать:

• Представленность: В зависимости от контекста либо недостаточное, либо чрезмерное представление неблагополучных или юридически защищенных групп в выборке данных может привести к системному невыгодному положению уязвимых сторон в результатах обученной модели. Чтобы избежать такого рода предвзятости выборки, экспертиза в области будет иметь решающее значение для оценки соответствия между собранными или приобретенными данными и лежащей в основе популяцией, которую необходимо моделировать. Технические члены команды должны предложить средства для исправления представительных недостатков в выборке.
• Пригодность для цели и достаточность: Важно понимать, достаточно ли собранных данных для предполагаемой цели проекта. Недостаточные наборы данных могут не справедливо отражать качества, которые следует учитывать для производства оправданного результата, соответствующего желаемой цели системы ИИ. Следовательно, члены команды проекта с техническими и политическими компетенциями должны сотрудничать, чтобы определить, достаточен ли объем данных и пригоден ли он для цели.
• Интегритет источника и точность измерения: Эффективное смягчение предвзятости начинается с самого начала процессов извлечения и сбора данных. И источники, и инструменты измерения могут ввести дискриминационные факторы в набор данных. Чтобы обеспечить недискриминационный вред, выборка данных должна иметь оптимальный интегритет источника. Это предполагает обеспечение или подтверждение того, что процессы сбора данных включали подходящие, надежные и беспристрастные источники измерения и надежные методы сбора.
• Своевременность и актуальность: Если наборы данных включают устаревшие данные, то изменения в лежащей в основе распределении данных могут неблагоприятно повлиять на обобщаемость обученной модели. Предоставленные эти дрейфы распределения отражают изменения социальных отношений или групповой динамики, эта потеря точности в отношении фактических характеристик лежащей в основе популяции может ввести предвзятость в систему ИИ. Чтобы предотвратить дискриминационные результаты, своевременность и актуальность всех элементов набора данных должны быть тщательно проверены.
• Релевантность, уместность и знания в области: Понимание и использование наиболее подходящих источников и типов данных имеют решающее значение для построения прочной и беспристрастной системы ИИ. Твердые знания в области лежащей в основе популяции и цели прогнозирования проекта являются инструментальными для выбора оптимально релевантных входных данных, которые способствуют разумному решению определенной задачи. Эксперты в области должны тесно сотрудничать с командами данных, чтобы помочь в определении оптимально подходящих категорий и источников измерения.

Хотя ИИ-основанные системы помогают в автоматизации процессов принятия решений и обеспечивают экономию средств, финансовые учреждения, рассматривающие ИИ в качестве решения, должны быть бдительными, чтобы обеспечить, что предвзятые решения не принимаются. Лидеры по соблюдению нормативных требований должны быть в ладах со своей командой данных, чтобы подтвердить, что возможности ИИ являются ответственным, эффективным и свободным от предвзятости. Имея стратегию, которая пропагандирует ответственный ИИ, является правильным делом, и это также может обеспечить путь к соблюдению будущих нормативных требований ИИ.