Уявлення про偏 та чесність штучного інтелекту в фінансових злочинах

Якщо говорити про боротьбу з фінансовими злочинами, існують виклики, які виходять за межі простого зупинення шахраїв чи інших зловмисників.

Деякі з нових, просунутих технологій, які запускаються, часто мають свої власні особливі проблеми, які потрібно враховувати на етапах впровадження, щоб успішно боротися з шахраями без регуляторних наслідків. У виявленні шахрайства справедливість моделі та упередженість даних можуть виникнути, коли система більш сильно вагомо чи не має належної репрезентації певних груп чи категорій даних. Теоретично передбачувальна модель могла б помилково асоціювати прізвища з інших культур з шахрайськими рахунками або хибно зменшити ризик у певних сегментах населення для певного типу фінансових операцій.

Упереджені системи штучного інтелекту можуть становити серйозну загрозу, коли репутації можуть бути порушені, і виникають, коли доступні дані не є репрезентативними для населення чи явища дослідження. Ці дані не включають змінні, які належним чином захоплюють явище, яке ми хочемо передбачити. Альтернативно дані можуть включати контент, створений людьми, який може містити упередженість проти груп людей, успадковану культурними та особистими досвідами, що призводить до спотворень при прийнятті рішень. Хоча спочатку дані можуть здаватися об’єктивними, вони все одно збираються та аналізуються людьми, і тому можуть бути упередженими.

Якщо немає срібної кулі, коли йдеться про усунення небезпек дискримінації та несправедливості в системах штучного інтелекту чи постійних рішень проблеми справедливості та пом’якшення упередженості при проектуванні моделей машинного навчання та використання, ці питання повинні бути розглянуті як з соціальних, так і з бізнес-причин.

Робота над правильними речами в штучному інтелекті

Вирішення проблеми упередженості в системах штучного інтелекту не тільки правильне, але й розумне для бізнесу — і ставки для керівників бізнесу високі. Упереджені системи штучного інтелекту можуть привести фінансові установи по неправильному шляху, розподіляючи можливості, ресурси, інформацію або якість послуг нерівномірно. Вони навіть можуть порушувати громадянські свободи, становити загрозу для безпеки осіб чи впливати на добробут людини, якщо їх сприймають як принизливі чи образливі.

Важливо, щоб підприємства розуміли силу та ризики упередженості штучного інтелекту. Хоча часто невідомо установі, упереджена система штучного інтелекту могла б використовувати шкідливі моделі чи дані, які розкривають расову чи гендерну упередженість у кредитному рішенні. Інформація, така як імена та стать, могла б бути проксі для категоризації та ідентифікації заявників незаконними способами. Навіть якщо упередженість є непредумисною, вона все одно ставить організацію під ризик, не відповідаючи регуляторним вимогам, і може привести до того, що певні групи людей будуть несправедливо відмовлені в кредитах або лініях кредитування.

На даний момент організації не мають необхідних елементів для успішного пом’якшення упередженості в системах штучного інтелекту. Але з тим, як штучний інтелект все більше впроваджується в бізнес для інформування рішень, важливо, щоб організації прагнули зменшити упередженість, не тільки з моральних причин, але й для відповідності регуляторним вимогам та побудові доходів.

“Справедливість-обізнана” культура та впровадження

Рішення, які зосереджені на справедливості-обізнаному проектуванні та впровадженні, матимуть найбільш вигідні результати. Постачальники повинні мати аналітичну культуру, яка розглядає відповідальну збір, обробку та управління даними як необхідні компоненти алгоритмічної справедливості, оскільки якщо результати проекту штучного інтелекту генеруються упередженими, компрометованими чи спотвореними наборами даних, постраждалі сторони не будуть належним чином захищені від дискримінаційного шкоди.

Ці є елементи справедливості даних, які команди даних повинні мати на увазі:

• Репрезентативність: залежно від контексту, або недорепрезентація, або надмірна репрезентація незаможних чи юридично захищених груп у вибірці даних може привести до систематичного недоліку вразливих сторін у результатах навченої моделі. Для уникнення такого роду селективної упередженості експертиза у галузі буде важливою для оцінки відповідності між зібраними або придбаними даними та підлеглою популяцією для моделювання. Члени технічної команди повинні запропонувати засоби виправлення для корекції репрезентативних недоліків у вибірці.
• Придатність і достатність: важливо зрозуміти, чи достатньо зібраних даних для мети проекту. Недостатні набори даних можуть не рівномірно відбивати якості, які повинні бути враховані для отримання виправданого результату, що відповідає меті системи штучного інтелекту. Відповідно, члени проекту з технічними та політичними компетенціями повинні співпрацювати, щоб визначити, чи достатньо кількість даних і чи підходить для мети.
• Чистота джерела та точність вимірювання: ефективне пом’якшення упередженості починається на самому початку процесів збору та витягування даних. І джерела, і засоби вимірювання можуть ввести дискримінаційні чинники в набір даних. Для забезпечення недискримінаційного шкоди вибірка даних повинна мати оптимальну чистоту джерела. Це включає забезпечення або підтвердження того, що процеси збору даних включали відповідні, надійні та безсторонні джерела вимірювання та надійні методи збору.
• Актуальність і свіжість: якщо набори даних включають застарілі дані, то зміни в розподілі даних можуть негативно вплинути на загальність навченої моделі. Якщо ці зміни розподілу відображають зміну соціальних відносин або групової динаміки, ця втрата точності щодо фактичних характеристик підлеглої популяції може ввести упередженість в систему штучного інтелекту. Для попередження дискримінаційних результатів актуальність і свіжість усіх елементів набору даних повинні бути перевірені.
• Релевантність, придатність і галузева експертиза: розуміння та використання найбільш відповідних джерел і типів даних є важливими для побудови надійної та необізнаної системи штучного інтелекту. Тверда галузева експертиза щодо розподілу підлеглої популяції та передбачувальної мети проекту є інструментальною для вибору оптимально відповідних входів вимірювання, які сприяють раціональному вирішенню визначеної задачі. Галузеві експерти повинні тісно співпрацювати з командами даних, щоб допомогти визначити оптимально відповідні категорії та джерела вимірювання.

Хоча системи штучного інтелекту допомагають у процесах автоматизації прийняття рішень та забезпечують економію коштів, фінансові установи, які розглядають штучний інтелект як рішення, повинні бути уважними, щоб забезпечити, що упереджені рішення не відбуваються. Лідери з питань відповідності повинні бути в повній згоді зі своєю командою даних, щоб підтвердити, що можливості штучного інтелекту є відповідальними, ефективними та вільними від упередженості. Мати стратегію, яка підтримує відповідальний штучний інтелект, є правильним, і вона також може забезпечити шлях до відповідності майбутнім регуляторним вимогам штучного інтелекту.