Лідери думок

Упередженість і справедливість систем штучного інтелекту в боротьбі з фінансовими злочинами

Danny Butvinik
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиУпереджені системи ШІ можуть несправедливо відмовляти в кредитах на основі ознак раси…
Показати більше
  • Упереджені системи ШІ можуть несправедливо відмовляти в кредитах на основі ознак раси чи статі.
  • Репрезентативність даних і цілісність джерел є критично важливими для запобігання дискримінаційним результатам моделей.
  • Керівники з питань комплаєнсу повинні співпрацювати з командами з науки про дані, щоб забезпечити відповідальне впровадження ШІ.

Якщо говорити про боротьбу з фінансовими злочинами, існують виклики, які виходять за межі простого зупинення шахраїв чи інших зловмисників.

Деякі з нових, просунутих технологій, які запускаються, часто мають свої власні особливі проблеми, які потрібно враховувати на етапах впровадження, щоб успішно боротися з шахраями без регуляторних наслідків. У виявленні шахрайства проблеми зі справедливістю моделі та упередженістю даних можуть виникнути, коли система надає певним групам або категоріям даних надмірну вагу чи не забезпечує їх належного представлення. Теоретично передбачувальна модель могла б помилково асоціювати прізвища з інших культур з шахрайськими рахунками або хибно зменшити ризик у певних сегментах населення для певного типу фінансових операцій.

Упереджені системи штучного інтелекту можуть становити серйозну загрозу, коли репутації можуть бути порушені, і виникають, коли доступні дані не є репрезентативними для населення чи явища дослідження. Ці дані не включають змінні, які належним чином захоплюють явище, яке ми хочемо передбачити. Альтернативно дані можуть включати контент, створений людьми, який може містити упередженість проти груп людей, успадковану культурними та особистими досвідами, що призводить до спотворень при прийнятті рішень. Хоча спочатку дані можуть здаватися об’єктивними, вони все одно збираються та аналізуються людьми, і тому можуть бути упередженими.

Хоча немає універсального засобу, коли йдеться про усунення небезпек дискримінації та несправедливості в системах штучного інтелекту чи постійних рішень проблеми справедливості та пом’якшення упередженості при проектуванні моделей машинного навчання та використання, ці питання повинні бути розглянуті як з соціальних, так і з бізнес-причин.

Робота над правильними речами в штучному інтелекті

Вирішення проблеми упередженості в системах штучного інтелекту не тільки правильне, але й розумне для бізнесу — і ставки для керівників бізнесу високі. Упереджені системи штучного інтелекту можуть привести фінансові установи по неправильному шляху, несправедливо розподіляючи можливості, ресурси, інформацію або якість послуг. Вони навіть можуть порушувати громадянські свободи, становити загрозу для безпеки осіб чи впливати на добробут людини, якщо їх сприймають як принизливі чи образливі.

Важливо, щоб підприємства розуміли силу та ризики упередженості штучного інтелекту. Хоча часто невідомо установі, упереджена система штучного інтелекту могла б використовувати шкідливі моделі чи дані, які розкривають расову чи гендерну упередженість у кредитному рішенні. Інформація, така як імена та стать, могла б слугувати непрямими показниками для категоризації та ідентифікації заявників незаконними способами. Навіть якщо упередженість є непредумисною, вона все одно ставить організацію під ризик, не відповідаючи регуляторним вимогам, і може привести до того, що певні групи людей будуть несправедливо відмовлені в кредитах або лініях кредитування.

На даний момент організації не мають необхідних елементів для успішного пом’якшення упередженості в системах штучного інтелекту. Але з тим, як штучний інтелект все більше впроваджується в бізнес для інформування рішень, важливо, щоб організації прагнули зменшити упередженість, не тільки з моральних причин, але й для відповідності регуляторним вимогам та побудові доходів.

Культура та впровадження з урахуванням справедливості

Рішення, які зосереджені на проектуванні з урахуванням справедливості та впровадженні, матимуть найбільш вигідні результати. Постачальники повинні мати аналітичну культуру, яка розглядає відповідальне збирання, обробку та управління даними як необхідні компоненти алгоритмічної справедливості, оскільки якщо результати проекту штучного інтелекту генеруються упередженими, компрометованими чи спотвореними наборами даних, постраждалі сторони не будуть належним чином захищені від дискримінаційної шкоди.

Ці є елементи справедливості даних, які команди даних повинні мати на увазі:

  • Репрезентативність: залежно від контексту, або недорепрезентація, або надмірна репрезентація соціально вразливих чи захищених законом груп у вибірці даних може привести до систематичного погіршення становища вразливих сторін у результатах навченої моделі. Для уникнення такого роду селективної упередженості експертиза у галузі буде важливою для оцінки відповідності між зібраними або придбаними даними та цільовою популяцією для моделювання. Члени технічної команди повинні запропонувати засоби виправлення для корекції репрезентативних недоліків у вибірці.
  • Придатність і достатність: важливо зрозуміти, чи достатньо зібраних даних для мети проекту. Недостатні набори даних можуть не рівномірно відбивати якості, які повинні бути враховані для отримання виправданого результату, що відповідає меті системи штучного інтелекту. Відповідно, члени проекту з технічними компетенціями та знанням політик і правил повинні співпрацювати, щоб визначити, чи достатньо кількість даних і чи підходить для мети.
  • Чистота джерела та точність вимірювання: ефективне пом’якшення упередженості починається на самому початку процесів збору та витягування даних. І джерела, і засоби вимірювання можуть ввести дискримінаційні чинники в набір даних. Для запобігання дискримінаційній шкоді вибірка даних повинна мати оптимальну чистоту джерела. Це включає забезпечення або підтвердження того, що процеси збору даних включали відповідні, надійні та безсторонні джерела вимірювання та надійні методи збору.
  • Актуальність і свіжість: якщо набори даних включають застарілі дані, то зміни в розподілі даних можуть негативно вплинути на здатність навченої моделі до узагальнення. Якщо ці зміни розподілу відображають зміну соціальних відносин або групової динаміки, ця втрата точності щодо фактичних характеристик цільової популяції може ввести упередженість в систему штучного інтелекту. Для попередження дискримінаційних результатів актуальність і свіжість усіх елементів набору даних повинні бути перевірені.
  • Релевантність, придатність і галузева експертиза: розуміння та використання найбільш відповідних джерел і типів даних є важливими для побудови надійної та неупередженої системи штучного інтелекту. Тверда галузева експертиза щодо розподілу цільової популяції та передбачувальної мети проекту є інструментальною для вибору оптимально відповідних входів вимірювання, які сприяють раціональному вирішенню визначеної задачі. Галузеві експерти повинні тісно співпрацювати з командами даних, щоб допомогти визначити оптимально відповідні категорії та джерела вимірювання.

Хоча системи штучного інтелекту допомагають у процесах автоматизації прийняття рішень та забезпечують економію коштів, фінансові установи, які розглядають штучний інтелект як рішення, повинні бути уважними, щоб забезпечити, що упереджені рішення не відбуваються. Лідери з питань відповідності повинні бути в повній згоді зі своєю командою даних, щоб підтвердити, що можливості штучного інтелекту є відповідальними, ефективними та вільними від упередженості. Мати стратегію, яка підтримує відповідальний штучний інтелект, є правильним, і вона також може забезпечити шлях до відповідності майбутнім регуляторним вимогам штучного інтелекту.

Денні Бутвінік є головним науковцем у галузі даних в NICE Actimize, забезпечуючи технічне та професійне лідерство. Денні є експертом у галузі штучного інтелекту та науки про дані, маючи авторство численних наукових статей і робіт. На своїй поточній посаді він керує великою групою науковців у галузі даних та сприяє зростанню інновацій та інтелектуальної власності компанії, маючи понад 15 років досвіду досліджень, розробки та управління у сфері науки про дані та розробки програмного забезпечення.