Роз’яснюваність: Наступний рубіж для штучного інтелекту в страхуванні та банку

Від доктора Орі Каца, наукового дослідника, Earnix.

«Будь-яка достатньо розвинена технологія є нерозрізнюваною від магії», — стверджував письменник-фантаст Артур Кларк. Дійсно, іноді передові технології, такі як нові алгоритми машинного навчання, схожі на магію. Еволюційні застосування машинного навчання, включаючи розпізнавання зображень, розпізнавання голосу та його застосування в страхуванні та банку, мають здібності, що здаються надприродними.

Багато компаній бояться змінювати свої традиційні аналітичні моделі — і справедливо. Магія небезпечна, особливо якщо її не добре зрозуміти. Нейронні мережі та алгоритми ансамблю дерев є «чорними скриньками», їхня внутрішня структура може бути дуже складною. Одночасно кілька досліджень [1] показали, як нейронні мережі та дерево-орієнтовані алгоритми можуть перевершити навіть найакуратніше налаштовані традиційні моделі страхового ризику, створені досвідченими актуаріями. Це відбувається завдяки здатності нових алгоритмів автоматично виявляти приховану структуру даних. Загадковість і корисність нейронних мереж та дерево-орієнтованих алгоритмів суперечать один одному. Існує вбудований компроміс між точністю аналітичної моделі та її рівнем «роз’яснюваністі». Як ми можемо довіряти моделям, якщо не можемо зрозуміти, як вони приймають свої висновки? Чи повинні ми просто піддатися магії, пожертвувати нашим довірою та контролем над чимось, чого не можемо повністю зрозуміти заради точності?

Менеджери та аналітики не є єдиними, хто турбується про цей компроміс. За останні кілька років регулятори почали вивчати темну сторону магії, щоб збільшити свою здатність контролювати ці галузі. Банківська та страхова галузі високорегламентовані в багатьох аспектах, і сучасні регуляторні тенденції включають уважніше вивчення моделей, які використовуються для прогнозування. Наприклад, пункт 71 Роз’яснення Європейського регламенту про захист даних (GDPR) говорить, що клієнти повинні мати право отримувати роз’яснення щодо автоматичного рішення після його прийняття. З моменту свого створення цей елемент регламенту був у центрі гострої академічної дискусії.

Нагальна потреба пояснення «чорних скриньок» аналітичних моделей призвела до появи нової галузі досліджень: Роз’яснюваний штучний інтелект. Експерти розробляють інструменти, які дозволяють нам заглянути всередину чорної скриньки та розгадати принаймні частину магії. Два типи інструментів, створених дослідниками, включають «Глобальну роз’яснюваність» інструменти, які допомагають нам зрозуміти ключові функції, що керують загальними прогнозами моделі, та «Локальну роз’яснюваність» інструменти, призначені для пояснення конкретного прогнозу.

Наступний графік є прикладом локальної роз’яснюваністі. Він заснований на ідеях Нобелівського лауреата з економіки Ллойда Шеплі, який розробив метод теорії ігор для розрахунку внеску кількох гравців, що співпрацюють у одному завданні. У Роз’яснюваному штучному інтелекті «гравці» — це функції моделі, а «завдання» — це прогноз моделі. Числа, які описують внесок кожної функції, називаються «значеннями Шеплі». Нещодавно дослідники розробили методи для швидкої оцінки значень Шеплі [2], що дозволяє нам справедливо розподілити прогноз серед різних функцій.

Використання значень Шеплі для пояснення передбаченого попиту на відновлення для конкретного клієнта

Графік, заснований на симульованих даних, показує результат моделі попиту, яка прогнозує ймовірність відновлення страхового полісу. Це локальне пояснення для конкретного клієнта. Модель попиту заснована на складному ансамблі дерев рішень, але графік представляє окремий внесок кожної функції у кінцевий прогноз. У цьому прикладі модель прогнозує, що середній індивід у даних відновить поліс з ймовірністю 0,64. Однак для цього конкретного клієнта передбачена ймовірність значно вища, 0,72. Графік дозволяє побачити причину цієї різниці.

Хоча ми не можемо повністю зрозуміти внутрішню структуру цієї складної моделі, значення Шеплі дозволяють нам побачити, які функції є найбільш важливими для конкретного прогнозу, розгадуючи частину магії. Середнє значення окремих значень Шеплі за популяцією дозволяє нам побачити, які функції є найбільш важливими, і отримати глобальну роз’яснюваність моделі. Інші популярні інструменти роз’яснюваністі включають «Пермутаційну важливість функції», прості сурогатні моделі, які підгоняються локально, та контрфактичні приклади, щоб назвати кілька [3].

Нові інструменти роз’яснюваністі є необхідним наступним кроком у розвитку машинного навчання. Вони можуть дозволити страховим компаніям та банкам зрозуміти та довіряти своїм моделям машинного навчання, дотримуватися нових регуляцій та надавати клієнтам цінну інформацію. Тепер ми можемо частково подолати компроміс між точністю та роз’яснюваністю та користуватися перевагами нових моделей машинного навчання з меншими побоюваннями щодо їхньої «чорної скриньки» природи.

У нашому швидко цифровому світі стати повністю аналітично-орієнтованим є базовим критерієм виживання для страховиків та банків. Ця здатність завжди була важливою, але вона стала життєво необхідною з появою волатильних ринкових умов у 2020 році. Страховикам та банкам потрібні розумніші аналітичні дані для моделювання складної нової реальності, на основі якої вони можуть приймати бізнес-рішення та обслуговувати клієнтів швидше та краще. Інструменти роз’яснюваністі можуть дозволити страховикам та банкам досягти цього. З часом ми дійдемо до точки, де моделі машинного навчання вже не будуть вважатися магією, а стали б невід’ємним інструментом у ядрі будь-якого даних-орієнтованого бізнесу.

Джерела:

[1] Bärtl, M., & Krummaker, S. (2020). Прогнозування вимог у фінансуванні експорту: порівняння чотирьох технік машинного навчання. Риски, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Кейс-стаді: французькі мототранспортні треті особи. Доступно на SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). Точність XGBoost для прогнозування страхових вимог. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Порівняльне дослідження алгоритмів даних у прогнозуванні автострахових вимог. Європейський міжнародний журнал науки та технологій, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Уніфікований підхід до інтерпретації прогнозів моделей. У Advances in neural information processing systems (с. 4765-4774).

[3] Дивіться тут для більшої інформації: https://christophm.github.io/interpretable-ml-book/index.html