Роз’яснювана штучна інтелект за допомогою виразних булевих формул

Вибух штучної інтелектики (ШІ) та машинного навчання проникає майже в кожну галузь і сферу життя.

Але її зростання не відбувається без іронії. Хоча ШІ існує для спрощення та прискорення процесів прийняття рішень або робочих процесів, методологія для цього часто дуже складна. Дійсно, деякі “чорні скриньки” алгоритми машинного навчання настільки складні та багатоманітні, що можуть заперечувати просте пояснення, навіть для фахівців, які їх створили.

Це може бути досить проблематично, коли певні випадки використання – наприклад, у сфері фінансів та медицини – визначаються найкращими практиками галузі або урядовими регуляціями, які вимагають прозорих пояснень внутрішньої роботи ШІ-рішень. І якщо ці додатки не достатньо виразні, щоб задовольнити вимоги до пояснюваності, вони можуть виявитися безкорисними, незалежно від їхньої загальної ефективності.

Щоб вирішити цю дилему, наша команда в Fidelity Center for Applied Technology (FCAT) – у співробітництві з Amazon Quantum Solutions Lab – запропонувала та реалізувала інтерпретовну модель машинного навчання для Роз’яснюваної ШІ (XAI) на основі виразних булевих формул. Такий підхід може включати будь-який оператор, який можна застосувати до однієї або декількох булевих змінних, забезпечуючи вищу виразність порівняно з більш жорсткими правилами та деревоподібними підходами.

Ви можете прочитати повний документ тут для отримання докладної інформації про цей проєкт.

Наша гіпотеза полягала в тому, що оскільки моделі – такі як дерева рішень – можуть бути глибокими та важкими для інтерпретації, потреба знайти виразну правило з низькою складністю, але високою точністю, була нерозв’язною оптимізаційною задачею, яка потребувала вирішення. Крім того, спрощуючи модель через цей просунутий підхід XAI, ми могли досягти додаткових переваг, таких як виявлення упереджень, які важливі в контексті етичного та відповідального використання МЛ; а також полегшення підтримки та вдосконалення моделі.

Ми запропонували підхід на основі виразних булевих формул, оскільки вони визначають правила з настраїваною складністю (або інтерпретованістю) залежно від того, які вхідні дані класифікуються. Така формула може включати будь-який оператор, який можна застосувати до однієї або декількох булевих змінних (таких як І або принаймні), забезпечуючи вищу виразність порівняно з більш жорсткими правилами та деревоподібними методологіями.

У цій задачі у нас є дві конкуруючі цілі: максимізація продуктивності алгоритму та мінімізація його складності. Таким чином, замість традиційного підходу застосування одного з двох методів оптимізації – об’єднання декількох цілей в одну або обмеження однієї з цілей – ми вирішили включити обидва в нашу формулювання. Роблячи це, і без втрати загальності, ми в основному використовуємо збалансовану точність як наш загальний показник продуктивності.

Також, включаючи оператори, такі як принаймні, ми були мотивовані ідеєю задоволення потреби у високоінтерпретовних переліках, таких як перелік медичних симптомів, які свідчать про певний стан. Це можна уявити, що рішення буде прийнято за допомогою такого переліку симптомів у спосіб, за яким мінімальна кількість повинна бути присутня для позитивної діагностики. Аналогічно, у сфері фінансів банк може вирішити, чи надати кредит клієнту на основі присутності певної кількості факторів з більш великого переліку.

Ми успішно реалізували нашу модель XAI та протестували її на деяких публічних наборах даних для кредитів, поведінки клієнтів та медичних станів. Ми виявили, що наш модель загалом конкурентоспроможна з іншими відомими альтернативами. Ми також виявили, що наш модель XAI потенційно може бути підтримана спеціальним апаратним забезпеченням або квантовими пристроями для розв’язання швидких задач цілочисельного лінійного програмування (ILP) або квадратичного необмеженого бінарного оптимізації (QUBO). Додання розв’язувачів QUBO зменшує кількість ітерацій – що призводить до прискорення за рахунок швидкого запропонування нелокальних кроків.

Як зазначено, моделі роз’яснюваної штучної інтелектики за допомогою булевих формул можуть мати багато застосувань у сфері охорони здоров’я та сфері фінансів Fidelity (таких як оцінка кредитоспроможності або оцінка того, чому деякі клієнти вибрали певний продукт, а інші – ні). Створюючи ці інтерпретовні правила, ми можемо досягти вищого рівня розуміння, який може привести до майбутніх удосконалень у розвитку продукції або її вдосконаленні, а також оптимізації маркетингових кампаній.

На основі наших висновків ми прийшли до висновку, що Роз’яснювана ШІ за допомогою виразних булевих формул є як підходящою, так і бажаною для тих випадків використання, які вимагають подальшої пояснюваності. Крім того, оскільки квантове обчислення продовжує розвиватися, ми передбачаємо можливість отримання потенційних прискорень за допомогою його та іншого спеціального апаратного прискорювача.

Будь-яка майбутня робота може зосередитися на застосуванні цих класифікаторів до інших наборів даних, введенні нових операторів або застосуванні цих концепцій до інших випадків використання.