Объяснимый ИИ с помощью выразительных булевых формул

Взрыв искусственного интеллекта (ИИ) и машинного обучения проникает почти во все отрасли и сферы жизни.

Но его рост не обходится без иронии. Хотя ИИ существует для упрощения и/или ускорения принятия решений или рабочих процессов, методология для этого часто чрезвычайно сложна. Действительно, некоторые “черные ящик” алгоритмы машинного обучения настолько сложны и многогранны, что могут противостоять простому объяснению, даже компьютерными учеными, которые их создали.

Это может быть довольно проблематично, когда определенные случаи использования – такие как в области финансов и медицины – определяются отраслевыми лучшими практиками или государственными правилами, которые требуют прозрачных объяснений внутренней работы решений ИИ. И если эти приложения не достаточно выразительны, чтобы удовлетворить требования объяснимости, они могут быть бесполезными, независимо от их общей эффективности.

Чтобы решить эту дилемму, наша команда в Fidelity Center for Applied Technology (FCAT) — в сотрудничестве с Amazon Quantum Solutions Lab — предложила и реализовала интерпретируемую модель машинного обучения для Объяснимого ИИ (XAI) на основе выразительных булевых формул. Такой подход может включать любой оператор, который можно применить к одному или нескольким булевым переменным, тем самым предоставляя более высокую выразительность по сравнению с более жесткими правилами и деревьями.

Вы можете прочитать полный документ здесь для получения подробной информации о этом проекте.

Наша гипотеза заключалась в том, что поскольку модели — такие как деревья решений — могут стать глубокими и трудными для интерпретации, необходимость найти выразительное правило с низкой сложностью, но высокой точностью, была неразрешимой задачей оптимизации, которая должна была быть решена. Кроме того, упрощая модель через этот продвинутый подход XAI, мы могли бы достичь дополнительных преимуществ, таких как выявление предубеждений, которые важны в контексте этического и ответственного использования ИИ; а также сделать ее проще для поддержки и улучшения модели.

Мы предложили подход, основанный на выразительных булевых формулах, потому что они определяют правила с настраиваемой сложностью (или интерпретируемостью) в зависимости от того, как классифицируются входные данные. Такая формула может включать любой оператор, который можно применить к одному или нескольким булевым переменным (таким как И или Не менее), тем самым предоставляя более высокую выразительность по сравнению с более жесткими правилами и деревьями.

В этой задаче у нас есть две конкурирующие цели: максимизация производительности алгоритма и минимизация его сложности. Следовательно, вместо того, чтобы применять типичный подход — объединение нескольких целей в одну или ограничение одной из целей — мы решили включить обе цели в нашу формулировку. Таким образом, и без потери общности, мы в основном используем сбалансированную точность в качестве нашей основной метрики производительности.

Кроме того, включая операторы, такие как Не менее, мы были мотивированы идеей решения необходимости высокоинтерпретируемых списков, таких как список медицинских симптомов, которые указывают на определенное состояние. Можно представить, что решение будет принято с помощью такого списка симптомов таким образом, что минимальное количество должно присутствовать для положительного диагноза. Аналогично, в финансах банк может решить, предоставить ли кредит клиенту на основе присутствия определенного количества факторов из более крупного списка.

Мы успешно реализовали нашу модель XAI и протестировали ее на некоторых публичных наборах данных для кредитов, поведения клиентов и медицинских условий. Мы обнаружили, что наша модель в целом конкурентоспособна с другими известными альтернативами. Мы также обнаружили, что наша модель XAI может быть потенциально запитана специальным оборудованием или квантовыми устройствами для решения быстрого целочисленного линейного программирования (ILP) или квадратичного безограниченного бинарного оптимизации (QUBO). Добавление решателей QUBO снижает количество итераций — что приводит к ускорению за счет быстрого предложения неместных ходов.

Как отмечено, модели объяснимого ИИ, использующие булевы формулы, могут иметь многочисленные применения в здравоохранении и в области финансов (такой как кредитное скоринг или оценка того, почему некоторые клиенты выбрали продукт, а другие — нет). Создавая эти интерпретируемые правила, мы можем достичь более высоких уровней понимания, которые могут привести к будущим улучшениям в разработке или совершенствовании продукта, а также оптимизации маркетинговых кампаний.

На основе наших результатов мы определили, что Объяснимый ИИ, использующий выразительные булевы формулы, является как подходящим, так и желательным для тех случаев использования, которые требуют дальнейшей объяснимости. Кроме того, поскольку квантовые вычисления продолжают развиваться, мы предвидим возможность получения потенциальных ускорений за счет использования их и других специальных ускорителей оборудования.

Будущая работа может сосредоточиться на применении этих классификаторов к другим наборам данных, введении новых операторов или применении этих концепций к другим случаям использования.