Объяснимый ИИ с помощью выразительных булевых формул

Взрыв искусственного интеллекта (ИИ) и машинного обучения проникает почти во все отрасли и сферы жизни.

Но его рост не обходится без иронии. Хотя ИИ существует для упрощения и/или ускорения принятия решений или рабочих процессов, методология для этого часто чрезвычайно сложна. Действительно, некоторые алгоритмы машинного обучения типа “черного ящика” настолько сложны и многогранны, что даже создавшие их специалисты по информатике не могут дать им простое объяснение.

Это может быть довольно проблематично, когда определенные случаи использования – такие как в области финансов и медицины – определяются отраслевыми лучшими практиками или государственными правилами, которые требуют прозрачных объяснений внутренней работы решений ИИ. И если эти приложения недостаточно выразительны, чтобы удовлетворить требования объяснимости, они могут быть бесполезными, независимо от их общей эффективности.

Чтобы решить эту дилемму, наша команда в Fidelity Center for Applied Technology (FCAT) — в сотрудничестве с Amazon Quantum Solutions Lab — предложила и реализовала интерпретируемую модель машинного обучения для Объяснимого ИИ (XAI) на основе выразительных булевых формул. Такой подход может включать любой оператор, который можно применить к одному или нескольким булевым переменным, тем самым предоставляя более высокую выразительность по сравнению с более жесткими подходами на основе правил и деревьев.

Вы можете прочитать полный документ здесь для получения подробной информации об этом проекте.

Наша гипотеза заключалась в том, что поскольку модели — такие как деревья решений — могут стать глубокими и трудными для интерпретации, необходимость найти выразительное правило с низкой сложностью, но высокой точностью, представляла собой трудноразрешимую задачу оптимизации, требующую решения. Кроме того, упрощая модель через этот продвинутый подход XAI, мы могли бы достичь дополнительных преимуществ, таких как выявление предубеждений, которые важны в контексте этического и ответственного использования ИИ; а также упростить обслуживание и улучшение модели.

Мы предложили подход, основанный на выразительных булевых формулах, потому что они определяют правила с настраиваемой сложностью (или интерпретируемостью) в зависимости от того, как классифицируются входные данные. Такая формула может включать любой оператор, который можно применить к одному или нескольким булевым переменным (например, операторы And — “И” — или AtLeast — “не менее”), тем самым предоставляя более высокую выразительность по сравнению с более жесткими подходами на основе правил и деревьев.

В этой задаче у нас есть две конкурирующие цели: максимизация производительности алгоритма и минимизация его сложности. Следовательно, вместо того, чтобы применять типичный подход — объединение нескольких целей в одну или ограничение одной из целей — мы решили включить обе цели в нашу формулировку. Таким образом, и без потери общности, мы в основном используем сбалансированную точность в качестве нашей основной метрики производительности.

Кроме того, включая операторы, такие как AtLeast (“не менее”), мы были мотивированы идеей решения необходимости легко интерпретируемых контрольных списков, таких как список медицинских симптомов, которые указывают на определенное состояние. Можно представить, что решение будет принято с помощью такого списка симптомов таким образом, что минимальное количество должно присутствовать для положительного диагноза. Аналогично, в финансах банк может решить, предоставить ли кредит клиенту на основе присутствия определенного количества факторов из более крупного списка.

Мы успешно реализовали нашу модель XAI и протестировали ее на некоторых публичных наборах данных для кредитов, поведения клиентов и медицинских состояний. Мы обнаружили, что наша модель в целом конкурентоспособна с другими известными альтернативами. Мы также обнаружили, что наша модель XAI потенциально может использовать специализированное оборудование или квантовые устройства для быстрого решения задач целочисленного линейного программирования (ILP) или квадратичной неограниченной бинарной оптимизации (QUBO). Добавление решателей QUBO снижает количество итераций — что приводит к ускорению за счет быстрого предложения нелокальных переходов.

Как отмечено, модели объяснимого ИИ, использующие булевы формулы, могут иметь многочисленные применения в здравоохранении и в финансовой сфере Fidelity (например, кредитный скоринг или оценка того, почему некоторые клиенты выбрали продукт, а другие — нет). Создавая эти интерпретируемые правила, мы можем достичь более высоких уровней понимания, которые могут привести к будущим улучшениям в разработке или совершенствовании продукта, а также оптимизации маркетинговых кампаний.

На основе наших результатов мы определили, что Объяснимый ИИ, использующий выразительные булевы формулы, является как подходящим, так и желательным для тех случаев использования, которые требуют дальнейшей объяснимости. Кроме того, поскольку квантовые вычисления продолжают развиваться, мы предвидим возможность получения потенциальных ускорений за счет использования квантовых вычислений и других специализированных аппаратных ускорителей.

Будущая работа может сосредоточиться на применении этих классификаторов к другим наборам данных, введении новых операторов или применении этих концепций к другим случаям использования.