Wyjaśnialna Sztuczna Inteligencja za Pomocą Ekspresyjnych Formuł Boolowskich

Eksplozja w dziedzinie sztucznej inteligencji (AI) i aplikacji machine learning przenika niemal każdy przemysł i sferę życia.

Jednak jej wzrost nie następuje bez ironii. Podczas gdy AI istnieje, aby uprościć i/lub przyspieszyć podejmowanie decyzji lub przepływ pracy, metodyka stosowana do tego celu jest często niezwykle złożona. W rzeczywistości niektóre algorytmy machine learning oznaczone jako “czarne skrzynki” są tak skomplikowane i wielowymiarowe, że mogą być trudne do prostego wyjaśnienia, nawet przez samych naukowców, którzy je stworzyli.

Może to być dość problematyczne, gdy pewne przypadki użycia – takie jak w dziedzinach finansów i medycyny – są definiowane przez najlepsze praktyki branżowe lub przepisy rządowe, które wymagają przejrzystych wyjaśnień dotyczących wewnętrznych mechanizmów rozwiązań AI. A jeśli te aplikacje nie są wystarczająco wyrafinowane, aby spełnić wymagania wyjaśnialności, mogą okazać się bezużyteczne, niezależnie od ich ogólnej skuteczności.

Aby rozwiązać ten dylemat, nasz zespół w Fidelity Center for Applied Technology (FCAT) — we współpracy z Amazon Quantum Solutions Lab — zaproponował i wdrożył model machine learningu interpretowalnego dla Wyjaśnialnej Sztucznej Inteligencji (XAI) oparty na ekspresyjnych formułach boolowskich. Taki podejście może obejmować dowolny operator, który można zastosować do jednej lub więcej zmiennych boolowskich, co zapewnia wyższą wyrafinowanie w porównaniu z bardziej sztywnymi podejściami opartymi na regułach i drzewach.

Możesz przeczytać cały artykuł tutaj, aby uzyskać szczegółowe informacje na temat tego projektu.

Nasza hipoteza była taka, że ponieważ modele – takie jak drzewa decyzyjne – mogą być głębokie i trudne do zinterpretowania, potrzeba znalezienia wyrafinowanego podejścia o niskiej złożoności, ale wysokiej dokładności była nierozwiązywalnym problemem optymalizacji, który wymagał rozwiązania. Ponadto, poprzez uproszczenie modelu za pomocą tego zaawansowanego podejścia XAI, moglibyśmy osiągnąć dodatkowe korzyści, takie jak ujawnienie stronniczości, które są ważne w kontekście etycznego i odpowiedzialnego korzystania z ML; a także ułatwienie konserwacji i poprawy modelu.

Zaproponowaliśmy podejście oparte na ekspresyjnych formułach boolowskich, ponieważ definiują one reguły o regulowanej złożoności (lub interpretowalności) zgodnie z którymi dane wejściowe są klasyfikowane. Taka formuła może obejmować dowolny operator, który można zastosować do jednej lub więcej zmiennych boolowskich (takich jak And lub AtLeast), co zapewnia wyższą wyrafinowanie w porównaniu z bardziej sztywnymi podejściami opartymi na regułach i drzewach.

W tym problemie mamy dwa konkurencyjne cele: maksymalizację wydajności algorytmu oraz minimalizację jego złożoności. Zamiast stosować typowe podejście, polegające na zastosowaniu jednej z dwóch metod optymalizacji – łączeniu wielu celów w jedno lub ograniczaniu jednego z celów – zdecydowaliśmy się uwzględnić oba cele w naszym sformułowaniu. W ten sposób, bez utraty ogólności, głównie używamy zrównoważonej dokładności jako naszego głównego wskaźnika wydajności.

Ponadto, poprzez uwzględnienie operatorów takich jak AtLeast, byliśmy zmotywowani ideą rozwiązania potrzeby wysoko interpretowalnych list kontrolnych, takich jak lista objawów medycznych, które wskazują na określoną chorobę. Jest możliwe, że decyzja byłaby podejmowana za pomocą takiej listy objawów w sposób, w którym minimalna liczba objawów musiałaby być obecna, aby postawić pozytywną diagnozę. Podobnie, w finansach, bank może zdecydować, czy udzielić kredytu klientowi na podstawie obecności określonej liczby czynników z większej listy.

Pomyślnie wdrożyliśmy nasz model XAI i przetestowaliśmy go na niektórych publicznych zestawach danych dotyczących kredytów, zachowania klientów i chorób. Stwierdziliśmy, że nasz model jest ogólnie konkurencyjny w porównaniu z innymi znanymi alternatywami. Stwierdziliśmy również, że nasz model XAI może być potencjalnie napędzany przez specjalistyczne urządzenia lub urządzenia kwantowe do rozwiązywania szybkich problemów Integer Linear Programming (ILP) lub Quadratic Unconstrained Binary Optimization (QUBO). Dodanie solverów QUBO zmniejsza liczbę iteracji, co prowadzi do przyspieszenia poprzez szybką propozycję nie-lokalnych ruchów.

Jak zauważono, modele AI wyjaśnialne za pomocą formuł boolowskich mogą mieć wiele zastosowań w opiece zdrowotnej i w dziedzinie finansów Fidelity (takich jak ocena kredytowa lub ocena, dlaczego niektórzy klienci wybrali produkt, a inni nie). Poprzez tworzenie tych interpretowalnych reguł, możemy uzyskać wyższy poziom wglądu, który może prowadzić do przyszłych ulepszeń w rozwoju produktów lub ich doskonaleniu, a także optymalizacji kampanii marketingowych.

Na podstawie naszych ustaleń stwierdziliśmy, że Wyjaśnialna Sztuczna Inteligencja za pomocą ekspresyjnych formuł boolowskich jest odpowiednia i pożądana dla tych przypadków użycia, które wymagają dalszej wyjaśnialności. Ponadto, w miarę rozwoju komputingu kwantowego, przewidujemy możliwość uzyskania potencjalnych przyspieszeń poprzez korzystanie z niego i innych specjalistycznych urządzeń przyspieszających.

Przyszła praca może koncentrować się na stosowaniu tych klasyfikatorów do innych zestawów danych, wprowadzaniu nowych operatorów lub stosowaniu tych pojęć do innych przypadków użycia.