Vysvětlitelná umělá inteligence pomocí expresivních booleanových formulí

Exploze umělé inteligence (AI) a aplikací strojového učení prostupuje téměř každým odvětvím a částí života.

Ale její růst nepřichází bez ironie. Zatímco AI existuje, aby zjednodušila a/nebo urychlila rozhodování nebo pracovní postupy, metoda, jak toho dosáhnout, je často extrémně složitá. Některé „černé skříňky“ algoritmů strojového učení jsou tak složité a vícesložkové, že mohou odporovat jednoduchému vysvětlení, dokonce i počítačovým vědcům, kteří je vytvořili.

To může být poměrně problematické, když určité použití – jako v oblastech financí a medicíny – jsou definovány nejlepšími praktikami odvětví nebo vládními předpisy, které vyžadují transparentní vysvětlení vnitřních mechanismů řešení AI. A pokud tyto aplikace nejsou dostatečně expresivní, aby splnily požadavky vysvětlitelnosti, mohou být zbytečné, bez ohledu na jejich celkovou účinnost.

Abychom řešili tento rozpor, náš tým ve Fidelity Center for Applied Technology (FCAT) — ve spolupráci s Amazon Quantum Solutions Lab — navrhl a implementoval interpretabilní model strojového učení pro Vysvětlitelnou umělou inteligenci (XAI) založený na expresivních booleanových formulech. Takový přístup může zahrnovat jakýkoli operátor, který lze aplikovat na jednu nebo více booleanových proměnných, čímž poskytuje vyšší expresivitu ve srovnání s rigidními pravidlovými a stromovými přístupy.

Můžete si přečíst plný článek zde pro komplexní informace o tomto projektu.

Naše hypotéza byla, že jelikož modely — jako rozhodovací stromy — mohou být hluboké a obtížně interpretovatelné, potřeba najít expresivní pravidlo s nízkou složitostí, ale vysokou přesností, byla výpočetně obtížným optimalizačním problémem, který musel být vyřešen. Kromě toho, že zjednodušujeme model prostřednictvím tohoto pokročilého přístupu XAI, můžeme dosáhnout dalších výhod, jako je odhalení zkreslení, která jsou důležitá v kontextu etického a zodpovědného používání ML; a také usnadnit údržbu a zlepšení modelu.

Navrhli jsme přístup založený na expresivních booleanových formulech, protože definují pravidla s nastavitelnou složitostí (nebo interpretovatelností) podle toho, jak jsou vstupní data klasifikována. Taková formule může zahrnovat jakýkoli operátor, který lze aplikovat na jednu nebo více booleanových proměnných (jako And nebo AtLeast), čímž poskytuje vyšší expresivitu ve srovnání s rigidními pravidlovými a stromovými metodami.

V tomto problému máme dva konkurenční cíle: maximalizovat výkon algoritmu, zatímco minimalizovat jeho složitost. Proto, místo toho, abychom použili typický přístup aplikující jeden z dvou optimalizačních metod – kombinování více cílů do jednoho nebo omezování jednoho z cílů – jsme se rozhodli zahrnout oba do naší formulace. Při tomto přístupu a bez ztráty obecnosti především používáme vyváženou přesnost jako naši hlavní metriku výkonnosti.

Také, včetně operátorů jako AtLeast, jsme byli motivováni myšlenkou řešit potřebu vysoce interpretovatelných kontrolních seznamů, jako je seznam lékařských symptomů, které označují určité onemocnění. Je možné, že rozhodnutí by bylo učiněno pomocí takového kontrolního seznamu symptomů způsobem, který by vyžadoval minimální počet pro pozitivní diagnózu. Podobně, v financích, banka může rozhodnout, zda poskytnout úvěr zákazníkovi na základě přítomnosti určitého počtu faktorů z většího seznamu.

Úspěšně jsme implementovali náš model XAI a otestovali ho na některých veřejných datech pro úvěr, zákaznické chování a zdravotní stavy. Zjistili jsme, že náš model je obecně konkurenceschopný s jinými dobře známými alternativami. Zjistili jsme také, že náš model XAI může potenciálně být poháněn speciálním hardwarem nebo kvantovými zařízeními pro rychlé řešení úloh celočíselného lineárního programování (ILP) nebo kvadratické binární optimalizace bez omezení (QUBO). Přidání QUBO řešičů snižuje počet iterací – tím vede k urychlení rychlým návrhem nelokálních pohybů.

Jak bylo uvedeno, modely vysvětlitelné AI pomocí booleanových formulí mohou mít mnoho aplikací ve zdravotnictví a v oblasti financí (jako hodnocení úvěru nebo posouzení, proč někteří zákazníci vybrali produkt, zatímco jiní ne). Tvořením těchto interpretovatelných pravidel můžeme dosáhnout vyšších úrovní poznatků, které mohou vést k budoucím zlepšením vývoje nebo zdokonalování produktů, stejně jako optimalizaci marketingových kampaní.

Na základě našich zjištění jsme dospěli k závěru, že Vysvětlitelná umělá inteligence pomocí expresivních booleanových formulí je vhodná a žádoucí pro ta použití, které vyžadují další vysvětlitelnost. Kromě toho, jak kvantové počítání pokračuje ve vývoji, předvídáme příležitost získat potenciální urychlení pomocí něj a dalších speciálních hardwarových akcelerátorů.

Budoucí práce může být zaměřena na aplikaci těchto klasifikátorů na jiná data, zavedení nových operátorů nebo aplikaci těchto konceptů na jiná použití.