Vysvětlitelná umělá inteligence pomocí expresivních booleanových formulí

Exploze umělé inteligence (AI) a aplikací strojového učení prostupuje téměř každým odvětvím a částí života.

Ale její růst nepřichází bez ironie. Zatímco AI existuje, aby zjednodušila a/or urychlit rozhodování nebo pracovní postupy, metoda, jak toho dosáhnout, je často extrémně složitá. Některé „černé skříňky“ algoritmů strojového učení jsou tak složité a vícesložkové, že mohou odporovat jednoduchému vysvětlení, dokonce i počítačovým vědcům, kteří je vytvořili.

To může být poměrně problematické, když určité použití – jako v oblastech financí a medicíny – jsou definovány nejlepšími praktikami odvětví nebo vládními předpisy, které vyžadují transparentní vysvětlení vnitřních mechanismů řešení AI. A pokud tyto aplikace nejsou dostatečně expresivní, aby splnily požadavky vysvětlitelnosti, mohou být zbytečné, bez ohledu na jejich celkovou účinnost.

Abychom řešili tento rozpor, náš tým ve Fidelity Center for Applied Technology (FCAT) — ve spolupráci s Amazon Quantum Solutions Lab — navrhl a implementoval interpretabilní model strojového učení pro Vysvětlitelnou umělou inteligenci (XAI) založený na expresivních booleanových formulech. Takový přístup může zahrnovat jakýkoli operátor, který lze aplikovat na jednu nebo více booleanových proměnných, čímž poskytuje vyšší expresivitu ve srovnání s rigidními pravidlovými a stromovými přístupy.

Můžete si přečíst plný článek zde pro komplexní informace o tomto projektu.

Naše hypotéza byla, že既然 modely — jako rozhodovací stromy — mohou být hluboké a obtížně interpretovatelné, potřeba najít expresivní pravidlo s nízkou složitostí, ale vysokou přesností, byla nevyřešitelným optimalizačním problémem, který musel být vyřešen. Kromě toho, že zjednodušujeme model prostřednictvím tohoto pokročilého přístupu XAI, můžeme dosáhnout dalších výhod, jako je odhalení zkreslení, která jsou důležitá v kontextu etického a zodpovědného používání ML; a také usnadnit údržbu a zlepšení modelu.

Navrhli jsme přístup založený na expresivních booleanových formulech, protože definují pravidla s nastavitelnou složitostí (nebo interpretovatelností) podle toho, jak jsou vstupní data klasifikována. Taková formule může zahrnovat jakýkoli operátor, který lze aplikovat na jednu nebo více booleanových proměnných (jako And nebo AtLeast), čímž poskytuje vyšší expresivitu ve srovnání s rigidními pravidlovými a stromovými metodami.

V tomto problému máme dva konkurenční cíle: maximalizovat výkon algoritmu, zatímco minimalizovat jeho složitost. Proto, místo toho, abychom použili typický přístup aplikující jeden z dvou optimalizačních metod – kombinování více cílů do jednoho nebo omezování jednoho z cílů – jsme se rozhodli zahrnout oba do našeho formulace. Při tomto přístupu a bez ztráty obecnosti主要ně používáme vyváženou přesnost jako náš hlavní výkonový metrik.

Také, včetně operátorů jako AtLeast, jsme byli motivováni myšlenkou řešit potřebu vysoce interpretovatelných kontrolních seznamů, jako je seznam lékařských symptomů, které označují určitou podmínku. Je možné, že rozhodnutí by bylo učiněno pomocí takového kontrolního seznamu symptomů způsobem, který by vyžadoval minimální počet pro pozitivní diagnózu. Podobně, v financích, banka může rozhodnout, zda poskytnout úvěr zákazníkovi na základě přítomnosti certain faktorů z většího seznamu.

Úspěšně jsme implementovali náš model XAI a otestovali ho na některých veřejných datech pro úvěr, zákaznické chování a lékařské podmínky. Zjistili jsme, že náš model je obecně konkurenceschopný s jinými dobře známými alternativami. Zjistili jsme také, že náš model XAI může potenciálně být poháněn speciálním hardwarem nebo kvantovými zařízeními pro řešení rychlých Integer Linear Programming (ILP) nebo Quadratic Unconstrained Binary Optimization (QUBO). Přidání QUBO řešičů snižuje počet iterací – tím vede k urychlení rychlým návrhem nelokálních pohybů.

Jako uvedeno, modely vysvětlitelné AI pomocí booleanových formulí mohou mít mnoho aplikací ve zdravotnictví a v oblasti financí (jako hodnocení úvěru nebo posouzení, proč někteří zákazníci vybrali produkt, zatímco jiní ne). Tvořením těchto interpretovatelných pravidel můžeme dosáhnout vyšších úrovní poznatků, které mohou vést k budoucím zlepšením produktového vývoje nebo rafinace, stejně jako optimalizaci marketingových kampaní.

Založeno na našich nálezech, jsme určili, že Vysvětlitelná umělá inteligence pomocí expresivních booleanových formulí je vhodná a žádoucí pro ty použití, které vyžadují další vysvětlitelnost. Kromě toho, jak kvantové počítání pokračuje ve vývoji, předvídáme příležitost získat potenciální urychlení pomocí něj a dalších speciálních hardwarových akcelerátorů.

Budoucí práce může být zaměřena na aplikaci těchto klasifikátorů na jiná data, zavedení nových operátorů nebo aplikaci těchto konceptů na jiná použití.