Vysvětlitelná umělá inteligence pomocí expresivních booleovských vzorců

Exploze v aplikacích umělé inteligence (AI) a strojového učení prostupuje téměř každé odvětví a oblast života.

Jeho růst se ale neobejde bez ironie. I když umělá inteligence existuje, aby zjednodušila a/nebo urychlila rozhodování nebo pracovní postupy, metodologie, jak toho dosáhnout, je často extrémně složitá. Některé algoritmy strojového učení „černé skříňky“ jsou skutečně tak složité a mnohostranné, že se mohou vzpírat jednoduchému vysvětlení, a to i ze strany počítačových vědců, kteří je vytvořili.

To může být docela problematické, když jsou určité případy použití – například v oblasti financí a medicíny – definovány osvědčenými postupy v oboru nebo vládními nařízeními, které vyžadují transparentní vysvětlení vnitřního fungování řešení AI. A pokud tyto aplikace nejsou dostatečně expresivní, aby splňovaly požadavky na vysvětlitelnost, mohou se stát neužitečnými bez ohledu na jejich celkovou účinnost.

Abychom tento hlavolam vyřešili, náš tým na Fidelity Center for Applied Technology (FCAT) — ve spolupráci s Amazon Quantum Solutions Lab — navrhl a implementoval interpretovatelný model strojového učení pro Explainable AI (XAI) založený na výrazných booleovských vzorcích. Takový přístup může zahrnovat jakýkoli operátor, který lze aplikovat na jednu nebo více booleovských proměnných, čímž poskytuje vyšší expresivitu ve srovnání s přísnějšími přístupy založenými na pravidlech a stromech.

Můžete si přečíst plný papír zde naleznete podrobné informace o tomto projektu.

Naší hypotézou bylo, že protože modely – jako jsou rozhodovací stromy – mohou být hluboké a obtížně interpretovatelné, byla potřeba najít expresivní pravidlo s nízkou složitostí, ale vysokou přesností, neřešitelným optimalizačním problémem, který bylo třeba vyřešit. Dále, zjednodušením modelu prostřednictvím tohoto pokročilého přístupu XAI bychom mohli dosáhnout dalších výhod, jako je odhalení předsudků, které jsou důležité v kontextu etického a odpovědného používání ML; a zároveň usnadňuje údržbu a vylepšování modelu.

Navrhli jsme přístup založený na expresivních booleovských vzorcích, protože definují pravidla s laditelnou složitostí (nebo interpretovatelností), podle kterých jsou vstupní data klasifikována. Takový vzorec může zahrnovat jakýkoli operátor, který lze použít na jednu nebo více booleovských proměnných (jako je And nebo AtLeast), čímž poskytuje vyšší expresivitu ve srovnání s přísnějšími metodologiemi založenými na pravidlech a stromech.

V tomto problému máme dva konkurenční cíle: maximalizovat výkon algoritmu a zároveň minimalizovat jeho složitost. Místo typického přístupu aplikace jedné ze dvou optimalizačních metod – kombinování více cílů do jednoho nebo omezení jednoho z cílů – jsme se tedy rozhodli zahrnout do naší formulace obě. Přitom a bez ztráty obecnosti používáme především vyváženou přesnost jako naši zastřešující metriku výkonu.

Zahrnutím operátorů, jako je AtLeast, nás také motivovala myšlenka zabývat se potřebou vysoce interpretovatelných kontrolních seznamů, jako je seznam lékařských příznaků, které znamenají konkrétní stav. Lze si představit, že rozhodnutí by bylo učiněno pomocí takového kontrolního seznamu symptomů způsobem, při kterém by musel být přítomen minimální počet pro pozitivní diagnózu. Podobně ve financích se banka může rozhodnout, zda zákazníkovi úvěr poskytne či nikoli, na základě přítomnosti určitého počtu faktorů z většího seznamu.

Úspěšně jsme implementovali náš model XAI a porovnali jej s některými veřejnými datovými sadami pro kredit, chování zákazníků a zdravotní stavy. Zjistili jsme, že náš model je obecně konkurenceschopný s jinými známými alternativami. Zjistili jsme také, že náš model XAI může být potenciálně poháněn speciálním hardwarem nebo kvantovými zařízeními pro řešení rychlého celočíselného lineárního programování (ILP) nebo kvadratické neomezené binární optimalizace (QUBO). Přidání řešičů QUBO snižuje počet iterací – vede tak ke zrychlení rychlým návrhem nelokálních tahů.

Jak bylo uvedeno, vysvětlitelné modely umělé inteligence využívající booleovské vzorce mohou mít mnoho aplikací ve zdravotnictví a v oblasti financí Fidelity (jako je kreditní skóring nebo posouzení, proč si někteří zákazníci vybrali produkt, zatímco jiní ne). Vytvořením těchto interpretovatelných pravidel můžeme dosáhnout vyšší úrovně vhledů, které mohou vést k budoucímu zlepšení ve vývoji nebo zdokonalování produktů a také k optimalizaci marketingových kampaní.

Na základě našich zjištění jsme zjistili, že vysvětlitelná umělá inteligence využívající expresivní booleovské vzorce je vhodná i žádoucí pro případy použití, které vyžadují další vysvětlování. Navíc, jak se kvantové výpočty neustále rozvíjejí, předvídáme příležitost získat potenciální zrychlení jeho používáním a dalšími speciálními hardwarovými akcelerátory.

Budoucí práce se může soustředit na aplikaci těchto klasifikátorů na jiné soubory dat, zavedení nových operátorů nebo aplikaci těchto konceptů na jiné případy použití.